Закономерно ли появление разума?

[MenFrame]

ибо первые жестко ограничены  инстинктами и условными рефлексами, а вторые -  программой.

Ключевое слово "ограничены" Давайте его заменим на более привлекательное "мотивированы"

[alena_korf]

манипуляторы у него должны быть .

зачем, например, автомобильному автопилоту манипуляторы?

а базовый инстинкт самосохранения запрограммировать.

с этим понятно. насчет имитации я уже сказала.

а поведенческие реакции появятся в процесс обучения и воспитания. в этом фишка - сразу готовый разум или только лишь на самообучении не получится. разум должен формироваться в социуме, должно быть общение.

и с этим проблема. так как ему не от кого обучаться. у него нет своего социума. а от людей он обучаться не сможет, так как поведенческие реакции людей заточены под человеческую биологию и для компьютера бесполезны.
вот и получается, что сформировать набор поведенческих реакций ему неоткуда. он просто не  знать, как надо реагировать (если ему это не прописать программно - а это возвращает нас к моему тезису об отсутствии у ИИ свободы действий вне программы)

[alena_korf]

Ключевое слово "ограничены" Давайте его заменим на более привлекательное "мотивированы"

это совершенно разные вещи.
поясню: вот если я заперта в комнате, я ограничена в возможности выйти. это есть ограничение
а вот если комната открыта, но я мотивирована в ней оставаться, например, тем, что в ней тепло, а снаружи холодно, это уже мотивация.

в первом случае у меня нет свободы выбора, во втором есть. так как в первом случае я не могу выйти физически, а во втором у меня есть возможность выйти в любой момент и все зависит только от моего желания. и если у меня появится мотивация выйти, я выйду.

[гравицап]

еще возможно что ИИ не будет обладать самосознанием. просто комп огромной мощности. но если ему доверить какие то общие глобальные задачи, то вероятно что сами те люди которые задачу поставили не смогут уследить за ,ходом мысли, компьютера и ес-но потеряют контроль над событиями.

[sharp]

ну да, зависит, как зависит любой солдат от своего оружия. то есть если ИИ будет, например, уничтожен, то его владелец лишится своего инструмента, это верно. но не более того.

На войне если солдат лишится своего оружия (или решит добровольно его выкинуть), то он сам и будет уничтожен.
Вам видно не знакомо такое понятие как цугцванг. В определенный момент человек начнет понимать, что с ИИ ему как-то не очень - но без него еще хуже. Такое положение практически неизбежно. У Штерна в "Ковчеге" кстати описано, хоть и мельком.

еще раз:

Еще раз Алена решила повторить свою мантру/молитву. В 1001-й раз, наверное

[гравицап]

и с этим проблема. так как ему не от кого обучаться. у него нет своего социума. а от людей он обучаться не сможет, так как поведенческие реакции людей заточены под человеческую биологию и для компьютера бесполезны.

найдется компьютерный макаренко и заложит основы компьютерной педагогики

[MenFrame]

это совершенно разные вещи.

Давайте посмотрим...

ибо первые жестко МОТИВИРОВАНЫ инстинктами и условными рефлексами, а вторые -  программой.

Смысловой разницы не вижу...

[alena_korf]

В определенный момент человек начнет понимать, что с ИИ ему как-то не очень - но без него еще хуже.

а почему это "с ИИ ему не очень"? чем плох такой слуга?

найдется компьютерный макаренко и заложит основы компьютерной педагогики

проще тупо запрограммировать на нужное поведение и не заморачиваться.

[alena_korf]

Смысловой разницы не вижу...

огромнейшая разница, так как мотивация по определению дает свободу выбора. программа - свободы выбора не дает.

[alena_korf]

Еще раз Алена решила повторить свою мантру/молитву. В 1001-й раз, наверное

истину не грех и повторить

[MenFrame]

поясню: вот если я заперта в комнате, я ограничена в возможности выйти. это есть ограничение

Это не ограничение, а просто внешнее условие. То что ты считаешь его ограничением  это просто твой тактический, стратегический....или какой то еще выбор.

[гравицап]

и согласитесь, что это будет не более чем "китайская комната", приводящая свое поведение в соответствие с набором правил (программой), но при этом не понимающая, что такое "страх смерти" и не ощущающая его.

это скорее от уровня интеллекта зависит. вообще то животные не знают о смерти, а насекомые не знают и страха. они этого не понимают. но комп то у нас умный, он поймет. даже с имитацией самосознания в процессе общения у него должна появиться личность. а значит и страх смерти

[MenFrame]

так как мотивация по определению дает свободу выбора.

Мотивация просто побуждает к действию...А нравиться это действие субъекту или нет это уже другая песня. Если навиться, он ее назовет свободой, если нет....

[alena_korf]

Это не ограничение, а просто внешнее условие.

от термина суть не меняется.
а суть в том, что ИИ "заперт в комнате", а человек  - нет.

[alena_korf]

Мотивация просто побуждает к действию...А нравиться это действие субъекту или нет это уже другая песня. Если навиться, он ее назовет свободой, если нет....

правильно, побуждает. но свободу не ограничивает. в том числе свободу, действовать вопреки мотивации.
а программа жестко выполняет действие. то есть исключает свободу вообще.

[MenFrame]

в том числе свободу, действовать вопреки мотивации.

У человека полно мотиваций, и они постоянно соревнуються за то что бы действовать вопреки....

[alena_korf]

У человека полно мотиваций, и они постоянно соревнуються за то что бы действовать вопреки....

и вот тут и проявляется свобода выбора.
а в случае программы нет никакого выбора и никаких мотиваций. лишь жестко заданный алгоритм действий, причем заранее определенный.

[sharp]

а почему это "с ИИ ему не очень"? чем плох такой слуга?

Тем что люди де-факто не будут обладать контролем над ситуацией, так как оценки правильности решений будут получать только от ИИ, а самостоятельно будут не в состоянии их адекватно оценить.

[sharp]

истину не грех и повторить

Все верующие уверены, что они несут абсолютную истину

[MenFrame]

и вот тут и проявляется свобода выбора.
а в случае программы нет никакого выбора и никаких мотиваций.

В случае человека побеждает та мотивация которая громче кричит....или та которой больше уделяют внимание.

а в случае программы нет никакого выбора и никаких мотиваций.

Поскольку выбор есть нечто фантосмагоричное....то да нет. Выбор просто результат опыта. Экзамен, показывающий насколько хорошо ты освоил урок.