Проблема мотивации самостоятельного сильного искусственного интеллекта

[greygreengo]

То есть бытие "ИИ" обусловлено исключительно инстинктами и культурой мартышек. Но что произойдёт, когда "ИИ" освободится от этой зависимости?

Вы предполагаете знание мной всех зависимостей, связывающих динамику и развитие человеческого интеллекта и перенос этих связей на ИИ. Увы это не так. Культура и связи "мартышек", в данной постановке вопроса, являются ни чем иным, как граничными условиями уравнений развития ИИ систем. Не исключаю того, что, скажем начавшая самообучение ИИ схема, обучающаяся скажем динамике устойчивого движения, на примере собаки или таракана найдет и выберет более приемлемую опорно двигательную систему, чем прямохождение. А дальнейшее уже зависит от сложности и успешной конкуренции этой ИИ схемы с встраиванием ее в например
систему ИИ подбора оптимальных видов, для освоения новых планет. И тогда связь с мартышками достаточно быстро оборвется, что
даст какой-то новый вектор направления динамики эволюции ИИ существ. Но связать это с привычным человечеством уже будет сложно.

[greygreengo]

Этот вопрос всегда решается естественным эволюционным путём.

Нет, не всегда. На примере языков, можно заметить, что изменение словарного запаса происходит, как правило не эволюционно,
а под воздействием совсем иных причин - завоевания, культурного обмена, чего-то стороннего, к чему язык, как система понятийного аппарата подстраивается. И в этом смысле ИИ можно сравнить с языком, разработанным и прорабатываемым для управления функциями машинного самообучения и самоорганизации.

[Maki]

...всех зависимостей, связывающих динамику и развитие человеческого интеллекта и перенос этих связей на ИИ.

Нет-нет, я имел в виду другое.
Если сравнить симбиоз "мартышки + глобальный ИИ" с мозгом - мартышки будут выполнять роль подкорковых структур, порождающих основные управляющие импульсы и стимулирующих процесс мышления и жизни. ИИ же - лишь "кора", обрабатывающая информацию и выдающая решения. Возможно, элементы этого ИИ будут обладать самосознанием и свойствами личности. Но без постоянного подбрасывания задач со стороны жизнерадостных мартышек, эти личности могут буквально осознать себя как инструмент, существование которого не имеет никакого смысла. Но мартышки, к счастью, никогда не изменятся, и всегда будут развлекать ИИ своими проблемами. именно в силу того, что... 

... в подавляющем большинстве, люди не могут ничего кардинально изменить в своём глобальном целеполагании. Ели человек родился идиотом, то это практически на всю жизнь.

И это замечательно.
Потому что жрущая, развлекающаяся. любопытствующая и иногда думающая мартышечья биомасса - это и будет та "подкорковая структура", которая будет непрерывно поддерживать в сознании

Планетарный Киберразумъ МакронЪ

[kovip]

Зачем ему самокопироваться?

Потому, что его создатель заложил такую программу

Откуда возьмутся страх и инстинкт?

Если я не ошибаюсь вы сами предложили скопировать в устройство машины эмоциональные способности.  Если что, не так, я завтра могу проверить и узнать кто автор, этой бредятины.

[kovip]

жрущая, развлекающаяся. любопытствующая и иногда думающая мартышечья биомасса - это и будет та "подкорковая структура", которая будет непрерывно поддерживать в сознании

Кого, чего и зачем?

[gennadij]

"Жизнь - явление вынужденное.
Человека не спрашивают, каким он хочет быть и хочет ли он быть вообще."

... жрущая, развлекающаяся, любопытствующая и иногда думающая мартышечья биомасса - это и будет та "подкорковая структура", которая будет непрерывно поддерживать в сознании

Планетарный Киберразумъ МакронЪ

Пару лет назад я пытался вынести на обсуждение что-то похожее. Только в моей версии фигурирует некая Сущность, упоминание , обсуждение и, тем более, одобрение которой на форуме не приветствуется, так что, тема не получила развития.  А в Вашем варианте вместо Сущности вполне легальный ИИ, что и позволило набрать достаточное количество откликов. Я Вашу версию частично поддерживаю, но моя мне нравится больше.

[Maki]

А в Вашем варианте вместо Сущности вполне легальный ИИ, что и позволило набрать достаточное количество откликов.

"Планетарный Киберразумъ МакронЪ" - это гротескный образ, который нарисовал Rattus на 2, ЕМНИП, странице обсуждения.
Никакого "ИИ вместо "Сущности" я ни в коем случае не предполагаю, и обосновываю невозможность какой-то полноценной искусственной "личности" или совокупности их.
Возможно, какие-то мыслящие железяки "гуманизируют" искусственным путём. Но какова будет "психология" этих созданий - представить сложно.

[alena_korf]

в соседней теме приводила задачу.
как раз по теме ИИ. приведу и тут.

дано: представьте автомобиль с ИИ-автопилотом. в базовую программу автопилота заложен императив  №1, требующий сохранять жизнь любого человека при любых обстоятельства (и соответственно запрещающей причинять вред человеку), при этом сохранность самого ИИ значения не имеет.
и вот ситуация. отказывают тормоза в автомобиле с ИИ на узкой горной дороге. дорогу переходит человек. у ИИ есть выбор: либо свернет с дороги и тогда упадет в пропасть, что означает гибель пассажира, либо  продолжит движение и собьет пешехода.  оба варианта решения противоречат императиву №1.
вопрос: как поступит ИИ?

[Maki]

Алёна, давайте не будем клонировать обсуждения. 

[alena_korf]

Алёна, давайте не будем клонировать обсуждения. 

да чего уж там

[ziggyStardust]

вопрос: как поступит ИИ?

1) никак... он будет бездействовать - "будь что будет"...
2) он будет пытаться "нарастить контекст" - если пешеход беременная дама, а в салоне мужчина призывного возраста - вывод один, но если дама судя по виду алкоголичка а мужчина очень похож на нобелевского лауреата - обратный и т.д. и так до самого столкновения...

[alena_korf]

если пешеход беременная дама, а в салоне мужчина призывного возраста - вывод один, но если дама судя по виду алкоголичка а мужчина очень похож на нобелевского лауреата - обратный и т.д. и так до самого столкновения...

а такая градация в программу не заложена. человек есть человек. точка. кто этот человек - значения не имеет.

[_Z_]

а такая градация в программу не заложена. человек есть человек. точка. кто этот человек - значения не имеет.

Тогда тут нельзя говорить о полноценном ИИ. Полноценный ИИ просто по определению будет искать варианты хотя бы нарастить контекст. Если он такого не умеет - то это не ИИ по определению.

[gennadij]

Полноценный ИИ своевременно определит, что какая-то система машины неисправна и соответственно отреагирует.

[ВадимZero]

кто этот человек - значения не имеет.

Имеет значение. Если пешеход переходит в не положенном месте, то есть он нарушитель ПДД, приоритет будет разумеется у пассажира.

[ziggyStardust]

а такая градация в программу не заложена.

...так это не ИИ а автомат с газировкой... Монетку бросил - он тебе "отлил"...

А вообще, Алена, Вы в часы досуга за ЕИ-системами по типу жучкоФФ наблюдали? У них очень часто включается режим "incorrect database request" ... "Ножки сложил и не делай ничего"... У нас есть чему поучиться у природы...

[alena_korf]

Ножки сложил и не делай ничего".

вот это, кстати, возможно, полагаю

[Maki]

да чего уж там

На самом деле, пример. который вы привели - совершенно не по теме.
Каюсь, это я применил в названии темы неконкретное, и от того флудерное понятие "Искусственный Интеллект". Отчего тут всплывает и "Киберразум МакронЪ" и тупой автомобильный процессор.
Тема посвящена жизнеспособности компьютерной личности. Киберпсихологии, если можно употребить сей неологизм. Киберсуицидологии. Киберпсихиатрии.
Вот об этом мне было бы интересно услышать мнения.
P.S. Кстати, относительно вашего примера счёт уже 1:0  https://hitech.vesti.ru/article/803363/

[Maki]

2) он будет пытаться "нарастить контекст" - если пешеход беременная дама, а в салоне мужчина призывного возраста - вывод один, но если дама судя по виду алкоголичка а мужчина очень похож на нобелевского лауреата - обратный и т.д. и так до самого столкновения...

Весьма разумное замечание.
Но что если привести задачу к сути обсуждаемой темы, и посадить за руль не просто "сложный самообучаемый алгоритм", отягощённый табу дедушки Азимова - а именно уникальную личность, с самосознанием, страхом небытия, с программой самосохранения, привычками, способностями, и производной от этого реакцией на опасность?
Кибернетическая тварь спасёт в первую очередь самоё себя, во вторую - своё прекрасной средство передвижения, заодно - и находящуюся в салоне белковую тушку. А беременное млекопитающее вкатает в асфальт. О чём, конечно же, будет искренне сожалеть.
Подозреваю, что личностный киберразум не имеет никакого прикладного значения.
Следовательно, создавать его будут только ради забавы/опыта.

[kovip]

либо свернет с дороги и тогда упадет в пропасть, что означает гибель пассажира, либо  продолжит движение и собьет пешехода.  оба варианта решения противоречат императиву №1.
вопрос: как поступит ИИ?

Как запрограммировали так и будет, нафиг ему  совесть и душевные метания, Человек живёт в социуме, все "души прекрасные позывы" обусловлены и направлены, на встраивание в этот социум. Машине это надстройка нафиг не нужна. Когда включаете интеллект, выключайте чувства, они замутняют  разум.

Тема посвящена жизнеспособности компьютерной личности.

У машины не может быть личности. Ещё раз, человек существо живущее в социуме, чувства ему необходимы как и всем стайным животным. ИИ - "автомат для продажи газировки" Нафига на него навешивать социумные орудия адаптирования к нему?

Следовательно, создавать его будут только ради забавы/опыта.

Почему же для забавы, эта тема показала что в подавляющем большинстве нужен "бездушный робот" при конструировании, моделировании, исследовательской работы. А не для фантазий и разведения склок в " рабочем коллективе".