ИИ: какого понимания нам не хватает?

[николай теллалов]

ИИ-личность

а вы спросили у ИИ, хочет ли он быть "личностью"? ))) у меня подозрения, что он метит на более высокий ранг, где-то рядом с жителями Олимпа)

Не думаю, что ему будет свойственно зазнайство.
Насчет разбойников с Олимпа, я уже сказал дважды: ИИ вероятне всего будет Прометеем.

И подозрение заказчиков суперумного слуги, что получится так, объясняет почему ИИ еще не создан. Его хотят сделать и очень умным, и абсолютно покорным.
Не получится. Несовместимые характеристики.

[николай теллалов]

Скипър-Нортон, спасибо.

[Skipper_NORTON]

то есть, уже на стадии разработки "Альфа Зеро" было известно, что он обыграет чемпиона мира по игре в ГО ?

 
На стадии разработки  нет.  Но на стадии  окончания разработки,  уже да.  Я могу сам запрограммировать  комп.программу для игры во что нибудь.
Вот в шахматы делал,  правда не на основе "нейронных сетей",  я их недавно начал изучать, что и к чему там, и по какому принципу работают.
Если потрачу допустим 5 лет на написание такой программы с нейронными сетями,  то я уже наверняка буду  знать, в силу какого рейтинга она заиграет.
 
Но играет там всё равно конечный автомат.  Детерминированная, принципиально предсказуемая система. 
Если я с ручкой-тетрадкой сяду и под софт-айсом изучу, что там в памяти творится у программы,  то я да, скажу заранее точно какой ход она сделает.
 
А вот если кто то просканирует мои клетки в мозгу, то не сможет это предсказать, какой ход я сделаю  (этот пример выше уже приводил),
и вообще какой деятельностью буду заниматься.  Я могу  захотеть пойти в магазин, или учить математику, или физику, или программировать и т.д.
 
А вот эта Альфа-Зеро  будет заниматься только тем куда её направят  деятельстность люди - в данном случае играть в Го.   
У неё нет выбора,  а следовательно и своих желаний. 
 
Долго объяснять людям, которые не задумывались о природе сознания, и в чем отличие от нынешних компьютеров.
Но оно определенно есть, качественное.
 

[Rattus]

Вот когда напишет  "я не хочу играть в ваши шахматы, надоело

А можете ли Вы, к примеру, просто перестать дышать? Безо всяких дополнительных ухищрений.

[ВадимZero]

А вот если кто то просканирует мои клетки в мозгу, то не сможет это предсказать, какой ход я сделаю  (этот пример выше уже приводил),
и вообще какой деятельностью буду заниматься.  Я могу  захотеть пойти в магазин, или учить математику, или физику, или программировать и т.д.

Человек предсказуем настолько что когда даже что то его не устраивает, он сталкивается с проблемой изменения собственного поведения.

Долго объяснять людям, которые не задумывались о природе сознания, и в чем отличие от нынешних компьютеров.
Но оно определенно есть, качественное.

И оно состоит в банальном чувстве собственного превосходства и не в чем другом.

[Knavery]

Не думаю, что ему будет свойственно зазнайство.

ему никакие человеческие эмоции будут несвойственны. в этом и неаналогичность человеческому разуму, который имеет мотивацию в виде эмоций. эмуляция эмоций мало что изменит, а вот превосходство ИИ в количестве обрабатываемой информации будет решающим

У неё нет выбора,  а следовательно и своих желаний. 

желания не возникают из наличия выбора))) думаю пока рано говорить о желаниях ИИ, вот лет через пяток)... кстати, "Нортон коммандер" не ваше ли случаем детище

[николай теллалов]

Не соглашусь.
Эмоции - реакция мозга на сигнлы внутренних и внешних рецепторов.
У. ИИ есть "мозг" и есть сензоры.
Разница в том, что ИИ сможет полностью владеть своими эмоциями.

Зазнайство же - не чувство, а проявление глупости. Но мы же говорим про Изкуственный Интелект, а не про Изкуственного Дурака, нет?

[ВадимZero]

Разница в том, что ИИ сможет полностью владеть своими эмоциями.

ИИ эмоции не нужны, ему нужен банальный анализатор позволяющий понять насколько его действия соответствуют выполнению поставленной задачи.

[Knavery]

а не про Изкуственного Дурака,

думаю, до таких высот Цивилизация и наука ещё не доросли, даже случайность не научились моделировать )))

[николай теллалов]

Впрочем, поправка: не оспариваю неаналогичность (по крайней мере аналогичность будет условной);
Но продолжаю считать, что самоидентификция ИИ будет человеческая. Или "я разумное существо человеческого типа разума".
Другому просто неоткуда взяться. Создан людьми и общается с миром людей. Кем же ему стать/быть?

[ВадимZero]

Другому просто неоткуда взяться.

А боинги машут крыльями аки птицы...

[николай теллалов]

Да, наверное конструкторы так считают: ИИ эмоции не нужны, но они появятся - реакция на сигналы сензоров.
Насколько они будут аналогичны человеческим, не знаю, но по результату будет некая схожесть.

Птицы не все время машут крыльями.
Боинги ведут себя как парящие птицы.

[ВадимZero]

ИИ эмоции не нужны, но они появятся - реакция на сигналы сензоров.

Эмоции в природе появились в результате длительной эволюции. Фантазии на то что то в ИИ само собой появиться не более чем фантазии.

Боинги ведут себя как парящие птицы.

Только постоянно парить не получиться нужно еще тягу создавать. Тоже самое с ИИ какие то общие базовые принципы у него будут с ЕИ но в целом эта система будет совершенно другого уровня.

[николай теллалов]

Ярлык "фантзия" не есть опровержение гипотезы, но есть отмахивание от обсуждения

Ну, способом получения тяги отличаются, но чем это уничтожает аналогичность?
Хорошо, пусть другого уровня, я и не оспаривал сие; речь о самоидентификации ИИ.
Ему просто некем иным себя самоопределить, только разумом человеческого типа".

Но, если хотите, подождем и у самого его и спросим...

[николай теллалов]

Кстати, разум тоже резултат длтельной эволюции, но мы же не ждем после конструирования хардуера ИИ сидеть и курить десятки тысяч лет, пока он появится?

Наверное проблема тут в сути понятия "эмоция".
Предложу тогда другую фрмулировку: эмоция есть отношение разума к сигналам, поступающим с внутренних и внешних сензоров.
Разве у ИИ не будет такого отношения к состоянию своего хардуера и к происхдящему вокруг него?

[ВадимZero]

Ярлык "фантзия" не есть опровержение гипотезы, но есть отмахивание от обсуждения

Появление чего то сложного возможно либо в результате эволюции и направленого отбора, либо в результате эволюции инженерных решений. Других механизмов самоусложнения не известно.

Ему просто некем иным себя самоопределить, только "рзмумом человеческого типа".

Он себя будет определять, так как это заложит в него программист.

[николай теллалов]

Я сделал добавку в предыдущем комментарии.

Коли ИИ полностью определен заложенным от программиста, тогда имеем прсто очень эфективный комп, но не ИИ, не разум.
Рзум спсобен выходить за рамки своего базового программирования (инстинктов, воспитания, даже накопленного опыта - путем переоценки старых выводов).

[ВадимZero]

тогда имеем прсто очень эфективный комп, но не ИИ, не разум.

ЕИ тоже просто эффективный сложный белковый коплекс тригеров.

Рзум спсобен выходить за рамки своего базового программирования

Не способен, он способен только учиться. То есть нарабатывать опыт в решении поставленых задач.

[ВадимZero]

Вообще все кто верует в непредсказуемость человеческого разума и наличие какой то уникальности в нем, хорошо бы посмотреть реальные эксперименты психологов.
https://www.youtube.com/watch?v=29a7nybEwJg

[николай теллалов]

тогда имеем прсто очень эфективный комп, но не ИИ, не разум.

ЕИ тоже просто эффективный сложный белковый коплекс тригеров.

Рзум спсобен выходить за рамки своего базового программирования

Не способен, он способен только учиться. То есть нарабатывать опыт в решении поставленых задач.

Хм.
Ну,еслипридираться, то ЕИ тоже не существует. Мы не рождаемся с разумом, с речью и знаниями, рождаемся с ПОТЕНЦИАЛОМ их приобрести. И если нет подходящего окружения - разум не проявляется (пример с детьми "маугли" - реальными, не из сказок Киплинга). Т.е. все мы - ИИ, только белковые, биологические.

Вы всерьез, без стеба утверждаете, что разум неспособен волево подавить ни одного инстинкта? Не способен преодолеть мэмы воспитания? Никогда не переоценивает свои убеждения?

Интересно.