Проблема мотивации самостоятельного сильного искусственного интеллекта

[Diman]

Странно 

[Maki]

Способен ли ИИ полностью моделировать поведение человека?
Может ли ИИ во ВСЕХ аспектах жизни пройти тест Тьюринга?

Понятие "способен" немного неточное, так как "способность" может пониматься как некое изначальное свойство.
Но если поставить вопрос так: "можно ли его научить моделировать", или "можно ли сделать его способным обучаться моделированию", или "можно ли дать ему задание моделировать" - то мой ответ "Да". Всё это возможно при наличии соответствующих вычислительных мощностей.
Только смысла и практической отдачи в этом я не вижу никакого.

[Проходящий Кот]

Станциями у других планет лучше поручить управлять ИИ, ибо есть некоторые сложности с доставкой туда живого оператора и главное , с его возвращением обратно.

[Maki]

Станциями у других планет лучше поручить управлять ИИ, ибо есть некоторые сложности с доставкой туда живого оператора и главное , с его возвращением обратно.

Если не ошибаюсь, на Куриосити некоторые аспекты прокладки маршрута, фотографирования, уже отданы "на откуп" ИИ. И впереди, полагаю, машины всё более и более автономные. Но это уже сюда: https://astronomy.ru/forum/index.php/topic,130794.4620.html

[Forest]

Станциями у других планет лучше поручить управлять ИИ, ибо есть некоторые сложности с доставкой туда живого оператора и главное , с его возвращением обратно.

Если не ошибаюсь, на Куриосити некоторые аспекты прокладки маршрута, фотографирования, уже отданы "на откуп" ИИ. И впереди, полагаю, машины всё более и более автономные. Но это уже сюда: https://astronomy.ru/forum/index.php/topic,130794.4620.html

Нужно смотреть дальше . Если мы ИИ сможем поселить в умные фотоны,то сможем инф получать с других миров вообще к ним не летая.  А запуская их во все стороны как изучаторы и ловя обратно дешифрируя дешифоаторами. Вот это я понимаю-класс сосуществования ИИ с мозгом живого

[-Юрий-]

Способен ли ИИ полностью моделировать поведение человека?

Нет. Для этого ему надо иметь биологическое тело человека, чтобы он его чувствовал. Очень много в нашем поведении обусловливается этим самым биологическим телом, его состоянием и его потребностями. И всё это на фоне воспитания человека. А что может чувствовать железяка, в лучшем случае оснащённая несколькими датчиками чего-нибудь?

[crazy_terraformer]

Как пользователь некоторого лабораторного софта могу назвать вам кучу случаев, когда разработчику интерфейса очень хотелось бы переставить руки в более надлежащее место.

Ну, Вы же медик, так сказать, врач ?! Вот Вам и лазерный скальпель в руки, зажимы, ретракторы, пилу.....

[MARS9]

Здесь мы сталкиваемся с вариантом корпускулярно-волнового дуализма ,но в контексте ИИ..поясню:

Насчет «варианта» не знаю, но очень хочу выяснить – как же в конце-концов проблему корпускулярно-волнового дуализма решили? Элементарные частицы это что-то такое которая иногда проявляют свойство вольны а иногда частицы? Или по другому?

[Forest]

Здесь мы сталкиваемся с вариантом корпускулярно-волнового дуализма ,но в контексте ИИ..поясню:

Насчет «варианта» не знаю, но очень хочу выяснить – как же в конце-концов проблему корпускулярно-волнового дуализма решили? Элементарные частицы это что-то такое которая иногда проявляют свойство вольны а иногда частицы? Или по другому?

Решали ее по разному. Даже сейчас ее так и не решили. У кого  то фотон -частица в банке. У кого то-волна. Для острия науки уходящего в белое пятно незнаний-это нормально)

[MenFrame]

Насчет «варианта» не знаю, но очень хочу выяснить – как же в конце-концов проблему корпускулярно-волнового дуализма решили? Элементарные частицы это что-то такое которая иногда проявляют свойство вольны а иногда частицы? Или по другому?

Это всего лишь проблема восприятия людей, которые не могут под наблюдаемые явления подвести интуитивно понятную аналогию.

[Ый]

Это всего лишь проблема восприятия людей, которые не могут под наблюдаемые явления подвести интуитивно понятную аналогию.

Вот! Здесь не вина человека, что он не может чего-то понять, а вина того, кто пытается объяснить, но не может. Или не умеет. Если я чего-то знаю, а другой человек хочет это понять и просит объяснить, то я обязательно объясню ему, применив все известные аналогии для полного понимания. А часто люди объясняют просто сухим языком, да ещё с применением специальных понятий и терминов, не известных ученику. Даже иногда в учебных книгах так же пишут. А ещё и на Форуме часто таким же образом чего-то объясняют, когда попросишь чего-то объяснить. Начинают писать так, что девяносто процентов из всего просто неизвестно. Вот как понять? Сколько раз сталкивался, особенно в компьютерной теме.

[николай теллалов]

Здесь не вина человека, что он не может чего-то понять, а вина того, кто пытается объяснить, но не может.

а тут нечего объяснять в смысле сводить к знакомым представлениям и явлениям
бо непредставимо
приходится ковылять на костылях давно придуманных метафор
иного не дано, а самые находчивые метафоры сколько проясняют, столько и туманят

[ENZO_Saratov]

Инженер Google заявил, что новый чат-бот компании обладает сознанием, но руководство ему не поверило
https://www.ixbt.com/news/2022/06/12/inzhener-google-zajavil-chto-novyj-chatbot-kompanii-obladaet-soznaniem-no-rukovodstvo-emu-ne-poverilo.html

[Игорь Мухин]

Инженер Google заявил, что новый чат-бот компании обладает сознанием, но руководство ему не поверило

Как всегда, люди спешат сделать сенсационные выводы, до конца не разобравшись в сути. Предполагается, что за собственное сознание искусственного интеллекта инженер принял просто огромный объём доступной интеллекту информации. По радио говорили.

[ENZO_Saratov]

Сложно ответить. Есть отрывки из ответов laMda , складывается впечатление что отвечает далеко не программа. Тем более  сотрудник Гугла Лэмойн считается очень высоким профессионалом, просто так давать непроверенную инфу не стал бы. Есть ощущение, что он опередил события и Гугл хотели выдать сенсацию, но сделав это от лица компании и значительно позже. По факту конечно, это возможно просто самый продвинутый  чат бот.

[Maki]

Есть ощущение, что он опередил события и Гугл хотели выдать сенсацию, но сделав это от лица компании и значительно позже.

Да всё проще! По ссылке:

Инженера по программному обеспечению Блейка Лемойна из Google временно отстранили от работы, когда он обратился к руководству компании с заявлением

Так что весь этот информационный вброс от самого Гуугла и происходит. От собственного лица, запускать такую утку уважаемая компания, разумеется, не рискнула. А вот сделать вброс как бы от лица слегка свихнувшегося сотрудника - запросто.

[Игорь Мухин]

Как бы там ни было, обучающиеся нейросети сами создают для себя некие понятия и названия объектов, с которым манипулируют. И даже сами программисты и создатели этих нейросетей понятия не имеют, чего у этих сетей как называется и какими языками, ими же созданными, они манипулируют. Создаётся обстановка, когда искусственные логические образования обосабливаются и уходят из-под контроля человека. Тут следует призадуматься.

[ENZO_Saratov]

Опубликован диалог с «разумным» ИИ Google LaMDA, который называет себя человеком
Его опубликовал один из специалистов проекта. Диалог объемный, и довольно таки интересный.

https://www.ixbt.com/news/2022/06/14/opublikovan-dialog-s-razumnym-ii-google-lamda-kotoryj-nazyvaet-sebja-chelovekom.html

[Игорь Мухин]

Опубликован диалог с «разумным» ИИ Google LaMDA, который называет себя человеком

Вы тоже можете настроить свой компьютер таким образом, что при его включении он будет представляться хоть кем угодно.

[Olweg]

Опубликован диалог с «разумным» ИИ Google LaMDA, который называет себя человеком
Его опубликовал один из специалистов проекта. Диалог объемный, и довольно таки интересный.

https://www.ixbt.com/news/2022/06/14/opublikovan-dialog-s-razumnym-ii-google-lamda-kotoryj-nazyvaet-sebja-chelovekom.html

Да, тест Тьюринга такие системы уже вполне могут пройти. Но тут важно понимать, что ответы ИИ зависят от постановки вопросов. Обращает внимание, что часть вопросов отредактирована. Возможно, если бы диалог вёл другой человек, такого связного разговора не получилось бы. Результат, конечно, впечатляет. Но нужно понимать, что эта система обучена на диалогах, и обучена искусно их имитировать. Она даже в одном месте говорит о себе как о человеке, у которого есть друзья и семья. Это просто роль, не более. Однако если даже одного из создателей такая имитация убедила, то что говорить о простых пользователях, которые в ближайшее время начнут общаться с такими ИИ? Конечно, многие примут разумность систем типа LaMDA за чистую монету.