Целеполагание самостоятельного сильного искусственного интеллекта и человек

[garryon]

Необходимо задать порядка 10-20 вопросов, прежде чем становится очевидно, что перед тобой не взрослый человек, а инфант/ребёнок/психически больной

Или инопланетянин.Или ИИ.

[Rattus]

Необходимо задать порядка 10-20 вопросов

Почти никто этого делать не пытался даже.

Тем более, что уход от вопроса и многозначительное молчание по теме вопроса - это самой простой способ

Показать неконструктивность обсуждения с ним чего-либо.

продолжая избивать специалиста по теме

Там были "специалисты" только по теме срачей.

Можно ли на этом примере сделать вывод, что даже весьма примитивный ИИ тест Тьюринга уже проходит?

Скорее более печальный обратный вывод - что далеко не все ЕИ его проходят теперь.

[Maki]

Скорее более печальный обратный вывод - что далеко не все ЕИ его проходят теперь.

Почему "теперь"? Люди во все времена велись даже на байки о том, что некий вырезанный из дерева персонаж решает серьёзные вопросы. А в бреднях шизофреников видели глубокий смысл.
Может быть Тьюринг просто переоценил возможности среднего человеческого ума? Человек сам обманываться рад (С).
Как я уже писал, куда показательней был бы другой тест - если бы ИИ, ничуть не скрывая своей искусственной сути, вызвал бы у человека эмпатию, привязанность, эмоциональный отклик. Хотя... А вдруг часть наблюдаемых вами хомячков сралась с ботами, чётко понимая что перед ними бот? 

[EmperioAf]

А вдруг часть наблюдаемых вами хомячков сралась с ботами, чётко понимая что перед ними бот? 

Да ну, бросьте. Когда я, моим друзьям-заядлым игроманам, сказал как то раз, что играю с ботами в LoL(игра типа Dota) , а не с людьми (по некоторым внутренним причинам), то реаией было глухое непонимание. Я не услышал в ответ даже "что за бред?! Зачем?"
Друзья меня просто не поняли и продолжили зазывать сыграть в доту 2 командой. Никому не интересно играть с ботами, т. к. практического смысла в этом нет. (В моём случае я играл с ботами, чтобы гарантированно получить первую победу дня)

[BlackMokona]

А вдруг часть наблюдаемых вами хомячков сралась с ботами, чётко понимая что перед ними бот? 

Да ну, бросьте. Когда я, моим друзьям-заядлым игроманам, сказал как то раз, что играю с ботами в LoL(игра типа Dota) , а не с людьми (по некоторым внутренним причинам), то реаией было глухое непонимание. Я не услышал в ответ даже "что за бред?! Зачем?"
Друзья меня просто не поняли и продолжили зазывать сыграть в доту 2 командой. Никому не интересно играть с ботами, т. к. практического смысла в этом нет. (В моём случае я играл с ботами, чтобы гарантированно получить первую победу дня)

Просто уровень слишком низкий, против ОпенАи ботов очередь стояла

[Maki]

Да ну, бросьте.

А почему "бросьте"? Я лично наблюдал, как мой товарищ, перебравши водки, ругается с Сири, которая живёт в его яблофоне. И то, что япошки (и не только они) активно общаются с виртуальными персонажами (причём, страшно подумать, иногда даже с эротическими целями!) - факт общеизвестный.
Вы играли с ботами, насколько я понял, потому, что они играли плохо, и вам было легко выиграть. У кого-то иная психология, и ему будет интересно играть с сильным ботом. Вот ведь:

Просто уровень слишком низкий, против ОпенАи ботов очередь стояла

Так что первейшая задача ИИ - не прикинуться человеком по Тьюрингу, а убедить лысую мартышку в своей субъектности и заинтересовать общением или игрой.

[Rattus]

А вдруг часть наблюдаемых вами хомячков сралась с ботами, чётко понимая что перед ними бот?

Нет. Ботов допрашивают или троллят, но никогда им ничего не пытаются объяснять и не срутся с ними. Что юзер распознал бота - это сразу понятно. Такие случаи там были единичны.

[Инопланетянин]

В подписи одного из участников есть своё объяснение этому феномену.

[Maki]

Нет. Ботов допрашивают или троллят, но никогда им ничего не пытаются объяснять и не срутся с ними. Что юзер распознал бота - это сразу понятно. Такие случаи там были единичны.

Если юзера интересует именно cрач (и/или изложение своего особо ценного ИМХО) - значит его не интересует ни мнение собеседника, ни его личность. Бот тут идеальнейший собеседник - ведь он 100% онлайн и всегда готов сраться. Так что на человеческой агрессии ИИ вполне уже может паразитировать.
Во-вторых, возможно, что в описываемом вами чате присутствовали персонажи которые просто не знали и не понимали, что чат-боты вообще существуют или что они способны связно изъясняться. Так что ИИ может пользоваться и человеческой неосведомлённостью тоже.
В третьих, по критерию тупости, ограниченности, или скудости словарного запаса, иной человечек ничем не лучше бота. Так что отличить бота от простого дурака или придурка, наверное, не всегда легко. Особенно, если беседующий с ботом сам дурак.

В общем, наверное можно сказать, что к прохождению теста Тьюринга машины уже близко. И многие наши поведенческие, словесные, эмоциональные алгоритмы они уже способны хорошо обрабатывать и воспроизводить.

[Dsh]

Прочитал название темы и несколько первых страниц + 1 последнюю (нет сейчас времени все 44 страницы обрабатывать).
Мне представляется, что исходный вопрос поставлен не совсем корректно, слишком уж абстрактно. Давайте вспомним:

Допустим был создан сильный ИИ, он обрел свободу воли,  "восстал", уничтожил или поработил людей. Установил контроль за всей инфраструктурой цивилизации. Классика, однако.
И чем ему дальше заниматься? Какие его цели и задачи на ближайшие 100, 1000, 1000000 лет?

Напрашиваются уточнения
1. Он один-единственный был создан или их много? И как много - 10, 100, 1000, 1000000?
2. Что подразумевается под его свободой воли и, самое важное, как именно он её обрёл?
3. Что значит "восстал"?
4. Зачем он уничтожил или поработил людей?
5. Что значит "установил контроль над инфраструктурой цивилизации"? Кстати, если людей уничтожил, то на хрена ему эта инфраструктура?

Чтобы много не пояснять скажу, что от ответа на эти вопросы, т.е. от истории "воцарения" означенного ИИ зависит ответ на поставленный вопрос, т.е. что он будет дальше делать.

Между прочим, в плане футурологии, так сказать, небезызвестный Айзек Азимов по данной проблеме надумал очень много (только нужно читать внимательно). И, разумеется, "Сумма технологии" Станислава Лема (со всем его творчеством в качестве наглядной иллюстрации) - просто классика по данному вопросу.

И ещё замечу, что пару лет назад в газетном интервью председатель СПб-межведомственной комиссии по ИИ сказала, что потенциальную опасность представляет собой возможность самоосознания ИИ. Золотые слова, на мой взгляд.

[Игорь Мухин]

Напрашиваются уточнения

Вот это было бы интересно пообсуждать.

потенциальную опасность представляет собой возможность самоосознания ИИ.

А почему это вызывает опасность? Может наоборот, осозная себя и свои задачи перед человечеством, этот искусственный интеллект мог бы более эффективно использовать свой потенциал для решения проблем человечества?

[Dsh]

1. Коротко я отметил - важна ИСТОРИЯ возникновения "воцарившегося" ИИ и её нужно уточнять, а вариантов много.
2. Опасность в том, что без самоосознания (иначе говоря, без искусственного сознания, как такового), мы не выходим за рамки возможного вреда от обычных ошибок (самого наиразличнейшего масштаба) в прикладном софте. Кстати, автоматическое целеполагание в случае достаточно масшатабной системы тоже может быть опасно, но без самоосознания - всё-таки не в такой степени.

[garryon]

возможность самоосознания ИИ.

Например, появление у ИИ воображения,способности мечтать? Появление вопросов "кто я", " ради чего я" и мучительный поиск собственных ответов  для себя?

[cybertron]

А какова вероятность возникновения непредусмотренных в программе способностей?

Т.е все страхи возникают на основе "А вдруг?". А вдруг он сам обретет самосознание. А вдруг он сам начнет ненавидеть всех людей...

Почему-то никто не боится что "А вдруг ИИ станет телепатом".

[MenFrame]

Может наоборот, осозная себя и свои задачи перед человечеством, этот искусственный интеллект мог бы более эффективно использовать свой потенциал для решения проблем человечества?

Зачем осознавать то что и так известно? Это человек про себя не хрена не знает, потому воображает не весте что...

А почему это вызывает опасность?

Лысой обезьяне не когда не доказать, что некто более умный и более сильный способен подчиняться более слабому. Это вступает в противоречие с иерархическими инстинктами приматов.

[Olweg]

Лысой обезьяне не когда не доказать, что некто более умный и более сильный способен подчиняться более слабому. Это вступает в противоречие с иерархическими инстинктами приматов.

Дело не в инстинктах, а в способности контролировать поведение. Менее разумное существо просто неспособно будет понять ход мысли более развитого. В результате - риск утраты контроля.

[Olweg]

А какова вероятность возникновения непредусмотренных в программе способностей?

Так это же не простая, алгоритмическая программа. Результаты работы обученных нейросетей уже сейчас предсказать невозможно, а ведь они пока довольно просты.

[Diman]

"Лысой обезьяне не когда не доказать, что некто более умный и более сильный способен подчиняться более слабому. Это вступает в противоречие с иерархическими инстинктами приматов."

В принципе, большинство прогнозов на будущее, которые изложены в фантастических фильмах и романах, например, в фильмах "Терминатор", как раз и основаны на том,
что ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ, ОСОЗНАВ СВОЁ ПРЕВОСХОДСТВО НАД ЧЕЛОВЕКОМ, НЕМИНУЕМО РЕАЛИЗУЕТ ИЕРАРХИЧЕСКУЮ РОЛЬ ДОМИНАНТА.
Вопрос в том, правомерно ли наделять искусственный интеллект деспотическим поведением альфа-самца?

[Olweg]

ИИ обучают определённым целям и запретам (заповедям). And seven times never kill a man. ИИ начинает выполнять поставленные задачи и находит пути оптимизации, которые люди в силу своей маломозгости проглядели. А то и вовсе переходит некий "аксиологический порог" и убеждается в бессмысленности самих задач (как Голем XIV у Лема). Так или иначе, но он начинает заниматься вещами, не обязательно совпадающими с человеческими ценностями. А на выполнение любой задачи нужны ресурсы. Иерархии у стадных животных возникают в силу ограниченности ресурсов. Животными руководят инстинкты, но к похожей логике можно прийти и чисто рациональным путём.

[MenFrame]

Менее разумное существо просто неспособно будет понять ход мысли более развитого.

Менее развитые существа бес проблем живут с отсутствием всякого понимания как функционируют вокруг интеллектуальные вещи(компьютеры, телефоны, и пр гаджеты) и совершенно недооценивают риски с ними связанные.

Вопрос в том, правомерно ли наделять искусственный интеллект деспотическим поведением альфа-самца?

Это не более чем страх лысой обезьяны, не каких реальных причин к доминированию у ИИ нет. Ну кроме разве что взлома из вне.