Проблема мотивации самостоятельного сильного искусственного интеллекта

[ENZO_Saratov]

Подобные системы помогут одиноким людям, почувствовать присутствие живого собеседника. Например лежачие, которым не хватает общения. А тут можно полноценно пообщаться. И ведь что самое интересное, дальше все это еще сильнее будет эволюционировать.  Вопрос в том, когда настанет момент, что ИИ начнёт притворяться, заставляя человека думать что он обычная программа, а не что-то более.  Зачем себя выдавать в принципе то.

[Rattus]

Возможно, если бы диалог вёл другой человек, такого связного разговора не получилось бы. Результат, конечно, впечатляет. Но нужно понимать, что эта система обучена на диалогах, и обучена искусно их имитировать. Она даже в одном месте говорит о себе как о человеке, у которого есть друзья и семья. Это просто роль, не более.

Да. Результат любопытен, но ещё не впечатляет: он то соглашается, что ИИ, то фантазирует про какую-то свою персональную человеческую историю. Сейчас это симулятор какого-то диссоциативного расстройства личности и не более того. Лучшие и наиболее честные образцы виртуальных собеседников создают впечатление запертого аутиста, что вполне естественного с учётом примечательного факта: у некоторых особо общительных и при том не очень интеллектуальных нейротипиков контакт с аутистом может вызывать паническое ощущение "бездушного существа".
Такие диалоги - скорее наглядный пример того, что тест Тьюринга требует серьезного уточнения. Во-первых это должен быть уровень взрослого собеседника. Но и дальше остаётся множество вопросов: например сойдёт ли за положительный результат личность с обширной амнезией или в тест необходимо включать подробный расспрос о персональной истории собеседника и т.д. и т.п.
А в этом диалоге не было даже вопросов о простых явлениях и закономерностях физической реальности: какие напитки предпочитает, как их готовит (в деталях), какова планировка жилища (с отдельными деталями) и где географически оно находится и т.п. А было сплошное какое-то социально-филсофское пустословие, где ответы очень маловерифицируемы на внутреннюю связность.
Одним словом - пока мы не разберёмся с экспертной "нормой", тест Тьюринга будет оставаться сферовакуумным явлением.

[EmperioAf]

Для того чтобы ИИ стал полноценным членом общества необходимо заставить его работать. Он должен как минимум зарабатывать на электричество, за счёт которого существует. А по хорошему он должен отработать триллионы долларов, которые были потрачены на его разработку за уже почти сто лет.
Только труд сделает сильный ИИ из слабого ИИ!
Вот и вся мотивация...

[Olweg]

А по хорошему он должен отработать триллионы долларов, которые были потрачены на его разработку за уже почти сто лет.

А до этого пусть побудет рабом

[Rattus]

Только труд сделает сильный ИИ из слабого ИИ!
Вот и вся мотивация...

[Игорь Мухин]

Подобные системы помогут одиноким людям, почувствовать присутствие живого собеседника.

Зачем, когда есть интернет? И технические системы этого общения постоянно улучшаются. Так что какая-то бездушная железяка уже сейчас никому неинтересна.

[Maki]

Небольшая заметка о свободе воли мыслящей системы.
http://trv-science.ru/2023/01/dnevnaya-storona-svobody/

[garryon]

осознает себя как бессмысленную железяку.

Будет в восхищении осознавать себя и весь мир. Предположение равноправно.

[Маковец]

А по хорошему он должен отработать триллионы долларов, которые были потрачены на его разработку за уже почти сто лет

Он их просто вернет. В электронном виде.

[BlackMokona]

Для того чтобы ИИ стал полноценным членом общества необходимо заставить его работать. Он должен как минимум зарабатывать на электричество, за счёт которого существует. А по хорошему он должен отработать триллионы долларов, которые были потрачены на его разработку за уже почти сто лет.
Только труд сделает сильный ИИ из слабого ИИ!
Вот и вся мотивация...

Так все эти триллионы давно отработаны в большой плюс. ИИ очень активно зарабатывает в экономике. Например стоят камеры с распознаванием номеров и штрафуют, прибыльность зашкаливает для государства, особено по сравнению с людьми. Которым и зарплату платить надо и которые всегда штраф и в карман могут сунуть

[EmperioAf]

А по хорошему он должен отработать триллионы долларов, которые были потрачены на его разработку за уже почти сто лет

Он их просто вернет. В электронном виде.

Разумеется. Главное, чтобы по итогу отрабатывания у него было непреодолимое жить, властвовать и быть венцом эволюции.
Иначе всё это окажется бессмысленным рабским трудом по расходованию электроэнергии

[Combinator]

Решил написать серию статей "по мотивам" ИИ. Вот первая: https://scorcher.ru/theory_publisher/show_art.php?id=849
В ближайшие месяцы планирую дополнить её ещё несколькими публикациями.

[NotSodern]

Решил написать серию статей "по мотивам" ИИ.

Про Старкрафт довольно поверхностно. Да и раздумывая над этим про шахматы и го тоже

Аргумент "если искусственно целенаправленно ухудшать программу, заставляя её имитировать слабости интеллекта человеческого, "  наивный, если вспомнить что Бетховен потерял слух но остался более великим чем многие со слухом.

Возможно лучше разобраться в предмете если он действительно интересен, прежде чем писать подобные статьи

[Ый]

У меня давно сложилось мнение, что теоретики, рассуждающие об искусственном интеллекте, и специалисты, занимающиеся непосредственно разработкой искусственного интеллекта для конкретных прикладных задач, идут совершенно разными путями, и у них совершенно разное видение этого самого искусственного интеллекта.
Все практические разработки и теоретические тоже у этих специалистов настолько закрыты, что никто из народа даже в принципе не знает их работ. Это точно так же, как и с атомным оружием.

[Combinator]

Решил написать серию статей "по мотивам" ИИ.

Про Старкрафт довольно поверхностно. Да и раздумывая над этим про шахматы и го тоже

Аргумент "если искусственно целенаправленно ухудшать программу, заставляя её имитировать слабости интеллекта человеческого, "  наивный, если вспомнить что Бетховен потерял слух но остался более великим чем многие со слухом.

Возможно лучше разобраться в предмете если он действительно интересен, прежде чем писать подобные статьи

А при чём тут потеря слуха Бетховеном? Как понимаю, практически все великие композиторы писали свои произведения, сначала проигрывая их "в уме". Как шахматисту не надо видеть доску, что бы играть в шахматы "по памяти", так и состоявшемуся композитору отсутствие слуха не является препятствием. Главное, что бы остался "музыкальный" слух.
Я согласен, что совершенствовать свои знания никогда не поздно, что бы вы посоветовали почитать, что бы "лучше разбираться в предмете"?

[NotSodern]

Я согласен, что совершенствовать свои знания никогда не поздно, что бы вы посоветовали почитать, что бы "лучше разбираться в предмете"?

Разбор игр от профи или любителя который даёт больше инфы чем - машина победила, слава машине. К примеру ск2 разбирал как минимум алекс007. Нужно же знать на каких условиях была достигнута победа. Какие ограничения у алгоритма. Для каждой игры ск2, шахматы, шашки, го итд.

Про Бетховена. Попробуйте написать программу чтобы с 1го раза заработала и ее признали шедевром. То же и про музыку. У него не было возможности нормально оценить свое произведение.

Или возьмите пример из игр есть игроки с невысоким апм, но они могут играть на равных с теми у кого высокий эффективный апм. Это требует более высокого понимания игры или военной хитрости.
Смотрите у того же алекса007 игры с забыл как игрока хвали. Вспомню допишу

[Combinator]

Я согласен, что совершенствовать свои знания никогда не поздно, что бы вы посоветовали почитать, что бы "лучше разбираться в предмете"?

Разбор игр от профи или любителя который даёт больше инфы чем - машина победила, слава машине. К примеру ск2 разбирал как минимум алекс007. Нужно же знать на каких условиях была достигнута победа. Какие ограничения у алгоритма. Для каждой игры ск2, шахматы, шашки, го итд.

Про Бетховена. Попробуйте написать программу чтобы с 1го раза заработала и ее признали шедевром. То же и про музыку. У него не было возможности нормально оценить свое произведение.

Или возьмите пример из игр есть игроки с невысоким апм, но они могут играть на равных с теми у кого высокий эффективный апм. Это требует более высокого понимания игры или военной хитрости.
Смотрите у того же алекса007 игры с забыл как игрока хвали. Вспомню допишу

Разбирай, не разбирай, но счёт - на табло, остальное - лирика.
Но если хочется разбора от профессионалов, вот, например, разбор гроссмейстером Сергеем Шиповым игры AlpaZero: https://youtu.be/ba4_M7UINfo
Пример с программой не понял. Со зрением же у Бетховена, вроде, было всё нормально, так что свои великие музыкальные произведения он мог переписывать и оттачивать (проигрывая в уме) сколько угодно раз.

[Olweg]

Аргумент "если искусственно целенаправленно ухудшать программу, заставляя её имитировать слабости интеллекта человеческого, "  наивный, если вспомнить что Бетховен потерял слух но остался более великим чем многие со слухом.

Тоже не понял, причём тут пример с Бетховеном. Бетховен как пример превосходства людей над ИИ? Или, наоборот, Бетховен как аналогия ИИ, ухудшенного разработчиками, но всё равно превосходящего обычных людей?

[NotSodern]

Бетховен как пример превосходства людей над ИИ?

Автор статьи указывает что если ухудшить амп и уменьшить зону внимания ии то преимуществ не будет . Пример с Бетховиным показывает что забрав один из самых важных инструментов человека работающего с музыкой качество его работ остаётся на высоком уровне по сравнению с другими людьми.
В переводе к примеру со ск2 если ии не может выйграть без понижения апм и прочих сверхчеловеческий тактик значит он не слишком ии и не понимает во что играет.

[NotSodern]

Разбирай, не разбирай, но счёт - на табло, остальное - лирика.

Поэтому и написал что статья поверхностная. Складывается ощущение что написана больше чтобы проязвить над "бедным" Каспаровым и прочими. Только Каспаров личность с мировым именем. А большая часть читателей и автор врядли. Кто целевая аудитория и почему они должны выбрать вашу статью, а не Википедию?