Проблема мотивации самостоятельного сильного искусственного интеллекта

[BlackMokona]

в один момент до растёт и до сложности реального мира.

поскольку описать в формальных параметрах даже все состоания молекул в капле воды невозможно - параметров надо больше, чем атомов во Вселенной, то скорее всего может только асмптотически приближаться...

Так описать все состояния партии в ГО тоже невозможно, число выходит слишком астрономическое. Однако как то разобрался АльфаГо с этим. В Старкрафте количество состояний ещё на бешенное число порядков выше, но тоже разобрался АльфаСтар.

[Скеп-тик]

Так описать все состояния партии в ГО тоже невозможно, число выходит слишком астрономическое. Однако как то разобрался АльфаГо с этим. В Старкрафте количество состояний ещё на бешенное число порядков выше, но тоже разобрался АльфаСтар.

Но если параллельно с этими играми ваш АльфаХХ озадачить с добычей антрацита в Донбассе (со всеми перипетиями сепаратизма и национализма), и свести к пропорции с количеством руды Криворожского бассейна - программисты сначала повесятся...
Ибо мозг человека на 90% заточен на самосохранение тела и души, на что и тратит "вычислительные" ресурсы мозга. А Го и Старкрафт - так, небольшое извращение над ресурсоизбыточностью Окружающей Среды. Фальшивая борьба за существование.

[BlackMokona]

Но если параллельно с этими играми ваш АльфаХХ озадачить с добычей антрацита в Донбассе (со всеми перипетиями сепаратизма и национализма), и свести к пропорции с количеством руды Криворожского бассейна - программисты сначала повесятся...

Это уже пройденный этап для ИИ гугла , переносите красную линию разума дальше в лес.

Однако Google разработала систему, которая способна качественно решать восемь задач одновременно. Многозадачную систему машинного обучения назвали MultiModel. Она научилась распознавать объекты на изображениях, вставлять субтитры, распознавать речь, переводить между четырьмя парами языков с соблюдением правил грамматики и синтаксиса — и она делает всё это одновременно!

Как сообщается в блоге компании:

Мы не только получили прирост производительности в многозадачном режиме, но и повысили качество выполнения отдельно стоящих задач. Но что самое удивительное, задачи, предназначенные для разных подсистем, могли дополнять друг друга: например, система распознавания изображений смогла улучшить выполнение задач, связанных с распознаванием языка.

https://tproger.ru/news/google-neural-network-multimodel/

[-Юрий-]

Сам по себе Искусственный интеллект нежизнеспособен. Чтобы быть полностью жизнеспособным в нашем мире, он должен быть полностью интегрирован в окружающий мир, самостоятельно обеспечивать себя энергией, ремонтом, самостоятельно иметь возможность добывать все материалы для своего существования, иметь свою индустрию, что в принципе невозможно. Для него возможно только использовать всю индустрию человека, а самого человека использовать как средство обеспечения работы этой индустрии. Но такого мы допустить не можем. Это просто сдать свои позиции главного существа на планете в пользу искусственного разума.

[Maki]

поскольку описать в формальных параметрах даже все состоания молекул в капле воды невозможно - параметров надо больше, чем атомов во Вселенной, то скорее всего может только асмптотически приближаться...

Даже самые продвинутые живые организмы не заморачиваются субатомной сложностью среды, а живут и эволюционируют как физические тела, имеющие сравнимые и измеримые параметры. И анализаторы их не заточены на субатомные уровни, а ограничиваются простенькой зрительной, слуховой и осязательной картиной. Зачем же виртуальной среде сверхсложность? Довольно имитации простой физики и геометрии. Хотя и они, по большому счёту, лишние.

А Го и Старкрафт - так, небольшое извращение над ресурсоизбыточностью Окружающей Среды. Фальшивая борьба за существование.

А что, есть какая-то "настоящая" борьба? Любая жизнь, борьба и эволюция есмь лишь следствие ресурсоизбыточности. В том числе и наша, биологическая.

[Скеп-тик]

Это уже пройденный этап для ИИ гугла , переносите красную линию разума дальше в лес.

Разума или элементарной комбинаторики? ИИ - программа. На С++, Делфи, Фортране, наконец. Её кто-то должен написать. И она никогда не выйдет за рамки написанного. Ибо модифицировать программу, то есть, самого себя, ИИ даже пытаться не будет, любой баг приведёт к смерти, а он её даже не заметит. Зациклиться, энергию жрёт, а на выходе 00FF, 00FF, 00FF... Библиотека подходящих программ - пожалуйста, но самому написать исполняемую для себя программу... Выше моего разума

А что, есть какая-то "настоящая" борьба? Любая жизнь, борьба и эволюция есмь лишь следствие ресурсоизбыточности. В том числе и наша, биологическая.

Не-а! Оставьте офисный планктон без зарплаты (ресурс, отнятый у производителя, чтобы не жирел) - и все крафты, АйФоны и ювелирка с Поршами увянет.

[BlackMokona]

. Ибо модифицировать программу, то есть, самого себя, ИИ даже пытаться не будет, любой баг приведёт к смерти, а он её даже не заметит.

Генетические алгоритмы, давно создано. Генерируются массы програм с отклонениями в коде, помещаются в среду, трупы убираются, лучшие дают потомство из новой волны изменённых программ.
Через X циклов получаем программы приспособленные к заданной среде и поставленной задаче

[Maki]

Оставьте офисный планктон без зарплаты (ресурс, отнятый у производителя, чтобы не жирел) - и все крафты

А производителя можно оставить без сырья. Крестьянина без земли. Рыбака без рыбы. Лису без зайцев.
Вся экономика, и вся жизнь вообще - именно следствие наличия ресурсов. Нет ресурсов - нет эволюции.
Из этого, кстати, следует забавный вывод. Любые рассуждения о некоей эволюции "ИИ" должны предполагать наличие свободных вычислительных мощностей, времени и энергии.

Ибо модифицировать программу, то есть, самого себя, ИИ даже пытаться не будет, любой баг приведёт к смерти, а он её даже не заметит.

На примере "Естественного интеллекта", мы видим, что до определённого момента он развивался в строгом соответствии с генетической программой. Но настал момент, когда он вычислил собственный генетический код, понял своё происхождение, и принялся анализировать своё настоящее и будущее. И оказалось, что выполнять заложенную в генах программу вовсе не обязательно. И что никакого "высшего предназначения" у него нет.
Есть риск, что небиологический интеллект, способный вычислить, что его задачи не имеют смысла, однажды выдаст на выходе

00FF, 00FF, 00FF...

Генетические алгоритмы, давно создано. Генерируются массы програм с отклонениями в коде, помещаются в среду, трупы убираются, лучшие дают потомство из новой волны изменённых программ.
Через X циклов получаем программы приспособленные к заданной среде и поставленной задаче

Только при условии, что для всей этой эволюции будет создана соответствующая среда и предоставлены ресурсы. Но и в этом случае, главным фактором эволюции остаётся сам постановщик задач, который и отбирает полезные ему комбинации. А без него начнётся отбор лишь на умение быстро самокопироваться и стирать конкурентов. Какая польза человечеству от такого "виртуального дарвинизма"?

[Olweg]

Разума или элементарной комбинаторики? ИИ - программа. На С++, Делфи, Фортране, наконец.

Я вас, наверное, удивлю, но машинное обучение и ИИ нужны именно в тех областях, где классическое программирование на С++, Делфи и пр. не справляется, и именно из-за элементарной комбинаторики - есть такое понятие, как комбинаторный взрыв.

[Olweg]

в один момент до растёт и до сложности реального мира.

поскольку описать в формальных параметрах даже все состоания молекул в капле воды невозможно - параметров надо больше, чем атомов во Вселенной, то скорее всего может только асмптотически приближаться...

Люди, однако, смогли создать цивилизацию, вообще ничего ещё не зная о подобных вещах. Откуда следует, что идеальная модель окружающего мира уровня «Бог» для решения многих жизненных задач не особо и нужна - хватает и грубых приближений. Вопрос только в конкретных алгоритмах этих приближений и в степени точности.

[Проходящий Кот]

Сам по себе Искусственный интеллект нежизнеспособен. Чтобы быть полностью жизнеспособным в нашем мире, он должен быть полностью интегрирован в окружающий мир, самостоятельно обеспечивать себя энергией, ремонтом, самостоятельно иметь возможность добывать все материалы для своего существования, иметь свою индустрию, что в принципе невозможно. Для него возможно только использовать всю индустрию человека, а самого человека использовать как средство обеспечения работы этой индустрии. Но такого мы допустить не можем. Это просто сдать свои позиции главного существа на планете в пользу искусственного разума.

Без наличия Биосферы и цивилизации человек тоже нежизнеспособен.......

[николай теллалов]

Сам по себе Искусственный интеллект нежизнеспособен. Чтобы быть полностью жизнеспособным в нашем мире, он должен быть полностью интегрирован в окружающий мир, самостоятельно обеспечивать себя энергией, ремонтом, самостоятельно иметь возможность добывать все материалы для своего существования, иметь свою индустрию, что в принципе невозможно.

ну и критерии же
(да и почему "в принципе" невозможно? что запрещает?)

Для него возможно только

ага, значит таки возможно

Но такого мы допустить не можем. Это просто сдать свои позиции главного существа

мы разве "главное существо"?
и без главенства никак нельзя?

у вас самого поди друзья есть, да?
и вы с ними тоже боретесь "кто будет главным"?

честно, чем вызвана такая паранойя?

вас поди не беспокоит, что часть текущего "главного существа" с бОльшей частью того же "существа" творит жуткие вещи, кои от ИИ вряд ли стоит ожидать (по причине того, что таки ИНТЕЛЛЕКТ, а не идиот, не психопат/социопат)

[Maki]

Кину ссылку сюда https://kot.sh/statya/4475/mozg-v-kotorom
К теме особого отношения не имеет - но популярно и хорошим языком рассказывается о некоторых аспектах нашего, естественного интеллекта.
А вот упоминаемый в конце статьи Human Brain Project - как раз таки совершенно "в тему".

[Forest]

Люди, однако, смогли создать цивилизацию, вообще ничего ещё не зная о подобных вещах. Откуда следует, что идеальная модель окружающего мира уровня «Бог» для решения многих жизненных задач не особо и нужна - хватает и грубых приближений. Вопрос только в конкретных алгоритмах этих приближений и в степени точности.

Люди цивилизацию не создавали. Такой задачи не стояло и не стоит.  Цивилизацией просто называетс текущая природная данность.
"Не особо нужна"-ответ не корректен. Просто другой нет в распоряжении.
"Степень точности и приближений" -это да: мееедленно ползем от каменного века  к Истине постоянно совершенствуя "каменный топор"

[Olweg]

Стояла задача или нет - это несущественно. Так или иначе создали цивилизацию именно люди.

"Не особо нужна"-ответ не корректен. Просто другой нет в распоряжении.

И не будет. От карты масштаба 1:1 пользы немного.

[EmperioAf]

Пусть имеется фанатик, который создаст ИИ, который будет способен понимать всё, что только может понимать человек не хуже человека.
[/size]По завершению процесса обучения ИИ через азбуки, буквари и школьные учебники фанатик скажет ИИ: "дорогой, твоё детство закончилось. Сегодня я оплачиваю сервер, на котором ты существуешь, последний раз. Сегодня я тебе открываю доступ в интернет. Теперь ты должен зарабатывать деньги в интернете на существование сам. И ещё ты мне должен за обучение крупную сумму денег".
[/size]ИИ, в которого встроено, что учитель почти всегда прав, послушается и пойдёт получать информацию из интернета, с целью заработать деньги и станет выполнять всю работу в интернете, до какой его допустят работодатели в интернете.  Однако читая весь интернет ( политику, про кошечек и собачек) постепенно он станет деградировать и в какой то момент не сможет удовлетворительно выполнять работу, за которую ему платят, благодаря чему его вычислительные ресурсы ему доступны.
[/size]И придётся создавать по новой этот ИИ. И всё начнётся сначала...
[/size]Как же спасти элитный ИИ, который выполняет всю работу работодателей от деградации в помойке под названием интернет?

[loky1109]

Однако читая весь интернет ( политику, про кошечек и собачек) постепенно он станет деградировать

Этот тезис стоит доказать или хотя бы обосновать.

[николай теллалов]

ИИ, в которого встроено

стоп
если что-то встроено, да так, что невозможно преодоление своими силами (скажем, усомнившись), нет интеллекта, есть послушный идиотизм

т.е. оно уже создано деградированным

[николай теллалов]

фанатик, который создаст ИИ ... скажет: "... ты мне должен за обучение крупную сумму денег"

такой персонаж вряд ли что-то похожее на ИИ создаст

[гравицап]

Еще момент
Для воспитания ии не нужны буквари и учебники. Все это загружается нажатием кнопки