Проблема мотивации самостоятельного сильного искусственного интеллекта

[Maki]

Зря что ли японцы свои человекоподобные игрушки делают? Некоторые вступают с ними в отношения 

Брачное поведение человека - во многом социальная установка.
Античные греки считали нормой эфебофилию. В средневековье поощрялось монашество. Некоторые южные народы и сейчас "пробуют силы" на осликах и овечках. А у японцев давно стало нормой влечение к персонажам игр или мультиков.
У токийского трудоголика даже на собаку времени и эмоций не остаётся. Тем более на девушку, которая ещё и экономически куда затратней. А виртуальная подружка - экономично, модно, снимает стресс, не выносит мозги, и любит почти бескорыстно.
В отсутствие достаточно сильных внутренних и внешних регуляторов, интеллект всегда начинает лениться, и искать наименее затратные способы получения удовольствия.

[николай теллалов]

на девушку, которая ещё и экономически куда затратней

о, гоже босподи...

[Maki]

подробнее о целенаправленно выведенных муравьями пород тлей где можно почитать?

Кстати, вот попалась интересная статья:
https://polit.ru/news/2016/08/26/ps_ants_and_plants/

[николай теллалов]

попалась интересная статья

действительно интересно, но прогрессивная роль взаимопомощи (симбиоза) в развитии видов - давняя идея (опубликована в 1902 году)

к тому же не доказывает выведения муравьями пород тлей

[Maki]

к тому же не доказывает выведения муравьями пород тлей

Про тлей, если поискать, наверняка тоже что-нибудь найдётся. Грибы муравьи точно селекционируют. https://www.gazeta.ru/science/2011/02/22_a_3533341.shtml
Главное, что доказывает статья - "взаимная селекция" мутуалистов. На что, собственно, я вам и указал, упомянув коров и лактозоустойчивую форму сапиенса. 

[николай теллалов]

там слово вывели в кавычках неспроста

[Maki]

там слово вывели в кавычках неспроста

Особенности пунктуации научпоп-статей - вопрос, конечно, существенный. Но выводы из этой и предыдущей статьи, полагаю, значимы в куда большей степени.
Что касается "селекции тли"- сладкие выделения сами по себе совершенно бесполезны. И то, что этот признак просто возник - прямое доказательство влияния мутуализма с муравьями на отбор у тлей. Точно так же и муравьи выработали особое поведение.
И никакой принципиальной разницы с сапиенсом, который отбирал коров на молочность, а сам приобрёл толерантность к лактозе, тут нет.

[alena_korf]

И никакой принципиальной разницы с сапиенсом, который отбирал коров на молочность, а сам приобрёл толерантность к лактозе, тут нет.

Совершенно верно

[Maki]

И никакой принципиальной разницы с сапиенсом, который отбирал коров на молочность, а сам приобрёл толерантность к лактозе, тут нет.

Совершенно верно

И, следовательно, на мутуалистические отношения человека и его самообучающихся игрушек, все эти законы распространяются в полной мере. 

[николай теллалов]

сладкие выделения сами по себе совершенно бесполезны

витамин С в моче при передозировке - тоже вещь бесполезная

предположение, что муравьи "приручили" тлей без сладких выделений и "вывели" сладковыделяющую породу... даже не знаю как назвать... сказка?

[Rattus]

предположение, что муравьи "приручили" тлей без сладких выделений

Это откуда взято вообще? Можно подумать человек вывел хоть одно культурное пищевое растение, дикий предок которого был совершенно невкусный.

и "вывели" сладковыделяющую породу... даже не знаю как назвать... сказка?

Вполне научная гипотеза, подлежащая проверке. Причём проверить следует не только одну концентрацию сахаров у диких/симбиотических тлей, но и других веществ и интенсивность/периодичность сокоотделения.

[Maki]

витамин С в моче при передозировке - тоже вещь бесполезная

Пока этот признак не способствует выживанию - то да, бесполезен.

предположение, что муравьи "приручили" тлей без сладких выделений и "вывели" сладковыделяющую породу... даже не знаю как назвать... сказка?

Ну, если иметь скажем так, поверхностное представление о природе и эволюции - тогда да, похоже на сказку.
А ведь я специально для вас уточнил, что речь даже не о "породе", а о самом признаке. Который, как вы наверняка знаете, свойственен подавляющему большинству тлей.
Когда предки этого семейства "выбрали" нишу мелких малоподвижных сокоедов - хищники, разумеется, принялись их активно поедать. Популяция, где закрепилась странная мутация в виде "панического сахаровыделения" оказалась привлекательна для муравьёв. Дальше - всё как обычно. 

[Maki]

Причём проверить следует не только одну концентрацию сахаров у диких/симбиотических тлей, но и других веществ и интенсивность/периодичность сокоотделения.

Если не ошибаюсь, выделение пади - характерная черта вообще большинства тлей. Попробую на досуге уточнить, нет ли видов с противоположной адаптацией, в виде накопления, например, ядовитых или просто "невкусных" соединений.
Кстати, как-то попадалась статья, где было показано, что из популяции тлей, где особи имеют красный или зелёный вариант окраски, муравьи предпочтительно опекают именно зелёных. Причин этого и генетических аспектов авторы не рассматривали. Но сам факт уже весьма интересен.

P.S.
Возвращаясь к теме взаимоотношений человека и искусственных нейросетей.
Можно считать эти отношения "мутуалистическими". Или рассматривать "ИИ" просто как адаптацию. Но пока в мире существуют миллиарды "неокультуренных" людей - говорить о "коэволюции" или "эволюции" нашего вида, связанной с компьютерами, полагаю, очень преждевременно.
Вообще не уверен, что будет возможна традиционная эволюция при помощи случайных мутаций, отбора, и т.д. Скорее всего, будет целенаправленная генная модификация. И вот тут вопрос: какие именно существующие или новые признаки могут оказаться полезными в плане взаимодействия в системе человек/нейросети?
Можно, конечно, представить пошлейший киберпанк с разъёмами в башке и кучей проводов. Но хотелось бы, чтоб наши потомки решили проблему как-то поизящней...

[николай теллалов]

дикий предок которого был совершенно невкусный

на базе чего появилось предположение, что ВОЗМОЖНО сделать его слаще, чтобы им долгие годы возиться?

речь даже не о "породе", а о самом признаке. Который, как вы наверняка знаете, свойственен подавляющему большинству тлей.

ну, воспользовались данностью. До селекции - как до Альфа Центавра

[николай теллалов]

ядовитых или просто "невкусных" соединений

божьи коровки
как раз красные или желтые - цвет "не тронь меня"

[николай теллалов]

миллиарды "неокультуренных" людей

проблема социальная, не биологическая

целенаправленная

интересно, меня за употребление сего слова пинают

[Maki]

на базе чего появилось предположение, что ВОЗМОЖНО сделать его слаще, чтобы им долгие годы возиться?

Отбор обходится без предположений. Он просто идёт. Если 10.000 лет топить злых волчат, и размножать хороших охотников - получится лайка.

ну, воспользовались данностью. До селекции - как до Альфа Центавра

Так происходит любой отбор.

проблема социальная, не биологическая

А это что, какие-то разные вещи?

интересно, меня за употребление сего слова пинают

Если вы его употребляете с намерением как-то отделить селекцию от отбора - возможно, "пинают" и небезосновательно.

[николай теллалов]

Отбор обходится без предположений

берем любое горькое растение и возимся с ним - и оно обязательно станет сладким?

Так происходит любой отбор

всегда вслепую
селекционеры - тунеядцы

это что, какие-то разные вещи?

будете смеяться, но разные

"пинают" и небезосновательно.

конечно, у меня привилегия такая
употреблять его в этом смысле позволено только другим:

Вообще не уверен, что будет возможна традиционная эволюция при помощи случайных мутаций, отбора, и т.д. Скорее всего, будет целенаправленная генная модификация.

у вас тут в каком смысле употреблен? не для разделения отбора от селекции, нет? штоб красиво читалось?

[Maki]

будете смеяться

Да, буду.

берем любое горькое растение и возимся с ним - и оно обязательно станет сладким?

Да, конечно! И вместо дикой пшеницы возимся с пыреем. И вместо коров упорно пытаемся одомашнивать сусликов...
Просто прочитайте ещё раз ссылки на статьи, которые я вам привёл.

всегда вслепую

Почему отбор с системе хищник/жертва или при взаимополезности, вы называете "слепым"?

конечно, у меня привилегия такая

Возможно, к вам излишне строги. Но ваши соображения о природе и эволюции иногда действительно, скажем так, своеобразны. А "пинающий" таки в этих вопросах специалист.

не для разделения отбора от селекции, нет? штоб красиво читалось?

Муравей тоже имеет вполне определённую цель - не добыть еды с наименьшими трудозатратами. И при этом даже задействует свой маленький мозг.
Я ведь вполне понятно изложил свою точку зрения.

И "мичуринский отбор" человеком наиболее продуктивных растений и животных - абсолютно тот же процесс, что и отбор муравьями тлей или грибов.

Теперь сравним:

то селекция пород животных или сортов растений - значительный отход от эволюционной обстановки, когда выживаемость определяет слепая среда, а не осмысленная цель по критерию полезности людям

Ну вот, собственно, за такое вас, наверное, и "пинают".

[николай теллалов]

Да, буду

как угодно

И вместо дикой пшеницы возимся с пыреем. И вместо коров упорно пытаемся одомашнивать сусликов...
Просто прочитайте ещё раз ссылки на статьи, которые я вам привёл.

да бросьте ссылки
в растении или животном надо узреть потенциал. Если он неброский, тогда никто возиться и не будет.
А значит горькое растение не будут мучаться сделать сладким.
проследите ветку, елки-палки

Почему отбор с системе хищник/жертва или при взаимополезности, вы называете "слепым"?

ибо нецеленаправлены сознательно
не собирается КБ хищников, планируя себе перемены для повышения эффективности
не собирается и Комитет спасения жертв для разработки контрамер

саблезубость никак не инженерия, хотя и некоторые образцы инженерий доходят до тупиков и абсурдов

вообще, у вас получается, что никакой разницы между действиями разумных существ и процессами эволюции нет.

своеобразны

что своеобразного в различении селекции и эволюции-то?

за такое вас, наверное, и "пинают"

понятно
правильно пинают
низзя делать разницу между целенаправленным осмысленным отбором и эволюцией (которая оказывается вовсе не "слепа", а очень глазастая)
больше не буду ругать телеологию