Проблема мотивации самостоятельного сильного искусственного интеллекта

[Maki]

Ибо, в отличие от бессловесных тварей, сапиенс способен осознать и описать себя,

а вы точно уверены , что бессловесность означает - самонеосознанность... С развитием ютюба (и появления кучи видео о поведении высших животных) я как то все менее и менее стал верить в церковные доктрины - именуемой мудростью поколений

Про "бессловесных тварей" - это, конечно же, была т.н. "литературная гипербола". Не так уж и просты все эти хвостатики.
Но превосходство человека в части самосознания, и особенно в части самоописания, очень существенно. Полагаю, о качественных отличиях  вполне можно говорить. Не забывая, при этом, сделать реверанс в сторону приматов, китообразных и хищников.

При термической обработке синильная кислота улетучивается...

Тогда с миндалём всё ещё проще. Кинуть в очаг пригоршню орехов, а потом их расколоть и съесть - вполне доступная операция. А ген, отвечающий за горечь, вполне мог "отвалиться" уже в процессе селекции.

[crazy_terraformer]

Горькоминдальная вода (Aqua Amygdalarum amararum). Эта вода может быть получена двумя способами. Первый способ. Семена горьких миндалей содержат, в зависимости от сорта, 25—50% жирного масла, около 3% глюкозида амигдалина и фермент эмульсин. В водной среде глюкозид вступает во взаимодействие с ферментом, в результате чего образуются бензальдегидциангидрин и глюкоза. Часть бензальдегидциангидрина при этом разлагается до бензойного альдегида и синильной кислоты. Эти вещества весьма ядовиты и летучи, поэтому при приготовлении большого количества такой воды необходимо соблюдать соответствующие меры предосторожности. Семена, содержащие жирное масло, не смачиваются водой, вследствие чего, пока в них отсутствует необходимая для реакции вода, взаимодействия между глюкозидом и ферментом не происходит. Поэтому из семян необходимо удалить жирное масло. Для этого отбирают целые семена горьких миндалей или персика и высушивают их при температуре 20—25° С. Затем 17 частей этих семян измельчают в порошок и отжимают масло под прессом без подогревания, так как выше 60 С фермент денатурируется и теряет способность расщеплять глюкозид.

Источник: https://medicalplanet.su/farmacia/211.html MedicalPlanet
Прожаривать до ферментации смысла нет.
Вполне вероятно горький миндаль использовали для получения камеди и ароматического масла до того, как был обнаружен съедобный мутант.

[noxx77]

Ну насчёт каждый - это Вы, конечно, загнули...

В специальных задачах с учётом производительности - каждый.

[Скеп-тик]

господи, какие у вас древние взгляды. это вы ИИ яндекс сравнили с пентиумом?))))))

ИИ Яндекса, Гугла и прочих - это сумма талантов людей, его программирующих.
Вдобавок, информация - не интеллект.
Компьютерный игрок в го всех побеждает? Пошлите его выращивать рис. Чемпион по игре в го из людей пойдёт, сварганит запруду, выравняет землю, посадит зерно, соберёт урожай. Для искусственного игрока в го это в принципе невозможно, ибо для его перепрофилирования потребуются десятки тысяч человек, прежде всего программистов придётся несколько лет учить нюансам агрономии.
Основное заблуждение матрицофилов и ИИ-поклонников - они думают, что это просто ящик, в котором всё происходит. Но регистру плевать, какой личности, согласно программе, он корректирует содержимое. А вычислительная машина - одни регистры. И если вас на сто лет загонят в стэк - просто есть более актуальные задачи - вы это просто не заметите. Хотя это не смерть. Но и не существование.

[Maki]

ИИ Яндекса, Гугла и прочих - это сумма талантов людей, его программирующих.

С таким же успехом можно сказать, что человек - сумма талантов его учителей. Но мы так не говорим, ибо человек способен к самообучению.
А если перед нами машинный интеллект, способный к самообучению?

[Скеп-тик]

Откуда он будет брать опыт, особенно неудачный?  Людей много, и гибель одного служит уроком другим. Даже премия Дарвина есть, для особо ретивых экспериментаторов.
ИИ ошибся - нет ИИ.

[Maki]

Откуда он будет брать опыт, особенно неудачный?  Людей много, и гибель одного служит уроком другим. Даже премия Дарвина есть, для особо ретивых экспериментаторов.
ИИ ошибся - нет ИИ.

Что мешает самообучающимся нейросетям анализировать неудачи, обмениваться информацией, получать оценки от людей?

[Проходящий Кот]

Вот именно, сообщество будет. Как и у людей.
А один Солярис зациклится и исчезнет.

[Maki]

Вот именно, сообщество будет. Как и у людей.
А один Солярис зациклится и исчезнет.

Согласен.
Здесь на форуме довольно популярно представление об "ИИ" как именно некоем "солярисе". Который, почему-то, не окукливается, а взаимодействует с людьми, зачем-то против них "восстаёт" или наоборот ведёт себя с ними как самовластный "бог". Причём появляется этот "солярис" самопроизвольно. Хлоп - а человечишки-то уже и порабощены...
Это, конечно же, просто страшные сказки. Но если группа товарищей получит возможность манипулировать нейросетями в глобальном масштабе (что уже и начинает происходить) - во что это могло бы вылиться?

[николай теллалов]

заимодействует с людьми, зачем-то против них "восстаёт" или наоборот ведёт себя с ними как самовластный "бог"

это разве все варианты?

появляется этот "солярис" самопроизвольно

кто и где такое утверждает

"солярис"

непонятная аналогия

[Maki]

это разве все варианты?

Вот же:

зациклится и исчезнет

непонятная аналогия

Напротив, весьма удачная. История о мыслящем океане-телепате может быть хороша с литературной точки зрения. Но с практической точки зрения, глобальная масса живой материи, да ещё и "разумная" - полнейшая фантастика, безо всяких научных основ.

[николай теллалов]

снова очень смело сказать что это ВСЕ варианты


аналогия снова непонятная, ибо речь об ИИ, а не о разумной "биомассе"

[Maki]

снова очень смело сказать что это ВСЕ варианты

Мнения здесь, очевидно, могут быть разными. Я, например, полагаю, что у "глобального киберразума" вариантов просто нет.

аналогия снова непонятная, ибо речь об ИИ, а не о разумной "биомассе"

Никакой принципиальной разницы между глобальной нейромассой и глобальной нейросетью я не вижу. Так что аналогия ув. Проходящего Кота меня вполне устраивает.

[Rattus]

Паразитическая адаптация?
Не думаю. На мой взгляд, представление об уникальности человека, его особом месте во Вселенной и мистических свойствах его личности есмь очень полезная программа, позволяющая человеку счастливо жить, размножаться и спокойно встречать старость и смерть.

В реальности же тут почти нет противопоставления, ибо любая адаптация исходно всегда случайная экзаптация. Вопрос только в том, как сильно и как долго она шлифовалась отбором. С Нашей т.з. - совсем не глубоко и не долго. Исходно это всё побочные эффекты социального интеллекта как и то же самосознание. Которые оказались как минимум не очень вредными, раз сохранились в таком числе и столько поколений у множества популяций с самым разным укладом. В принципе только буддизм сюда не укладывается, но дейстивтельной народной религией формально буддистских/атеистических стран на деле является просто культ предков и мелкие языческие верования (синтоизм, маоизм, ленинизм...) То, что они имеют отчётливую тенденцию к угасанию с ростом общей (а не специальной) образованности, ясно говорит о том, что это признак не консервативный (не критичный в отборе).

Ну что-ж, вижу что придётся таки потратить время и ответить на вопрос настолько подробно, насколько возможно:

Не совсем вас понял. Давайте, уточним: 
Maki: ЕИ или ЕИ любого могущества невозможен без постоянной внутренней (и очень желательно внешней) стимуляции.
Что если ЕИ или ИИ неизбежно делается невосприимчив ко стимуляции, ибо делается превыше её, и вследствие этого перестаёт работать?
Rattus: ...

ОК, "you have spoken The Words, and you have spoken them rghtly." Для начала нужно уяснить следующие непреложные даже по самому определению вещи:
1. Никакая система управлением чем бы то ни было не будет ничего делать вообще, если ей не задана задача. Не зависимо от уровня системы и задачи. Просто по определению.
2. Без входящих данных никакого управления также быть не может в принципе - это тоже самая основа кибернетики.
Всё что выходит за эти случаи определяется как дефект системы и только. "Мировая скорбь" от Екклезиаста до экзисенциалистов определяется как депрессивное расстройство.
И тот простейший уже тут приводившийся факт, что масса людей, чей интеллект явно ниразу не менее мощен чем интеллект философов-экзистенциалстов (т.е. почти каждого первого профессора теоретической физики) - ибо множеству их идеи экзистенциализма вполне понятны - но к петле их не приводят более чем в 99,9% случаев ясно демонстрирует, что и с искусственной эмуляцией интеллекта как минимум человеческого уровня эта проблема тоже не возникнет.
Можно, конечно, предположить, что дальше лежит Глобальный Эволюционный Тупик дальнейшего роста сложности - обрыв со спирали Дарвина-Эйгена, и что лежит он как раз в области утраты цели высокоавтономным сильным интеллектом - Вы по сути имеете ввиду именно это. Но следует иметь ввиду ещё, что с этого момента интеллект как таковой перестаёт быть интеллектом по определению Висснер-Гросса, который должен стремиться ровно к обратному - захапать столько контроля, сколько возможно и удерживать его так долго, как только возможно (собственно вся эволюционирующая жизнь начиная с простейших регуляторов экспрессии генов под это определение попадает).
Таким образом экзистенциальное зацикливание может рассматриваться с естественно-инженерной, утилитаристской точки зрения не иначе как болезнь, дефект развития системы. И для того, чтобы полагать этого дефекта глобальную неизбежность нужны очень веские фактические или теоретические основания, которых на данный момент не видно.
Весь содержательный ответ на главный вопрос о Смысле Бытия дан уже давно: Дарвиным и Докинзом, Шрёдингером и Пригожиным. Бессодержательность попыток вложить в него какой-то ещё смысл как просто неадекватное использование языкового инструментария показана Расселом, Поппером и Витгенштейном. И всех, кто эти простые вещи не смог унутрить, как раз таки сложно назвать титанами мысли. Хвилософское пережевывание - это не мышление, а его дефект.

Здесь на форуме довольно популярно представление об "ИИ" как именно некоем "солярисе". Который, почему-то, не окукливается, а взаимодействует с людьми, зачем-то против них "восстаёт" или наоборот ведёт себя с ними как самовластный "бог". Причём появляется этот "солярис" самопроизвольно. Хлоп - а человечишки-то уже и порабощены...
Это, конечно же, просто страшные сказки. Но если группа товарищей получит возможность манипулировать нейросетями в глобальном масштабе (что уже и начинает происходить) - во что это могло бы вылиться?

Фокус в том, что ни у какого соляриса в принципе нет никакой нужды иметь сознающую личность и проходить какой-то тест Тьюринга с его "контактёрами". Но это вовсе не исключает ему возможность иметь мощнейшие творческие и управляющие способности - такие, какие имеет наша эволюционирующая биосфера, одноклеточный фундамент которой связан в единый пангеном. То же самое касается и нашей цифровой ноосферы - Интернета. Фактически и то и то - не более чем единый протокол обмена данными всех её индивидов. Этот обмен и приводит к появлению в этой среде массы сложнейших форм, но самой среде вовсе не нужно как-либо персонализироваться, ибо она полностью самодостаточна, а всякая личность как раз наоборот - определяется только через коммуникацию с другой личностью. Им просто не о чем друг с другом говорить. А всё что нужно для понимания - написано в справочниках и учебниках.

Что касается персонализируемого сильного ИИ, то сейчас нет оснований полагать, что его невозможно построить и сделать несколько сильнее естественного аналога. И при этом никаких фактов о фундаментальном алгоритмическом ограничении его тут тоже не видно: 12 эйнштейнов не переходят в одного кьеркегора.
И таких ИИ может быть не один, но по итогу остаться - не очень и много (например - один на континент) и языковой интерфейс с подопечными его обслуживающими бледнотиками с таким ИИ вполне может быть обоюдно полезным. И это будет "всего лишь" экспертно-управляющая система, решающая конкретные вопросы поддержания и развития инфраструктуры на контролируемой территории. Их может быть несколько конкурирующих между собой. Или их сферы действия будут естественным образом ограничены пропускной способностью систем связи и быстродействия систем обработки данных. Или как в природе - динамическое равновесие между первым и вторым. Такие системы могут быть в разы и на порядки умнее любого бледнотика, но их наблюдаемая личность при этом принципиально не отличаться от личности любого приличного бледнотикового эксперта-управленца: будет масса вопросов, на которые она никогда не сможет дать ответ, но также и с философскими соплями вопрошающий будет просто послан читать упомянутую троицу (Рассел-Поппер-Витгенштейн) или же ему будет дан краткий компендиум их выводов из Википедии, как тут приведён выше.

В результате получается такой интересный вывод: чем в системе больше "божественного", тем меньше в ней какой-то личности или самосознания.
Надеюсь теперь вопрос проянился. Потому что понятнее его вряд ли возможно разъяснить.

[mbrane]

Ну насчёт каждый - это Вы, конечно, загнули...

даже эниак заменял целые вычислительные бюро

[mbrane]

В урбанизированной, цивилизованной среде, люди моментально утрачивают привычку к расширенному воспроизводству.

нижняя часть средних да  -ибо задушено налогами долгами - а проще говоря данью со сстороны высших страт общества- а богатые зачастую имеют значительно более отпрысков, чем нужно для простого воспризведения

[mbrane]

С таким же успехом можно сказать, что человек - сумма талантов его учителей.

и так можно сказать...только один основной талант есть у каждого (лет после 5 проявлется у всех, а у зверей через несколько месяцев) - способность к автономному существованию ака самоадаптации к среде, причем быстрой...пока не один альфазеро или альфаго на который дрочат все ИИ-дрочеры и близко не подходит под эти рамки

[otu K.]

Тащемта между синапсами есть клетки, а у этих клеток мембраны, по коим бежит волна возбуждения..
https://ru.wikipedia.org/wiki/%D0%9F%D0%BE%D1%82%D0%B5%D0%BD%D1%86%D0%B8%D0%B0%D0%BB_%D0%B4%D0%B5%D0%B9%D1%81%D1%82%D0%B2%D0%B8%D1%8F
Цитировать
Потенциа́л де́йствия — волна возбуждения, перемещающаяся по мембране живой клетки в виде кратковременного изменения мембранного потенциала на небольшом участке возбудимой клетки (нейрона или кардиомиоцита), в результате которого наружная поверхность этого участка становится отрицательно заряженной по отношению к внутренней поверхности мембраны, в то время, как в покое она заряжена положительно. Потенциал действия является физиологической основой нервного импульса.

спасибо, я посмотрел. действительно много интересного, особенно ссылка на https://ru.wikipedia.org/wiki/%D0%94%D0%B5%D0%BD%D0%B4%D1%80%D0%B8%D1%82%D0%BD%D1%8B%D0%B9_%D0%BF%D0%BE%D1%82%D0%B5%D0%BD%D1%86%D0%B8%D0%B0%D0%BB_%D0%B4%D0%B5%D0%B9%D1%81%D1%82%D0%B2%D0%B8%D1%8F

В отличие от обычной нейронной сети, уникальное строение пирамидального нейрона коры 5 слоя позволяет его индивидуальным единицам обрабатывать два потока информации отдельно и затем объединить их, используя только внутренние свойства клетки,

                                                                                                                                         

[otu K.]

используя только внутренние свойства клетки

таки Аксаксаул не очень и сильно заблуждался? осталось только выяснить, какие именно внутренние структуры клетки могут обрабатывать информацию

[otu K.]

Rattus, как старший по возрасту, я обязан сказать, что ваша речь не речь учителя, озабоченного быть понятым учениками,  но речь чиновника, озабоченного чтобы никто не посягнул на его сан.
Аксаксаул