Целеполагание самостоятельного сильного искусственного интеллекта и человек

[loky1109]

Нет, стохастические процессы условно не предсказуемы. Любой алгоритм в основе которого генератор псевдослучайных чисел, является стохастическим. Метод Монте Карло, к примеру...

Вот мы и пришли к тому, что стохастичность это не про природу процесса, а только про описание.

[Вайт]

Это вопрос полноты информации. Без квантовой неопределённости любой процесс будет детерминирован, его невозможно предсказать только из-за отсутствия всей информации о системе.

Это вряд ли.

Вы исходите из идеи, что, обладая гипотетической полнотой знания, абсолютно точное предсказание станет возможным. Однако полнота знания не имеет смысла (она равносильно формализации самого смысла, что ведёт к противоречиям). Поэтому говорить можно только о той или иной возможности предсказания, но не о реальной детерминированности или не детерминированности природы.

Может показаться, что этот вывод следствие всего лишь недоказуемости детерминизма, а на самом деле, в отсутствие квантовой неопределённости, он обязательно есть. Но нет.

Беспричинное существование всего с точки зрения детерминизма выглядит противоречивым. Но любая причина всего — тоже часть всего, поэтому противоречие неустранимо. Это означает, что противоречиво само представление о детерминизме. Чтобы иметь смысл, любое знание должно иметь границы применимости — границы расширения на время и пространство, в том числе такие границы должно иметь и представление о детерминизме. Детерминизм — это наши знания, но природа всегда другая, она не похожа ни на какое наше знание. В итоге утверждение «без квантовой неопределённости любой процесс будет детерминирован» и аналогичные не имеют смысла. Без «квантовых неопределённостей» процесс может быть только более предсказуемым.

Например, это означает, что не имеет смысла утверждение о детерминированности выбора системы в точке бифуркации. Бифуркация — это качественное изменение поведения динамической системы при бесконечно малом изменении её параметров. Из чего следует, что в точке бифуркации чувствительность системы абсолютная. Абсолютная чувствительность — это полная неотделимость системы от всего. Но на уровне всего — см. выше — представления о причинах и следствиях теряют смысл.

Как следствие, теряет смысл и утверждение о наличии или отсутствии у человека свободы воли. Переключение внимания — это переход через точку бифуркации, и вместе с тем переключение внимания — это выбор цели. В итоге свобода воли и есть, и нет одновременно, так как выбор в точке бифуркации и детерминирован и не детерминирован одновременно. Если разбираться подробнее, то выяснится, что на общем уровне поведения предопределённости больше, на уровне конкретных поступков меньше.

Называть мнение собеседника "чушью" просто нехорошо. Ну разве что оно грубо противоречит научной картине мира, основано на ложных посылках, и полностью лишено логики. Ну а если оно противоречит вашей точке зрения - то это просто иная точка зрения.

Теперь, от ненужных пикировок, давайте вернёмся к теме.

Есть ещё одна причина называть мнение собеседника чушью. Это когда собеседник продолжает писать "своё мнение", даже после подробных объяснений, почему его мнение неверно. Вот как вы сейчас - пишете чушь. Вы много раз участвовали в обсуждениях, где говорилось о неравновесных фазовых переходах, бифуркациях и принципиальной непредсказуемости систем, поведение которых с этими явлениями прямо связано. И ничего из них не вынесли.

Её надо не обсуждать, а соблюдать.

Видите ли, Maki, тот поток передёргиваний, который вы продемонстрировали в теме про религию, ясно показывает, что культуру вам заменил фанатизм. Поэтому о культуре не с вами и не к вам.

А вот теперь давайте вернёмся к теме.

С одной стороны - структура и алгоритм работы мозга вполне определены, хотя и чудовищно сложны.

Работа мозга - не алгоритм в принципе.

Ну так попробуйте, для начала, наблюдательным путём установить закономерности Тетриса.

Невозможность установить закономерности Тетриса равносильна нахождению причин, почему это невозможно в принципе. Вот, например, таких причин, как в случае мозга. Но Тетрис от мозга отличается принципиально, поэтому в случае Тетриса таких причин нет. Если вы не согласны, то приведите их. И не обязательно они должны быть такие, которые только "наблюдательно" не позволят понять закономерности Тетриса. Исследовать Тетрис можно как угодно, лишь бы результат был.

С другой стороны, та же нейрофизиология говорит, что эта предсказуемость вовсе не является чёткой, и указывает на явные моменты неопределённости. Скорость синаптической задержки вариабельна. У синапса, в связи с истощением медиатора может наступить некоторый период рефрактерности. Возбуждённый нейрон тоже оказывается в состоянии рефрактерности, на некоторое время. Затем наступает период, когда повторное возбуждение нейрона в принципе возможно, но только через некоторое время, и от сигнала некоторой мощности. Кроме того, нейроны способны отмирать, восстанавливаться, и изменять структуру синаптических связей.

Это всё сами по себе не принципиальные причины "неопределённости" (если говорить точнее, невозможности формализации). Принципиальной причиной является критическая связь мышления (на всех уровнях, начиная от морфогенеза до синхронизации активности нейронов) с бифуркациями. Полагаю, ссылки не нужны, я вам их много раз приводил. Просто нужно память освежить.

[Rattus]

Если речь идёт о живом организме и в целом об открытых и термодинамически неравновесных системах, то поведение такой системы не может быть сколько-нибудь точно задано.

Что регулируемых термостатов и паровых клапанов не существует - мы уже поняли. Ещё какие новости физики и технологий нам поведаете?

Способность эволюционировать, приспосабливаться, обучаться у такой системы будет ограничена

Я Вам сейчас ВНЕЗАПНО одну страшную тайну поведаю: способность эволюционировать и адаптироваться ограничена у ВСЕХ ВООБЩЕ живых и неживых систем без исключения.

Могут ли некоторые неопределённости в работе нейрона, на которые я указал чуть выше, быть прямо связаны с квантовыми явлениями, и, следовательно, воистину случайны?

Число молекул нейромедиаторов в синаптической щели сравнительно невелико, а межмолекулярное взаимодействие лиганд-рецептор на уровне элементарных зарядов в пределе упирается в квантовую химию. То есть некоторая доля истинной квантовой случайности в термодинамическом хаосе слабовзаимодействющих молекул может иметь место. Но весьма небольшая - иначе бы простые методы молекулярной динамики не давали хорошего приближения в их описании.
Пожалуй, бОльшую роль квантовая случайность играет в генетических мутациях, которые как правило практически не зависят от температуры, но неизменно случаются. В каждом случае мутации мы имеем дело с единичным изменением строения одной единственной молекулы: разрывом/слиянием цепей, заменой одного нуклеотида и т.п.

[a.ryabov]

искусственные системы должен кто-то создавать, направлять и поддерживать их функционирование.

Что препятствует искусственной системе, управляемой ИИ, со временем заменить внешнее обслуживание на своё собственное, развив соответствующие функции?

[Maki]

Видите ли, Maki, тот поток передёргиваний, который вы продемонстрировали в теме про религию, ясно показывает, что культуру вам заменил фанатизм.

Ваше субъективное впечатление об интеллекте или нравственности собеседников, а также оценочные суждения, касающиеся ценности их высказываний, вам, всё-таки, стоит держать при себе.

А вот теперь давайте вернёмся к теме.

Давайте.

Работа мозга - не алгоритм в принципе.

В русском языке, допустимы такие выражения, как, например, "механизм принятия решений" или "порядок действий". Здесь понятия "механизм", "порядок" относятся к алгоритму, а "принятия", "действие" - к процессу выполнения этого алгоритма. "Процесс" - это, разумеется, не собственно "алгоритм", да.
Но может быть вы хотели сказать, что работа мозга происходит не на основании алгоритма?

Это всё сами по себе не принципиальные причины "неопределённости" (если говорить точнее, невозможности формализации). Принципиальной причиной является критическая связь мышления (на всех уровнях, начиная от морфогенеза до синхронизации активности нейронов) с бифуркациями. Полагаю, ссылки не нужны, я вам их много раз приводил. Просто нужно память освежить.

Полная формализация невозможна, в виду сложности системы. А также, в силу её закрытости, на которую я вам недвусмысленно намекал на примере Тетриса. Ну и нейрон, как объект наблюдения, тоже не самая удобная структура. Однако, некоторые аспекты работы мозга формализации поддаются. Что даёт все основания говорить о мозге как о, в целом, детерминированной вычислительной системе.
Дико извиняюсь, но я не могу держать в памяти все высказывания всех собеседников на форуме и вне его. Если под общепринятым термином "бифуркация"вы, понимаете момент неопределённости при выборе двух и более альтернатив течения процесса - то о конкретных и вполне материальных причинах таких бифуркаций на уровне нейрона я вам и напомнил. Естественно, подобные неопределённости, связанные с особенностями работы электрохимических нейронных сетей, существуют и на более высоких уровнях организации мозга.
Что до формализации - и на уровне мозга в целом, и на уровне отдельного нейрона, она вполне возможна. Разумеется, лишь в пределах доступных науке методик.

[Maki]

Число молекул нейромедиаторов в синаптической щели сравнительно невелико, а межмолекулярное взаимодействие лиганд-рецептор на уровне элементарных зарядов в пределе упирается в квантовую химию. То есть некоторая доля истинной квантовой случайности в термодинамическом хаосе слабовзаимодействющих молекул может иметь место.

А ионная диффузия и неопределённость, возникающая в момент относительной рефрактерности?

[Rattus]

А ионная диффузия и неопределённость, возникающая в момент относительной рефрактерности?

Дык диффузия и включена в молекулярную динамику. Не понял вопроса.

[Olweg]

Вы исходите из идеи, что, обладая гипотетической полнотой знания, абсолютно точное предсказание станет возможным. Однако полнота знания не имеет смысла (она равносильно формализации самого смысла, что ведёт к противоречиям). Поэтому говорить можно только о той или иной возможности предсказания, но не о реальной детерминированности или не детерминированности природы.

Может быть. Я не пытаюсь быть математически строгим. Я писал, что поведение достаточно сложных нейросетей принципиально не предсказуемо - принципиально с практической точки зрения.

[Вайт]

Что регулируемых термостатов и паровых клапанов не существует - мы уже поняли. Ещё какие новости физики и технологий нам поведаете?

Очень интересные новости:

Открытые системы в процессе взаимодействия со средой могут достигать так называемого эквифинального состояния, то есть состояния, определяющегося лишь собственной структурой системы и не зависящего от начального состояния среды. Такие открытые системы могут сохранять высокий уровень организованности и развиваться в сторону увеличения порядка и сложности, что является одной из наиболее важных особенностей процессов самоорганизации.

Открытая система (физика) — Википедия.

Могут это «паровые клапаны и регулируемые термостаты»?

Я Вам сейчас ВНЕЗАПНО одну страшную тайну поведаю: способность эволюционировать и адаптироваться ограничена у ВСЕХ ВООБЩЕ живых и неживых систем без исключения.

Верно. Только и у меня был сравнительный анализ.

Что препятствует искусственной системе, управляемой ИИ, со временем заменить внешнее обслуживание на своё собственное, развив соответствующие функции?

Я же написал: «...отсутствие открытости и равновесность не позволит ей реализовать сложное поведение в принципе. Не хватит пластичности, целостности и чувствительности. Способность эволюционировать, приспосабливаться, обучаться у такой системы будет ограничена - и "целеполагание" (что бы вы под ним не понимали), соответственно, тоже. Как следствие, искусственные системы должен кто-то создавать, направлять и поддерживать их функционирование.»

По-видимому, вы не понимаете, что такого есть в открытости и т. д., почему это так влияет на возможности систем. Но это долго объяснять. Прочитайте первую часть здесь — Самоорганизация в организме и мозге.

Ваше субъективное впечатление об интеллекте или нравственности собеседников, а также оценочные суждения, касающиеся ценности их высказываний, вам, всё-таки, стоит держать при себе.

Не вам советы давать, Maki. Я выше написал, почему.

Полная формализация невозможна, в виду сложности системы. А также, в силу её закрытости, на которую я вам недвусмысленно намекал на примере Тетриса.

Если быть точным, полная формализация никакой системы невозможна — ни сложной, ни простой. В случае мозга речь о том, что невозможна и сколько-нибудь точная формализация.

Однако, некоторые аспекты работы мозга формализации поддаются. Что даёт все основания говорить о мозге как о, в целом, детерминированной вычислительной системе.

Что-то, естественно, поддаётся и о детерминированности можно говорить — с учётом написанного в посте ранее. Но вот о том, что мозг — это «вычислительная» система говорить нельзя. Вначале надо доказать хотя бы принципиальную возможность формализации мышления, но сказанное ранее про бифуркации, наоборот, доказывает обратное. Подробнее почему и что чего доказывает написано по ссылке выше, итог же коротко и упрощённо выглядит так:

Наконец, сложные системы, как целое, не поддаются компьютерной симуляции. (…) 1. Нельзя на основании свойств признака установить его причины (обратная задача). 2. Нельзя на основании известных причин, если они взаимодействуют между собой, установить однозначно свойства признака, вследствие возникающих свойств (прямая задача). 3. Нельзя с определенностью предсказать реакцию сложной системы на внешнее воздействие.

Нерешаемые проблемы биологии: нельзя создать два одинаковых организма, нельзя победить рак, нельзя картировать организм на геном — Е. Д. Свердлов, академик РАН, профессор, научный руководитель Института молекулярной генетики РАН, заведующий лабораторией структуры и функций генов человека Института биоорганической химии РАН.

Если под общепринятым термином "бифуркация"

Под общепринятым термином бифуркация я понимаю его общепринятое значение. И так со всеми терминами.

то о конкретных и вполне материальных причинах таких бифуркаций на уровне нейрона я вам и напомнил.

Нет, не напомнили. Потому что сами по себе описанные вами причины не являются принципиальным препятствием для формализации. Таким препятствием является то, что для качественного изменения поведения системы достаточно бесконечно малого изменения любого параметра системы, а также, что в состоянии неравновесия система приобретает свойство целостности, поэтому её нельзя разобрать, не потеряв информацию о ней (модель - обрушение песчаной кучи, подробнее по ссылке выше).

Разумеется, лишь в пределах доступных науке методик.

Вот только в принципе «доступные науке методы» сколько-нибудь точно работу мозга формализовать не позволят.

Я писал, что поведение достаточно сложных нейросетей принципиально не предсказуемо - принципиально с практической точки зрения.

И я вам объяснил, что вы ошибаетесь. Искусственные нейронные сети — предсказуемые. Что с практической, что с принципиальной точки зрения. А биологические — нет. Ни с практической, ни с принципиальной.

[Rattus]

Могут это «паровые клапаны и регулируемые термостаты»?

Благодарю за указание на ОРИСС - начисто снёс его только что.

Только и у меня был сравнительный анализ.

Какие величины сравнивались?

[Вайт]

Благодарю за указание на ОРИСС - начисто снёс его только что.

Про стационарные состояния видите? Пригожина наблюдаете? 9 Open system. 4 Stationary states, fluctuations, and stability.

Возвращайте, что "снесли".

Какие величины сравнивались?

Про стационарные состояния прочитайте. Какие системы их могут достигать, какие нет.

Искусственные системы - в целом равновесные и закрытые, поэтому их возможности к эволюции/приспособлению/обучению/целеполаганию ограничены, а поведение предсказуемо. Их противоположность - системы описанные Пригожиным и им подобные, упоминание о которых вы "снесли". Например, о них написано в Физической энциклопедии:

НЕРАВНОВЕСНЫЕ ФАЗОВЫЕ ПЕРЕХОДЫ - переходы многочастичных систем, находящихся вдали от термодинамич. равновесия, в стационарные состояния с дространств. или временной когерентностью. Н. ф. п. связаны с потерей устойчивости исходного бесструктурного состояния, являющегося экстраполяцией равновесного состояния в неравновесные условия, и происходят в результате бифуркаций, приводящих к возникновению новых стационарных состояний. Подобные явления имеют место в открытых системах и обусловлены флук-туациями, индуцируемыми внеш. воздействием.

Н. ф. п. и в др. системах: физических (образование конвективных ячеек Бенара; возникновение осцилляции напряжённости электрич. поля в диоде Ганна), химических (появление автоколебаний и автоволн при хим. реакциях), биологических (переход в режим ритмич. активности нейтронных ансамблей; образование неоднородных структур при морфогенезе) и т. д. Рассмотрение этих явлений в рамках единого подхода, использующего Ландау теорию фазовых переходов и теорию нелинейных колебаний и волн, составляет основу синергетики. ...

Неравновесные фазовые переходы - Физическая энциклопедия.

Физическая энциклопедия и англоязычная Википедия для вас достаточно АИ?

[MenFrame]

Могут ли некоторые неопределённости в работе нейрона, на которые я указал чуть выше, быть прямо связаны с квантовыми явлениями, и, следовательно, воистину случайны?

А какая потребность в истинной случайности для организма? Даже современная математика вполне обходиться псевдослучайностью даже в сложных задачах. Чего уж говорить про живые организмы в основе работы которых простые рефлекторные дуги.
   Или как у Вайта есть религиозное чувство что случайность истинная дает какие то волшебные преимущества?

Искусственные системы - в целом равновесные и закрытые,

Вам уже не раз говорилось что в реальности равновесных систем не наблюдается, и так будет до тех пор пока не наступит тепловая смерть вселенной.

Чушь антинаучную не надоело повторять, с упорством религиозного сектанта?

[tbisham]

Понятие "Сильный ИИ" - философическая выдумка, отчего-то впечатляющая некоторых участников этого форума. Способность проходить Тест Тьюринга вовсе не равнозначна субьектности. А ежели такая псевдоличность будет искусственно смоделирована -  получившийся гомункул не обязательно будет иметь волю и желание как-то её реализовывать. И вообще, желание существовать.

У машины нет и не будет собственных целей.

Вот только узнать бы, откуда вам все это известно. Ведь без строгих аргументаций ваши сообщения не мнее пустой философский высер.

[MenFrame]

Вот только узнать бы, откуда вам все это известно.

Это известно из современных данных о мозге и психике, где ни какой свободы воли не обнаружилось. Почему она должна быть у сильного ИИ не понятно.

[tbisham]

Это известно из современных данных о мозге и психике, где ни какой свободы воли не обнаружилось. Почему она должна быть у сильного ИИ не понятно.

Читаем внимательно цитату. Вопрос касается заявлений о том, что "у машины нет и не будет собственных целей". Что касается свободы воли. Прошу мне привести ссылку на соотвествующие исследования, в которых делается заключение о "несуществовании свободы воли".

[MenFrame]

Вопрос касается заявлений о том, что "у машины нет и не будет собственных целей"

Свобода воли это абсурдный философский внутри противоречивый концепт. Который в реальной науке не имеет не какого отражения. Вообщем это сказка, в которую верят дремучие люди.

Прошу мне привести ссылку на соотвествующие исследования, в которых делается заключение о "несуществовании свободы воли".

https://batrachos.com/sites/default/files/pictures/Books/Gazzaniga_2017_Kto%20za%20glavnogo_Svoboda%20voli%20s%20tochki%20zreniya%20neyrobiologii.pdf

[tbisham]

https://batrachos.com/sites/default/files/pictures/Books/Gazzaniga_2017_Kto%20za%20glavnogo_Svoboda%20voli%20s%20tochki%20zreniya%20neyrobiologii.pdf

Глупость в первом же предложении аннотации. Цитата: "Загадка повседневной жизни заключается в том, что все мы, биологические машины в детерминированной Вселенной". Квантовая механика уже около века, как доказала, что Вселенная для классического наблюдателя совершенно недетерминированна. Более того, она субъективна. Когда вы пишете волновую функцию к интересующему вас квантовому объекту, то она субъективна. Сама ВФ эволюционирует детерминированно, но как только вы войдете с ней в контакт, все, детерминированность сменяется случайностью и вероятностями. Не вижу смысла читать это дальше. Но посоветую ознакомиться, хотя бы, с этим научным результатом.
https://en.wikipedia.org/wiki/Free_will_theorem

[MenFrame]

Квантовая механика уже около века, как доказала,

Не чего она не доказала....а просто опустила руки. Во вторых даже квантовая механика детерминирована, если бы это было не так то не существовало проблемы отсутствия волос у черных дыр. Ну и в третьих детерминизм здесь классический, то есть наблюдаемый где действия КМ практически не заметны. Это имеется ввиду.

Не вижу смысла читать это дальше.

Ради бога...вы просили ссылки на исследования...Газанига может в детерминизме и КМ не разбирается, зато хорошо разбирается в нейробиологии. Он сам является авторитетным исследователем.

Но посоветую ознакомиться, хотя бы, с этим научным результатом.

Этот результат к свободе воли не имеет отношения. Воля это желание, а не случайный процес....

[Maki]

Дык диффузия и включена в молекулярную динамику. Не понял вопроса.

Пардоньте, имел в виду не синаптическую щель, а мембрану клетки в целом, которая в фазе относительной рефрактерности то ли способна к очередному возбуждению, то ли нет, в основном в зависимости от скорости ионной диффузии.

[Olweg]

И я вам объяснил, что вы ошибаетесь. Искусственные нейронные сети — предсказуемые. Что с практической, что с принципиальной точки зрения. А биологические — нет. Ни с практической, ни с принципиальной.

Я не увидел с вашей стороны объяснений предсказуемости нейросетей. Ну а что касается какой-то особой выделенности биологических нейросетей, то это не более чем ваше мнение.