Психика, сознание, разум - определения и возможность моделирования

[Maki]

Простая рефлекторная реакция - вообще безэмоциональна. Ну как когда подскакиваешь при виде какой-нибудь многоножки, ползущей рядом по стене. Страх приходит позже уже как осознанная эмоция (хотя осознание эмоции для принятия решений, разумеется, не обязательно - человек часто не отдаёт себе отчёта в мотивах своих поступков). Функция эмоций, конечно, шире одной только оценки. Ещё как минимум мотивация, и подкрепление тоже - на будущее, для обучения.

Интересно, что в этом примере, сперва идёт оценка раздражителя, причём даже безусловнорефлекторная, а только затем эмоция. Если я отдёрнул руку при виде безобидной трещинки на стене - я испытаю не облегчение, а стыд. И это именно "подкрепление на будущее".

Скорее можно говорить о взвешивании альтернатив. То есть непосредственная эмоция сравнивается с эмоциями, которые могут быть вызваны последствиями. Плюс опыт аналогичных ситуаций. Лобные доли дают преимущество именно в плане прокручивания альтернатив, но все эти альтернативы тоже эмоционально окрашены - иначе никак.

Альтернатива, чреватая страхом или болью, отметается без, собственно, переживания самих этих эмоций. Всё-таки эмоциональная составляющая в наших оценках не так ярка, как например у детей. Рассудочность делает нас в бОльшей степени "машинами".
 

Зависит, видимо, от сложности системы и от сложности среды, с которой она работает. Если, скажем, это сложная иерархически устроенная нейросеть с разными модулями, обрабатывающими разные типы информации, принимающая решения на основе всей этой информации и работающая в реальном мире, то есть полноценный ИИ, то очень сложно будет, если вообще возможно, изначально сформулировать нужную функцию. Но тут уже начинаются дебри.

Если рассуждать с другой стороны, то эмоции у человека возникают как реакция организма на определённые раздражители (в том числе и воображаемые), которую мозг потом «считывает» с тела. Известно, что если расслабить напряжённые мышцы и глубоко вздохнуть несколько раз, то страх отступит - психосоматика. Но сами реакции могут быть очень просты и в основе своей рациональны - с эволюционной точки зрения. Вопрос, таким образом, сводится к тому, будет ли ИИ «ощущать» свои реакции на ситуации как некие чувства или они будут проходить на автомате.

Мне кажется, верны оба мнения.
Чем сложнее и ответственней сеть - тем более аутичной она должна быть, и тем сложней придать ей качества личности и удержать при этом в стабильном состоянии.
А вот весьма скромный, но до предела напичканный сенсорами вычислитель, "заточенный" не человекоподобие, может достигнуть и весьма пугающего сходства...

[loky1109]

Цитата: Maki от Сегодня в 17:24:28

    Но зачем доводить машину до появления "Я"?

Совершенно не обязательно.

"я" - тоже побочный эффект усложненной думалки

Да, но я не уверен, что прям совсем гарантированный. Да и не сразу же, а с какого-то момента.

[loky1109]

Интересно, что в этом примере, сперва идёт оценка раздражителя, причём даже безусловнорефлекторная, а только затем эмоция. Если я отдёрнул руку при виде безобидной трещинки на стене - я испытаю не облегчение, а стыд. И это именно "подкрепление на будущее".

Перед отдёргиванием, кмк, тоже есть эмоция, только её не осознаёшь. Именно эмоция в смычке с непосредственно раздражителем запускает рефлекс.

[Maki]

Вероятно ему нужно прописывать другие подкрепления. Они от этого эмоциями быть не перестанут. Вероятно некоторые из них среди живых существ аналогов иметь не будут, но эмоциями всё-равно являться.

По сути, весь разговор о терминологии.
Я всё-таки предлагаю, во избежание смешения понятий, в случае машин говорить именно о подкреплении, и даже о рефлексе, но такие понятия как "личность" или "эмоции" оставить миру животных (и имитирующих их устройствам). Тем более, что прописывать эти вещи

...возможно для каких-то задач будет полезно или даже необходимо.

"я" - тоже побочный эффект усложненной думалки

Боюсь, что простого "усложнения" тут категорически недостаточно. И ключевую роль будет играть количество степеней т.н. "рекурсии" и сенсорное оснащение аппарата. Возможно, без какой-то физической обособленности, ощущение "Я" не формируется.

[Olweg]

Перед отдёргиванием, кмк, тоже есть эмоция, только её не осознаёшь. Именно эмоция в смычке с непосредственно раздражителем запускает рефлекс.

Думаю, нет, под эмоцией всё-таки понимается что-то достаточно продолжительное. Реакция на реакцию. Поскольку эмоция может сознаваться, то она связана с корой, а непосредственная реакция проходит по более древним путям - так быстрее.

[loky1109]

Нам в теме срочно нужен нейрофизиолог.

[николай теллалов]

я не уверен, что прям совсем гарантированный. Да и не сразу же, а с какого-то момента

и я так считаю

[Maki]

Думаю, нет, под эмоцией всё-таки понимается что-то достаточно продолжительное. Реакция на реакцию. Поскольку эмоция может сознаваться, то она связана с корой, а непосредственная реакция проходит по более древним путям - так быстрее.

Согласен. Иначе, в "эмоции" можно свалить абсолютно всю нервную деятельность.

Нам в теме срочно нужен нейрофизиолог.

Ну вот гугл выдал диссертацию психолога.

У больных с поражением лобных долей мозга нарушения эмоциональной сферы по знаку и интенсивности проявляются в характеристиках познавательных процессов. В зависимости от стороны поражения лобных долей мозга больные предпочитают запоминать позитивные или негативные слова. При решении гностической задачи больные ошибочно ранжируют и интерпретируют картинки с изображением эмоций разного знака и интенсивности.

Ну и так далее.
В каких бы отделах ни зарождались эмоции - лобные доли всегда участвуют в их обработке.

[loky1109]

Ну вот гугл выдал диссертацию психолога.

Нужен бы именно физиолог.

[Вайт]

Вывод: чтобы рассуждать о теореме Гёделя в отношении ИИ, вначале стоит подумать об ограничениях её применимости.

Нет, вывод другой. Нужно читать, что комментируете. Все ваши «аргументы» в статье рассмотрены.

Эмоции можно рассматривать как аналог оценочной функции у искусственного интеллекта.

Если вы создадите искусственную нейронную сеть, равную по сложности мозгу человека, то вести она себя будет как человек, но сознания (и эмоций соответственно) в ней не появится, так как работа искусственных сетей принципиально отличается от биологических.

Прочитали?

А теперь забудьте, потому что принципиальные отличия работы искусственных и биологических сетей не позволят создать столь сложную искусственную нейронную сеть. Это невозможно в принципе. Но аргументов — как будет проявляться принципиальное ограничение на практике — ещё приведено не было. Подскажу вам, где они:

Итак, мы выяснили, что естественный интеллект обладает принципиальным преимуществом в сложности перед любыми искусственными системами. Формул, которыми можно описать мышление не просто много, формулами нельзя выразить мышление в принципе. Но если в искусственной нейронной сети очень много нейронов? Сможет ли количество перейти в качество? Может быть, достаточно даже просто количества? Есть ли предел сложности искусственных систем, создаваемых человеком? ...

Продолжение на стр. 14. Гёделевский аргумент и вычислимость интеллекта.

Нам в теме срочно нужен нейрофизиолог.

Учитывая, что вы не способны разобраться даже в том, как в целом работают нейронные сети и слова «распределённая система» не вызывают у вас никакого адекватного отклика — из-за чего у вас эмоции связаны с корой, а ретикулярные формации думают за весь мозг — то нейрофизиолог вам не нужен. Вам нужна другая тема.

[Olweg]

А теперь забудьте, потому что принципиальные отличия работы искусственных и биологических сетей не позволят создать столь сложную искусственную нейронную сеть. Это невозможно в принципе.

Вам не кажется, что ещё никого на астрофоруме вы в свою веру обратить не смогли? Так стоит ли упорствовать?

[loky1109]

Вам нужна другая тема.

Мне кажется, что вам. И предлагаю не приписывать мне то, чего я совершенно точно не говорил.

Это невозможно в принципе.

Законы физики запрещают собрать мозг искусственно?

[Вайт]

Законы физики запрещают собрать мозг искусственно?

Именно. Особенности мозга таковы, что его нельзя "собрать".

Как можно заметить, эти особенности качественно отличают организм от «пассивных» равновесных систем, например компьютеров, которые можно включать, выключать и даже разбирать на детали и собирать обратно без каких-либо серьёзных последствий для их последующей работы. Поэтому если про компьютер можно сказать, что он состоит из отдельных деталей, взаимодействующих по некоторому алгоритму, то организм в высшей степени состоит «из среды».

На практике высокая зависимость от среды проявляется в том, что организм невозможно «разобрать» без значительной утраты информации о его работе — и, таким образом, этим способом изучить его работу невозможно. Вне интенсивного обмена со средой порядок элементов организма нарушится и информация о его внутренней структуре будет утрачена. Если упрощать ситуацию, то так же по песчинкам невозможно понять, какой конкретной формы была песчаная куча до её осыпания.

По тем же причинам организм нельзя «собрать», то есть нельзя сделать, изготовить, как создают все искусственные системы. Биологические системы находятся в постоянной динамике, так как их организованное состояние поддерживается посредством постоянного и интенсивного обмена со средой, причём в этом обмене участвует вся система как одно целое. В результате, в отсутствие жёстких связей и отдельных деталей, которые можно было бы последовательно соединять, биологическая система — будь то клетка или многоклеточный организм — не может быть последовательно и «собрана». Она должна «возникать» сразу и сразу функционирующей, и далее так же скачкообразно усложняться, неизменно оставаясь работоспособной, — как это и происходит в природе.

Ограничено и наблюдение организма. С одной стороны, наблюдать требуется максимально пристально, так как на поведение диссипативной системы может критически повлиять событие самого ничтожного характера, с другой — ввиду чувствительности неравновесных систем, интенсивное воздействие с целью наблюдения внутренних процессов минимум изменит их естественный ход, а максимум систему разрушит — и всё равно задолго до необходимой глубины наблюдения. 

В наибольшей степени сказанное относится к мозгу, взаимодействие которого со средой, как самой сложной системы организма, значительно более интенсивное, чем взаимодействие со средой остального организма. Причём это взаимодействие происходит не только через сигналы рецепторов, но и через вещества, поступающие в нейроны от окружающих их клеток, и все другие факторы, включая наследственные. Которые также есть своего рода «рецепторные данные», на своём уровне дополняющие сигналы рецепторов, внося свои коррективы в мыслительный процесс, усложняя поведение животного.

Пределы сложности искусственного интеллекта, стр. 49

[Maki]

А теперь забудьте, потому что принципиальные отличия работы искусственных и биологических сетей не позволят создать столь сложную искусственную нейронную сеть. Это невозможно в принципе.

Вам не кажется, что ещё никого на астрофоруме вы в свою веру обратить не смогли? Так стоит ли упорствовать?

Ну почему же?
Невероятная сложность человеческого мозга - действительно факт. И то, что мы кроме коннектома нематоды пока ничего не воспроизвели, возможно намекает на то, что человеческий невоспроизводим в принципе.
Но дальше идёт из принципиальной невоспроизводимости человеческого мозга ваш собеседник делаетт вывод о принципиальном различии естественных и искусственных нейросетей. И здесь, очевидно, содержится ошибка. Упрощённое, предельно оптимизированное подобие - почему бы и нет? 250.000 муравьиных нейронов, возможно, окажутся нам по плечу уже в обозримом будущем.

[Olweg]

Учитывая, что вы не способны разобраться даже в том, как в целом работают нейронные сети и слова «распределённая система» не вызывают у вас никакого адекватного отклика — из-за чего у вас эмоции связаны с корой, а ретикулярные формации думают за весь мозг — то нейрофизиолог вам не нужен. Вам нужна другая тема.

Видимо, адресовано мне, поэтому прокомментирую. Ретикулярная формация не «думает за весь мозг» - не нужно передёргивать. А переживание эмоций действительно связано с корой, как и любые сознательные переживания.

За сим разрешите откланяться.

[Вайт]

Упрощённое, предельно оптимизированное подобие - почему бы и нет? 250.000 муравьиных нейронов, возможно, окажутся нам по плечу уже в обозримом будущем.

Да я не против. Речь о принципиальных пределах, а про "упрощённое" я ничего не говорил. Правда, и муравей выйдет упрощённый - качественно упрощённый. Потому что 250 000 упрощённых нейронов в системе, где важно всё, это именно качественное упрощение.

Ретикулярная формация не «думает за весь мозг» - не нужно передёргивать. А переживание эмоций действительно связано с корой, как и любые сознательные переживания.

Понятно. Я так сразу и сказал - слова "распределённая система" вам ничего не говорят. Иначе непонятно, как же весь мозг думает - и только в коре есть сознание. В общем всё сложнее.

За сим разрешите откланяться.

Как угодно.

[Olweg]

Невероятная сложность человеческого мозга - действительно факт. И то, что мы кроме коннектома нематоды пока ничего не воспроизвели, возможно намекает на то, что человеческий невоспроизводим в принципе.

Я этого не исключаю, на самом деле. Повторять результат генетического алгоритма с миллионами итераций, тем более естественного, вполне может оказаться безнадёжным занятием. Но это не значит, что к нему нельзя приблизиться более простыми и понятными человеку методами, благо модульная архитектура в мозгу прослеживается довольно чётко. И часть этих модулей уже удаётся аппроксимировать искусственными нейросетками. Свёрточные нейросети сейчас фактически делают то же, что и зрительные доли мозга, и некоторые височные тоже, отвечающие за распознавание образов.

[Maki]

Да я не против. Речь о принципиальных пределах, а про "упрощённое" я ничего не говорил. Правда, и муравей выйдет упрощённый - качественно упрощённый. Потому что 250 000 упрощённых нейронов в системе, где важно всё, это именно качественное упрощение.

Понятия "принципиально" и "качественный" здесь стоит очень строго конкретизировать. "Принципиальной" разницы между комплексом нейронов и их искусственным подобием я в упор не вижу. Моделированию поддаётся всё. И разница тут только "качественная". Ибо биохимическую машину при помощи примитивных полупроводниковых технологий имитировать крайне сложно. Что, адептам "Секты Вселенского Технорепликатора", в этом разделе и разъясняет регулярно ув. Rattus.
Но, как говорится, "сложно но можно".
И ув. Olweg об этом хорошо пишет:

Я этого не исключаю, на самом деле. Повторять результат генетического алгоритма с миллионами итераций, тем более естественного, вполне может оказаться безнадёжным занятием. Но это не значит, что к нему нельзя приблизиться более простыми и понятными человеку методами, благо модульная архитектура в мозгу прослеживается довольно чётко. И часть этих модулей уже удаётся аппроксимировать искусственными нейросетками. Свёрточные нейросети сейчас фактически делают то же, что и зрительные доли мозга, и некоторые височные тоже, отвечающие за распознавание образов.

Так что речь только о некоем "приближении". НЕ более того.

И, да, биологическая эволюция - штука, при всех прочих, весьма "косячная". Не надо идеализировать наш мозг. Например, у сопоставимых по интеллекту приматов и врановых, мозги, особенно их высшие отделы, весьма непохожи. Да и плотность укладки нейронов и их размеры очень отличны. А по количеству нейронов, не блещущие умом крупные копытные превосходят псовых. Так что живой мозг - вовсе не абсолютный идеал. В нашем мозгу, просто вследствие извилистой эволюции, безусловно немало "случайного",  "лишнего" или "второстепенного". Так что, возможно, как минимум мозг муравья может быть оптимизирован и заключён во вполне компактную коробочку.

P.S.
И позволю себе указать на серьёзную фактическую ошибку:

По тем же причинам организм нельзя «собрать», то есть нельзя сделать, изготовить, как создают все искусственные системы. Биологические системы находятся в постоянной динамике, так как их организованное состояние поддерживается посредством постоянного и интенсивного обмена со средой, причём в этом обмене участвует вся система как одно целое. В результате, в отсутствие жёстких связей и отдельных деталей, которые можно было бы последовательно соединять, биологическая система — будь то клетка или многоклеточный организм — не может быть последовательно и «собрана». Она должна «возникать» сразу и сразу функционирующей, и далее так же скачкообразно усложняться, неизменно оставаясь работоспособной, — как это и происходит в природе.

Разумеется, всё совершенно не так.
Биологические системы, именно собираются. Не инженерным путём, а путём деления зиготы, и построения синаптических связей. Но сути это не меняет. И даже после 9 месяцев внутриутробной сборки, на свет божий, появляется организьм, способный только дышать, орать, и ссаться. Всё прочее в его мозгу возникает путём нейрогенеза и обучения. А без - получается вегетативное существо. И это, кстати, при наличии зашкаливающей исходной сложности. Которая, по мнению некоторых участников этой темы, гарантирует возникновение "Я" просто сама по себе.
Так что не зацикливайтесь на сложности как таковой.

[Вайт]

Ибо биохимическую машину при помощи примитивных полупроводниковых технологий имитировать крайне сложно.

Не сложно, а невозможно. Читайте тему заново. Фундаментальные отличия неравновесных систем, хаос, бифуркации, синхронизация и так далее. Гуглите каждый термин и читайте ссылки.

Биологические системы, именно собираются.

Вам бы для начала с принципами морфогенеза разобраться. Как там что "собирается".

В общем это беспредметное обсуждение. Вы не знаете, о чём говорите, а мои пояснения то ли не читаете, то ли не понимаете.

[Maki]

Не сложно, а невозможно. Читайте тему заново. Фундаментальные отличия неравновесных систем, хаос, бифуркации, синхронизация и так далее. Гуглите каждый термин и читайте ссылки.

Невозможность существует только в вашем воображении. Вам же прямо было сказано о группах нейронов, отдельных блоках и упрощённых моделях. И вы это как бы понимаете, но осознать боитесь.

Вам бы для начала с принципами морфогенеза разобраться. Как там что "собирается".
В общем это беспредметное обсуждение. Вы не знаете, о чём говорите, а мои пояснения то ли не читаете, то ли не понимаете.

Непонимание морфогенеза вы уже выказали. Специалистом в нём я, разумеется, не являюсь. Но вы тем более, и для меня это совершенно очевидно.
Ну и в порядке обучения, рекомендую перечитать весьма хорошую мысль:

Повторять результат генетического алгоритма с миллионами итераций, тем более естественного, вполне может оказаться безнадёжным занятием. Но это не значит, что к нему нельзя приблизиться более простыми и понятными человеку методами