Психика, сознание, разум - определения и возможность моделирования

[Вайт]

мне не нужно гуглить - я специализированную литературу читал.

Вам нужно было вот так написать: Специализированную Литературу — с большой буквы. Чтобы сразу понятно было, что это вам видение такое было — Специализированной Литературы. Настоящей-то специализированной литературы такой нет. 

Когда голова от видений освободится, подумайте вот над чем. У вас в желудке пища переваривается. Смоделируйте это процесс на компьютере. Сможете? Компьютер после этого переварит чего-нибудь? Не переварит. Чего-то ему не хватит, не так ли? Вот того же, чего и искусственной нейронной сети не хватит, чтобы стать мышлением, и по тем же причинам никакая программа не может иметь сознание. Теперь думайте, что это.

до свидания!

Заходите ещё.

Я бы сказал нет, потому что сеть не воспринимает, а вероятностно распознаёт. Наши квалиа формировались эволюционно трендами на выживание, поэтому для нас имеют значения в рамках выживания: "тревожный" цвет/звук, "вкусный" вкус и т.д.

"Наши квалиа формировались" в принципиально другом физическом процессе, чем работа искусственных нейронных сетей.

Ежели компьютер выключить, то его потом всегда можно включить, а ежели человека, значить, задушить, то потом оживить его не получится. И в этом принципиальная разница.

Теперь правильно. Но именно это у меня и было написано, только точнее. А «оживить не получится» — потому что, если невозможно измерить, то есть вычислить, то нельзя и восстановить обратно. Потому что неизвестно, что конкретно было утрачено.

Конечно! http://roboticslib.ru/books/item/f00/s00/z0000033/st010.shtml. Есть и более новое. Например: https://habr.com/ru/company/robotgeeks/blog/251781/

Чушь. Точнее полная чушь, но из уважения к вашему модераторству - просто чушь. Однако учитывая, что вам за эту чушь плюсы ставят, всё-таки полная чушь.

[ivanij]

Чушь. Точнее полная чушь, но из уважения к вашему модераторству - просто чушь. Однако учитывая, что вам за эту чушь плюсы ставят, всё-таки полная чушь.

 Почему?

[Вайт]

Почему?

Вы отвечали на этот пост vika vorobyeva. Её вопрос касался наличия у роботов сознания - полагаю, это очевидно. Так вот, там дальше есть обсуждение, из которого понятно, что ответ минимум не является очевидным. Поэтому «Конечно!» явно не подходит. Как и ваши ссылки.

[Андрей Астрофизический]

Однако учитывая, что вам за эту чушь плюсы ставят, всё-таки полная чушь.

Плюс был поставлен вообще не за то, что было в ссылке

[Вайт]

Плюс был поставлен вообще не за то, что было в ссылке

Ваш плюс был за то, что на вопрос "воспринимает ли этот робот реальность (пусть даже какую-то свою, упрощенную)?", ivanij дал ответ "Конечно!". Так? А этот ответ неверен. Более того - это чушь.

[vika vorobyeva]

Ого, тут дискуссия разгорелась

Ладно, я зайду с другой стороны.
Вот есть почвенный червь C. elegans, нервная система которого содержит ровно 302 нейрона. Червь, безусловно, живой, и его нервная система продуцирует квалия, согласны? Коннектом червя полностью описан и может быть эмулирован на компьютере. Эмуляция нервной системы C. elegans продуцирует квалиа? А если этот компьютер управляет роботом – механическим червем? Который будет ползать, как настоящий, выбирать направление, почуяв эмуляцию "приятного" вкуса и в целом делать все то, что делает живой червь? К роботу можно даже систему датчиков прикрутить, чтобы обеспечить "органы чувств".

Я так понимаю, здесь есть сторонники идеи витализма, согласно которой психический поток может продуцироваться только живым (биологическим) существом. Но как быть с полной компьютерной эмуляцией такого существа?

[Вайт]

Я так понимаю, здесь есть сторонники идеи витализма,

Кто это? Или вы сторонников физики называете сторонниками витализма? Тогда объясните, как физика сочетается с витализмом. Может, я чего-то не знаю.

Но как с полной компьютерной эмуляцией такого существа?

Нет такой и не предвидится. У вашей нематоды описан только коннектом.

[Вайт]

его нервная система продуцирует квалия, согласны?

Кстати, и да и нет. Физические основания для квалиа у червя есть, но слишком простая архитектура его нейронной сети (это вот то, что коннектом) иметь сознание не позволит. Требуется ещё наличие внимания, то есть того, что с этим в мозге связано.

[vika vorobyeva]

А причем здесь физика?
На самом низовом уровне и червь, и робот состоят из молекул. То, что управляет червем – система связей между нейронами – может быть воспроизведена в железе. По идее, качественно сделанный робот-червь будет ползать, как живой червяк.
 
На самом деле я не знаю, проводились ли такие эксперименты. Но механические "собаки" Boston Dynamics вполне себе бегают, так что это реально.

Я сейчас специально не касаюсь проблемы разума и свободы воли. Мы обсуждаем самые простые нервные системы, реализованные в природе. Можно ли их адекватно эмулировать? Будет ли такая эмуляция тождественна по квалиа своему оригиналу?

[Olweg]

Червь, безусловно, живой, и его нервная система продуцирует квалия, согласны?

Хоть и оффтоп в этой теме, но то, что у червя есть квалиа - совершенно неочевидно. У человека, например, мозжечок содержит большую часть нейронов головного мозга - десятки миллиардов. Тем не менее никакой активности, связанной с сознанием, в мозжечке не зафиксировано. Всё, что делает мозжечок (контроль движений), происходит на автомате. Это только один из примеров. На автомате идут даже некоторые процессы в коре (известный пример - слепозрение).

[vika vorobyeva]

то, что у червя есть квалиа - совершенно неочевидно

Это и интересно – с какого количества камешков начинается куча И какая нужна минимальная архитектура/мощность нервной системы, чтобы начать генерировать психический поток.
Это и в разработке ИИ поможет провести нужные границы. Типа, вот досюда у нас точно тупой робот, а дальше возможны варианты.

[Olweg]

Дело не в мощности, а именно в архитектуре. Я как-то интересовался этим вопросом, да и сейчас интересуюсь, могу посоветовать несколько статей по теме:
https://astronomy.ru/forum/index.php/topic,118403.msg4017925.html#msg4017925 (этот пост и ещё несколько ниже)

Однозначно уже можно сказать, что если в системе есть только прямые связи («рефлекторные дуги»), то никакого сознания, квалиа не возникнет.

[Ый]

Коннектом червя полностью описан и может быть эмулирован на компьютере.

Не может. Все, кто описывает мозги (не важно чьи), подсчитывают количество нейронов, количество связей, и думают этим дело закончилось, можно создавать искусственный мозг. Мозг-то, может, вы создадите, но живое существо - нет. Это как сделать процессор компьютера, и не сделать всю обвязку, всю структуру компьютера. Так что этот процессор будет просто напросто куском кремния. Пусть в мозге червяка совсем немного нейронов, но тело его состоит из живой ткани, насквозь пронизанное нервными волокнами с различными окончаниями, которые реагируют на разного типа раздражители. Кожа покрыта бесчисленным "датчиками" - нервными окончаниями, мышцы эластичные и меняющие свою форму в зависимости от разных причин, как внешних, так и внутренних, поступающих от мозга. Приведите пример хоть одного искусственного устройства, которое хоть в микроскопической степени соответствовало бы этим свойствам и возможностям живого организма, даже самого примитивного? Живой организм это в первую очередь не мозг (у низших животных его вообще нет), а мышцы, пронизанные нервными волокнами и нервные окончания по всему организму. Вот сделайте такое, а потом уже прилаживайте к нему мозг.

[cybertron]

А кто сказал что это все нельзя проэмулировать на компьютере?
Подавать ему сигналы на его виртуальные нейроны - и "червь" будет думать что он видит. И будет ползать по своему виртуальному миру.

[Ый]

И будет ползать по своему виртуальному миру.

В том-то и дело, что в "виртуальном". В виртуальном мире много чего создано, но к реальности это не имеет никакого отношения.

[Проходящий Кот]

Рецепторы и исполнительные органы --- неотьемлемая часть моделирования нейронной сети робота.
Даже в моделях Амосова 60х годов.

[noxx77]

Червь, безусловно, живой, и его нервная система продуцирует квалия, согласны?

Не согласен. Квалиа имеют отношение только к сознанию, точнее к тому, как оно воспринимает сигналы физических ощущений, по сути о качественных характеристиках отношения восприятие-сознание. У червя же речь лишь о рефлекторных реакциях на раздражения. Чтобы появились (эквиваленты) квалиа надо хотя бы эмулировать сознание.

На самом деле я не знаю, проводились ли такие эксперименты. Но механические "собаки" Boston Dynamics вполне себе бегают, так что это реально.

Бегают - да, и вполне успешно реагируют на среду. По сути у них есть восприятие (сумма согласованных ощущений) и примитивный эквивалент сознания. Можно говорить о своеобразном эквиваленте квалиа, но крайне отличном от человеческого.

[Вайт]

А причем здесь физика?

Вы же физическую систему моделировать собрались. Открытую, термодинамически неравновесную, диссипативную. Слышали о таких? Это, например, ячейки Бенара, лазер, клетка, организм, мозг, биосфера. В ссылке ранее на англ. Википедию написано, что такие системы фундаментально отличаются от равновесных. Не просто отличаются, а фундаментально. Более того — аж два раза фундаментально. О чём-то это говорит, верно? Особенно, учитывая, что моделировать вы их будете именно в равновесной системе.

На самом низовом уровне и червь, и робот состоят из молекул. То, что управляет червем – система связей между нейронами – может быть воспроизведена в железе. По идее, качественно сделанный робот-червь будет ползать, как живой червяк.

«По идее» да, а по факту нет. Поведение таких систем, о которых написано выше, связано с хаосом, бифуркациями и неравновесными фазовыми переходами. Хаос — это множество бифуркаций, а неравновесный фазовый переход — это переход системы через точку бифуркации от хаоса к порядку. Например, каждое переключение внимания — это неравновесный фазовый переход. Моделировать такие процессы сколько-нибудь адекватно оригиналу невозможно. Не то что «в молекулах», но даже в квантовой механике хаос не выводится.

Причины проблем с моделированием вкратце описаны здесь:

В точке бифуркации к активной реакции может привести бесконечно малое изменение параметров системы. Поэтому предсказание поведения такой системы потребует абсолютной точности описания — система должна быть описана во всех «бесконечно малых» подробностях. … Представление о бесконечно малых изменениях относится к математической модели бифуркации. В реальности же «бесконечно малое изменение» — это некое «истинно элементарное» событие. Но никакая физическая теория не описывает мир на истинно элементарном масштабе. ...

Ещё одно важное следствие неравновесного состояния в том, что чем неравновесие выше, тем меньше информации можно получить о системе, так как чтобы система «обрушилась» и информация о её внутренней структуре была утрачена, достаточно всё более слабого воздействия. Например, при приближении к точке бифуркации даже само наблюдение начинает влиять на систему, из-за чего наблюдать систему требуется очень аккуратно, чтобы наблюдение не привело к её обрушению. Но это требование вступает в противоречие с тем, что систему необходимо наблюдать максимально глубоко, потому что если к качественным изменениям в поведении системы может привести бесконечно малое изменение её параметров, то предсказать поведение системы можно, только если знать её устройство на уровне бесконечно малых подробностей.

На самом деле я не знаю, проводились ли такие эксперименты. Но механические "собаки" Boston Dynamics вполне себе бегают, так что это реально.

Выкиньте эту собаку за забор. Они не бегают, а выполняют трюки там, куда их поставили, и так, как их запрограммировали. Это, конечно, тоже хорошо, но бесконечно далеко даже от способностей хотя бы насекомых. Включая и тех искусственных четырёхногих мулов, которые могут действительно передвигаться по пересечённой местности.

Чтобы понять, как бегают искусственные собаки в действительности, надо смотреть на собак и роботов, которые есть в продаже или используются, например, армией — не в мечтах и проектах, а в реальности.

Я сейчас специально не касаюсь проблемы разума и свободы воли. Мы обсуждаем самые простые нервные системы, реализованные в природе. Можно ли их адекватно эмулировать? Будет ли такая эмуляция тождественна по квалиа своему оригиналу?

Вопрос о свободе воли, кстати, простой. Если знать физику работы мозга и иметь хотя бы самое общее представление о нейронных сетях. Ответ, правда, неожиданный.

Это и интересно – с какого количества камешков начинается куча  И какая нужна минимальная архитектура/мощность нервной системы, чтобы начать генерировать психический поток.
Это и в разработке ИИ поможет провести нужные границы. Типа, вот досюда у нас точно тупой робот, а дальше возможны варианты.

Психический поток? Это вы откуда взяли? Этого даже в популярной белиберде нет вроде. Что касается тупых роботов, то тупым робот будет всегда — по сравнению с человеком. А так может быть даже очень умным:

Тем не менее в отдельных задачах искусственные системы могут и превосходить человека. Например, за счёт более точного соответствия устройства системы задаче или за счёт объёма или скорости выполняемой более простой работы. К примеру, калькулятор считает быстрее человека, а автомобиль может быстрее человека перемещаться в пространстве. Или, выделив в своём опыте задачу, человек может создать систему, которая сможет найти её решение «самостоятельно» в процессе обучения, то есть в последнем случае искусственный интеллект как будто бы превзойдёт человека именно в интеллекте. Но на самом деле как раз за счёт качественно более высокой сложности человек способен выделить в своём опыте и задачу, и придумать систему, которая, оставаясь много проще человека, в процессе обучения только лишь выявит в задаче некоторые частные закономерности, не замеченные человеком.

На практике это ограничение означает, что получится или создать искусственную систему, работа которой будет повторять мышление человека в целом, начиная от распознавания условий и до построения действий, но воспроизведённого на очень простом уровне, или систему, которая будет, может быть, и превосходить человека, но лишь на уровне отдельных элементов его опыта. И чем более частный характер носит задача, тем «превзойти себя» человеку будет проще, а превосходство может быть заметнее. И наоборот, по мере расширения возможностей искусственных систем и приближения их к полноте возможностей человека превосходство быстро сменится отставанием. Другими словами, возможности усложнения систем, способных делать то, что в целом делает человек, то есть ставить задачи и решать их, всегда будут ограничены уровнем сложности много ниже тех же способностей человека.

Хоть и оффтоп в этой теме, но то, что у червя есть квалиа - совершенно неочевидно. У человека, например, мозжечок содержит большую часть нейронов головного мозга - десятки миллиардов. Тем не менее никакой активности, связанной с сознанием, в мозжечке не зафиксировано. Всё, что делает мозжечок (контроль движений), происходит на автомате. Это только один из примеров. На автомате идут даже некоторые процессы в коре (известный пример — слепозрение).

Комментировать эту фантасмагорию бессмысленно — всё надо выкидывать. Поэтому лучше я задам вам вопрос. В стадии глубоко сна сознания нет. Почему? Мозг работает, он не умер, все связи целы, всё есть. Но чего-то не хватает. Чего? Достаточно самого общего ответа. И второй вопрос, связанный с первым. Вот то, чего не хватает, как вы «это» смоделируете?

Дело не в мощности, а именно в архитектуре. Я как-то интересовался этим вопросом, да и сейчас интересуюсь, могу посоветовать несколько статей по теме: https://astronomy.ru/forum/index.php/topic,118403.msg4017925.html#msg4017925 (этот пост и ещё несколько ниже)

Однозначно уже можно сказать, что если в системе есть только прямые связи («рефлекторные дуги»), то никакого сознания, квалиа не возникнет.

То есть с 17 года вы так на уровне рефлекторных дуг и остались? Ни физика в вашу голову не поместилась, ни хотя бы нейронные сети? Однако.

Что касается Тонони. Вы критику его идей читали? Нет. Собственно, вы бы её и не поняли, там люди пишут помногу и непонятно. Но вот это вам, наверное, немного глаза откроет:

Теория интегрированной информации получила широкое освещение в мейнстримных научных изданиях. Однако по состоянию на 2016 год её сторонники оставались среди нейроучёных и философов в меньшинстве[61].

Трудная проблема сознания — Теория интегрированной информации — Википедия.

С 16 года ничего не изменилось. Чушь она и в Африке чушь, даже если в красивой обёртке.

Вкратце, его идеи — чушь, то потому что там нет физики. Он связывает сознание только с интегрированностью системы — чем больше связанность её элементов, тем больше сознания. Однако это означает, что сознание становится нефальсифицируемой сущностью. Его это не волнует, а народ против. Нефальсифицуруемой она становится потому, что:

Рассмотрим ещё один аргумент.

Один и тот же результат вычислений может быть получен по-разному: программно или аппаратно, искусственную нейронную сеть с обратными связями можно заменить сетью только с прямыми. Поэтому если можно создать искусственную нейронную сеть, не менее сложную, чем мозг человека, то работу такой вычислительной системы тоже можно будет организовать по-разному. Однако несложно заметить, что в этом случае не остаётся места сознанию.

Например, если предположить, что сознание есть во всех вычислительных системах, которые выполняют одну и ту же функцию, и оно во всех системах одинаковое, то сознание, следовательно, зависит только от функции, которую выполняет система, ведь организация у всех этих систем разная. Но это значит, что сознание не материя, так как функция — это не материя. Если предположить, что сознание у систем разное, отражая их разную организацию, или есть только в системах какой-либо определённой организации, то сознание, следовательно, никак не зависит от функции — ведь функция у всех систем одна и та же. Но это опять означает, что сознания не существует, так как организация, схема — это тоже не материя. В результате сознание превращается в нечто противоречивое, ему нигде нет места, оно не может существовать. Однако очевидно, что сознание есть и оно связано с работой мозга. 

Этот аргумент также говорит о том, что сознание может быть только в невычислимых системах, то есть таких, описать работу которых в принципе невозможно, так как только в этом случае функцию и организацию системы принципиально невозможно сколько-нибудь точно отделить от материи этой системы. Это не делает сознание понятнее, однако сознание перестаёт быть противоречивым и становится следствием высочайшей сложности мозга, выраженной в прямой связи его работы с элементарным уровнем материи.

Гёделевский аргумент и вычислимость интеллекта, стр. 12.

Не может. Все, кто описывает мозги (не важно чьи), подсчитывают количество нейронов, количество связей, и думают этим дело закончилось, можно создавать искусственный мозг. Мозг-то, может, вы создадите, но живое существо - нет. Это как сделать процессор компьютера, и не сделать всю обвязку, всю структуру компьютера. Так что этот процессор будет просто напросто куском кремния. Пусть в мозге червяка совсем немного нейронов, но тело его состоит из живой ткани, насквозь пронизанное нервными волокнами с различными окончаниями, которые реагируют на разного типа раздражители. Кожа покрыта бесчисленным "датчиками" - нервными окончаниями, мышцы эластичные и меняющие свою форму в зависимости от разных причин, как внешних, так и внутренних, поступающих от мозга. Приведите пример хоть одного искусственного устройства, которое хоть в микроскопической степени соответствовало бы этим свойствам и возможностям живого организма, даже самого примитивного? Живой организм это в первую очередь не мозг (у низших животных его вообще нет), а мышцы, пронизанные нервными волокнами и нервные окончания по всему организму. Вот сделайте такое, а потом уже прилаживайте к нему мозг.

Что вы хотите сказать — понятно. Но это неадекватное упрощение. «Много чего меняется» — не принципиальная проблема и в данном обсуждении аргументом служить не может.

По сути у них есть восприятие (сумма согласованных ощущений) и примитивный эквивалент сознания. Можно говорить о своеобразном эквиваленте квалиа, но крайне отличном от человеческого.

«По сути» было бы лучше, если бы вы обошлись без фантазий. Станьте ближе к фактам.

[николай теллалов]

В стадии глубоко сна сознания нет.

доказано?

только без, как обычно, ссылок на самого себя, плз

[BlackBox]

И какая нужна минимальная архитектура/мощность нервной системы, чтобы начать генерировать психический поток.
Это и в разработке ИИ поможет провести нужные границы. Типа, вот досюда у нас точно тупой робот, а дальше возможны варианты.

Необходима обратная связь с исследуемыми объектами, что сейчас непонятно как организовать в машинном обучении.
У людей это происходит как бы само собой, понаблюдайте за детьми,-хватательные и всякие сосательные рефлексы у человека зашиты изначально.
Возможно прорыв в этой области начнется с появлением массово нейроинтерфейсов.
Сейчас по крайней мере наблюдается движение в направлении VR.
Для понимания нужна некая БД, а она появится именно при массовом распространении API вроде NGC-TensorFlow и др.
Уже есть тенденция встраивания в массовые чипы тензорных ядер для работы с ПО, скоро в большинстве смартфонов станет обычным делом.
Пока что ограничивается все в простейших распознаваниях образов и переводчиках, но так или иначе нужно время для сбора большого кол-ва данных.
 Некая критическая масса данных при работе с которыми,-тестами или еще как мы сможем точно определить: вот это признаки сознания, а это интеллект. А где то и критическому мышлению или волевым качествам место найдется, формализовать думаю эти признаки несложно.