Психика, сознание, разум - определения и возможность моделирования

[незлой]

разум == вторая сигнальная.
человек, с органическими повреждениями мозга, которые не позволят ему решать (не говоря уже -- ставить) простейшие задачи, но который тем не менее сохранил способность к внятной речи будет считаться разумным.
да/нет?
зы: поэтому тьюринг со своим тестом, вообщем, дважды прав. (или трижды?)

[Вайт]

Убирая остальную натурфилософию, базирующуюся на софистике,

По софистике к местным сектантам обращайтесь. У них всё на чистом желании и святой вере работает. Или второй сигнальной, которой нет в природе. Физика им мешает, а софистика подходит, её подо что угодно подогнать можно. Ловите их и спрашивайте. 

Самоорганизация и, соответственно, гомеостаз — это физическое основание, на котором всё остальное — то, что био-, нейро-, и инфо-. Это «остальное» мы моделировать теоретически сможем, а основание — нет. Оно невычислимо. В результате, чтобы мы ни моделировали, мы не сможем объединить это в целое — в реальный интеллект. Будут или отдельные элементы способностей человека — в которых человека можно будет и превзойти, или слабое «механическое» подобие интеллекта «целого». Всё можно — быстрее, выше, сильнее — но не умнее. Невозможно это, потому что система не сможет создать другую систему сложнее себя. Выражением этого ограничения является то, что наш язык качественно проще «языка», которым можно описать работу мозга, или, другими словами, работа «нас» связана с элементарным уровнем материи, описать который невозможно. На практике ограничение будет проявляться в том, что чем сложнее системы, тем больше времени будет отнимать каждое новое усложнение.

Любое обучение человека, вся его жизнь, проходит в активном стремлении к самосохранению и размножению. Это как течение, в которое можно кидать опыт — и течение немного изменится. Но оно никогда не поворачивает вспять и никогда не останавливается. Поэтому всё поведение биологических систем целостно, едино. Это одна общая бесконечная реакция, в которой мы субъективно выделяем элементы. И всегда обращенная на пользу себе, даже когда человек себе вредит. У ИИ такого нет. У него нет этой активности, единого потока реакций, нет стремлений на физическом уровне — и воссоздать их вычислительными средствами сколько-нибудь близко к биологической сложности невозможно. Проще говоря, у ИИ нет «встроенной» адекватности, его всему надо учить. О проблемах, которые при этом возникнут, см. в посте выше.

Да не ставит мозг животных задачи - он обеспечивает каскад ассоциативных реакций на сенсорный стимул.

Мозг в целом — это рекуррентная нейронная сеть, то есть такая сеть, которая в ответ на стимулы и серии стимулов вырабатывает последовательности сигналов, объединённых общим смыслом, — алгоритмы решения задач. Эти сети характерны наличием обратных связей (от выходных нейронов к входным) и, таким образом, круговому движению импульсов в сети. Поэтому в мозге все «каскады» тоже подчинены бесконечному круговому движению импульсов, который никогда не прекращается, — то есть постановке и решению задач.

Или, ближе к физиологии (но без нейросетевой логики): «физиологическая суть мышления — преобразование сигналов рецепторов в активность мышц и желёз. Нервная система организует работу мышц и посредством желёз координирует с работой мышц работу остального организма». Самоорганизация в организме и мозге. Или, подробнее: «Нервная система — целостная морфологическая и функциональная совокупность различных взаимосвязанных нервных структур, которая совместно с эндокринной системой обеспечивает взаимосвязанную регуляцию деятельности всех систем организма и реакцию на изменение условий внутренней и внешней среды. Нервная система действует как интегративная система, связывая в одно целое чувствительность, двигательную активность и работу других регуляторных систем (эндокринной и иммунной).» Выделено жирным для тех товарищей, которые ещё не осознали, что мозг работает как целое, а не по частям, даже несмотря на наличие разных функциональных зон.

[noxx77]

самосознание, имхо - побочный эффект функционирования сложной ЦНС или сложной машины с богатой периферией сензоров вкл датчиков внутреннего состояния, т.е. есть и предпоставки для возникновения аналога эмоций - и тут тоже надо отметить, что в силу своего конструирования, а не эволюционного возникновения, у ИИ будут надежные механизмы самоконтроля

Нет! Самосознание - система ориентации в социальной реальности, самоотнесения с группой и культурой, многие механизмы которого врождённые. Например, эмоциональная эмпатия, потребности в общении, принадлежности к группе (принятии, статусе), статусные реакции (доминирование, подчинение, забота и т.д.). Другие механизмы, с опорой на врождённые - социальные паттерны реакций, сформированные воспитанием и другим социальным опытом. Если бы самосознание было побочным эффектом, речь бы шла о самоорганизации по-Вайту, но на деле это эволюционно сформированный устойчивый механизм адаптации, позволяющий осуществлять сложное групповое поведение.

[Павел Васильев]

Нет! Самосознание - система ориентации в социальной реальности,

Пчёлы тоже ориентируются в роевой реальности, имеют систему, но не обладают самосознанием. Не надо изобретать велосипед.
Самосознание - сознание, обладающее интроспекцией, осознающее себя в окружающем мире. Моделируется рекурсивными процедурами по аналогии с фракталами Мандельброта-Жюлиа. Всё остальное - от лукавого и приведёт к запутанности подсознания и поставит проектируемый СИИ в тупик.

[николай теллалов]

Самосознание - система ориентации в социальной реальности

это определение ничего не говорит о том КАК возникает сознание
и ничем не противоречит моей гипотезе о том, что самосознание возникает именно как побочный эффект функционирования
а в функционирование как раз входят "протоколы" социального поведения (и для стадных, коллективных организмов самый важный "прокотол" - взаимоуживчивость; что в частности в отношении людей противоречит демагогеме о "изначальной порочности (и сварливости) человека")

[loky1109]

Пчёлы не обладают самосознанием

Спорно.

[noxx77]

Пчёлы тоже ориентируются в роевой реальности, имеют систему, но не обладают самосознанием.

А пчелы обладают сознанием? Между эусоциальностью и социальностью есть большая разница: в первой функционально-ролевое различие особей строится на биологическом разделении "каст", в том числе их поведения, обусловленного так же биологически - сложной системой инстинктов. Во втором - социализацией, научением. У человека инстинктов нет, есть потребности. Это принципиально отличные системы реагирования и формирования групповой иерархии.
Грубо говоря, пчела "не ориентируется" - за неё ориентируются гены, формирующие инстинкт, который сработает на совокупность стимулов, выдав фиксированную реакцию. Ей не надо осознавать себя. Человека же придётся долго кондиционировать в обществе, формируя образ его "я" - самосознание.

. Моделируется рекурсивными процедурами по аналогии с фракталами Мандельброта-Жюлиа

А зачем?

Всё остальное - от лукавого

Из какого священного писания? Желательно со ссылками.

Самосознание - сознание, обладающее интроспекцией, осознающее себя в окружающем мире.

Великолепно. Дайте вначале определение сознания, которым конкретно Вы пользуетесь. После этого можно будет разобрать, что Вы написали.

Всё остальное - от лукавого и приведёт к запутанности подсознания и поставит проектируемый СИИ в тупик.

Что и из чего следует?

это определение ничего не говорит о том КАК возникает сознание
и ничем не противоречит моей гипотезе о том, что самосознание возникает именно как побочный эффект функционирования

Важная для видового выживания функция не может быть "побочной". Даже если предположить, что она возникла как таковая, отбор будет идти на её развитие, а в развитых формах она уже будет "основной".

[николай теллалов]

Важная для видового выживания функция не может быть "побочной"

само по себе самоосознание нейтрально
инстинктов и рефлексов достаточно, вкл очень сложных
но как раз комплекс таких сложностей порождает побочный эффект "осознания своего я"

в осознании себя как "я" нет ничего ни полезного, ни вредного для выживания
с многими признаками то же самое - возникли без "цели и предназначения"
эволюция-то ведь не нарочно проектироет все и вся

и повторяю - мое утверждение всего лишь гипотеза
о природе самосознания нет единого мнения, насколько знаю

[николай теллалов]

в развитых формах она уже будет "основной"

я же и это не отрицаю

[noxx77]

вложенные функции самообучения (при обретении сознания, это вырастает в стремлении к самоусовершенствованию) просто не дадут долго нежиться на уровне болвана

Здесь мы приходим к предпосылке, что совершенствующееся знание обеспечивает более совершенный интеллект. То есть интеллект - это знание. (В том числе и как формировать новое знание). Но вопрос вычислительной мощности тоже никто не снимает. Допустим, для того, чтобы обыграть Каспарова потребовался суперкомпьютер. Меня обыграет обученный калькулятор. Потому что в шахматах я болван: мыслю негибко, считаю мало вариантов, не обладаю знаниями стратегии, допускаю много ошибок. Тем не менее, нельзя сказать, что играть в шахматы я не умею. Метафора болвана была именно об этом: он уже на человеческом уровне (пусть и плохом) в конкретном аспекте интеллектуальной деятельности и это не ноль. Но его возможности могут быть объективно ограничены - как, например, способность малой нейросети к распознаванию образов.

в развитых формах она уже будет "основной"

я же и это не отрицаю

Ок. Значит друг друга не поняли.

[noxx77]

в осознании себя как "я" нет ничего ни полезного, ни вредного для выживания

Сложная и спорная мысль. Надо обдумать. С ходу не отвечу. Возникает вопрос: а насколько образ "я" (хотя бы в исходнике) это интериоризированный совокупный образ "ты", обращённый к человеку? По факту, для социальной коммуникации и координации надо иметь договоренности о ролях, обязательствах, санкциях и т.д. . Естественно, при обретении индивидуального знания образы "ты" (санкции) будут в образ "я" интерпретироваться. Допустим "я не считаю себя слабым, я считаю себя сильным и дам тебе по морде в ответ на попытку построить меня" не нуждается в речевом оформлении - такой обмен сигналами вполне понятен. Причём образы - "ты" членов своей группы тоже находятся в психике особи. Это вполне я-отражение ("я" + сумма "ты"), хотя и дорефлексивное и дознаковое.
Тем не менее, если самосознание формируется поверх этой структуры, как механизм более гибкого социального поведения, в условиях растущей роли культуры, то это предположительно полезно для выживания.

[николай теллалов]

интеллект - это знание

способность знание добывать, им пользоваться, его "производить"

его возможности могут быть объективно ограничены

потолок какой-то есть
как у людей - не можем видеть радиоволны
поэтому придумали детектирующие их аппараты

Сложная и спорная мысль.

да
лично мне она НЕ НРАВИТСЯ
но есть голоса, говорящие даже о том, что самоосознание скорее вредит (роман "Ложная слепота")
не получается у меня просто махнуть рукой на сей тезис

если самосознание формируется поверх этой структуры, как механизм более гибкого социального поведения, в условиях растущей роли культуры, то это предположительно полезно для выживания.

а вот тут я не до конца уверен
сознание к гибкости социального поведения имеет непрямое отношение
для оной гибкости достаточно комплекса инстинктов
сознание начинает иметь значение для тех, у кого оно возникло
но то же сознание - уязвимое место
(уязвимостью сознания например Докинз объяснеят случайное, вовсе необязательное появление религии - а религия в сумме своих плюсов и минусов, имхо, выдает в конце уравнения минус в смысле выживания (например молитвами не остановить эпидемию, нужны практически противоречащие религиозному верованию действия))

[noxx77]

Естественный интеллект, по большей части, это совокупность навыков. Причём, совокупность, структурированная в определённую иерархию. Основа такой иерархии задаётся геномом, а затем модифицируется (так сказать, уточняется) в процессе онтогенеза.

Вообще, в отношении личности в психологии принято говорить о конвергенции (взаимодействии) биологического и социального. Думаю, в отношении (сильного) интеллекта стоит сказать также. Биологическая основа обеспечивает возможность формирования навыков и связных знаний, но без навыков и знаний самого интеллекта не существует.

Навык – это, по сути, алгоритм – алгоритмизированная совокупность простых актов «стимул-реакция». При этом, такой алгоритм формируется на нижних этажах иерархии в процессе набора опыта на основе врождённых алгоритмов, а на «средних» и «верхних» этажах иерархии формируется уже с участием социума и культуры.

Ну, скажем так, да, если понимать алгоритм, как последовательность действий. И да - от врождённого и непосредственного к наученному и всё более опосредованному. От индивидуального к общественному.
Навыки, кстати, могут быть и весьма сложными, например, навык поиска научной информации предполагает множество других взаимосвязанных знаний и навыков. Более того, в решении конкретных задач, человек может задействовать разный "шведский стол" навыков. Допустим, кинув мяч в баскетбольное кольцо мы недокинули и поняли (логически), что кинули слабо. Потому что вверх чем сильнее, тем выше. А чтобы кинуть сильнее придётся задействовать моторный интеллект...

Кроме того, навык – это всегда некая выученная (или подобранная/найденная опытным путём) функция (а памятуя о том, что навык можно приравнять в данном контексте к алгоритму, то это функция вычислительная). То есть, интеллект – это, по сути, набор/совокупность  вычислительных функций – вычислительный функционал (практически в математическом смысле этого слова).

Да!  Но мы говорим о моделировании ЕИ - сильном ИИ. В случае технических возможностей нашей цивилизации - моделировании электронном. По аналогии хард без софта работать не будет, как и софт без харда. Исполнение инструкции всегда предполагает наличие исполнителя, способного понять и выполнить инструкцию. Если понимать, что современные нейросети - это программы, то речь (предмет спора) о принципиальной воспроизводимости если не самого метода естественных интеллектуальных вычислений, то вычислимости машиной того же самого любым методом. Именно для этого я воспользовался аналогией "черного ящика" - неважно как "считаем", важен результат на выходе. То есть да, функция, но не привязанная к конкретному вычислителю.

И, в то же время, я этого одиночку не загоняю в совершенную изоляцию – в изоляции человек сформируется просто как «овощ» (маугли, по сравнению с ним, будет недостижимым эталоном продвинутости). 

Он не выживет - в одиночку, без живого контакта с родителем, наблюдается жесточайшее отставание в развитии и проседание иммунитета. Увы, наши потребности исходно слишком социальны и мы приспособлены именно к групповому бытию.

На базовом уровне задача/проблема решается методом подбора. Типичным способом такого решения является формирование рефлекторного кольца

Или обучение нейросети как аналогия.

Можно сказать, что, если для появившегося стимула (хоть сенсорного, хоть внутреннего паттерна сигналов – например, стремления) не находится соответствующей реакции, соответствующего навыка, соответствующего алгоритма решения, ни на одном из нижестоящих психических уровней, то на высшем психическом уровне это осознаётся как задача/проблема (например, неосознанное на высшем уровне стремление превращается в желание/хотение). И если путь/направление решения осознано на высшем уровне, то формируется (зачастую ассоциативно) цель. Целью может быть желание достичь некоего результата, получение удовольствия, утоление жажды, снятие боли, одобрения коллег, езда на велосипеде без падений и т.д.

То есть сильный ИИ должен обладать системой само-мотивации к решению (хотя бы в форме чек-листа с приоритетами). Логично.

[loky1109]

Грубо говоря, пчела "не ориентируется" - за неё ориентируются гены, формирующие инстинкт, который сработает на совокупность стимулов, выдав фиксированную реакцию.

Я выражу скепсис. За пчёл конечно фактов не знаю, но муравьи точно существенной части своих функций именно обучаются в течении жизни. Я конечно не сомневаюсь, что доля врождённого поведения у пчёл выше, чем у людей, но сильно сомневаюсь, что она близка к 100%.

Во втором - социализацией, научением.

Ещё факты про перепончатокрылых. Осы умеют распознавать лица. И узнавать конкретные лица, отличать одно от другого. И осиные и, что интересно, человеческие. Раз они это умеют, то им это зачем-то надо. Это довольно надёжно указывает на высокую вероятность наличия социальной активности среди ос. Про то, что они проходят зеркальный тест, я думаю, даже упоминать не надо.

Важная для видового выживания функция не может быть "побочной".

Это она сейчас важная, но когда-то была (вероятно) только лишь преадаптацией и функцией побочной.

[библиограф]

 

Грубо говоря, пчела "не ориентируется" - за неё ориентируются гены, формирующие инстинкт, который сработает на совокупность стимулов, выдав фиксированную реакцию.

Это набор пустых бессмысленных слов?
 За бобра тоже гены ориентируются? Очень интересно, как они это делают? Попробуйте что-нибудь построить, имея дело с реальной речкой, но при этом обладая только набором  фиксированных реакций
У бобров есть семья, социальная иерархия, распределение обязанностей, и все прочие атрибуты
правильно организованного дела - даже можно предположить проектно-конструкторский
и планово-сметный отделы   Большую плотину строят несколько поколений бобров -
и несколько семей; они должны взаимодействовать при строительстве и принимать согласованные
решения.
Я часто езжу в Нижне-Свирский заповедник, там бобрам раздолье; в течении нескольких лет я
наблюдал как бобры перегораживали каскадом плотин ручей Часовенский, работа того стоила:
результат - затопили примерно, квадратный километр леса. Так вот, плотины строились
одновременно, несомненно несколькими семьями (бригадами), а результатом
хвостатые строители смогли воспользоваться только после завершения всей работы.

[MenFrame]

это определение ничего не говорит о том КАК возникает сознание

Сознание возникает как реакция на окружающую среду, а вот самосознание это реакция на собственные реакции.

[николай теллалов]

это определение ничего не говорит о том КАК возникает сознание

Сознание возникает как реакция на окружающую среду, а вот самосознание это реакция на собственные реакции.

и это моей гипотезе не противоречит

просто другими словами сказано то же самое, что я предполагаю

[MenFrame]

просто другими словами сказано то же самое, что я предполагаю

Вы говорили о самосознании как о побочном эффекте. В то время как этот эффект вполне прямой. Умение видеть самого себя со стороны важный навык выживания в социуме.

[николай теллалов]

Умение видеть самого себя со стороны важный навык выживания в социуме.

странная фраза "выживание в социуме"

сам социум есть средство выживания

и как раз слишком уж сосредотачиваться на себе - не самый лучший способ гладко взаимодействовать с окружающими

[crazy_terraformer]

Таки эволюцию никто не отменял. Как и внутривидовую борьбу.