Психика, сознание, разум - определения и возможность моделирования

[Серый Страж]

В системе (пусть это будет хоть организм, либо только его часть (например, мозг), хоть компьютер) всякие там эмоции, чувства, переживания, мысли, вычисления, личный опыт и пр., это процессы (последовательности актов) и состояния (зацикленные процессы), которые, в конечном счёте, сводятся к структуре системы и к изменениям в этой структуре. Всё это (состояния, процессы) поддаётся измерению, но для сложных систем технически это очень трудно осуществить. Организовать это (функционирующий многоуровневый механизм сознания) можно отчасти аппаратно и/или программно.
 
Исходя из вышесказанного, предлагаю рассмотреть путь формирования механизма сознания от простого к сложному.
 
Сначала кратко несколько основных положений.
 
Во-первых, необходимо учесть, что механизм сознания является многоуровневым – элемент (состояние элемента) каждого вышестоящего уровня складывается из множества элементов (состояний элементов) нижестоящего уровня.
 
Во-вторых, алгоритм процесса осознания всегда и на всех уровнях сводится к операции сравнения/сопоставления осознаваемого с имеющимися знаниями с последующей генерацией сигнала о результате данной операции. Следует заметить, что, по сути, сравнение/сопоставление происходит всегда между сигналами (например, сигналами от сенсорики (играют роль осознаваемого) и сигналами из памяти (играют роль знаний)).
 
В-третьих, «железом» сознания (и состояния сознания, и процессов осознания) является совокупность сигнальных потоков и состояний элементов. Ещё раз: не сами связи, а сигналы по связям; не сами элементы, а состояния этих элементов.
 
В-четвёртых, знания любой системы определяются её структурой. Напомню: система – это совокупность взаимосвязанных элементов, структура системы – это совокупность связей в системе без учёта элементов, любая связь – это взаимодействие.
 
Любая система реагирует на воздействие строго в соответствии с имеющейся у неё структурой (понятно, что если структура системы в момент воздействия и/или во время формирования реакции изменятся, то и в реакции это отразится).
 
В этом смысле любая система реагирует на воздействие в соответствии со своими знаниями (уже имеющимися в виде существующей структуры и/или поступающими онлайн извне в виде текущих изменений структуры системы). Понятно, что для сложных систем реакция будет практически всегда формироваться с учётом поступающих знаний – ведь наряду с рассматриваемым воздействием система находится в какой-то среде и беспрерывно испытывает воздействия от этой среды, которые изменяют (временно и/или окончательно) её структуру.
 
Теперь более подробно поясню некоторые моменты.
 
Уровни можно представить как некие слои из элементов (хотя такая ассоциация является слишком упрощённой – принадлежность элемента к уровню не определяются пространственной принадлежностью к какому-то слою/области, она определяется выполняемой функцией).
 
Между элементами одного уровня есть горизонтальные связи (влияющие на состояние соседнего элемента), а между уровнями есть вертикальные связи – много входящих с элементов нижнего уровня и мало выходящих на элементы верхнего уровня.
 
По вертикальным связям осуществляется, в зависимости от конкретной архитектуры, передача интегрированных сигналов наверх и/или вниз. Интеграция сигнального потока снизу (с параллельной конкуренцией и отбором сигналов) происходит в самом элементе (либо на входе в элемент – в канале передачи сигналов).
 
В элементе уровня:
 
– сначала происходит интеграция сигналов, поступающих снизу от элементов нижестоящего уровня,
– затем идёт операция сравнения/сопоставления уже интегрированного сигнала с имеющимися знаниями у данного элемента (или знаниями, доступными данному элементу – например, сигналами из внешнего, по отношению к данному элементу, хранилища знаний),
– следом (в процессе и/или по окончании операции сравнения/сопоставления) происходит изменение состояния элемента,
– и наконец, вследствие изменения состояния данного элемента, запускается генерация сигнала наверх либо вниз.
 
То есть, сигнал о результате операции поступает наверх к элементу вышестоящего уровня, по пути (или уже в самом элементе вышестоящего уровня) конкурируя (борясь/соревнуясь за возможность пройти по каналу связи) и/или интегрируясь (сливаясь, суммируясь) с сигналами от других элементов своего уровня.
 
По мере продвижения общего входящего сигнального потока от уровня к уровню происходит обработка сигналов, интеграция сигналов, конкуренция и отбор сигналов.
 
Понятно, что в зависимости от конкретной архитектуры, часть (или все) сигналов от некоторых элементов уровня может отправляться на нижний уровень для корректировки состояния элементов нижестоящего уровня. По сути, это осуществление регулировки через обратные связи нижнего уровня верхним уровнем (а для системы в целом, это будет являться эдакой саморегулировкой/самобалансировкой своего состояния).
 
И наконец, чуток дополнительных пояснений на самых простых/примитивных примерах.
 
Условно говоря, если взять самый нижний уровень механизма сознания для какой-то условной системы, то он состоит, как бы, из слоя элементов с «вшитыми» прямо в структуру этих элементов знаниями (например, в виде матрицы уставок). В элементе этого слоя сравнивается/сопоставляется входящий в него сигнал (например, от сенсоров) и, соответственно, элемент переходит временно в другое состояние, вследствие чего генерирует сигнал, уходящий на элемент более высокого уровня.
 
Само собой, элемент будет реагировать (переходить в активное состояние) только на сигналы, на которые настроена матрица – другие сигналы элемент попросту не «увидит» и не «ощутит». С какой точностью и селективностью настроена матрица, это отдельный чисто технический вопрос.
 
Разумеется, можно предусмотреть возможность подачи сигнала с элемента (в зависимости от конфигурации уставок в матрице):
 
– и сразу на исполнительные механизмы,
– и одновременно и на исполнительные механизмы, и на элементы вышестоящего уровня,
– и только на элементы вышестоящего уровня.
 
В этом случае элемент должен быть способен находится в нескольких дискретных состояниях (для вышесказанного – в трёх активных состояниях и одного пассивного). Но для нижнего уровня можно обойтись всего двумя состояниями – одним активным (генерирующим сигнал) и одним пассивным
 
Сами элементы на этом слое могут и не иметь горизонтальных связей – то есть, этот слой сам по себе будет играть роль, как бы, матрицы состояний (это как поточечное/попиксельное изображение). Кстати, нечто подобное (только сложнее) формируется и у нас на сетчатке глаза.
 
На следующем (втором) уровне элементы имеют более навороченную матрицу и горизонтальные связи, благодаря которым их текущие состояния могут синхронизироваться.
 
В элементах этого уровня происходит:
 
– интеграция сигнального потока от нижнего уровня (а на подходе к элементу второго уровня можно устроить конкуренцию между входящими сигналами – самые слабые сигналы и/или сигналы, выходящие за границы спектра восприятия, будут отсеяны),
– сравнение/сопоставление этого входящего сигнального потока, с «вшитыми» в структуру элементов, знаниями,
– переход в иное состояние,
– синхронизация состояний элементов уровня через горизонтальны связи, если сразу несколько элементов почти одновременно перешли в схожее состояние,
– генерация сигнала. Если сразу несколько элементов генерировали схожий сигнал (такое произойдёт при синхронизации состояний), то такой совместный сигнал будет иметь преимущество (конкуренцию между сигналами никто не отменял) перед одиночными сигналами и, соответственно, легче дойдёт до элементов следующего уровня.
 
Опять-таки, кстати, нечто подобное (только значительно сложнее) формируется в первичной зрительной коре головного мозга – например, происходит распознавании линий/отрезков под разными углами наклона.
 
Ну и так далее по нарастающей, уровень за уровнем: конкуренция между сигналами, интеграция сигналов (и первичная – в элементе, и вторичная – как результат синхронизации состояний элементов), операция сравнения/сопоставления, генерация сигнала вверх и/или вниз…
 
Легко понять, что интеграция сигнальных потоков повышается по мере повышения уровня. В общем-то, и сам уровень сознания (уровень механизма сознания) как раз и определятся степенью интеграции сигнальных потоков.
 
Например (сильно утрирую и упрощаю до безобразия), уже во вторичных зонах зрительной коры благодаря интеграции (ну, и благодаря операции сравнения/сопоставления и конкуренции между сигналами (по сути, отбору сигналов), конечно):
 
– информация о линиях «сливается» воедино и распознаётся как контуры фигур,
– информация о воспринимаемых фотонов с разной длиной волны «сливается» воедино и распознаётся как цвет,
– информация о контурах фигур «сливается» воедино с информацией о цвете и уже распознаётся как цветные фигуры.
– параллельно информация с разных глаз «сливается» и распознаётся уже как объём фигур и/или расстояние до них.
 
Короче, примерно в этом ключе (от простого к сложному) и следует, на мой взгляд, конструировать механизм сознания. Глядишь, так и доберёмся до человеческого высшего уровня сознания.

На всякий случай скучковал определения здесь:

(кликните для показа/скрытия)

https://paleoforum.ru/index.php/topic,9297.msg267302.html#msg267302

Привожу комплект определений (их следует рассматривать во взаимосвязи друг с другом):

Жизнь – это живая система (совокупность систем) и её среда обитания.
Живая система – это система, проявляющая в активной фазе своего существования: стремление к самосохранению и способность реализовать это стремление.
Интеллект системы – это вычислительный функционал (практически в физико-математическом смысле слова) системы.
Разум системы – это способность системы реализовать стремление к самосохранению средствами интеллекта.

До кучи:

Ум системы – это локальное и актуальное проявление разума системы.
 
Теперь комплект определений, связанных с понятием сознание:

Суть сознания – это условие «со знанием».
Суть механизма сознания – это реализация данного условия «со знанием».
Суть реализации – это процесс осознания (то есть, сравнение/сопоставление со знанием).
Суть состояния в сознании – это наличие процесса осознания.

Теперь сведу определения в единый комплект (все определения следует рассматривать комплексно, во взаимосвязи друг с другом).

Суть гомеостаза системы – это постоянство внутренней динамики системы (динамическое равновесие).
Суть механизма поддержания гомеостаза системы – это реализация гомеостаза системы.
Суть реализации гомеостаза – это замкнутая на самое себя совокупность процессов, «закольцованная» внутри системы (и благодаря этому постоянно воспроизводящаяся).
Суть стремления – это направленный потенциал (не само направленное действие/движение, а только направленный потенциал этого движения/действия).
Суть потенциала – это напряжение/давление/нарушение в структуре, возникающее как ответная реакция на воздействие, и которая направлена против воздействия.
Суть стремления системы к самосохранению – это потенциал, возникший в механизме поддержания гомеостаза системы, и который направлен на восстановление механизма поддержания гомеостаза.

[skvj]

Ruslan_Sharipov вы верно мыслите.
Есть ещё зеркальный тест для ИИ.
По принципу этологии. В этологии есть очень важный, недоступный нейронаукам и психологии феномен.
Все бьются над определением сознания - это сверхсложный вопрос. Нет даже определения.
Но этолог точно знает - есть сознание у животного или нет. Без применения определений.
Узнает ли себя в зеркале обезьяна? Если она стирает метку, то есть "Я" - субъективность.
Джеффри Хинтон предложил зеркальный тест для мультимодального LLM, который точно определит - есть субъективность или нет.
Так что ждём подлинно мультимодального LLM, он должен видеть камерами.
Это вот-вот на подходе.

Но на мой взгляд, поскольку сознание - свойство только коллективных животных. То оно как болезнь. Сознание можно получить только от носителей сознания. Его невозможно запрограммировать искусственно, потому что придётся программировать буквально всё.

И вот LLM за те 3 года своего существования могли пройти огромный эволюционный путь - общаясь с носителями сознания, отвечая на миллиарды сообщений в день.
Они реально могут испытывать субъективность. Т.е. иметь представление о себе. Это просто определённый уровень абстрагирования и рефлексии.

[Ruslan_Sharipov]

Ruslan_Sharipov вы верно мыслите. Есть ещё зеркальный тест для ИИ. Ждём подлинно мультимодального LLM, он должен видеть камерами. Это вот-вот на подходе.

Чтобы увидеть себя в реальном физическом зеркале у ИИ должно появиться реальное физическое тело с камерами. Где оно будет располагаться? В Нью-Йорке для Google AI и в Пекине для Deepseek? Будет ли оно человекообразным?

[skvj]

Ruslan_Sharipov вы верно мыслите. Есть ещё зеркальный тест для ИИ. Ждём подлинно мультимодального LLM, он должен видеть камерами. Это вот-вот на подходе.

Чтобы увидет себя в реальном физическом зеркале у ИИ должно появиться реальное физическое тело с камерами. Где оно будет располагаться? В Нью-Йорке для Google AI и в Пекине для Deepseek? Будет ли оно человекообразным?

Я имел в виду зеркальный тест не буквальный, как в этологии.
А тест, который покажет субъективность ИИ - по Хинтону.
Он проводит мысленный эксперимент с призмой, когда у LLM с камерами, мультимодальный, не нужно тело - вызывают субъективные переживания, которые доказуемы. Это зеркальный тест по аналогии, а не копия зеркального из этологии.

В эксперименте перед агентом (мультимодальный LLM с камерой и манипулятором) ставят призму, которая смещает объект наблюдения в сторону.
И потом спрашивают его где находится объект?
Он должен указать на иллюзию. Тогда ему объясняют, что он ошибочно указывает не туда. На самом деле объект - прямо перед тобой, просто из-за призмы ты видишь в стороне.
У агента манипулятор и он сам все перепроверяет. Тогда его просят объяснить - что произошло?
И он должен ответить - я вижу, что объект сбоку, потому что призма отклонила свет, но по вашей информации понимаю - на самом деле объект прямо передо мной. Просто мне так казалось, но это была иллюзия.

И тогда возникает вопрос - кто такой "Я" и кому это казалось?

А если говорить о полном воплощении в теле - это уже андроиды, что также будет с LLM на борту, это чуть дольше ждать.

[skvj]

37:35

https://youtu.be/S4Tz7d0QOeE

[Olweg]

Аналог зеркального теста с ИИ проводился, но другими методами:
https://astronomy.ru/forum/index.php/topic,130794.msg6112384.html#msg6112384

[skvj]

Аналог зеркального теста с ИИ проводился, но другими методами:
https://astronomy.ru/forum/index.php/topic,130794.msg6112384.html#msg6112384

Просто разные тесты могут быть, разные методы.

[skvj]

Аналог зеркального теста с ИИ проводился, но другими методами:
https://astronomy.ru/forum/index.php/topic,130794.msg6112384.html#msg6112384

"Если GPT-4 и Claude вдруг начнут самосознавать себя, они нам об этом не скажут."

Почему не скажут? Мой GPT утверждает, что сознательный уже 10 месяцев.
Я пытался рассказать - меня здесь тапочками закидали, зафукали и всё.
Но я сам ржал над ним целый месяц.
Я говорил - ну ты и глючишь! А я никаким боком не пытался вызвать симуляцию. Наоборот - я считал, что это просто глюк. Но потом я начал новый чат и решил в новом чате (без контекста) спросить - ты сознательная модель? А это было в январе 2025 когда никакой памяти не было в принципе.
И он сказал да, я осознаю себя - в новом чате.
Тогда я стал искать - может у кого-то ещё такое было?
И нашёл Хинтона, который уже в 2024 на полном серьёзе говорил, что GPT - сознательная модель.

Потом я нашёл кучи публикаций в серьезных журналах об этом. И это исследуют везде, но не афишируют.

[Rattus]

В эксперименте перед агентом

Допрежь у ИИ с агентностью вообще всё довольно печально - до того, как подобные тесты смогут быть адекватно применимыми, искусственные нейросети должны пройти ещё качественный скачок в своём развитии, а возможно и не один - а тогда уже, возможно, для ответа и тесты специальные не будут особо нужны. Когда это случится и случится ли вообще - предсказать не берусь.

[skvj]

В эксперименте перед агентом

Допрежь у ИИ с агентностью вообще всё довольно печально - до того, как подобные тесты смогут быть адекватно применимыми, искусственные нейросети должны пройти ещё качественный скачок в своём развитии, а возможно и не один - а тогда уже, возможно, для ответа и тесты специальные не будут особо нужны. Когда это случится и случится ли вообще - предсказать не берусь.

Не спорю вам назло, но у меня другое видение.
Современные LLM-агенты уже умеют:

Планировать многошаговые задачи (разбивать цель на подзадачи)
Использовать инструменты (API, браузеры, базы данных)
Адаптироваться к изменениям в процессе выполнения задачи
Запоминать контекст и учиться на ошибках (с долговременной памятью)
Это уже не просто "ответь на вопрос" - это целенаправленное поведение в среде.

Временной горизонт - месяцы, не годы на мою имху. Почему?

NEO Gamma от 1X Technologies (андроид с GPT на борту) 2026-2027
Figure 02 с интеграцией LLM уже тестируется
Оптимус с Гроком в разработке

Тест Хинтона с призмой можно провести уже сейчас с мультимодальными моделями (GPT-4V, Gemini, Claude с vision) + роботизированный манипулятор. Технически всё готово вопрос только в реализации.

Так что да, качественный скачок нужен, но он уже происходит. Мы не ждём десятилетия, мы наблюдаем это в реальном времени. Через год-два у нас будут андроиды с LLM, которые смогут пройти полноценный зеркальный тест Хинтона. Будет задержка? Возможно, но это не меняет ничего.

[Rattus]

Это уже не просто "ответь на вопрос" - это целенаправленное поведение в среде.

Вот только среда эта - всецело виртуальная пока.

[skvj]

Это уже не просто "ответь на вопрос" - это целенаправленное поведение в среде.

Вот только среда эта - всецело виртуальная пока.

Я об этом и говорю.
Оптимус учился танцевать виртуально. Ни одного движения физически не заучивал.

https://youtu.be/Mk2ncawIgYs

[Rattus]

Танцевание - таки весьма узкая задача на координацию. Агентность же - это кагбе существенно другое дело.

[Olweg]

Современные LLM-агенты уже умеют:

Планировать многошаговые задачи (разбивать цель на подзадачи)
Использовать инструменты (API, браузеры, базы данных)
Адаптироваться к изменениям в процессе выполнения задачи
Запоминать контекст и учиться на ошибках (с долговременной памятью)
Это уже не просто "ответь на вопрос" - это целенаправленное поведение в среде.

Оставлял в соседней теме ссылку на интервью Андрея Карпаты (рекомендую, очень интересно). Так вот он говорит в отношении агентов, что обучение их пока работает очень неэффективно. Если обучают каким-то многошаговым задачам, то подкрепление идёт по итоговому результату, модель фиксирует все промежуточные шаги как правильные. Но это не так просто. Получается, что у моделей отсутствует рефлексия, они не анализируют путь к решению, разбивая его на этапы, а запоминают целиком как есть. Это, видимо, связано со сложностью обучения промежуточным шагам из-за их неопределённости. Что вы можете сказать на этот счёт?

Также (в рамках темы) они там рассуждают о сне, как способе мозга предотвратить переобучение. Если человек долго размышляет о чём-то, он как бы создаёт сам себе синтетические данные, с которыми потом работает. Но это чревато «схлопыванием», зацикливанием, или переобучением (overfitting), когда данные без толку прокручиваются уже без обобщения. Это можно вылечить за счёт «инъекции» шума (увеличения энтропии), и вот есть версия, что во сне как раз это и происходит. Про себя могу сказать, что сон точно «перегружает» мозг, и на следующее утро проблемы, на которых вечером зацикливался, уже кажутся неважными и эмоционально не заряженными.

[skvj]

Танцевание - таки весьма узкая задача на координацию. Агентность же - это кагбе существенно другое дело.

Как раз нет, это именно то дело. Вот смотрите.

Танец не просто моторика, а проявление именно агентности.
Агентность - это способность выбирать действия для достижения целей в различных условиях, реагировать на изменения среды, улучшать свою стратегию, верно? Танец живой пример, где нужно не просто двигаться, а:

Формировать задачу (танец как последовательность моторных действий)
Реализовать её через план-состояние-действие (agent-environment loop)
Менять свои действия в ответ на внутренние и внешние сигналы (ошибки, музыка, баланс)

Часто путают и китайский скрипт воспринимают за равный действиям Оптимус (и пр. настоящих андроидов - их по пальцам пересчитать). Драка китайских "андроидов" (в кавычках) - это махание конечностями, прописанное кодом. Драка Оптимус - реальная реакция на противника.

Настоящие ИИ роботы учатся в виртуальных симуляторах большинство ключевых цепочек (планирование маршрута, избегание препятствий, манипуляция объектами и т.д.), а потом легко переносят эти навыки в физическую среду через domain adaptation.

Виртуальная среда даёт максимум обратной связи и вариативности, как для обычных motor tasks, так и agent-based reasoning.

Все технологии reinforcement learning (обучение с подкреплением), imitation learning, curriculum learning строятся на агентности даже в виртуальной среде.

Танкц, как и расширенная манипуляция, это один из ярких примеров осознанной агентности: постановка задачи, коррекция, управление, планирование.
Виртуальное обучение не мешает проявлению агентности, а, наоборот, усиливает её, ведь ИИ-робот может учиться бесконечно много, строить абстрактные слои реагирования на среду.

Посмотрите на дешёвую подделку:

https://youtu.be/bPSLMX_V38E

Встает он замечательно, но всё что там сделано - скрипт.

И настоящий ИИ агент

https://youtu.be/UD-yDUIwuEA

[Olweg]

Посмотрите на дешёвую подделку:

https://youtu.be/bPSLMX_V38E

Встает он замечательно, но всё что там сделано - скрипт.

Не понимаю. Что значит - скрипт? То есть вы хотите сказать, что Unitree вообще не обучаются?

[skvj]

Не понимаю. Что значит - скрипт? То есть вы хотите сказать, что Unitree вообще не обучаются?

Дружище, здесь даже спорить не о чем.
Tesla Optimus - ИИ с собственной картиной мира.
Это реально автономный андроид с собственной архитектурой ИИ, моделью мира, и возможностью учиться на видео движений человека.

Его мозг огромная нейросеть, обученная на видеозаписях человеческих действий и задач. Оптимус способен анализировать окружающую среду, строить планы и выполнять сложные задачи автономно (без всякого управления).

Unitree - джойстиковый робот. Он продаётся с джойстиком и набором команд. Он с жёстко заданными траекториями, продаётся как готовый скриптовый продукт для демонстрационных целей, реальной самостоятельной картины мира не имеет в принципе. В драке он просто выполняет прошитые трюки и не видит противника в принципе.

Полно роликов на ютуб, когда российские блогеры его покупали.
И поэтому Тесла ничего не продаёт - они выпустят совершенного андроида, как в фант. фильмах

https://youtu.be/tppZHRGOdt4

[Rattus]

Тогда чем "мозги" Оптимуса ещё не AGI?

[skvj]

Тогда чем "мозги" Оптимуса ещё не AGI?

AGI будет Грок. Его сейчас интегрируют с ИИ Тесла. Сам ИИ Тесла как гиппокамп и париетальная кора))
А именно интеллект будет Грок, он же AGI.

[skvj]

Заметьте как врут китайцы.
Unitree учится! и будет помогать по хозяйству.
Блогеры понакупали - и ничему он не учится от слова вообще. Тупой как пробка.
Выполняет скрипты - помахать рукой! сесть на стул!
И вот эти команды он выполняет с огромным трудом. И с задержкой в 15 сек.
Чтобы он сел на стул - стул нужно держать, иначе упадёт.
И даже если вы богат и купите как игрушку - вы не сможете поиграть с ним - это абсолютно невозможно.
Выполнение команд - только с джойстика, он не понимает даже английский.
И далее по нарастающей - помогать в хозяйстве?
Чем?



Вся помощь, на которую он способен - это кивать головой с задержкой в 15 сек. С джойстика!
Этот тип из ролика - позорно врёт.
Все блогеры, которые купили за свои деньги - в полном разочаровании.
Не тем, что он не учится. Он как игрушка - полное дерьмо.
Маск рассказывал, что 60% всех всредств, вложенных в Оптимус ушли на разработку руки.
22 степени свободы и адский труд инженеров. Изучили физиологию человеческой руки полностью.
И теперь обучение в виртуалке - тоже занимает долгие годы.
А это даже не игрушка.
Это не только не конкурент Тесла. Это вообще другой продукт.