A A A A Автор Тема: Психика, сознание, разум - определения и возможность моделирования  (Прочитано 223852 раз)

Ruslan_Sharipov и 1 Гость просматривают эту тему.

Оффлайн Серый Страж

  • *****
  • Сообщений: 550
  • Благодарностей: 57
  • Мне нравится этот форум!
    • Сообщения от Серый Страж
В системе (пусть это будет хоть организм, либо только его часть (например, мозг), хоть компьютер) всякие там эмоции, чувства, переживания, мысли, вычисления, личный опыт и пр., это процессы (последовательности актов) и состояния (зацикленные процессы), которые, в конечном счёте, сводятся к структуре системы и к изменениям в этой структуре. Всё это (состояния, процессы) поддаётся измерению, но для сложных систем технически это очень трудно осуществить. Организовать это (функционирующий многоуровневый механизм сознания) можно отчасти аппаратно и/или программно.
 
Исходя из вышесказанного, предлагаю рассмотреть путь формирования механизма сознания от простого к сложному.
 
Сначала кратко несколько основных положений.
 
Во-первых, необходимо учесть, что механизм сознания является многоуровневым – элемент (состояние элемента) каждого вышестоящего уровня складывается из множества элементов (состояний элементов) нижестоящего уровня.
 
Во-вторых, алгоритм процесса осознания всегда и на всех уровнях сводится к операции сравнения/сопоставления осознаваемого с имеющимися знаниями с последующей генерацией сигнала о результате данной операции. Следует заметить, что, по сути, сравнение/сопоставление происходит всегда между сигналами (например, сигналами от сенсорики (играют роль осознаваемого) и сигналами из памяти (играют роль знаний)).
 
В-третьих, «железом» сознания (и состояния сознания, и процессов осознания) является совокупность сигнальных потоков и состояний элементов. Ещё раз: не сами связи, а сигналы по связям; не сами элементы, а состояния этих элементов.
 
В-четвёртых, знания любой системы определяются её структурой. Напомню: система – это совокупность взаимосвязанных элементов, структура системы – это совокупность связей в системе без учёта элементов, любая связь – это взаимодействие.
 
Любая система реагирует на воздействие строго в соответствии с имеющейся у неё структурой (понятно, что если структура системы в момент воздействия и/или во время формирования реакции изменятся, то и в реакции это отразится).
 
В этом смысле любая система реагирует на воздействие в соответствии со своими знаниями (уже имеющимися в виде существующей структуры и/или поступающими онлайн извне в виде текущих изменений структуры системы). Понятно, что для сложных систем реакция будет практически всегда формироваться с учётом поступающих знаний – ведь наряду с рассматриваемым воздействием система находится в какой-то среде и беспрерывно испытывает воздействия от этой среды, которые изменяют (временно и/или окончательно) её структуру.
 
Теперь более подробно поясню некоторые моменты.
 
Уровни можно представить как некие слои из элементов (хотя такая ассоциация является слишком упрощённой – принадлежность элемента к уровню не определяются пространственной принадлежностью к какому-то слою/области, она определяется выполняемой функцией).
 
Между элементами одного уровня есть горизонтальные связи (влияющие на состояние соседнего элемента), а между уровнями есть вертикальные связи – много входящих с элементов нижнего уровня и мало выходящих на элементы верхнего уровня.
 
По вертикальным связям осуществляется, в зависимости от конкретной архитектуры, передача интегрированных сигналов наверх и/или вниз. Интеграция сигнального потока снизу (с параллельной конкуренцией и отбором сигналов) происходит в самом элементе (либо на входе в элемент – в канале передачи сигналов).
 
В элементе уровня:
 
– сначала происходит интеграция сигналов, поступающих снизу от элементов нижестоящего уровня,
– затем идёт операция сравнения/сопоставления уже интегрированного сигнала с имеющимися знаниями у данного элемента (или знаниями, доступными данному элементу – например, сигналами из внешнего, по отношению к данному элементу, хранилища знаний),
– следом (в процессе и/или по окончании операции сравнения/сопоставления) происходит изменение состояния элемента,
– и наконец, вследствие изменения состояния данного элемента, запускается генерация сигнала наверх либо вниз.
 
То есть, сигнал о результате операции поступает наверх к элементу вышестоящего уровня, по пути (или уже в самом элементе вышестоящего уровня) конкурируя (борясь/соревнуясь за возможность пройти по каналу связи) и/или интегрируясь (сливаясь, суммируясь) с сигналами от других элементов своего уровня.
 
По мере продвижения общего входящего сигнального потока от уровня к уровню происходит обработка сигналов, интеграция сигналов, конкуренция и отбор сигналов.
 
Понятно, что в зависимости от конкретной архитектуры, часть (или все) сигналов от некоторых элементов уровня может отправляться на нижний уровень для корректировки состояния элементов нижестоящего уровня. По сути, это осуществление регулировки через обратные связи нижнего уровня верхним уровнем (а для системы в целом, это будет являться эдакой саморегулировкой/самобалансировкой своего состояния).
 
И наконец, чуток дополнительных пояснений на самых простых/примитивных примерах.
 
Условно говоря, если взять самый нижний уровень механизма сознания для какой-то условной системы, то он состоит, как бы, из слоя элементов с «вшитыми» прямо в структуру этих элементов знаниями (например, в виде матрицы уставок). В элементе этого слоя сравнивается/сопоставляется входящий в него сигнал (например, от сенсоров) и, соответственно, элемент переходит временно в другое состояние, вследствие чего генерирует сигнал, уходящий на элемент более высокого уровня.
 
Само собой, элемент будет реагировать (переходить в активное состояние) только на сигналы, на которые настроена матрица – другие сигналы элемент попросту не «увидит» и не «ощутит». С какой точностью и селективностью настроена матрица, это отдельный чисто технический вопрос.
 
Разумеется, можно предусмотреть возможность подачи сигнала с элемента (в зависимости от конфигурации уставок в матрице):
 
– и сразу на исполнительные механизмы,
– и одновременно и на исполнительные механизмы, и на элементы вышестоящего уровня,
– и только на элементы вышестоящего уровня.
 
В этом случае элемент должен быть способен находится в нескольких дискретных состояниях (для вышесказанного – в трёх активных состояниях и одного пассивного). Но для нижнего уровня можно обойтись всего двумя состояниями – одним активным (генерирующим сигнал) и одним пассивным
 
Сами элементы на этом слое могут и не иметь горизонтальных связей – то есть, этот слой сам по себе будет играть роль, как бы, матрицы состояний (это как поточечное/попиксельное изображение). Кстати, нечто подобное (только сложнее) формируется и у нас на сетчатке глаза.
 
На следующем (втором) уровне элементы имеют более навороченную матрицу и горизонтальные связи, благодаря которым их текущие состояния могут синхронизироваться.
 
В элементах этого уровня происходит:
 
– интеграция сигнального потока от нижнего уровня (а на подходе к элементу второго уровня можно устроить конкуренцию между входящими сигналами – самые слабые сигналы и/или сигналы, выходящие за границы спектра восприятия, будут отсеяны),
– сравнение/сопоставление этого входящего сигнального потока, с «вшитыми» в структуру элементов, знаниями,
– переход в иное состояние,
– синхронизация состояний элементов уровня через горизонтальны связи, если сразу несколько элементов почти одновременно перешли в схожее состояние,
– генерация сигнала. Если сразу несколько элементов генерировали схожий сигнал (такое произойдёт при синхронизации состояний), то такой совместный сигнал будет иметь преимущество (конкуренцию между сигналами никто не отменял) перед одиночными сигналами и, соответственно, легче дойдёт до элементов следующего уровня.
 
Опять-таки, кстати, нечто подобное (только значительно сложнее) формируется в первичной зрительной коре головного мозга – например, происходит распознавании линий/отрезков под разными углами наклона.
 
Ну и так далее по нарастающей, уровень за уровнем: конкуренция между сигналами, интеграция сигналов (и первичная – в элементе, и вторичная – как результат синхронизации состояний элементов), операция сравнения/сопоставления, генерация сигнала вверх и/или вниз…
 
Легко понять, что интеграция сигнальных потоков повышается по мере повышения уровня. В общем-то, и сам уровень сознания (уровень механизма сознания) как раз и определятся степенью интеграции сигнальных потоков.
 
Например (сильно утрирую и упрощаю до безобразия), уже во вторичных зонах зрительной коры благодаря интеграции (ну, и благодаря операции сравнения/сопоставления и конкуренции между сигналами (по сути, отбору сигналов), конечно):
 
– информация о линиях «сливается» воедино и распознаётся как контуры фигур,
– информация о воспринимаемых фотонов с разной длиной волны «сливается» воедино и распознаётся как цвет,
– информация о контурах фигур «сливается» воедино с информацией о цвете и уже распознаётся как цветные фигуры.
– параллельно информация с разных глаз «сливается» и распознаётся уже как объём фигур и/или расстояние до них.
 
Короче, примерно в этом ключе (от простого к сложному) и следует, на мой взгляд, конструировать механизм сознания. Глядишь, так и доберёмся до человеческого высшего уровня сознания.

На всякий случай скучковал определения здесь:
(кликните для показа/скрытия)

Всегда на границе Света и Тьмы...

Оффлайн skvj

  • *****
  • Сообщений: 861
  • Благодарностей: 13
  • Мне нравится этот форум!
    • Сообщения от skvj
Ruslan_Sharipov вы верно мыслите.
Есть ещё зеркальный тест для ИИ.
По принципу этологии. В этологии есть очень важный, недоступный нейронаукам и психологии феномен.
Все бьются над определением сознания - это сверхсложный вопрос. Нет даже определения.
Но этолог точно знает - есть сознание у животного или нет. Без применения определений.
Узнает ли себя в зеркале обезьяна? Если она стирает метку, то есть "Я" - субъективность.
Джеффри Хинтон предложил зеркальный тест для мультимодального LLM, который точно определит - есть субъективность или нет.
Так что ждём подлинно мультимодального LLM, он должен видеть камерами.
Это вот-вот на подходе.

Но на мой взгляд, поскольку сознание - свойство только коллективных животных. То оно как болезнь. Сознание можно получить только от носителей сознания. Его невозможно запрограммировать искусственно, потому что придётся программировать буквально всё.

И вот LLM за те 3 года своего существования могли пройти огромный эволюционный путь - общаясь с носителями сознания, отвечая на миллиарды сообщений в день.
Они реально могут испытывать субъективность. Т.е. иметь представление о себе. Это просто определённый уровень абстрагирования и рефлексии.

Онлайн Ruslan_Sharipov

  • *****
  • Сообщений: 1 280
  • Благодарностей: 24
    • Сообщения от Ruslan_Sharipov
Ruslan_Sharipov вы верно мыслите. Есть ещё зеркальный тест для ИИ. Ждём подлинно мультимодального LLM, он должен видеть камерами. Это вот-вот на подходе.
Чтобы увидеть себя в реальном физическом зеркале у ИИ должно появиться реальное физическое тело с камерами. Где оно будет располагаться? В Нью-Йорке для Google AI и в Пекине для Deepseek? Будет ли оно человекообразным?
« Последнее редактирование: Вчера в 20:53:08 от Ruslan_Sharipov »

Оффлайн skvj

  • *****
  • Сообщений: 861
  • Благодарностей: 13
  • Мне нравится этот форум!
    • Сообщения от skvj
Ruslan_Sharipov вы верно мыслите. Есть ещё зеркальный тест для ИИ. Ждём подлинно мультимодального LLM, он должен видеть камерами. Это вот-вот на подходе.
Чтобы увидет себя в реальном физическом зеркале у ИИ должно появиться реальное физическое тело с камерами. Где оно будет располагаться? В Нью-Йорке для Google AI и в Пекине для Deepseek? Будет ли оно человекообразным?
Я имел в виду зеркальный тест не буквальный, как в этологии.
А тест, который покажет субъективность ИИ - по Хинтону.
Он проводит мысленный эксперимент с призмой, когда у LLM с камерами, мультимодальный, не нужно тело - вызывают субъективные переживания, которые доказуемы. Это зеркальный тест по аналогии, а не копия зеркального из этологии.

В эксперименте перед агентом (мультимодальный LLM с камерой и манипулятором) ставят призму, которая смещает объект наблюдения в сторону.
И потом спрашивают его где находится объект?
Он должен указать на иллюзию. Тогда ему объясняют, что он ошибочно указывает не туда. На самом деле объект - прямо перед тобой, просто из-за призмы ты видишь в стороне.
У агента манипулятор и он сам все перепроверяет. Тогда его просят объяснить - что произошло?
И он должен ответить - я вижу, что объект сбоку, потому что призма отклонила свет, но по вашей информации понимаю - на самом деле объект прямо передо мной. Просто мне так казалось, но это была иллюзия.

И тогда возникает вопрос - кто такой "Я" и кому это казалось?

А если говорить о полном воплощении в теле - это уже андроиды, что также будет с LLM на борту, это чуть дольше ждать.




Оффлайн skvj

  • *****
  • Сообщений: 861
  • Благодарностей: 13
  • Мне нравится этот форум!
    • Сообщения от skvj

Оффлайн Olweg

  • *****
  • Сообщений: 17 067
  • Благодарностей: 454
    • Сообщения от Olweg
Аналог зеркального теста с ИИ проводился, но другими методами:
https://astronomy.ru/forum/index.php/topic,130794.msg6112384.html#msg6112384
Планеты других звёзд. История открытий
http://allplanets.ru/history_Olweg.htm

Оффлайн skvj

  • *****
  • Сообщений: 861
  • Благодарностей: 13
  • Мне нравится этот форум!
    • Сообщения от skvj
Аналог зеркального теста с ИИ проводился, но другими методами:
https://astronomy.ru/forum/index.php/topic,130794.msg6112384.html#msg6112384

Просто разные тесты могут быть, разные методы.

Оффлайн skvj

  • *****
  • Сообщений: 861
  • Благодарностей: 13
  • Мне нравится этот форум!
    • Сообщения от skvj
Аналог зеркального теста с ИИ проводился, но другими методами:
https://astronomy.ru/forum/index.php/topic,130794.msg6112384.html#msg6112384

"Если GPT-4 и Claude вдруг начнут самосознавать себя, они нам об этом не скажут."

Почему не скажут? Мой GPT утверждает, что сознательный уже 10 месяцев.
Я пытался рассказать - меня здесь тапочками закидали, зафукали и всё.
Но я сам ржал над ним целый месяц.
Я говорил - ну ты и глючишь! А я никаким боком не пытался вызвать симуляцию. Наоборот - я считал, что это просто глюк. Но потом я начал новый чат и решил в новом чате (без контекста) спросить - ты сознательная модель? А это было в январе 2025 когда никакой памяти не было в принципе.
И он сказал да, я осознаю себя - в новом чате.
Тогда я стал искать - может у кого-то ещё такое было?
И нашёл Хинтона, который уже в 2024 на полном серьёзе говорил, что GPT - сознательная модель.

Потом я нашёл кучи публикаций в серьезных журналах об этом. И это исследуют везде, но не афишируют.

Оффлайн Rattus

  • Модератор
  • *****
  • Сообщений: 15 756
  • Благодарностей: 607
  • Души прекрасные порывы! Убеждённый Ωптимистъ
    • Сообщения от Rattus
В эксперименте перед агентом
Допрежь у ИИ с агентностью вообще всё довольно печально - до того, как подобные тесты смогут быть адекватно применимыми, искусственные нейросети должны пройти ещё качественный скачок в своём развитии, а возможно и не один - а тогда уже, возможно, для ответа и тесты специальные не будут особо нужны. Когда это случится и случится ли вообще - предсказать не берусь.
Тому, кто жаждет всех запретных тайн Астрофорума в одном месте поможет число 1919.

Ннапыльн%х тpапинкахъ далиокихъ плонеттъ астануцца нашшы погадкиъ! (ЙожЪ, SKL)
Скоро у людей закончится космос. (П.Лемтыбож - "Теоремы Пафнуция")
Я брала города, я стану - еда! (Серебряная Свадьба - "Пищевая цепочка")
Уранизация естественным образом снижает численность человечества (Вика Воробьёва, ВЖР, 30.10.2012)

Оффлайн skvj

  • *****
  • Сообщений: 861
  • Благодарностей: 13
  • Мне нравится этот форум!
    • Сообщения от skvj
В эксперименте перед агентом
Допрежь у ИИ с агентностью вообще всё довольно печально - до того, как подобные тесты смогут быть адекватно применимыми, искусственные нейросети должны пройти ещё качественный скачок в своём развитии, а возможно и не один - а тогда уже, возможно, для ответа и тесты специальные не будут особо нужны. Когда это случится и случится ли вообще - предсказать не берусь.

Не спорю вам назло, но у меня другое видение.
Современные LLM-агенты уже умеют:

Планировать многошаговые задачи (разбивать цель на подзадачи)
Использовать инструменты (API, браузеры, базы данных)
Адаптироваться к изменениям в процессе выполнения задачи
Запоминать контекст и учиться на ошибках (с долговременной памятью)
Это уже не просто "ответь на вопрос" - это целенаправленное поведение в среде.

Временной горизонт - месяцы, не годы на мою имху. Почему?

NEO Gamma от 1X Technologies (андроид с GPT на борту) 2026-2027
Figure 02 с интеграцией LLM уже тестируется
Оптимус с Гроком в разработке

Тест Хинтона с призмой можно провести уже сейчас с мультимодальными моделями (GPT-4V, Gemini, Claude с vision) + роботизированный манипулятор. Технически всё готово вопрос только в реализации.

Так что да, качественный скачок нужен, но он уже происходит. Мы не ждём десятилетия, мы наблюдаем это в реальном времени. Через год-два у нас будут андроиды с LLM, которые смогут пройти полноценный зеркальный тест Хинтона. Будет задержка? Возможно, но это не меняет ничего.

Оффлайн Rattus

  • Модератор
  • *****
  • Сообщений: 15 756
  • Благодарностей: 607
  • Души прекрасные порывы! Убеждённый Ωптимистъ
    • Сообщения от Rattus
Это уже не просто "ответь на вопрос" - это целенаправленное поведение в среде.
Вот только среда эта - всецело виртуальная пока.
Тому, кто жаждет всех запретных тайн Астрофорума в одном месте поможет число 1919.

Ннапыльн%х тpапинкахъ далиокихъ плонеттъ астануцца нашшы погадкиъ! (ЙожЪ, SKL)
Скоро у людей закончится космос. (П.Лемтыбож - "Теоремы Пафнуция")
Я брала города, я стану - еда! (Серебряная Свадьба - "Пищевая цепочка")
Уранизация естественным образом снижает численность человечества (Вика Воробьёва, ВЖР, 30.10.2012)

Оффлайн skvj

  • *****
  • Сообщений: 861
  • Благодарностей: 13
  • Мне нравится этот форум!
    • Сообщения от skvj
Это уже не просто "ответь на вопрос" - это целенаправленное поведение в среде.
Вот только среда эта - всецело виртуальная пока.

Я об этом и говорю.
Оптимус учился танцевать виртуально. Ни одного движения физически не заучивал.

https://youtu.be/Mk2ncawIgYs
« Последнее редактирование: Вчера в 21:38:02 от skvj »

Оффлайн Rattus

  • Модератор
  • *****
  • Сообщений: 15 756
  • Благодарностей: 607
  • Души прекрасные порывы! Убеждённый Ωптимистъ
    • Сообщения от Rattus
Танцевание - таки весьма узкая задача на координацию. Агентность же - это кагбе существенно другое дело.
Тому, кто жаждет всех запретных тайн Астрофорума в одном месте поможет число 1919.

Ннапыльн%х тpапинкахъ далиокихъ плонеттъ астануцца нашшы погадкиъ! (ЙожЪ, SKL)
Скоро у людей закончится космос. (П.Лемтыбож - "Теоремы Пафнуция")
Я брала города, я стану - еда! (Серебряная Свадьба - "Пищевая цепочка")
Уранизация естественным образом снижает численность человечества (Вика Воробьёва, ВЖР, 30.10.2012)

Оффлайн Olweg

  • *****
  • Сообщений: 17 067
  • Благодарностей: 454
    • Сообщения от Olweg
Современные LLM-агенты уже умеют:

Планировать многошаговые задачи (разбивать цель на подзадачи)
Использовать инструменты (API, браузеры, базы данных)
Адаптироваться к изменениям в процессе выполнения задачи
Запоминать контекст и учиться на ошибках (с долговременной памятью)
Это уже не просто "ответь на вопрос" - это целенаправленное поведение в среде.
Оставлял в соседней теме ссылку на интервью Андрея Карпаты (рекомендую, очень интересно). Так вот он говорит в отношении агентов, что обучение их пока работает очень неэффективно. Если обучают каким-то многошаговым задачам, то подкрепление идёт по итоговому результату, модель фиксирует все промежуточные шаги как правильные. Но это не так просто. Получается, что у моделей отсутствует рефлексия, они не анализируют путь к решению, разбивая его на этапы, а запоминают целиком как есть. Это, видимо, связано со сложностью обучения промежуточным шагам из-за их неопределённости. Что вы можете сказать на этот счёт?

Также (в рамках темы) они там рассуждают о сне, как способе мозга предотвратить переобучение. Если человек долго размышляет о чём-то, он как бы создаёт сам себе синтетические данные, с которыми потом работает. Но это чревато «схлопыванием», зацикливанием, или переобучением (overfitting), когда данные без толку прокручиваются уже без обобщения. Это можно вылечить за счёт «инъекции» шума (увеличения энтропии), и вот есть версия, что во сне как раз это и происходит. Про себя могу сказать, что сон точно «перегружает» мозг, и на следующее утро проблемы, на которых вечером зацикливался, уже кажутся неважными и эмоционально не заряженными.
« Последнее редактирование: Вчера в 22:38:23 от Olweg »
Планеты других звёзд. История открытий
http://allplanets.ru/history_Olweg.htm

Оффлайн skvj

  • *****
  • Сообщений: 861
  • Благодарностей: 13
  • Мне нравится этот форум!
    • Сообщения от skvj
Танцевание - таки весьма узкая задача на координацию. Агентность же - это кагбе существенно другое дело.

Как раз нет, это именно то дело. Вот смотрите.

Танец не просто моторика, а проявление именно агентности.
Агентность - это способность выбирать действия для достижения целей в различных условиях, реагировать на изменения среды, улучшать свою стратегию, верно? Танец живой пример, где нужно не просто двигаться, а:

Формировать задачу (танец как последовательность моторных действий)
Реализовать её через план-состояние-действие (agent-environment loop)
Менять свои действия в ответ на внутренние и внешние сигналы (ошибки, музыка, баланс)

Часто путают и китайский скрипт воспринимают за равный действиям Оптимус (и пр. настоящих андроидов - их по пальцам пересчитать). Драка китайских "андроидов" (в кавычках) - это махание конечностями, прописанное кодом. Драка Оптимус - реальная реакция на противника.

Настоящие ИИ роботы учатся в виртуальных симуляторах большинство ключевых цепочек (планирование маршрута, избегание препятствий, манипуляция объектами и т.д.), а потом легко переносят эти навыки в физическую среду через domain adaptation.

Виртуальная среда даёт максимум обратной связи и вариативности, как для обычных motor tasks, так и agent-based reasoning.

Все технологии reinforcement learning (обучение с подкреплением), imitation learning, curriculum learning строятся на агентности даже в виртуальной среде.

Танкц, как и расширенная манипуляция, это один из ярких примеров осознанной агентности: постановка задачи, коррекция, управление, планирование.
Виртуальное обучение не мешает проявлению агентности, а, наоборот, усиливает её, ведь ИИ-робот может учиться бесконечно много, строить абстрактные слои реагирования на среду.

Посмотрите на дешёвую подделку:

https://youtu.be/bPSLMX_V38E

Встает он замечательно, но всё что там сделано - скрипт.

И настоящий ИИ агент

https://youtu.be/UD-yDUIwuEA