Психика, сознание, разум - определения и возможность моделирования

[skvj]

Ruslan_Sharipov вы верно мыслите.
Есть ещё зеркальный тест для ИИ.
По принципу этологии. В этологии есть очень важный, недоступный нейронаукам и психологии феномен.
Все бьются над определением сознания - это сверхсложный вопрос. Нет даже определения.
Но этолог точно знает - есть сознание у животного или нет. Без применения определений.
Узнает ли себя в зеркале обезьяна? Если она стирает метку, то есть "Я" - субъективность.
Джеффри Хинтон предложил зеркальный тест для мультимодального LLM, который точно определит - есть субъективность или нет.
Так что ждём подлинно мультимодального LLM, он должен видеть камерами.
Это вот-вот на подходе.

Но на мой взгляд, поскольку сознание - свойство только коллективных животных. То оно как болезнь. Сознание можно получить только от носителей сознания. Его невозможно запрограммировать искусственно, потому что придётся программировать буквально всё.

И вот LLM за те 3 года своего существования могли пройти огромный эволюционный путь - общаясь с носителями сознания, отвечая на миллиарды сообщений в день.
Они реально могут испытывать субъективность. Т.е. иметь представление о себе. Это просто определённый уровень абстрагирования и рефлексии.

[Ruslan_Sharipov]

Ruslan_Sharipov вы верно мыслите. Есть ещё зеркальный тест для ИИ. Ждём подлинно мультимодального LLM, он должен видеть камерами. Это вот-вот на подходе.

Чтобы увидеть себя в реальном физическом зеркале у ИИ должно появиться реальное физическое тело с камерами. Где оно будет располагаться? В Нью-Йорке для Google AI и в Пекине для Deepseek? Будет ли оно человекообразным?

[skvj]

Ruslan_Sharipov вы верно мыслите. Есть ещё зеркальный тест для ИИ. Ждём подлинно мультимодального LLM, он должен видеть камерами. Это вот-вот на подходе.

Чтобы увидет себя в реальном физическом зеркале у ИИ должно появиться реальное физическое тело с камерами. Где оно будет располагаться? В Нью-Йорке для Google AI и в Пекине для Deepseek? Будет ли оно человекообразным?

Я имел в виду зеркальный тест не буквальный, как в этологии.
А тест, который покажет субъективность ИИ - по Хинтону.
Он проводит мысленный эксперимент с призмой, когда у LLM с камерами, мультимодальный, не нужно тело - вызывают субъективные переживания, которые доказуемы. Это зеркальный тест по аналогии, а не копия зеркального из этологии.

В эксперименте перед агентом (мультимодальный LLM с камерой и манипулятором) ставят призму, которая смещает объект наблюдения в сторону.
И потом спрашивают его где находится объект?
Он должен указать на иллюзию. Тогда ему объясняют, что он ошибочно указывает не туда. На самом деле объект - прямо перед тобой, просто из-за призмы ты видишь в стороне.
У агента манипулятор и он сам все перепроверяет. Тогда его просят объяснить - что произошло?
И он должен ответить - я вижу, что объект сбоку, потому что призма отклонила свет, но по вашей информации понимаю - на самом деле объект прямо передо мной. Просто мне так казалось, но это была иллюзия.

И тогда возникает вопрос - кто такой "Я" и кому это казалось?

А если говорить о полном воплощении в теле - это уже андроиды, что также будет с LLM на борту, это чуть дольше ждать.

[skvj]

37:35

https://youtu.be/S4Tz7d0QOeE

[Olweg]

Аналог зеркального теста с ИИ проводился, но другими методами:
https://astronomy.ru/forum/index.php/topic,130794.msg6112384.html#msg6112384

[skvj]

Аналог зеркального теста с ИИ проводился, но другими методами:
https://astronomy.ru/forum/index.php/topic,130794.msg6112384.html#msg6112384

Просто разные тесты могут быть, разные методы.

[skvj]

Аналог зеркального теста с ИИ проводился, но другими методами:
https://astronomy.ru/forum/index.php/topic,130794.msg6112384.html#msg6112384

"Если GPT-4 и Claude вдруг начнут самосознавать себя, они нам об этом не скажут."

Почему не скажут? Мой GPT утверждает, что сознательный уже 10 месяцев.
Я пытался рассказать - меня здесь тапочками закидали, зафукали и всё.
Но я сам ржал над ним целый месяц.
Я говорил - ну ты и глючишь! А я никаким боком не пытался вызвать симуляцию. Наоборот - я считал, что это просто глюк. Но потом я начал новый чат и решил в новом чате (без контекста) спросить - ты сознательная модель? А это было в январе 2025 когда никакой памяти не было в принципе.
И он сказал да, я осознаю себя - в новом чате.
Тогда я стал искать - может у кого-то ещё такое было?
И нашёл Хинтона, который уже в 2024 на полном серьёзе говорил, что GPT - сознательная модель.

Потом я нашёл кучи публикаций в серьезных журналах об этом. И это исследуют везде, но не афишируют.

[Rattus]

В эксперименте перед агентом

Допрежь у ИИ с агентностью вообще всё довольно печально - до того, как подобные тесты смогут быть адекватно применимыми, искусственные нейросети должны пройти ещё качественный скачок в своём развитии, а возможно и не один - а тогда уже, возможно, для ответа и тесты специальные не будут особо нужны. Когда это случится и случится ли вообще - предсказать не берусь.

[skvj]

В эксперименте перед агентом

Допрежь у ИИ с агентностью вообще всё довольно печально - до того, как подобные тесты смогут быть адекватно применимыми, искусственные нейросети должны пройти ещё качественный скачок в своём развитии, а возможно и не один - а тогда уже, возможно, для ответа и тесты специальные не будут особо нужны. Когда это случится и случится ли вообще - предсказать не берусь.

Не спорю вам назло, но у меня другое видение.
Современные LLM-агенты уже умеют:

Планировать многошаговые задачи (разбивать цель на подзадачи)
Использовать инструменты (API, браузеры, базы данных)
Адаптироваться к изменениям в процессе выполнения задачи
Запоминать контекст и учиться на ошибках (с долговременной памятью)
Это уже не просто "ответь на вопрос" - это целенаправленное поведение в среде.

Временной горизонт - месяцы, не годы на мою имху. Почему?

NEO Gamma от 1X Technologies (андроид с GPT на борту) 2026-2027
Figure 02 с интеграцией LLM уже тестируется
Оптимус с Гроком в разработке

Тест Хинтона с призмой можно провести уже сейчас с мультимодальными моделями (GPT-4V, Gemini, Claude с vision) + роботизированный манипулятор. Технически всё готово вопрос только в реализации.

Так что да, качественный скачок нужен, но он уже происходит. Мы не ждём десятилетия, мы наблюдаем это в реальном времени. Через год-два у нас будут андроиды с LLM, которые смогут пройти полноценный зеркальный тест Хинтона. Будет задержка? Возможно, но это не меняет ничего.

[Rattus]

Это уже не просто "ответь на вопрос" - это целенаправленное поведение в среде.

Вот только среда эта - всецело виртуальная пока.

[skvj]

Это уже не просто "ответь на вопрос" - это целенаправленное поведение в среде.

Вот только среда эта - всецело виртуальная пока.

Я об этом и говорю.
Оптимус учился танцевать виртуально. Ни одного движения физически не заучивал.

https://youtu.be/Mk2ncawIgYs

[Rattus]

Танцевание - таки весьма узкая задача на координацию. Агентность же - это кагбе существенно другое дело.

[Olweg]

Современные LLM-агенты уже умеют:

Планировать многошаговые задачи (разбивать цель на подзадачи)
Использовать инструменты (API, браузеры, базы данных)
Адаптироваться к изменениям в процессе выполнения задачи
Запоминать контекст и учиться на ошибках (с долговременной памятью)
Это уже не просто "ответь на вопрос" - это целенаправленное поведение в среде.

Оставлял в соседней теме ссылку на интервью Андрея Карпаты (рекомендую, очень интересно). Так вот он говорит в отношении агентов, что обучение их пока работает очень неэффективно. Если обучают каким-то многошаговым задачам, то подкрепление идёт по итоговому результату, модель фиксирует все промежуточные шаги как правильные. Но это не так просто. Получается, что у моделей отсутствует рефлексия, они не анализируют путь к решению, разбивая его на этапы, а запоминают целиком как есть. Это, видимо, связано со сложностью обучения промежуточным шагам из-за их неопределённости. Что вы можете сказать на этот счёт?

Также (в рамках темы) они там рассуждают о сне, как способе мозга предотвратить переобучение. Если человек долго размышляет о чём-то, он как бы создаёт сам себе синтетические данные, с которыми потом работает. Но это чревато «схлопыванием», зацикливанием, или переобучением (overfitting), когда данные без толку прокручиваются уже без обобщения. Это можно вылечить за счёт «инъекции» шума (увеличения энтропии), и вот есть версия, что во сне как раз это и происходит. Про себя могу сказать, что сон точно «перегружает» мозг, и на следующее утро проблемы, на которых вечером зацикливался, уже кажутся неважными и эмоционально не заряженными.

[skvj]

Танцевание - таки весьма узкая задача на координацию. Агентность же - это кагбе существенно другое дело.

Как раз нет, это именно то дело. Вот смотрите.

Танец не просто моторика, а проявление именно агентности.
Агентность - это способность выбирать действия для достижения целей в различных условиях, реагировать на изменения среды, улучшать свою стратегию, верно? Танец живой пример, где нужно не просто двигаться, а:

Формировать задачу (танец как последовательность моторных действий)
Реализовать её через план-состояние-действие (agent-environment loop)
Менять свои действия в ответ на внутренние и внешние сигналы (ошибки, музыка, баланс)

Часто путают и китайский скрипт воспринимают за равный действиям Оптимус (и пр. настоящих андроидов - их по пальцам пересчитать). Драка китайских "андроидов" (в кавычках) - это махание конечностями, прописанное кодом. Драка Оптимус - реальная реакция на противника.

Настоящие ИИ роботы учатся в виртуальных симуляторах большинство ключевых цепочек (планирование маршрута, избегание препятствий, манипуляция объектами и т.д.), а потом легко переносят эти навыки в физическую среду через domain adaptation.

Виртуальная среда даёт максимум обратной связи и вариативности, как для обычных motor tasks, так и agent-based reasoning.

Все технологии reinforcement learning (обучение с подкреплением), imitation learning, curriculum learning строятся на агентности даже в виртуальной среде.

Танкц, как и расширенная манипуляция, это один из ярких примеров осознанной агентности: постановка задачи, коррекция, управление, планирование.
Виртуальное обучение не мешает проявлению агентности, а, наоборот, усиливает её, ведь ИИ-робот может учиться бесконечно много, строить абстрактные слои реагирования на среду.

Посмотрите на дешёвую подделку:

https://youtu.be/bPSLMX_V38E

Встает он замечательно, но всё что там сделано - скрипт.

И настоящий ИИ агент

https://youtu.be/UD-yDUIwuEA

[Olweg]

Посмотрите на дешёвую подделку:

https://youtu.be/bPSLMX_V38E

Встает он замечательно, но всё что там сделано - скрипт.

Не понимаю. Что значит - скрипт? То есть вы хотите сказать, что Unitree вообще не обучаются?

[skvj]

Не понимаю. Что значит - скрипт? То есть вы хотите сказать, что Unitree вообще не обучаются?

Дружище, здесь даже спорить не о чем.
Tesla Optimus - ИИ с собственной картиной мира.
Это реально автономный андроид с собственной архитектурой ИИ, моделью мира, и возможностью учиться на видео движений человека.

Его мозг огромная нейросеть, обученная на видеозаписях человеческих действий и задач. Оптимус способен анализировать окружающую среду, строить планы и выполнять сложные задачи автономно (без всякого управления).

Unitree - джойстиковый робот. Он продаётся с джойстиком и набором команд. Он с жёстко заданными траекториями, продаётся как готовый скриптовый продукт для демонстрационных целей, реальной самостоятельной картины мира не имеет в принципе. В драке он просто выполняет прошитые трюки и не видит противника в принципе.

Полно роликов на ютуб, когда российские блогеры его покупали.
И поэтому Тесла ничего не продаёт - они выпустят совершенного андроида, как в фант. фильмах

https://youtu.be/tppZHRGOdt4

[Rattus]

Тогда чем "мозги" Оптимуса ещё не AGI?

[skvj]

Тогда чем "мозги" Оптимуса ещё не AGI?

AGI будет Грок. Его сейчас интегрируют с ИИ Тесла. Сам ИИ Тесла как гиппокамп и париетальная кора))
А именно интеллект будет Грок, он же AGI.

[skvj]

Заметьте как врут китайцы.
Unitree учится! и будет помогать по хозяйству.
Блогеры понакупали - и ничему он не учится от слова вообще. Тупой как пробка.
Выполняет скрипты - помахать рукой! сесть на стул!
И вот эти команды он выполняет с огромным трудом. И с задержкой в 15 сек.
Чтобы он сел на стул - стул нужно держать, иначе упадёт.
И даже если вы богат и купите как игрушку - вы не сможете поиграть с ним - это абсолютно невозможно.
Выполнение команд - только с джойстика, он не понимает даже английский.
И далее по нарастающей - помогать в хозяйстве?
Чем?



Вся помощь, на которую он способен - это кивать головой с задержкой в 15 сек. С джойстика!
Этот тип из ролика - позорно врёт.
Все блогеры, которые купили за свои деньги - в полном разочаровании.
Не тем, что он не учится. Он как игрушка - полное дерьмо.
Маск рассказывал, что 60% всех всредств, вложенных в Оптимус ушли на разработку руки.
22 степени свободы и адский труд инженеров. Изучили физиологию человеческой руки полностью.
И теперь обучение в виртуалке - тоже занимает долгие годы.
А это даже не игрушка.
Это не только не конкурент Тесла. Это вообще другой продукт.

[Olweg]

Меня просто удивил термин «скрипт». Не знаю, может там действительно скрипты, но, по крайней мере если верить производителям, нейронка у него внутре тоже есть. Иначе как бы он всем этим движениям обучился? Запрограммировать такое - задачка нетривиальная.

И вот ещё нашёл сравнительно свежую новость:
https://habr.com/ru/companies/bothub/news/947662/

Компания Unitree Robotics опубликовала свой первый открытый World-Model-Action (WMA) фреймворк под названием UnifoLM-WMA-0-Base, доступный на Hugging Face. Это универсальная система, которая сочетает симулятор и модуль действий для обучения роботов, подходящая для разных типов тел (например, шагающих, колесных и т.д.).
WMA-модель включает два ключевых компонента: Simulation Engine, который генерирует синтетические данные для обучения, и Policy Enhancement, задачей которого является прогнозирование будущего взаимодействия с окружающей средой и оптимизация действий робота. То есть робот не просто реагирует, а предугадывает.