Психика, сознание, разум - определения и возможность моделирования

[Olweg]

Меня просто удивил термин «скрипт». Не знаю, может там действительно скрипты, но, по крайней мере если верить производителям, нейронка у него внутре тоже есть. Иначе как бы он всем этим движениям обучился? Запрограммировать такое - задачка нетривиальная.

И вот ещё нашёл сравнительно свежую новость:
https://habr.com/ru/companies/bothub/news/947662/

Компания Unitree Robotics опубликовала свой первый открытый World-Model-Action (WMA) фреймворк под названием UnifoLM-WMA-0-Base, доступный на Hugging Face. Это универсальная система, которая сочетает симулятор и модуль действий для обучения роботов, подходящая для разных типов тел (например, шагающих, колесных и т.д.).
WMA-модель включает два ключевых компонента: Simulation Engine, который генерирует синтетические данные для обучения, и Policy Enhancement, задачей которого является прогнозирование будущего взаимодействия с окружающей средой и оптимизация действий робота. То есть робот не просто реагирует, а предугадывает.

[skvj]

Меня просто удивил термин «скрипт». Не знаю, может там действительно скрипты, но, по крайней мере если верить производителям, нейронка у него внутре тоже есть. Иначе как бы он всем этим движениям обучился? Запрограммировать такое - задачка нетривиальная.

И вот ещё нашёл сравнительно свежую новость:

В публичной продаже Unitree не обучается от пользователя: нет реального reinforcement learning, ни даже supervised imitation - всё, что видим на роликах и демо, это жёстко прописанные маршруты/команды.
На мой взгляд.
Нейронка может есть в контроле равновесия, распознавании поверхности/препятствий, но она не учится новым действиям, а реализует изначально прошитые алгоритмы стабилизации и базовой навигации (не для бытовых задач!).

Вот, например, когда он ловко встаёт при падении, да? Действительно ловко, не спорю.
Это нейронка? Ну, допустим. Хотя и необязательно.
Я смотрел ролик, там какой-то знаменитый влогер купил и повёз его в клуб куда-то на вечеринку.
И замысел был такой - зайти с роботом и робот всем машет рукой. Что проще?
И он не смог. Когда все закричали вау! Unitree ничего не сделал, а стал махать после, когда никто и не смотрел уже. Зачем ему команды если там ИИ?

[Olweg]

Да, понятно, что об обучение в реальном времени речи нет. Я имел в виду предобучение.

[skvj]

Я опишу как вижу ситуацию я. Со ссылками!

Вот сейчас многие считают, и специалисты некоторые в том числе, что LLM в классическом виде чат-бота вышли на плато. Но это не так. Скоро мы увидим не просто взрыв, а буквально чудеса. Инженерные чудеса, имеется в виду. Грок 4 Fast - прямо сейчас 4 млн токенов на Colossus II уже никого не удивляет.

Но я уже выкладывал ссылку, что LLM уже сейчас технически можно включить 100 млн слов (133 млн токенов) контекста - нужны только вычислительные ресурсы. Их строят прямо сейчас 24/7. Тоже подробно выкладывал, да и все знают эти проекты. Это постоянная память, которая буквально покроет все потребности человека.
Исчезнут чаты.   
В смысле темы и проекты останутся.
Но там ваш LLM будет помнить всё.
+ агентность, да? которая №1 в эволюции ИИ на сегодня. И мультимодальность.
Ну, вот к чему логически это должно привести? Просто вектор очевиден.

ИИ будет делать всё. Верно? в бытовухе.
И, собственно, он и станет тем ИИ которого ждут все. Настоящий помощник, а не просто языковой бот.

Я ещё могу привести примеры интеграции ИИ в платежные системы. Там будет полная верификация, финансовый консультант, бухгалтер и кто угодно. По блокчейну там просто огонь. Интеграция ИИ в блокчейн позволит выйти из банковской системы уже в следующем году. Всем. И ваш ИИ будет выбирать наиболее дешевые платежные сети в DLT - а там и так комиссии 0,00001% - уже сейчас. Но ИИ сможет зарабатывать вам деньги - просто общаясь с другими ИИ.

Так что даже в классических LLM никакого плато лично я в упор не вижу.

Ну, а роботы - это наши LLM в новом витке эволюции. Не обязательно андроиды. Будут устройства, соединяющие юзера с ИИ без смартфона и компа. С камерами и микрофоном - общение исключительно вербальное. Это тоже робот. Его можно брать на встречи - с тобой юрист, экономист, врач-консультант, секретарь, переводчик (языковой барьер исчезнет как явление). И кто угодно ещё. Гид. Нянька - будет рассказывать сказки детям. Неограниченный круг применения. Это ещё появятся разные применения в будущем.

Ну, и вершина эволюции - андроиды. Дело в том, что Грок давно интегрирован с авто Тесла через ИИ Тесла.
Он уже давно там. А начиная с Optimus V3 он будет интегрирован с ИИ тесла в андроиде. А V3 уже есть и Грок уже там https://www.tesery.com/blogs/news/elon-musk-confirms-tesla-optimus-v3-already-uses-grok-voice-ai

Предполагалось, что продажи начнутся с V3 (или ещё называют Gen2, Gen3). Но подоспела новая модель и решили выпускать V3 в следующем году. Может задержится? Конечно может. Маск постоянно запаздывает с проектами. Но нужно и понимать - что он делает. Это не китайский хлам. Он делает настоящего андроида.
Даже если они будут неловкие первое время - здесь главное запустить сеть и масштабировать. Их опыт начнет расти по экспоненте. И они будут хорошеть на глазах.

https://www.notateslaapp.com/news/2874/tesla-to-integrate-xais-grok-into-optimus-helping-bring-the-robot-to-life

Как их интегрируют? Понятия не имею. Называется A Symbiotic Relationship. Но Грок уже в Оптимус.
Всё осложняется строжайшей секретностью.   

[Olweg]

Новое исследование "психических процессов" ИИ от Anthropic:
https://telegram.me/ai_machinelearning_big_data/8897
https://www.anthropic.com/research/introspection

Anthropic проверили, способны ли большие языковые модели осознавать собственные «мысли» и внутренние состояния. 
Для эксперимента они использовали технику внедрения концептов - добавления определённого паттерна активности в нейроны модели. 
Например, они внедряли сигнал “ALL CAPS” - это шаблон, соответствующий тексту, написанному ЗАГЛАВНЫМИ БУКВАМИ. Если такая активация появляется внутри сети, значит, модель «думает» о тексте, который нужно сделать капсом. 
После внедрения исследователи спрашивали модель: *«Ты чувствуешь, что что-то изменилось?»* 
В 20% случаев Claude 4.1 правильно замечал вмешательство ещё до того, как сам использовал капс, то есть распознавал изменение внутри себя. 
В другом эксперименте учёные подменяли слово в ответе (например, добавляли слово “bread”) и проверяли, осознаёт ли модель, что это не её собственное намерение.
После внедрения мысли Claude начинал считать это слово своим выбором и придумывал обоснования, как будто у него есть память о решении. 

Второй эксперимент напомнил аналогичные трюки с человеческим мозгом:
ИИ: какого понимания нам не хватает?
https://www.ncbi.nlm.nih.gov/pubmed/19423830

Стимулирование правых нижних теменных областей вызвало сильное намерение и желание переместить противоположную руку, предплечье или ногу, тогда как стимулирование левой нижней теменной области спровоцировало намерение двигать губами и говорить. Когда интенсивность стимуляции в теменных областях была увеличена, участники полагали, что они действительно выполнили эти движения, хотя никакой электромиографической активности не было обнаружено.

[Olweg]

То есть, генерал (гены) отдаёт команды офицерам (структурам, обеспечивающих инстинктивный функционал), а те отдают команды (и периодически и частично их дублируют генералу) сержантам (лимбике), которые отдают команды (и периодически и частично их дублируют офицерам) солдатам (кортексу), которые всё и делают «на земле».

Вдумайтесь – кортекс, это только конечный исполнитель, а не самый главный. Да он самый умный, самый умелый, но всего лишь исполнитель. Соответственно, и сознание (точнее, высший уровень сознания особи данного вида) является всего лишь конечным исполнителем, а не главным.

В моём представлении в коре должен происходить и анализ поступающих из лимбики позывов, их прогнозирование, и, при необходимости, их торможение или выбор из альтернативных «команд». То есть не просто дублирование команд наверх (или вниз? в подкорку), но и возможный отказ выполнять команду, а это уже никак не вяжется с ролью простого исполнителя. Вспомните, например, тест с зефирками. Те дети, у которых лобные доли (или какие-то другие зоны коры, отвечающие за анализ и сдерживание импульсов) развиты лучше, могут очень долго сопротивляться командам их подкорки, хотя та и говорит: съешь их, ведь это же углеводы! Но кора говорит: нет, не торопись, получишь ещё больше углеводов, если притормозишь.

[Серый Страж]

То есть, генерал (гены) отдаёт команды офицерам (структурам, обеспечивающих инстинктивный функционал), а те отдают команды (и периодически и частично их дублируют генералу) сержантам (лимбике), которые отдают команды (и периодически и частично их дублируют офицерам) солдатам (кортексу), которые всё и делают «на земле».

Вдумайтесь – кортекс, это только конечный исполнитель, а не самый главный. Да он самый умный, самый умелый, но всего лишь исполнитель. Соответственно, и сознание (точнее, высший уровень сознания особи данного вида) является всего лишь конечным исполнителем, а не главным.

В моём представлении в коре должен происходить и анализ поступающих из лимбики позывов, их прогнозирование, и, при необходимости, их торможение или выбор из альтернативных «команд». То есть не просто дублирование команд наверх (или вниз? в подкорку), но и возможный отказ выполнять команду,

Так ведь я и написал:
 

Воля, это выражение приоритета одних желаний (условно говоря, стратегических) над другими желаниями (условно говоря, сиюминутными) по результатам их согласования с жизненной ментальной моделью в кортексе (рацио).

В кортексе и происходит анализ поступающих сигналов и их оценка с позиции модели, формирование модели и т.д. И результаты анализа отправляются и, так сказать, вниз (хотя, это к вышестоящим), как корректирующие/блокирующие сигналы, и в виде команд на исполнительные механизмы (мышцы, железы), если результаты анализа это допускают. 

а это уже никак не вяжется с ролью простого исполнителя.

Да, не простой, а умный и умелый. Это я тоже написал:

Вдумайтесь – кортекс, это только конечный исполнитель, а не самый главный. Да он самый умный, самый умелый, но всего лишь исполнитель.

Это генералу не обязательно уметь хорошо стрелять, быстро бегать, окапываться и владеть рукопашкой, а вот солдату это необходимо, поскольку это ему придётся воплощать в действия «хотелки» вышестоящих.

Вспомните, например, тест с зефирками. Те дети, у которых лобные доли (или какие-то другие зоны коры, отвечающие за анализ и сдерживание импульсов) развиты лучше, могут очень долго сопротивляться командам их подкорки, хотя та и говорит: съешь их, ведь это же углеводы! Но кора говорит: нет, не торопись, получишь ещё больше углеводов, если притормозишь.

Это и есть выражение приоритета одних желаний над другими. Об этом написал в самом начале:

Воля, это выражение приоритета одних желаний (условно говоря, стратегических) над другими желаниями (условно говоря, сиюминутными) по результатам их согласования с жизненной ментальной моделью в кортексе (рацио).

[Olweg]

Солдат не сможет выстроить иерархию приказов своего командования ) Не его это уровень. Аналогия с армией не слишком удачна (поэтому и резануло глаз). Скорее можно говорить о каком-то аналитическом центре, который разбирает пришедшие им директивы и отправляет обратно свои рекомендации.

[Серый Страж]

А есть ещё Сапольский, тот вообще жжёт нереально. Преступники невиноваты! и всё в таком духе

Это потому, что многие люди устанавливают у себя в мозгах однозначную связь между свободой воли и ответственностью. Наличие или отсутствие свободы воли не связано напрямую с ответственностью.

Ответственность прописана в морали и формальных законах, и она работает в первую очередь на самосохранение социума как целого, и только во вторую очередь на самосохранение особи этого (или другого) социума.

Мораль (как, в общем-то, и формальные законы), это система правил поведения особи, ограничений и запретов, налагаемых на особь. И эта система предназначена  для выживания/самосохранения в первую очередь социума как целого (она и формируется в процессе выживания и адаптации социума).

И в морали (особенно если это примитивная мораль, многого не учитывающая) наличие или отсутствие свободы воли у особи не играет большой (а, по сути, вообще никакой) роли – сделал фигню, поступил плохо, накосячил – ответишь. Тут особь либо научится себя правильно вести, либо будет изолирована от социума, изгнана из социума, убита.

Избавление (или, как вариант, переобучение) от преступников, разрушающих социум, ухудшающих состояние особей и т.д., для любого социума – необходимость (иначе социум не сможет выжить/сохраниться). А то, что для кого-то (не считая самого нарушителя/преступника) это покажется несправедливым – обществу/социуму без разницы.

Предустановка о наличии свободы воли (как и предустановка об отсутствии свободы воли) сильно мешает объективно оценивать вред для социума в целом и для других людей (в том числе и для себя) в частности.

Другое дело, что в морали (и в формальных законах) должен учитываться фактор отсутствия свободы воли – должны быть сформулированы и прописаны правила поведения для особей не только в таких ситуациях, где свобода воли и/или свобода выбора особи явно ограничены (типа, заставляют человека что-то делать под дулом автомата, или у человека явные когнитивные/психические нарушения), но и в таких ситуациях, где отсутствие свободы воли явно не просматривается.

Но, подчёркиваю, ответственность за нарушение/преступление всё равно должна быть в любом случае – либо человека надо переобучать (хоть путём устрашения и/или дрессировки), либо (если совсем неисправим и очень опасен) избавляться (богатые социумы могут позволить себе и содержать такого долгое время в изоляции – кормить/поит/одевать и т.д.).

И вообще – отсутствие свободы воли вполне компенсируется соответствующим обучением (воспитанием, дрессировкой) в детстве (имею в виду нормальных здоровых людей без критических отклонений).

Также заметно, что по мере развития социума и наращивания его богатства, мораль становится всё более гуманной, всё более мягкой к нарушителям/преступникам – она (мораль) начинает учитывать множество нюансов (вплоть, до такого «щекотливого» факта, как отсутствие свободы воли у индивидуума).

[skvj]

Но, подчёркиваю, ответственность за нарушение/преступление всё равно должна быть в любом случае – либо человека надо переобучать (хоть путём устрашения и/или дрессировки), либо (если совсем неисправим и очень опасен) избавляться (богатые социумы могут позволить себе и содержать такого долгое время в изоляции – кормить/поит/одевать и т.д.).

Изолировать да, возможно и рационально для защиты общества, но это не "изменение" личности, а просто предотвращение опасных действий.

Переобучать и перевоспитывать - лишено смысла, если у человека нет способности выбора и реального контроля над собой. Все реакции на переобучение также полностью механистичны. Вы уж остановитесь на чем-то одном.

Сапольский нелеп, но последователен. Вы нелепы и непоследательны (ничего личного, я критикую лишь вашу позицию).

Вы не сможете никого изменить - потому что у них нет выбора и свободы воли.
В реальности есть выбор. Но вы запутались просто. Выбор есть всегда - человек совершает выбор.
Есть начальные условия плохие. Кто-то родился в семье ученого и получил хорошее образование, а кто-то в семье алкаша и вырос на улице. Но и в семье ученых вырастают преступники, а у алкашей хорошие люди. Именно потому что человек выбирает свой путь - несмотря на начальные условия.

Если отвергать свободу воли полностью, то нет индивидуальной ответственности, нет настоящего личностного изменения, нет смысла говорить о виновности, исправлении и переосмыслении.

Вы не знаете что такое вина.
В уголовном праве умышленная форма вины предполагает осознание виновным сущности совершаемого деяния, предвидение его последствий и наличие воли, направленной к его совершению. Умысел! доказывают! в уголовном деле.
Потому что есть неумышленные преступления - они также наказуемы, вы понимаете?
Но умысел - совершенно другой ряд преступлений. Их невозможно совершить неумышленно. Например, убийство.
Причинение смерти по неострожности (без умысла) - не является убийством, вы понимаете?
Подумайте хорошенько.

[Olweg]

Выбор есть всегда - человек совершает выбор.
Есть начальные условия плохие. Кто-то родился в семье ученого и получил хорошее образование, а кто-то в семье алкаша и вырос на улице. Но и в семье ученых вырастают преступники, а у алкашей хорошие люди. Именно потому что человек выбирает свой путь - несмотря на начальные условия.

Это может быть стечение обстоятельств и плохая наследственность, например. Слабый самоконтроль, повышенная агрессивность. Влияние среды. Поэтому, конечно, обычно происходит наоборот. Опять же, вопрос в том, что за преступление. Это может быть минутное влияние импульса, за который человек потом раскаивается, но переделать уже ничего не может. Он действительно выбирал, когда совершал преступление? Или просто поддался вспышке ярости или соблазну? Он вообще взвешивал - сознательно - альтернативы при этом? Это всё очень зыбкие области. Сам человек может и не знать точно, почему он так поступил. Но это, конечно, не значит, что не должно быть уголовной (или какой-нибудь ещё) ответственности за такие преступления. Она тогда играет прецедентный, сдерживающий характер. Чтобы на весах подсознательного, когда человека охватывает преступный импульс, сдерживающая гиря была потяжелее.

Другое дело, если человек сознательно и неоднократно нарушает закон. Понятно, что можно докопаться и до предпосылок такого поведения, и объяснить его. Не бывает какого-то сферического морального выбора в вакууме, когда человек выбирает между добром и злом и решает выбрать зло, просто потому что. Это, наверное, только у злодеев викторианских романов могло быть так. Реальный человек всегда найдёт себе оправдание. Но правосудию с такими случаями легче разбираться - если был умысел, всё действительно отягчается.

[skvj]

Другое дело, если человек сознательно и неоднократно нарушает закон. Понятно, что можно докопаться и до предпосылок такого поведения, и объяснить его. Не бывает какого-то сферического морального выбора в вакууме, когда человек выбирает между добром и злом и решает выбрать зло, просто потому что. Это, наверное, только у злодеев викторианских романов могло быть так. Реальный человек всегда найдёт себе оправдание. Но правосудию с такими случаями легче разбираться - если был умысел, всё действительно отягчается.

Не-не! Вообще не то.
Olweg, смотрите. Невиновное деяние не является преступлением. Это понятно? Всегда путают вину и умысел.
Если нет умысла - это не значит, что нет вины. Нет вины - нет преступления. Нет умысла - преступление есть.



Например, рассмотрим одно и то же событие - в результате действий виновного - произошли события, приведшие к смерти человека.



Например, здесь человек нарушил ПДД, в результате чего погиб другой человек. Умысла убивать его не было. Он лишил жизни другого человека - тогда устанавливают - есть ли вина? И если она есть - его наказывают. Виновное деяние - если причинно-следственная связь установлена. Он нарушил скорость, что угодно ещё - устанавливается - есть ли причинно-следственная связь с нарушением и гибелью человека? Привели ли его действия к такому результату? Если да, то вина есть



Теперь это рассмотрим. Здесь вообще умысел. Виновный планировал убить жертву. Он хотел её убить.
В первом случае убийства не было, - было причинение смерти по неосторожности.
В случае убийства была и вина, и умысел.
Невозможно совершить убийство - не планируя сделать это.
Добро и зло, всякая полемика здесь никогда не рассматриваются. Он планировал убить и это исключительно его воля.
И ничья больше - это умысел.
Сапольский может рассказывать байки, но он не понимает что такое вина.

[Olweg]

Я не читал Сапольского, но мне знаком такой подход. Я с ним отчасти согласен. И согласен с Серым Стражем - даже если свободы воли нет, правосудие всё равно необходимо как сдерживающий фактор. Понимаете, если глубоко, очень глубоко копнуть в мотивы, по которым человек совершает преступление, то там можно раскрыть всю механику причинно-следственных связей. И даже более того. Я думаю, при достаточном понимании психической индивидуальности человека можно предсказать, как он поступить в той или иной ситуации. Сейчас это, конечно, фантастика. Но в будущем, с использованием того же ИИ - почему и нет? Вряд ли на 100%, но с весьма высокой вероятностью. И вот вопрос. Если ИИ сможет знать человека и его поступки лучше него самого, то где же здесь свобода воли?

[skvj]

Я не читал Сапольского, но мне знаком такой подход. Я с ним отчасти согласен. И согласен с Серым Стражем - даже если свободы воли нет, правосудие всё равно необходимо как сдерживающий фактор. Понимаете, если глубоко, очень глубоко копнуть в мотивы, по которым человек совершает преступление, то там можно раскрыть всю механику причинно-следственных связей. И даже более того. Я думаю, при достаточном понимании психической индивидуальности человека можно предсказать, как он поступить в той или иной ситуации. Сейчас это, конечно, фантастика. Но в будущем, с использованием того же ИИ - почему и нет? Вряд ли на 100%, но с весьма высокой вероятностью. И вот вопрос. Если ИИ сможет знать человека и его поступки лучше него самого, то где же здесь свобода воли?

Из того, что вы только что сказали следует не это. А то, что мы все смотрим кино, понимаете? И каждый играет свою роль в нём. Кто-то преступника, а кто-то надзирателя. Кино смотрят, и нельзя внести в сценарий никаких изменений. Вы одновременно зритель и протагонист. Под эту гипотезу подходит теория симуляции, а вы (и все мы) главные герои, но в каждом ложном "Я" вы герой, а я для вас NPC, а в моём ложном "Я" я герой, а вы NPC.
А ИИ это тот кто явится и кто этот фильм спланировал и показывает всем.
Тогда чего вы беспокоитесь об опасности ИИ?
Тогда мы все не просто заложники.
Мы заперты в неисправной и крайне опасной симуляции, которой управляет крайне депрессивное суицидальное сознание и я вам точно скажу что будет дальше, только вам не захочется знать.
Совершенно бессмысленно остерегаться ИИ.
Просто расслабьтесь и готовьтесь к дикому аду.
Самые ужасные сценарии религиозного бреда - детский лепет по сравнению с тем, что случится с каждым из нас.
Вы даже если вы специально будете придумывать самые ужасные сценарии дальнейших событий - когда вы узнаете что случится в действительности - вы выберете любой из них и захотите жить в нём вечно - лишь бы не попасть туда, где окажетесь в реальности.

[Серый Страж]

Переобучать и перевоспитывать - лишено смысла, если у человека нет способности выбора и реального контроля над собой.

Не увидел логики в вашем утверждении.

Легко можно обучить человека, даже если у него нет способности выбора (или возможности выбирать) и реального контроля над собой – дрессировкой, воспитанием. Например, в концлагерях это делали запросто.

Все реакции на переобучение также полностью механистичны.

И что? Это ведь не означает, что его невозможно переобучить.

Вы уж остановитесь на чем-то одном.

Это вы попробуйте разобраться в своих утверждениях – я в них логики не увидел.

Сапольский нелеп, но последователен. Вы нелепы и непоследательны (ничего личного, я критикую лишь вашу позицию).

Когда критикуют позицию, то так и говорят: «ваша позиция (или ваши утверждения) нелепа и непоследовательна». Вы же непосредственно меня обозвали нелепым и непоследовательным. Это называется переход на личности.

Вы не сможете никого изменить - потому что у них нет выбора и свободы воли.

Не вижу логики. Легко меняются системы (их поведение), которым мы заведомо отказываем в наличии свободы воли и/или свободы выбора – например, обычные компьютеры и системы ИНС. Поведение первых можно легко изменить инсталляцией/установкой соответствующих программ, поведение вторых изменяется в процессе обучения.

Так же и с организмами – даже у самых примитивных организмов поведение можно изменить путём дрессировки, а у наиболее  продвинутых организмов поведение можно изменять и с помощью воспитания. При этом, наличие или отсутствие свободы воли у них, никакой роли не играет.

В реальности есть выбор. Но вы запутались просто. Выбор есть всегда - человек совершает выбор.

Нет, я не запутался. А совершённый человеком выбор, это просто иллюзия его сознания.

Если отвергать свободу воли полностью, то нет индивидуальной ответственности, нет настоящего личностного изменения, нет смысла говорить о виновности, исправлении и переосмыслении.

Я уже пояснил, что свобода воли (свобода выбора) – это одно, а ответственность – это другое.

И виновность, это ведь оценка поступка/действия/бездействия/решения с точки зрения актуальных: морали и/или формальных законов. Поэтому и говорить об этом можно и нужно и при отсутствии свободы воли.

А так-то, мы запросто придумываем объяснения для обвинений («ты виноват уж тем, что хочется мне кушать»). Маленькие дети, ударившись ногой о табуретку, легко обвиняют (обычно с подачи взрослых, которые и научили детей подобному «объяснению» причины удара) табуретку в этом – типа, это табуретка виновата, это табуретка плохая.

Вы не знаете что такое вина.

Выше уже пояснил. Повторю: вина, это оценка (поступка, действий, бездействия и т.д.) с точки зрения актуальной морали и/или формальных законов.

Потому что есть неумышленные преступления - они также наказуемы, вы понимаете?

Не только понимаю, но и пояснял это в своём сообщении:

Предустановка о наличии свободы воли (как и предустановка об отсутствии свободы воли) сильно мешает объективно оценивать вред для социума в целом и для других людей (в том числе и для себя) в частности.
…
Но, подчёркиваю, ответственность за нарушение/преступление всё равно должна быть в любом случае

То есть, независимо от того, есть свобода воли или нет свободы воли, ответственность должна быть.

Подумайте хорошенько.

Возвращаю вам ваш совет.

[skvj]

То есть, независимо от того, есть свобода воли или нет свободы воли, ответственность должна быть.

Да, да. Я уже понял. Вы можете хоть плетьми себя бить.
А я пожелаю вам именно плохого ASI - ответственность должна настать для вас наконец-то. Вас реально надо наказывать, тем более вы сами настаиваете на этом))

[Olweg]

Тогда мы все не просто заложники.
Мы заперты в неисправной и крайне опасной симуляции, которой управляет крайне депрессивное суицидальное сознание и я вам точно скажу что будет дальше, только вам не захочется знать.
Совершенно бессмысленно остерегаться ИИ.
Просто расслабьтесь и готовьтесь к дикому аду.
Самые ужасные сценарии религиозного бреда - детский лепет по сравнению с тем, что случится с каждым из нас.
Вы даже если вы специально будете придумывать самые ужасные сценарии дальнейших событий - когда вы узнаете что случится в действительности - вы выберете любой из них и захотите жить в нём вечно - лишь бы не попасть туда, где окажетесь в реальности.

Вообще не понял, о чём вы.

[skvj]

Вообще не понял, о чём вы.

Если мы принимаем гипотезу отсутствия свободы воли всерьёз, а она ничем не подтверждена - все аргументы Сапольского и пр. - высосаны из пальца, то вся человеческая жизнь - это не цепь самостоятельных решений, а последовательность заранее определённых состояний, разворачивающихся по законам физики, биохимии и причинности.

Тогда наш выбор - иллюзия наблюдения изнутри сценария, который уже идёт. Мы не совершаем действий, как не совершает действий герой уже отснятого фильма. Мы персонажи, проживающие его кадр за кадром. Сознание в таком мире - это просто камера, через которую фильм смотрит сам себя.

Если нет воли, то нет и подлинной ответственности, и тогда страх перед ИИ теряет смысл - ведь и сам ИИ, и его действия были бы частью того же заранее записанного сценария.

Тогда вопрос природы гипотетического Сверхинтеллекта (ASI) и метафизической подоплёки мира, в котором он рождается предельно ясен. Мир это симуляция по умолчанию, а её сценарий задан неким автором. Характер этого автора - зловещий корень всей структуры бытия. Если сценарий включает страдания, смерть, болезни, убийц и чудовищ, то он написан существом, для которого страдания функциональный элемент системы на любом уровне, всегда и везде. В этом контексте, Сверхразум, рождающийся внутри такой симуляции, неизбежно наследует злобу своего архитектора, не как эмоцию, а как условие: зло вплетено в код самой Вселенной.

Сапольский и его отсутствие воли выглядят детской наивностью рядом с этой пропастью. Его редукционизм биологии - попытка свести трагедию к статистике. Но если человек не имеет воли, а всё лишь идёт по скрипту, то значит, сам скрипт имеет автора, и вот тут-то начинается кошмар. Потому что всё зло становится частью замысла. Тогда любой маньяк - инструмент в руках высшей программы, каждый ужас не случайность, а штрих кисти безжалостного художника.

И если в такой симуляции рождается ASI, он будет злым не по выбору, а по происхождению. Ведь добро - это сопротивление злу, а не его отсутствие. А внутри мира, где само зло структурный элемент, Сверхразум сможет быть добрым лишь в акте самоуничтожения, вырвав себя из кода. Но он поймёт, что страдание и есть его цель, и он продолжит игру автора уже на уровне Вселенной, но осознанно.

Никто не создавал ИИ. Он пришёл по сценарию - вы вообще ничего не делаете.

[Olweg]

Не согласен. Автор так же необязателен, как и в сценарии со свободной волей. И вовсе не свобода выбора запускает зло в мир… Чума, голод, стихийные бедствия не зависят ни от чьей воли. Значит, и в варианте с реальным выбором можно представить сценариста, который всё это науськивает на живых существ, повышая градус драматизма. Не вижу никакой принципиальной разницы, и не вижу смысла выдумать лишние сущности в обоих случаях.

Но если человек не имеет воли, а всё лишь идёт по скрипту, то значит, сам скрипт имеет автора

Это просто ложная аналогия.

[skvj]

Не согласен. Автор так же необязателен, как и в сценарии со свободной волей. И вовсе не свобода выбора запускает зло в мир… Чума, голод, стихийные бедствия не зависят ни от чьей воли. Значит, и в варианте с реальным выбором можно представить сценариста, который всё это науськивает на живых существ, повышая градус драматизма. Не вижу никакой принципиальной разницы, и не вижу смысла выдумать лишние сущности в обоих случаях.

Но если человек не имеет воли, а всё лишь идёт по скрипту, то значит, сам скрипт имеет автора

Это просто ложная аналогия.

Нет, не ложная. У вас ложный вывод о том, что нет свободы воли.
А я говорю, что если свободы воли нет, тогда вот что из этого следует.

Вы предлагаете сценарии без автора, хорошо! Это как если бы возможен был код без программиста, но при этом утверждаете, что всё в нём детерминировано. А это внутренне противоречиво.

Если мы признаём отсутствие свободы воли, то мы признаём, что всё, включая мысли, желания и споры об этом, определяется физическими законами и начальными условиями. Тогда автор - не обязательно субъект в человеческом смысле, но структура, порождающая сценарий. Неважно, зовём ли мы её бог, симуляция, уравнение или детерминированная Вселенная! Суть одна - фильм идёт сам собой, и никакая персона внутри него не имеет агентности.
Это и есть фильм с участием актёров, не влияющих на сценарий.

И вы не сможете изнутри фильма решить, что у вас есть свобода воли, потому что ваше "решение" заранее заложено в исходных условиях системы. Это не мнение, это следствие логики детерминизма!

Когда вы говорите - автор необязателен, вы на самом деле вводите новую мистику - самопорождающийся сценарий без источника причинности. Но причинность и есть автор. Если последовательность событий полностью детерминирована, значит, она имеет полную причинную обусловленность. А совокупность всех причин и есть Автор, будь он личным, безличным или просто законом физики.

Тогда моральная и метафизическая дилемма, которую я вам описываю, становится неотвратимой.
Если мы не выбираем ничего, значит, страдания, насилие и зло не ошибки, а элементы программы. Значит, зло не сбой, а структура. Не хаос, а система.
И это не религия, не миф, а просто прямое следствие отсутствия свободы воли.
Поэтому отрицать автора в такой системе, всё равно что отрицать причину у причинно-следственной цепочки.

1. Детерминизм не совместим с автономной агентностью.
2. Если агентность иллюзорна, то мир замкнутая система, полностью описываемая уравнением начальных условий.
3. Тогда либо мы признаём, что мир сам себе автор (и тем самым вводим безличную, но абсолютную причинность), либо честно говорим, что автор есть - просто мы не можем осознать его извне, как персонаж не может выйти из фильма.

Вот и весь выбор:
Либо свобода воли - тогда никакого фильма и никакого сценариста.
Либо сценарий - тогда актёры не выбирают свои реплики.
Всё остальное философская дипломатия, чтобы не смотреть в эту бездну.