Психика, сознание, разум - определения и возможность моделирования

[Olweg]

а ведь это просто нейросетка. откуда берётся эта разность? из чего?

Ну так я же выше писал - ответ подбирается вероятностным способом. Ответ представляет из себя цепочку токенов (слов, в первом приближении), каждое новое слово подбирается с учётом уже сформированной части ответа, и не всегда это самое вероятное слово, специально добавлен элемент случайности.

[незлой]

специально добавлен элемент случайности.

как? гсч стоит? там же вроде просто сетка.
..разве что предыдущие ответы тоже влияют на весы. тогда в роли своеобразного гсч выступает сам "окружающий мир" (промпты от пользователя)

[Olweg]

Ну и что, что сетка? Одно другому не мешает. Случайность ответа определяется таким параметром, как «температура».

При значении temperature = 1 генерация будет более случайной, при temperature < 1 — более детерминированной. Если установить temperature = 0, модель будет выбирать наиболее вероятное продолжение на каждом шаге, устраняя элемент случайности.

Также ChatGPT пишет, что у него внутре установлена t=1 (умеренная случайность, t может быть и больше единицы).

Здесь более подробно про температуру (с 22:22, если таймкод не работает):
https://www.youtube.com/watch?v=wjZofJX0v4M&list=PLZ-UQJ2LzhFZhDIX3r5I9JDhFpKT5m1bT&index=7&t=1342s

Другими словами, при помощи этого параметра можно усилить вероятности второстепенных вариантов ответа, и потом генератор случайных чисел выбирает из нескольких наиболее вероятных (при t=0 вся вероятность присвоена одному из вариантов, и выбирать не из чего). При t>2 модель начинает слишком сильно шизофазить.

[незлой]

читеры!

[Olweg]

А как? Как настоящую-то свободу воли прикрутить?

[незлой]

Как настоящую-то свободу воли прикрутить?

так её-ж, пишут, и нету вовсе
гармональный фон можно сэмулировать 

[Olweg]

Даже Трурль не придумал ничего лучше, как положиться на случайность.

У каждого из них в голове имелся гомеостатик, а в нем – два больших, приваренных по бокам кронштейна, между коими вольная воля его могла себе пресвободно гулять; однако же спрятанная под крышкой пружина Добра тянула в свою сторону гораздо сильнее, чем другая, поменьше, придерживаемая колодкой и имевшая целью одну лишь негацию и деструкцию.

[Combinator]

Есть. На один и тот же вопрос иногда он даёт разные ответы.

ну да.
а ведь это просто нейросетка. откуда берётся эта разность? из чего?

Из датчика случайных чисел. На каждом шаге "рассуждения" выбирается не вариант, имеющий максимальную вероятность, а вариант, который выдаёт датчик случайных чисел с учётом вероятности опций. Если где-то на какой-то развилке эти вероятности примерно равны, то и ответ будет выбираться между ними практически случайно.

[СТОкрат]

А как? Как настоящую-то свободу воли прикрутить?

Её, думаю, вообще нет в природе. Свобода воли это химера. Если Вы решили встать с кресла и выпить стакан сока, то просматривая ретроспективно последовательность процессов (нервные импульсы к мышцам от моторной коры, импульсы к моторной коре от других отделов, и т.д.), вы обнаружите, что каждое следующее состояние всех нейронов проистекало из предыдущего состояния в какой-то степени, видимо, детерминировано, а отчасти ещё и с добавлением случайной компоненты. В каком моменте этой причинно-следственной цепи можно найти свободу воли?

[Olweg]

Ну так я и говорю. Генератор случайных чисел сделать квантовым. Только тогда детерминизм уйдёт. Но это не решает проблемы, потому что случайный процесс - это не волевой процесс. Если за твои решения ответственны случайные квантовые процессы, то в любом случае, при чём тут твоя воля и её свобода?

В общем, по-видимому, чувство свободы поведения, чувство, что ты можешь принимать решения - необходимый компонент механизма психики, который (механизм) является вполне себе детерминированным. Поскольку мы не можем выйти за рамки системы, которой и являемся, то нам и кажется это парадоксальным.

[незлой]

тут, кмк, применим старый трюк: неважно, есть ли "свобода воли" на самом деле (что бы это ни значило). важно, что мы ведём себя так, словно она есть 

[Olweg]

тут, кмк, применим старый трюк: неважно, есть ли "свобода воли" на самом деле (что бы это ни значило). важно, что мы ведём себя так, словно она есть 

А по другому и не можем - иллюзия слишком сильна, и хорошо, что так. Чтобы её подорвать, одних логических рассуждений недостаточно, нужно что-то посерьёзнее, какие-нибудь зримые доказательства, как в рассказе Теда Чана, да и то не факт:
https://www.mirf.ru/book/chego-ot-nas-zhdut-rasskaz-ted-chan

[СТОкрат]

одних логических рассуждений недостаточно, нужно что-то посерьёзнее, какие-нибудь зримые доказательства

Доказательства того, что нет свободы воли? Почему такая постановка вопроса? Где доказательства существования свободы воли? Мы видим только потоки ионов через мембраны нейронов да выбросы нейромедиаторов.

[Olweg]

Речь о нашей уверенности в её существовании. Она необходима, иначе наша психика не могла бы нормально работать. То есть разговор был не о формальных доказательствах, а о наглядной иллюстрации, которая могла бы действовать напрямую на эмоциональном уровне, и которая могла бы пошатнуть эту нашу уверенность, как в рассказе по ссылке.

[незлой]

Где доказательства существования свободы воли?

как сказал один астрофизик "нас не интересует, какова вселенная на самом деле. нас интересует, почему вы видим её такой, какой видим"
тут примерно тоже самое.

[Combinator]

Уже проводились опыты, когода доказывалось, что на основе анализа активности разных нейронов мозга возможно предсказать выбор человека ещё до того, как он его сам ососзнает.

[Инопланетянин]

Речь о нашей уверенности в её существовании. Она необходима, иначе наша психика не могла бы нормально работать.

А зачем ей нормально работать? Зачем ей вообще работать, если за неё это делают детерминированные процессы? Или всё же работает психика, т.е. что-то сама делает? Но тогда она, психика, свободна по настоящему? Что в нас вообще беспокоится о свободе? Это нечто свободно или нет? Если нет, то от кого несвободно? А если наша психика, мы сами состоим из бессознательных (каждый по отдельности) процессов, то может мы свободны?
Вообще, что такое свобода и несвобода? Если нам свою волю навязывает другой человек, мы однозначно посчитаем себя несвободными, но если нам свою "волю" навязывает механизм, скажем, чихания или кашля, то это несвобода или свобода? Свободны ли процессы в нашем мозгу? А если подавить кашель? Мы же тогда сможем умереть от загрязнения лёгких, так может нашим свободным выбором будет позволить этому механизму помимо нашей воли заставлять нас кашлять? Это пример, конечно, но и остальные процессы ведь направлены на наше выживание и действительно ли в наших интересах их подавлять? Кстати, а наша (и ваша ) свобода и наши интересы это одно и то же или нет?

[Olweg]

Речь о нашей уверенности в её существовании. Она необходима, иначе наша психика не могла бы нормально работать.

А зачем ей нормально работать? Зачем ей вообще работать, если за неё это делают детерминированные процессы? Или всё же работает психика, т.е. что-то сама делает? Но тогда она, психика, свободна по настоящему?

В детерминированном процессе работы психики одним из необходимых (хотя, вероятно, и побочных) элементов служит самооценка одного из подпроцессов (считающих себя центральным, «я») как свободного в своих действиях.

[СТОкрат]

Речь о нашей уверенности в её существовании. Она необходима, иначе наша психика не могла бы нормально работать.

Вы смотрите сны абсолютно без всякой свободы воли (осознанные сновидения с возможностью выбора это редкость), и ничего с психикой не происходит страшного. Просто смотрите "кино" про свои приключения как совершенно безвольный наблюдатель, не влияя на развитие сюжета.
 Вот точно так же и в состоянии бодрствования мы бы видели свою жизнь, как сон.

[Rattus]

Вы смотрите сны абсолютно без всякой свободы воли

Сфигали? Свобода воли - это прежде всего первичное внутреннее ощущение - навроде "квалиа", которому в языке придумано слово. Но наличие слова вовсе не предполагает объективной реальности явления.

Просто смотрите "кино" про свои приключения как совершенно безвольный наблюдатель, не влияя на развитие сюжета.

Совершенно не обязательно и далеко не всегда. События во сне могут развиваться самым причудливым образом и не на все из них можно повлиять (как и в реальности), но поведение самого себя в них как субъекта ощущается также как вполне самостоятельное: сон - это ниразу не кино, а куда скорее эпизоды игры в виртуальной реальности.