Психика, сознание, разум - определения и возможность моделирования

[Olweg]

Я же веду к тому, что сознание (субъективный опыт) всё-таки - принципиально - поддаётся объективному изучению. И когда-нибудь можно будет сказать: в этой системе идут такие-то информационные процессы, и поэтому она способна к ощущениям. Или: поэтому у неё есть сознание. С пониманием того, что такое самосознание, я думаю, будет меньше проблем - уже сейчас есть зеркальный тест.

[stuuvi]

И когда-нибудь можно будет сказать: в этой системе идут такие-то информационные процессы, и поэтому она способна к ощущениям.

Предложите эксперимент в ходе которого можно установить что это ощущения.

[Olweg]

Пока мы не будем знать, какие процессы к ним приводят, какие-либо эксперименты бессмысленны.

[Olweg]

То есть, повторюсь - вначале нужно исследовать этот феномен у человека. Потому что человек единственный, про которого мы можем со 100% уверенностью сказать, что сознание у него есть. И, кроме того, он единственный (пока), кто может рассказать о своём субъективном опыте.

[Cvadrat]

это ужасно.

[Rattus]

Потому что человек единственный, про которого мы можем со 100% уверенностью сказать, что сознание у него есть.

На каком основании?

И, кроме того, он единственный (пока), кто может рассказать о своём субъективном опыте.

Обезяны, которых научили языку глухонемых - тоже могут. При этом словарный запас их и сложность семантических конструкций оказывается на уровне языка пираха.
И получается в таком случае, что либо гоминиды таки обладают сознанием - и у нас нет никакой чёткой границы и критерия, либо не все люди обладают сознанием - и мы впадаем в адовый шовинизм.

А вот тут уже за аксиому принять не получится.

Так оно уже принято - причём помимо сознания по сути - самим социальным мозгом - как отражение видовой принадлежности.

Проблема в том, что можно представить себе ИИ, который будет проходить тест Тьюринга, не обладая при этом "ощущалкой".

Реально же такой проблемы нет. "Китайская комната" - совершенно пустой философский конструкт (как и большинство прочих философских конструктов), не имеющий никакого отношения к реальности. А "философский зомби" - ещё и социально опасный, поскольку легко позволяет признать таковым любого другого человека - не себя.

А потом уже искать сознание в железных.

С ними проблема ровно та же - при росте сложности выше некоторого уровня его описание выходит за пределы того, что мы можем понять. Чисто количественно. Нейросети Deep Mind - прекрасный тому пример. Мы точно знаем, что они используют не те алгоритмы, которые нам известны (ибо для решения той же Го в лоб они не подошли), а какие - узнать не можем, потому что они принципиально представлены только в условных весах условных нейронов нейросети. Для расшифровки это ещё хуже чем простой бинарник какой-либо программы.
Поэтому кибернетики ещё когда придумали понятие "черного ящика" - системы практически непознаваемой, но при этом исправно работающей и выполняющей свои задачи. И оно их вовсе не пугает.

Но тут ещё многое зависит от определения термина "сознание".

Тут от него ВСЁ зависит. И поэтому и начинать надо с него прежде всего.

[Olweg]

Обезяны, которых научили языку глухонемых - тоже могут. При этом словарный запас их и сложность семантических конструкций оказывается на уровне языка пираха.
И получается в таком случае, что либо гоминиды таки обладают сознанием - и у нас нет никакой чёткой границы и критерия, либо не все люди обладают сознанием - и мы впадаем в адовый шовинизм.

Да, про говорящих обезьян я помнил, когда писал пост, но решил ограничить аксиому людьми, потому что обязательно найдутся те, кто не признает за нашими родственниками души, т.к. в Писании про это не упоминается, а вот отрицать сознание у прочих людей - это уже клиника. Поэтому ограничиться людьми надёжнее. Проведём на нас эксперименты, получим результаты, подтверждающие, что у всех мозговитых тварей, обладающих нужными нейронными сетями, есть что-то напоминающее сознание, и все будут довольны. Интуитивно это и сейчас понятно, но интуитивно же было понятно, что Земля плоская.

А вот тут уже за аксиому принять не получится.

Так оно уже принято - причём помимо сознания по сути - самим социальным мозгом - как отражение видовой принадлежности.

Видовая принадлежность ИИ?.. К кому?

Реально же такой проблемы нет. "Китайская комната" - совершенно пустой философский конструкт (как и большинство прочих философских конструктов), не имеющий никакого отношения к реальности. А "философский зомби" - ещё и социально опасный, поскольку легко позволяет признать таковым любого другого человека - не себя.

Оттого, что конструкт опасен, не следует, что он неправилен Поэтому я предлагаю принять за аксиому наличие ощущалки у всех хомосапов. Так как иначе можно скатиться в солипсизм, что неконструктивно. А вот распространять эту аксиому на всякие железяки - действительно опасно.

Поэтому кибернетики ещё когда придумали понятие "черного ящика" - системы практически непознаваемой, но при этом исправно работающей и выполняющей свои задачи. И оно их вовсе не пугает.

Рабовладельца тоже не пугает философский вопрос наличия или отсутствия души у его собственности. Эффективно работает - и хорошо. Но почему-то рабство в современном обществе не одобряется.

Но тут ещё многое зависит от определения термина "сознание".

Тут от него ВСЁ зависит. И поэтому и начинать надо с него прежде всего.

Поэтому я разделяю сознание и самосознание. С самосознанием проблем как раз никаких нет, так, прояснить технические детали. А вот ощущалка - это действительно непонятно.

[Рок]

т.к. в Писании про это не упоминается

Там и Австралия не упоминается

[Olweg]

Австралию приходится признать, а шиманзячья душа - потёмки.

[незлой]

Проблема в том, что можно представить себе ИИ, который будет проходить тест Тьюринга, не обладая при этом "ощущалкой". Как доказать, что она у него есть?

зачем? если ктото справился без ощущалки -- замечательно, честь ему и хвала. кому, что и зачем нужно доказывать?

Поэтому всё-таки для начала нужно понять, как возникает ощущающий что-то субъект.

да, именно это и интересно.
есть идеи?

[незлой]

Потому что человек единственный, про которого мы можем со 100% уверенностью сказать, что сознание у него есть

тут, кстати, не факт. если сделать машину неспособной ко лжи (а это, в свою очередь, можно решить даже чисто лингвистическими методами), и заставить её описать "свой внутренний мир" и свои "ощущения" -- что именно заставит усомнится в этих описаниях?

[Olweg]

Возможное семантическое взаимонепонимание.

[незлой]

И получается в таком случае, что либо гоминиды таки обладают сознанием - и у нас нет никакой чёткой границы и критерия, либо не все люди обладают сознанием - и мы впадаем в адовый шовинизм.

"сознанием" обладают как минимум млекопитающие и птицы.
хотя, скорее всего, это ещё более ранняя штука.

[Olweg]

зачем? если ктото справился без ощущалки -- замечательно, честь ему и хвала. кому, что и зачем нужно доказывать?

А мне интересно. Заснуть спокойно не смогу, пока не узнаю. Неужели вам лично всё равно, ощущает ли что-то машина, с которой разговариваешь, или это просто железка бездушная?

есть идеи?

Если честно, то ни малейшой. Но ведь это-то и интересно! Изучать проблему, которая даже неизвестно, решаема ли в принципе.

[Rattus]

отрицать сознание у прочих людей - это уже клиника

Почему "клиника"? Кто это постановил? На каком основании?

есть что-то напоминающее сознание

По каким критериям?

Видовая принадлежность ИИ?.. К кому?

К расширенному фенотипу другого вида. Не важно. Речь просто о происхождении sensu lato.

Оттого, что конструкт опасен, не следует, что он неправилен

А вот физике почему-то если установка не работает - значит она собрана неправильно. И физика от жёсткого применения этого критерия почему-то ниразу не страдает.

что неконструктивно

О! Осталось сделать один небольшой шаг - ответив на вопрос: почему именно неконструктивно?

А вот распространять эту аксиому на всякие железяки - действительно опасно.

Чем же? Очень многие дети одушевляют свои игрушки. Почему человечество от этого ещё не вымерло?

Но почему-то рабство в современном обществе не одобряется.

Зато активно применяется де факто. Хотя и не везде. Мало ли что люди говорят - смотреть надо на то, что они реально делают.

С самосознанием проблем как раз никаких нет, так, прояснить технические детали.

У организма без зрения и эхолокации?

если сделать машину неспособной ко лжи (а это, в свою очередь, можно решить даже чисто лингвистическими методами)

Как же? Определение языка, как уже указывалось выше, включает способность формировать рекурсии. Ложные высказывания, содержащие рекурсии не могут быть проверены на истинность непосредственно. А замкнутые - и в принципе (парадокс Эпименида).

Неужели вам лично всё равно, ощущает ли что-то машина, с которой разговариваешь, или это просто железка бездушная?

Единственное корректное и общее понятие ощущения, которое только можно дать - это процесс ввода информации. А бездушным, как сказано выше, и человеков назвать совершенно ничего не мешает - кроме единственной опасности - что эти бездушные соберутся и физически научат вас правильному взгляду на Мiръ. Как это делали всеразличные нации и меньшинства всю историю. Как сейчас делают люди с синдромом Аспергера.

Сознание - как понятие физиологическое - давно не представляет проблем для регистрации и поиска нейрокоррелята.
Сознание как социальный конструкт - как и все прочие конструкты - имеет природу общественного договора (т.е. формализации достигнутого состояния динамического равновесия) в процессе борьбы за свои интересы всех особей в популяции.
И всё. Больше тут не о чем вообще говорить.

[незлой]

Неужели вам лично всё равно, ощущает ли что-то машина, с которой разговариваешь, или это просто железка бездушная?

если она достаточно умело притворяется, будто ощущения у неё есть -- то да, абсолютно: в этом машина ничем не отличается от прочих собеседников

[незлой]

Определение языка, как уже указывалось выше, включает способность формировать рекурсии.

это не определение языка, это свойства реализации.

[Olweg]

Почему "клиника"? Кто это постановил? На каком основании?

На основании того самого общественного договора, о котором вы говорили. И здравого смысла.

есть что-то напоминающее сознание

По каким критериям?

По критерию, о котором я писал - способности к ощущениям.

Не важно. Речь просто о происхождении sensu lato.

Слишком зыбко и недоказуемо. Создадим ИИ с принципиально иной архитектурой мозга - и как на него будем распространять родственные чувства?

А вот физике почему-то если установка не работает - значит она собрана неправильно.

Конечно. Но почему неработоспособна китайская комната?

Очень многие дети одушевляют свои игрушки.

А многие взрослые одушевляют свои автомобили и разговаривают с телевизором. Но мы-то в этой теме собрались, чтобы действительно понять. Или вас устраивает уровень разговора с телевизором? Опасность тут в игнорировании проблемы и самоуспокоении.
 

Единственное корректное и общее понятие ощущения, которое только можно дать - это процесс ввода информации.

Когда я набираю сейчас эти буквы на клавиатуре, компьютер что-то ощущает? Вы серьёзно так думаете? И когда отбиваю морзянку на столе? Он тоже что-то чувствует?
Ваше понятие ощущения удобно, потому что оно позволяет обойти проблему, не замечая её и снисходительно оставляя "философам". Но ведь некоторые фундаментальные научные вопросы начинались именно как философские проблемы. Я считаю, что проблема субъективного - последняя серьёзная тема, которая осталась по ведомству современной философии, и наука должна обратить на неё внимание, а не прибегать к страусиной тактике. Эта тактика удобна, но не конструктивна. Камни всё-таки иногда падают с неба.

Сознание - как понятие физиологическое - давно не представляет проблем для регистрации и поиска нейрокоррелята.

В таком случае вам несложно будет назвать такой нейрокореллят у членистоногих?

[Olweg]

если она достаточно умело притворяется, будто ощущения у неё есть -- то да, абсолютно: в этом машина ничем не отличается от прочих собеседников

А мне вот не всё равно. И интересно будет найти ответ на этот вопрос, если это возможно.

[stuuvi]

А мне вот не всё равно. И интересно будет найти ответ на этот вопрос, если это возможно.

Я же выше объяснял, что его в принципе нельзя найти. По причине того, что эксперимент поставить невозможно. Вы просто перечитывайте и думайте.