Психика, сознание, разум - определения и возможность моделирования

[Serg53]

= Сознание как психофизиологический феномен =
http://web-local.rudn.ru/web-local/uem/ido/psix_fiz/11.html

[-Юрий-]

Архи интересная передача ("Что делать?"). Сегодня была по "Культуре" в 12-25 (началась в 12-30). Повторение будет в 18-40. Можно посмотреть запись в интернете. Тема - создание искусственного интеллекта и проблемы, с этим связанные. Ведущий - Виталий Третьяков. Участники - профессора ведущих вузов, специалисты в этом вопросе. Настоятельно рекомендуется для обязательного просмотра всем.

[Olweg]

Машины смогут обладать сознанием. Нейронауки подскажут, как этого добиться

Авторы недавней статьи в Science Станислас Деан (Stanislas Dehaene), Хакван Лау (Hakwan Lau) и Сид Куидер (Sid Kouider) предлагают посмотреть на это понятие [сознание] с точки зрения применимости в области исследований искусственного интеллекта. Поняв лучше, как устроено человеческое сознание, исследователи, возможно, смогут его смоделировать и тем самым усовершенствовать наши ИИ-технологии.

Авторы статьи выделяют два типа сознания: сознание как распространение актуальной информации по всем частям мозга (С1) и сознание как рефлексия, интроспекция и отслеживание ошибок (С2). Дополнительно вводится обозначение C0 для бессознательного. Учёные утверждают, что, во-первых, многие интеллектуальные задачи человек выполняет на бессознательном уровне, а, во-вторых, для моделирования полного человеческого интеллекта одного только уровня С1 недостаточно, а необходима ещё функция самоконтроля (С2). Кроме этого, они утверждают, что текущий ИИ находится на уровне бессознательного (С0).

Многие из человеческих бессознательных процессов были воплощены программно с помощью нейронных сетей с обратным распространением ошибки. Теперь исследователям стоит задуматься, что необходимо сделать, чтобы также реализовать уровни сознания — С1 и С2.

Сознание С1 — это первое, что появилось у сложных организмов для обработки информации и компенсации модулярности и параллелизма информационных процессов. Этот тип сознания подразумевает существование «глобального нейронного рабочего пространства» (global neuronal workspace), в котором один фрагмент информации может быть выбран и удержан в памяти для последующей обработки, а также разослан другим модулям. Сознательно воспринятой можно назвать такую информацию, которая победила в соревновании за доступ к рабочему пространству, была разослана по всем модулям, и согласно которой может быть принято решение. Сознание, таким образом, это временное доминирование определённой мысли или хода мыслей над другими.

Сознание С2 — это что-то типа рефлексии. Если С1 позволяет обрабатывать входные стимулы, то С2 «вычисляет вероятность», насколько суждения С1 являются правильными или ложными. Такое сознание можно назвать метасознанием.

Люди довольно преуспели в наделении компьютеров способностью решать отдельные интеллектуальные задачи, но создать систему, которая бы работала сразу с несколькими интеллектуальными процессами, пока не получилось. В 60-х существовали вычислительные архитектуры, которые назывались «системами с доской объявлений» (blackboard systems). В них разные модули могли разделять свою информацию с другими так, чтобы все её понимали. В недавно разработанной архитектуре под названием PathNet, чтобы наделить программу способностью понимать, какой именно путь в её множестве нейронных сетей наиболее приспособлен для решения той или иной задачи, использован генетический алгоритм. Эта система может проводить генерализацию между разными заданиями, поэтому представляет собой шаг вперёд в задаче создания универсального ИИ.

Текущие системы машинного обучения не умеют проверять себя на ошибки, за исключением байесовских систем и PathNet, упомянутых выше. Но даже используя обычные свёрточные нейронные сети, которые не сообщают нам вероятность того, что была совершена ошибка, можно выкрутиться — натренировать другую сеть, которая бы предсказывала вероятность ошибки. Среди ИИ-моделей есть состязательные генеративные сети, которые используют вторую сеть, чтобы она оценивала правдоподобие сгенерированного первой сетью результата. Если такую модель, работающую по принципу С2, совместить с моделями С1, мы могли бы получить ИИ, который смог бы более точно имитировать человеческое сознание.

Аргументы авторов статьи незамысловаты. Отходя от доминирующих определений, они называют сознанием два типа вычислений, выполняемых в мозгу. Они также утверждают, что машина, у которой будет С1 и С2, будет полностью сознательной. Если она что-то увидит, она будет знать, что видит это. Она сможет испытывать визуальные галлюцинации, если её механизмы автомониторинга сломаются.

Некоторые могут остаться недовольными этим определением сознания. Не сводят ли авторы всё к вычислениям? А как же элемент субъективного восприятия? Учёные решают не вступать в этот извечный спор, а просто приводят аргумент: когда люди теряют способность к сознанию С1 или С2, они также теряют субъективное восприятие. Например, если у человека повреждена первичная визуальная кора, это может привести к неврологическому состоянию «слепого зрения», когда у людей есть область зрения, в которой они могут локализовать визуальные стимулы, но не могут сказать, что это такое, или предположить, что это именно это.

Итог простой: хотя столетия философского дуализма научили нас верить в то, что субъективный опыт не сводим к сигналам нейронов, эмпирика нам говорит, что возможно всё-таки сводим.

[EmperioAf]

Итог простой: хотя столетия философского дуализма научили нас верить в то, что субъективный опыт не сводим к сигналам нейронов, эмпирика нам говорит, что возможно всё-таки сводим.

Т.е. нейрон можно принять за элементарную, неделимую единицу в информационных процессах мозга?

[Olweg]

Не знаю. Возможно, и нет, единицами могут быть какие-то подпроцессы, а не конкретное железо.

[Rattus]

Т.е. нейрон можно принять за элементарную, неделимую единицу в информационных процессах мозга?

Разумеется нет! У нейрона может быть от единиц до двух десятков тысяч синапсов (контактов с другими нейронами), а синапс в среднем кодирует около 4,7 бита.

[EmperioAf]

Я оговорился. Я имел ввиду как раз "сигнал нейрона", а не "нейрон".

[Проходящий Кот]

Т.е. нейрон можно принять за элементарную, неделимую единицу в информационных процессах мозга?

Разумеется нет! У нейрона может быть от единиц до двух десятков тысяч синапсов (контактов с другими нейронами), а синапс в среднем кодирует около 4,7 бита.

Тоесть общий объём мозга вполне может быть оценен вполне конечной величиной....

[Rattus]

Я имел ввиду как раз "сигнал нейрона", а не "нейрон".

Отдельный сигнал да, и они имеют предельную частоту где-то в килогерц. Но до этого предела частота сигналов варьирует вполне непрерывным, аналоговым образом.

Тоесть общий объём мозга вполне может быть оценен вполне конечной величиной

Ага. Выраженной в литрах. Captain Obvious to the rescue!

[Skipper_NORTON]

оварищ, дайте сначала вменяемое определение термину "Сознание" а потому уж поговорим об его искуственном воспроизведении.

 
Для некоторых это понятно, и без строгих определений терминов.
"Сознание - свойство объекта, которое выражается в способности чувствовать". 
Простейшее чувство - боли. 
 
Я почему то уверен, что если создать робота с компьютером в голове, то как ты его ни программируй (пусть будет даже кривиться и изображать боль, если его ударить) - но настоящей боли он не чувствует.  А потому и не обладает сознанием. 
 
А вот вы - боль чувствуете.   Также, боль чувствует и собака, если ей кипятка ливануть на лапы.  А потому сознание   у собаки есть.
 
Я не понимаю, что такого можно напрограммировать, чтобы программа,  а точнее железо, её обрабатывающее (транзисторы, ячейки памяти и т.д.) -
вдруг обрели способность что то почувствовать.
Кажется, эта сущность - субстанция, должна закладываться не программно , а физически, на аппаратном уровне. 
 
И если наука не выделяет этой сущности, что именно способно чувствовать, а все мы состоим из протонов-нейтронов-электронов,
то выходит, что эти частицы и обладают этой способностью (чувствовать). Но что-то не верится. Кажется, что должно быть ещё что-то.
 
 

[николай теллалов]

вот вы - боль чувствуете

есть люди с нарушениями нервной системы, при которых нет вообще чувства боли - аналгия.

есть и животные, нечувствительные к боли

[MenFrame]

но настоящей боли он не чувствует.

А с чего вы взяли что чувствуете настоящую боль?

И если наука не выделяет этой сущности, что именно способно чувствовать,

Ваша способность чувствовать боль просто сложная реакция на раздражитель....

Для некоторых это понятно, и без строгих определений терминов.
"Сознание - свойство объекта, которое выражается в способности чувствовать". 

Искать значение термину, любимая задача бредо-философии.

[Skipper_NORTON]

Ваша способность чувствовать боль просто сложная реакция на раздражитель....

 
 
Неважно, реакция или не реакция (это со стороны так кажется что "просто реакция"), 
а внутреннее ощущение  субъектом - либо есть либо нет.  Это внутреннее свойство субъекта. У камня, я думаю,
такого свойства нет,  т.е. камень ничего не чувствует.   Тем и живое отличается от неживого. Компьютер - тоже вроде как,
неживой, а потому ничего не чувствует.
 

А с чего вы взяли что чувствуете настоящую боль?

 
Некорректный вопрос.  Задам аналогичный  - "а с чего вы взяли что вы что то видите глазами?  может вы слепой?"
 
Наконец, ещё такой вопрос -1) если ли способность что то чувствовать (ту же боль например) - у камня?
2) у только что оплодотворённой яйцеклетки?
3) у компьютера (т.е ящика, который под столом стоит).
 
 

[MenFrame]

а внутреннее ощущение  субъектом - либо есть либо нет.

Ощущение это результат обработки  кинестетических сигналов. Боль результат обработки сигналов от болевых рецепторов.

У камня, я думаю,
такого свойства нет,  т.е. камень ничего не чувствует.   

Разумеется камень не обрабатывает информацию. Потому не может чувствовать.

Компьютер - тоже вроде как,
неживой, а потому ничего не чувствует.

А компьютер может обрабатывать информацию, в том числе кинестетическую.

Некорректный вопрос.

Вопрос действительно не корректный, ибо вы о настоящести рассуждаете....которая сама по себе не коректна. Вопрос был задан с целью показать не корректность заявлений о настоящести.

"а с чего вы взяли что вы что то видите глазами?  может вы слепой?"

Я вижу мозгом, ну или психикой.

[eRTF]

Я вижу мозгом, ну или психикой.

Мозг видит. Глазами. "Я вижу" - это мысль мозга.

[Skipper_NORTON]

А компьютер может обрабатывать информацию, в том числе кинестетическую.

 
Значит, компьютер может чувствовать?  Т.е. если я как программист, напишу  подобную программу, то посредством её, смогу доставить
чувство боли,  этому ящику компьютеру под столом? (транзисторам там..  электронам всяким),
 

[LV46]

Я не понимаю, что такого можно напрограммировать, чтобы программа,  а точнее железо, её обрабатывающее (транзисторы, ячейки памяти и т.д.) -
вдруг обрели способность что то почувствовать.

Боль - это чисто биологический атавизм. Природа просто не сумела "придумать" чО получше в плане диагностики и предупреждения об опасности.
Машине нет необходимости чувствовать боль, для этого у неё есть датчики и сенсоры, которые точно скажут, что и где не в порядке.

[Rattus]

Машине нет необходимости чувствовать боль, для этого у неё есть датчики и сенсоры, которые точно скажут, что и где не в порядке.

Диагностикой неполадок ПК Вам, видимо, заниматься не приходилось...

[LV46]

Машине нет необходимости чувствовать боль, для этого у неё есть датчики и сенсоры, которые точно скажут, что и где не в порядке.

Диагностикой неполадок ПК Вам, видимо, заниматься не приходилось...

Как раз приходилось и довольно много. Любую мыслимую информацию о ПК можно почерпнуть как из самой системы, так и из специальных назовём их "лечебных" программ.
Просто ПК - это не машина с сознанием, о коей идёт речь. Это как диагностировать болезнь у животного, которое само не скажет "где у него болит", только гораздо лучше  (даже "синий экран смерти" даёт информацию об ошибке его вызвавшей), просто необходимо самому всё проверять.

У машины же с сознанием недиагностируемые неполадки могут быть только с самомй программой ИИ. Остальные неполадки такая машина будет выявлять самостоятельно, вплоть до неполадок самого железа, навроде вздувшегося конденсатора.

[Rattus]

Любую мыслимую информацию о ПК можно почерпнуть как из самой системы, так и из специальных назовём их "лечебных" программ.

И сколько надо гонять такие программы и в скольки вариациях чтобы исключить, например, глюки памяти?