Природа сознания.

[незлой]

ОК. А что испытывает чувство? (голода, скажем)
Нейрон?
Группа нейронов?
Группа групп нейронов?
И - ежли это какая-либо группа - то КАК она может ощущать?

никто.
правильный вопрос -- половина ответа. в данном случае правильным вопросом будет "как именно это 'груповое возбуждение' превращается в 'самоощущение'?". легко превращается, схемку давал: таймер да компаратор.

[Ксей]

Это оказалось  далеко позади.

хотите собрать действующую модель простенького "Я"?нужен таймер, горсть датчиков и компаратор, сравнивающий текущее состояние датчиков с состоянием в предыдущий такт времени. всё, ничего больше, оно уже "чувствует", осталось только откалибровать какие показания датчиков "приятны", а какие "болят" -- у нас с вами этим отбор занимался в долгой череде наших предков.

Если поставить на входе компаратора  электронный термометр (а лучше комплект метеостанции) и откалибровать их показания по уровню комфортности, то про наличии  синтезатора речи, выдающего стандартные фразы ,  с таким субьектом вполне можно поговорить и о вчерашней и сегодняшней погоде.

[незлой]

то про наличии  синтезатора речи, выдающего стандартные фразы ,  с таким субьектом вполне можно поговорить и о вчерашней и сегодняшней погоде.

не знаю как поболтать, имхо это немного следующая проблема, но "чувствовать" оно будет, и ответ на вопрос "а кто чувствует, собственно?" в этой модельке получается особенно выпуклым
а подключи к нему соответственно откалиброванные датчики целостности, вроде сети наших нервов по всему телу -- оно и "инстинктом самосохранения" обзаведётся, заметим -- практически без специального дополнительного софта, диктующего подобное поведение: "больно" - возвращается где было "приятнее" ("отдёрнулось"), если это невозможно -- шевелимся по градиенту "больнее"-"чуть менее больно", причём застрять в локальном минимуме "боль" будет мешать. если ничего не нашли -- бесцельно мечемся всё как у живых.

[Whale]

Однако задачка усложняется на несколько порядков, когда мы переходим к вопросу: что именно мы хотели бы скушать сейчас - соленый огурец, сладкое яблоко или кусок мяса.

От физиологии зависит. Сначала  - химия организма и его потребности - потом появляется желание съесть продукт с определенным вкусом и запахом.
То есть, привлекательность продукта определяется физиологией организма. Методом проб и ошибок выбираем то, что организму нужно именно сейчас.
Даже не зная продуктов - по вкусу и запаху.

[Дед Моррозоу]

С чувством пока не очень понятно. Почему возбуждения определенных областей нейросети соответствуют ощущениям голода, холода, света, боли... Что значит ощущение? Может они тоже связаны с речью?

С речью - нет. Гляньте на глухонемых. И вопрос имхо нужно ставить всё-таки по другому: что такое есть ощущение и как непосредственно оно вырабатывается?
Был бы, чес-слово, желателен эксперимент. Причом на человеке. Взять, да заменить нейроны, ответственные за выработку того или иного ощущения чипами-эмуляторами нейронов (групп нейронов). А потом поспрошать поциента - как он теперь испытывает чувство. И испытывает ли вообще.
Проблема осложняется, как я понимаю, тем, что нет таких постоянных групп нейронов, которые и только которые - были б ответственны за то или иное чувство.

[postoronim]

На все это надо смотреть чисто физически. Существует много форм материи. Эти формы взаимодействуют друг с другом. Обязательно! Иначе какой в них смысл?! Сами формы более менее легко познаваемы: газ, жидкость, тв. тело, плазма... а вот дальше неясно, то ли форма материи то ли способ взаимодействия. Я имею в виду поля и то, что за ними (чего мы пока не знаем). Сознание - это форма материи или способ взаимодействия? И есть вообще четкая грань между формой и способом? Не перетекают ли они плавно друг в друга? Тогда мы в этом вообще никогда не разберемся.

[Ксей]

Поговорить с градусником о погоде? Это возвращение назад, в первобытную эпоху, когда человек наделял сознанием и разумом камни, реки, Солнце и природные явления и разговаривал с ними, и поклонялся им. Как романтично!

Это не то, есть же говорящие игрушки. Я бы поставил синтезатор речи  и на самоползающий пылесос. Ползает и ворчит -  диван передвинули и белье разбросали , а я должен убирать... может снала убрать крошки под столом , а потом  разлитое вино, ... устал, пойду ка я заряжаться.

[Dem]

Ага, сначала наделают всякой "умной" фигни, благоустроят планету - а потом одичавшие колонисты, имея только гостевой доступ, начинают этим девайсам поклоняться, чтобы хоть как-то заставить их работать.
А то и вообще жертвы приносить - ведь забота о здоровье для них высший императив и не требует логина...

[Ксей]

И вопрос имхо нужно ставить всё-таки по другому: что такое есть ощущение и как непосредственно оно вырабатывается?

Ощущение кто-то должен ощущать.  Раз решили, что нет в голове места для маленьких человечков, то нет смысла говорить об ощущениях. Надо как-то выкручиваться "возбуждением некоторых зон", ничего другого в голове нет. Все понятия науки,  культура  и прочее "отражены " в голове "возбуждением некоторых зон".

[Yuri]

Мммммм а чем "ощущения" отличаются от "понятий", "символов" или "слов" в плане того, что они кому-то там должны?
Научились же по МРТ-картам активности мозга предсказывать что именно собирается сказать человек и понимать простые ответы вида да-нет у пациентов в состоянии "овоща". Так можно найти и где ощущения ощущаются, и чем зелёное отличается от кислого. Без всяких человечков.

[незлой]

И вопрос имхо нужно ставить всё-таки по другому: что такое есть ощущение и как непосредственно оно вырабатывается?

борментарий, простой проверочный: как вы будете отличать правильные ответы на ваш вопрос от неправильных? по какому критерию?

[Ксей]

Мммммм а чем "ощущения" отличаются от "понятий", "символов" или "слов" в плане того, что они кому-то там должны?

Конечно и то и другое возбуждения.
Но, мне кажется есть  разница. Ощущения это связь с реальным миром, из них состоятся образы реальности. Символы, слова , понятия строятся на базе этих образов реальности (помните из школы  линия это граница двух цветов, параллельные прямые - рельсы).
Отличие человека от компьютера в том, что у компьютера нет ощущений, ему "не понять" образ, поэтому символы, слова , понятия повисают в воздухе, не имеют привязки к реальности.
Ну это в том случае, если у него нет собственных датчиков. Начинать строить исскуственный разум надо не с программы , а с развития датчиков для восприятия окружающего мира.
В этом смысле, самодвижущийся пылесос , ближе к разуму, чем крутой компьютер.

[незлой]

Но, мне кажется есть  разница. Ощущения это связь с реальным миром, из них состоятся образы реальности. Символы, слова , понятия строятся на базе этих образов реальности (помните из школы  линия это граница двух цветов, параллельные прямые - рельсы).

а вы смелый человек -- смотрите туда, куда многим и повернуться-то страшно..

слова -- этажём повыше, мне тоже так кажется. причём эта лингвистическая система сверху как раз переносима и прекрасно масштабируется: опыты с уошо и другими обезьянами, а также обучение слепоглухонемых детей служат тому вполне недвусмысленным подтверждением.

[Ssid]

а вы смелый человек -- смотрите туда, куда многим и повернуться-то страшно..слова -- этажём повыше, мне тоже так кажется. причём эта лингвистическая система сверху как раз переносима и прекрасно масштабируется: опыты с уошо и другими обезьянами, а также обучение слепоглухонемых детей служат тому вполне недвусмысленным подтверждением.

правда с поправкой - в этих случаях мы имеем не самопознание, а обучение (программирование) людьми, знающие эти образы в реальности и знающие недостатки обучаемых...
слепой будет так же "осознавать" цвет, как компьютер

[незлой]

слепой будет так же "осознавать" цвет, как компьютер

кстати, не факт: если зрительная кора у него в рабочем состоянии -- то чем-то же она занята?
другое дело, что нам в принципе не понять что именно он воспринимает, зрительный канал для синхронизации понятий у них разрушен.

[Ssid]

кстати, не факт: если зрительная кора у него в рабочем состоянии -- то чем-то же она занята?

а чем "занята" любая другая отключенная часть мозга?
на эти нейроны не идет возбуждение от зрительных рецепторов, они "спят"...
или проспят все время, либо используются (возможно) для других целей

как контр-пример можно попытаться привести "фантомные боли" - мол, отрезали человеку ногу, а нейроны все работают, дают ощущения...
но эти нейроны уже знали (и длительно) эти ощущения...

[Дед Моррозоу]

Сознание - это форма материи или способ взаимодействия?

Одобряю такой подход.

мы в этом вообще никогда не разберемся.

А такой подход нет.

[незлой]

в этих случаях мы имеем не самопознание, а обучение (программирование) людьми, знающие эти образы в реальности

тут, наверно, нужно чуть подробнее.

обучение (программирование) - основа цивилизации, "запрограммированность" - это то, чем мы отличаемся от маугли: в нас "записали" "лингвистическую машину".
с другой стороны -- под этой "запрограммированностью" лежат обширные "ментальные территории", которые "программировались" отбором полуярд лет минимум, и доступ к которым "лингвистической машине" практически закрыт. некоторая аналогия -- операционка, которая не имеет доступа на запись к биосу, только биос тут гораздо обширнее самой операционки.
с третьей стороны, под "самопознанием" обычно понимается именно что анализ этих недоступных областей на "лингвистической машине".

довольно нетривиальная задача, имхо

[Дед Моррозоу]

нет смысла говорить об ощущениях. Надо как-то выкручиваться "возбуждением некоторых зон", ничего другого в голове нет

Не согласен. Ощущения - есть. Причём - самые разнообразные. Глупо просто-напросто их отрицать. И выкручиваться тут никоим образом не надо. Вопрос, конечно, я понимаю - неудобный. Но уходить от него не следует. Тем более - при разговоре о сознании.

[незлой]

на эти нейроны не идет возбуждение от зрительных рецепторов, они "спят"...

но мы же все в курсе, что они могут возбуждаться не только от внешних сигналов?
можно переформулировать: "видят ли слепые сны?"