ИИ: какого понимания нам не хватает?

[незлой]

Человек, вообще, чаще всего общается со своим Я через других людей. Знаменитый советский психолог Л.С.Выготский почти век назад писал:"Личность становится для себя тем, что она есть в себе, через то, что она представляет для других. Через других мы становимся самими собой". У здорового человека не бывает моментов, когда он перестаёт смотреть на себя со стороны. Это особый человеческий инстинкт. Только оглядываясь на возможные мнения других, каждый анализирует и оценивает собственные поступки.

Цитата: Whale от 26.08.2011 [00:34:22]


    А поскольку каждый из нас сам по себе - ничто, то людей вообще нет. Мы все - иллюзия, сон.

Вы путаете понятия "ничто, иллюзия, сон" и понятие "модель". Уравнения Максвелла - это модель электромагнитных проявлений материальной природы, но это не "иллюзия". Так и сознание человека всё основано на моделях, в том числе и на модели собственного Я, причём все плохо отображающие действительность модели (иллюзорные) человеком отбраковываются. В сознании здорового психически человека, не склонного к пустопорожнему философствованию, остаются только работоспособные модели, пригодные для жизни и общения.

[PathFinder]

Так вот, мне кажется, что зачатки сильного ИИ напрямую связанны с такой последовательностью действий.
Ошибка -> Дамп -> Правка кода -> Компиляция -> Выполнение.

Всё самое интересное и интеллектуальное содержится в пункте "Правка кода". И этот пункт, к сожалению, не раскрыт. 
Остальные пункты тривиальны.

[незлой]

подключился семёнов, веско как всегда

Уже четко известно что в решении ПРЕДМЕТНЫХ задач 6-и летние дети не лучше человекообразных обезьян.
То есть сообразительностью обезьяны нас даже могут превосходить. Но у людей есть куда более развитый "социальный сопроцессор". Именно он и эволюционировал последние  миллионы лет очень круто. Поэтому очень запутанные социальные задачи человек решает БЕССОЗНАТЕЛЬНО легко и быстро. Любая бабка на лавке вам легко разложит кто, кому как почем и зачем. А ведь это сложные рекурсивные рассуждения "я думаю, что он думает, что я думат..." Но заставь эту бабку понять второе начало термодинамики - труба полная будет. И так со всеми людьми.
Где этот сопроцессор тоже известно. Посмотритесь в зеркало - лобные доли.
Человек отличается от высших животных единственным - развитой РЕЧЬЮ. Под речь и затачивалось все остальное. Люди сильны именно социальными связями. По сути каждый отдельный человек можно сказать и не мыслит. Но общаясь он обменивается мемами, которые плодятся, совершенствуются в головах людей как в едином пространстве составляя так называемое культурное наследие, до чего прочие животные так и смогли дорости (хотя зачатки встречаются повсеместно. Идея, что называетс витала в воздухе). Это как раз и объясняет КАЧЕСТВЕННОЕ отличие людей от животных.

Зачем сознание мозгу?
Я думаю тут тоже нужна скромность.
Не надо думать что сознание выполняет какую-то ключевую роль в работе мозга без которого тот ну совсем никуда!
Сознание всего лишь сервис. Утилита, обслуга системы "мозг".
От этого и надо плясать.
Мозг действительно прекрасно выполнял бы свою функцию (прием информации, обработка и выдача команд) бессознательно, если бы систему бессознательной реакции не надо было поднастраивать. Корректировать.
У насекомых вряд ли есть сознание. Ибо их достаточно несложное поведение сильно завязано на инстинкты. То есть жестко программируется.
Да и со структурой нервной системы им не повезло (им много с чем не повезло).
Но сложное поведение требует мирровозрения. Опережающего предсказания. Мозг это и делает. Совершенно бессознательно. Моделирует окружающий вас мир и предсказывает его. Вы этого даже не понимаете... Но если предсказание расходится с реальность - туда сразу прыгает наше внимание. Сознание.
ПОЧИТАЙТЕ



http://www.e-reading.org.ua/bookreader.php/6691/Bleiiksli,_Hokins_-_Ob_intellekte.html

То есть сознание - это скорей всего даже не отдельный сервис у нас в голове. Это сервис на сервисе (функции) обучения мозга. Седьмая вода на киселе. Хотя она может выполнять и массу других функций. Эволюция в этом смысле совершенно не заморачивается о некой структурно-идейной красоте своих решений. Ляпает как придется из того что подвернется. Например, незанятое оперативной проблемой (конкретное мышление) сознание может ширится по закоулкам (абстрактное мышнелние) и упаковывать что не так уж и компактно лежит. Моз же не резиновый. Как говорит Хофштадтер, искать изоморфизмы. Если оно находит такой изоморфизм появляется феномен "понимания". То есть ощущение удовольствия (закрепляющий рефлекс).
И если вы ЧУВСТВУЕТЕ что что-то понимает, это еще не значит что вы действительно что-то понимаете. Это може быть иллюзия. Я во сне иногда таким глубоким пониманием к такой туфте проникаюсь. Проснусь - житие мое! Тьфу в себя!

[ВадимZero]

Только нейронные системы это не компьютер

Планшет тоже не компьютер, а так игрушка.

[незлой]

из жизни мемов:

а большинство мемов создают цепочки -- взаимные циркулярные ссылки (а - потому что б, б - потому что це, це - потому что де, де -- потому что ну а-же!), при этом замкнутая в кольцо цепочка таких взаимных обоснований может быть довольно длинной.
незамкнутые цепочки мемов "болтаются", им "больно", и они пытаются либо закольцеваться, либо "перебинтовать" болтающийся "конец" какойнибудь мыслью-"заглушкой", либо "прицепиться" им к "Я".

[незлой]

модель "Я"

Тут дело в том, что есть интересная особенность - ТОЖДЕСТВО "Я" во времени независимо от изменений в организме.

в этом как раз ничего странного вообще: для этого "Я" достаточно считать себя собой в каждый момент времени (что оно и делает).
даже если "Я" кардинально меняется -- как ему самому это обнаружить без опорных точек для сравнения?
а больше и проверить некому, причём в принципе.

хотите собрать действующую модель простенького "Я"?
нужен таймер, горсть датчиков и компаратор, сравнивающий текущее состояние датчиков с состоянием в предыдущий такт времени.
всё, ничего больше, оно уже "чувствует", осталось только откалибровать какие показания датчиков "приятны", а какие "болят" -- у нас с вами этим отбор занимался в долгой череде наших предков.

"Я" и есть "восприятие времени": мы существуем только в сейчас, и ни в один момент больше *

Если поставить на входе компаратора  электронный термометр (а лучше комплект метеостанции) и откалибровать их показания по уровню комфортности, то про наличии  синтезатора речи, выдающего стандартные фразы ,  с таким субьектом вполне можно поговорить и о вчерашней и сегодняшней погоде.

не знаю как поболтать, имхо это немного следующая проблема, но "чувствовать" оно будет, и ответ на вопрос "а кто чувствует, собственно?" в этой модельке получается особенно выпуклым
а подключи к нему соответственно откалиброванные датчики целостности, вроде сети наших нервов по всему телу -- оно и "инстинктом самосохранения" обзаведётся, заметим -- практически без специального дополнительного софта, диктующего подобное поведение: "больно" - возвращается где было "приятнее" ("отдёрнулось"), если это невозможно -- шевелимся по градиенту "больнее"-"чуть менее больно", причём застрять в локальном минимуме "боль" будет мешать. если ничего не нашли -- бесцельно мечемся всё как у живых.

"Я" по фройду:
система восприятия W*, кэш потока представлений Vbw (предсознание), индексированный представлениями слов**, плюс небуферируемый интерфэйс ощущений (системные вызовы, прерывания).

* видимо, от англицкого whatever (шутка)
** термин фройдовский, имхо более удачный - "представления символов".

и в рамочку:

Говоря другими словами: копни внутри субъекта (раздели его на составные части), - окажешься за пределами субъекта.

(позволил себе выделить болдом)

[ВадимZero]

По сути каждый отдельный человек можно сказать и не мыслит. Но общаясь он обменивается мемами, которые плодятся, совершенствуются в головах людей как в едином пространстве составляя так называемое

Вот и Семенов пришел, к идее "Культурного интелекта" А все почему? Начал отталкиваться от имперических данных.

То есть сознание - это скорей всего даже не отдельный сервис у нас в голове. Это сервис на сервисе (функции) обучения мозга.

Мозг действительно прекрасно выполнял бы свою функцию (прием информации, обработка и выдача команд) бессознательно, если бы систему бессознательной реакции не надо было поднастраивать.

Можно иначе сказать...Если бы программы было не надо создавать, и подстраивать их не было бы нужды в програмистах.

И если вы ЧУВСТВУЕТЕ что что-то понимает, это еще не значит что вы действительно что-то понимаете.

Понимание, пониманию рознь. Когда человек чуствует что понимает, как мне кажеться это выражает то что психика какойто фрагимент инфы удалось удачно интегрировать с остальной частью ментальной карты. То есть так этот кусочек обсосать, чтобы подобно кусочку мазаики точно вливался в общую картину. А так как общее понимание у каждого свое, то понимание пониманию рознь.

[Скеп-тик]

Так вот, мне кажется, что зачатки сильного ИИ напрямую связанны с такой последовательностью действий.
Ошибка -> Дамп -> Правка кода -> Компиляция -> Выполнение.

Всё самое интересное и интеллектуальное содержится в пункте "Правка кода". И этот пункт, к сожалению, не раскрыт. 
Остальные пункты тривиальны.

Че-пу-ха. Сознание однозначно орентировано на самосохранение. Что оно делает, какие ошибки - совершенно неважно, если они не фатальны. У живого организма из-за большого количества оценок уровня комфортности (нестерпимая боль, больно, ой укололся, приятное прикосновение) соответственно большой диапазон обучаемости. Человек, попавший молотком по пальцу, будет всячески избегать попадания им по собственной голове. Хотя мастерства в забивании гвоздей это не прибавляет (ошибка не устраняется).

[stuuvi]

Нет, разуму на самосохранение наплевать. Просто идет на поводу у инстинков, которые говорят , что больно это плохо и умирать тоже плохо. Иначе бы разум не мог смоделировать в голове ситуацию , когда что то из этого разряда происходит. Если в реальности ничего не угрожает, то страха нет и моделировать ситуацию с ударами молотком по пальцам можно сколько угодно.

[ВадимZero]

Че-пу-ха. Сознание однозначно орентировано на самосохранение.

Если бы у человека не было сознания, он бы не додумался до такой идеи как самоубийство.

Нет, разуму на самосохранение наплевать. Просто идет на поводу у инстинков, которые говорят , что больно это плохо и умирать тоже плохо.

И тому есть потверждение.
http://olegart.ru/wordpress/2011/07/05/3413/

[Скеп-тик]

Ситуация с молотком (велосипедом, косяком двери, банановой кожурой) не моделируется. Она происходит. И если проишествие несмертельно - сознание будет всячески избегать подобных ситуаций.

Если бы у человека не было сознания, он бы не додумался до такой идеи как самоубийство.

Тут вы правы. Самое забавное, самоубийство - это способ мести. Весьма эгоцентричных существ.

[незлой]

к необходимости различения "Я" (как наблюдателя) и "социального Я" (Эго, единица взаимодействия в социуме (не обязательно человеческом)):

Кстати, интересный вопрос насчет наличия рефлексии у животных. Вроде бы если животные стайные и у них есть какая-то социальная лестница, должно быть и осознание своего места в этой лестнице с соответствующим ролевым поведением. А это - потребность хотя бы в элементарной рефлексии. Но тогда возникает  следующий вопрос - эта рефлексия "я - здесь такой-то" является шагом к восприятию своего Я вообще или же нет, и нужна еще какая-то ступень к Я-осознанию?

"...Давайте представим себе некоторые этапы появления во внутренней модели действительности образа себя.
Мы уже говорили, что модель действительности могла возникать для обеспечения передвижения. Все мы видели головокружительные видео, показывающие крутых лыжников, скейтбордистов, велосипедистов или сёрфингистов, и восхищались координацией их движений. Я приведу иной, не связанный с людьми пример: посмотрите, как гиббон дразнит молодых тигров. Конечно, так ловко могут передвигаться представители очень небольшого числа видов. Но даже далёкие от чудес акробатики существа, если они двигаются достаточно активно, должны моделировать будущее положение своего тела и действующие на него силы.
Интересно, что для предсказания динамики своего тела могут использоваться те же алгоритмы, что и для чужих тел. Гиббон на видео должен был просчитывать не только свои собственные движения, но и движения тигра!
Для использующих маскировку животных полезна способность моделировать, как они выглядят со стороны. Посмотрите: камбала находит закономерность в узоре поверхности, на которой она лежит, реконструирует этот узор на том участке, который закрыт ее телом, и достраивает его на самой себе!
Только ли динамики и внешнего вида может касаться взгляд на себя со стороны? Я уже когда-то писал, что в становлении группового поведения важную роль, по всей вероятности, играл феномен репутации. Есть экспериментальные доказательства того, что в группах, где особи узнают друг друга "в лицо", они помнят историю взаимодействия друг с другом, и эта память способствует реципрокному (взаимному) альтруизму. Каждый индивид, взаимодействуя с сородичем, на основании предыстории их отношений оценивает, насколько вероятно альтруистическое поведение со стороны старого знакомого. Какие факторы влияют на эту вероятность? Не только то, как сородич вёл себя в предыдущих контактах, но и то, как в них себя вёл сам тот индивид, с точки зрения которого мы и рассматриваем ситуацию. Адаптивной оказывается способность и к оценке репутации другого со своей точки зрения, и к аналогичной оценке своей репутации в чужих глазах!
И вот тут-то закладывается возможность взгляда на себя как на иного, истинная рефлексия..."
http://www.computerra.ru/own/shabanov/693431/

В организме "Я" конечно не найти. "Я" продукт осознания, осознание продукт разума, а разум продукт общения многих мозгов. Разум можно  представить в виде нематериального роя мыслей, знаний (мемов) блуждающих между головами.  Перефразируя определение делового человека, можно сказать, что разумен тот, кто общается с другими разумными существами. (может такой критерий подойдет и к животным?)
В этом рое и находится "Я". Когда ребенок научается говорить и приобщается к этому облаку, эта общая для всех идея Я появляется и в нем.

[stuuvi]

Ну мне во сне как то руки отрезали. И было вполне реально . Тоесть сознание считало, что рук действительно нет.

Тут вы правы. Самое забавное, самоубийство - это способ мести. Весьма эгоцентричных существ.

А если самоубийство человека , находящегося в ситуации из которой нет выхода? Или по причине смертельной болезни , тоже месть?

[незлой]

Понимание, пониманию рознь. Когда человек чуствует что понимает, как мне кажеться это выражает то что психика какойто фрагимент инфы удалось удачно интегрировать с остальной частью ментальной карты. То есть так этот кусочек обсосать, чтобы подобно кусочку мазаики точно вливался в общую картину. А так как общее понимание у каждого свое, то понимание пониманию рознь.

если есть работающая модель -- "понимание" не нужно, нужен навык пользования моделью.
"понимание" становится необходимым именно там, где рабочей модели нет. эдакая временная заглушка.

[незлой]

Сознание однозначно орентировано на самосохранение.

а. матросова на амбразуру сознание повело или инстинкты?

[stuuvi]

И вообще давайте лучше без сознания, предложение есть. Потому что сознание это как бы присутствие наблюдателя, а тут речь идёт о разуме. Иначе будут споры на эту тему беспрерывные.

[ВадимZero]

если есть работающая модель -- "понимание" не нужно, нужен навык пользования моделью."понимание" становится необходимым именно там, где рабочей модели нет. эдакая временная заглушка.

Навыки, модели все это элементы ментальной карты. Ощущение понимания, это некий социальный сигнал. Который дает понимание что инфа интегрирована, другому да и самому себе.

[незлой]

И вообще давайте лучше без сознания, предложение есть. Потому что сознание это как бы присутствие наблюдателя, а тут речь идёт о разуме. Иначе будут споры на эту тему беспрерывные.

спорить -- на тему прародительницу, тут -- схемы, модели и функциональные определения. (функциональное определение чего угодно -- предложение методики измерения этого чегоугодно): про них спорить смысла нет, они либо работают, либо не работают.

[stuuvi]

И тому есть потверждение.http://olegart.ru/wordpress/2011/07/05/3413/

Ну так правильно, я так всегда и считал - бегство от эмоций и "чистый незамутненный рассудок" ведет к разрушению личности . Поэтому попытки отделить живтное начало и человеческое просто смешны. Надо уметь балансировать .

[незлой]

Который дает понимание что инфа интегрирована, другому да и самому себе.

квантовая механика, например: чтобы погладить "понимание" сколько ей интерпретаций уже насочиняли?
но работает то она и без них!

т.е. -- механизм есть, конечно, организм сам себе сахарок выдаёт как опытный дрессировщик, но по большому счёту факт выдачи сахарка не гарантирует ничего (даже того, что задача действительно решена правильно и сахарок заслужен)