ИИ: какого понимания нам не хватает?

[Проходящий Кот]

Сознание как тема с ИИ конечно пересекается, однако  они далеко не тождественны.

[Вайт]

Панпсихизм скорее достаточно маргинальнй подход. Что там в мейнстриме не знаю , хотя это вторично.

Концепция панпсихизма сейчас фактически общепринятая как минимум самая известная и разрабатываемая. Если, конечно, в отношении сознания вообще можно говорить о какой-то общепринятости, учитывая глубокую философичность этого вопроса.

Панпсихизм наряду с нейтральным монизмом завоевал определённое доверие у части современных философов и учёных, специализирующихся на исследованиях сознания, поскольку он предлагает натуралистический подход к решению древних философских проблем, отвергая картезианский дуализм, христианскую теологию и механистическое мировоззрение, …

… В последние годы наблюдается рост популярности панпсихизма в среде нейроучёных. Три нейробиологических теории сознания, относящихся к числу наиболее влиятельных, базируются на современной версии панпсихизма: теория рекуррентной обработки (Local Recurrence Theory), теория динамического ядра (Reentrant Dynamic Core Theory), а также разработанная одним из самых известных современных нейробиологов Джулио Тонони[en] теория интегрированной информации[en][27][28][29].

Панпсихизм — Википедия

Похоже вы относите сознание на уровень фундаментальных свойств материи.

Сознание — как наличие внимания, образов и эмоций и в целом восприятие движущегося во времени себя — возникает при соответствующей организации материи. Но одной организации, очевидно, мало, у материи должны быть какие-то свойства, которые при соответствующей организации, определят появление такого восприятия. Другими словами, панпсихизм — это не идея «живого мира» или тому подобного.

Но - нельзя наделить физической реальностью абстрагированные признаки и модели отражающие свойства физической реальности. Это просто неправильная постановка вопроса.

Сознание есть, но его нет? По-моему, как раз это — «неправильная постановка вопроса».

[Макрофаг]

Макрофаг так вы прямо и не ответили на вопрос о природе субъективного , хотя похвастались что уже 12 лет разрабатываете такую теорию(вернее теорию мозга). Хотелось бы все же увидеть вкратце что у вас нарисовалось по итогу. Интересно , у меня первые попытки осмысления примерно на тот же период приходятся

Чтобы пришло понимание на уровне хотя бы азов , нужна предварительная подготовка.Подойдёт ли эта тема для этого?
Если есть желание можно посмотреть тему на палеофоруме https://paleoforum.ru/index.php/topic,1720.3465.html#msg238769  здесь подробно показан механизм реализации субъективного .
Можете  и здесь открыть похожую тему.
Обычно такие темы растягиваются года на три -четыре . Как раз на азы.
Насчёт хвастовства это не для меня. Я на форумах только для того , чтобы новые ощущения подстёгивали мозг.

Психологам давно известно, что новая среда стимулирует активность мозга, направленную на исследование и обучение. https://www.gazeta.ru/science/news/733142.shtml

[curiosity]

Чтобы пришло понимание на уровне хотя бы азов , нужна предварительная подготовка.Подойдёт ли эта тема для этого?

Если не можете в рамках одного поста изложить существенное - понимаете ли сами ?

Сознание есть, но его нет? По-моему, как раз это — «неправильная постановка вопроса».

Как физической сущности - нету. Если говорить о субъективных образах.

[Макрофаг]

Если не можете в рамках одного поста изложить существенное - понимаете ли сами ?

Дело в том, что мы в рамках правил и уже есть замечания :

Сознание как тема с ИИ конечно пересекается, однако  они далеко не тождественны.

Я не против любых разговоров о субъективном и готов ответить на любые вопросы.
ИИ действительно не может реализовать субъективизацию ощущений .
Существует гипотеза информационного синтеза Иваницкого, которая подготавливалась предшественниками и не возникла из одной головы.

В последние годы все большее признание получает идея о том, что субъективный опыт возникает за счет сопоставления имевшийся ранее информации с новой, отражающей изменения во внешней или внутренней среде. Сама по себе эта идея не нова. Еще Д.Юм /33/ писал о том, что чувство "я", важнейший элемент субъективного опыта, возникает в результате движения восприятий вдоль событий прошлого. Исторический анализ проблемы однако выходит за рамки настоящей статьи. Обращаясь к новейшим исследования по физиологическим механизмам психического, следует сказать об информационной теории эмоций П.В.Симонова /27/, в соответствии с которой эмоции возникают как результат рассогласования между имеющейся и необходимой для удовлетворения потребности информации. Позднее этим автором были описаны и корковые структуры, ответственные за интеграцию каждой из информационной посылок (соответственно передние отделы левого и правого полушарий /29/).

  http://aha.ru/~geivanit/SUBJ.html
Вот на основе этой гипотезы я и выстраиваю  модель понимания субъективного.
Основа субъективного это " петля" закольцованная реверберация.
Возникновение  реверберации - "Круг Пейпеца " введён в учебную программу курса ФЦНС МГУ.http://aha.ru/~geivanit/SUBJ.html
Появлению удерживаемых закольцовок на основе лимбической системы предшествовало усложнение рецепторно-анализаторного аппарата.
Для чего усложнялся рецепторный аппарат и причины появления сознания, кратко :

На определенном этапе эволюции появился новый механизм целостного поведения, когда животное способно принимать такие решения, которые исходно не могли сформироваться в готовом виде в процессе эволюции. Это 3-ий высший уровень интегрального поведения, возникший на основе совершенствования рецепторно-анализаторного аппарата животных, резко обогатившего восприятие внешнего мира. Постоянная смена внешних, как правило, исходно индифферентных воздействий, могла иметь для животного различную функциональную нагрузку — незнакомый звук или запах могли означать приближение либо жертвы, либо врага. Эта неоднозначность множества различных внешних воздействий не позволяла на основе естественного отбора выработать у животного оптимальную реакцию. Опыт предыдущих поколений или генетическая память были бесполезны. Появилась необходимость в возникновении индивидуальной памяти и на ее основе способности к обучению. Теперь животное само должно было находить оптимальное решение в сложной ситуационной задаче, опираясь только на свой опыт и на свою способность к рассудочной деятельности. А подобная рассудочная деятельность, связанная с анализом множества разномодальных внешних воздействий, требовала принципиально новых способов записи, обработки и оценки поступающей в мозг информации. Наряду с передачей интенсивности того или иного воздействия (уровень активации рецепторов), его адресность (место расположения рецепторов) и модальность (качественная специфика рецепторов) должны были кодироваться на знаковом уровне и, что очень важно, быть доступными в их оценке самому животному. Таким образом, на определенном этапе развития животного мира, когда в интегративном поведении высокоорганизованных животных ведущим фактором стала условнорефлекторная деятельность, возникла необходимость в появлении самооценочных функций состояния в рецепторно-анализаторной области мозга, которые определяют и модальность, и адресность, и интенсивность воздействия. А это, по существу, и есть наши ощущения – базисные элементы нашей психики и нашего сознания.

  Источник: Условнорефлекторная деятельность – необходимый этап для появления психики и сознания .Л.М.Чайлахян
Институт теоретической и экспериментальной   биофизики РАН, Пущино-на-Оке, Россия
Вот вкратце как вы и просили в рамках одного поста.

[MenFrame]

Сознание есть, но его нет?

Есть только разговоры о сознании, а также о домовых, духах.....и прочих неуловимых сущностях которые были порождены эмоциональным мозгом ХОМО, не способным понять наличие когнитивных ошибок в собственных рассуждениях.

[Kaiserfrogling]

ИИ действительно не может реализовать субъективизацию ощущений .

А это и не надо.
Четыре главных отличия линейных компьютеров от нейросети человеческого мозга:
-нечеткая логика
-абстрактное мышление
-самообучение
-мотивационные импульсы
Все четыре пункта реализуемы в искусственных нейросетях

[Макрофаг]

-абстрактное мышление

Произвольные абстракции с выделением смысла пользы или вреда для данного ИИ ?
Для абстрагирования нужна модель понимания .Т.е какая часть выделенного имеет для данной особи смысл. Смысл  - осознанная значимость.
Так или иначе ИИ должен обладать свойством личности . Т.е. иметь свою личную оценку значимости к чему стремиться и чего избегать.
Мотивационные импульсы = эмоции? Эмоции эволюционно определяют ситуационный ( эмоциональный контекст)нейрональную синаптическую пластичность.
У человека выделенная абстракция , которая собирается из примитивов в ассоциативных зонах мозга - зацикливается реверберационной петлёй  или образа кратковременной  памяти в р-не  гиппокампа (О.С. Виноградова "Гиппокамп и память")
Каким боком мотивация может реализоваться в искусственных нейросетях?
Может быть нашей иллюзией причастности ИИ связанной с похожестью внешних  проявлений ?

-нечеткая логика
-абстрактное мышление
-самообучение
-мотивационные импульсы это слова  в которые мы вкладываем определённый смысл т.е выделяем произвольные абстракции.
За "объект" мы можем взять придорожный камень и наделять его свойствами личности .
Если мы будем углублённо выделять признаки вышеуказанных абстракций, то и камень у нас будет обладателем ИИ  Например камень на вершине горы при автоколебательных процессах может стать началом разрушения к.л. посёлков в гористой местности.Человеку свойственны мистификации и религиозные воззрения.
Сначала нужно дать строгие определения абстракциям , граничные условия применений этих абстракций и условия в которых будут проявляться признаки того, что мы пытаемся наделить интеллектом.
Только после разграничений можно применить абстракцию мышление к ИИ .
Чтобы когда у нас спросили "а в каком смысле : -нечеткая логика
-абстрактное мышление
-самообучение
-мотивационные импульсы мы смогли показать границы применимости вышеуказанного.
Пока я не узнаю " в каком смысле" мне остаётся только угадывать о чём идёт речь.

[MenFrame]

Так или иначе ИИ должен обладать свойством личности .

Интеллект должен выполнять сугубо поставленные перед ним задачи, в этом смысл и определение интеллекта.

Т.е. иметь свою личную оценку значимости к чему стремиться и чего избегать.

Значимость это просто оценочное сравнение, некая вводная на основе которой будут решаться поставленные моральные задачи, типа риска получить повреждения самому или принести повреждения другому в ситуации когда без этого не обойтись. Для ИИ который с людьми не контактирует это вообще не требуется.

Каким боком мотивация может реализоваться в искусственных нейросетях?

Мотивация это вообще костыль в биологическом мозге, в реальном ИИ ему места не будет. Реальный ИИ будет просто двигаться в направлении ведущим его к цели, основываясь на заданных рамках.

[Проходящий Кот]

Слабый ИИ да, но не  Сильный ИИ.
Скучно уже обсуждать это различие.
Сколько можно их путать?

[MenFrame]

но не  Сильный ИИ.

Нет не какого сильного ИИ даже гипотетически. Это просто высер философов, которым лень изучать когнитивные науки, зато есть большое желание потешить свое ЧСВ...возвышая свой вид в качестве эталона интеллекта. В среде тех кто действительно заниматься интеллектом, а не философствует о нем, понятие сильного интеллекта сводиться к сугубо к способности обучаться.
Все остальные стороны человеческих мозгов, типа самосознание, эмоции и прочая дребедень это и есть по сути слабые, узкоспециализированные интеллекты. По каким причинам их называют сильными не как не понятно...Это сугубо вера...основанная на стремлении выяснить иерархическое положение другого лысого обезьяна в стае лысых обезьянов.
Где сильный разумеется тот, кто не подчиняется чужой воле, а диктует свою. Разумеется, если интеллект подчиняется, то его лысый обезьян сильным признать не может. Поскольку это противоречит иерархическим инстинктам.

[BlackMokona]

Все четыре пункта реализуемы в искусственных нейросетях

Реализованы и давно

[Макрофаг]

Интеллект должен выполнять сугубо поставленные перед ним задачи, в этом смысл и определение интеллекта.

Определяю интеллект как сгусток жизненного опыта. На основе опыта и решаются поставленные задачи . Чем выше интеллект в выделенной области деятельности - тем меньше  энергозатрат для решения.

Значимость это просто оценочное сравнение, некая вводная на основе которой будут решаться поставленные моральные задачи, типа риска получить повреждения самому или принести повреждения другому в ситуации когда без этого не обойтись. Для ИИ который с людьми не контактирует это вообще не требуется.

Внутривидовая значимость , это не оценочное явление и к морали имеет вырожденное отношение ( так же как и речь - вырожденное мышление)
Внутривидовой значимостью определяется вектор направления на выживание (чего избегать и к чему стремиться  )и самосохранение вида.
В простом случае примитивных животных значимость для вида - тупой отбор.Кто не прошёл отбор выбывает из биологических ниш.
Личная значимость внутри вида определяет оценочное отношение отдельной особи в рамках заданного для всего вида вектора на выживание .

Вообще значимость это отдельный разговор.
Если бы ИИ обладал аппаратом  личной значимости, личного отношения к воспринимаемому  , тогда бы мечта о сильном ИИ осуществилась.
У человека только на основе личного отношения к воспринимаемому возникают субъективные образы в которых отображается смысл воспринимаемого.
Нет значимости - смысла в воспринимаемом , нет осознания своего текущего состояния.
Функция сознания как раз таки определять смысл происходящего , предсказывать возможные последствия .  Смысл - это определенная значимость при осознании ситуации .
Ситуация не распознаётся , нет знакомых признаков заложенных в интеллект - нет смысла осознавать и адаптироваться к новому.

Думаю всё же постепенно ИИ будет приобретать смысловую значимость. Но не увеличением мощности компа.Будут какие либо гибридные ИИ .
Сейчас же -  нет смысла нет интеллекта. Есть просто программа заложенная человеком.

[Проходящий Кот]

но не  Сильный ИИ.

Нет не какого сильного ИИ даже гипотетически. Это просто высер философов, которым лень изучать когнитивные науки, зато есть большое желание потешить свое ЧСВ...возвышая свой вид в качестве эталона интеллекта. В среде тех кто действительно заниматься интеллектом, а не философствует о нем, понятие сильного интеллекта сводиться к сугубо к способности обучаться.
Все остальные стороны человеческих мозгов, типа самосознание, эмоции и прочая дребедень это и есть по сути слабые, узкоспециализированные интеллекты. По каким причинам их называют сильными не как не понятно...Это сугубо вера...основанная на стремлении выяснить иерархическое положение другого лысого обезьяна в стае лысых обезьянов.
Где сильный разумеется тот, кто не подчиняется чужой воле, а диктует свою. Разумеется, если интеллект подчиняется, то его лысый обезьян сильным признать не может. Поскольку это противоречит иерархическим инстинктам.

У НАС В ГОЛОВЕ СИЛЬНЫЙ ИИ, ПОЯВЛЯЮЩИЙСЯ В 3 ГОДА.
И никакая демагогия здесь ничего не изменит.
И попытка бороться с общепринятой терминологией ---- тоже.

[Макрофаг]

У НАС В ГОЛОВЕ СИЛЬНЫЙ ИИ, ПОЯВЛЯЮЩИЙСЯ В 3 ГОДА.

У НАС В ГОЛОВЕ сильный ИИ появляется окончательно сформировавшись только к 30 годам с завершением формирования лобных долей.
 Первые ощутимые воспоминания появляются в возрасте 3,5 лет, когда гиппокамп, часть мозга, отвечающая за хранение и воспроизведение воспоминаний, созревает и становится способной справляться с этой задачей.
https://woman.rambler.ru/children/41646509-s-kakogo-vozrasta-deti-mogut-pomnit-sebya/
Мозг морфологически созревает как у взрослых к семи годам.
Т.е для сильного полного интеллекта нужно 30 лет обучаться.
Только после сорока можно стать хорошим биологом.
Шахматы, математика к 18 годам.
Искусственные системы не могут отображать все тонкости окружающей среды для эффективного распознавания признаков.

[MenFrame]

И попытка бороться с общепринятой терминологией ---- тоже.

Нет не какой общепринятой терминологии "сильного ИИ" Со слабым все понятно, а сильный имеет кучу определений. Все потому что, философы и демагоги не как не определяться с критериальным описанием "СИЛЫ" Каждое определение, предполагает какую то свою сильность, чаще всего выраженную в отсутствии просто какой то черты которая присутствует у человека. В плоть до воображаемых черт вроде "Свободы воли"

У НАС В ГОЛОВЕ СИЛЬНЫЙ ИИ, ПОЯВЛЯЮЩИЙСЯ В 3 ГОДА.

У НАС В ГОЛОВЕ сильный ИИ появляется окончательно сформировавшись только к 30 годам с завершением формирования лобных долей.

Вот я про что, каждый толдычит во что гараст. У каждого своя чуйка...

[curiosity]

понятие сильного интеллекта сводиться к сугубо к способности обучаться.
Все остальные стороны человеческих мозгов, типа самосознание, эмоции и прочая дребедень это и есть по сути слабые, узкоспециализированные интеллекты.

Чтобы обучаться нужен критерий для оценки - приводит ли полученный навык к достижению цели или нет ? Кроме этого и сама постановка цели , а цели у разных субъектов могут различаться в зависимости от потребностей. Так вот эмоции - это субъективный маркер достижения цели среди прочего.

[MenFrame]

Если бы ИИ обладал аппаратом  личной значимости, личного отношения к воспринимаемому  , тогда бы мечта о сильном ИИ осуществилась.

Алгоритмически, интеллект исполняющий чужую волю, от исполняющего свою волю не чем не отличается.  Изменяется лишь субъект дающий задание и запускающий алгоритм действий выполнения этого задания.

Внутривидовой значимостью определяется вектор направления на выживание (чего избегать и к чему стремиться  )и самосохранение вида.

В данном случае это стоит рассматривать как приоритетные задачи, на которые заточен организм эволюцией. Разумеется любые действия имеет смысл рассматривать с точки зрения достижения(недостижения) приоритетных задач. Это одна из основных задач интеллекта.

Думаю всё же постепенно ИИ будет приобретать смысловую значимость. Но не увеличением мощности компа.

Само по себе не чего не приобретается. Потому именно разработчики будут закладывать то что вы называете "значимостью"

[curiosity]

Вот вкратце как вы и просили в рамках одного поста.

Спасибо , мне понравилась трактовка Чайлахяна и Симонова.

[MenFrame]

Чтобы обучаться нужен критерий для оценки - приводит ли полученный навык к достижению цели или нет ?

Этот критерий называется "ОПЫТ"