ИИ: какого понимания нам не хватает?

[Макрофаг]

Мозг ничего ни с чем не сравнивает.

Наверно самый первый примитивный мозг как раз и начал работать по принципу сравнения и и принятия решения по результатам этих сравнений. А иначе зачем он тогда нужен? Любой организм, имеющий мозг, постоянно сравнивает сигналы из окружающей среды, и иногда сравнивает их со своими внутренними сигналами и выдаёт результат. Посмотрите на охотящуюся кошку - видно, как у неё в голове идёт сильнейшая работа по выбору: пора/не пора, опасно/не опасно, надо/не надо. И результат решения зависит ещё и от жизненного опыта. У примитивных животных жизненного опыта нет из-за отсутствия памяти, но решения они принимают просто исходя из инстинктов, сравнивая их с сигналами из внешней среды. Включили свет - тараканы разбежались. Они сделали выбор. Это их примитивный мозг сделал выбор.

Всё верно , но необходимо сделать уточнение.
Сравнивать, выбирать и в итоге произвольно выбирать вариант поведения можно только осознано
Трудно представить, что примитивные животные осознано меняют своё поведение.
Для осознания своего текущего состояния в виде способности к адаптивному поведению в новых условиях - нужен специальный рецепторно анализаторный аппарат , который есть у животных по сложности НС примерно начиная с птиц.
Представьте , что современные ИИ не достигли уровня даже простых насекомых.
Посмотрите  сколько нужно условий , чтобы работала простейшая природная нейросеть управления крыльями бабочки : https://scorcher.ru/presentation/show_animation.php?dir=book&id=9
Здесь понятно, что мозг бабочки никакого выбора не делает и её взмахи крыльями напрямую зависят от внешних условий среды.
Бабочка полный биоавтомат , который возможно скоро будет симулировать ИИ.
При произвольном выборе высших животных почти полностью меняется химическая база мозга.
Причём каждый осознанный выбор - совсем другая база .Это как для каждой симуляции комп должен быть совсем другого поколения с новой программой.
Тут можно возразить : подавляющая часть нашего поведения происходит неосознанно, бессознательно .

Довольно быстро выяснилось, что сознательные процессы составляют лишь крохотную часть нашей умственной деятельности. Простой пример: мозг человека, всего-навсего скучающего, сидя в кресле, как установлено, каждую секунду получает около 11 миллионов сигналов от различных рецепторов тела. Так, клетки его спины и ног буквально "заваливают" мозг сообщениями о том, что на них давит кресло; до его слуха непрерывно долетает тиканье часов; вкусовые рецепторы, расположенные на языке, все еще реагируют на микроскопические кусочки банана, оставшиеся на языке после "перерыва на перекус", что был полчаса назад. Как относиться к этим сигналам, которые мы никак не осмысливаем? Как к "спаму" головного мозга?  https://scorcher.ru/journal/art/art265.php

Вот в этом бессознательном, наше поведение ничем не отличается от поведения бабочки или виноградной улитки например : Некоторым для принятия решения достаточно двух нейронов  https://scientificrussia.ru/articles/dlya-prinyatiya-resheniya-dostatochno-dvuh-nejronov
Но те программы , которые мы выполняем бессознательно - ранее приобретались осознано.
Только потом можно сказать : автоматизм любой сложности не требует сознания.
Перевод осознаваемого в автоматизм - функция сознания.
Переводом занимается не только мозг , а все функциональные системы включая гомеостаз.
Говоря - мозг принимает решение мы подразумеваем работу мозга как органа управления.
Но это не так. Кстати К.В. Анохин , В.А. Дубынин, тоже против такой формулировки - мозг как орган управления , хотя для простоты и доходчивости иногда так и говорят, а потом сами же себе делают замечание.  Поочерёдно разрушали субстраты мозга , но управление поведением хотя и с некоторым дефицитом присутствовало .
Казалось бы такое привычное и не вызывающее сомнений - "мозг выбирает", "мозг принимает решение", но при анализе всё не так однозначно.
Считаю это принципиально важным замечанием.

[curiosity]

что субъект может себя в своей голове наблюдать, с собой говорить и себя понимать

"Таким образом, на общем фоне менее упорядоченной активности, происходящей на меньшей
частоте, выделяются наиболее энергичные ансамбли нейронов, синхронизированные более
чётко и на более высокой частоте. Которые, как аттрактор, задают нынешнюю цель действий,
притягивая в её направлении фазовые траектории других систем мозга, тем самым
упорядочивая работу мышц и желёз животного в направлении этой цели. В сознании это
воспринимается как фокус внимания, самая чёткая и яркая составляющая сознания."

Тонони/Баарс ? Похоже на первый взгляд... Но важно не это. Нету объяснения того почему вообще в сознании что-то воспринимается.Бутылочное горлышко Чалмерса большинство теорий не проходят, ни в каком виде. 

[Вайт]

Наверно самый первый примитивный мозг как раз и начал работать по принципу сравнения и и принятия решения по результатам этих сравнений.

В мозге (и вообще в природе) нет и не может быть «сравнения».

Сравнивает субъект, а субъект — это весь мозг. Поэтому попытка выделить в мозге оценивающего субъекта и некий опыт, который субъект оценивает, ведёт к логическим противоречиям (бесконечно множащимся гомункулусам, подробнее об этом написано в главе «Распределённый опыт и ошибочные интерпретации»). Дело в том, что такая попытка равносильна делению мозга на мыслящие и не мыслящие элементы — та часть мозга, которая представляет субъекта, соответственно, мыслит, а та часть, которая представляет оцениваемый опыт, естественно, нет. Но «мыслит» на самом деле весь мозг сразу.

Таким образом, попытка найти в мозге «сравнение» противоречит реальности, что, как следствие, отражается и в противоречиях логических (если ориентироваться на факты). Мозг целостно преобразует сигналы всех рецепторов в активность всех мышц и желёз. Делая это в том числе «виртуально», когда мы размышляем, тем самым обучаясь без реального поведения (глава «Обратные связи, алгоритмы и способность думать»). Но кроме этого мозг не делает больше ничего.

Поэтому «сравнение», как субъективный опыт, есть лишь неточная интерпретация процесса мышления. Мы наблюдаем один объект и выносим о нём некоторое суждение. Затем наблюдаем другой объект. Тем самым мнение о втором объекте выносится уже с учётом прошлого опыта. Каковой процесс мы и назвали «сравнением». Но нетрудно заметить, что на самом деле никакого отхода от функции мозга по распознаванию условий и формированию активности мышц и желёз не произошло, никакой новой мыслительной функции «сравнения» не появилось.

[Вайт]

Но важно не это. Нету объяснения того почему вообще в сознании что-то воспринимается.

Ответ на вопрос, почему вообще что-то воспринимается, равносилен ответу на вопрос, что такое сознание, какова его физическая сущность. Однако, вероятно, что ответ на этот вопрос в принципе получен быть не может. Чем может быть физическая сущность сознания, написано в книге в главе 5.5. Выводы.

[Вайт]

Забыл.

Тонони/Баарс ? Похоже на первый взгляд...

Ни то и ни другое. Синхронизация (нейробиология) - Внимание - Википедия.

[Olweg]

Сравнивает субъект, а субъект — это весь мозг. Поэтому попытка выделить в мозге оценивающего субъекта и некий опыт, который субъект оценивает, ведёт к логическим противоречиям (бесконечно множащимся гомункулусам, подробнее об этом написано в главе «Распределённый опыт и ошибочные интерпретации»).

Странный вывод. Для процесса сравнения субъект вовсе не обязателен.

[curiosity]

Ответ на вопрос, почему вообще что-то воспринимается, равносилен ответу на вопрос, что такое сознание, какова его физическая сущность. Однако, вероятно, что ответ на этот вопрос в принципе получен быть не может.

Конечно не может, так как этот вопрос не имеет смысла. Ответ на вопрос почему что-то воспринимается как раз и дан уже выше - именно необходимость строить абстрагированные модели свойств объектов позволяющие выстраивать сообразное этим свойствам поведение на основе оценки значимости результатов поведения и есть восприятие. Это происходит на уровне специализаций нейронов и специализаций отделов нейросети организующих результирующую функциональность , а не на уровне физических процессов, поэтому и вопрос о физической стороне вопроса не имеет смысла.Интеграция всей системы происходит на основе кольцевых связей связывающие структуры мозга в причинно следственную систему и встраивающую ее тем самым в поток причин и следствий реальности.

[curiosity]

Ни то и ни другое. Синхронизация (нейробиология) - Внимание - Википедия.

Синхронизация - причина или следствие того что выделенное в фокус интерпретации связывается с областями ответственными за интерпретацию ?

[EmperioAf]

В мозге (и вообще в природе) нет и не может быть «сравнения».

В языках программирования присутствует оператор сравнения, и он используется очень часто.
Как вы относитесь к тому, что внешне значительная/большая часть деятельности нейронов мозга похожа на выполнении операции "сравнение" ?

[-Юрий-]

внешне значительная/большая часть деятельности нейронов мозга похожа на выполнении операции "сравнение"

По-научному выражаясь - компаратор.

[MenFrame]

Поэтому попытка выделить в мозге оценивающего субъекта и некий опыт, который субъект оценивает, ведёт к логическим противоречиям

Логическое противоречие, заложено в написанном вами предложении. Где по сути постулируется, существование универсального сравнителя всего со всем. Отсюда идет дальше бред про гомункула. Вообщем вы отрицаете собственные выдуманные сущности.
   Тем не менее есть научные данные, которые говорят, что сравнение идет даже в отдельных нейронах. Хотя конечно, в целом, там срабатывает каскад нейронов.
    Вообще ваше отрицание того факта что сравнение это основная функция нейрона и сетей на его основе, говорит о том что вы реальными данными о мозге вообще не интересуетесь.

[-Asket-]

Стимуляция таламуса пробудила макак от наркоза
Американские и израильские ученые обнаружили, что при глубокой электростимуляции таламуса с частотой в 50 герц макаки приходят в сознание при общей анестезии: начинают двигаться, реагировать на свет, а также меняются их физиологические показатели вроде сердечного ритма и дыхания. Статья опубликована в журнале Neuron.
В общем понимании сознание — это способность организма реагировать на внешние стимулы и достоверно оценивать собственное состояние. Сознание включает в себя множество различных аспектов, а вовлечена в него работа всех сенсорных систем и отвечающих за них мозговых структур. При этом нейронные корреляты, отвечающие за каждую из частей сознания, разумеется, связаны между собой, но отследить все связи столь сложной системы довольно тяжело: за сознание отвечают не только кортикальные, но и более глубокие структуры — например, таламус. Кроме того, активность вовлеченных структур во многом зависит от уровня сознания человека: в бодрствующем он состоянии, спит, или находится, например, под общей анестезией.
Наиболее явный кандидат на роль «командного центра» сознания в головном мозге — это таламус, так как он, с одной стороны, сам играет большую роль в регуляции сознания, а с другой — руководит и работой вовлеченных структур коры. Проблема в том, что таламус — это часть промежуточного мозга, самых глубоких его частей, поэтому изучить его активность с помощью традиционных неизвазивных методов нейровизуализации на людях довольно трудно.
Мишель Рединбо (Michelle Redinbaugh) из Висконсинского университета в Мэдисоне и ее коллеги решили провести исследование участия таламуса в работе сознания на макаках. Для этого они имплантировали микроэлектроды в передний зрительный отдел и боковую внутритеменную зону правого полушария — отделы, вовлеченные в работу зрительной системы: их активность меняется, например, во время глубокой фазы сна. Кроме того, микроэлектроды также подключили к центральной части латерального ядра таламуса.
После имплантации электродов активность мозга макак изучили в трех условиях: во время бодрствования, глубокого сна и медикаментозной анестезии. То, находится ли макака в сознании, ученые проверяли по поведенческим реакциям: движениям глаз, моторным откликам, вокализации и так далее.
При стимуляции таламуса во время анестезии макаки показали все признаки бодрствования: они открыли глаза, начали двигать конечностями, реагировали на свет, а также изменилось их дыхание и сердечный ритм. Интересно, что стимуляция пробуждала макак от анестезии независимо от препарата, который использовался (изофлуран или пропофол), и дня проведения эксперимента. При этом сам эффект зависел от частоты посылаемых в электроды сигналов: в сознание макаки приходили только при стимуляции в 50 герц.
Далее ученые изучили активность 845 отдельных нейронов в изучаемых областях мозга макак в трех состояниях: бодрствующем, спящем и при общей анестезии. Оказалось, что частота спайков (колебаний потенциала при возбуждении нейрона) нейронов таламуса значительно (p < 0,0001) ниже в состоянии сна и при анестезии (также независимо от используемого препарата). То же самое наблюдалось и в изученных глубоких кортикальных структурах: это означает, что таламус в действительности связан с корой общими нейронными путями, отвечающими за состояние сознания. При этом стимуляция самой коры макак в сознание не привела, что может означать, что у таламуса в регуляции сознания главенствующая роль.
По словам авторов работы, самое эффективное применение их результатов — изучение заболеваний центральной нервной системы, связанных с различными аспектами сознания. К примеру, стимуляция таламуса с помощью инвазивных микроэлектродов, как рассказала главный автор работы изданию Gizmodo, сможет помочь пациентам выйти из коматозного состояния.

[Макрофаг]

При этом сам эффект зависел от частоты посылаемых в электроды сигналов: в сознание макаки приходили только при стимуляции в 50 герц.

Интересно какой вывод вы сделали опубликовав эту статью?

[Проходящий Кот]

Это информация к размышлению, а не библия....

[EmperioAf]

Идея разума со всеми необходимыми деталями должна появиться в одной голове. Даже если это голова человека, находящегося среди сотен других людей тоже думающих о разуме.
Идея разума несомненно состоит из множества абстрактных более простых идей (связанных с мышлением, памятью, чувствами и т.д.). Все эти простые идеи хоть и проявлены в обыденной бытовой жизни человека, но иногда явно из неё не следуют.
Короче говоря, нам не хватает понимания, что человек пытающийся понять разум должен быть по минимуму обременен социальной бытовухой, где каждый борется за свой кусок общественного пирога.

[-Юрий-]

Идея разума со всеми необходимыми деталями должна появиться в одной голове.

Нам совершенно не нужен искусственный Разум. Нам нужен искусственный Интеллект. А это совсем другое дело. Интеллект постепенно уже давно создаётся. Есть много устройств, имеющих некоторые элементы интеллекта. Что такое интеллект? Это просто устройство, использующее при своей работе элементы логики. Вот компьютер - типичное устройство, имеющее некоторые элементы интеллекта. Никому не нужно устройство, полностью копирующее человеческий интеллект и тем более разум. В разных сферах человеческой деятельности нужны некоторые элементы интеллекта, но не полностью копирующие человека.

[paxan96]

Идея разума со всеми необходимыми деталями должна появиться в одной голове.

Нам совершенно не нужен искусственный Разум. Нам нужен искусственный Интеллект. А это совсем другое дело. Интеллект постепенно уже давно создаётся. Есть много устройств, имеющих некоторые элементы интеллекта. Что такое интеллект? Это просто устройство, использующее при своей работе элементы логики. Вот компьютер - типичное устройство, имеющее некоторые элементы интеллекта. Никому не нужно устройство, полностью копирующее человеческий интеллект и тем более разум. В разных сферах человеческой деятельности нужны некоторые элементы интеллекта, но не полностью копирующие человека.

Согласен кстати интеллект искусственный нужен чтобы выполнял свою определенную роль, но разум как у человека и способный самостоятельно развиваться ненужен

[loky1109]

но разум как у человека и способный самостоятельно развиваться ненужен

Да при чём тут "развиваться"? Пусть развивается. Основное отличие человека это не способность к развитию, а вагон ненужных накопившихся за долгие миллионы лет эволюции адаптивных артефактов, в основном мешающих интеллектуальной деятельности. Сознание, если что, я к ним отношу.

[Rattus]

вагон ненужных накопившихся за долгие миллионы лет эволюции адаптивных артефактов, в основном мешающих интеллектуальной деятельности

Перечислите - каких конкретно и как обойтись без них в реальном мире?

[Проходящий Кот]

но разум как у человека и способный самостоятельно развиваться ненужен

Да при чём тут "развиваться"? Пусть развивается. Основное отличие человека это не способность к развитию, а вагон ненужных накопившихся за долгие миллионы лет эволюции адаптивных артефактов, в основном мешающих интеллектуальной деятельности. Сознание, если что, я к ним отношу.

Без этих адаптаций получится чистый разум, не имеющий цели.....
Какие цели могут быть без цветных штанов?