ИИ: какого понимания нам не хватает?

[Olweg]

Имитационный подход который реализован на основе нейросетей - все еще не отошел от стимул-реактивной схемы.

Так и проявления высшей психической деятельности - тоже стимул-реактивные, по сути своей. Просто безмерно сложные.

[-Юрий-]

Ещё одна важнейшая вещь, в корне отличающая мозг живого человека от вычислительной машины: мозг соединён с бесчисленным количеством нервных окончаний, пронизывающих весь организм. И эти нервные окончания дают мозгу бесчисленное количество информации об этом организме. И вся эта информация за всю жизнь накапливается в памяти, и при каждом посыле информации от нерва она ещё и сравнивается с информацией в памяти. А кроме того, это ведь ещё и многие-многие комбинации этих сигналов. А ещё в памяти присутствуют приобретённые установки, полученные из книг, от других людей. Короче, бесконечное множество сигналов и их комбинаций от организма постоянно сравнивается с бесконечным множеством информации из памяти, и ещё всё это может учитываться при решении какой-то определённой задачи. Никакому искусственному разуму такое не под силу. Вот если создать искусственный организм, полностью идентичный живому, со всеми биологическими тонкостями, да ещё обучить его жизни на протяжении нескольких лет, вот тогда о чём-то можно говорить. А иначе это будет просто машина для решения прикладных задач. Что, в общем-то, и подразумевается. Но никак не аналог человека.

[Проходящий Кот]

Вас заклинило на слове бесконечный?
Очень даже конечный.
Да , ОЧЕНЬ ОГРОМНЫЙ , но КОНЕЧНЫЙ.

[Olweg]

Никакому искусственному разуму такое не под силу.

Это просто вопрос количества синапсов. Но, конечно, проблема не только в этом. Можно создать нейросеть с таким же числом синапсов, как и в человеческом кортексе, но толку от неё будет немного. Нужна иерархия обработки информации, причём не просто иерархия, но с обратными связями.

[EmperioAf]

Но тем не менее нет и не будет таких мощностей , которые достигнут уровня ЕИ.
ИИ помощник , друг , товарищ , но всё равно неразумная машина, которая никогда не достигнет уровня субъективизации ощущений наравне с человеком.

Вы прямо провоцируете ответить вам, чтобы оспорить данную точку зрения с кучей правдоподобных гипотез!  (Делать этого я конечно же не буду)
Но, вы ведь определённо задумывались, что идея недостижимости машиной уровня человека в чём либо врядли соответствует действительности. Не так ли?

Субъективизация ощущений достигается просто поступлением сигнала (получением энергии  рецептором) от чего то, что в вашей модели мира в голове является внешним по отношению к вам.
С таким же успехом можно сделать машину (робота) с кучей датчиков (сенсоров), со сложной моделью мира и обратными связями. Да, вы не сможете ощутить то же самое, что у чувствует робот, если вам не установить датчики от робота и вменить похожую картину мира.

P.s. как то давно я пытался объяснить друзьям моё желание читать мысли чужого человека. И получил ответ:  "Зачем тебе это? Тебе это не понравится. Тебе будет неинтересно. Люди думают о всякой чуши."

[Макрофаг]

Строение мозга субъективно, я вас правильно понимаю? О_о

Субъективное от способа реализации не зависит.Субъективное НЕМАТЕРИАЛЬНО!

Строение мозга субъективно, я вас правильно понимаю? О_о

Строение мозга объективно.Ощущение - субъективно.http://aha.ru/~geivanit/SUBJ.html

Тоесть ДУША. Так и говорите, а не прикидывайтесь.

Найдите в мозге коррелят с уникальной кодировкой "зелёного" или "круг" "2" вам нобелевку дадут. Я не шучу.

На форумах  " мудрость " с вас так и хлещет. А когда до дела дойдёт двух узлов связать не можете.
К.Анохин пытается понять, что такое сознание https://scorcher.ru/diary/topic.php?id=791

Странный спор.Пенроуз вроде бы показал ограниченность алгоритмического ИИ. Но ИИ потихоньку будет уходить от
алгоритма в сторону большей гибкости и неалгоритмических подходов. Имитационный подход который реализован
на основе нейросетей - все еще не отошел от стимул-реактивной схемы.

Стимул -реактивные схемы подходят для примитивных животных био-автоматов, но и у тех есть гибкость в зависимости от контекстов.
Для высокоорганизованных ( высш. животные и человек) подходят только в низшей иерархии системы.
Уже существует новый подход :

Исторически традиционные подходы выделяют в поведении, а, следовательно, и в работе мозга сенсорные и моторные аспекты. Сенсорные процессы обеспечивают приём и переработку информации, поступающей из окружающей среды. Моторные процессы организуют движения и поведение организма в соответствии с полученной из внешней среды информацией. Таким образом, поведение организма описывается в терминах внешних стимулов, действующих на организм, и реакций на эти стимулы. Безусловно, в современной нейронауке уже давно учитывается значение таких факторов, как мотивация, внимание, память и в целом роль когнитивных процессов. Тем не менее, «стимул-реактивная» схема применяется как при организации экспериментов и описании их результатов, так и при объяснении работы мозга.

Системно-эволюционный подход предлагает посмотреть на поведение и работу мозга по-другому. Мы рассматриваем поведение как активный процесс взаимодействия организма со средой, в ходе которого организм достигает необходимых результатов, позволяющих выживать в данной среде. Взаимодействия со средой и их результаты фиксируются в памяти организма в виде элементов индивидуального опыта. Носителями элементов опыта являются нейроны мозга. Поэтому активность нейронов связана не с сенсорными, моторными или другими аспектами поведения, а отражает системную структуру индивидуального опыта организма, историю соотношений организма со средой.

http://www.ras.ru/digest/showdnews.aspx?id=1599565c-0a23-49a2-91df-673a65ea5ca6

И вся эта информация за всю жизнь накапливается в памяти, и при каждом посыле информации от нерва она ещё и сравнивается с информацией в памяти.

Согласен. Это информационный синтез . Ссылку на гипотезу ИС давал выше.

А какое отношение имеет «субъективизация ощущений» к прогнозированию с учётом «всех возможных условий среды»?

Самое непосредственное. Задача сознания - работа с новым , прогнозирование - что сулят для организма новые, совсем незнакомые условия. Хотя замеченное даже совсем незнакомое уже есть в опыте иначе бы не заметил . 
Выбор приемлемого варианта с верификацией и закрепление наиболее желаемого с точки зрения данной особи.
Субъективизация - "точка сознания" ( ссылка на Иваницкого) удерживаемый образ  обратной связью ( нейронная  реверберационная цикличность). Гиппокамп подключает к образу родственные связи для данных условий среды и происходит синтез. В результате возникает ощущение "зелёного" , но не само "зелёное", которое в мозге никаким супер прибором не обнаружится.

Вы представляете как это заявление звучит с точки зрения человека не в теме ?

Это кто не в теме ? Покажите свою "тему". Так же и я могу сказать о несвязанных выкриках с места.
Со мной одними уничижительными фразами не отделаетесь.

[Макрофаг]

Субъективизация ощущений достигается просто поступлением сигнала (получением энергии  рецептором) от чего то, что в вашей модели мира в голове является внешним по отношению к вам.

Хочу вас попросить ПОЖАЛУЙСТА - хотя бы поверхностно изучите предлагаемый материал.http://aha.ru/~geivanit/SUBJ.html
Даже упёртые нейрофизиологи говорят  , что над биологическими электрохимическими процессами звучит "эхо". Т.е "рецептор"( ПД) отображает не само ощущение , а историю этого ощущения , которая пронизывает весь организм , системы гомеостаза.

[curiosity]

Это кто не в теме ? Покажите свою "тему". Так же и я могу сказать о несвязанных выкриках с места.
Со мной одними уничижительными фразами не отделаетесь.

Вовсе и не вкладывал такой контекст. Ну хорошо, притворюсь философом.
Итак:

Потому что субъективное , это другая реальность, которую нельзя воспроизвести технически.

Вы утверждаете получается , что существует некая иная , отличная от материальной - реальность. Допустим. Тогда если эта реальность существует , то она либо 1-не взаимодействует с материальной реальностью , либо 2 - взаимодействует , а значит она - материальна.Тогда это абсурд и следовательно ваше утверждение не верно. Либо 3 - материальная реальность не является каузально замкнутой.А это крах всего научного мировоззрения (утрирую,конечно).
Значит вариант первый , единственно мыслим. Но, раз нематериальная субъективная реальность не взаимодействует с материальной , то проверить ее существование мы никак не можем. А значит таковое предположение глубоко не научно и обсуждаться в серьез не может. 

[curiosity]

тимул -реактивные схемы подходят для примитивных животных био-автоматов, но и у тех есть гибкость в зависимости от контекстов.

Я и рассматриваю сознание как надстройку расширяющую ограниченность стимул реактивных схем.Что предполагает выделение признаков явлений из рецептируемого  , что задает основу для появления прогностических моделей явлений на основе обобщения отклика взаимодействия с явлениями обладающими выделенными признаками и сопровождаемое субъективной оценкой результатов такого взаимодействия и корректировки поведенческих цепочек на основе такой оценки. )

[Макрофаг]

Вы утверждаете получается , что существует некая иная , отличная от материальной - реальность. Допустим. Тогда если эта реальность существует , то она либо 1-не взаимодействует с материальной реальностью , либо 2 - взаимодействует , а значит она - материальна.Тогда это абсурд и следовательно ваше утверждение не верно. Либо 3 - материальная реальность не является каузально замкнутой.А это крах всего научного мировоззрения (утрирую,конечно).
Значит вариант первый , единственно мыслим. Но, раз нематериальная субъективная реальность не взаимодействует с материальной , то проверить ее существование мы никак не можем. А значит таковое предположение глубоко не научно и обсуждаться в серьез не может

Поймите меня - я слов на ветер не бросаю . Если что то утверждаю , значит это многократно  проверено и на это потрачены годы.
"Материальность " больше подходит к философии. Вы видели в естественных науках противопоставление "материальный - идеальный"?
Но если вы решили побыть философом то скажите пожалуйста "форма" сама по себе существует в природе в виде чего то вещественного?
Например "круглое " цифра "2" ?
Я уже обещал коту нобелевку и вам обещаю , если найдёте в голове коррелят "круглое"  в виде замысловатой нейрокодировки.
Даже Н.П. Бехтерева ,как ей было не трудно с таким багажом авторитета и регалий - признала свою ошибку публично через газету( в советские времена) , в том что так и не нашла коррелятов психических проявлений.
Почему сегодня нашим авторитетам стыдно признаться в своей несостоятельности в вопросах субъективного внутреннего мира человека и животных?
Я будучи независимым исследователем психики  догадываюсь  почему . Потому что много было амбициозных обещаний при получении финансирования на свои проекты.

Почему проект человеческого мозга пошел не так—и как его исправить
Через два года более чем миллиардные усилия по моделированию человеческого мозга находятся в беспорядке. Было ли это плохое управление, или что-то фундаментально неправильно с большой наукой?

https://www.scientificamerican.com/article/why-the-human-brain-project-went-wrong-and-how-to-fix-it/
 В РФ тоже самое только за меньшие деньги.Но всё равно стыдливо отмалчиваются в.т.ч и метры нейронаук.
 Наблюдаю и в курсе  событий в нейромире.
Так вот : психика это такая же форма как и "круглое " цифра "2" . Форма говоря философской терминологией - нематериальная.
Любое психическое проявление необходимо рассматривать в системном ключе.
Признаки системности - независимость от способа реализации.Т.е ощущение "круглое" "мягкое" может возникать в разных мозга и с разной конструкцией.
Летучая мышь знает и "видит" , что лист мягкий и на нём полно мошек - ультразвук в помощь .Миллионы лет оттачиваемый способ охоты - в помощь.
"Круглое" "мягкое" в разных мозгах постоянно проходит проверкой объективной реальностью.Но у каждого вида животных в связи с особенности тела и наследуемыми признаками по своему . Нет разницы как ощущает "мягкое" мышь  ультразвуком или человек своим задом 
Субъективное , внутренний мир = другая реальность , постоянно направлено на сверку с неизменными условиями среды ( объективная реальность). Это уже психическое .
Нужно ли для этого к.л. вычислительные мощности?
А зачем ? Хватит и двух нейронов.
Некоторым для принятия решения достаточно двух нейронов
https://scientificrussia.ru/articles/dlya-prinyatiya-resheniya-dostatochno-dvuh-nejronov

Если вы почувствуете разницу между живыми организмами от которых за миллионы лет осталось самое лучшее - и компом , который только вычисляет , а не живёт - значит я не зря оставил это сообщение.

[curiosity]

"Материальность " больше подходит к философии.

Материально все что проявляет себя во взаимодействии.

Но если вы решили побыть философом то скажите пожалуйста "форма" сама по себе существует в природе в виде чего то вещественного?
Например "круглое " цифра "2" ?

разумеется

[Olweg]

Задача сознания - работа с новым , прогнозирование - что сулят для организма новые, совсем незнакомые условия. Хотя замеченное даже совсем незнакомое уже есть в опыте иначе бы не заметил . 
Выбор приемлемого варианта с верификацией и закрепление наиболее желаемого с точки зрения данной особи.
Субъективизация - "точка сознания" ( ссылка на Иваницкого) удерживаемый образ  обратной связью ( нейронная  реверберационная цикличность). Гиппокамп подключает к образу родственные связи для данных условий среды и происходит синтез. В результате возникает ощущение "зелёного" , но не само "зелёное", которое в мозге никаким супер прибором не обнаружится.

Ну хорошо. Предположим, субъективизация неизбежно происходит при анализе новой информации на базе накопленного опыта. При этом действительно должны работать обратные связи. Но что принципиально мешает реализовать это в искусственных нейронных сетях?

[Проходящий Кот]

......
Я уже обещал коту нобелевку и вам обещаю , если найдёте в голове коррелят "круглое"  в виде замысловатой нейрокодировки.
.....

Сознание и разум ---- это процессы, а не состояние.
Поэтому непонятно , о какой нейрокодировке вы говорите.
Состояния синапсов и собственно нейронов постоянно изменяются.
И именно процессы  ИИ при определенной сложности дадут там сознание.

[николай теллалов]

никогда не достигнет уровня субъективизации ощущений наравне с человеком

разновидность солипсизма

[николай теллалов]

щё одна важнейшая вещь, в корне отличающая мозг живого человека от вычислительной машины: мозг соединён с бесчисленным количеством нервных окончаний, пронизывающих весь организм. И эти нервные окончания дают мозгу бесчисленное количество информации об этом организме

датчики внутреннего состояния (хардуера) ИИ не будут ставить?
интересно

[Проходящий Кот]

Эта часть ИИ будет наиболее стандартна.
Может там даже нейронные сети не понадобятся, а обычные программы  If then else.

[Макрофаг]

Сознание и разум ---- это процессы, а не состояние.
Поэтому непонятно , о какой нейрокодировке вы говорите.
Состояния синапсов и собственно нейронов постоянно изменяются.
И именно процессы  ИИ при определенной сложности дадут там сознание.

"Процессы" , которые не имеют никаких теоретических обоснований?
Каким образом ИИ достигнет условного деления на психические процессы?

Виды психических процессов

Познавательные:

Ощущение -

Восприятие

Мышление

Сознание

Речь

Внимание

Память

Воображение

Представление

Эмоционально-мотивационные:

Эмоции и Чувства

Состояния (Настроение, Тревожность и пр.)
( из современной психологии)
Всё это настолько спорные темы , что ни одному из этих процессов не нашли системных теоретических обоснований.
Зачем роботу ИИ чувства , эмоции и т.п.?
Например скажите для чего эмоции ? Для чего сознание?
Живым людям и животным понятно для успешной адаптации.
Например зачем мне огромные когти на руках и ногах и обезьяний хвост для захвата веток ?
Так же ИИ за которым последует народ -  эмоции , которые у  человека для мгновенных адаптационных перестроек ИИ не пригодятся так как искусственная реализация адаптивных ответов , гораздо эффективнее чем природная.
У ИИ всё хорошо и надёжно. Но именно человеческие минусы функциональных систем организма и делаю человека человеком , а не программным устройством по типу ИИ.
Например крайняя медлительность срабатывания ( в миллионы раз в сравнении с ИИ) потенциала действия позволяет перестроиться на синапсах химическим веществам. Нейромедиаторная регуляция стилей поведения нужна живым организмам . ИИ это в тягость и затронет львиную долю мощности.
ИИ запросто этого избегает но теряет гораздо больше
Ю.И. Александров : ...В рамках традиционного подхода к пониманию нейрона как проводника возбуждения закономерно возникает вопрос, сформулированный Kandel E.: "Почему имеются разные нейротрансмиттеры, если лишь одного достаточно для того, чтобы опосредовать передачу всех электрических сигналов?" (см. в [27]). Сложность теоретических построений, необходимых для того, чтобы ответить на этот простой вопрос, впечатляет
Даже для биоИИ достаточно будет одного нейротрансмиттера .
Для  несовершенного человека нужен целый букет химических веществ.Которые ослабляют мощность организма , но взамен мы получаем МОТИВАЦИЮ искать богатые сочной травой пастбища и озёра переполненные рыбой. Надо же где то добывать необходимые питательные вещества для нормального обмена веществ организма.
так на минусах в борьбе за выживание мы стали разумными и сейчас используем эти минусы для своего блага.
Сознание  не возникло на пустом месте , а именно в схватке с суровыми условиями реальной действительности.
Для достижения сознания у ИИ  нужно преодолеть  очень высокий порог. Необходимо симулировать историю всей среды обитания за миллионы лет существования живых существ.
Если лягушка обходится всего двумя нейронами  для пищевого поведения - это не говорит об уникальной особенности этих двух нейронов.
Это говорит о том, что в этом процессе собрана вся история лягушек за миллионы лет.Кроме того , для нормальной деятельности лягушки нужно именно такое тело ( скользкое липкое противное, гадкое ) и плюс постоянно повторяющиеся условия внешней среды.
Тогда лягушачий аппарат будет работать , а мы будем удивляться- да как же это может быть - ВСЕГО ДВА НЕЙРОНА и такое сложное поведение.
Вы просто не представляете как выглядит ваше утверждение об возникновении  сознания у  ИИ.
Я представляю , что дело в вашей вере  в перфекционизм развития неживых систем.

[Проходящий Кот]

Модели Амосова, Хокинса, Редозубова вы откровенно игнорируете и продолжаете идиолизматическую муть о непозноваемости разума и сознания.....

[Макрофаг]

Модели Амосова, Хокинса, Редозубова вы откровенно игнорируете

Моё понимание картины мира основывается на следовании научному методу познания , а не на научном бреде указанных товарищей.
Один шаг от аксиоматики ( системы проверенных фактов) в сторону экстраполяций - ошибки неизбежны . Два шага- бред.
Во всяком случае Редозубов , точно во втором ряду.
Интересно , по каким критериям вы выбираете для себя модели авторов?

Вы мне предлагаете использовать модель Редозубова, в своих текстах для описания психики и работы мозга? 

Исходя из природы обобщений, мы воспринимаем женщин неодинаково. Условно говоря, некоторые женщины «более женщины», чем другие. То есть выраженность признаков, по которым мы отличаем женщин от мужчин, может влиять на уровень эмоции предвкушения. Чем больше «истинно женского» мозг мужчины воспринимает в образе женщины, тем сильнее неосознанное удовольствие от предвкушения. И теперь все встает на свои места. Именно те обобщения, которые наиболее четко дифференцируют женщину от мужчины, и воспринимаются как признаки сексуальности женских форм. Причем, чем ярче выражен признак, тем сильнее вызываемое им удовольствие. Попробуем перечислить основные отличительные признаки, описать, так сказать, «женское начало».

·      Грудь. Яркий признак, отличающий женщин от мужчин. Чем больше грудь, тем «более женщина» перед нами.

картинка и текст из книги А.Д. Редозубова "Логика эмоций"

[Проходящий Кот]

Смешно брать  один абзац одной из книг Редозубова и на этом основании его "опровергать".
Ловля блох серьезным аргументом не является.