Психика, сознание, разум - определения и возможность моделирования

[Ый]

озможно системы обучения в корне неверны.

Это точно. Каждый на себе это может вспомнить. Иной раз кто-то рассказывает, рассказывает, а толку никакого, ничего в голову не лезет. Так же и с книгами. В одной несколько страниц какого-то словоблудия расписано, а сути не понятно. А бывает так, что человек (например, преподаватель) в одном предложении расскажет так, что всё становится ясно до самой тонкости. И с книгами так же. Так что не людей-учеников надо винить в тупости, а преподавателей. Самое главное в объяснении чего-то нового это объяснять это на примерах уже известного ученику. А часто преподавателей, да и писателей учебников такое положение не устраивает, они начинают впаривать всё неизвестное, да ещё и с неизвестными терминами (а многие любят иностранные и заумные слова ввернуть) как-будто перед ними не простой человек, а электронное запоминающее устройство, которому ввёл данные, он их так сразу и запомнил, да ещё и понял как надо. Насколько я встречал по жизни учебные пособия и объяснения живых преподавателей (из фильмов конечно) это американские. Книги написаны так, что аутист поймёт, и преподаватели рассказывают доходчиво. У нас не так. Все наши объясняльщики как-будто заражены вирусом пижонства, они думают, что если больше замысловатых слов вставят в объяснение, то будут выглядеть круче, а поймёт человек или нет, это его не волнует, это пусть сам человек и заботится об этом, это его проблемы. Вот так у нас. Да и здесь, на Форуме, многие тоже не хотят чего-то объяснять простыми словами, видимо считают это ниже своего достоинства, или думают, что тем самым они уронят свой престиж, рассказывая простыми словами. Как же, ведь он большой учёный, и говорить простые слова ему не пристало.

[Андрей Астрофизический]

Так что не людей-учеников надо винить в тупости, а преподавателей.

Оно может быть и так, только к нейросетям это каким боком?
Они обучаются, если можно так выразиться, на практике. Методом научного тыка, проб, ошибок, и обратной связи о том, какие результаты есть хорошие, а какие - плохие.

[noxx77]

Вот этот пункт спорный, поскольку как известно память распределена по всему мозгу, и точно неизвестно какой процент информации между нейронами передаётся напрямую через синапсы, а какой через нейроглию

Смотрите, мой тезис, что в машинном варианте нет смысла организовывать память и обмен так же как в биологическом. В биологическом - это наследие одной эволюции, со всеми преимуществами и издержками, в техническом - другой. В конце концов, может (и должно быть) трансцендентно, как физически организована память: хоть на магнитных барабанах. Тем более, что сама нейросеть сейчас чаще организована программно, а не аппаратно.

[Ый]

Смотрите, мой тезис, что в машинном варианте нет смысла организовывать память и обмен так же как в биологическом. В биологическом - это наследие одной эволюции, со всеми преимуществами и издержками, в техническом - другой.

Это, конечно, так. Но на каких бы элементах ни была построена память, да и мозг целиком, в природе это отрабатывалось миллиарды лет, и получен оптимальный результат. А мы делаем конструкцию сами, и времени на обкатывание этой конструкции у нас всего ничего прошло, и где гарантии, что в будущем эта искусственная конструкция не будет иметь кучу недостатков. В природе испытано великое множество вариантов, а мы сразу делаем один, и думаем что это оптимально. Конечно, человек в отличии от природы может все возможные варианты просто-напросто просчитать и выбрать наилучший. Но это всё равно недостаточно, возможны ошибки, заблуждения. Вон, уж какие умные-разумные инженеры, конструкторы, учёные, создают разные машины, но и те приходиться многократно испытывать в разных условиях, бывают и неудачи, а ведь всё просчитывали. Так почему создаваемые умные машины должны быть сразу правильными? Может в них закрадётся какой-нибудь хитрый принцип, который когда-нибудь натворит столько дел, что всем его создателям наступит трындец, и остальным тоже.

[Mercury127]

"Мы" всегда можем переделать.

[Olweg]

Так почему создаваемые умные машины должны быть сразу правильными? Может в них закрадётся какой-нибудь хитрый принцип, который когда-нибудь натворит столько дел, что всем его создателям наступит трындец, и остальным тоже.

На этот счёт стоит почитать «Искусственный интеллект» Ника Бострома. Книга, правда, не для лёгкого чтения, но перечисленные вопросы разбирает досконально.

[Ый]

На этот счёт стоит почитать «Искусственный интеллект» Ника Бострома.

Сохранил на компьютер. Может когда-нибудь почитаю. И таких умных книг, скачанных из интернета, у меня полно, только когда читать? Подумал, вот если бы посадили в тюрьму пожизненно, в одиночку, то тогда можно было бы все эти книги прочитать. А в нашей жизни никак, кругом столько дел, что даже если вообще не спать, не отдыхать, и то всё не переделаешь. Какие уж тут книги.

[Olweg]

Я сам эту книгу мучил несколько месяцев, с перерывами. Автор явно не слишком старался, чтобы сделать её понятнее читателю. Подряд, читать, может быть, даже необязательно. Но есть очень интересные мысли на тему.

[Сергей Н]

Так почему создаваемые умные машины должны быть сразу правильными? Может в них закрадётся какой-нибудь хитрый принцип, который когда-нибудь натворит столько дел, что всем его создателям наступит трындец, и остальным тоже.

На этот счёт стоит почитать «Искусственный интеллект» Ника Бострома. Книга, правда, не для лёгкого чтения, но перечисленные вопросы разбирает досконально.

В русском переводе читается легко. Для сравнения, НФ произведение "Аччелерандо" в чем-то интереснее и легче, зато имеется масса техно бреда.
Правда вот после этого мне расхотелось читать Бострома:

   Предварительно определим понятие сверхразума. Это любой интеллект, значительно превосходящий когнитивные возможности человека фактически в любых областях[93]. В следующей главе мы более подробно обсудим, что такое сверхразум, разложим его на составляющие и дифференцируем все возможные его воплощения. Но сейчас позволим себе ограничиться такой общей и поверхностной характеристикой. Заметьте, в данном описании не нашлось места ни претворению сверхразума в жизнь, ни его квалиа[94], то есть будет ли он наделен субъективными переживаниями и опытом сознания. А ведь в определенном смысле, особенно этическом, вопрос весьма немаловажный. Однако сейчас, оставив в стороне интеллектуальную метафизику[95], мы уделим внимание двум вопросам: предпосылкам возникновения сверхразума и последствиям этого явления.

*
[93]   Во-первых, этому определению сверхразума наиболее близка формулировка, опубликованная в работах: [Bostrom 2003 c; Bostrom 2006 a]; во-вторых, оно вполне отвечает формализованному условию Шейна Легга: «Интеллект оценивается способностью агента добиваться своей цели в широком диапазоне условий» [Legg 2008]; в-третьих, оно очень напоминает описание, сделанное Ирвингом Гудом, которое приведено нами в главе 1 настоящего издания: «Давайте определим сверхразумную машину как машину, которая в значительной степени превосходит интеллектуальные возможности любого умнейшего человека» [Good 1965, p. 33].

[94]   Квалиа (от множ. числа лат. qualia — «свойства, качества») — философский термин, обозначающий субъективные ощущения, свойства чувственного опыта. (Прим. ред.)

[95]    По той же причине не буду выстраивать никаких предположений, сможет ли сверхразумная машина обрести «истинную интенциональность», то есть иметь самосознание и действовать преднамеренно (при всем уважении к Джону Сёрлу, она, похоже, и на это способна), поскольку данный вопрос не имеет отношения к предмету нашей книги. Также не собираюсь занимать ничью сторону — ни адептов интернализма, ни последователей экстернализма — в яростно ведущихся среди философов дискуссиях на такие темы, как содержание сознания и расширение сознания, см.: [Clark, Chalmers 1998].

Полез на Вики и:

Ник Бустрём (также Бостром швед. Niklas Boström; родился 10 марта 1973 года в Хельсингборге, Швеция) — шведский философ, профессор Оксфордского университета, известный своими работами об антропном принципе. Получил степень PhD в Лондонской школе экономики

Короче не математик и не нейробиолог.

[Сергей Н]

роевой интеллект (?)

И да и нет. "Функционалы" в такой системе должны обладать мозгами ровно для решения своих задач (могу копать-могу не копать), а сложные вопросы отсылаются "наверх", если не могут там - ещё выше.

Как я понял подразумевается что мозги штука крайне затратная и отсюда такая дифференцировка, однако это ограничивает коммуникации между ИИ во втором варианте. Вместо множества ИИ получаем один. Можно прикунуть как поведут себя множество более слабых ИИ в ситуации приближенной к реальности т.е. во враждебной среде и один более сильный в такой же среде. На длительном промежутке времени сильный покажет худшие результаты из-за отсутсвия коммуникаций с равными ИИ вплоть до потери смысла существования. Казалось бы это чистое философствование но тут без этого ни как или надо делать нереально сложные умопостроения об всех аспектах данной ситуации.

[Olweg]

Не понял, в чём ваша претензия.

[Сергей Н]

Не понял, в чём ваша претензия.

Особых претензий нет, но он же экономист по образованию. Или как говорят некоторые "экономикс" вместо экономика.

[Андрей Астрофизический]

но он же экономист по образованию.

И, что, им не надо уметь считать?

[Olweg]

Особых претензий нет, но он же экономист по образованию. Или как говорят некоторые "экономикс" вместо экономика

Главное, что человек умный А то, что не специалист, в некотором роде можно считать даже преимуществом, помня афоризм Козьмы Пруткова.

Но я спрашивал скорее про выделенный в цитате текст.

[noxx77]

Но на каких бы элементах ни была построена память, да и мозг целиком, в природе это отрабатывалось миллиарды лет, и получен оптимальный результат

В том-то и дело, что нет. У птиц, например, функции неокортекса распределены в объеме мозга в виде шаровидных скоплений клеток и им нет необходимости усиленно "морщить кору" для наращивания мощи. В воронам для способностей равных приматным нужен в разы меньший мозг. То, что мозг насекомых, например, ещё меньше, но способен решать отдельные интеллектуальные задачи, вроде распознавания лиц (осы и пчёлы) - не раз писалось. По сути мы пока не знаем, что значит "оптимально".

Далее, сама наша память довольно лжива: https://m.gazeta.ru/science/2007/11/08_a_2295980.shtml
https://theoryandpractice.ru/posts/18198-fakty-pamyati-skolko-nashikh-vospominaniy-poddelnye
https://www.adme.ru/zhizn-nauka/6-effektov-nashej-pamyati-kotorye-pokazyvayut-kak-legko-ona-nas-obmanyvaet-1921565/
Тезис о совершенстве человеческого мозга ложный. В среднем человек либо имеет посредственные мозги, либо очень криво ими пользуется, в меньшем количестве мы имеем дело с крутым, но узким специалистом. Хорошие универсальные мозги без "заскоков" крайне редки.

где гарантии, что в будущем эта искусственная конструкция не будет иметь кучу недостатков.

Неправильная постановка вопроса: "конструкция" будет гарантированно иметь кучу недостатков в процессе своего развития, которые в процессе развития же и будут решаться. "Мозг", точнее интеллект, что человеческий, что машинный неизбежно вписан в человеческое общество, которое ставит перед ним посильные задачи и компенсирует недостатки работой других. Мы давно находимся в мире глубокого разделения труда, для которого, кстати, наш мозг избыточен по мощности, но недостаточен по выносливости.

Но это всё равно недостаточно, возможны ошибки, заблуждения.

Недостаточен для чего? Чтобы сделать всё сразу совершенным? А сразу и не надо.

Вон, уж какие умные-разумные инженеры, конструкторы, учёные, создают разные машины, но и те приходиться многократно испытывать в разных условиях, бывают и неудачи, а ведь всё просчитывали.

Нормальный процесс, потрясающие результаты которого в технике мы видим ежедневно.

Может в них закрадётся какой-нибудь хитрый принцип, который когда-нибудь натворит столько дел, что всем его создателям наступит трындец, и остальным тоже.

Самый страшный сон человечества, что его создания окажутся не меньшими сволочами, чем создатели. Решается просто: для того, чтобы стать сильным и универсальным, ИИ вместе с разрабами придётся долго и упорно преодолеть "слабости", причём на практике, взаимодействуя с людьми, которые на эти слабости будут указывать - как на недостатки (узко)функциональных систем будущий искусственный разум входящих. И эти недостатки там же будут преодолеваться.

[EmperioAf]

Я где то читал, что вся информация, которую человек хранит за жизнь в семантическом виде в голове изложенная в текстовом виде занимает несколько сотен мегабайт. Т.е. порядка 1 Гигабита = 10⁹ бит

А вот тут на Хабре (https://habr.com/ru/post/550896/)  приводят картинку из трёхтомника "физиология человека"


на которой собственно написано, что пропускная способность сенсорной системы человека составляет примерно 10⁷ бит/с или соответственно примерно 10¹⁶ бит за жизнь.
Получается, что КПД интеллектуальной машины человека крайне низкое (т.е. человек как интеллектуальная машина работает почти что на холостом ходу). Вселенная щедро спонсирует человека электромагнитными волнами, а человек не использует это благо.

Вопрос: почему КПД человека настолько мал?  Неужели окружающий мир настолько  взаимозависим, что для адекватной оценки происходящего достаточно всего 10^-7 от общего числа информации?

[noxx77]

как-будто перед ними не простой человек, а электронное запоминающее устройство, которому ввёл данные, он их так сразу и запомнил, да ещё и понял как надо.

Хах, тезис в пользу превосходства ИИ. На самом деле кривой, потому что даже машине надо уметь объяснить. Иногда это задача нетривиальная.

[Вайт]

Да читал я... Не будет работать гёделевский аргумент в модальной логике, которая сама по себе противоречива. И полнота в отношении системы заведомо работающей с вероятностным и неполным знанием невозможна. И знание системы, растущей за счёт самообучения и самоорганизации - не как отдельного "мозга", а как суммы гёделевский машин, где эволюционно отбираются и копируются лучшие решения: аналог биологической эволюции и человеческой культуры - не требует описания, детально и полностью познанного изначальным творцом машины. В общем, в статье не только лишь всё вообще в никуда...

Интересно, если бы вы никогда не слышали этих терминов, то как бы вы меня опровергали? Луна не в том доме? Корень степени интеграла гипотенузы запрещает квадратуру круга, поэтому я не прав? По крайней мере мне было бы проще, галиматья в этом случае видна сразу. Но, к сожалению, вы их где-то услышали.

Не будет работать гёделевский аргумент в модальной логике, которая сама по себе противоречива. И полнота в отношении системы заведомо работающей с вероятностным и неполным знанием невозможна.

Тут просто. Это просто бессмысленный набор слов.

И знание системы, растущей за счёт самообучения и самоорганизации - не как отдельного "мозга", а как суммы гёделевский машин, где эволюционно отбираются и копируются лучшие решения: аналог биологической эволюции и человеческой культуры - не требует описания, детально и полностью познанного изначальным творцом машины.

Вот это уже реальный аргумент. Ошибочный, естественно, но всё-таки. В нём вы имеете в виду, что мы создаём кучу машин Гёделя и они сами эволюционируют. Однако у меня ещё в начале статьи доказано, что мышление не может быть выражено формальным языком, а значит, и алгоритмом. Причём это в статье самое простое. Поэтому все «машины» уже исключаются. В качестве АИ статья по ссылке. И пара цитат оттуда:

Так он выявил фундаментальные ограничения математики, возможностей доказательства теорем и компьютерных вычислений, а следовательно, и искусственного интеллекта. … Однако машина Гёделя не может преодолеть фундаментальные ограничения математики и доказательства теорем, на которые впервые указал сам Курт Гёдель в 1931 году.

Машина Гёделя — ПостНаука.

Остаётся вариант искусственных сетей. Они тоже алгоритм, но всё-таки особенный (недетерминированный), человек задаёт работу сетей не полностью, то есть сети, как и человек, приходят к решению в процессе обучения, а значит, в какой-то степени мыслят. Поэтому, как кажется, если очень много нейронов, то ничего не помешает сетям мыслить и сколь угодно лучше человека. Но, оказывается, помешает. Что принципиально невозможно, то принципиально невозможно. И на практике принципиальное ограничение будет проявляться так, как написано на странице 14. Теперь там есть ещё вот этот текст:

(кликните для показа/скрытия)

Рассмотрим сделанные выводы в более общем ключе.

Итак, система тем больше искусственная, чем полнее её работу определяет написанный человеком алгоритм. При этом, как было показано, мышление в принципе не может быть выражено алгоритмом, то есть любой формальный язык будет качественно проще работы мозга. Фактически качественное отличие языка, как некоторого итога работы мозга, от самой работы мозга, как физической системы, является выражением того простого обстоятельства, что язык формируется в мозге, а не «поступает» в мозг готовым извне. Поэтому вполне естественно, что формирование языка не может быть описано тем же самым языком, который формируется, нужен более богатый язык. Однако для формирования такого языка нужна и система с качественно более богатыми возможностями, чем мозг человека. Проще говоря, описать самого себя невозможно, так как это равносильно возможности посмотреть на самого себя со стороны — и наблюдать собственные мысли «изнутри», ещё в процессе их формирования, до их появления.

Таким образом, если работу системы полностью определяет алгоритм, то система будет качественно проще интеллекта человека. Следовательно, можно предположить, что уменьшение роли алгоритма в работе системы, в той же степени позволит ограничение на сложность систем преодолеть. Например, это касается искусственных нейронных сетей, создание и обучение которых подразумевает некоторую неформальную составляющую угадывания, интуиции.

Однако чем меньше работу системы определяет алгоритм, тем всё более непонятной становится её работа, потому что алгоритм, чёткая инструкция, строгий и однозначный формальный язык — это естественное выражение понимания. Поэтому чем меньше работу системы определяет алгоритм, тем больше работу системы придётся оценивать по итогам этой работы, то есть по поведению системы, а не точно представляя, что, как и зачем она делает. Другими словами, чем меньше понятна работа системы, тем быстрее будет расти составляющая отбора, потому что если заранее мысленно просчитать работу систем невозможно, остаётся только создавать их в той или иной степени наугад, а потом уже отбирать удачные варианты.

В свою очередь, сложность мышления и сложность поведения — это одно и то же. При этом сложность мышления — это максимальная сложность доступного человеку знания. Более сложный алгоритм в мозге человека попросту «не поместится», поэтому человек не сможет им оперировать. Приближение к максимально сложному алгоритму — бесконечно. Например, это подтверждается тем, что алгоритм качественно проще мышления, то есть никакое доступное человеку знание в принципе не сможет приблизиться к сложности его мышления ни за какой конечный промежуток времени. Однако это означает, что возможность оценить поведение искусственной системы ограничена в той же степени, как ограничено понимание собственного мышления. По мере приближения к сложности поведения человека поведение искусственных систем тоже будет становиться всё менее понятным. На практике это ограничение будет проявляться в описанных ранее проблемах отбора, общий смысл которых в том, что по мере приближения сложности создаваемых систем к сложности интеллекта человека время каждого нового усложнения будет всё быстрее стремиться к бесконечности.

В итоге, получается, что если работу системы полностью определяет написанный человеком алгоритм, то система будет качественно проще интеллекта человека, а снижение доли алгоритма приводит к такому же росту составляющей отбора и точно так же не позволяет создаваемым системам приблизиться к сложности интеллекта человека. Уменьшение одного ограничивающего параметра приводит к росту другого, и наоборот.

Тогда, как кажется, возможный выход — это снизить жёсткость отбора. На самом деле этот способ уже учтён в описанных ранее проблемах отбора, тем не менее посмотрим ещё раз внимательнее.

И алгоритм, и отбор — это знания человека, которые он тем или иным способом вкладывает в создание систем, исходя из своего представления о необходимом устройстве или необходимом поведении системы. В случае алгоритма — это точный расчёт и формальный язык, в случае отбора — это знания более общие, так как отбор подразумевает в том числе и менее формальные основания, более интуитивного характера, которые ложатся в основание создания, обучения и оценки поведения систем. Вспомним, формальный язык качественно проще работы мозга, поэтому действительно, вполне естественно, что уменьшение формального содержания все-таки позволяет создаваемым системам приблизиться к сложности мышления ближе.

Таким образом, снизить жёсткость отбора — это проводить его на основании общих и не строгих соображений об адекватности поведения систем, то есть интуитивно, больше доверяя системам, а не проверяя все их решения. Понятно также, что формальное содержание можно снизить и путём уменьшения такового в самой работе систем, создавая их тоже интуитивно, исходя из общих соображений, как художник рисует абстрактную картину, не используя расчёты и вычисления. Последнее невозможно в случае искусственных нейронных сетей, которые в любом случае являются вычислительными системами, однако гипотетически таким способом можно «ваять» системы сразу из живых нейронов, используя их количество и большее, чем в мозге человека, тем самым, вероятно, добиваясь любой сложности систем и любых функций.

Однако если при этом не будет жёсткого отбора, то задолго до приближения к сложности интеллекта человека количество возможных вариантов систем — например, организации нейронов в сети и свойств самих нейронов — быстро станет неисчислимым. Дело в том, что отбор нужен не только для внешней оценки адекватности систем, но и для того, чтобы исследовать созданные системы, выделяя полезные и вредные элементы их устройства. То есть именно для того, чтобы в дальнейшем ограничивать количество возможных вариантов систем, а также развивать теоретическую базу и улучшать технологии. Поэтому снижение жёсткости отбора пропорционально увеличит количество возможных вариантов систем и замедлит развитие технологий. В результате снова устремляя к бесконечности время приближения создаваемых систем к сложности интеллекта человека, только теперь уже по этой причине.

В итоге, все аргументы говорят об одном. Какой бы способ ни использовать, не существует возможности создать систему, приближающуюся к сложности интеллекта самого человека. Уменьшение формальной составляющей позволяет на практике достичь большей сложности создаваемых систем, но задолго до цели взаимосвязанный рост неопределённости лишит смысла и такие попытки тоже. Сделанные выводы не запрещает системам быть равными или сложнее интеллекта человека и не ограничивают время создания таких систем, но означают лишь то, что создать равную себе систему не сможет сам человек.

Гёделевский аргумент и вычислимость интеллекта.

И наконец статья о гёделевском аргументе является только лишь первой главой книги, причём её аргументы там больше не используются, со второй главы всё начинается заново с новыми аргументами.
***

Тем не менее даже если чисто гипотетически предположить какую-то эволюцию машин, то системы, работающие по некоторому алгоритму, качественно проще биологических систем, поэтому в любом случае их эволюция будет идти дольше. Но на самом деле они вообще не смогут сколько-нибудь значительно развиваться без человека.

Биологические системы — это системы диссипативные, они уже на физическом уровне способны к самосохранению, то есть умеют поддерживать гомеостаз, активно противостоять воздействиям среды с помощью скоординированных реакций. Без всяких знаний, программ и алгоритмов. И усложнение таких систем — это скачкообразный переход сразу всей системы к более сложной организации, после чего система точно так же поддерживает гомеостаз, только теперь более сложный. То есть всё происходит само собой и принципиально невычислимым образом. Поэтому сколько-нибудь близко к реальной сложности выразить алгоритмом способность эволюционировать невозможно в принципе — ведь этот процесс принципиально невычислим. В результате для эволюции алгоритмов нужен человек. Другими словами, в целом эволюция искусственных систем проходит в головах людей — а значит, и не может выйти за пределы сложности интеллекта человека. В частном же системы могут, например, обучаться «самостоятельно», поэтому в решении частных задач могут человека и превзойти. Но в целом любая из этих систем всё равно останется много проще интеллекта. Поэтому и функцию «целого» интеллекта — ставить задачи и решать их — тоже сможет выполнять только на качественно более простом уровне, чем человек.

Здесь у нас с Вайтом принципиальный спор:

У нас нет с вами спора. Галиматья, которую вы пишите, — это не аргументы.

У мозга нет других возможностей связать отделы, кроме как напихав аксонов из одного в другой, на манер очень широкой дата-шины и обеспечив там своё нейронное представительство. Собственно так и реализуется вся эта мега-нейросеть.

«Связанность аксонами» — суть сложность обработки сигналов рецепторов. Но это только в искусственных сетях. В биологических сетях значение связанности не только в сложности обработки сигналов, это также ещё и основание неравновесного состояния нейронной сети. Неравновесие — это целостность (простой моделью которой является песчаная куча) и потому возможность самоорганизации, то есть скачкообразного усложнения всей системы сразу, эволюции от простого к сложному. Самоорганизуется и усложняется в данном случае изначально хаотическая активность нейронов. Самоорганизация — это неравновесный фазовый переход...

В свою очередь, неравновесный фазовый переход — это переход через точку бифуркации, то есть это переход качественный, скачкообразный и невычислимый. Как уже сказано, неравновесным фазовым переходом является каждое переключение внимания, когда в сознании возникает новая идея, и в целом работа нейронной сети мозга связана с такими переходами. Таким образом, в целом понятно, как в мозге физически реализуется индуктивный вывод, обобщение, появление нового знания — переход от отдельных элементов к образу, от смысла слов к смыслу фразы, от данных к теории и т. п. — как неравновесный фазовый переход. Но, ввиду его невычислимости, искусственные нейронные сети могут воспроизводить только некоторую общую логику этого процесса, но не его действительную суть в её реальной сложности. В результате принципиально отставая от биологических нейронных сетей и в возможностях тоже.

Гёделевский аргумент и вычислимость интеллекта.

В биологическом - это наследие одной эволюции, со всеми преимуществами и издержками, в техническом - другой. В конце концов, может (и должно быть) трансцендентно, как физически организована память: хоть на магнитных барабанах. Тем более, что сама нейросеть сейчас чаще организована программно, а не аппаратно.

Программа может переварить обед? Если нет, то почему? Чего ей не хватает?

Тезис о совершенстве человеческого мозга ложный.

Вы сами придумали этот тезис и теперь его опровергаете? Как идёт дело?

Хах,...

«Ха». Так правильно. Ахах, ахахах — сленг уровня идиотов. Хах — даже ими ещё не освоен.

[Проходящий Кот]

Какое отношение Гедель имеет к ИИ(ЕИ)?
Задача ИИ(ЕИ) обеспечить выживание и деятельность носителя, а не выполнение неких математических аксиом и теорем.

[Инопланетянин]

Программа может переварить обед? Если нет, то почему? Чего ей не хватает?

Управляющая пищеварением может. Хотя это не программа, а нейросеть. А остальные не могут, им не хватает подключения к желудку.