ИИ: какого понимания нам не хватает?

[Овердиггер]

Вообще-то если не элементы фашизма, то банальное злокачественное захламление тут прослеживается. Просто из примера про принадлежность генов не человеку, а популяции, можно вынести несколько более понятное: гены принадлежат роду (твои предки суммарно прошли через сущий ад, чтобы зачать друг друга и уберечь потомство, теперь твоя очередь, и социум со стороны почти требует тоже самое). Количество родовых линий было в разы меньше сто лет назад (да и на протяжении всей человеческой истории). А теперь растет и разветвляется это дерево без намеков на скорое торможение. Дальше фактический расизм и т.д.: белый человек размножается медленнее остальных наиболее распространенных рас; самые многодетные и рано рожающие семьи - семьи бедняков, необразованных и т.д.. Из этого напрашивается печальный и довольно очевидный по другим факторам вывод: пока малый процент населения задумывается и решает глобальные проблемы всего человеческого вида, более простые ребята размножаются по принципу "крысиного рая", пока не задохнутся от собственного количества (а точнее не исчерпают какие-нибудь ценнейшие невозобновляемые ресурсы, не доведут экологию до критической точки невозврата и т.д.). Так вот возвращаясь к шутливым законам человекотехники и генам по докинзу - согласятся ли многие добровольно ограничить свое размножение, ведь их гены как раз с полуфашистской догматичностью диктуют не прерывать свой род, путешествие выживших генов в бесконечность. Тот случай, когда эволюция становится плохим парнем, и только разум людей может ей противостоять: либо расширением территории (освоение планет), либо радикальными мерами (от ограничения рождаемости диктатурой до устранения излишков еще большим радикализмом). Неспроста эта тема облюбована в последние годы в кинематографе и пока еще подается как противоречиво-злодейская ("Утопия" сериал, "Кингсман" фильм и т.д.), фактически фашистская, но ведь скажем через сто-пятьсот лет ситуация может настолько усугубиться, что подобный хороший парень Фашизм против плохого парня Эволюции может стать экстренно необходимым.

Ну и чтобы не отклоняться от темы ИИ.. Если вырастить машину в виде высшего разума по сравнению с человеком (логично, что любой человеческий параметр мозга у машины можно увеличить в тысячи раз... Начинали с памяти, вычислений, а закончим прочей еще не до конца понятной лабудой), то она, скорее всего, в качестве доброго совета, проанализировав ситуацию, предложит, скорее всего, то же самое, как сторонний психолог, подчеркивающий очевидное, о чем и так догадываются все: вы что, люди, безумны? Ограничивайте рождаемость, потребление всего и вся, перестраховывайтесь за счет колонизации, хватит потрясать ядерными боеголовками и т.д. и т.п. сами же все понимаете.

[noxx77]

А единицей отбора является популяция

единицей отбора является ген. погуглите сами, сколько у нас обших генов с кукурузой, например

И когда разошлись линии? В огороде бузина...
Приведу пример, почему не особь, а популяция. Вышедшие из репродуктивного возраста бабушки и дедушки увеличивают выживаимость своих генов, уходом за детьми, а рискованные особи, расширяя ареал и защищая группу, даже погибая, увеличивают вероятность выживания родственников.

[-Юрий-]

Какого понимания вам не хватает? Послушайте передачу Сергея Савельева об искусственном интеллекте. Там на странице в таблице "Предыдущие выпуски" на строке "28 октября - Вынос мозга" нажмите кнопку "прослушать". Передача идёт 1 час. Кто не прослушает эту передачу, с тем не о чем говорить здесь.
https://govoritmoskva.ru/broadcasts/188/

[Rattus]

Послушайте передачу Сергея Савельева

Нет, спасибо.

[Olweg]

Послушал ради интереса. Ждал серьёзных аргументов, специалист по нейробиологии всё-таки, но уровень передачи, как бы помягче сказать, разочаровал. Конспектировал по ходу дела  : 

Распознавание языка - это чистая комбинаторика, как в шашках. Что, серьёзно?  То-то компьютерные лингвисты в прошлом веке мучились с этой простейшей задачкой и так ничего, в общем-то, и не добились, пока не стал применяться статистический метод, а сейчас - рекуррентные нейросети. Да даже и шахматы невозможно было осилить простым перебором и чистой вычислительной мощёй - это и до сих пор, через 20 лет после Deep Blue, невозможно (а автор, похоже, уверен, что так и было). Ну и дальше Савельев постоянно поминает алгоритмы, противопоставляя их жёсткость человеческой гибкости, что немного удивительно, потому что именно гибкость машинного обучения и нейросетей в частности сделало их такими востребованными в последние годы.

Насчёт расширения памяти за счёт внешних устройств и интернета - да, есть такой момент, но, как правильно заметил сам автор, он не сегодня начался, хотя сейчас этот эффект гораздо сильнее, чем когда-либо (и будет, ну, усугубляться - слишком оценочное слов, но усиливаться).

Дальше Савельев начинает играться терминологией - у человека всегда пытались создать искусственный интелект, ну, это я вообще не буду комментировать. Вторая часть начинается с какой-то ереси, которую тоже комментировать не хочется.

Про устаревшую архитектуру (в плане именно развития ИИ и нейросетей) - верно, и сейчас пытаются выйти за рамки фоннеймановских систем в сторону чего-то более мозгоподобного без выделения памяти отдельным блоком (см. TrueNorth и Loihi).

Возможность человеческого мозга создавать что-то принципиально новое на самом деле не так очевидно. Известно, например, что человеческое воображение ограничено рамками опыта. Инсайты уже демонстрировало пресловутое АльфаГо, один ход которого во время матча с Ли Седолем комментаторы оценили как, цитирую, «креативный» и «уникальный». И ещё цитата из вики: «некоторые ходы противоречили классической теории го, но в матче доказали свою эффективность, некоторые профессионалы стали использовать эти находки в своих партиях». А ведь го - это не просто игра, это своего рода искусство.

Вопросы не стал слушать, потому что вряд ли такие передачи станут слушать люди, разбирающиеся в теме. В итоге: сложилось впечатление, что Савельев не в курсе происходящего в последнее время в области машинного обучения, да и в курсе ли он того, что такое вообще машинное обучение, я так из его рассказа и не понял...

[EmperioAf]

В итоге: сложилось впечатление, что Савельев не в курсе происходящего в последнее время в области машинного обучения, да и в курсе ли он того, что такое вообще машинное обучение, я так из его рассказа и не понял...

Аналогично.
Я даже его цитату выписал из этой передачи:

дело в том, что в природе нет ни точки,  ни плоскости, ни прямой, ни целочисленных величин. Их вообще не существует. И потому оперировать с такими математическими абстракциями можно только при наличии глубочайшего незнания  или нежелания столкнуться с реальным миром

И это на 12-ой минуте передачи из 48 минут ...

[EmperioAf]

Весьма интересное мнение:
http://www.cyberforum.ru/unrecognised-theory/thread1551030.html

Исходные предположения.
1. Любой алгоритм обучения, так или иначе, в той или иной степени, предопределяет будущий алгоритм функционирования. В свою очередь будущий алгоритм функционирования определяет те свойства окружения с которыми он может работать и подразумевает «заужение» диапазона «анализа» возможных дорожных ситуаций. Таким образом, другими словами, любой алгоритм в той или иной степени предопределяет границы своей применимости, что и является его ограничением.
2. Альтернативой и дополнением изначально алгоритмического подхода, вероятно, может служить обучение (самообучение/переобучение/до-обучение) основанное на выработке множества алгоритмов функционирования на основе не алгоритмического перебора. При этом, основным доводом против такого подхода является размер, так называемого, комбинаторного взрыва. В первом случае ограничением является сам алгоритм, во втором случае, комбинаторный взрыв.

Предлагается концепция системы, максимально дополняющая строго алгоритмический подход, обходя его ограничения и, предположительно, принципиально уменьшающая негативную роль комбинаторного взрыва. Уменьшение комбинаторного взрыва предлагается достичь за счет автоматического накопления в системе разных, для разных условий, «окончательных» и «промежуточных» комбинаций «первичных» алгоритмов автоматически нарабатываемых такой системой в процессе функционирования и участвующих в последующих комбинациях (переборах) вместо перебора только «первичных» алгоритмов.

Концепция.
Вначале выскажу некое предположение, что преобразования СИИ не могут представлять собой строго детерминированную систему каких-либо сложных, многоуровневых, со всевозможными обратными связями и т.п., алгоритмов. Бытовой иллюстрацией такого предположения может служить рассуждение, что не может быть не Божественного, строго детерминированного алгоритма ограниченной сложности по типу некоего философского камня, который мог бы решить заранее не известную задачу, образно говоря, предсказать никак не определенное будущее.
С другой стороны и другими словами, видимо, можно сказать, что Мир дан нам разрывным, а не гладким (непрерывным). Это можно образно «почувствовать» при сравнении теплого с тяжелым, или в том, что чисто из свойств отдельных атомов не выводиться, например, то, что мы называем живым организмом. Если так, и плюс к тому, если Божественный промысел не наш удел, то предполагается, что придется добавить в систему к нашим обычным алгоритмам то, что называется не алгоритмическим перебором.

Исходя из сказанного, получается, что, так или иначе, СИИ должен быть неким вариантом «самопереборного», эволюционируемого автомата, в котором сигналы из внешней среды (независимо или вместе со ставящейся системе или встраиваемой целью) являются неким фактором усиливающим или ослабляющим перебор в зависимости от закономерностей этой среды.
Но если мы обратили внимание на перебор, то сразу же требуется представить мартышку, шлепающую по клавиатуре рядом с исследователем, поседевшим от длительности ожидания захватывающего романа. Другими словами остро встает вопрос о комбинаторном взрыве. Вопрос о возможности оптимизации перебора так, чтобы он мог быть осуществим с «полезным выходом» в допустимое время и с допустимыми ресурсами, становится принципиальным.

Примером адаптивного «ядра» конструкции, предположительно решающего отмеченные выше вопросы, предлагается рассмотреть некую систему, условно назовем ее Нечто-Когнитроном.
В качестве основы для «конструирования» такой системы возьмем следующий базовый пакет, где все категории относятся к элементам системы: количество, разнообразие, «смертность», «чувствительность-реагируемость», случайность.
В качестве системы представим совокупность так или иначе связанных и взаимодействующих элементов («нейронов», демонов, сущностей или можно назвать как-то иначе).
Для ее конструирования, условно говоря, предварительно создадим некий мешок, в котором у нас будут набросаны разные элементы. Данный мешок «бездонный», т.е. элементы в нем нескончаемы (генерируются новые при необходимости). Все элементы в мешке разнообразны, отличаются друг от друга.
Свойства отдельного элемента в мешке задаются количеством входов, выходов; алгоритмами («первичными») преобразования определенных сигналов на входах в определенные сигналы на выходах (при этом у каждого элемента свои индивидуальные сочетания алгоритмов). Сигналы могут представлять собой некие цифры. Кроме этого задаются индивидуальные диапазоны «чувствительности-реагируемости» и «смертности» элементов, другими словами диапазоны сочетаний возможных сигналов на входах, при которых элемент «погибает», никак не реагирует или по своему, какому-то заранее присвоенному ему алгоритму, преобразовывает входные сигналы в выходные. От доли этих диапазонов в общем количестве, закладываемых в систему возможных вариантов сочетаний проходящих в ней сигналов, предполагается значимая зависимость свойств будущей системы, в частности, например, возможность локальных, не мешающих друг другу переборов, «точность»/«грубость» настройки на закономерности сочетаний сигналов от сенсоров (на закономерности внешней среды), накопление «промежуточных решений» (отражений закономерностей внешней среды).
Далее определимся с количеством элементов в будущей системе в зависимости от потребностей исследователя и возможностей оборудования. Очевидно, что потенциал системы будет значимо зависеть от количества закладываемых в нее элементов, для упрощения будем считать, что количество пока постоянное. Возьмем заданное количество элементов из мешка и случайным образом соединим входы элементов с выходами других так, чтобы всегда часть из всей совокупности связей соединялась с входами/выходами сенсоров/эффекторов самой системы (плюс подсистем определяющих цели, если требуется). Т.е. назначим связи элементов системы с сенсорами системы приоритетными.
В простейшем виде система готова. Осталось только задать случайность в выборе/рождении нового элемента из мешка в случае «смерти» элемента системы и случайность его будущего местоположения в системе с учетом высвобождающихся (за счет «смертности» элементов) в процессе функционирования входов/выходов и приоритетов.
Потенциал такой системы будет зависеть от диапазонов количественных характеристик категорий отмеченных в базовом пакете.

В процессе функционирования такой системы в зависимости от хаотичности или закономерностей сочетаний сигналов от внешней среды будет происходить структурирование/преобразование системы как по связям, так и по составу элементов, представляющее собой автоматическое накопление и согласование неких «кусочков» и собираемых «больших» алгоритмов (ансамблей, узоров) преобразования входов системы в выходы.

Все довольно просто и, тем не менее, такие системы по типу Нечто-Когнитрона призваны устранить или значимо уменьшить следующие возможные ограничения «интеллектуальных систем»:
- ограничения, связанные с комбинаторным взрывом;
- ограничения, связанные с не достаточной универсальностью заранее задаваемой, часто довольно детерминированной логики (обучения) преобразования входных сигналов для еще не определенных (не доопределенных) условий внешней среды и целей;
- ограничения, связанные с нарушением предшествующих «обученностей» при новых обучениях, «дообучениях»;
- ограничения, связанные с невозможностью задавать цели внешним обучением, без предварительного включения целей в систему, а соответственно и ограничения по обучаемости и целеполаганию.

Для облегчения образного восприятия такой системы из совокупности относительно не устойчивых взаимосвязанных, взаимодействующих элементов рассмотрим пример, когда система состоит из единственного элемента. Конечно все предельно упрощено и схематично, но надеюсь, позволит представить картинку.
Что при этом дано.
1. Элемент взаимодействует с окружением (со средой в данном случае), т.е. среда на него действует, и он на среду действует.
2. При изменениях среды элемент может "погибнуть" в связи с тем, что он относительно устойчив, т.е. устойчив не ко всем условиям/сторонам окружения, а только к некоторым.
3. В случае его "гибели" на его место появляется другой.
4. Элементы разнообразны (много разных вариантов). Количество многообразия элементов и свойств/сторон среды, "степень" устойчивости элемента в данном случае не рассматривается.

Как будет вести себя эта, в некотором смысле, система элемент-среда.
1. При изменении среды будет происходить автоматический перебор элементов, т.к. каждый устойчив только к какому-то диапазону условий внешней среды.
2. Т.к. элемент взаимодействует со средой, т.е. влияет на нее, то рано или поздно, появится и будет существовать относительно длительное время без изменений элемент (без гибели и замены на новый), влияние которого на среду, компенсирует ее изменения сохраняя действие среды на элемент на прежнем уровне. Это и есть "нахождение" отражения некой "закономерности" среды. Таким образом, это и есть "врожденное стремление" к нахождению, накоплению и отделению закономерностей (таким образом "запоминаемых") от "хаоса", происходящее автоматически, без дополнительных условий и вмешательства со стороны кого бы то ни было.
Другим вариантом может быть просто нахождение неких устойчивых сторон/условий среды даже без влияния на нее со стороны самого элемента. Сути "стремления" это не меняет, но имеет значение при множестве элементов и многофакторности среды и может быть дополнено/«управляемо» «встраиваемой» целью.

Из серии ИИ vs СИИ.

ИИ.
ИИ чаще всего, это пополняемый набор всевозможных маркеров(символов, текста) каких-то сторон внешнего(!) мира и всевозможные комбинации правил их связывания/разделения.

СИИ
СИИ, это эволюционируемость, это эволюционируемая среда и все то, что необходимо для наличия/функционирования этой среды (обслуга). А это значит, что
1. СИИ - это прежде всего совокупность/система реальных объектов/элементов (а не их маркеров или маркеров каких-то сторон внешнего мира) со своими(!) свойствами, включая реакции на все возможные комбинации сигналов, которые могут к ним поступать из их(!) окружения в совокупности/системе.
2. Но совокупность не любых элементов может эволюционировать. Другим словами объекты в составе СИИ имеют свойство относительной неустойчивости/изменчивости. Если рассматривать на примере биологических нейросетей, то это может выглядеть как изменение комбинации свойств одного и того же нейрона, использование одних и исключение других физически присутствующих синапсов, реагирование на иные медиаторы и т.п. и т.д. В случае компьютеров, изменчивость легче реализовать через смертность, а след-но и пополняемость элементов, т.к. нас не ограничивает скорость роста новых элементов, как в случае природных нейросетей, и содержание запаса не "включенных" в оборот синапсов (или даже порой нейронов) не имеет смысла.
3. Выбор свойств новых состояний объектов/элементов (после изменения/"смерти"-"рождения") не имеет строгой предопределенности.

В итоге создавая систему/программу обеспечивающую то, что описано выше варьируя количеством, разнообразием, количеством сигналов на которые объект/элемент будет отвечать "смертью", реакциями по их преобразованию (в выходные сигналы)..., возможно создавать совокупности/системы с различным потенциалом эволюционируемости, но каков бы велик или мал не был этот потенциал, это уже СИИ по принципу своего функционирования, а слово "сильный" в СИИ, чисто историческая случайность. Таким образом эволюционируемость, как вытекающее из нее следствие подразумевает, перебор с накоплением опыта ("научный тык"), а изменчивость/смертность (например, в частности, в ответ на часть возможных сигналов) в сочетании с отсутствием строгой предопределенности в выборе свойств нового элемента/состояния, автоматически обеспечивает "активность".

Из сказанного должно быть видно, что обучение СИИ, должно происходить именно на реальной среде, а обучение на маркерах (текстовое) возможно лишь после того, как система обучится реальности (отразит реальность (какую-то часть) в себе)..., и этой реальности (ее отдельным сторонам/явлениям/объектам и т.п. и т.д.) будут присвоены обучением же какие-то маркеры (русские или английские и т.п. и т.д.)..., и именно определенные(!) "отклики" реальных(!) объектов/элементов/ансамблей самого СИИ ("внутри") в ответ на те или иные маркеры/тексты (от "внешнего мира") будут означать понимание данного маркера/текста. (из этого правда следует и то, что "нормальный" переводчик текстов возможен только на основе СИИ)

Если очень кратко,
СИИ, это то, что поддерживает (система) "внутреннюю" эволюционируемость (содержит совокупность элементов/объектов)
Эволюционируемость - это изменчивость совокупности взаимодействующих "реальных" объектов (элементов) с "собственными" свойствами (а не совокупность маркеров/символов объектов, тем более объектов "внешнего мира"), за счет относительной неустойчивости объектов (элементов) и без(!) строгой пред-определенности их свойств ("собственных"/"внутренних" !!!) как результата изменений.

ИИ - СИИ
Языково-антологический, описательный подход (ИИ) - "объектно-сенсорный", отражающий подход (СИИ)
Символ, отражение, модель.

Является ли символ отражением чего-либо? Наверное нет, т.к. этому "чего-либо" может быть присвоен иной символ (маркер), что никак не отразиться на самом "чего-либо" и по сути ничего не изменится. Другим словами символ/маркер не является ни отражением, ни моделью чего либо, являясь лишь его обозначением, при условии наличия системы интерпретирующей/связывающей этот символ с определенным "чего-либо".

Если же рассмотреть любой отдельно взятый сенсор, который реагирует на конкретное (возможен диапазон) "чего-либо", то можно считать, что он является "отражателем" этого чего-либо при условии, что в результате реакции он выдает какие-то сигналы. Другими словами, сенсор или некий объект способный реагировать и в результате выдавать какие-то сигналы, можно рассматривать как нечто отражающее, т.е. отражающее какую-то сторону окружения/среды уже хотя бы самим фактом реагирования на конкретное "чего-либо". Понятно, что в данном контексте под отражением не имеется ввиду нечто зеркально отражающее. Иначе, с определенной долей натяжки можно сказать, что сенсор - это модель какой-то стороны "реальности".

В итоге сенсор (отражатель/модель) сам по себе своими свойствами определяет отражаемое. При его замене на сенсор с другими свойствами измениться и отражаемый им "мир". В случае же с символами при замене символа ничего не изменится, т.к. символ сам по себе не определяет мир и ничего не значит без некоего интерпретатора, который в таком случае должен отражать мир, как бы, априори и плюс еще и связывать это с символом. Символ сам по себе не является отражателем.

Если же взять мозг (допустим человека), то по сути это тоже отражатель, только с тем отличием, что он как бы составной, но суть от этого не меняется. Другим словами мозг - это тот же, но комбинированный многоплановый многофакторный сенсор/отражатель/модель.
Что означает, при желании смоделировать (скопировать в железе) мозг и сопутствующие, проявляемые им некие возможности обзываемые интеллектом, мы должны моделировать множество способных к взаимодействию "сенсоров" (отражателей окружения), но никак не символы/слова/маркеры.

Но... это все если рассматривать мозг, как бы, "в стационарном состоянии", как бы мгновенный срез. Отличием же является то, что мозг может и должен меняться для отражения все новых и новых сторон "реальности". Как этого добиться? Да просто сделать внутренние сенсоры (в таком случае их чаще называют нейронами) изменчивыми, относительно неустойчивыми к тем или иным поступающим к нему сигналам. При этом система сенсор-среда будет стремится к уменьшению хаотичности, к неким относительно устойчивым состояниям, в зависимости от разнообразия сенсоров (разнообразия устойчивости и влияния на среду своими "выходными" сигналами) и наличия закономерностей/хаотичности в среде/окружении. Соответственно и комбинированный, многофакторный, многоплановый сенсор будет автоматически стремится отражать/выявлять закономерности среды/окружения.

Далее встанет вопрос целеполагания, если не задавать цель изначально программно. Пока скажу только, что целями в комбинированном сенсоре будут становиться найденные ранее относительно устойчивые ансамбли внутренних сенсоров (нейронов) при нарушении их устойчивости в соответствии с их иерархией и "величиной". Переводя на иной (бытовой) язык - нарушенные привычки, несоответствие чему-либо найденных ранее закономерностей, постулатов.

ИИ
Одни из наиболее часто фигурируемых подходов при разработках интеллекта, это создание некой логики обработки сигналов из "внешней среды. Даже если говорить о искусственных нейронных сетях, то и в них закладывается некая структура и правила ее изменения, а альтернативой является изменение этих правил или структуры самим человеком "вручную" в процессе обучения. Но когда в систему включается некая случайность/перебор неких эвристик, то и в этом случае впереди идет некая выработка логики преобразования входных сигналов связанная с неким параметром конкретной цели. Иными словами, слегка грубовато, но верно по сути, впереди идут либо фиксированная логика преобразований, какой бы многослойной она ни была, либо конкретная цель с добавлением небольшого перебора в элементы логики преобразований.

СИИ
Одним из основных отличий в случае СИИ, является то, что впереди идет не логика преобразования входных сигналов в выходные, не какая-то конкретная цель, а сама изменчивость совокупности/системы, т.е. эволюционируемость. Если кратко, функция/алгоритм и ее изменения/устойчивость не имеют прямой "внутрисистемной" логики связи друг с другом. Именно "логика" (закономерности, включая динамические) определенной(!) среды(!) определяет и формирует/отбирает(!) конкретную логику и устойчивость адаптивной/эволюционируемой совокупности/системы. Иными словами связь между конкретными функциями и их устойчивостью к определенным условиям сама по себе в совокупности/системе может меняться случайным образом и зависит только от условий закономерностей окружения/среды. Еще короче, логика совокупности/системы определяется/отбирается окружением/внешней_средой. При этом должно быть понятно, что конкретные возможности формирования той или иной логики зависимы от свойств системы, ее состава, размера и т.п., но ее проявления определяемы, отбираемы, ограничиваемы, задаваемы закономерностями внешней среды/окружения.

(При этом возможно следует напомнить, что под СИИ, как обычно, по умолчанию, в данном случае подразумевается именно его суть, т.е. адаптивное эволюционируемое ядро, а не система с внешними к нему ручками, ножками, встраиваемыми ИИ, целями и т.д. и т.п.)

Что это значит? Например, это значит, что психика и т.п. лишь внешние проявления, которые определяются в первую очередь внешними факторами такими, как внешняя среда, социум, воспитание, врожденные рефлексо-инстинкты и т.д. и т.п. и во вторую очередь потенциалом адаптивного ядра. Это значит, что в случае СИИ, сумма 2 плюс 2 равна 4 определяется не заложенным в него алгоритмо-интеллектом (ИИ), а условиями внешней среды, обучения и т.п., и может быть равна не 4, а 2, если "сложены" два кролика и два волка... и т.д. и т.п.
С другой стороны, это значит, что при одних и тех же внешних условиях может возникать отличающееся "внутреннее" отражение, некое творческое (благодаря случайности и отсутствию строгой "внутрисистемной" связи устойчивости и алгоритма) понимание при одних и тех же внешних условиях... например, как одни люди могут верить в существование Бога, а другие так же верить в его отсутствие, что в конечном итоге одно и тоже... (т.к. само знание есть результат взаимодействия познаваемого и познавателя, а знания познаваемого, так сказать, в чистом виде нам, увы, не дано...)

Итого в рамках данного поста. СИИ не может быть основано на фиксированной логике преобразования входного потока так же, как и на фиксированной логике преобразования этой логики (и т.д.), при том, что фиксированной может быть лишь первичная логика/система/условия/материал создания/обеспечения наличия первичного адаптивного, эволюционируемого ядра, эволюционируемой совокупности элементов. Сама эта совокупность и есть интеллект в контексте СИИ, тогда как формируемая в этой совокупности под влиянием/отбором окружения логика/алгоритмы - есть интеллект в контексте ИИ. Это означает, что любые(!) системы основанные на логике преобразования потока кроме эволюционируемых (что включает не предопределенность, т.е. случайность) совокупностей не имеют отношения к СИИ. Грубо говоря, интеллект (в "старом" его понимании) это не логика, это среда (материал).

Мартышка за компом, P/NP и т.д. и т.п.

Перебор в принципе не обойти при условии, когда нет готового алгоритмического решения. Кроме того, существует мнение, что философского камня не существует, т.е. алгоритма (как альтернативы перебора) решения того, что еще не известно не существует. В некотором смысле это высказывание близко к высказыванию масло - масляное. Т.е. нет алгоритма не существующего алгоритма ("не известного").
Но перебор перебору рознь. Представьте ситуацию обучения школьника. Если Вы ему сразу будете объяснять квантовую механику, то он ничего не поймет, как долго бы Вы не старались. Но если Вы предварительно обучите его неким предшествующим знаниям, которые помогут ему в понимании квантовой механики, то нет проблем.
Возьмем относительно "простые" задачи и используем перебор для нахождения заданного результата решения, достижимого относительно малым перебором небольшого числа элементов. Сохраним это в памяти. В дальнейшем мы сможем использовать этот результат для получения таким же перебором, но из числа уже таких "скомбинированных", "сложных" и плюс "элементарных", "исходных" элементов. Далее возьмем задачу следующего "уровня". Надеюсь не следует доказывать, что для получения решения в такой задаче перебор каждый раз "с нуля" был бы значительно сложнее/затратнее, а часто и с невозможностью получения конечного решения (не в принципе, а из-за ограничения по ресурсам), по сравнению с перебором из "готовых промежуточных" фрагментов/элементов и "первичных" элементов.
Теперь посмотрим на сами задачи. Если у нас существует лишь одна большая, сложная задача это одно. Если же наша задача может быть разбита на "промежуточные" (а соответственно отбор "промежуточных" решений), то ситуация другая. Возникает вопрос, как рабзивать. Но и в этом случае мы можем использовать перебор и разбивать ее переборно по разному с дальнейшим перебором разбивок и соответственно конечных решений. Дело здесь не столько в самом переборе, а сколько в накоплении вариантов "промежуточных" решений при наличии факторов "промежуточного" отбора.
Что такое решения в контексте внешней среды. По сути это всевозможные закономерности внешней среды. Внешняя среда у нас так или иначе "наполнена" всякими закономерностями и не является сочетанием единственной закономерности с океаном хаоса. Естественная внешняя среда (среда обучения), как правило, представляет собой комбинации разных закономерностей различной взаимосвязанности и иерархий. По сути, это и есть естественная рабзивка "глобальной" задачи, какова бы она не была, одновременно с наличием факторов "промежуточного" отбора. Таким образом мы имеем (а если "внешняя" среда, т.е. среда обучения искусственная, то должны искусственно создавать соответствующую среду) массу разных, включая "промежуточные", факторов отбора/разбиения. Причем эти факторы в естественной среде окружения, как правило, сами по себе не всегда случайные!

В итоге мы имеем перебор всегда с нуля и с единственным решением (фактором отбора) в окружении полного хаоса на одном полюсе рассмотрения и перебор с накоплением опыта "промежуточных" решений в во многом (не во всем) закономерном окружении на другом полюсе рассмотрения. Другими словами в контексте СИИ, нет проблемы P/NP в "исходной" ее "математической" постановке или проблемы мартышки за компом.

Есть иные "проблемы", например, с объемом накопления "промежуточных" решений, с запоминанием без "управленца" запоминаний, с разбивкой на "промежуточные" решения, с организацией перебора без "переборщика" ("алгоритмиста") и т.д. и т.п.

Все эти "проблемы" определенным образом решаются в системах/совокупностях по типу описанного на концептуальном уровне Нечто-Когнитрона.

[BlackBox]

Да даже и шахматы невозможно было осилить простым перебором и чистой вычислительной мощёй - это и до сих пор, через 20 лет после Deep Blue, невозможно

Таблицы Налимова. То что база решений и объем данных растут по экспоненте, не означает что принципиально эта задача не решаема. Как раз наоборот.

Представьте ситуацию обучения школьника. Если Вы ему сразу будете объяснять квантовую механику, то он ничего не поймет, как долго бы Вы не старались. Но если Вы предварительно обучите его неким предшествующим знаниям, которые помогут ему в понимании квантовой механики, то нет проблем.

Не согласен. Научить, в смысле обучения, можно кого угодно чему угодно.
И тут придется открыть страшную тайну. Обучение не всегда ставит целью "понимание" материала.
Заткнись и считай! (David Mermin).

[Olweg]

Таблицы Налимова. То что база решений и объем данных растут по экспоненте, не означает что принципиально эта задача не решаема. Как раз наоборот.

Почему же наоборот? До эндшпиля нужно ещё дожить, и тут полный перебор не поможет.

[BlackBox]

До эндшпиля нужно ещё дожить, и тут полный перебор не поможет

Современные алгоритмы не требуют полного перебора. БОльшая часть-повторяющиеся, тупиковые, или приводящие к правилу 50 ходов решения например, отбрасываются слету.
10 лет назад решили 4 и 5 фигурки, сейчас решается уже 8. Далее, по мере увеличения производительности будут решены и все 32.
Надо еще учесть существующие огромные базы уже сыгранных партий, как человек-человек, человек-машина, так и чисто машинные.
Между разными компами и движками проводятся целые турниры.
Кстати, шахматные движки удивительно компактны, десятки, от силы сотни кбайт. Это наводит на мысль что для создания ИИ потребуется не так уж и много ресурсов.

[Olweg]

Насчёт 32 не уверен: количество комбинаций получается запредельным, Сергей Марков в своих лекциях приводил оценки. Тем более что и закон Мура в последнее время начал пробуксовывать. Но, в конечном счёте, это и не важно:

Современные алгоритмы не требуют полного перебора.

Кстати, шахматные движки удивительно компактны, десятки, от силы сотни кбайт. Это наводит на мысль что для создания ИИ потребуется не так уж и много ресурсов.

Это всё-таки экспертные системы, не магистральный путь развития ИИ. Хотя и более перспективный AlphaZero в прошлом (уже) году не так много потребовал:



(AlphaZero, как и AlphaGo Zero, играл на 4 TPU)

[BlackBox]

Если TDP указано в W то это уже уровень типичной игровой домашней системы. Тензорные процессоры весьма экономичны оказывается...
Видно главное,-преимущество нейронной обучающейся сети над обычными архитектурами слишком очевидно. Это прорыв!
А если еще внедрят квантовые вентили, то остается только гадать на какой уровень выйдет такая квантово-нейронная логика.

[EmperioAf]

Это наводит на мысль что для создания ИИ потребуется не так уж и много ресурсов.

Ну давайте очень приблизительно посчитаем (оценим).  Пусть детский мозг тратит в среднем 20 Ватт. Тогда за 7 лет обучения тратится

\[  7 * 365,25 * 86400с * 20 Ватт = 4418064000 Дж  \]

Оценка говорит, что детский мозг на обучение тратит несколько миллиардов джоулей. Можно ли тратить не 20 Джоулей в секунду в течение семи лет, а скажем тысячу Джоулей в секунду в течение двух месяцев - вопрос открытый ...

Теперь оценим энергозатраты ПК
Если принять, что изначальная архитектура ИИ по эффективности примерно такая же как и у ребёнка при рождении, ИИ обучается на современном ПК, и современный ПК потребляет 200 Ватт(пусть на поддержание обучения ИИ тратится почти вся энергия), то современный ПК достигнет уровня 7-го ребёнка за несколько месяцев
Однако, вопрос возможности реализовать на современном ПК архитектуру столь же эффективную как архитектура мозга при рождении, остаётся открытым ...

[-Юрий-]

Однако, вопрос возможности реализовать на современном ПК архитектуру столь же эффективную как архитектура мозга при рождении, остаётся открытым ...

Почему открытым? Давно стало ясно, что на компьютерах современного типа создать аналог человеческого мозга невозможно. Да хоть и нечеловеческого, тоже невозможно. Разные принципы работы, разные архитектуры. Современный компьютер это всего-навсего вычислительное устройство, причём, довольно примитивное. Просто в него напихали большое количество ячеек памяти, а соответствующих связей, как в мозгу, между этими ячейками нету.

[BlackMokona]

Однако, вопрос возможности реализовать на современном ПК архитектуру столь же эффективную как архитектура мозга при рождении, остаётся открытым ...

Почему открытым? Давно стало ясно, что на компьютерах современного типа создать аналог человеческого мозга невозможно. Да хоть и нечеловеческого, тоже невозможно. Разные принципы работы, разные архитектуры. Современный компьютер это всего-навсего вычислительное устройство, причём, довольно примитивное. Просто в него напихали большое количество ячеек памяти, а соответствующих связей, как в мозгу, между этими ячейками нету.

Читайте нейроморфные чипы

[.]

Таблицы Налимова. То что база решений и объем данных растут по экспоненте, не означает что принципиально эта задача не решаема. Как раз наоборот.

Со школы впечаталось из замечательной книжки "Занимательная алгебра" Перельмана и в т.ч. поразившие меня задачки, про легендарное количество зерен на доске (10^18 - тогда впервые узнал название неведомого числа - квинтиллион) и про число шахматных партий (~ 10^116). Даже погуглил с настальгией http://mathemlib.ru/books/item/f00/s00/z0000003/. 

Насчёт 32 не уверен: количество комбинаций получается запредельным, Сергей Марков в своих лекциях приводил оценки. Тем более что и закон Мура в последнее время начал пробуксовывать. Но, в конечном счёте, это и не важно

Не важно, конечно. Из чистого любопытства, т.к. речь идет о конечном автомате, если представить, что такие объемы памяти физически возможны, я бы поставил на то, что игру всегда можно было бы свести к беспроигрышной стратегии (вечной ничьей) как в тривиальных крестики-нолики. 

[BlackMokona]

Из чистого любопытства, т.к. речь идет о конечном автомате, если представить, что такие объемы памяти физически возможны, я бы поставил на то, что игру всегда можно было бы свести к беспроигрышной стратегии (вечной ничьей) как в тривиальных крестики-нолики

Если посмотреть результаты Зеро против Стокфиша, возможно игра свелась бы к 100% победе белых

[.]

Если посмотреть результаты Зеро против Стокфиша, возможно игра свелась бы к 100% победе белых

Это вторая возможность - белые всегда выигрывают. Против этого я и ставил.  В всегда выигрышную стратегию черных, никто не верит.

(кликните для показа/скрытия)

результаты Зеро против Стокфиша

Ничего про это не знаю, шахматист слабый. Расчет чисто математический, хотя и интуитивный, как ваш.

[BlackBox]

Многие фишку не поняли.
Дело не в том что кто то кого то выиграл, а в том что:

1. Комп обучился сам, без использования доп БД, без участия человека и какого либо контроля, или вмешательства. Просто с 0 играя сам с собой (вот и все "обучение"), нашел верные стратегии.
2. Продемонстрированная эффективность машинного обучения фантастически выше человеческих возможностей.

Можно сказать по всем формальным признакам что ИИ уже существует. Сильный он, или слабый, по типу ИИ, надо еще разбираться.

[EmperioAf]

Давно стало ясно, что на компьютерах современного типа создать аналог человеческого мозга невозможно.

Понятно, что архитектуры мозга и современного ПК совершенно различны. Но из этого не следует, что невозможно создать реализацию архитектуры на современном ПК, которая будет тратить столько же энергии как мозг и по функциональности будет аналогичной мозгу.