ИИ: какого понимания нам не хватает?

[curiosity]

Этот критерий называется "ОПЫТ"

Опыт это результат взаимодействия с чем-либо , но вот оценка результатов этого взаимодействия - субъективное отношение. 

[Проходящий Кот]

И попытка бороться с общепринятой терминологией ---- тоже.

Нет не какой общепринятой терминологии "сильного ИИ" Со слабым все понятно, а сильный имеет кучу определений. Все потому что, философы и демагоги не как не определяться с критериальным описанием "СИЛЫ" Каждое определение, предполагает какую то свою сильность, чаще всего выраженную в отсутствии просто какой то черты которая присутствует у человека. В плоть до воображаемых черт вроде "Свободы воли"

У НАС В ГОЛОВЕ СИЛЬНЫЙ ИИ, ПОЯВЛЯЮЩИЙСЯ В 3 ГОДА.

У НАС В ГОЛОВЕ сильный ИИ появляется окончательно сформировавшись только к 30 годам с завершением формирования лобных долей.

Вот я про что, каждый толдычит во что гараст. У каждого своя чуйка...

Появляется в 3 года, окончательно формируется к 30. Где здесь противоречие?

[MenFrame]

Где здесь противоречие?

Есть размытая формулировка....которая не как не отражает, ни суть, ни качественное отличие сильного ИИ от слабого.

[MenFrame]

но вот оценка результатов этого взаимодействия - субъективное отношение. 

Оценка, результата взаимодействия и есть опыт.

[Проходящий Кот]

Лично вы с какого момента себя помните?

[curiosity]

Оценка, результата взаимодействия и есть опыт.

Если цель закинуть мяч в корзину , то только достижение цели такое как попадание мячом в корзину может промаркировать силу и направление броска как сообразное для достижения цели в конкретных условиях (расстояние) броска.Все остальные попытки следует промаркировать как неудачные. Такой внутренний критерий - эмоция от достижения цели есть сигнал для закрепления использованной комбинации действий. Таким образом опыт конечно включает оценку. Но эти оценки сообразности откуда-то происходят , а не даны как само собой разумеющиеся.В случае если ии должен решить заранее известную задачу известным способом проблемы нету , но если в новой обстановке вам потребуется применить нетривиальные действия понадобиться система способная формировать такую оценку на лету в процессе взаимодействия с реальностью. В этом большая разница между тупыми распознавателями - аля имитационный интеллект , для обучения которых используется заранее промаркированная выборка и сильным ии.

[Вайт]

В случае если ии должен решить заранее известную задачу известным способом проблемы нету , но если в новой обстановке вам потребуется применить нетривиальные действия понадобиться система способная формировать такую оценку на лету в процессе взаимодействия с реальностью. В этом большая разница между тупыми распознавателями - аля имитационный интеллект , для обучения которых используется заранее промаркированная выборка и сильным ии.

Искусственные нейронные сети всё это тоже умеют. «Тупые распознаватели» — это сети прямого распространения без обратных связей, то есть относительно простые. Рекуррентные же сети в целом делают то, что делает и человек — не просто распознают условия, но и формируют алгоритмы ответных действий. То есть фактически выделяют задачу и решают её с учётом конкретных условий среды. Поэтому качественное отличие между ИНС и мозгом человека только в принципах работы биологической и искусственной нейронной сети и в целом сложности этой работы.

[MenFrame]

но если в новой обстановке вам потребуется применить нетривиальные действия понадобиться система способная формировать такую оценку на лету в процессе взаимодействия с реальностью.

Оценка, формируется на основе критериев цели. Если вы цель сформулировали, значит и сформулировали оценку своих действий в рамках, достижения или недостижения цели. А если цель не сформулировали, тогда вы вообще не каких действий предпринять не можете.

[Проходящий Кот]

Философия , такая философия......

[curiosity]

Искусственные нейронные сети всё это тоже умеют.

Нет разумеется.Скорее так - все это потенциально достижимо в тех или иных "нейросетях" в будущем. Сейчас есть очень много частных экспериментов и некоторые уже пробуют концептуально похожие подходы , например http://news.mit.edu/2019/adept-ai-machines-laws-physics-1202
Приведенная конструкция в некотором смысле имеет простые модели объектов реальности и детектирует рассогласование между модельным "прогнозом" и воспринимаемым.Но никак еще не взаимодействует с реальностью посредством этих моделей.

[curiosity]

Оценка, формируется на основе критериев цели. Если вы цель сформулировали, значит и сформулировали оценку своих действий в рамках, достижения или недостижения цели. А если цель не сформулировали, тогда вы вообще не каких действий предпринять не можете.

Если способность формулировать цель однозначно не рассматривать как проявление интеллекта , тогда проблемы нету.

[Вайт]

Приведенная конструкция в некотором смысле имеет простые модели объектов реальности и детектирует рассогласование между модельным "прогнозом" и воспринимаемым.Но никак еще не взаимодействует с реальностью посредством этих моделей.

Этого и в голове нет. Все эти «модели» и их роль в мышлении — фантазии, сделанные на основании интроспекции и «чистой логики», не подкреплённой даже общими представлениями о работе мозга как нейронной сети. Без чего напридумывать можно много чего, так как полёт фантазии не ограничен фактами.

Поэтому из «тупых распознавателей» подобием человеческого разума искусственные нейронные сети делает не моделирование ими неких частных элементов поведения человека и тем более не фантазийные «модели» и «рассогласования» между ними, а моделирование ими прежде всего общего принципа поведения. Суть которого — перевод чувствительности в двигательную активность, то есть распознавание условий и управление мышцами и железами, формирование алгоритмов действий в ответ на стимулы. Всё остальное — частные элементы этого процесса, проявление его сложности.

[curiosity]

Все эти «модели» и их роль в мышлении

Абстрактные модели - конечно же условность , цель которой сделать обозримой устройство процессов в нейросетях.Если вам нужно пересечь топкий ручеек , вы можете взять любой предмет достаточно длинный и упругий чтобы перекинуть его с берега на берег , это в сущности и есть абстрагированные свойства присущие многим объектом , хоть железной трубе , хоть стволу дерева , но вы вряд ли будете перекидывать веревку так как модель веревки как ясно включает и то что она не твердая.Правда натянутая веревка может обладать подходящими свойствами. Вот собственно как назвать то знание которое стоит за термином веревка или столбик ? С очевидностью ни то , не другое - не есть конкретный объект.

[EmperioAf]

Вот собственно как назвать то знание которое стоит за термином веревка или столбик ?

Это знание тоже сенсорное. Вы можете руками потрогать, потянуть (и т.п.) верёвку и измерить минимальную силу растяжения (сила ваших рук) верёвки.
С точки зрения программистов, это знание называют  свойство

[Вайт]

Вот собственно как назвать то знание которое стоит за термином веревка или столбик ? С очевидностью ни то , не другое - не есть конкретный объект.

Модели-то есть — в том же смысле, как есть сознание. Например, вполне можно сказать, что нейронная сеть формирует в себе модель условий, с которыми взаимодействует. Только эти «модели» в реальности никто в голове не сравнивает и не оценивает — это всё уместно говорить только в психологии, то есть с точки зрения интроспекции.

В реальности же изменение условий меняет протекание взаимосвязанных процессов возбуждения/торможения в нейронной сети мозга. А за счёт особенностей организации нейронной сети это субъективно, то есть «изнутри» сети, воспринимается как оценки, сравнения, управления своими действиями, разговор с самим собой, волевое усилие и так далее. На самом деле все эти элементы субъективного опыта имеют другой смысл, никогда не выходящий за рамки непосредственно распознавания условий и построения действий. О чём я написал в этом посте — понимая особенности работы нейронной сети мозга, можно однозначно связать идущие в ней процессы с особенностями сознания и не фантазировать.

[curiosity]

Только эти «модели» в реальности никто в голове не сравнивает и не оценивает — это всё уместно говорить только в психологии, то есть с точки зрения интроспекции.

А вы попробуйте для начала интроспекцию саму по себе объяснить , ответив на простой вопрос - зачем она вообще нужна , если и без нее все
прекрасно работает ? Или нет ?
И потом я не говорил что "кто-то" сравнивает модели в голове.

А за счёт особенностей организации нейронной сети это субъективно, то есть «изнутри» сети, воспринимается как оценки, сравнения, управления своими действиями, разговор с самим собой, волевое усилие и так далее.

И что же это за особенность которая позволяет сети что-то воспринимать "изнутри" ? Нейроны - они и в африке нейроны , поляризация-деполяризация и т.д. Так что такое восприятие ?

[curiosity]

Это знание тоже сенсорное. Вы можете руками потрогать, потянуть (и т.п.) верёвку и измерить минимальную силу растяжения (сила ваших рук) верёвки.
С точки зрения программистов, это знание называют  свойство

Оно отражает конечно сенсорно регистрируемые закономерности , но было бы странно если было бы как-то иначе , ведь эти модели и нужны для того чтобы работать с сенсорикой и моторикой. 

[Вайт]

А вы попробуйте для начала интроспекцию саму по себе объяснить , ответив на простой вопрос - зачем она вообще нужна , если и без нее все прекрасно работает ? Или нет ?

Надо начинать с того, как вообще работают нейронные сети, и далее целую кучу всего, чтобы объяснить, как получается, что субъект может себя в своей голове наблюдать, с собой говорить и себя понимать. Но я это всё уже последовательно написал в статье. Там даже есть отдельная глава, посвящённая интроспекции — «Схема мышления, интроспекция». И про «изнутри» там тоже всё написано. В постах я лучше не напишу, а время потрачу. Поэтому будут вопросы по статье, обращайтесь.

И потом я не говорил что "кто-то" сравнивает модели в голове.

Я говорил о сравнении вообще. Мозг ничего ни с чем не сравнивает. Об этом глава «Распределённый опыт и ошибочные интерпретации».

[MenFrame]

Мозг ничего ни с чем не сравнивает.

Вообще то, сравнение это и есть элементарная функция нейрона. Нейрон, сравнивает входящую сигнатуру, с сигнатурой весов синапсов, на выходе давая вес сравнения.

[-Юрий-]

Мозг ничего ни с чем не сравнивает.

Наверно самый первый примитивный мозг как раз и начал работать по принципу сравнения и и принятия решения по результатам этих сравнений. А иначе зачем он тогда нужен? Любой организм, имеющий мозг, постоянно сравнивает сигналы из окружающей среды, и иногда сравнивает их со своими внутренними сигналами и выдаёт результат. Посмотрите на охотящуюся кошку - видно, как у неё в голове идёт сильнейшая работа по выбору: пора/не пора, опасно/не опасно, надо/не надо. И результат решения зависит ещё и от жизненного опыта. У примитивных животных жизненного опыта нет из-за отсутствия памяти, но решения они принимают просто исходя из инстинктов, сравнивая их с сигналами из внешней среды. Включили свет - тараканы разбежались. Они сделали выбор. Это их примитивный мозг сделал выбор.