ИИ: какого понимания нам не хватает?

[незлой]

Сколько вам нужно элементарных операторов-кирпичиков?
Я выше их перечислил. Всего 4.

http://lurkmore.to/BrainFuck

Когда вы говорите что мозг не "вычисляет", а "взвешивает" я понимаю о чем вы говорите. Вы полагаете что аналоговые вычисления как-то ухитряются что-то вычислить то, что грубые (ступенчатые) дискретные манипуляции с символами не способны. Но это - иллюзия. Ей подвержены очень многие люди, которые физику в школе любили больше чем математику (я сам был такой). Мол дискретные манипуляции с огрубленными цифрами это всегда работа с грубыми моделями а вот лабораторная работа сфизической реальностью, дает всю полноту… ля-ля-ля.. тополя…

просто насколько мне отсюда видно, комп у нас голове до отвращения аналоговый. что до "дискретных манипуляций" -- ужели вы считаете, что мир вокруг решает задачу n тел численными методами?? что вообще этому миру до алгоритмов у нас в голове?

Еще раз. Есть только четыре оператора-кубика из которых можно получить любую сколь угодно сложную программу. Любую компьютерную игру. Собрать любой виртуальный мир.
И только одну единственную вещь этими операторами получить нельзя.  ЧИСТУЮ СЛУЧАЙНОСТЬ. Существует масса так называемых "псевдо-случайных" функций которе дают очень похожие на чистую случайность ряды 1 и 0. Но на самом деле это все-таки псевдо. Имея копию такой функции и зная ее входные данные, вы можете предсказать ее результат абсолютно точно. Математически-чистый генератор случайности математически строго непредсказуем.

в том числе и для машины, на которой этот гпсч работает?

[Прохожий]

Сколько вам нужно элементарных операторов-кирпичиков?
Я выше их перечислил. Всего 4.

http://lurkmore.to/BrainFuck

Когда вы говорите что мозг не "вычисляет", а "взвешивает" я понимаю о чем вы говорите. Вы полагаете что аналоговые вычисления как-то ухитряются что-то вычислить то, что грубые (ступенчатые) дискретные манипуляции с символами не способны. Но это - иллюзия. Ей подвержены очень многие люди, которые физику в школе любили больше чем математику (я сам был такой). Мол дискретные манипуляции с огрубленными цифрами это всегда работа с грубыми моделями а вот лабораторная работа сфизической реальностью, дает всю полноту… ля-ля-ля.. тополя…

просто насколько мне отсюда видно, комп у нас голове до отвращения аналоговый. что до "дискретных манипуляций" -- ужели вы считаете, что мир вокруг решает задачу n тел численными методами?? что вообще этому миру до алгоритмов у нас в голове?

Еще раз. Есть только четыре оператора-кубика из которых можно получить любую сколь угодно сложную программу. Любую компьютерную игру. Собрать любой виртуальный мир.
И только одну единственную вещь этими операторами получить нельзя.  ЧИСТУЮ СЛУЧАЙНОСТЬ. Существует масса так называемых "псевдо-случайных" функций которе дают очень похожие на чистую случайность ряды 1 и 0. Но на самом деле это все-таки псевдо. Имея копию такой функции и зная ее входные данные, вы можете предсказать ее результат абсолютно точно. Математически-чистый генератор случайности математически строго непредсказуем.

в том числе и для машины, на которой этот гпсч работает?

А с чего это наш комп в голове вдруг стал аналоговым? Сигналы между нейронами ---- либо есть либо нет. Причем тут аналоговость?

[ВадимZero]

А с чего это наш комп в голове вдруг стал аналоговым? Сигналы между нейронами ---- либо есть либо нет. Причем тут аналоговость?

Наверное товарисч имеет в виду что мозг не оперирует числами при решении задач.

[alex_semenov]

случайность необходимым и достаточным творческим началам нашего разума

Т.е. задача "Алиса смоделированная в виртуальном мире" не может быть поставлена?

Поставлена может. Вы имеете в виду реализована?

Ведь если в эмулируемом Зазеркалье не удастся реализовать настоящую случайность, то и разума не получится, а значит эмулируемая Алиса попросту не будет разумным существом, как, впрочем и Привратник?

Что значит "не удаться реализовать настоящую случайность"?
Если речь идет о математике и ее идеальных машинах абстракциях то настоящую случайность мы можем просто ПОСТУЛИРОВАТЬ так же как мы постулируем (объявляем) все остальные базовые понятия математики.
Это называется аксиоматический метод. И это сама суть математики.
То что "душе математика" противны некоторые аксиомы - это проблемы людей-математиков. Пифагор не хотел признавать иррациональные числа. Но это сугубо личное горе Пифагора.

А если эмулятор предоставляет эмулируемым субъектам полноценную случайность, то Алиса легко найдёт выход из положения.

Если бы мы жили и каким-то чудом подняли этот вопрос во времена Лапласа, то нас бы мучали опасения что в ФИЗИЧЕСКОЙ реальности мы не сможем построить близкую к нашей математически идеальной ВМТ (вероятностной машины Тьюринга). Но мы четко знаем что чистая случайность лежит в самой основе, фундаменте мироздания. Она порождается квантовой механикой в массе самых разных физических эффектов. Вопрос лишь в том какой использовать лучше?
Но опять же. Все рассмотренные выше игрища с Алисой и Привратником - это чистая математика. Умствования. Даже во времена Лапласа мы могли бы их проводить не стесняясь, хотя возможно и были бы вынуждены признать их нереализуемость на практике.
Математики ведь оперируют N-мерными пространствами не смотря на то что в физической реальности таковых не существует скорей всего! Во всяком случае мы не можем их экспериментально использовать.

В условиях задачи подразумевается, что Алиса эмулируется два раза - один раз для самой себя, второй раз для Привратника. Если в эмуляторе есть полноценная случайность и если случайность действительно имеет какое-то отношение к принимаемым разумом решениям, то две копии Алисы могут принять разные решения, несмотря на одинаковые начальные условия.

Совершенно верно. В этом простая  сермяжная правда  сложной проблеме. На самом деле вы можете для первой Алисы и второй Алисы использовать псевдослучайный генератор, главное чтобы он не был  встроен внутрь кода Алисы. Его задача -  разорвать порочный круг. В данном случае нужна не абсолютно-мировая случайность (это вопрос уже для всей нашей большой физической вселенной и места разума в ней), а относительная случайность (непредсказуемость) Алисы для Привратника. То есть любой псевдослучайный гернератор-программа недоступный ни Алисе ни Привратнику уже годится для решения данной задачи в данном случае.

Данная задача о Алисе и Привратнике - ерундовая задача. Я много лет назад придумал куда более тонкую и лучшую задачу. Игру Черепахи.
Вместо Привратника выступает Черепаха, задача которого предлагать такие интерактивные игры, которые ГАРАНТИРОВАНО имели бы решение. То есть существовала бы программа P, которая проходила бы данную игру (есть еще ряд эквивалентно-сторогих определений. Например, существует хотя бы одно "решение игры" - конечная цепочка в алфавите ходов игрока переводящее игру из начального состояние в одно из решений).
Ахиллес - быстрейший из программистов пишет программы, которые должны автоматически решать ЛЮБЫЕ задачи, которые может придумать Черепаха. И легко доказывается утверждение:
Для любого алгоритма Ахиллеса найдется такая задача Черепахи, которая не решается данным алгоритмом Ахилла (игра зацикливается) но существует алгоритм, который решает данную задачу (игра в паре с ним останавливается).
И доказывается это утверждение уныло просто. Пускай у вас есть алгоритм Ахилла А. Вы строите того самого привратника, который предсказывает поведение А и "откроет решение" только если А поступит не так как поступает А.
Если А будет вероятностной машиной ситуация разрушается. Более того. Навешивая на игру ряд рамок (введение нефатальности и т.д.) можно показать что тупой случайный автомат без памяти (случайно выбирающий любую букву в алфавите ходов) пройдет любую игру черепахи за конечное число ходов.
В чем парадоксальность ситуации?
Любая игра Черепахи обязана иметь детерминированное решение (иначе она незаконная, нечестная). То есть случайный автомат проходит за конечное число ходов только такую игру, для которой существует и детерминированный метод решения. Но случайный автомат у нас ОДИН И ТОТ ЖЕ, а детерминированные решатели - разные.
В этом различие.
Если вы выстроите БЕСКОНЕЧНЫЙ РЯД таких законных игр от Черепахи (любой конечный ряд решается детерминированным алгоритмом, который содержит набор решателей для каждой задачи), то не существует детерминированного автомата, который бы за бесконечное число шагов прошел бы весь бесконечный ряд. Однажды он бы наткнулся на Привратника и навеки на нем застрял. Но случайный "дурак" проходит эту бесконечность насквозь. Привратники ему нипочем.
"Пока умный разувался дурак реку перешел".
Вот почему я вцепился в трансфинитные задачи. Решение проблемы ИИ лежит в той области теории алгоритмов, которую мы еще не построили, до которой не расширили стандартную теорию алгоритмов. Мы слишком узко понимаем понятие "вычислимость", считая вычислимыми только вычисления, происходящие за конечное число шагов. И не можем понять отличие ДМТ от ВМТ. Не понимаем чем же эволюция КАЧЕСТВЕННО лучше любой регулярной логики.
Поэтому мы и ходим кругами и никак ее не можем укусить (не то что раскусить) проблему. И так будет, сдается мне, еще очень долго.

[незлой]

А с чего это наш комп в голове вдруг стал аналоговым? Сигналы между нейронами ---- либо есть либо нет. Причем тут аналоговость?

пороги срабатывания плавают, если правильно помню, т.е. аналоговые даже чисто по "железу".
но и следующий вопрос: а возможен ли аналоговый комп на дискретных элементах?

[незлой]

Наверное товарисч имеет в виду что мозг не оперирует числами при решении задач.

сознание -- оперирует. сначала долго этому учится, правда.
но в ситуации решения стандартной задачи "напасть или убежать" обычно не до этих изысков.

[alex_semenov]

А с чего это наш комп в голове вдруг стал аналоговым? Сигналы между нейронами ---- либо есть либо нет. Причем тут аналоговость?

Наверное товарисч имеет в виду что мозг не оперирует числами при решении задач.

Спор о том есть ли "неонка" (аналоговые вычисления) в нашем "Ременгтоне" (внешне вроде как лингвистической машине) - старый и пока что безнадежный.
(АБС "Сказка о тройке")
Мозг собирался эволюцией крайне похабно.
Ремонтопригодность и изучаемость у него даже не нулевая. Отрицательная. И понимать как на самом деле эта штука устроена - сложно.
Но! Если мы начнем справа собирать аргументы в пользу того, что мозг цифровая машина, а слева аргументы в пользу того что он аналоговый вычислитель, то правая сторона НА ПОРЯДКИ перевесит левую.
Так что не надо лохматить бабушку.
Надо понимать что тема ИИ В ПОСЛЕДНЕЕ ВРЕМЯ крайне ангажирована дураками-мракобесами. Когда я начинал этой темой интересоваться (25 лет назад!) о ИИ и нервной системе человека писали только "академики". То есть добросовестные честные исследователи с научным мирровозрением. Теперь же в эту тему набежала масса заинтересованных профанов. Заинтересованных в том что бы ИИ был нереализуем по крайней мере как можно дольше. Они выхватывают и претенциозно интерпретируют факты. И к сожалению этому мракобесию постепенно удается отвоевать место под солнцем. Они много и умно говорят, но на поверку оказывается они даже не знают что НДМТ эквивалента ДМТ. Зато они "чувствуют" квантовую природу своего сознания и не сомневаются в аналоговой природе своего ума.

[незлой]

Мозг собирался эволюцией крайне похабно.
Ремонтопригодность и изучаемость у него даже не нулевая. Отрицательная. И понимать как на самом деле эта штука устроена - сложно.

факт.
больше того -- мы пытаемся разобраться в этой мешанине, "сидя" в самой её сердцевинке, у нас даже нет возможности посмотреть на это безобразие со стороны.

[alex_semenov]

Наверное товарисч имеет в виду что мозг не оперирует числами при решении задач.

сознание -- оперирует. сначала долго этому учится, правда.
но в ситуации решения стандартной задачи "напасть или убежать" обычно не до этих изысков.

Как вы можете изнутри себя судить о том как работает ваше сознание?
Как вы можете верить своим внутренним ощущениям, если вы даже не можете верить своим глазам!
Например:



Клетки А и B имеют совершенно одинаковый цвет. И причина иллюзии находится в самой конструкции сетчатки глаза. Кстати, сугубо дискретного вычислителя. Дискретен ли наш мозг - можно спорить. Но спорить с тем что наш глаз дискретный преобразователь будет только отпетый невежда.

[ВадимZero]

Заинтересованных в том что бы ИИ был нереализуем по крайней мере как можно дольше.

Вот у меня уверенностьв том что даже академики ведут себя так же. Выше я писал, люди избегают конкретики. Пытаються измерить абстрактного коня в вакуме. Пытаються своим крохотным пониманием охватить весь разум целиком. На лицо бессознательный страх повредить своим прикосновением КОРОНУ именуемую "РАЗУМ" А веть конкретика сдесь рядом. Учитель обьясняет ребенку как складывать числа, наделяя тем самым его психику частичкой разума. Мы же можем вскрыть алгоритмию этого разумного действия? Можем..А почему не хотим? Да потому что эта частичка разума выглядит блекло, и не оправдывает наше восхищение. А веть разум и состоит из таких маленьких частичек. Мой опыт вскрытия алгоритми своих собственных разумных действий, показывает что они просты в плане понимания...И как следствие перестают быть чем то волшебным.

[alex_semenov]

Мозг собирался эволюцией крайне похабно.
Ремонтопригодность и изучаемость у него даже не нулевая. Отрицательная. И понимать как на самом деле эта штука устроена - сложно.

факт.
больше того -- мы пытаемся разобраться в этой мешанине, "сидя" в самой её сердцевинке, у нас даже нет возможности посмотреть на это безобразие со стороны.

Почему же нет? Был и  есть! И нейрофизиология последее десятилетие развивается семимильными шагами! Я бы сказал даже круче генетики!
Интроспективные наблюдения (сидя внутри) просто не должны приниматься за чистую монету. Но они очень даже прекрасное подспорье к чисто научному принципу "внешнего наблюдения".

[незлой]

Как вы можете изнутри себя судить о том как работает ваше сознание?

нуда. об чём и речь, собственно

Но спорить с тем что наш глаз дискретный преобразователь будет только отпетый невежда.

вы раздражены? по моему вы спорите с самим собой.
зы: в любом случае сигналы от глаза мы получаем опосредовано, после серъёзной обработки этих сигналов. т.е. доступа к собственным глазам у нас тоже, по сути, нет, только к картинке которая получилась после цепи преобразований, алгоритмы которых -- тёмный лес. несмотря на достижения нейрофизиологии.

[Прохожий]

Как вы можете изнутри себя судить о том как работает ваше сознание?

нуда. об чём и речь, собственно

Но спорить с тем что наш глаз дискретный преобразователь будет только отпетый невежда.

вы раздражены? по моему вы спорите с самим собой.
зы: в любом случае сигналы от глаза мы получаем опосредовано, после серъёзной обработки этих сигналов. т.е. доступа к собственным глазам у нас тоже, по сути, нет, только к картинке которая получилась после цепи преобразований, алгоритмы которых -- тёмный лес. несмотря на достижения нейрофизиологии.

Ну, раз этот механизм позволяет существам самых разных типов вполне комфортно существовать, значит эта картинка в целом достаточно точно отражает реальность.....

[незлой]

Ну, раз этот механизм позволяет существам самых разных типов вполне комфортно существовать, значит эта картинка в целом достаточно точно отражает реальность.....

достаточно точно для выживания, других задач не стояло. задачу об адекватности картинки окружающему миру мы сами поставили, и у семёнова выше есть неплохой пример прямой неадекватности "картинки". 

[alex_semenov]

вы раздражены?

Немного. Но не принимайте близко к сердцу.

по моему вы спорите с самим собой.

Каждый умный человек спорит ПРЕЖДЕ ВСЕГО с самим собой.

зы: в любом случае сигналы от глаза мы получаем опосредовано, после серъёзной обработки этих сигналов. т.е. доступа к собственным глазам у нас тоже, по сути, нет, только к картинке которая получилась после цепи преобразований, алгоритмы которых -- тёмный лес. несмотря на достижения нейрофизиологии.

Сразу возникает вопрос "мы" это кто? Гомункулус внутри нас?
Не Пенфилда ли часом?



Вообще говоря глаз - это часть мозга вынесенная на периферию. То есть от части мы думаем уже даже сетчаткой. У лягушки глаз вообще принимает решения о рефлекторных действиях. Мы сложней. И тем не менее если что-то движется на краю сетчатки мы непроизвольно туда поворачиваем глазную ямку.

О достижениях нейрофизиологии и понимании что происходит в стриарной (зрительной) коре. Вы явно не в курсе. Механизм нейро-лигнвистического разложения зрительного сигнала для нас достаточно хорошо понятен. Что происходить в отдельных частях мозга мы понимаем достаточно глубоко. Изображение по сути превращается в текст. Сетчатка поставляет поток букв, которые складываются в слога, слога в слова, слова в словосочетания словосочетания в предложения, предложения в рассказы…
Кстати так обрабатывается ЛЮБАЯ  входящая информация. Звух, сенсорика, запахи…
Нам просто не ясно что происходит с этим дальше. Ясно что тут все очень сильно распараллеливается. Ясно что мозг в основном машина бессознательная. Но механизм сознания, его локализация  как раз сейчас является вопросом номер один для нейрофизиологов.
Я тут уже говорил. Главная проблема ну нас вот в чем. У нас нет иерархии объясняющих мозг теорий. И нет самой верхней, чисто математической, которая бы на самом абстрактном уровне убедительно объясняла нам что же такое разум вообще. Как отличить его от неразума. Тогда понять конкретный разум человека будет если не просто то вполне постижимо.

[незлой]

Сразу возникает вопрос "мы" это кто? Гомункулус внутри нас?

наша "лингвистическая часть", балтавня в голове: по большей части "мы" это эта самая балтавня и есть.

О достижениях нейрофизиологии и понимании что происходит в стриарной (зрительной) коре. Вы явно не в курсе. Механизм нейро-лигнвистического разложения зрительного сигнала для нас достаточно хорошо понятен. Что происходить в отдельных частях мозга мы понимаем достаточно глубоко. Изображение по сути превращается в текст. Сетчатка поставляет поток букв, которые складываются в слога, слога в слова, слова в словосочетания словосочетания в предложения, предложения в рассказы

ок.
только сознание (та самая "лингвистическая обработка") даже решения принимает в паре процентов случаев, в основном-же обосновывает себе-же решения уже принятые безо всякой лингвистики этажом ниже.
вас раздражают профаны в ии, мне же удивительно, насколько непрофаны пренебрегают психологией. вы что пытаетесь смоделировать, свои модели?

[alex_semenov]

Вот у меня уверенностьв том что даже академики ведут себя так же.

Они тоже люди.

Выше я писал, люди избегают конкретики. Пытаються измерить абстрактного коня в вакуме. Пытаються своим крохотным пониманием охватить весь разум целиком.

А как вы еще можете охватить целяком такое огромное опнятие как разум?
Только абстрагировавшись максимально возможным образом.
То есть математизировав проблему до предела.
По другому - никак.
Медитацией, созерцанием пупка, усилием духовных сил - простите это в другой палате.

На лицо бессознательный страх повредить своим прикосновением КОРОНУ именуемую "РАЗУМ"

Не знаю. Сильный ИИ объявил что разум это программа. То есть цепочка букв в некотором алфавите. Я сам принял по-началу эту идею и не сильно от нее отошел до сих про. Какая тут "корона"? Напротив уничижение себя до ленты в дырочках!

А веть конкретика сдесь рядом. Учитель обьясняет ребенку как складывать числа, наделяя тем самым его психику частичкой разума. Мы же можем вскрыть алгоритмию этого разумного действия? Можем..А почему не хотим? Да потому что эта частичка разума выглядит блекло, и не оправдывает наше восхищение. А веть разум и состоит из таких маленьких частичек. Мой опыт вскрытия алгоритми своих собственных разумных действий, показывает что они просты в плане понимания...И как следствие перестают быть чем то волшебным.

Вы знаете, вы мне напоминаете меня много лет назад. Я тогда как раз всем своим нутром понял, осознал, что я буквально соткан из относительно простых программ. И если бы не наткнулся на одну замечательную проблему, при решении которой я ухватил, что нужно использовать случайность, иначе ничего не получится, то наверное до сих пор так и думал бы. В русле строго ортодоксального сильного ИИ.
Поймите.
Мы не можем эклектично склеить разум из правдоподобных (в чем-то изоморфных нашим) механизмов. Мы должны понимать всю идею разума от начала до конца. От математики (той же гипотезы Тьюринга) до отдельного нейрона.

[незлой]

А как вы еще можете охватить целяком такое огромное опнятие как разум?
Только абстрагировавшись максимально возможным образом.
То есть математизировав проблему до предела.
По другому - никак.

[...]

Поймите.
Мы не можем эклектично склеить разум из правдоподобных (в чем-то изоморфных нашим) механизмов. Мы должны понимать всю идею разума от начала до конца. От математики (той же гипотезы Тьюринга) до отдельного нейрона.

забавно. вы сами не видите противоречия?

[alex_semenov]

ок.
только сознание (та самая "лингвистическая обработка") даже решения принимает в паре процентов случаев, в основном-же обосновывает себе-же решения уже принятые безо всякой лингвистики этажом ниже.

Насколько я понял, вы хотите сказать что 98% работы мозга - это бессознательные процессы? Конечно! Сознание - это очень специфический сервис. Своего рода "командирская башенка" на башне танка. Ходит сама по себе и поворачивается туда, куда сейчас важней всего. Но вся махина тоже дышит, работает, живет и часто именно она и кричит: "командир, смотри на право!"
Но. Суть в чем. Что и бессознательные процессы мозга пользуется "речью". То что мы называем человеческой речью это всего лишь одна из внутренних речей мозга, которая через голосовые связки "вырвалась наружу". Но она - крайнем ограниченная часть всех речей мозга.

вас раздражают профаны в ии, мне же удивительно, насколько непрофаны пренебрегают психологией. вы что пытаетесь смоделировать, свои модели?

Я пытаюсь подступиться к построению самой общей теории разума вытекающей из самых абстрактных моделей математики, теории алгоритмов. Без вникания в детали того как наш конкретный разум реализован. Кстати, мало кто пытается это делать. А зря. Без этого никак нельзя двигаться дальше. Никто в одинокру не разберется в работе разума от начала до конца. Значит надо выбирать себе участок брать больше и кидать дальше. Разумеется оглядываясь по сторонам и видя кто как копает еще. Понимая общий замысел.

[alex_semenov]

забавно. вы сами не видите противоречия?

Нет не вижу.
Уточните где противоречие.