ИИ: какого понимания нам не хватает?

[незлой]

Вот в IBM кажеться "ватсона" придумали...Компьютер способный делать, сложный неконкретный похиск в большой базе данных. Многие интуитивно, воспринимают его как еще один шаг в сторону ИИ. По мне так, Ватсон близок к тому что бы назвать его Бессознательным ИИ..осталось Создть сознательное ИИ которое сможет аперировать языком, формируя запросы для бессознательного ИИ.

если честно -- мне тоже кажется, что гдето здесь: имхо "сознание" есть "Я" плюс словодробилка. при этом "Я" может быть очень простым (датчик, таймер, регистр для хранения значения датчика в предыдущий такт времени, компаратор этого значения с текущим, всё) или вообще "псевдо" -- "снаружи" понять это будет проблемно, если вообще возможно в принципе (мне кажется -- нет).

[vika vorobyeva]

[краснеет] "разум" как процесс эволюции мемов придумали достаточно давно

Да нет же! Я не это имела в виду.
А то, что разум оказывается как бы посередине между абсолютно случайным алгоритмом - бесконечной обезьяной, библиотекой Борхеса - который может найти любое решение, но при этом невероятно медленный и затратный - и любым готовым алгоритмом, который считает очень быстро, но неизбежно узок и ограничен.
Вообще, очень ёмкое и говорящее высказывание получилось, во всяком случае, для меня

[Patsak]

Patsak:
Я бы сформулировал так: тезис Черча-Тьюринга ошибочен.

alex_semenov:
Заманчиво…
Но я бы поостерегся.
Я бы сказал так. Он У_З_О_К…. Если мы говорим о задачах решение которых требует конечного числа шагов то он совершенно справедлив. Но на бесконечности…
Когда задача "слишком массовая".
Нет. Проблема Остановки была есть и будет неразрешимой. Но есть ряд тонких различий.

Проблема остановки тут не причем.
Тезис говорит, что не существует чего-то такого, что интуитивно представляется алгоритмом, но не является реализуемым на машине Тьюринга. Или так, не существует такой вычислимой, в интуитивном смысле функции, которую нельзя реализовать на машине Тьюринга.

Patsak:
Хотя это касается только «чистых» машин, не использующих, результаты своих вычислений, как команды.

alex_semenov:
Гм… Насколько мне известно все хитрые попытки усовершенствовать универсальную Манину Тьюринга являются чисто косметическими. Суть остается та же. Используй не используй - получаются те же яйца только в профиль.

Речь идет о построении минимальной универсальной машины, при этом «универсальность», как класс эквивалентности машин, в данном примере не затрагивается.
Если использовать результаты вычислений машины с n состояниями, как ее собственные команды, можно улучшить достигнутый результат (4,7).
Минимизация числа состояний представляет интерес хотя бы потому, потому, что некоторые функции, определенные через машины Тьюринга с n состояниями, являются вычислимыми, в интуитивном смысле, но могут оказаться не реализуемыми на машине Тьюринга именно из-за наличия универсальной машины с n состояниями.
Например, функция Busy beaver.

Patsak:
Последние машины, на сколько мне известно, не исследовались, а именно в этом и может быть спрятана одна из тайн смысла (содержания, семантики).

alex_semenov:
Нет недумаю. Вы явно заблуждаетесь.
Машина Тьюринга - предельная машина. Мощнее ничего нет.

Опять таки, единственность класса эквивалентности универсальных машин в данном примере не затрагивается.
Я сказал всего - лишь о причинах появления содержания в формальном тексте. Содержание формального утверждения не может быть предметом теории. В лучшем случае это предмет метатеории.
Когда машина работает, можно уловить закономерности преобразования строк на лене, на разных уровнях общности.
Один уровень закономерностей описывается в теории, другой в метатеории.
При наложении разных уровней друг на друга, например, когда машина начинает использовать данные полученные в результате вычислений, как новые команды, результаты ее работы становятся принципиально непредсказуемыми. Она демонстрирует стохастическое поведение, наподобие того о чем говорил PathFinder. Такое состояние может быть использовано как та самая функция чистой случайности, которую вы ищите.

alex_semenov:
А у вас получается что-то типа надежды руководства завода. Машина Тьюринга предельно мощна но есть машины помощнее…Я думаете почему за случайность ухватился? Потому что это ПОСЛЕДНИЙ резерв. И то проявляется он крайне специфически. В случае математически нелегитимных бесконечных вычислений.

Есть, например, гипотеза континуума.
Сначала все считали, что она верна, потом доказали ее независимость.
Теперь в одной теории промежуточных мощностей нет, а в другой они есть.
Точно также может быть в теории алгоритмов. Пока имеет место лишь одна теория, где Тезис Черча-Тьюринга верен и руководству завода надеяться не на что. Это не значит, что в один прекрасный момент будет доказана его независимость. Тогда понятие универсальности будет размыто. Универсальные машины будут разбиты на классы эквивалентности, например, по «чистоте» использования/неиспользования результатов собственных вычислений, как команд, числу состояний и т.д. Так же, как и уровни сознания.

vika vorobyeva
А то, что разум оказывается как бы посередине между абсолютно случайным алгоритмом - бесконечной обезьяной, библиотекой Борхеса - который может найти любое решение, но при этом невероятно медленный и затратный - и любым готовым алгоритмом, который считает очень быстро, но неизбежно узок и ограничен.

+1

[PathFinder]

Вообще, мне кажется, что разум нужно искать не в случайном поведении (случайное поведение иногда необходио но всё же выполняет служебную функцию), а в способности к ассоциированию.

Стоп. Давайте не путать сознание, понимание с разумом. Сознание и понимание - это процессы в мозгу. Но разум - это эпифеномен. Явление которое мы определяем по результату. По разумному поведению. По прохождению теста на сообразительность.
Разум результат слаженной работа всех элементов…

И опыт - сын ошибок трудный
И гений- парадоксов друг
И случай - бог, изобретатель…

Выкидывать последнюю строчку … не стоило! (кто старый - знает эту историю)
Но и любую другую - тоже.

Я имел ввиду не разум, а интеллект. Допустил некоторую некорректность. Не надо придираться к словам.

Если кто-то не вполне понимает, что подразумевается под ассоциированием, поясню.
Ассоциирование - это поиск объекта (объектов) в памяти по некоторому признаку этих объектов, а не по адресу ячейки памяти в которой (ячейке) расположен объект. Например, поиск всех предложений, содержащих определённое слово.

Я думаю что это слишком примитивный пример.
Наше сознание может искать не просто слово. Оно может искать изоморфизмы. Строить смысловые мосты между не похожими по форме но очень похожие по смыслу, то есть по структуре языковыми конструкциями.
Особенно плодотворно он это делает тогда, когда не занят никакими внешними проблемами. Мозг работает на автопилоте. Мир вокруг предсказуем по упреждению. Ничто вас не отвлекает и вы ширитесь по воспоминаниям. Наводите порядки.
Кстати, люди привыкшие так работать часть бывают очень рассеянными в реальной жизни. И это понятно.

Это и был именно примитивный пример для тех кто не в курсе термина "ассоциирование". Если таковые читают эту тему. Для внесения полной ясности.
Естественно, ассоциирование может выполняться по любым сколь угодно сложным признакам, а не только по словам.

[PathFinder]

alex_semenov:
А у вас получается что-то типа надежды руководства завода. Машина Тьюринга предельно мощна но есть машины помощнее…Я думаете почему за случайность ухватился? Потому что это ПОСЛЕДНИЙ резерв. И то проявляется он крайне специфически. В случае математически нелегитимных бесконечных вычислений.

Есть, например, гипотеза континуума.
Сначала все считали, что она верна, потом доказали ее независимость.
Теперь в одной теории промежуточных мощностей нет, а в другой они есть.
Точно также может быть в теории алгоритмов. Пока имеет место лишь одна теория, где Тезис Черча-Тьюринга верен и руководству завода надеяться не на что. Это не значит, что в один прекрасный момент будет доказана его независимость. Тогда понятие универсальности будет размыто. Универсальные машины будут разбиты на классы эквивалентности, например, по «чистоте» использования/неиспользования результатов собственных вычислений, как команд, числу состояний и т.д. Так же, как и уровни сознания.

Вот цитата по поводу гипотезы континуума.
Взята отсюда: http://www.mccme.ru/mmmf-lectures/books/books/books.php?book=2&page=2.

Континуум-гипотеза

Теперь мы располагаем всеми необходимыми сведениями для того, чтобы сформулировать знаменитую первую проблему Гильберта:

Континуум-гипотеза.С точностью до эквивалентности, существуют только два типа бесконечных числовых множеств: счетное множество и континуум.

Иначе говоря, нужно установить, существует ли множество промежуточной мощности...

Этой проблемой занимались очень многие математики. Сам Георг Кантор неоднократно заявлял, что доказал эту гипотезу, но всякий раз находил у себя ошибку.

О доказательствах в математике

Математика --- точная наука, требующая строгости рассуждений. Но что означает строго доказать какое-либо утверждение? Это означает вывести его из аксиом --- исходных положений, принимаемых без доказательства.

Конечно, в выборе аксиом, которые закладываются в основу теории, есть некоторый произвол. Но обычно аксиомы возникают естественным путем, из познания действительности. В теории множеств, частью которой являются конструкции, описанные в предыдущих разделах, тоже имеется общепризнанная система аксиом Цермело---Френкеля.

Доказать континуум-гипотезу --- значит, вывести ее из этих аксиом. Опровергнуть ее --- значит, показать, что если ее добавить к этой системе аксиом, то получится противоречивый набор утверждений.

Решение проблемы   

               --- Г-голубчики, --- сказал Федор Симеонович озадаченно... --- Это же проблема Бен Б-бецалеля. К-калиостро же доказал, что она н-не имеет р-решения.
               --- Мы сами знаем, что она не имеет решения, --- сказал Хунта, немедленно ощетиниваясь. --- Мы хотим знать, как ее решать.
               --- К-как-то ты странно рассуждаешь, К-кристо... К-как же искать решение, к-когда его нет? Б-бессмыслица какая-то...
               --- Извини, Теодор, но это ты очень странно рассуждаешь. Бессмыслица --- искать решение, если оно и так есть. Речь идет о том, как поступать с задачей, которая решения не имеет. Это глубоко принципиальный вопрос...
               А. Стругацкий , Б. Стругацкий.
               Понедельник начинается в субботу



Оказалось, что первая проблема Гильберта имеет совершенно неожиданное решение.

В 1963 году американский математик Паул Коэн доказал, что континуум-гипотезу нельзя ни доказать, ни опровергнуть.

Это означает, что если взять стандартную систему аксиом Цермело---Френкеля (ZF) и добавить к ней континуум-гипотезу в качестве еще одной аксиомы, то получится непротиворечивая система утверждений. Но если к ZF добавить отрицание континуум-гипотезы (т. е. противоположное утверждение), то вновь получится непротиворечивая система утверждений.

Таким образом, ни континуум-гипотезу, ни ее отрицание нельзя вывести из стандартной системы аксиом.

Этот вывод произвел очень сильный эффект и даже отразился в литературе (см. эпиграф).

Как же поступать с этой гипотезой? Обычно ее просто присоединяют к системе аксиом Цермело---Френкеля. Но каждый раз, когда что-либо доказывают, опираясь на континуум-гипотезу, обязательно указывают, что она была использована при доказательстве.

Вот так! Ни доказать ни опровергнуть. Каждый решает для себя сам.
Поэтому бесполезно спорить существует ли автомат "немного более мощный", чем Машина Тьюринга. Или существуют ли задачи "слишком массовые" для Машины Тьюринга и просто "массовые" для человека.

Получается, что в математике есть место и волюнтаризму!

[Ssid]

Получается, что в математике есть место и волюнтаризму!

в математике нет
абсолютно все равно, кто рассчитал, что 2X2=4 - человек, компьютер или искусственный интеллект - от этого 4 в 5 не превратиться
а вот при оценке критериев разума, разумности, интеллекта....
 

[alex_semenov]

Вот так! Ни доказать ни опровергнуть. Каждый решает для себя сам.
Поэтому бесполезно спорить существует ли автомат "немного более мощный", чем Машина Тьюринга. Или существуют ли задачи "слишком массовые" для Машины Тьюринга и просто "массовые" для человека.
Получается, что в математике есть место и волюнтаризму!

Это одна из интерпретаций результата Геделя. Один из сторонников этого взгляда, насколько я понимаю, вот:

http://podnieks.id.lv/gt_rus/gram11.htm

С их точки зрения получается, что "есть место".
Количество пар близнецов может быть ни конечным ни бесконечным. Это вообще "глупый вопрос". Этакий позитивизм в математике.
Но (надо сделать важную поправку) это возникает только в случаях рассуждений о бесконечностях, которые можно получить только умствованием в рамках некоторых теорий. Нельзя проверить на практике (за конечное число шагов).
Ведь в чем результать революции Геделя?
Если есть утверждение G которое недоказуемо в рамках данной теории значит недоказуема его противоположность не-G. И G и не-G не выводимо в рамках этой теории. Значит ЛЮБОЕ вы можете принять за аксиому и можете получить ДВЕ взаимо-исключающих теорий-расширения старой.
И обе будут "истинными".
То есть. У математики есть незыблемое ядро. Но начиная с некоторого уровня абстракции (достаточно богатой формальной системы) оно дает бесконечное множество разных математик. В одной континнум-гипотера верна в другой нет.

Платонистически мыслящие математики В КОРНЕ НЕ СОГЛАСНЫ с такой трактовкой результата Геделя. Они говорят что все-таки одно из утверждений истинно. И что теорема Геделя всего лишь показала что "истинность" в математике понятие более глубокое чем "доказуемость". Они ссылаются при этом на теорему Тарского.

По поводу "слишком массовых" задач. Да. Здесь мы тоже сталкиваемся с проблемой НЕДОКАЗУЕМОСТИ той или иной позиции. Я во всяком случае столкнулся.
Может ли машина (имеется в виду некая версия машины Тьюринга) мыслить или нет - НАВСЕГДА останется предметом веры.

Одно время меня эта мысль забавляла. Искушала мистическими ассоциациями как святого Антония.



Согласно моим убеждениям создание полноценно мыслящего ИИ людьми будет тем самым "концом света" по Панову. Не социальным концом (по Переслегину) а именно концом планетарного цикла развития материи вообще. Не только нашего вида. Вообще ключевым шагом материи во вселенной (есть ли шанс для такого шага еще где-то мы не знаем).
И переступить через этот Рубикон можно только "по личной вере", "выбрав серцем".  Никаких доказательств "от бога" не предвидится. Вы должны сами поверить что вот эта машина действительна мыслит. Или остаться при святой вере что никакая машина не может мыслить так как вы.
И упаси бог вам ошибиться в выборе!
 
 
Тех кто сделает правильный выбор будет меньшинство. Но главное чтобы не они нашлись. (черт попутал? )
Прям по Иоанну Богослову!


"Всесилен ли бог? Если он всесилен, может ли он создать камень, который не может сдвинуть?" Может (говорил Бердяев хотя религиозников не люблю). Это и есть человек.
Увы!
Но это один из результатов развития математики в XX веке.

[alex_semenov]

Получается, что в математике есть место и волюнтаризму!

в математике нет
абсолютно все равно, кто рассчитал, что 2X2=4 - человек, компьютер или искусственный интеллект - от этого 4 в 5 не превратиться
а вот при оценке критериев разума, разумности, интеллекта....

Смотря какой математики. Есть "ядро" математики. Арифметика Пеано в теории чисел. Она и дает 2X2=4, что иситно в любом расширении математики. Но если формальная система "достаточно богата" то есть позволяет интерпретировать себя на себя (позволяет самоссылки в духе Геделя) с подобными богатыми системами начинается катовасяи.

Но суть в чем? В том что для объективной реальности это никакой роли не играет.
Считается что не играет.

Кстати. Это еще один аргумент ЛУКЕ против его идеи что математика это часть физики. Нет. Математики куда ШИРЕ физики. Намного шире. Она сама по себе.

[Patsak]

Количество пар близнецов может быть ни конечным ни бесконечным. Это вообще "глупый вопрос". Этакий позитивизм в математике.
Но (надо сделать важную поправку) это возникает только в случаях рассуждений о бесконечностях, которые можно получить только умствованием в рамках некоторых теорий. Нельзя проверить на практике (за конечное число шагов).

Понятие бесконечности, кстати, не монополия стандартной теории множеств. Бесконечность, это когда элементов множества неопределенно много, но причины этого феномена могут быть разными.
В стандартном смысле, мы уверены, в своих возможностях различить любые элементы между собой, мы перебираем и перебираем их и никогда не переберем, это одно понимание.
С другой стороны, нет причин быть настолько уверенными в своих способностях различить все элементы в некоторых множествах, хотя бы потому, что описание элементов не может быть полным.
Тогда причина "бесконечности" множества в том, что мы перебираем некоторые элементы вновь и вновь, т.е. ходим по кругу, не замечая этого.
Вот, например, отрывок из книги П.Вопенка "Математика в альтернативной теории множеств". Москва "Мир" 1983.

[alex_semenov]

Проблема остановки тут не причем.

Да, конечно. Это я так. Три раза плюнул через плечо. На всякий случай.

Тезис говорит, что не существует чего-то такого, что интуитивно представляется алгоритмом, но не является реализуемым на машине Тьюринга. Или так, не существует такой вычислимой, в интуитивном смысле функции, которую нельзя реализовать на машине Тьюринга.

Совершенно верно. Поэтому пытаться улучшить машину Тьюринга какими то ухищрениями бессмысленно.
Вы, насколько я вас понимаю, находитесь в плену одного из распространенных заблуждений (извините за такое резкое определение), что если машину Тьюринга заставить менять свою программу, то она сможет что-то что не может простая машина у которой программа фиксирована раз и на всегда. Я одно время тоже был в плену этой иллюзии. Очень многие через нее проходят.
Более простая версия этого же интуитивно очевидного заблуждения но более распространенная (но вы можете быть  уверены что это не ваш случай).  Если программу писать так, что она сможет самообучаться, то она сможет что-то что не умеет жестко запрограммированная машина.

Если использовать результаты вычислений машины с n состояниями, как ее собственные команды, можно улучшить достигнутый результат (4,7).
Минимизация числа состояний представляет интерес хотя бы потому, потому, что некоторые функции, определенные через машины Тьюринга с n состояниями, являются вычислимыми, в интуитивном смысле, но могут оказаться не реализуемыми на машине Тьюринга именно из-за наличия универсальной машины с n состояниями.
Например, функция Busy beaver.

Если Busy beaver  можно реализовать на какой-то волшебной версии машины Тьюринга то это ОДНОЗНАЧНО означает что Проблема Остановки для этой чудо-машины ПРЕОДОЛИМА. То есть, я не зря все-таки выше плевал через плечо! Вы все же норовите вызвать "черта"!
Нет нет и нет! Ваш "прием" НИКОГДА не позволить это сделать. Точка. И не надейтесь!

Опять таки, единственность класса эквивалентности универсальных машин в данном примере не затрагивается.

Как же не затрагивается когда вы обещаете решить проблему Busy beaver?!

Я сказал всего - лишь о причинах появления содержания в формальном тексте. Содержание формального утверждения не может быть предметом теории. В лучшем случае это предмет метатеории.

Но есть возможность замкнуть теорию на саму себя. То есть ИНТЕРПРЕТИРОВАТЬ теорию внутри самой себя. Что, собственно, Гедель и сделал. И, кстати, классическая машина Тьюринга это и умеет делать. Поэтому она такая ПРЕДЕЛЬНО мощная.
То есть, как я понимаю, вы пытаетесь масло сделать еще масляннее.

Когда машина работает, можно уловить закономерности преобразования строк на лене, на разных уровнях общности.

Да, но это должна делать какая то машина? За работой машины А наблюдает машина А1.
И обе машины могут быть эмулированы на некой реальной машине А0. То есть есть машина А0 с операндами на ленте [А,А1]. Все вернулось на круги своя.

Один уровень закономерностей описывается в теории, другой в метатеории.
При наложении разных уровней друг на друга, например, когда машина начинает использовать данные полученные в результате вычислений, как новые команды, результаты ее работы становятся принципиально непредсказуемыми.

И машина "вылетает".
Есть много разных способов определить машину Тьюринга. Среди них есть такие, которые позволяют машинам не только останавливаться в терминальном состоянии или работать вечно но и вылетать. Это случается в тех случаях, когда на очередном шаге машина переходит в такую ситуацию (символ на ленте X внутренне состояние машины) переход из которого в программе не предусмотрен. Все машина "вылетела". Это эквивалентно "данный вход для данной машины невычислим". То есть эквивалентно зацикливанию.

Она демонстрирует стохастическое поведение, наподобие того о чем говорил PathFinder. Такое состояние может быть использовано как та самая функция чистой случайности, которую вы ищите.

Скорей всего так и получится. Но я не понимаю чего интересного в таком ходе.
Насколько я понимаю вы хотите дать машине менять свою же собственную программу. То есть не только менять символы на ленте но и перестравивать таблицу переходов.
При этом никакой программы перестройки (с фиксированной таблицей. Мета-программы) не предполагается.
Допустим. Вы добились успеха. И? Подумайте. Эта машина имеет некое совсершенно ясное и четкое описание. И значит  такую машину можно  построить не физически а… эмулировать на универсальной машине. По-моему вполне. Значит?
Ваш нарисованный дракон так и не вырвался из плоскости рисунка.



У Хофштадтера в "Геледь, Эшер, Бах…" есть глава с замечательными рассуждениями на этот счет.

Есть, например, гипотеза континуума.
Сначала все считали, что она верна, потом доказали ее независимость.
Теперь в одной теории промежуточных мощностей нет, а в другой они есть.
Точно также может быть в теории алгоритмов.

Может.

Пока имеет место лишь одна теория, где Тезис Черча-Тьюринга верен и руководству завода надеяться не на что. Это не значит, что в один прекрасный момент будет доказана его независимость.

Совершенно верно. Именно это я и пытаюсь сделать вводя трансфинитые вычисления и показывая неэквивалентность детерминированной и вероятностной машины Тьюринга при таком расширении понятия "алгоритм".
Но ваш ход, дать машине самой менять свою программу -  слишком слаб для этого. Все равно вы должны задать НЕЗЫБЛЕМЫЕ правила по которым вы будете менять вашу программу. Вы конечно можете как-то сделать так что сама программа меняет и незыблемые правила. Но это будет иллюзией, что вы избавились от незыблимых правил. Вы все равно непроизвольно зададите незыблемые правила изменений "незыблимых правил". И скорей всего ваша программа быстро "сойдет с ума", "вылетит". Ничего интересного вы не получите.
Почему я так в этом уверен?
Ваша машина (система) будет ОДНОЗНАЧНО задана своим устройством и начальным словом на ленте. Вы запускаете машину и она выдает некое подобие хаоса. Тот самый "детерминированный хаос" что так любят синергетики.
Но вы получили ничто иное как псевдо-случайный генератор случайности. А значит существует машина Тьюринга, которая дает точно такой же результат.
Вы не породили ничего нового.
Дракон остался нарисованным.

Тогда понятие универсальности будет размыто. Универсальные машины будут разбиты на классы эквивалентности, например, по «чистоте» использования/неиспользования результатов собственных вычислений, как команд, числу состояний и т.д. Так же, как и уровни сознания.

Я думаю это больше вши пожелания чем математическая реальность.
Возможно я вас недопонимаю.
Извините.
Но машины которые меняют сами себя должны будут менять по каким то строго фиксированным правилам. Иначе - никак. А значит у такой машины будет неявно задана та самая "незыблимая таблица" мета-программы изменений.
Так и никак иначе.
Хаос возможен как-бы хаотичный. Детерминированный хаос. И это никакой не хаос. Это некая вычислимая функция с якобы хаосом. И хаос чистый. Настоящий. Хаос математический.
Я вот тут чуть-чуть эту мысль развивал.

http://alex-semenov.livejournal.com/6591.html

vika vorobyeva
А то, что разум оказывается как бы посередине между абсолютно случайным алгоритмом - бесконечной обезьяной, библиотекой Борхеса - который может найти любое решение, но при этом невероятно медленный и затратный - и любым готовым алгоритмом, который считает очень быстро, но неизбежно узок и ограничен.

+1

Кстати. Как не странно, но Вика "украла" мою идею!

Я тоже в конечном итоге отстаиваю именно это. Но суть в чем? Хаос надо обязательно СПЕЦИАЛЬНО включить в систему как функциональный элемент. Детерминированная машина Тьюринга как бы сложно она ни была устроена, способна порождать только как бы хаос, детерминированный хаос и если строго математически подходить к этой проблеме (так как это делает например Пенроуз) то хаосом этот псевдо-хаос не является.

Patsak, кстати. Я только сейчас подума…
Моя личная идея модернизации или расширения машины Тьюринга до Вероятностной машины Тьюринга очень похожа на ваши попытки (насколько я понимаю).

Я в свое время ввел такую абстракцию как Z-машина. Или Зен-машина (развитие заигрывании Хофштаттера с Дзен-буддизмом. Не более!)

Суть в чем?
Берем "обычный" вероятностный автомат (конечный или бесконечный не важно) и навешиваем второй контур обучения, который меняет матрицу вероятностных переходов по некому пускай детерминированному алгоритму.
То есть наш вероятностный автомат становится "операндом" обучающего автомата или мета-автомата. Этот маета-автомат пытается уловить закономерности в работе вероятностного автомата (правильно ли он действует или нет) и поднастроить.
Единственное. Запрещено вероятность перехода делать детерминированной. Пускай она будет 0.9999999999. Но не 1. Остается вероятность иного хода.
Почему Зен-машина? Это шутак но в ней лишь доля шутки. Чем дольше ты изучаешь Дзен, тем  дальше ты от понимания Дзен. Чем сильней детерминируется мета-автоматом вероятностный автомат тем он эффективней решает УЗКИЙ круг задач и тем тяже его заставить переобучиться на другие задачи. Наиболее способен к обучению он в состоянии равновероятности всех переходов. То есть состоянии "младенческого неведения", "чистого листа".

Главное что я хотел сказать.
Любая такая Z-машина не является чем-то доселе неведаным математикам. Это прорисовка деталей, не более.  Для любой такой двухконтурной вероятностной машины найдется эквивалентная ей "простая" "одноконтурная" вероятностная машина свойства которой в математике хорошо известны.
Я не питаю тех иллюзий что вводя новые контуры, нюансы, я получу что-то качественно новое с точки зрения математики. Качественно новое (что еще надо доказывать!) появляется введением "оператора случайного выбора" когда мы меняем детерминированную машину на вероятностную. То есть Z-машина это движение от абстрактного к конкретному. Не более.

[alex_semenov]

Понятие бесконечности, кстати, не монополия стандартной теории множеств. Бесконечность, это когда элементов множества неопределенно много, но причины этого феномена могут быть разными.
В стандартном смысле, мы уверены, в своих возможностях различить любые элементы между собой, мы перебираем и перебираем их и никогда не переберем, это одно понимание.

А почему мы должны быть не уверены в своей способности различать их, ели мы сами и придумываем эти элементы.
Один это ноль плюс 1
Два это два плюс 1 или ноль плюс 1 плсю 1.
И так без конца
Бесконечность это буквально отсутствие такого числа к которому нельзя было бы добавить 1.
Мы четко и ясно задаем различия между элементами бесконечного множества. Их не надо РАСПОЗНАВАТЬ. Потому что распознаванию подвергаются объекты внешнего мира. Но математические объекты - объекты "внутреннего изготовления". Так что мое понимание математики не видит тут проблемы.

Вот, например, отрывок из книги П.Вопенка "Математика в альтернативной теории множеств". Москва "Мир" 1983.

Честно говоря я испытываю некое ощущение "болотной трясины" когда пытаюсь вникнуть в суть аргументаций такого рода. Мне кажется что люди тут пытаются себя вытянуть за волосы непроизвольно совершая ошибки "здравого смысла". И я сам опасаюсь, что сам могу впасть в такую ересь.
Поэтому подобно ЛУКЕ (как мнекажется) я пытаюсь быстрей вытянуть логику в теорию алгоритмов. В мир машин где все ясно и понятно. Но ни в коем случае не наоборот (что как мне кажется пытаетесь сделать вы).
Что бы начать мыслить строго логично, формально, я не знаю как надо себя искалечить. Мы мыслим ассациативно и все время пытаемся обмануть себя. Свернуть с формально-логического пути. Поэтому выходя на такие уровни абстракции, я полагаю на Земле найдется не более тысячи человек (типа Коэна) кто могут свободно работать внутри формально-логических систем не опасаясь крамолы.
Большинство же преподавателей той же логики в университетах потому так свободны в этом мире, что они ходят по проторенному и ни шагу в сторону.  Но мы то с вами пытаемся "мыслить иначе". Верно?
В общем я предпочитаю понимать любую логику через теорию алгоритмов но не наоборот. Наоборот - я пас. Мне просто не хватает на такой изврат ума. Или хватает ума так не делать.

[Patsak]

Вы, насколько я вас понимаю, находитесь в плену одного из распространенных заблуждений (извините за такое резкое определение), что если машину Тьюринга заставить менять свою программу, то она сможет что-то что не может простая машина у которой программа фиксирована раз и на всегда.

Нет, это элементарные следствия существования универсальной машины.
 

Если Busy beaver  можно реализовать на какой-то волшебной версии машины Тьюринга то это ОДНОЗНАЧНО означает что Проблема Остановки для этой чудо-машины ПРЕОДОЛИМА. То есть, я не зря все-таки выше плевал через плечо! Вы все же норовите вызвать "черта"!
Нет нет и нет! Ваш "прием" НИКОГДА не позволить это сделать. Точка. И не надейтесь!

Успокойтесь.
Существуют машины Тьюринга выдающие значение функции Busy beaver для n<5.
Для больших n машина, реализующая эту функцию не найдена, точнее не найдено доказательство, что найденная машина является Busy beaver.
Предположим, существует универсальная машина с n=5 состояниями.
Т.к. эта машина универсальна, она может реализовать любую другу машину, в т.ч. с n=6,7,8… и т.д. состояниями. Эти машины можно рассматривать просто, как программы для этой универсальной машины.
Предположим, существует такая программа (т.е. Тьюринг-машина с n>4 состояниями), которая реализует функцию Busy beaver, например, выписывает максимальное конечное количество единиц на ленту.
Модернизируем эту программу следующим образом - запишем перед выполнением команды останова команду x:=x+1;
Такой алгоритм (Тьюринг-машина) выпишет на единицу больше единиц, что противоречит предположению о том, что существует программа, выписывающая максимальное конечное число единиц, т.е. Busy beaver.
Это можно рассматривать, как доказательство алгоритмической невычислимости Busy beaver. Разница между этим и классическим доказательством состоит в том, что помимо алгоритмической не вычислимости Busy beaver, доказывается не существование значения функции для n>4 - таких машин Тьюринга просто не существует. А причиной этого является именно наличие универсальной машина с n состояниями.
Определим число W как сумму числа единиц, выписываемых всеми Тьюринг машинами с n состояниями (где, n принадлежит N), реализующих Busy beaver. Это число считается невычислимым, т.к. из-за проблемы останова, невычислима сама функция Busy beaver, она растет быстрее любой вычислимой функции.
Может показаться, что и число W бесконечно. На самом деле, если будет доказано существование минимальной универсальной Тьюринг машины c n=5 состояниями (точнее 5,2), то число W оказывается элементарно вычислимым, т.к. после n=4 в нем идут одни нули.
Вот почему я говорил о поиске минимальных универсальных машин Тьюринга. Уже сейчас для машины (4,7) можно придумать подобную функцию, т.к. доказана ее универсальность.
А теперь подумайте, является ли число W невычислимым ?

При этом никакой программы перестройки (с фиксированной таблицей. Мета-программы) не предполагается.
Допустим. Вы добились успеха. И? Подумайте. Эта машина имеет некое совсершенно ясное и четкое описание. И значит  такую машину можно  построить не физически а… эмулировать на универсальной машине. По-моему вполне. Значит?
Ваш нарисованный дракон так и не вырвался из плоскости рисунка.

Это не мой дракон, а Ваш.

Ваша машина (система) будет ОДНОЗНАЧНО задана своим устройством и начальным словом на ленте. Вы запускаете машину и она выдает некое подобие хаоса. Тот самый "детерминированный хаос" что так любят синергетики.
Но вы получили ничто иное как псевдо-случайный генератор случайности. А значит существует машина Тьюринга, которая дает точно такой же результат.
Вы не породили ничего нового.
Дракон остался нарисованным.

Вы должно быть располагаете четкими, ясными критериями, какой хаос является псевдослучайным, а какой истинно случайным.

А почему мы должны быть не уверены в своей способности различать их, ели мы сами и придумываем эти элементы. Один это ноль плюс 1 Два это два плюс 1 или ноль плюс 1 плсю 1. И так без конца Бесконечность это буквально отсутствие такого числа к которому нельзя было бы добавить 1.  Мы четко и ясно задаем различия между элементами бесконечного множества. Их не надо РАСПОЗНАВАТЬ. Потому что распознаванию подвергаются объекты внешнего мира. Но математические объекты - объекты "внутреннего изготовления". Так что мое понимание математики не видит тут проблемы.

Это не проблема, это одна из интерпретаций, стандартная, того, что понимать под бесконечностью.  Я всего-лишь упомянул другие, для тех, кому это покажется интересным. Не нравится эта песочница - оставайтесь в своей.

[alex_semenov]

Существуют машины Тьюринга выдающие значение функции Busy beaver для n<5.

(Скип. Спасибо. Действительно очень интересно. Не злан)

На самом деле, если будет доказано существование минимальной универсальной Тьюринг машины c n=5 состояниями (точнее 5,2), то число W оказывается элементарно вычислимым, т.к. после n=4 в нем идут одни нули.
Вот почему я говорил о поиске минимальных универсальных машин Тьюринга. Уже сейчас для машины (4,7) можно придумать подобную функцию, т.к. доказана ее универсальность.
А теперь подумайте, является ли число W невычислимым?

Разумеется да!

Искать и найти - две больших разницы!
И в силу того что приз окажется слишком большим, вы никогда не найдете универсальную машину с n=5 (точнее 5,2). Вы только что доказали, фактически, что ее не может существоать.

Это не мой дракон, а Ваш.

И мой и ваш. Вы замахиваетесь на слишком многое.
Понимаете?
И разумеется ничего не получите.
Вы как и Пенроуз и прочие с ним пытаетесь добиться невозможного. Упорно решить неразрешимое. Я же ищу тонкий слой на границе возможного и невозможного. Слой эд хос. Для решения "узкой" задачи. По сути оправдать эволюцию как процесс с уникальными возможностями. И считаю это вполне разумным.
Вы же, насколько я понимаю, ищете по сути "универсальный решатель всех задач -2".
Почему 2?
Потому что компьюче сайнс и возник в 30-х годах ХХ-го века как выродок от неудачной программы Гильберта создать "универсальный решатель-1"

Вы должно быть располагаете четкими, ясными критериями, какой хаос является псевдослучайным, а какой истинно случайным.

А вы разве нет? Любой хаос, порождаемый некоторой программой ( можно уточнить без входа) и есть детерминированный хаос. Например разряды числа "пи":

3,1415926535 8979323846 2643383279 5028841971 6939937510 5820974944 5923078164 0628620899 8628034825 3421170679 8214808651 3282306647 0938446095 5058223172 5359408128 4811174502 8410270193 8521105559 6446229489 5493038196 4428810975 6659334461 2847564823 3786783165 2712019091 4564856692 3460348610 4543266482 1339360726 0249141273 7245870066 0631558817 4881520920 9628292540 9171536436 7892590360 0113305305. . .

Настоящий, чистый хаос не порождается никаким сколь угодно сложным алгоритмом.
Чем он порождается? Понятия не имею! Если угодно богом. Но мы четко знаем что за хаосом квантовой механики нет никаких скрытых параметров то есть, иначе говоря, никакой псевдослучайности.



Даже на дне нашей физической реальности "постелена"  математически-чистая случайность. Никак не редуцируемая ни к каким алгоритмом. То есть. Чистейший, математический хаос появляется как фундаментальное физическое явление.
В математики (которая никакого отношения, как считается, к физической реальности не имеет) он выводится из мощностных соображений.  Вы берете все подмножества какого либо счетного множества. Скажем множества натуральных чисел:
 
0,1,2,3,4 …

Таких подмножеств континуум. Но множество программ, которые перечисляли бы каждое перечислимое подмножество - не более чем счетная бесконечность (мощность всех слов в любом алфавите). Остается еще континуум подмножеств, для перечисления которых нет программ. Подмножества есть, программ нет. Это и есть абсолютно хаотические множества. Явление математически-чистого хаоса.

Это не проблема, это одна из интерпретаций, стандартная, того, что понимать под бесконечностью.  Я всего-лишь упомянул другие, для тех, кому это покажется интересным. Не нравится эта песочница - оставайтесь в своей.

Разумеется, все останутся в своей любимой песочнице. Мы просто перебрасываемся тут песком.
Возможно это кому-то действительно покажется интересным? Но для меня СЛИШКОМ   заманчиво. Ведь если вы правы - вы решаете фундаментально неразрешимые проблемы.
Так?
Но я ставлю себе куда более скромные задачи.
Я не хочу на место бога. Я хочу объяснить человеку человека. Всего лишь.
 

[ВадимZero]

Вот в IBM кажеться "ватсона" придумали...Компьютер способный делать, сложный неконкретный похиск в большой базе данных. Многие интуитивно, воспринимают его как еще один шаг в сторону ИИ. По мне так, Ватсон близок к тому что бы назвать его Бессознательным ИИ..осталось Создть сознательное ИИ которое сможет аперировать языком, формируя запросы для бессознательного ИИ.

если честно -- мне тоже кажется, что гдето здесь: имхо "сознание" есть "Я" плюс словодробилка. при этом "Я" может быть очень простым (датчик, таймер, регистр для хранения значения датчика в предыдущий такт времени, компаратор этого значения с текущим, всё) или вообще "псевдо" -- "снаружи" понять это будет проблемно, если вообще возможно в принципе (мне кажется -- нет).

Я бы не стал придавать значение "Я" как некоему важному элементу человеческой психики. По мне так это просто артефакт эволюции.

[Patsak]

А теперь подумайте, является ли число W невычислимым?

alex_semenov
Разумеется да!

+1
Я тут не опровергал невычислимость числа W, я Вам пытался продемонстрировать, что "невычислимость" бывает разная, с нетривиальной структурой, есть разные невычислимости и их можно систематизировать и исследовать.

alex_semenov
Искать и найти - две больших разницы!
И в силу того что приз окажется слишком большим, вы никогда не найдете универсальную машину с n=5 (точнее 5,2). Вы только что доказали, фактически, что ее не может существоать.

А вот здесь, наши мнения расходятся. Думаю, существование такой машины рано или поздно будет доказано, но "невычислимость" W это не отменит, просто откроет дверь в "промежуточные мощности".

Но я ставлю себе куда более скромные задачи.
Я не хочу на место бога. Я хочу объяснить человеку человека. Всего лишь.

Так и я, по мере сил, своих, стремлюсь к тому же, в своем понимании, конечно....

[alex_semenov]

Я тоже очень сильно надеюсь что невычислимость бывает разная. Хотя интуиция подсказывает что все невычислимые задачи очень сильно похожи на класс NP-полных задач. Те "повязаны" друг с другом (точнее говоря сводимы друг к другу). Реши одну - решаться другие. Так и с алгоритмической неразрешимостью. Они все "повязаны" теоремой Райса, по сути.

http://ru.wikipedia.org/wiki/%D0%A2%D0%B5%D0%BE%D1%80%D0%B5%D0%BC%D0%B0_%D0%A0%D0%B0%D0%B9%D1%81%D0%B0

Но если получится найти особый класс неразрешимости, то это даст надежду (только надежду!)  поместить наш разум в эту прослойку между действительно невычислимыми и алгоритмически вычислимыми  задачами. Не думаю, что этот слой будет "толстым". Достаточно существования всего одной полу-неразрешимой задачи. Возможно этого достаточно. И мы можем автоматически получим математический базис для сильного ИИ.
У сильного ИИ такого надежного базиса пока нет.
Есть гипотеза Ньюэлла-Саймона, которая на самом деле гипотеза Тьюринга (что разум это программа). Но она не дает ответа на вопрос что это за программа. И самое главное к ней масса вопросов-сомнений (та же аргументация Пенроуза).

[ВадимZero]

Но я ставлю себе куда более скромные задачи.
Я не хочу на место бога. Я хочу объяснить человеку человека. Всего лишь.

Как же вы это сделаете если на реального человека вам вроде наплевать. Был такой психотерапевт Милтон Эриксон у него наверное было свое интуитивное понимание того что есть психика. Он был в своей сфере просто волшебник. Он после себя не оставил не каких теорий которые описывали бы эфективность его работы. Своим ученикам он говорил "
Самое главное это наблюдение" Поэтому хоть убейте но я не понимаю как можно объяснить человека не наблюдая этого самого человека.

[незлой]

Был такой психотерапевт Милтон Эриксон у него наверное было свое интуитивное понимание того что есть психика. Он после себя не оставил не каких теорий которые описывали бы эфективность его работы.

эриксон практик, оставил не теории но вполне конкретные методологии: медики широко используют "эриксоновский гипноз"; бендлер с гриндером не раз называли его соавтором нлп; сильно повлиял на хомского, итп.   
 

[alex_semenov]

Припустил вчерашнюю реплику:

А как же? ВСЕ астрофизики небосвод объясняют более-мение одинаково. Расхождение у них в деталях. В ИИ такое единство базиса - далекая прекрасная мечта к которой еще чапать и чапать!

Верно, верно, но идут они от частного к общему. От попыток понять конкретную звезду, к общему пониманию того, как устроен весь небосвод.

Да не совсем так.
Сфера звезд всегда лепилась. И фотометрический парадокс возник именно из модели вечного и бесконечного неба.  То есть не существовало времени, когда астрономы имели представления о частном но не имели модели общего.
Но суть не в этом.
Никто никогда не идет от общего к частному на самом деле ни от частного к общему. Хотят как бог надушу положит. Стараются сразу иметь общую картину и частного и общего. Что называется "уточняют карту".

И так в любой науке, от часного к общему. Для понимания разума и его воссоздания в железе, нужно идти тем же путем. Изучая отдельные  поведеньческие алгоритмы, приходить к общему пониманию того как они функционируют или могут функционировать.

Как вы себе представляете этот процесс?
Если у меня есть предположение как это работает или зачем это так работает - я могу НАУЧНО проверить свою гипотезу. И мое счастье если она подтвердилась. Но если у меня нет никаких общих идей - хоть кол на голове чеши! Нет никакой науки.
Ньютон был не прав. Гипотезы как раз измышляют а потом проверяют измышленное. Так что движение от общего к частному - вполне естественно.

В противном случае это не наука, а как вы сказали философия.

Наука всегда открещивается от философии когда дело сделано. Есть рабочая теория хорошо легшая на реальность. Но на стадии поиска такой теории натурфилософия  философией грешит сплошь и рядом.

В ИИ нет целостного понимания именно по причине того, что изучают не разум как явление, а как абстракцию, или как говорят психологи галюцинацию. При абстрагировании такого размаха теряеться очень много информаци, в том числе ценной. Остаеться сухой остаток, в котором скорее отражены чуства субьекта, чем какаято система.

Это все бла-бла-бла. Как бесконечные призывы перестраиваться в эпоху перестройки.
Правда в том что надо двигать все сразу. В том числе надо пытаться понять разум с точки зрения математики. И разумеется надо пытаться вкладывать из этого "всего" здание.
В общем, разговоры о том как садиться музыкантам - вопрос второстепенный. Надо иметь все инструменты и пытаться их соединять. Я утверждаю что нет солирующего инструмента. Общего понимания что такое разум. Мы можем говорить о его природе. Например, разум это НЕКОТОРАЯ программа или вероятностная программ. Но что эта программа делает?
"Переабатывает информацию", "производит адаптацию" - это все общие ничего не значащие фразы типа "человек - животное о двух ногах и без перьев".

[alex_semenov]

Поэтому хоть убейте но я не понимаю как можно объяснить человека не наблюдая этого самого человека.

Да почему вы решили, что я его не наблюдаю?
Последнее время я сдал, но лет 10 назад я очень активно интересовался всем, что связано с человеком. От нейрофизиологии до психологии, социологии, эволюционной биологии, психологии и (кстати!) этологии.
"Абстрактное - это усохшее конкретное" (с) Просто математика дает еще один вектор понимания феномена разума. Притом самый асбстрактный, общий. Ведь математика это и есть теория наиболее оторванных от жизни, конкретики моделей.
Что толку изучать алгоритмы поведения если это АЛГОРИТМЫ у которых есть некоторые общие свойства к которым (свойствам) есть претензии общего же характера?