ИИ: какого понимания нам не хватает?

[vika vorobyeva]

в принципе можно ещё усилить: любой алгоритм есть оптимизация эволюционного алгоритма к конретной задаче/классу задач.

О!
Золотыми буквами в гранит. И на стену.
Я все думала, как же это сформулировать. Как выразить, что случайный алгоритм (оно же эволюция, оно же бесконечная обезьяна) решает задачи ужасно, невыносимо ДОЛГО. За то, что эта бесконечая обезьяна может решить ЛЮБУЮ задачу, она расплачивается скоростью решения. А разум как раз и оптимизирует алгоритм, чтобы находить эти решения гораздо быстрее. За что, собственно, и был изобретен эволюцией

[alex_semenov]

Но случайный автомат у нас ОДИН И ТОТ ЖЕ, а детерминированные решатели - разные.

Повторюсь, случайность может как вести к решению задачи, так и уводить от него.
Например, множество неразумных муравьёв, передвигающихся случайным образом могут обнаружить какую-нибудь хорошо замаскированную дырку. И даже если таких дырок несколько и их "нужно" обнаруживать в строго олределённой последовательности, "случайные муравьи" с этой задачей справятся.
Но, эти "случайные муравьи" не смогут повторять решение этой задачи на регулярной основе!
Понимаете?

Понимаю. В этом как рази и есть сила регулярных методов. ИМЕННО ДЛЯ ЭТОГО И НУЖЕН механизм разума, сознания. Превращать случайные находки в регулярные ЭФФЕКТИВНЫЕ алгоритмы. Кстати бездумные.
Разум нужен как мост между гениальной случайностью и механической, бездумной регулярностью эффективных алгоритмов поведения.

Но на что я хочу обратить внимание? От решения уводить может не только случайность. Регулярность может навсегда увести от решения еще лучше. Как шутил Рассел? Логика - это способность ошибаться с полной уверенностью в собственной правоте.
Мы тогда творим величайшие глупости? Когда все делаем абсолютно "верно". А когда мы смеемся над идиотом? Когда понимаем что он, идиот уверен что делает верно, но ведь мы знаем что он, "лошара" тупит на ровном месте. При этом на месте "он" часто оказывается наше "я".

Видимо недоверие к случайному поиску у людей происходит из-за того что они не видят как можно СРАСТИТЬ случайности и регулярность.
Я же видел это с самого начала.
Вероятностью ведь можно "плавно" управлять.
Скажем вероятностный автомат из ситуации
[xi, qi] может с равной вероятностью 1/N переходить в одну из N возможных ситуаций. Но по мере накопления опыта (подкрепления) вероятность перехода в какие-то состояния может увеличиваться (и механизм этого обучения может быть регулярным или тоже вероятностным). Главное что бы сумма вероятностей по N вариантам оставалась равная 1.
В результате наш вероятностный автомат может почти полностью выродится детерминированную машину. "Плавно". Если навык становится вредным,  он может терять навык (обучение размываться).
А теперь вспомните как работают синапсы.  Один к одному! Обучение синапса ведет к повышению или понижению ВЕРОЯТНОСТИ го срабатывания.

[alex_semenov]

в тесте тьюринга решение о разумности принимают другие разумные, т.е. это бесконечная рекурсия вместо определения, по сути.

Я тоже раньше бунтовал против этого. В результате я модернизировал тест и получил Игру Черепахи.
То есть этот "недостаток" теста оказался непринципиальным.
Даже преодолимым.
Не цепляйтесь за это.

кстати, совершенно не уверен что "индивидуальный разум" возможен в принципе. по крайней мере до сих пор в естественных условиях он не наблюдался.
почему вы решили, что он есть? "изнутри" так видится?

Я ни раз наблюдал изнутри как приходят в голову совершенно неожиданно-красивые решения. К сожалению это бывает крайне редко. Но когда это случается весь мой дух это сильно переживает. То есть я четко знаю что ПРОБЛЕСКИ разума у меня есть. Но куда чаще я туплю как лыжи по асфальту…

[alex_semenov]

Александр, обращаюсь к вам с вопросом немного не по теме.
Помните, вы говорили про теорему о бесконечной обезьяне?
Как вы думаете, а в числе Pi, например, могут содержаться какие-нибудь тексты?
Если, скажем, рассматривать пары цифр числа Pi, как ASCII-кодировку.

Могут. Хотя это не доказано.
Но я не совсем понял смысл вашего вопроса. Теорема о бесконечных обезьянах достаточно банальная вещь.
Я не понимаю что людей в этом так заводит?
Бесконечные обезьяны за конечное число напечатют любой текст конечной длины?
Но любой текст конечной длины можно получить простым перебором всех букв некоторого алфавита. И гораздо быстрее!
Но знаете в чем превосходство обезьян?

Они ГАРАНТИРОВАНО  получают любой текст сразу если этих обезьян действительно бесконечно. Усадите их в бесконечный ряд. Если обезьян бесконечное число, то среди них ОБЯЗАТЕЛЬНО найдется обезьяна которая за N первых ударов напечатала именно тот текст длиной N который вам надо.
А переборный алгоритм должен помнить что он уже сделал и что должен сделать и будет ползти по экспоненте до конца вечности и даже дальше. Он не распараллеливается.
Это кстати, возможно самый сильный аргумент в пользу нашей уникальности во вселенной. Мы можем оказаться именно той обезьяной. И бог, божья воля тут нипричем.
Но это другая тема.

[PathFinder]

Вообще, мне кажется, что разум нужно искать не в случайном поведении (случайное поведение иногда необходио но всё же выполняет служебную функцию), а в способности к ассоциированию.
Если кто-то не вполне понимает, что подразумевается под ассоциированием, поясню.
Ассоциирование - это поиск объекта (объектов) в памяти по некоторому признаку этих объектов, а не по адресу ячейки памяти в которой (ячейке) расположен объект. Например, поиск всех предложений, содержащих определённое слово.

Естественно, для полноценного мышления просто ассоциативного поиска недостаточно. Необходимо как-то объединять уже имеющуюся информацию с той которая найдена ассоциативным поиском. Что-то типа операции join (соединения) в языке SQL (гуглите). То есть что получается.
1. Имеем некий "кусок информации № 1".
2. Ищем ассоциативно в памяти "кусок информации № 2" по некоторым признакам (нужно уточнять, зависит от выполняемой задачи).
3. Объединяем "кусок информации № 1" и "кусок информации № 2" с помощью join (грубо говоря просто "склеиваем" два "куска информации").

А теперь внимание!
В приведённых выше трёх пунктах считаем, что "кусок информации № 1" и "кусок информации № 2" - это один и тот же "кусок информации".
То есть мы "кусок информации" делим на две части и ассоциируем эти две части друг с другом.
То есть если смотреть на этот "кусок информации" в целом, то можно сказать, что мы его самоассоциируем.
То есть (внимание!) мы производим над "куском информации" что-то типа преобразования пекаря. (гуглим).

А что мы знаем про особенности преобразования пекаря? Что его результат хоть и детерминированный, но практически непредсказуемый.
Ну чем не замена случайности в ваших, Александр, рассуждениях? Или опять скажете, что это псевдослучайность?

P.S. Надеюсь я достаточно понятно выражаюсь? Или нет?

[alex_semenov]

в принципе можно ещё усилить: любой алгоритм есть оптимизация эволюционного алгоритма к конретной задаче/классу задач.
т.е. это всё тот-же эа, но некоторые "ветви" намертво обрубленны (для чего и нужна память).

Если точнее то любая детерминированная машина есть частный случай некоторой вероятностной. Притом все вероятностные происходят из 0-машины, … блин, нужно давать точное определение абстрактной машины. А то всех запутаю.
Но мыслите  вы в очень верном направлении.
Именно так.
Сознание, мышление - это все сервисы по стимуляции поиску новых решений и упаковки их в бессознательные рефлексы.
Опять же, шутка из "Принцип Питера". "Эксперт не думает. Он знает".
И кстати.
"Три правильных догадки закрепит за вами звание эксперта"

Однажды мы будем над собой смеяться, мол, как же мы тогда не понимали что такое разум? Ведь это так все просто и очевидно!

[alex_semenov]

Вообще, мне кажется, что разум нужно искать не в случайном поведении (случайное поведение иногда необходио но всё же выполняет служебную функцию), а в способности к ассоциированию.

Стоп. Давайте не путать сознание, понимание с разумом. Сознание и понимание - это процессы в мозгу. Но разум - это эпифеномен. Явление которое мы определяем по результату. По разумному поведению. По прохождению теста на сообразительность.
Разум результат слаженной работа всех элементов…

И опыт - сын ошибок трудный
И гений- парадоксов друг
И случай - бог, изобретатель…

Выкидывать последнюю строчку … не стоило! (кто старый - знает эту историю)
Но и любую другую - тоже.

Если кто-то не вполне понимает, что подразумевается под ассоциированием, поясню.
Ассоциирование - это поиск объекта (объектов) в памяти по некоторому признаку этих объектов, а не по адресу ячейки памяти в которой (ячейке) расположен объект. Например, поиск всех предложений, содержащих определённое слово.

Я думаю что это слишком примитивный пример.
Наше сознание может искать не просто слово. Оно может искать изоморфизмы. Строить смысловые мосты между не похожими по форме но очень похожие по смыслу, то есть по структуре языковыми конструкциями.
Особенно плодотворно он это делает тогда, когда не занят никакими внешними проблемами. Мозг работает на автопилоте. Мир вокруг предсказуем по упреждению. Ничто вас не отвлекает и вы ширитесь по воспоминаниям. Наводите порядки.
Кстати, люди привыкшие так работать часть бывают очень рассеянными в реальной жизни. И это понятно.

А что мы знаем про особенности преобразования пекаря? Что его результат хоть и детерминированный, но практически непредсказуемый.
Ну чем не замена случайности в ваших, Александр, рассуждениях? Или опять скажете, что это псевдослучайность?

Допустим. А зачем так все усложнять? Сама природа химических процессов в нейронах носит явно выраженный случайный характер.
Я сказал, что идеально чистая случайность нужна в случае чисто математических построений с бесконечными рядами испытаний. Практическая же сторона реализации вероятностного поведения на практике - тут вообще два пальца об асфальт.

[ВадимZero]

А как вы еще можете охватить целяком такое огромное опнятие как разум?Только абстрагировавшись максимально возможным образом.То есть математизировав проблему до предела.По другому - никак.Медитацией, созерцанием пупка, усилием духовных сил - простите это в другой палате.

Алекс ,  если вы поставите себе цель изучать природу. Вы ее как изучать будете, всю сразу, как абстракцию или будете конкретное живое существо изучать под микроскопом?

Мы не можем эклектично склеить разум из правдоподобных (в чем-то изоморфных нашим) механизмов. Мы должны понимать всю идею разума от начала до конца. От математики (той же гипотезы Тьюринга) до отдельного нейрона.

Почему не можем, что мешает? Алекс вы помните что такое научный подход? я напомню..это попытка обьяснить обьективные наблюдаемые явления, моделями. Вы своей идеей разума какое наблюдаемое явление пытаетесь обьяснить? Разум это не явление, разум это обобщение. Вы дуумаете астрофизики хотят обьяснить сразу весь наблюдаемый небосвод, или какую то конкретную звездочку?
 

[ВадимZero]

А разум как раз и оптимизирует алгоритм, чтобы находить эти решения гораздо быстрее. За что, собственно, и был изобретен эволюцией

Если утверждать что разум изобретение эволюции, то должны быть и эволюционные шаги которые можно наблюдать а их нет.

[незлой]

Во-вторых, существуют испытуемые разного уровня сознания. У одного в сознании может уместиться, например, что-нибудь четырехмерное, вроде гиперкуба или светового конуса, а у второго нет. Вот вам и один из критериев уровня сознания. Можно назвать его топологической размерностью сознания, можно использовать и дробную размерность, которой обладают, например фракталы. Тогда мы получим непрерывную шкалу размерности сознаний. По этой шкале можно будет сравнить, например, обезьяну с человеком и иметь хоть какое-то наглядное представление о следующих уровнях сознаний, на лестнице Г.Кантора.

интересно.. эдакий взаимный тест тьюринга..

[alex_semenov]

alex_semenov:
Мы слишком узко понимаем понятие "вычислимость", считая вычислимыми только вычисления, происходящие за конечное число шагов.

Почти согласен. Я бы сформулировал так: тезис Черча-Тьюринга ошибочен.

Заманчиво…
Но я бы поостерегся.
Я бы сказал так. Он У_З_О_К…. Если мы говорим о задачах решение которых требует конечного числа шагов то он совершенно справедлив. Но на бесконечности…
Когда задача "слишком массовая".
Нет. Проблема Остановки была есть и будет неразрешимой. Но есть ряд тонких различий.

Помнится, для реализации минимальной универсальной машины Тьюринга требуется 4 состояния головки и 6 состояний ленты.

Конечно. Но все эти машины слишком "эзотеричны".  Чем хорош набор команд МНР? Он интуитивно ясен всякому кто пытался программировать хотя бы на уроках информатики.

Хотя это касается только «чистых» машин, не использующих, результаты своих вычислений, как команды.

Гм… Насколько мне известно все хитрые попытки усовершенствовать универсальную Манину Тьюринга являются чисто косметическими. Суть остается та же. Используй не используй - получаются те же яйца только в профиль.

Последние машины, на сколько мне известно, не исследовались, а именно в этом и может быть спрятана одна из тайн смысла (содержания, семантики).

Нет недумаю. Вы явно заблуждаетесь.
Машина Тьюринга - предельная машина. Мощнее ничего нет.
Помниться история про то как на вагонный завод пригласили математика, который оптимизировал раскрой металла. Руководству понравилось и они попросили его еще больше оптимизировать. Математику пришлось долго объяснять что оптимальней, чем он уже сделал сделать нельзя. Это мол, математика! Если математика сказала что это лучшее то оно идеально лучшее.
А у вас получается что-то типа надежды руководства завода. Машина Тьюринга предельно мощна но есть машины помощнее…
Я думаете почему за случайность ухватился? Потому что это ПОСЛЕДНИЙ резерв. И то проявляется он крайне специфически. В случае математически нелегитимных бесконечных вычислений.

Вообще-то, само существование универсальных машин с разным конечным количеством состояний косвенно опровергает тезис Черча-Тьюринга, т.к. конфликтует с некоторыми интуитивными  арифметическими представлениями, связанными с индукцией. Это отдельная, интересная тема.

Гм… вот это я не совсем понял. Тезис Черча-Тьюринга разумеется нельзя доказать в силу его формулировки. Но в его пользу работает "равномощность" всех известных попыток формализовать интуитивное понятие "алгоритм" их полный и строгий ИЗОМОРФИЗМ.
Если бы машина Тьюринга не была бы предельным математическим объектом, то скажем МНР или лямбда-исчисление или алгорифмы Маркова, рекурсивные функции оказались бы мощнее. То есть позволяли что-то что не делает машина Тьюринга.
Но увы. Любая формализация понятия "алгоритм" эмулируется друг на друге абсолютно точно. 
Другая яркая грань предельности машины Тьюринга в том, что недетерминированная машина Тьюринга и вероятностная машина Тьюринга вычислительно так же эквивалентны (я добавлю в рамках классических конечных вычислений).

[незлой]

О!
Золотыми буквами в гранит. И на стену.

[краснеет] "разум" как процесс эволюции мемов придумали достаточно давно

Опять же, шутка из "Принцип Питера". "Эксперт не думает. Он знает".

.

довольно общее место: рассказывал о "круге познания"? кажется -- да: из неосознанного неумения через осознанность к неосознанному умению, классический пример -- вождение автомобиля.

[alex_semenov]

Алекс ,  если вы поставите себе цель изучать природу. Вы ее как изучать будете, всю сразу, как абстракцию или будете конкретное живое существо изучать под микроскопом?

Разумеется "всю сразу". Но в данном случае это вопрос предпочтений. Я по складу ума философ и меня наиболее общие принципы и закономерности. То есть я сразу хотел бы попасть на прием к господу богу и задать в лоб вопрос: на кой хрен все это?…

Мы не можем эклектично склеить разум из правдоподобных (в чем-то изоморфных нашим) механизмов. Мы должны понимать всю идею разума от начала до конца. От математики (той же гипотезы Тьюринга) до отдельного нейрона.

Почему не можем, что мешает?

То же самое что иметь женщину на Красной пощади. Дофига будет советчиков.

Алекс вы помните что такое научный подход?

Понимаю. Но я понимаю что наука - это СОЦИАЛЬНЫЙ институт. Это террариум единомышленников. И если это гадюшник не сплотить некой общей теоретической идеей (пускай и неверной!) они так и будут грызть друг друга в битве за собственное право на окончательную истину.

я напомню..это попытка обьяснить обьективные наблюдаемые явления, моделями. Вы своей идеей разума какое наблюдаемое явление пытаетесь обьяснить? Разум это не явление, разум это обобщение. Вы дуумаете астрофизики хотят обьяснить сразу весь наблюдаемый небосвод, или какую то конкретную звездочку?

А как же? ВСЕ астрофизики небосвод объясняют более-мение одинаково. Расхождение у них в деталях. В ИИ такое единство базиса - далекая прекрасная мечта к которой еще чапать и чапать!

[alex_semenov]

О!
Золотыми буквами в гранит. И на стену.

[краснеет] "разум" как процесс эволюции мемов придумали достаточно давно

Кстати, а не подскажите кто и когда? Потому что я до этого додумался сам и как-то до сих пор считаю что это именно я одинокий глошатый сей непопулярной идеи. Но время ведь идет...  Единственный известный авторитет, который открыто высказал эту идеию - Дональт Кнут. Вот тут.
http://mf.grsu.by/other/lib/001
Но тоже как несмелое предположение...
Можно было бы сослаться на умницу Докинза. Но насколько мне известно он свою теорию мемов так широко не трактовал. Ему и с его узкой трактовкой есть от кого отбиваться.

[alex_semenov]

А разум как раз и оптимизирует алгоритм, чтобы находить эти решения гораздо быстрее. За что, собственно, и был изобретен эволюцией

Если утверждать что разум изобретение эволюции, то должны быть и эволюционные шаги которые можно наблюдать а их нет.

Весь процесс усложнения мозга позвоночных - это скорей всего борьба за оптимизацию процесса адаптации то есть ускорению накопления навыков выживания. Именно где-то здесь и появляется сознание как сервис для этого.
С людьми гены перестарались. Но это был метоэволюционный скачек. "Прорыв плотины". Способность к речи оказалась просто волшебным приобретением которое превзошло все остальные эволюционные идеи за 800 миллионов лет эволюции многоклеточных.

[ВадимZero]

А как же? ВСЕ астрофизики небосвод объясняют более-мение одинаково. Расхождение у них в деталях. В ИИ такое единство базиса - далекая прекрасная мечта к которой еще чапать и чапать!

Верно, верно, но идут они от частного к общему. От попыток понять конкретную звезду, к общему пониманию того как устроен весь небосвод. И так в любой науке, от часного к общему. Для понимания разума и его воссоздания в железе, нужно идти тем же путем. Изучая отдельные  поведеньческие алгоритмы, приходить к общему пониманию того как они функционируют или могут функционировать. В противном случае это не наука, а как вы сказали философия.
В ИИ нет целостного понимания именно по причине того что изучают не разум как явление, а как абстракцию, или как говорят психологи галюцинацию. При абстрагировании такого размаха теряеться очень много информаци, в том числе ценной. Остаеться сухой остаток, в котором скорее отражены чуства субьекта, чем какаято система.

[незлой]

Кстати, а не подскажите кто и когда?

трудно сказать, даже у  берроуза (уильяма) встречаются подобные мысли, а бехтерев ещё в позапрошлом веке писал о "ментальных вирусах" -- имхо идея просто созрела, и совершенно неважно кто именно первый её сорвал.
лично впервые встретил её у докинза.

а кнут -- умница, конечно, какой-же программист его не знает?

[незлой]

Но на самом деле что я хотел бы увидеть, так это дать возможность тысячам специалистов по информатике делать то, что они хотят. Это то, что реально продвинуло бы отрасль вперед. По своему опыту написания "Искусства программирования"[1] знаю : если бы вы меня каждый год спрашивали, что из произошедшего в информатике за этот год наиболее важно, я, возможно, не смог бы сказать ничего, но за пять лет отрасль меняется полностью. Информатика - это потрясающее сотрудничество людей со всего мира, добавляющих маленькие кирпичики в огромную стену. Именно эти отдельные кирпичики, а не эпохальные события, и составляют суть нашей работы.

красавец!
ровно также и с ии, имхо: разработка оного будет топтаться на месте ровно до тех пор, пока не откажутся от собственных формулировок задачи, дав задаче самой себя сформулировать.  т.е. -- практика и только практика,  пальцами в воздухе шевелить бесполезно.
японцы вон это прекрасно поняли, и потихонечку делают первые шажки по дороге длиной в тысячу миль.

[Прохожий]

О!
Золотыми буквами в гранит. И на стену.

[краснеет] "разум" как процесс эволюции мемов придумали достаточно давно

Кстати, а не подскажите кто и когда? Потому что я до этого додумался сам и как-то до сих пор считаю что это именно я одинокий глошатый сей непопулярной идеи. Но время ведь идет...  Единственный известный авторитет, который открыто высказал эту идеию - Дональт Кнут. Вот тут.
http://mf.grsu.by/other/lib/001
Но тоже как несмелое предположение...
Можно было бы сослаться на умницу Докинза. Но насколько мне известно он свою теорию мемов так широко не трактовал. Ему и с его узкой трактовкой есть от кого отбиваться.

Вот и попали в Ситуацию Дуни из "Волга-Волга"....

[ВадимZero]

т.е. -- практика и только практика,  пальцами в воздухе шевелить бесполезно.

Вот в IBM кажеться "ватсона" придумали...Компьютер способный делать, сложный неконкретный поиск в большой базе данных. Многие интуитивно, воспринимают его как еще один шаг в сторону ИИ. По мне так, Ватсон близок к тому что бы назвать его Бессознательным ИИ..осталось Создть сознательное ИИ которое сможет аперировать языком, формируя запросы для бессознательного ИИ.
Можете считать что, в моем понимании Разум..это сложная база данных, способная оперировать запросами основаными на логике языка.