ИИ: какого понимания нам не хватает?

[PathFinder]

А что мы знаем про особенности преобразования пекаря? Что его результат хоть и детерминированный, но практически непредсказуемый.
Ну чем не замена случайности в ваших, Александр, рассуждениях? Или опять скажете, что это псевдослучайность?

Допустим. А зачем так все усложнять? Сама природа химических процессов в нейронах носит явно выраженный случайный характер.
Я сказал, что идеально чистая случайность нужна в случае чисто математических построений с бесконечными рядами испытаний. Практическая же сторона реализации вероятностного поведения на практике - тут вообще два пальца об асфальт.

Я вам объясню, зачем так усложнять.
Дело в том, что случайные химические процессы в нейронах, а также теории Хокинса и Бодякина предлягают решение только аналитических задач. Когда известна входная информация и нужно её "разложить по полочкам", найти в ней некую иерархическую организованность.
Но ведь есть ещё и задачи синтеза. Без способа их решения понятие интеллекта не будет полным! И вот в этом случае подходы и Хокинса и Бодякина не годятся.
Задачи синтеза в рамках этих подходов решаются только примитивные. Например, синтез движения руки для ловли летящего мяча.
А вот то, что я тут написал про самоассоциирование и "преобразование пекаря" может быть полезно в плане именно решения задач синтеза.

[ВадимZero]

Был такой психотерапевт Милтон Эриксон у него наверное было свое интуитивное понимание того что есть психика. Он после себя не оставил не каких теорий которые описывали бы эфективность его работы.

эриксон практик, оставил не теории но вполне конкретные методологии: медики широко используют "эриксоновский гипноз"; бендлер с гриндером не раз называли его соавтором нлп; сильно повлиял на хомского, итп.   
 

Эриксон скорее был самым важным моделируемым в НЛП. Вообще нлп себя позиционирует как модель субьективного опыта. Эриксон прочитав то что намоделировали Бендлер с Гриндером, сказал что это дурная эпистимеология. А когда моделировщики показали свою работу Вирджинии Сатир, она некоторое время не смогла работать. Получился так сказать эфект сороконожки. Я вообще расматриваю НЛП хорошим инструментом в понимании работы психики.

[alex_semenov]

Я вам объясню, зачем так усложнять.
Дело в том, что случайные химические процессы в нейронах, а также теории Хокинса и Бодякина предлягают решение только аналитических задач. Когда известна входная информация и нужно её "разложить по полочкам", найти в ней некую иерархическую организованность.
Но ведь есть ещё и задачи синтеза. Без способа их решения понятие интеллекта не будет полным! И вот в этом случае подходы и Хокинса и Бодякина не годятся.

Абсолютно согласен!
И Хокинс и Бодякин (кстати они сильно перекликаются, что мне бросилось в глаза сразу когда я читал Хокинса) опять же те самые слепые мудрецы из притчи, которые "видят" не всего слона. Заметную часть, но не всего.
То что вы называете "синтезом" у них явно упускается или понимается слишком примитивно.

Задачи синтеза в рамках этих подходов решаются только примитивные. Например, синтез движения руки для ловли летящего мяча.

По сути у них эта задача ушла в тень как второстепенная. У Хокинса обсуждается вопрос как работает готовый навык. Что этот навык работает совсем не так как этому учат классического робота.
Но Хокинс совсем ничего не говорит о том как этот навык (ловить мяч) появляется, оттачивается.
А знаете почему? Это считается само собой разумеющимся. Потому что и Хокинс и Бодякин НЕ СОМНЕВАЮТСЯ  в гипотезе Ньюэлла-Саймона. Поэтому имея эту наиболее общую теорию как базу, они и заняты изучением частностей, конкретной реализации этой самой программы.

А вот то, что я тут написал про самоассоциирование и "преобразование пекаря" может быть полезно в плане именно решения задач синтеза.

Преобразование пекаря - это детерминированный хаос. Разновидность псевдослучайности. По сути очень узкая задача генерации случайности нужного нам качества. Я полагаю это достаточно второстипенным (разрешимым если прижмет) вопросом. Куда важней понять как эта случайность (как она производится - второй вопрос) должна быть встроена, интегрирована в систему. Какова ее там роль?

Я лично считаю что  случайность встроена в каждый нейрон в каждый синапс самой физико-химической природой элементной базы мозга. Но природа лепит "из того что было". Я не думаю что надо копировать ее один к одному. И вообще уверен что ИИ такое количество "нейронов" и (главное) "синоптических связей" просто не понадобится. Большая часть наверняка дублируют друг друга, а другая -  компенсируют недостатки элементной базы. То есть сложно и расточительно реализуют те функции, для реализации которых нейронная сеть оказалась крайне неудобным решением.

[незлой]

Я вообще расматриваю НЛП хорошим инструментом в понимании работы психики.

набор инструментов, скорее. наглядная штука, да.

кстати, а если в тесте тьюринга будет участвовать психолог?

[alex_semenov]

По поводу "синтеза".
Надо понимать, что любой алгоритм синтеза это всего лишь  детерминированный алгоритм. То есть синтезирует он лишь то, что предусмотрел программист. И ничего сверх того. Возможно программист что то "предусмотрел" нечаянно. И когда программа выдала что-то неожиданное, он сам удивился (говорят у Тьюринга был такой опыт и это как раз и подвигло его к утверждению что разум это все-таки детерминированная программа).
Алгоритмы могут иметь очень мощный "креативный потенциал". Например "Эвриско" Д. Лената используя ряд алгоритмов-эвристик показала крайне высокую КРЕАТИВНОСТЬ. Не доступную возможно никакому из людей по-отдельности.
И тем не менее. Надо понимать что любая  программа может только то, что в нее заложил программист (явно или случайно). Что-то сверх того что в нее заложено детерминированная программа не может хоть ты тресни. "Выйти из системы" система не может. У любого такого "умника" есть предел креативности. Который в конечном итоге сводится к ситуации Алиса-Привратник.
У эволюции, "метода тык" как бы он ни был сомнителен и несовершенен, неэффективен но такого предела НЕТ. Никто не знает что выдаст случайный генератор.
В этом его главное и решающее превосходство, которое я возможно выявил (возможно!) методом достаточно сложных математических умствований. Поэтому в основе любой думающей машины в основе механизмов синтеза должна лежать "метод тыка". А любые регулярные алгоритмы (правила, эвристики) это уже результаты наслоения выше.
Как это должно совмещаться?
Никто пока и не пытался об этом думать. Не дошли пока. Это слишком глубоко. И Холкинс и Бодякин пока ковыряются в очевидном. Но как только дойдут до этого - до настоящего интеллекта будет уже рукой подать.

[PathFinder]

По поводу "синтеза".
Надо понимать, что любой алгоритм синтеза это всего лишь  детерминированный алгоритм. То есть синтезирует он лишь то, что предусмотрел программист. И ничего сверх того.

Да, детерминированный алгоритм синтезирует только то, что предусмотрел программист, за исключением того случая, когда в программу посткпает информация из внешнего мира. Ну очевидно же!

[Прохожий]

......
Я лично считаю что  случайность встроена в каждый нейрон в каждый синапс самой физико-химической природой элементной базы мозга. Но природа лепит "из того что было". Я не думаю что надо копировать ее один к одному. И вообще уверен что ИИ такое количество "нейронов" и (главное) "синоптических связей" просто не понадобится. Большая часть наверняка дублируют друг друга, а другая -  компенсируют недостатки элементной базы. То есть сложно и расточительно реализуют те функции, для реализации которых нейронная сеть оказалась крайне неудобным решением.

Например рефлексы лучше реализовывать чисто програмно, причем ИИ должен уметь сам создавать  и заменять подобные рефлексы-программы.
Плюс возможность внешней фотографической памяти.
Плюс неограниченный доступ к внешним библиотекам.
И непонятно при этом, будет ли у ИИ хоть какое-то понятие индивидуальности и личности....

[alex_semenov]

По поводу "синтеза".
Надо понимать, что любой алгоритм синтеза это всего лишь  детерминированный алгоритм. То есть синтезирует он лишь то, что предусмотрел программист. И ничего сверх того.

Да, детерминированный алгоритм синтезирует только то, что предусмотрел программист, за исключением того случая, когда в программу посткпает информация из внешнего мира. Ну очевидно же!

Кто еще так ясно и четко думает?
Признавайтесь!
Делайте шаг вперед!
Ибо…
Это одна из самых глубочайших, заскарузлых и плохо искоренимых БРЕДЯТИН.
Сам ею очень долго болел.

Почему очевидно же?
Мне напротив. Очевидно что внешние данные - как мертвому припарки.
Смотрите. У вас есть программа, которая получает некоторую информацию на вход. Как отличить информацию поступающую из внешнего мира от просто информации?
Программа она и есть программа.
Покажите на уровне теории алгоритмов чем данные поступающие из внешнего мира отличаются от данных, которые, скажем, предварительно записаны на ленту?
В чем их волшебно-преобразующее отличие?


Зы. Если кто интересуется ортодоксальным ИИ. Несколько устаревшая, но все же очень емкая и очень популярная книжица. У меня давно есть в личной библиотеке. Случайно на нее нарвался в сети.



Компьютер обретает разум. (Artificial Intelligence Computer Images, 1986)

http://publ.lib.ru/ARCHIVES/Z/''Znakomstvo_s_komp'yuterom''/Komp'yuter_obretaet_razum.(1990).[djv].zip

Взята здесь: http://publ.lib.ru/ARCHIVES/Z/''Znakomstvo_s_komp'yuterom''/_''Znakomstvo_s_komp'yuterom''.html

[alex_semenov]

Например рефлексы лучше реализовывать чисто програмно, причем ИИ должен уметь сам создавать  и заменять подобные рефлексы-программы.
Плюс возможность внешней фотографической памяти.
Плюс неограниченный доступ к внешним библиотекам.
И непонятно при этом, будет ли у ИИ хоть какое-то понятие индивидуальности и личности....

Вот то-то и оно. Мы все "плюсуем".
"Хочу мороженное, пирожное, конфет… шоколадных, эм… потом…"
В навал все складывать?
Или стопочкой?
Ставить рядом?

Мозг - это система. В ней есть функциональная топология. Как в телевизоре. Есть "архитекрута" информационных потоков. Вы (или кто-то еще) может ее хотя бы в самом общем виде очертить? И очертить мало. Надо же объяснить зачем все сделано именно так. Почему не иначе?


Например. Мои теоретизирования говорят что случайность не может включяться иногда. Хотя такой подход кажется очевидным. Но очевидно что вы не может знать что перед вами Привратник. Значит ЛЮБЫЕ ваши действия должны всегда быть ... случайными. При всем нежелании этого, это как раз обеспечить можно. Вернее это всегда и просиходит. Просто некоторые случайные действия у вас неотличимы от неслучайных. Если у вас при входи X на выход подается Y с вероятностью 0.999999 это почти 1 и на практике это всегда выглядит как детерминизм.
Кстати.
Интересная байка. Говорят когда делали какой-то компьютерный мультик, никак не могли добиться живости движений фигур. Потом кто-то решил внести в движения небольшие случайные помехи. Фигуры сразу резко стали более похожими на живые.
С чего бы это?

[Прохожий]

Первые ИИ скорее всего будут максимально похожи на естественный мозг. Сокращение начнется потом....

[alex_semenov]

Первые ИИ скорее всего будут максимально похожи на естественный мозг. Сокращение начнется потом....

Разумеется первый ИИ постараюься сделать максимально совместимым с нами. Хотя бы для того что бы понять что у нас все получается как надо.
Но потом будут не сокращения. Потом будут расширения. И вот эти монстры нам могут быть уж совсем непонятными.

[Прохожий]

.....
Взята здесь: http://publ.lib.ru/ARCHIVES/Z/''Znakomstvo_s_komp'yuterom''/_''Znakomstvo_s_komp'yuterom''.html

Опять эта таинственная Эвриско.
Кстати, победила она в Космобитве, создав кучу мелких злых кораблей.....

[ВадимZero]

Никто никогда не идет от общего к частному на самом деле ни от частного к общему. Хотят как бог надушу положит. Стараются сразу иметь общую картину и частного и общего. Что называется "уточняют карту".

Возможно я не совсем верно выразился. Чтобы получить модель звезды, нужно собрать большой массив информации о ней, и на основе ее моделировать.

Да почему вы решили, что я его не наблюдаю?

Наблюдаете конечно, но! Где причинно-следственная связь между вашими наблюдениями и теми моделями которые вы выбрали? Какое наблюдение привело вас, к конкретной интересуемой вас модели? Может вы ищите просто там где светло? Тоесть там где вы себя как рыба в воде чуствуете? Если это так, то думаю отчасти это имет смысл, но лишь от части. В целом я считаю нужно отталкиваться от наблюдений и иследований. Иначе будет гадание на кофейной гуще.

Просто математика дает еще один вектор понимания феномена разума. Притом самый асбстрактный, общий.

Есть одно но! Если мы принимаем что разум это продукт эволюции, а не творение математического бога, нам нужно признать что у эволюции есть свои ограничения. Путем эволюции нельзя получить программу "Word" так как для ее создания нужно сделать энное количество промежуточных шагов которые сами по себе не представляют ценности, а потому не могут быть закреплены отбором. Процес превращения рептилии в птицу имет множество промежуточных значений, и каждое из них было адаптацией для носителя. В противном случае птиц бы не было. Это програмный инжинер может работать на результат, а эволюции подавай выгоду прямо сейчас. Потому мне не совсем понятно, почему люди ищут сложную математику в разуме..Природа порождает сложное из простого, сразу сложное она не в состоянии создать. Природа гениальна в своей простоте. И если мы уж принимаем что разум продукт эволюции, то разумно в нем искать эволюционные механизмы, они для природы самые доступные.
  Второе мое наблюдение...
Многие открытия, люди для себя делают в процессе общения с друг другом или самим собой. В моем понимании мышление и общение имеют одинаковую алгоритмию. Отсюда я делаю вывод, общение и мышление это способ мутации и рекомбинации мемов с целью создания новых мыслеформ. Язык вообще очень удобный конструктор для создания новых мемов. Как же это происходит? Общение можно разделить условно на две операции, слушание и говорение. Первое это процес перевода лингвистической информации в сенсорную, психическую второй обратный процес. Оба процесса создают искажения и как следствие мутацию мемов. Другая причина мутации, сам процес извлечения инфы из базы данных(память) Когда мы общаемся с другим человеком, то способны получить такой запрос для нашей памяти, который сами не способны сформировать. То что из памяти извлекаеться завистит от самого запроса, от алгоритма поиска и от содержания самой базы. Тоесть сдесь большое раздолье для генерации новых мемов. Процес поиска новых решений во многом связан с самим поиском в памяти. Потом возможно на примере это покажу.
    Далее идет отбор, во первых субьект пытаеться понять может ли новый мем быть для чегото пригоден, тоесть являеться ли он ресурсом для достижения целей. Второй этап отбора, либо непосредственное применение, либо моделирование применения(воображение) Подитоживая выше сказаное, можно сказать..Разум по сути супер-пупер ускоритель эволюции.
   Третье мое наблюдение..
Человек это такой компьютер который програмирует сам себя. А значит должна существовать какая то часть психики которая, выполняет функции програмиста, и есть та часть которая являеться компом где эти программы работают. На роль програмиста больше всего потходит сознание, на роль компа бессознательное. Конечно сознание не каких конкретных програм и не создает, оно просто генерирует разные полезные участки кода, а бессознательное уже пытаеться их соеденить во чтото цельное. Но у человека(сознания) обычно нет понимания того что у него есть бессознательное, и тем более нет понимания того как им ползоваться. Потоу большинство людей пытаються решать задачи сознательно, а потому часто ошибаються, наступают на старые грабли и т.д. Но есть и те которые пользуються своим компьютером в голове при решении задач, хоть и не понимают того как они это делают. Для примера читал статью об сравнении МРТ сканов, професиональных шахматистов и любителей. Так вот любители задействуют в оснавном левое полушарие(там локализовано сознание), а вот професионалы задействуют оба.
Вот такие мысли....

[Patsak]

alex_semenov:
Я тоже очень сильно надеюсь? что невычислимость бывает разная.

Это радует.

alex_semenov:
Хотя интуиция подсказывает что все невычислимые задачи очень сильно похожи на класс NP-полных задач.

Это не имеет никакого отношения к алгоритмически неразрешимым проблемам.

PathFinder:
Дело в том, что случайные химические процессы в нейронах, а также теории Хокинса и Бодякина предлягают решение только аналитических задач. Когда известна входная информация и нужно её "разложить по полочкам", найти в ней некую иерархическую организованность.

Иерархия (дерево, в смысле графа) вполне приличная, но не адекватная, на наиболее общем уровне, модель. По определению, на этом уровне, не может быть какой-то выделенной точки отсчета, иначе он недостаточно общий. Расширяющуюся сеть, я еще готов представить, но дерево и тем более последовательность(линию), извините, эти "Лебединые" песни я уже слышал…

[незлой]

Путем эволюции нельзя получить программу "Word"

а как она получилась, извините?
эволюция видов привела к хомо, эволюция мемов -- к сапиенсу^2 (у нашего вида большое самомнение ), эволюция социума -- к программистам, творящим редакторы, эволюция редакторов, наконец -- к мс ворд 20XX

И если мы уж принимаем что разум продукт эволюции, то разумно в нем искать эволюционные механизмы, они для природы самые доступные.

факт.

кстати, а в чём вообще проблема с "синтезом"? эволюционный алгоритм справляется с такими задачками нараз, а то, что мы нашему сознанию не все черновики предъявляем -- дык кажется уже достаточно многим понятная вещь.

Отсюда я делаю вывод, общение и мышление это способ мутации и рекомбинации мемов с целью создания новых мыслеформ. Язык вообще очень удобный конструктор для создания новых мемов.

пришёл однажды термин для "среды", в которой "живут" и эволюционируют мемы: "мемир". понравился, хотите -- пользуйтесь: красивый, пусть живёт
для пояснения: скажем, "лингвистика" - наука, изучающая ряд параметров этого мемира: мемы ведь не абы как мутируют (точнее не абы как "выживают"). больше того, "чувство грамматики" (т.е. банальное понимание, что "предложение построено неверно, такого небывает") - вполне базово, человек как правило не может объяснить - почему, просто понимает, что это так.
за редкими исключениями.
а когда статистика говорит, что исключения, пожалуй, перестают быть исключениями -- лингвисты берут бумагу, ручку и идут изучать новый "диалект": мемы влияют не мемир также, как жизнь на среду, в которой она существует. 

То что из памяти извлекаеться завистит от самого запроса, от алгоритма поиска и от содержания самой базы. Тоесть сдесь большое раздолье для генерации новых мемов. Процес поиска новых решений во многом связан с самим поиском в памяти. Потом возможно на примере это покажу.

покажите, интересно. память -- вообще штука дюже интересная..

   Третье мое наблюдение.

неистово плюсую.

[незлой]

А значит должна существовать какая то часть психики которая, выполняет функции програмиста, и есть та часть которая являеться компом где эти программы работают. На роль програмиста больше всего потходит сознание, на роль компа бессознательное.

впрочем, "программист" в данном случае, имхо, несколько сбивает с толку: большая часть программ пришли готовыми, допилить только к конкретному "микро-ядру", причём вообще не факт, что эта "притирка" - акт сознательный.
скорее эмулятор нас в мемире. того самого "микро-ядра".

[ВадимZero]

а как она получилась, извините? эволюция видов привела к хомо, эволюция мемов -- к сапиенсу^2 (у нашего вида большое самомнение ), эволюция социума -- к программистам, творящим редакторы, эволюция редакторов, наконец -- к мс ворд 20XX

все так, но всеже сначала было яицо(эволюция), а потом курица(разум)..а не наоборот. Хотя я понимаю вы шуткуете.
Эволюция без отбора слепа, отбор это глаза эволюции. Потому она не может жертвовать своими глазами и идти в слепую.  А вот у разума свои глаза. Разум может сделать кучу нелепых шагов, поскольку стоимость их мизерна, а прибыль огромна.

кстати, а в чём вообще проблема с "синтезом"? эволюционный алгоритм справляется с такими задачками нараз, а то, что мы нашему сознанию не все черновики предъявляем -- дык кажется уже достаточно многим понятная вещь.

Я думаю многим просто не нравиться отбор как идея и двигатель. Многие хотят получить все сразу и без ошибок с помощью волшебного алгоритма.

мемы ведь не абы как мутируют

Не абы как, конечно. Алгоритм изменчивости мемов, как и генов направленен отбором. Он так сказать оптимален в плане генерации чегото нового.

больше того, "чувство грамматики" (т.е. банальное понимание, что "предложение построено неверно, такого небывает") - вполне базово, человек как правило не может объяснить - почему, просто понимает, что это так. за редкими исключениями.

Это называеться синтаксисом или структурой языка. Хомский это подробно изучал.

покажите, интересно. память -- вообще штука дюже интересная..

Я тут уже кричал что важна конкретика в понимании разума. Пришло время..так сказать начать с себя..
Вот мой пример из жизни..В котором я как понимаю проявил разумность в создании чегото нового.
Служил я когда то в армии(я дмб-99) И там есть интересное занятие, отмывание черных полос от взлетки оставленых керзачами. Товарисч прапорщик обьяснил как это делаеться...Береться тазик с водой, крошиться мыло и веником из прутиков создаеться пена. С помощью этой пены и щетки черные полосы удаляються. Процес как говориться полностью оптимизирован для закалки боевого духа солдата...Но я как человек ленивый по своей природе и стремящийся к оптимизации..Задался вопросом.."А нельзя ли это проще сделать?" Понятно что вне контекста этот вопрос, бесмысленен. Но он был в контексте, а потому превратился в конкретный фильтр поиска..Найти появление пены, с наименьшими затратами, вовремени, обьеме и прочими ресурсами. Проштудировав мою память, бессознательное выдало тот наблюдаемый когда то эфект который максимально соответствует запросу. Пена быстрее всего появляеться в пластиковой бутылке с газироваными напитками, стоит только встряхнуть.....Ага! подумало мое сознание. Вот оно. Налил в бутылку воды, накрошил мыла, встряхнул..И такое удобное приспособление появилось, что сам не ожидал. Мои сослуживцы очень быстро идею переняли и кстати даже не помнят что именно я ее изобретатель. Им так сказать не интересно это.
Заметте в данной ситуации нет не каких фантастическо-непонятных алгоритмов. Есть желание оптимизировать, которое порождает в сознание создать лингвистический запрос который максимально соответствует желанию. Когда бессознательное превратило запрос в фильтр поиска, оно не чего нового не создавало, а просто использовало обьем памяти как ресурс. Видете сдесь есть элемент мутации, за ранее неизвестно что получиться, так и элемент направленности эволюции. Сама логика языка его направляет. Мы в своей жизни часто, делаем запросы для памяти и очень редко получаем что то ценное. Но веть цена такой эволюции копейка! Какието несколько грам глюкозы для питания мозга в течении нескольких минут.
 Гениальное в простом не правдали? В будущем еще примеры приведу.

[ВадимZero]

причём вообще не факт, что эта "притирка" - акт сознательный.

Это так, притирка акт рутинный, а значит бессознательный. Вообще и сознание и бессознательное занимаються рутиной в некотором смысле. Сознание изучает окружающий мир и генерит идеи по поводу него, бессозательное занимаеться удовлетворением запросов идущих от сознания, так и идущих от генетических мотиваторов. А вот когда они вместе взаимодействуют как пара, они творец! В некотором смысле сознательное и бессознательное развлекаються тем что удивляют друг друга.
Хотя скорее всего притирка просто эволюционный процес, метод проб и ошибок.

[alex_semenov]

alex_semenov:
Хотя интуиция подсказывает что все невычислимые задачи очень сильно похожи на класс NP-полных задач.

Это не имеет никакого отношения к алгоритмически неразрешимым проблемам.

Я говорю об ассоциациях, аналогиях. Разумеется, не имеет.

[Starscream]

Есть желание оптимизировать

Лень - это двигатель прогресса Делать что-то наиболее правильно, наиболее эффективно, быстро - это свойство самой жизни, не то что разума. Оно проявляется всюду - взять хоть простейшие микроорганизмы, хоть вирусы.