ИИ: какого понимания нам не хватает?

[незлой]

Но. Суть в чем. Что и бессознательные процессы мозга пользуется "речью". То что мы называем человеческой речью это всего лишь одна из внутренних
речей мозга, которая через голосовые связки "вырвалась наружу". Но она - крайнем ограниченная часть всех речей мозга.

и у животных???
предлагаю упростить задачу -- к чертям ии, давайте сделаем простейшую крысу сначала. а потом "проеволюционируем" её до сапиенса.
на каком этапе вам потребуется лингвистика?

Я пытаюсь подступиться к построению самой общей теории разума вытекающей из самых абстрактных моделей математики, теории алгоритмов. Без вникания в детали того как наш конкретный разум реализован. Кстати, мало кто пытается это делать. А зря. Без этого никак нельзя двигаться дальше. Никто в одинокру не разберется в работе разума от начала до конца. Значит надо выбирать себе участок брать больше и кидать дальше. Разумеется оглядываясь по сторонам и видя кто как копает еще. Понимая общий замысел.

полностью согласен. но тут тоже простейшая психология: каждый полагает свой участок фронта особенно важным
человеки есмь, чё.

[незлой]

Нет не вижу.
Уточните где противоречие.

вы пытаетесь рассматривать не сам разум, но максимально абстрагированную картинку этого разума, и других путей не видите в принципе. с другой стороны, вам нужно понимание самого разума, а не своих моделей по его поводу, "правдоподобные механизмы" вам почему-то не подходят.

[Кремальера]

А зря. Без этого никак нельзя двигаться дальше. Никто в одинокру не разберется в работе разума от начала до конца. Значит надо выбирать себе участок брать больше и кидать дальше. Разумеется оглядываясь по сторонам и видя кто как копает еще. Понимая общий замысел

Кстати, а мы сейчас на каком отрезке пути по созданию ИИ??Процентов тридцать от целостного понимания хоть прошлепали?Здесь наверное показателен пример мыши-терминатора проломившейся через лабиринт. :DЕсли не получается витееватый путь долгого вынашивания полноценного ИИ,то может все максимально упростить.И пойти сначала.?Попытаться вложить некоторые функции ИИ в тупые железки.Типа новейших АМС.Что в принципе мерикане и пытаются сделать.Curiosity который должен свалится на Марс в конце лета ,обладает ведь некой свободой самостоятельного принятия решений.

[alex_semenov]

Нет не вижу.
Уточните где противоречие.

вы пытаетесь рассматривать не сам разум, но максимально абстрагированную картинку этого разума, и других путей не видите в принципе.

Я просто откладываю эти пути на потом. Имею в виду.

с другой стороны, вам нужно понимание самого разума, а не своих моделей по его поводу, "правдоподобные механизмы" вам почему-то не подходят.

Все равно не понял где противоречие.
И что значит "понимание самого разума"? Чувствование? Что вы понимаете под пониманием? Лично я под пониманием и понимаю моделирование, построение модели.
Понять - значит упростить. Построить модель. Понять правильно - построить адекватную модель. Упростить правильно. Откинув неважное. Понять неправильно - построить неадекватную модель. При упрощении откинуть что-то важное.
Когда я говорю о максимально абстрактной модели разума, я отбрасываю все и оставляю одну грань разумного поведения - решение нетривиальных задач, задач на сообразительность. Отсюда пляшу.
Когда я буду идти назад - я прособираю все отброшенное в процессе упрощения. Но теперь это будет не эклектика. Это все станет на свои места. Понимаете?
Разумеется это буду не я. Это будет (даст бог) кто-то другой.

[alex_semenov]

и у животных???

Конечно!

предлагаю упростить задачу -- к чертям ии, давайте сделаем простейшую крысу сначала. а потом "проеволюционируем" её до сапиенса.
на каком этапе вам потребуется лингвистика?

Не знаю. Наверное еще у медуз.
Что вы понимаете под лингвистикой? Под языком?
Язык это некое подмножество цепочек символов в некотором алфавите.
Наверное лучшее для восприятия идеия вот тут:

http://www.informograd.narod.ru/IR_2005/IR_2010/Neiroseman_forma.html

(там могут быть проблемы с кодировкой надо пошаманить)

Значит надо выбирать себе участок брать больше и кидать дальше. Разумеется оглядываясь по сторонам и видя кто как копает еще. Понимая общий замысел.

полностью согласен. но тут тоже простейшая психология: каждый полагает свой участок фронта особенно важным
человеки есмь, чё.

Ну тут как говорится каждый сам за себя, один бог за всех. Большого греха нет.

[alex_semenov]

Кстати, а мы сейчас на каком отрезке пути по созданию ИИ??Процентов тридцать от целостного понимания хоть прошлепали?

Интересный вопрос. Я вот дутмю, возьмется кто-нибудь на него ответить из гуру?
Гм… Вряд ли.
Мы даже не можем оценить степень своего непонимания пока.

Здесь наверное показателен пример мыши-терминатора проломившейся через лабиринт.
:DЕсли не получается витееватый путь долгого вынашивания полноценного ИИ,то может все максимально упростить.И пойти сначала.?Попытаться вложить некоторые функции ИИ в тупые железки.Типа новейших АМС.Что в принципе мерикане и пытаются сделать.Curiosity который должен свалится на Марс в конце лета ,обладает ведь некой свободой самостоятельного принятия решений.

Не думаю что будет толк.
"Что в спешцi робиться - то мертвим родиться" (укр.)
Уже было. У Марвина Минского в конце 60-х.

[незлой]

И что значит "понимание самого разума"? Чувствование? Что вы понимаете под пониманием? Лично я под пониманием и понимаю моделирование, построение модели.

вы украли мой следующий вопрос к вам.

Понять - значит упростить. Построить модель. Понять правильно - построить адекватную модель. Упростить правильно. Откинув неважное. Понять неправильно - построить неадекватную модель. При упрощении откинуть что-то важное.

.. и ответили вы почти также, как ябы ответил, разве что я был-бы ещё более категоричен: "понять" -- значит построить рабочую модель, ни больше, ни меньше.

Когда я говорю о максимально абстрактной модели разума, я отбрасываю все и оставляю одну грань разумного поведения - решение нетривиальных задач, задач на сообразительность. Отсюда пляшу.
Когда я буду идти назад - я прособираю все отброшенное в процессе упрощения. Но теперь это будет не эклектика. Это все станет на свои места. Понимаете?
Разумеется это буду не я. Это будет (даст бог) кто-то другой.

понимаю: вы начинаете строить дом с крыши, потому что и в собственном живёте на чердаке.
а потом удивляетесь, почему эта крыша "не стоит".. дык потому и не стоит, что ни стен, ни фундамента.

[незлой]

Что вы понимаете под лингвистикой? Под языком?

цепочки указателей на элементы мира вокруг и правила построения подобных цепочек.
с развитием "лингвистики" стали появлятся и указатели второго порядка, т.е. указатели на указатели (так появились "абстракции").

зы: впрочем -- ага. понял вас: определение вполне подходит и к сигналам по синапсам какойнибудь крысы..
хм. спасибо, подумаю над уточнением.

[alex_semenov]

вы украли мой следующий вопрос к вам.

Рад за себя!

Понять - значит упростить. Построить модель. Понять правильно - построить адекватную модель. Упростить правильно. Откинув неважное. Понять неправильно - построить неадекватную модель. При упрощении откинуть что-то важное.

.. и ответили вы почти также, как ябы ответил, разве что я был-бы ещё более категоричен: "понять" -- значит построить рабочую модель, ни больше, ни меньше.

А чем рабочая модель отличается от просто модели? Кстати, вы в курсе что в математике есть теория моделей? То есть наиболее абстрактное воплощение понятия "модель".
Модель и строится всегда для работы с ней.
Если уточнять модель то не рабочая а ПРЕДСКАЗАТЕЛЬНАЯ модель.
Вы знаете что такое управление по отклонению и что такое управление по возбуждению?
Мозг - ситема управления телом по возбуждению. Она предсказывает будущее до того как оно наступит. И если предсказание совпадает, мозг все так же бессознательно запускает реакцию на наступившее будущее. А вот если происходит рассогласование (что-то не так!) сюда приглашается сознание и концентрируется внимание.
Идея не моя. Вернее моя. Но до меня ее высказал другой. И хорошо высказал.

http://lib.rus.ec/b/211853/read

понимаю: вы начинаете строить дом с крыши, потому что и в собственном живёте на чердаке. а потом удивляетесь, почему эта крыша "не стоит".. дык потому и не стоит, что ни стен, ни фундамента.

Нет. В данном случае самый абстрактный уровень - это и есть фундамент. Вообще тут могут быть очень необычные когнитивные преобразования ассоциаций.
Я не пойму вас.
Что вы взъелись на мою "крышу"? Что вы строите? "Интеллект" Это ведь бирка. Она ничего не объясняет.
Что есть интеллект? Как можно строить то, незнама что?

Вы хотите построить самолет.
Что такое самолет? То что летает над землей само? А по проводу "летать" над землей оно может? Нет? Это фуникулер? А тоже ж летит над землей! Как бы! Очень похоже на самолет!
А что же такое "самолет" по-вашему?

[Инопланетянин]

Вы имеете в виду реализована?

Да. Именно реализована.

Что значит "не удаться реализовать настоящую случайность"?
Если речь идет о математике и ее идеальных машинах абстракциях то настоящую случайность мы можем просто ПОСТУЛИРОВАТЬ так же как мы постулируем (объявляем) все остальные базовые понятия математики.

Тогда в чём проблема? Если мы ПОСТУЛИРУЕМ, что Алиса и модель Алисы обладают настоящей случайностью, то проблема решается легко. А если ПОСТУЛИРУЕМ, что нет тогда - нет. Тут как постулируем так и решим.

"Пока умный разувался дурак реку перешел".

В данном случае второй субъект выиграл скорость, потеряв на качестве своей обуви. В большинстве случаев действительно глупое решение, т.к. выигранное время не стоит замоченной обуви, но если, скажем человек убегает от опасности, то и умный пойдёт на неудобства, спасаясь от гораздо больших неприятностей.

Но случайный автомат у нас ОДИН И ТОТ ЖЕ

Т.е. он и может быть ТОЛЬКО ОДИН потому что это случайность в чистом виде и ничего больше?

[alex_semenov]

зы: впрочем -- ага. понял вас: определение вполне подходит и к сигналам по синапсам какойнибудь крысы..
хм. спасибо, подумаю над уточнением.

Вы Бодякина почитайте (походите вокруг той ссылки что я вам дал). Он, Бодякин, чуть чуть чокнутый. Это может испугать и оттолкнуть. Но вы не бойтесь. Он как раз чокнутый как надо! Злоупотребляет аббривиатурами. Наукообразен и местами очень неправ. Но в целом я считаю его одним из пророков. Ну а Джефф Хокинс - это вообще КрасавчеГ во всех отношениях.
Вам это понравится.
Ведь в чем проблема? Нельзя строить крышу без фундаметна но и фундамент закладывать, не понимая как там все выше вплоть до крыши будет - тоже нельзя. Надо иметь примерный план всего. Я его и имею. Но это я.  Примерный. А людям нужна конкретика. Конкретику надо начинать с основы. С самого фундамента.

[незлой]

Если уточнять модель то не рабочая а ПРЕДСКАЗАТЕЛЬНАЯ модель.

пытался уйти от слова "адекватная" ввиду его расплывчатости
"предсказательность" -- критерий проверки модели, не вижу разногласий.

Что вы взъелись на мою "крышу"? Что вы строите? "Интеллект" Это ведь бирка. Она ничего не объясняет.
Что есть интеллект? Как можно строить то, незнама что?

ну, у эволюции-же получилось?
значит вполне можно

Вы хотите построить самолет.
Что такое самолет? То что летает над землей само? А по проводу "летать" над землей оно может? Нет? Это фуникулер? А тоже ж летит над землей! Как бы! Очень похоже на самолет!
А что же такое "самолет" по-вашему?

аппарат, опирающийся на воздух. а по вашему?

[alex_semenov]

Тогда в чём проблема? Если мы ПОСТУЛИРУЕМ, что Алиса и модель Алисы обладают настоящей случайностью, то проблема решается легко. А если ПОСТУЛИРУЕМ, что нет тогда - нет. Тут как постулируем так и решим.

Так и есть. Но проблему с истинной случайностью поднял не я же.

"Пока умный разувался дурак реку перешел".

В данном случае второй субъект выиграл скорость, потеряв на качестве своей обуви.

Я лично понимаю смысл этой фразы шире и несколкьо по Дзен-буддиски. Высшая (предельная) форма ума - полная глупость.

Но случайный автомат у нас ОДИН И ТОТ ЖЕ

Т.е. он и может быть ТОЛЬКО ОДИН потому что это случайность в чистом виде и ничего больше?

По сути да.
Вообще это так называемое вырожденное решение. Опять же математическая идеализация. Но смысл ее  может быть очень глубок. Опять же напрашивается дзен-буддиская парадоксальность. Они говорят: чем глубже ты изучаешь дзен, тем дальше ты от цели. Чем глубже ты понимаешь мир, тем менее гениален (случаен) в целом ты становишься. Читая случайность своего рода воплощение божественной мудрости и творчества а наш разум "замутнеет" логикой, опытом и всякого рода пониманием.

[PathFinder]

Но случайный автомат у нас ОДИН И ТОТ ЖЕ, а детерминированные решатели - разные.

Повторюсь, случайность может как вести к решению задачи, так и уводить от него.
Например, множество неразумных муравьёв, передвигающихся случайным образом могут обнаружить какую-нибудь хорошо замаскированную дырку. И даже если таких дырок несколько и их "нужно" обнаруживать в строго олределённой последовательности, "случайные муравьи" с этой задачей справятся.
Но, эти "случайные муравьи" не смогут повторять решение этой задачи на регулярной основе!
Понимаете?

[PathFinder]

Александр, обращаюсь к вам с вопросом немного не по теме.
Помните, вы говорили про теорему о бесконечной обезьяне?
Как вы думаете, а в числе Pi, например, могут содержаться какие-нибудь тексты?
Если, скажем, рассматривать пары цифр числа Pi, как ASCII-кодировку.

[незлой]

Но, эти "случайные муравьи" не смогут повторять решение этой задачи на регулярной основе!

добавить память -- и смогут.

[незлой]

в принципе можно ещё усилить: любой алгоритм есть оптимизация эволюционного алгоритма к конретной задаче/классу задач.
т.е. это всё тот-же эа, но некоторые "ветви" намертво обрубленны (для чего и нужна память).

[alex_semenov]

"предсказательность" -- критерий проверки модели, не вижу разногласий.

Отлично.

Что есть интеллект? Как можно строить то, незнама что?

ну, у эволюции-же получилось?
значит вполне можно

Но она это делала миллиарды лет. И не факт что у нее получилось…

А что же такое "самолет" по-вашему?

аппарат, опирающийся на воздух. а по-вашему?

Не важно что по-моему. Когда вы даете такое лаконичное и в принципе нам обоим (и не только нам) понятное определение вы по сути строите самую абстрактную функциональную модель самолета. Вы очерчивает границы, рамки.
Дирижабль, уже не входит в это понятие. Хотя если термин "опирается" трактовать чуть шире…
Понимаете?
Что есть интеллект? Люди по-разному это определяют. И не всегда они неправы. Но где гарантия что они достаточно полно определили разум вообще?
"Что есть человек?" "Человек есть животное о двух ногах и без перьев". Говорят так сказа Платон. Диоген ощипал петуха выпустил на базаре и воскликнул: "вот платоновский человек!"
Но ведь Платон дал вполне верное определение! Животное? Животное! О двух ногах? О двух! Без перьев? Без!
Разум это способность адекватно обрабатывать входящую информацию… бла бла бла…
И? Толку то?
Каждый щупает этого слона но видят ли они всего слона?

В 1950-м Алан Тьюринг сделал возможно самый сильный за все 50 лет ход к определению разума. Он сказал, что разум это прежде всего ОСОБОЕ поведение. Разум от неразума можно отличить по поведению. Предложил свой тест. Не будем его сейчас обсуждать. Не в этом суть. Он резко сузил пространство поиска.
Разумное поведение. Тот кто разумно себя ведет - тот разумен. Как он это делает - это уже не важно теперь. Как отличить разумное поведение от неразумного?
Давйте для начала субъективно.
Разум способен удивлять. Когда ворона делает неожиданно умный финт или ваша собака что-то делает такое умное, что вы сразу настораживаетесь. Верно? Вы удивлены и … вглядываетесь им в глаза.
То есть. Возможно разумное поведение можно строго отличить от неразумного, механического? Можно?
Я говорю. Разум способен находить решения, которые в него никто не закладывал, никто ему не обучал не подсказывал. Это - ключевое отличие разума. Не обучаться, а самообучаться.
Тут сразу же появятся радетили и закричат: так вороны, кошки и собаки так тоже умеют. А разум есть только у нас, людей.
Так вот. "Заткните поддувала недоумки!"  У вас разума меньше чему в вашей собаки. Вам, дудакам, он не нужен был последние 150 000 лет. Вы имели язык, культуру. Вам не надо было самообучаться. За 150 000 лет вы не сильно опустились, но опустились. Вас учили уже. И собственный разум вам был ни к чему.  Но это уже ваша, человеческая особенность. Вы пожертвовали личным разумом ради коллективного усилителя. Породили мемоны. И продолжаете на нем тупеть как свиньи на скотобазе жиреть.
Но  разум же остается разумом.

[незлой]

в тесте тьюринга решение о разумности принимают другие разумные, т.е. это бесконечная рекурсия вместо определения, по сути.

кстати, совершенно не уверен что "индивидуальный разум" возможен в принципе. по крайней мере до сих пор в естественных условиях он не наблюдался.
почему вы решили, что он есть? "изнутри" так видится?

[Patsak]

alex_semenov:
Мы слишком узко понимаем понятие "вычислимость", считая вычислимыми только вычисления, происходящие за конечное число шагов.

Почти согласен. Я бы сформулировал так: тезис Черча-Тьюринга ошибочен.

alex_semenov:
но если вы не понимаете глубину идеи УНИВЕРСАЛЬНОГО ВЫЧИСЛИТЕЛЯ, вы не уловите месседж. Всю силу редуционизма "сильного ИИ". Давайте придумаем самый лаконичный язык программирования, который позволит написать ЛЮБУЮ программу, которую можно написать. Сделать любые (математически строго любые!) вычисления.
Сколько вам нужно элементарных операторов-кирпичиков?
Я выше их перечислил. Всего 4.

Помнится, для реализации минимальной универсальной машины Тьюринга требуется 4 состояния головки и 6 состояний ленты. Хотя это касается только «чистых» машин, не использующих, результаты своих вычислений, как команды. Последние машины, на сколько мне известно, не исследовались, а именно в этом и может быть спрятана одна из тайн смысла (содержания, семантики).
Нахождение предельно малых универсальных машин Тьюринга, может пролить свет на некоторые частные алгоритмически неразрешимые задачи.
В частности, имея доказательство существования универсальной машины Тьюринга с n состояниями (или ее саму), можно доказывать утверждения о не существовании решений не которых алгоритмически не вычислимых функций, определенных через машины Тьюринга с n состояниями.
Вообще-то, само существование универсальных машин с разным конечным количеством состояний косвенно опровергает тезис Черча-Тьюринга, т.к. конфликтует с некоторыми интуитивными  арифметическими представлениями, связанными с индукцией.
Это отдельная, интересная тема.

незлой:
мы пытаемся разобраться в этой мешанине, "сидя" в самой её сердцевинке, у нас даже нет возможности посмотреть на это безобразие со стороны.

Можно сказать и так, а можно сказать наоборот, мы только и делаем, что смотрим на это со стороны, и никогда не прислушиваемся к себе, чтобы сопоставить модели абстракций с чувственными образами.
Могу предложить такой утрированный мысленный эксперимент, чтобы описать, о чем это я.
Предположим, двух испытуемых поместили в две закрытые комнаты и предложили им между собой пообщаться следующим способом.
Одному предъявляется какой-нибудь образ, желательно, в чистом виде, как ощущение – может стимулированием отдельных нейронов или на худой конец просто картинкой перед глазами.
Он должен сформулировать определение этого образа, т.е. перевести его в абстракцию, в набор символов и передать другому. Другой должен восстановить из этой строки символов (формальной абстракции), соответствующий ей образ, у себя в сознании, который передается (уже как образ) первому испытуемому для сравнения.
Вкратце, может получится такая интересная ситуация.
Допустим первому показался образ квадрата (я утрирую, чтобы было ясно). Он переводит этот чувственный образ  в такую вот абстракцию чистого разума (строку символов):
строка1: «это фигура, имеющая четыре стороны и четыре вершины».
Эта строка попадает второму испытуемому, он ее читает и в его сознании возникает образ тетраэдра – он ведь имеет четыре стороны и четыре вершины. Этот образ возвращается первому в виде электрического импульса в мозг или просто картинки тетраэдра. Первый, естественно, в недоумении. Понимает, что перевел свой образ в абстракцию не полно. Решает дополнить строку1: Строка2: «строка1 + это геометрическая фигура, имеющая четыре ребра и четыре вершины, стороны равны между собой».
Второй, получая строку, представляет себе в сознании ромб и этот образ «уплывает» первому. 
Первый вновь уточняет абстракцию – строку символов: строка3: «строка1+строка2+ стороны перпендикулярны». Второй представляет теперь вырезанный из мяча «квадратик».
Первому пора лезь в дебри аксиоматизации того, что такое плоское Евклидово пространство, параллельные и т.д.
Конечно, если испытуемые одного уровня сознания, способные одинаково владеть образами и абстракциями соответствующего уровня размерности, например понимать и ощущать, что такое квадрат, переводить одно в другое (образ в абстракцию и обратно), то они поймут друг друга. По крайне мере для большинства практических целей.
В то же время, мы знаем, что любая формальная система, которую они используют для построения строк (абстракций) неполна, следовательно, должен существовать и образ, который для любого, сколь угодно точного описания будет отличаться в головах разных испытуемых.
Во-вторых, существуют испытуемые разного уровня сознания. У одного в сознании может уместиться, например, что-нибудь четырехмерное, вроде гиперкуба или светового конуса, а у второго нет. Вот вам и один из критериев уровня сознания. Можно назвать его топологической размерностью сознания, можно использовать и дробную размерность, которой обладают, например фракталы. Тогда мы получим непрерывную шкалу размерности сознаний. По этой шкале можно будет сравнить, например, обезьяну с человеком и иметь хоть какое-то наглядное представление о следующих уровнях сознаний, на лестнице Г.Кантора.