Голосование

Когда появится сильный ИИ (замена человека) ?

до 2030 года
от 2030 до 2050 года
в XXI веке
в ближайшие тысячи лет
Никогда
Не могу оценить/не знаю/другое

A A A A Автор Тема: ИИ: какого понимания нам не хватает?  (Прочитано 106257 раз)

0 Пользователей и 1 Гость просматривают эту тему.

Nucleosome

  • Гость
Re: ИИ: какого понимания нам не хватает?
« Ответ #400 : 09 Июн 2012 [03:09:32] »
Вы считаете что она продолжает идти?
да, как минимум в смысле стабилизирующего отбора. и для движущего тоже есть весь необходимый простор
условия и критерии конкуренции задают люди.
только эти условия тоже подверженный эволюции.
однако про эволюцию не эта тема, правда о чём эта в толк не возьму...

Оффлайн Klapaucius

  • *****
  • Сообщений: 11 527
  • Благодарностей: 187
  • Илья
    • Сообщения от Klapaucius
Re: ИИ: какого понимания нам не хватает?
« Ответ #401 : 09 Июн 2012 [04:18:12] »
Эта тема о том, что ИИ без человека не может существовать. Невозможно "восстание машин". Человек останется связующим звеном между ИИ и реальностью, прочно займёт это место на какой-то длительный срок. Либо как полноценный паразит-пользователь (ну, пусть не паразит, а на правах создателя хозяин, пользователь инструментов по расширению своих возможностей скажем - суть по-моему та же), либо как необходимый придаток-звено. Надеюсь я правильно понял.
Carthago restituenda est

Оффлайн Проходящий Кот

  • *****
  • Сообщений: 19 351
  • Благодарностей: 426
    • Сообщения от Проходящий Кот
Re: ИИ: какого понимания нам не хватает?
« Ответ #402 : 09 Июн 2012 [08:30:00] »
Ганс --- сторонник вечного мягкого ИИ, без твердости.....

Оффлайн Okub62

  • *****
  • Сообщений: 25 853
  • Благодарностей: 601
  • Мне нравится этот форум!
    • Сообщения от Okub62
Re: ИИ: какого понимания нам не хватает?
« Ответ #403 : 09 Июн 2012 [14:26:50] »
... где ж тут ИИ? По-моему, им и не пахнет.
В данном случае он особенно и не нужен. Но надо же с чего-то начинать?
Лет 30 ещё назад начали бы с создания искусственных солдат. Какие времена запросы, такой и выхлоп.
С уважением. Олег

Nucleosome

  • Гость
Re: ИИ: какого понимания нам не хватает?
« Ответ #404 : 09 Июн 2012 [19:53:51] »
Лет 30 ещё назад начали бы с создания искусственных солдат.
но и сейчас же тоже делают - ну не собственно солдат, но всяких там "собак" для военных целей прежде всего. только влетают они гораздо дороже этих "кукол"... правда видимо ни то ни другое к интелекту отношения не имеет...

Оффлайн -Asket-

  • *****
  • Сообщений: 3 898
  • Благодарностей: 399
  • Шапочка из фольги - последний бастион разума
    • Сообщения от -Asket-
Re: ИИ: какого понимания нам не хватает?
« Ответ #405 : 07 Июл 2012 [17:42:58] »
Алгоритмическая неразрешимость – это не препятствие для алгоритмического ИИ
http://habrahabr.ru/post/145929/

Не теряйте мужества - худшее впереди!
Пессимист считает, что хуже, чем есть, быть не может, а оптимист утверждает, что бывает и хуже.

Оффлайн alex_semenov

  • *****
  • Сообщений: 19 340
  • Благодарностей: 694
  • Я лгу!
    • Сообщения от alex_semenov
    • Z-механика+
Re: ИИ: какого понимания нам не хватает?
« Ответ #406 : 09 Июл 2012 [15:46:19] »
Алгоритмическая неразрешимость – это не препятствие для алгоритмического ИИ
http://habrahabr.ru/post/145929/

Интересная статья. Автор местами очень неплохо мыслит. Но в целом НЕ УБЕДИТЕЛЕН.
К сожалению.
Местами он просто врет. Кстати, гипотезу Гольтбаха разве кто-то недавно доказал?
На вики  ничего по этому поводу еще нет!

Понравился (запал в дущу) вот этот пассаж:

Первый момент заключается в том, что алгоритмические проблемы обычно формулируются как массовые проблемы, то есть проблемы, в которых требуется найти единый алгоритм решения бесконечной серии однотипных задач. Алгоритмически неразрешимые проблемы являются «слишком массовыми», например, в проблеме останова требуется решить задачу для любого алгоритма и для любых исходных данных за конечное время. Очевидно, ни один человек не в состоянии решить задачу останова для любого алгоритма, иначе не было бы «зависающих» операционных систем и прочих программ

Очень близко. "Горячее"! Но не убедительно. Не окончательно. Массовость - совершенно конкретно понятный термин. Но "слишком массовая" задача?
Это как?
Совершенно очевидно, что задача сложить два числа - это бесконечная серия однотипных задач. Массовая задача. И человек и машина В ПРИНЦИПЕ способны решить бесконечное число таких однотипных задач, если обладают алгоритмом сложения двух чисел. То есть массовость не проблема ни для человека ни для программы.
Проблема в "слишком массовость".
Понятно что существует бесконечно множество алгоритмов P={p1,p2,p3 …. } для которых существует некий массовый алгоритм R, который определит зациклится любой из этих алгоритмов или нет?
Но ясно что любое P есть всего лишь подмножество всего множества возможных алгоритмов T. Для всего множества T такого алгоритма R не существует. Это "слишком массовая задача"
Вопрос в чем? Между массовыми и слишком массовыми задачами нет ли задач, которые слишком массовые для машины но все еще массовые для человека?
Аргументы выше сработают только, если получится доказать что такой прослойки НЕТ.

Но вот совсем уже интересное рассуждение:

Представьте себя в ситуации, аналогичной той, в которой оказывается программа T в нашем доказательстве (доказательстве проблемы остановки). Пусть имеется автомат, который печатает 0, если вы говорите 1, и печатает 1, если вы говорите 0. И вас просят ответить на вопрос, что напечатает автомат. При этом вам разрешено сказать только 0 или 1. Естественно, автомат напечатает противоположное тому, что вы сказали, и вы об этом знаете, но ничего сделать не можете. Не кажется ли, что такая «задача» была бы просто издевательством над вами?

Нет. Проблема в том, что вы оказавшись в таком положении и зная как действует автомат можете понять ситуацию: вы в безвыходном положении. Вы ничего не можете сделать, но вы понимаете безисходность ситуации.
Но суть в том, что  машина не может этого "понять". Вы можете "выйти из системы" хотя бы умственно. А машина и есть система и никакая система не может выйти из системы. Это и есть суть аргументации Пенроуза. Машине "в голову не придет" мысль, что любое ее предсказание будет неверным.
Если вы знакомы с теоремой Геделя, то как раз там приводится пример утверждения которое утверждает что  машина не может вывести это утверждение. То есть что это утверждение "здраво мыслящей" машине (непротиворечивой системе) в голову прийти не может (появиться на выходе перечисляющего все истинные теоремы теории).

Да, ситуация автором  упрощена до идиотизма (что здорово). Правила игры вопиюще неверные. Я называю такие вопиюще-издевательские условия "королевский крокет" . Помните?



"Ворота", "мячики", "клюшки" на поле подыгрывали королеве и всячески мешали играть не-королевам.  Это нечестные правила. Правила игры были бы честными если бы ход автомата (выбор 1 или 0 ) делался ДО ТОГО как человек предложил бы свой вариант.
Верно?
Но знаете в чем засада? Если этот конкретный человек представяляет из себя (как уверяем мы, апологеты сильного ИИ)  конкретный детерминированный алгоритм P, то пытаться сделать эту замечательную игру честной… бессмысленно.

Играющий против человека-программы автомат может ведь иметь КОПИЮ этой самой программы и предсказывать ваш выбор до того как вы его сделаете на самом деле. То есть он вас все равно обыграет НА КАЖДОМ ШАГЕ. До того как вы скажете свой ход или после - РОЛИ НЕ ИГРАЕТ. Это все равно будет "королевский крокет".
И проблема тут не в правилах. Проблема в абсолютной предсказуемости, детерминированности любого сколь угодно соложеного но детерминированного алгоритма. Пускай это ваша душа. Если это детерминированная программа вы навеки в адской ловушке Проблемы Остановки.
 
Давайте изменим правила игры. И так. Вы - Алиса. Вы стоите у ворот, которые откроются (вы спасетесь бегством) если автомат-привратник хотя бы раз неверно предскажет ваш ход. Вы УЖЕ знаете, что вы никакая не Алиса, а детерминированная программа ИИ, которая запущена внутри виртуальной игры "Зазеркалье", частью которой является и ваше восхитительное платье, ваши руки, ноги… и весь этот волшебный сад и ворота с привратником.
Представили?
Весь наблюдаемый вами мир - вычислительная функция  [x,qg]: = G(y,qg), которая взаимодействует  с вами, вычислительной функцией  [y,qa]:= A(x,qa) в реком цикле с выходом по условию (ворота открыты).
Здесь  [y,qg], [x,qa] - упорядоченные пары на выходе алгоритмов G и A, y  - ваши дейтствия, x - реакция "зазеркалья" на ваши действия, qa qg -  переменные "внутреннего состояния" доступные лишь тем функциям, в которых они являются аргументами. Важная для математика деталь, но можете ее опустить, если не поняли сходу о чем тут идет речь.
Важно понять, что и ваш мир и вы сами - все это некоторая программа. И "привратника" который вас не выпускает - часть программы G. Поэтому любой ваш выбор (1 или 0) может оказаться предсказан (просчитан) привратником. Ведь любую порограмму, скажем А, можно включить внутрь любой другой программы, скажем G. И привратник прежде чем делать свой ход может посмотреть какой ход сделаете вы.
Даже если Алиса возьмет в руки монету и подбрасывая ее станет давать ответы непредсказуемые для нее самой образом, то привратник все равно сможет обхитрить Алису. Ведь он знает что в этот раз Алиса начнет искать монету и будет делать свой выбор так. Поэтому он может высчитать (предсказать) и результата виртуальной монеты. Она же часть виртуального (предсказуемого) мира. То есть не случайная а псевдо-случайная функция. Только кажется случайной.
Как спастись Алисе? Никак. Есть только один способ. Найти ИСТИННО СЛУЧАЙНУЮ монету в этом виртуальном мире. Не важно где эта монета находится. В голове самой Алисы или где-то в саду.
Помимо стандартного универсального набора операций детерминированной машины:

1 A:=0
2 A:=A+1
3 B:=A
4 Если A=B тогда (переход на N-тую строчку алгоритма)


http://ric.uni-altai.ru/fundamental/teor-alg/upr12/upr12-1.htm

в игру нужно внести еще один оператор- действительно случайный выбор:

5: A = 0/1 

А получит 0 или 1 с равной вероятностью. Этого достаточно. Такой оператор должен быть либо где-то в лесу (монета) либо… у Алисы в голове. Последний случай - совсем интересный. "У Алисы в глове" это значит что в программе А есть такой оператор (там есть тонкость о том КАК этот оператор должен быть встроен, но не будем пока о ней)
Тогда если у привратника есть КОПИЯ алгоритма А, где встречается такой оператор:

. . .
A = 0/1;
 . . .

у него уже нет возможности вас надежно предсказывать. Эмулируя вас, он может получит, например A=1, а вы, делая выбор, можете с вероятностью 0.5 получите 0 и вы разойдетесь со своей копией. Вы спасетесь! При возможности бесконечного числа попыток выйти, ваше спасение гарантировано.
Почему? В вашем поведении теперь нет детерминированности. Нет предсказуемости вашего выбора. Нет "королевского крокета". У привратника нет выигрышной стратегии. Вы вырываетесь на свободу.
Оператор случайного (непредсказуемого) выбора дает вам возможность, недоступную никакой сколь угодно сложной  НО детерминированной машине.
 ;)
Александр Анатольевич Семёнов. Научный спекулянт, сторонник концепции сильного ИИ по А. Тьюрингу, исторический еслибист, саракшист, идейный космист, религиозный эволюционист, знаниевый фундаменталист, прорицатель мрачного будущего. Эксперт по межзвездным переселениям и ксеноциду. Сетевой графоман-оратор. Весельчак, балагур.

Оффлайн ВадимZero

  • *****
  • Сообщений: 8 690
  • Благодарностей: 94
  • Мне нравится этот форум!
    • Сообщения от ВадимZero
Re: ИИ: какого понимания нам не хватает?
« Ответ #407 : 09 Июл 2012 [17:08:23] »
Понимание разума всеже должно как мне кажеться отталкиваться от теории мемов..
Где вместо ДНК(как у генов) язык...
Самокопирование...мемы есть мемы..
Мутации и рекомбинации..Язык по своей структуре очень хорошо подходит в качестве конструктора новых мыслеформ(в отличии от первой сигнальной системы животных). Новые мемы появляються в процессе общения человека с человеком, или человека с самим собой.
Сохранение...Культура, письменность, книгопечатание, интернет.
Отбор...Мемы которые работают принося носителю пользу размножаються.
----
Вообщем проблема понимания разума, скорей всего кроеться в черезмерным восхищением им. И как следствие желание его искать там где сложней, где появление разума не будет позором. Вообщем разум он как законы вселенной, он просто есть, зашит в самой матрице пространства времени  :)

Оффлайн PathFinder

  • *****
  • Сообщений: 1 628
  • Благодарностей: 54
    • Сообщения от PathFinder
Re: ИИ: какого понимания нам не хватает?
« Ответ #408 : 09 Июл 2012 [17:31:04] »
Очень близко. "Горячее"! Но не убедительно. Не окончательно. Массовость - совершенно конкретно понятный термин. Но "слишком массовая" задача?
Это как?
В качестве небольшого замечания по поводу "массовых" и "слишком массовых" задач.
Массовые задачи - это те, решения которых удобны для представления "в общем виде".
Например, чётное число может быть представлено как m=2k, где k принадлежит множеству целых чисел.
Но вот можно ли вывести такую формулу для простых чисел? И будет ли такая формула иметь конечный размер?
Ведь проблемы Эйлера и Гольдбаха не решены именно из-за отсутствия такой формулы? Или нет?

Оффлайн -Asket-

  • *****
  • Сообщений: 3 898
  • Благодарностей: 399
  • Шапочка из фольги - последний бастион разума
    • Сообщения от -Asket-
Не теряйте мужества - худшее впереди!
Пессимист считает, что хуже, чем есть, быть не может, а оптимист утверждает, что бывает и хуже.

Оффлайн незлой

  • *****
  • Сообщений: 20 487
  • Благодарностей: 568
  • философ-экспериментатор
    • Сообщения от незлой
Re: ИИ: какого понимания нам не хватает?
« Ответ #410 : 09 Июл 2012 [21:54:12] »
Может ли автомат тосковать по свободе воли?

вопрос: а чем просто-кубик (с "причинно-следственной связью") отличается от "истинного", квантовомеханического кубика для нас, как для бросающих этот кубик??

компьютер у нас в голове очевидно аналоговый -- не "считает", а "взвешивает", имхо ему вполне до лампочки конкретный алгоритм г[п]сч.
или я плохо понял месаджь.
у меня нет ответов.
но есть интересные, порой, вопросы.

Оффлайн незлой

  • *****
  • Сообщений: 20 487
  • Благодарностей: 568
  • философ-экспериментатор
    • Сообщения от незлой
Re: ИИ: какого понимания нам не хватает?
« Ответ #411 : 09 Июл 2012 [22:04:33] »
или так: тезис - мышление неалгоритмизируемо полностью до тех пор, пока не будет полностью алгоритмизируем мир вокруг, частью которого и является сознание (процесс мышления). мир-же вокруг полностью неалгоритмизируем в принципе, поскольку сами эти описывающие его алгоритмы -- лишь плод сознания.

т.е. кох оплакивает редукционизм, на всамом деле, не "свободу воли" нифига. ::)
у меня нет ответов.
но есть интересные, порой, вопросы.

Оффлайн незлой

  • *****
  • Сообщений: 20 487
  • Благодарностей: 568
  • философ-экспериментатор
    • Сообщения от незлой
Re: ИИ: какого понимания нам не хватает?
« Ответ #412 : 09 Июл 2012 [22:12:21] »
кстати, родилось определение: редукционизм -- сознательный отказ от наблюдения корреляций более высоких порядков, которые априори принимаются лишь суперпозицией более базовых корреляций.

у докинза есть немножко, к слову.
::)
у меня нет ответов.
но есть интересные, порой, вопросы.

Оффлайн PathFinder

  • *****
  • Сообщений: 1 628
  • Благодарностей: 54
    • Сообщения от PathFinder
Re: ИИ: какого понимания нам не хватает?
« Ответ #413 : 09 Июл 2012 [22:32:55] »
Представьте себя в ситуации, аналогичной той, в которой оказывается программа T в нашем доказательстве (доказательстве проблемы остановки). Пусть имеется автомат, который печатает 0, если вы говорите 1, и печатает 1, если вы говорите 0. И вас просят ответить на вопрос, что напечатает автомат. При этом вам разрешено сказать только 0 или 1. Естественно, автомат напечатает противоположное тому, что вы сказали, и вы об этом знаете, но ничего сделать не можете. Не кажется ли, что такая «задача» была бы просто издевательством над вами?
На самом деле, чисто формально, правильное решение у задачи, выделенной жирным шрифтом, существует. Существует  даже два верных решения. Можно выбирать любое из двух.
1. "Я скажу, что автомат выдаст 0 и он выдаст 1."
2. "Я скажу, что автомат выдаст 1 и он выдаст 0."
Очевидно, оба этих решения не принадлежат множеству {0;1} из которого нам предписано выбирать решение условием задачи. Это фактически запрет, содержащийся в условии задачи, давать правильный ответ. Естественно, с таким ограничением, задачу не решит никакой интеллект. Это всё равно, что предписывать решать уравнение x+1=0 в положительных числах, забыв, что существуют отрицательные.

Нет. Проблема в том, что вы оказавшись в таком положении и зная как действует автомат можете понять ситуацию: вы в безвыходном положении. Вы ничего не можете сделать, но вы понимаете безисходность ситуации.
Но суть в том, что  машина не может этого "понять".
Теоретически никто не может запретить и автомату, а не только человеку, расширять множество объектов, среди которых ищется решение. И видеть тот очевидный факт, что это расширение запрещено условием задачи.
И, следовательно, и автомат, а не только человек, вполне может понимать безвыходность ситуации.
Так что ваше заявление о невозможности для автомата понять безвыходность ситуации, является необоснованным.
Получше надо бы обосновать, если возможно.

Оффлайн PathFinder

  • *****
  • Сообщений: 1 628
  • Благодарностей: 54
    • Сообщения от PathFinder
Re: ИИ: какого понимания нам не хватает?
« Ответ #414 : 09 Июл 2012 [22:56:19] »
в игру нужно внести еще один оператор- действительно случайный выбор:

5: A = 0/1 
Введение такого оператора полностью эквивалентно временному отключению доступа привратника к алгоритму функционирования Алисы. Можно ведь вводить и другие "особые способности" Алисы. Например, способность дистанционно  бить по башке привратнику во время вычисления Алисой своего следующего действия. Чтобы привратник не мог определить следующее действие Алисы.
Только вот какое отношение случайные действия и удары по башке имеют к интеллекту, то есть к способности решать задачи?
Да, способность сделать что-то неожиданное может помочь в каких-то специфических ситуациях. В ситуации конфликта, например. Но чтобы она имела отношение к "интеллекту вообще"... Хм, как-то сомнительно.
Вот, например, кузнечик, прыгнув в случайном направлении, может спастись от того, кто его ловит.
Но насколько интеллектуален кузнечик?
Случайные действия могут с более высокой вероятностью уводить от правильного решения, чем вести к нему.

Оффлайн alex_semenov

  • *****
  • Сообщений: 19 340
  • Благодарностей: 694
  • Я лгу!
    • Сообщения от alex_semenov
    • Z-механика+
Re: ИИ: какого понимания нам не хватает?
« Ответ #415 : 10 Июл 2012 [09:46:46] »
Введение такого оператора полностью эквивалентно временному отключению доступа привратника к алгоритму функционирования Алисы. Можно ведь вводить и другие "особые способности" Алисы. Например, способность дистанционно  бить по башке привратнику во время вычисления Алисой своего следующего действия. Чтобы привратник не мог определить следующее действие Алисы.
Только вот какое отношение случайные действия и удары по башке имеют к интеллекту, то есть к способности решать задачи?

В очередной раз сталкиваюсь с тем, что говорил Витгенштейн. О чем можно сказать четко и ясно о том надо говорить четко и ясно, об остальном следует молчать…
:(
Ваш удар по привратнику это "решение" в духе такого:



Когда решение неожиданно не только для решающего, но и для того, кто задавал задачу.
Если задача позволяет такое решение, то оно законно.
А если нет?
Вопрос что значит "позволяет"?
Любимый пример.
Очень старая игра "Сокобан" (я ее много лет назад использовал для формализации понятия "интерактивная игра"):



Конечно, если вы программист и игра у вас в виде файла на вашем компьютере, вы можете взломать код игры и вставить там волшебный способ ходить сквозь стены или еще что-то в духе той мышы что прогрызла лабиринт. Но если вы не можете никак залезть в игру и у вас есть только экран на котором игра и набор действий которые вам предоставляет составитель игры, то вам остается действовать строго в рамках того что вам предоставил ставящий задачу. Движение вверх, вниз, вправо, влево, начать сначала. Все.
Именно поэтому я и начал рассматривать интерактивные игры в виде так называемого "игрового черного ящика" или "игрового автомата".

Когда я придумал историю про Алису я использовал центральную  часть Лучшей Идеи, Которая Могла Прийти Мне В Голову В Моей Жизни.
Я думал, получится кратно и наглядно.
Получилось хреново.
Задача про Привратника и Алису - вырожденный случай Игры Черепахи (в моей терминологии). И путь к пониманию " какое отношение случайные действия … имеют к интеллекту, то есть к способности решать задачи" там несколько длинней. Но он более ясный и четкий. Насколько я могу сам судить. Разумеется.

Меня кстати удивляет какое упорство люди проявляют в нежелании признать случайность необходимым и достаточным творческим началам нашего разума. Хотя, казалось бы, в биологии мы с этим уже почти всецело смирились.
:)
Александр Анатольевич Семёнов. Научный спекулянт, сторонник концепции сильного ИИ по А. Тьюрингу, исторический еслибист, саракшист, идейный космист, религиозный эволюционист, знаниевый фундаменталист, прорицатель мрачного будущего. Эксперт по межзвездным переселениям и ксеноциду. Сетевой графоман-оратор. Весельчак, балагур.

Оффлайн alex_semenov

  • *****
  • Сообщений: 19 340
  • Благодарностей: 694
  • Я лгу!
    • Сообщения от alex_semenov
    • Z-механика+
Re: ИИ: какого понимания нам не хватает?
« Ответ #416 : 10 Июл 2012 [10:08:34] »
Понимание разума всеже должно как мне кажеться отталкиваться от теории мемов..
И отсюда тоже. Но теоретическая база лежит в основании математики. В теории вычислений. Как не верти без этого мы не сдвинем проблему с мертвой точки равновесия противоположных гипотез.

Цитата
Вообщем проблема понимания разума, скорей всего кроеться в черезмерным восхищением им. И как следствие желание его искать там где сложней, где появление разума не будет позором.

Для меня лично это уже давно пройденный этап.

Цитата
Вообщем разум он как законы вселенной, он просто есть, зашит в самой матрице пространства времени  :)

Тогда надо показать то место где это сделано. Четко и ясно.
:)
И я уже говорил но меня никто не понял. Для нас эта "зашитость" проявляется в виде математических истин. Мир математики - это некая платоническая прослойка между физической реальностью и нашим субъективным миром. Вот ЛУКА уверяет что математика это физика. Но, при всем уважении к ЛУКЕ, это маргинальное мнение. Нетипичное и лично мне неприемлимое. Любой математик скажет вам что математика вне физической реальности. Она сама по себе. Так и есть. Континуальность и дискретность - два мира которым никогда не сойтись. Но "континуальная" физическая реальность в состоянии порождать "лингвистические машины", дискретные автоматы,  внутри которых и зарождается "объективная математика" которая есть ничего большего чем игра с символами. А наше сознание, наша субъективность - это частная реализация такой игры.
Александр Анатольевич Семёнов. Научный спекулянт, сторонник концепции сильного ИИ по А. Тьюрингу, исторический еслибист, саракшист, идейный космист, религиозный эволюционист, знаниевый фундаменталист, прорицатель мрачного будущего. Эксперт по межзвездным переселениям и ксеноциду. Сетевой графоман-оратор. Весельчак, балагур.

Оффлайн Инопланетянин

  • *****
  • Сообщений: 11 714
  • Благодарностей: 644
    • Сообщения от Инопланетянин
Re: ИИ: какого понимания нам не хватает?
« Ответ #417 : 10 Июл 2012 [10:50:32] »
случайность необходимым и достаточным творческим началам нашего разума
Т.е. задача "Алиса смоделированная в виртуальном мире" не может быть поставлена? Ведь если в эмулируемом Зазеркалье не удастся реализовать настоящую случайность, то и разума не получится, а значит эмулируемая Алиса попросту не будет разумным существом, как, впрочем и Привратник?
А если эмулятор предоставляет эмулируемым субъектам полноценную случайность, то Алиса легко найдёт выход из положения.

В условиях задачи подразумевается, что Алиса эмулируется два раза - один раз для самой себя, второй раз для Привратника. Если в эмуляторе есть полноценная случайность и если случайность действительно имеет какое-то отношение к принимаемым разумом решениям, то две копии Алисы могут принять разные решения, несмотря на одинаковые начальные условия.

Оффлайн ВадимZero

  • *****
  • Сообщений: 8 690
  • Благодарностей: 94
  • Мне нравится этот форум!
    • Сообщения от ВадимZero
Re: ИИ: какого понимания нам не хватает?
« Ответ #418 : 10 Июл 2012 [11:35:58] »
Для меня лично это уже давно пройденный этап.
Я тут скорее имел ввиду неосознаное восхищение, которое еще любознательным ребенком впитываеться. Почему я об этом говорю? Да потому что в разговорах о разуме люди избегают конкретики. Общаються о размытом поняти, используя абстрактные идеи. Как будто нарочно, не хотят касаться его. Чтобы понять разум, нужно изучать конкретное действие человека которое мы называем разумным, и вскрыть  алгоритмию этого действия. Мои размышления на эту тему показывают, что человек в этом плане ведет себя подобно гибкому животному, которого направляют мемы.

И я уже говорил но меня никто не понял. Для нас эта "зашитость" проявляется в виде математических истин. Мир математики - это некая платоническая прослойка между физической реальностью и нашим субъективным миром.
Если обобщить то все что касаться появление наблюдателя, можно определить математикой. Я  хочу сказать, что путь этот не так извилист и тернист, как многие это ощющают. Мои скромные познания в истории, говорят о том что появление всяких изобретателей, мыслителей, генераторов разума..неотемлемо связано с появлением письменности и книгопечатания. В общем с большой доступностью инфы для любителей все познать и удивить мир. Тоесть разум это такая штука, которая проростает тут же, как только появляеться благоприятна почва, в виде языка, письменности.
« Последнее редактирование: 10 Июл 2012 [12:02:45] от ВадимZero »

Оффлайн alex_semenov

  • *****
  • Сообщений: 19 340
  • Благодарностей: 694
  • Я лгу!
    • Сообщения от alex_semenov
    • Z-механика+
Re: ИИ: какого понимания нам не хватает?
« Ответ #419 : 10 Июл 2012 [11:36:53] »
компьютер у нас в голове очевидно аналоговый -- не "считает", а "взвешивает", имхо ему вполне до лампочки конкретный алгоритм г[п]сч.
или я плохо понял месаджь.

Вы плохо поняли месаджь. ;)
Вы могли 10 раз изучать основы теории алгоритмов (ее, кажется, теперь преподают уже в школе) но если вы не понимаете глубину идеи УНИВЕРСАЛЬНОГО ВЫЧИСЛИТЕЛЯ, вы не уловите месседж. Всю силу редуционизма "сильного ИИ".
;)
Еще раз. Давайте придумаем самый лаконичный язык программирования, который позволит написать ЛЮБУЮ программу, которую можно написать. Сделать любые (математически строго любые!) вычисления.
Сколько вам нужно элементарных операторов-кирпичиков?
Я выше их перечислил. Всего 4.
У вас есть гипотетическая машина с неограниченными регистрами. МНР. То есть в ее памяти вы можете объявить склько вам нужно (неограниченно много) переменных A, В, С… ASDFDDSSD, … и каждая такая переменная может содержать сколь угодно длинное число (нет ограничения на разрядность). Если вы программист, то вы прекрасно понимаете, что в принципе для реализации МНР вам достаточно иметь одну бесконечную ленту как на машине Тьюринга для этого. То есть МНР абсолютно эквивалента машине Тьюринга по своим возможностям (как и машине Поста, как лямбда-исчеслению как  рекурсивным функциям, как алгоритмам (-фмам) Маркова, как клеточному автомату, как… ). Но МНР наиболее близка нам, знаокмым с азами информатики.
И так.
Каков минимальный набор операторов для МНР?
Их четыре. Всего лишь.

1 Оператор обнуления. Любой выбранной нами переменной присваивается  0. A:=0;
2 Оператор прибавления единицы.  A:=A+1;
3 Оператор переаднисации, когда вы "размножаете" результат полученный в какой-то переменной, делая  копию ее данных в другой переменной: B:=A;
4 Условный переход. Тут надо вспомнить что Программа МНР - "язык кухарок", урезанный "Бейскик". Каждый оператор любой программы имеет номер. И условный оператор  если некая переменна А равна переменной В переводит вычисление на строку с номером M, указанным в этом операторе.

1 ….
2 …
3 …
….
N Если A=B То М

M . . .
. . .
Все! Этого достаточно.
Как солжить два числа? К первому числу надо добавить единицу второе число раз.
Как вычисть число из другого? Так же но надо иметь функция уменьшения на единицу. Но такую функцию легко получить (как - домашнее задание).
Умножение числа на другое число - прибавление к первому себя на единицу меньшее чем второе число раз. Аналогично деление.  Осталась степень и факториал. И этого достаточно что бы через ряды посчитать ЛЮБУЮ функцию типа синус, косинус, тангенс… и т.д. И это, разумеется, только начало.
Завораживающая идея состоит в том что этого набора операторов достаточно что бы вычислить все, что можно вычислить, все что можно было бы назвать АЛГОРИТМ.
Ничего больше не надо.
Язык крайне корявый. Но он лаконичный. Это необходимый и достаточный набор действительно элементарных кирпичиков. Убери один оператор и ты уже по крайней мере потеряешь вычислительную универсальность. Но самое смешное и добавлять ничего невозможно.
То есть любой вами новый придуманный оператор на самом деле можно представить конечной комбинацией этих четырех. Понимает?
Самое смешное знаете в чем? Пресловутые кубиты и квантовые операторы квантового универсального компьютера ничего больше чем эти 4-ре оператора тоже не могут сделать. Они позволяют кое-что вычислить быстрее. Но ничего принципиально нового квантовый компьютер вычислить не может.

Когда вы говорите что мозг не "вычисляет", а "взвешивает" я понимаю о чем вы говорите. Вы полагаете что аналоговые вычисления как-то ухитряются что-то вычислить то, что грубые (ступенчатые) дискретные манипуляции с символами не способны. Но это - иллюзия. Ей подвержены очень многие люди, которые физику в школе любили больше чем математику (я сам был такой). Мол дискретные манипуляции с огрубленными цифрами это всегда работа с грубыми моделями а вот лабораторная работа сфизической реальностью, дает всю полноту… ля-ля-ля.. тополя…
Правда в том что (вопреки нашей дурацкой интуиции) дискретные машины считают НАМНОГО ТОЧНЕЙ чем любая АВМ (анологовые вычислительные машины). Потому что, чтобы повысить точность дискретных вычислений в 2N раз вы должны увеличить разрядность бинарных ячеек памяти в N раз (и во столько же примерно шаги вычислений). Всего то! (обратите внимание у нас тут экспонента работает на нас а не против нас! Редкий случай). А для любой аналоговой системы 2N кратное увеличение точности расчета влечет 2N кратное увеличение ПРИЦИЗИОННОСТИ аналогового механизма аналоговых вычислений (защиту тех от помех). При N> 4 это уже почти нереализуемая задача.

Еще раз. Есть только четыре оператора-кубика из которых можно получить любую сколь угодно сложную программу. Любую компьютерную игру. Собрать любой виртуальный мир.
И только одну единственную вещь этими операторами получить нельзя.  ЧИСТУЮ СЛУЧАЙНОСТЬ. Существует масса так называемых "псевдо-случайных" функций которе дают очень похожие на чистую случайность ряды 1 и 0. Но на самом деле это все-таки псевдо. Имея копию такой функции и зная ее входные данные, вы можете предсказать ее результат абсолютно точно. Математически-чистый генератор случайности математически строго непредсказуем.
Парадокс в чем? Мы можем дополнить набор из 4-х операторов специальным оператором

А:=0/1

Как такая чистая случайность реализуется физически - нам не важно. Дело в том что МНР как и машина Тьюринга (в чем ошибается ЛУКИ) не есть ФИЗИЧЕСКОЕ устройство. Это математическая абстракция, постулируемая нами так же как "прямая", "точка", "натуральное число",… Физически существующая машина - это приближение к такой матабстракции. Как циркуль, линейка, доска. Инструменты вещного мира очень близкие к идеальным но не они.
Но это отдельная тема.
И так. Есть еще один "потерянный"  базовый оператор.
Казалось бы, у нас должны появиться новые вычислительные возможности.
Но теорема об эквивалентности машин нам говорит: этот новый оператор (не РЕДУЦИРУЕМЫЕЙ к уж имеющимся) никаких новых вычислительных возможностей нам не дает.
Парадоксально-завараживающая ситуация.
Как такое может быть?
Я очень сильно подозреваю что мы слишком узко понимаем понятие "быть вычислимым". Мы ограничиваема конечными вычислениями (вычислениями, которые заканчиваются за конечное число шагов, если заканчиваются). И для любых конечных вычислений четырех операторов достаточно. Так как всякие вычисления имеют ВНЕШНЮЮ ЦЕЛЬ - дать нам результат - ограничивание вычислений конечными вычислениями -  естественно. Но возможны (и мы их наблюдаем повсеместно) вычисления ради вычислений. Репликация ДНК. Жизнь. И здесь цель вычислений трансфинита. Бесконечна. И вот если нам получится расширить понятие "вычисление" и на бесконечные вычисления, то мы обнаружим (я тут уже это показывал) что теорема о эквивалентности вероятностной и детерминированной машины ПЕРЕСТАЕТ РАБОТАТЬ. Наш пятый оператор может показать свою уникальность, особость, свою необходимость только на бесконечности.
« Последнее редактирование: 10 Июл 2012 [15:22:46] от alex_semenov »
Александр Анатольевич Семёнов. Научный спекулянт, сторонник концепции сильного ИИ по А. Тьюрингу, исторический еслибист, саракшист, идейный космист, религиозный эволюционист, знаниевый фундаменталист, прорицатель мрачного будущего. Эксперт по межзвездным переселениям и ксеноциду. Сетевой графоман-оратор. Весельчак, балагур.