ИИ: какого понимания нам не хватает?

[Technecy]

Если ИИ, по Вашему, на это не способен, попробуйте это утверждение доказать.

Если ИИ изначально запрограммирован на это, то способен.

Пока работают датчики какие-то хотелки есть по определению. И всегда можно добавить хотелку "избавиться от скуки", которая активизируется, когда сигналы от остальных слабы. Это называется "исследовательское поведение", или говоря по простому - любопытство.

Да, я думал про любопытство. Это не то.
Нам нужно не любопытство, а фантазия.
Сможете написать алгоритм фантазии?

Может, но объективное стат. распределение оценок всё же имеет место быть.

В литературе? Ну разве только если это в форме теста. Достаточно информированный ИИ пройдёт любой тест. Кроме иррационального.
Как кстати будем иррациональность прописывать?

[Technecy]

Какая тут нафиг алгоритмизация. Забудьте про неё.

Ну, алгоритмы есть у всего.
Вопрос только в том, как они выглядят и сможем ли мы его понять/придумать/реализовать.
Проблема с некоторыми нашими алгоритмами в том, что мы не можем их оценить со стороны. Потому что мы и есть эти алгоритмы. А мы не можем описать систему находясь внутри неё и не имея возможности из неё вырваться. Как не можем сказать о вселенной, круглая она или квадратная.

[гравицап]

Сейчас попробую по-быстрому, потому что бежать по делам надо. На пальцах, чтоб и остальным доступно было.

Есть такое желание - поесть, это для нас самая простая хотелка. ИИ-робот, соответственно должен находить источник питания и заправлять аккумулятор. Допустим, у ИИ есть и другие хотелки. В некотором регистре памяти по мере разрядки накапливается число. Когда это число превышает числа в регистрах других хотелок, все ресурсы ИИ-программы переключаются на удовлетворение этой хотелки. Предполагается, что алгоритмы накопления опыта, обучения, уже реализованы. А вот для такой простенькой задачи, как накопление опыта через модем и прочие ресурсы современный ПК очень слабоват. А для творческого алгоритма ПК вообще не годится.
Но продолжим. По мере зарядки аккумулятора, с большим опозданием, чтобы успеть насытиться, число в регистре голода убывает. Когда оно становится меньше числа какой-то другой хотелки ИИ переключается на нее.
Аналогично и с другими хотелками.

Так не получится, это слишком прямолинейно. ИИ должен находить путь к максимально возможному удовлетворению комплекса хотелок, которые могут и противоречить друг другу. Например хотелка избежать черезмерной активности(лень, усталость) и хотелка зарядить батареи, т.е.. активно потребовать этого действия от оператора. Это у чистого , с нулевым опытом ИИ.
Самопрограммирование должно заключаться в том, что обстоятельства и действия, ведущие к удовлетворению хотелок включаются в программу также как хотелки. По мере накопления опыта самозапрограммированные хотелки все более усложняются. Так зарождается этика. ИИ "хочет" вести себя правильно, т. е., таким образом, который обеспечит ему наиболее полное удовлетворение всего комплекса хотелок на обозримый период. Чтобы избежать детерминизма, сила каждой хотелки случайным образом колеблется в пределах 3-5% от установленного значения

[Technecy]

ИИ должен находить путь к максимально возможному удовлетворению комплекса хотелок, которые могут и противоречить друг другу. Например хотелка избежать черезмерной активности(лень, усталость) и хотелка зарядить батареи, т.е.. активно потребовать этого действия от оператора. Это у чистого , с нулевым опытом ИИ.
Самопрограммирование должно заключаться в том, что обстоятельства и действия, ведущие к удовлетворению хотелок включаются в программу также как хотелки. По мере накопления опыта самозапрограммированные хотелки все более усложняются. Так зарождается этика. ИИ "хочет" вести себя правильно, т. е., таким образом, который обеспечит ему наиболее полное удовлетворение всего комплекса хотелок на обозримый период. Чтобы избежать детерминизма, сила каждой хотелки случайным образом колеблется в пределах 3-5% от установленного значения

уже теплее. это заложено в моей задачке с солнечной полянкой. и кстати детерминизма не обязательно избегать. Бывают же суициды.

[zenixt]

Хорошо, допустим этим "неким текстом" и будет вот эта ваша фраза. Какой результат она даст?  Давайте попроще что нибудь.

Ну, если это сложно даже для вас, можно смело заканчивать, потому что до хотения вдруг написать стихи(выпить вдруг, нозахотелось,чаю без голода), еще очень и очень далеко. Мне казалось, что я пишу псевдокод очень и очень доступно.

Хочу только добавить

Подобно псевдокоду, блок-схемы полезны для разработки и представления алгоритмов, хотя большинство программистов предпочитает псевдокод.

Х.М. и П.Дж. Дейтел
В случае, который описывал я, блок-схема жизнь нам вряд ли облегчила бы.

[zenixt]

Если исходить из предложенного вами механизма хотелок. То он должен уметь создавать свои собственные хотелки. Вот так.
Потому что в описанной вами модели, он ограничен именно тем что все его желания/хотения заранее определены. То есть он не может поставить себе цель сам. Он может по некоторому условию выбрать наиболее необходимую.
А вот заставьте его самого себе определить цель.

Так нельзя ж из кода, следовательно и из псевдокода выбрасывать какие-то куски, неугодные вашему пониманию.
Послушайте, Technecy, подавляющее большинство людей ходят на работу, учатся(расширяют опыт) ежедневно, сами того не замечая, спят, едят и т.д., не помышляя ни о каких стихах. Почему для начала вы не хотите ограничить ИИ этим??? Уже это само по себе сверхсложная задача.
Ладно, очень коротко и понятно творческий псевдокод

Человек ничего не изобретает. Все, что ему нужно, заложено в окружающем мире. Человек обладает алгоритмом извлекать из окружающего мира "полезное" для себя.

И еще, в основе "мягких" хотелок лежат "жесткие" хотелки. То есть в основе написания стихов лежит "любовь".
Это не обсуждается, но это очень хорошо поддается алгоритмизированию.
И хватит с этим, бо дальнейшее будет недоступно широким массам и модератор возмутится.

[zenixt]

Ладно, это доступно и необходимо сказать.
Итак у нас получается следующая цепочка.
1. В основе "жестких" хотелок лежат "рефлексы"(жесткие программы, определяющие как накапливать опыт).
2. В основе творческого алгоритма лежат "жесткие" хотелки.
3. Творческий алгоритм создает незапрограммированные жестко методы(коды ой ну в общем ясно, самопрограммирование) накопления опыта и "мягкие" хотелки. Еще раз. Творческий алгоритм создает новые методы накопления опыта и "мягкие" хотелки.
Что он там еще понасаздает, я не знаю. Он же ТВОРЧЕСКИЙ. Но я знаю как его написать.

[Technecy]

Послушайте, Technecy, подавляющее большинство людей ходят на работу, учатся(расширяют опыт) ежедневно, сами того не замечая, спят, едят и т.д., не помышляя ни о каких стихах. Почему для начала вы не хотите ограничить ИИ этим.

Т.е. ведут себя как станки с ЧПУ. Станок с ЧПУ то же можно научит делать другую деталь. Можно даже научит его подбирать оптимальный режим обработки, самостоятельно... Что не каждому оператору/наладчику ЧПУ даётся.
Да и с чего вы взяли что люди больше ни о чём кроме работы не думают? Кто то ходит на футбол, кто то в театр, кто то пищет стихи...

Ничего в ИИ по "хотелкам" сверхсложного нет. Это просто большой и нудный в написании томагочи.
Я согласен с вами, что в принципе это не невыполнимая задача и уже давно.
Как сказали бы в НИИЧАВО "это всем известно и никому не интересно".
Но нам вот тут(ближе к началу темы можете почитать) захотелось ИР.
Зачем? не понятно, но видимо для того что бы ИИ мог делать абсолютно всё что может человек. Даже устраивать скандал из ничего.
Ближе к вашему вопросу.
Для того что бы он мог учиться, он должен хотеть учиться и не хотеть учиться. Иначе он будет учиться вечно и ничего больше делать не будет.

Настоящий программист, приступая к работе, ставит перед собой 2 стакана.
1 с водой на случай если захочет пить, а второй пустой на случай... если не захочет.

Так вот. Вы либо должны создать абсолютно-универсальный и простой алгоритм на все случаи жизни. Либо будете вечно копаться в глюках "хотелочного" алгоритма и вечно его оптимизировать под различные задачи. Виндовс короче, сколько её не переделывай, а лучше не становится.

[Technecy]

Ладно, это доступно и необходимо сказать.
Итак у нас получается следующая цепочка.
1. В основе "жестких" хотелок лежат "рефлексы"(жесткие программы, определяющие как накапливать опыт).
2. В основе творческого алгоритма лежат "жесткие" хотелки.
3. Творческий алгоритм создает незапрограммированные жестко методы(коды ой ну в общем ясно, самопрограммирование) накопления опыта и "мягкие" хотелки. Еще раз. Творческий алгоритм создает новые методы накопления опыта и "мягкие" хотелки.

Вот я и начал сразу с П №3. Каким образом он должен захотеть создать хотелку?
Сколько ещё уровней надо надстроить? 10-20?

[zenixt]

Дак доступно.

Вы думаете, что поняли, что такое самопрограммирование??? Без ряда уточнений, до вас не дойдет глубина. И судя по вашим постам, так оно и есть.
И учтите, что пока мы(вы) не разберемся с самопрограммированием, приступать к алгоритму творчества бессмысленно.

- Ну что дети, поняли, что такое умножение???
- Да понял я. Давайте уже наконец интегралами займемся.

Ну что, будем уточнять,что такое самопрограммирование??? Мне кажется, эти уточнения будут легки для восприятия широкой публики.

[espy]

1. В основе "жестких" хотелок лежат "рефлексы"(жесткие программы, определяющие как накапливать опыт).

А мне кажется в основе всех хотелок лежат ощущения.
Если конфета абсолютно безвкусная, вы что будете хотеть такую конфету съесть?
Ну разве что, только по старой памяти, но попробовав и поняв что она безвкусная вы ее больше не будете хотеть.
И также со всем остальным. Все живые существа стремятся к приятным ощущениям(к комфорту) и избегают не приятные, ИМХО это и есть главный двигатель жизни.
К примеру, жажда - неприятное ощущение, если бы мы не ощущали это не приятное ощущение, то и не утоляли бы жажду и умерли бы от обезвоживания организма.

[Technecy]

Ну что, будем уточнять,что такое самопрограммирование??? Мне кажется, эти уточнения будут легки для восприятия широкой публики.

Давайте.
А то вдруг мы не о том думаем.

[zenixt]

Так не получится, это слишком прямолинейно. ИИ должен находить путь к максимально возможному удовлетворению комплекса хотелок, которые могут и противоречить друг другу

Правильное уточнение.

Диспетчер задач — компьютерная программа (утилита) для вывода на экран списка запущенных процессов и потребляемых ими ресурсов (в частности статус, процессорное время и потребляемая оперативная память).

Википедия.
На примере разрядки аккумулятора.
По мере роста голода все большее количество процессоров(многоядерный процессор или кластер) переключается на его удовлеттворение.

[zenixt]

Ну что, будем уточнять,что такое самопрограммирование??? Мне кажется, эти уточнения будут легки для восприятия широкой публики.

Давайте.
А то вдруг мы не о том думаем.

Всем, кто изучал информатику, должно быть известно, что программа время от времени возвращается к предыдущим командам.
И мы поступим так же.

Ладно, очень коротко и понятно творческий псевдокод
Цитировать (выделенное)

Человек ничего не изобретает. Все, что ему нужно, заложено в окружающем мире. Человек обладает алгоритмом извлекать из окружающего мира "полезное" для себя.

Идем назад.

Цитата: Technecy от 12.10.2013 [21:16:56]

Всё более и более интересно. Особенно про самопрограммирование.

Объясню на самом простом примере, а потом будем уточнять, если нам позволят. Пусть наша программа "жестко" скачала некий литературный текст. Наша программа будет рассматривать каждую предыдущую фразу как команду для выполнения следующей. Это и есть самопрограммирование в самом первом приближении.
По мере накопления опыта выяснится, что за одной и той же командой -фразой(псевдокомандой) может следовать то одна, то другая, то третья и т.д. фраза. В этом смысле - она аналог
Цитировать (выделенное)

структуры со множественным выбором switch

Попробуем и мы что-то извлечь изокружающего мира.
Атом строится из ядра и электронов, молекула строится из атомов, белки или минералы - суть цепочки простых моекул, клетка - суть комплекс белков...
Поступим и мы так же.
На примере фразы.
Каждая фраза состоит из словосочетаний исрользуемых во многих фразах. Не верите? Если не жалко время проверьте. Для примера, каждое слово состоит из буквосочетаний, которые устаревшая педагогика вгоняет в слоги.
Итак, мы имеем, словосочетания из которых можно строить фразы. Уже путь к творчеству.
То есть, после каждой фразы-псевдокоманды, мы будем накапливать, грубо говоря,  не фразы, а словосочетания, которые фраза-псевдокоманда генерирует. Пока, грубо говоря, поскольку дальнейшее уточнение чревато замечанием модератора.
Аналогично и со зрительными, и со слуховыми и  с любыми доступными типами информации.
Неужели сложно??? 

[Technecy]

Неужели сложно??? 

нет не сложно. Это было применено ещё в 198х дремучем году в игре ELITE.
Давайте дальше. Как вы будете из этого набора смысл получать.

[zenixt]

Итак, последний штрих в нашу "блок-схему", и те, кто шарит в программировании могут приступать к написанию простейшего алгоритма накопления опыта и его использования ИИ. А когда напишите, у вас не останется проблем с п.№3 - алгоритмом творчества. Поверьте, другого пути к пункту 3 нет.

Атом строится из ядра и электронов, молекула строится из атомов, белки или минералы - суть цепочки простых моекул, клетка - суть комплекс белков...

На примере фразы.
Каждая фраза состоит из словосочетаний исрользуемых во многих фразах. Не верите? Если не жалко время проверьте. Для примера, каждое слово состоит из буквосочетаний, которые устаревшая педагогика вгоняет в слоги.
Итак, мы имеем, словосочетания из которых можно строить фразы. Уже путь к творчеству.

Итак, опять же на примере письменного языка.
Слова состоят из буквосочетаний, словосочетания состоят из слов, фразы состоят из словосочетаний, реплика(или как там, потом) состоит из фраз. Глава состоит из "реплик", книга состоит из глав...
Поверьте, что можно составить алгоритм который будет наращивать эту пирамиду до бесконечности, если заменить каждый элемент(буквосочетание, слово...) "числом", которое будет приращиваться по мере роста ресурсов вычислительной системы.
Поверьте более сложная задача и п.№3 не для ПК.
Если вы хакер, и захочете реализовать п.№3, то можете заняться воровством машинного времени у чужих компов интернета.
Ну а более глубокие уточнения и разработка алгоритма - это для специализированного форума программистов.
_____
Примечание, ресурсы - это не только память, но и даже в первую очередь -количество процессоров, задействованных в программе.

[Проходящий Кот]

Бодякин вам в помощь.....
 
NuPIC Hackathon , посетите www.numenta.org.

[незлой]

Ещё раз повторяю, предложите эксперимент, позволяющий понять, когда ИИ чего-то действительно хочет.

предложите эксперимент, позволяющий понять что ваш сосед по работе (например) действительно чего-то хочет, а не просто бездушный зомби.

[zenixt]

И еще одна рекомендация.
Если кто-то захочет профинансировать проект - не платите зарплаты. А лучше возьмите увлеченых ребят на довольствие, потому что им пописать сходить некогда будет. 
А лучше возьмите увлеченных ребят на довольствие с женой и детьми. И про карманные расходы не забудьте.
А вот когда закончат, тогда да. Тогда им премиум скока не жалко.
________________
Да чуть не забыл. Обязательно хотел в конце присовокупить.
Повторенье - мать ученья.

2.
 Как известно, у транзистора  три ножки, мне пришло в голову, что можно создать электронное устройство(не типа пентода), у которого большее множество входных и/или выходных ножек. Разумеется, для такого устройства придется создавать алгебру гораздо сложней булевой. И интуиция мне подсказывает, что такое устройство могло бы создать прорыв в области ИИ.

Вот, к примеру, фрагмент "небулевой" алгебры для "нетранзистора" о четырех ножках.
1+1+1=1
0+0+0=0
1+1+0=1
1+0+0=1
Согласитесь, это похоже больше на рассуждение чем на логическую операцию.
И, заметим, что очень приятственно, в отличие от транзистора это устройство имеет выход, очень грубо говоря, не на одно, а на два устройства. Не надо никакого диспетчера распаралеливания. Мама не горюй - какие это дает перспективы в "быстродействии".

[Combinator]

Ещё раз повторяю, предложите эксперимент, позволяющий понять, когда ИИ чего-то действительно хочет.

предложите эксперимент, позволяющий понять что ваш сосед по работе (например) действительно чего-то хочет, а не просто бездушный зомби.

Как Вы, видимо, уже догадались, с моей точки зрения такой эксперимент невозможен, и, соответственно, постановка задачи создания ИИ с "настоящими" хотелками (то есть тем, что в философии обычно принято обозначать термином "квалиа") в принципе некорректна.