ИИ: какого понимания нам не хватает?

[незлой]

Рекрутский набор в России существовал более 150 лет....

а спарта -- и того дольше.

[Муха_]

Ну тогда нужно хотя бы ответить, откуда берётся понятие об ощущениях и квалиа.

Понятие об ощущениях мозг формирует благодаря своей способности запоминать свои состояния и затем анализировать их. Он ставит на состояния словесные метки и называет их ощущениями и оперирует ими как псевдо-объектами. Т.е. квалиа существуют в отчете мозга о своем состоянии, но в реальном мире им ничего не соответствует. Можно выделять в состояниях нейронной сети определенные закономерные состояния и соотносить их с квалиа, но эти состояния - не квалиа (согласно определению квалиа). Изучение сответствия объективных процессов, происходящих в мозге с превдо-объектами квалиа в его отчетах может быть увлекательным, но и не более т.к. следует понимать, что мы имеем дело только с субъективным отчетом мозга о своем состоянии.

Поймите меня правильно. Суть не в том, что квалиа нет вообще нигде кроме отчета. Суть в том, что о них нет смысла говорить в рамках привычной объективной картины мира в котором бритва Окама, редукция, логика и т.д. Т.е. их нет в физическом мире. Если же мы рассматирваем не вселенную, а бытие вообще, тогда квалиа имеют право на существование (правда, дзен-буддисты и материалисты и этого права ему не дают), но тогда мы не можем сказать о нем что-то конкретное, а можем только мычать.

[Инопланетянин]

которые дают гены, кроме тех случаев, когда эти приказы противоречат Первому Закону.

Вот здесь придерусь. Для людей этот подпункт был оправданным. Люди не являются чем-то единым, такая защита от "дурака" (или правильнее сказать преступника? или от самих себя?) была нужна. Но если нами правят гены (а это сомнительно), то они себе вред не причинят. Даже генам жертвы гены хищника никакого вреда не причиняют, а наоборот отбирают для дальнейшего развития лучшие гены жертвы. И зачем им включать подпункт сознательного неподчинения им самим для обеспечения их же безопасности?

Первый пункт сформулирован не чётко. Так чьим генам человек не может причинить вред? Генам вообще или своим? Чужим генам человек уже причинил много вреда. Сколько организмов занесено в Красную книгу! А для того чтобы им не повиноваться не обязательно быть онанистом или гомосексуалистом. Достаточно браков на богатых женихах. Это уже довольно-таки ощутимый вред генам, т.к. богатство не означает лучших качеств самца. Оно может быть просто унаследовано ничтожеством. И его гены передадутся как успешные. Гены нанесли ответный удар(?) в виде осуждения в обществе браков по расчёту, за богатого да некрасивого(нелюбимого), но... В общем, механический перенос этих законов получился натянутым.

А правят ли нами гены? А бессмертны ли они? Где гены трилобитов? Где бессмертные гены динозавров? Если уж так рассуждать, от нами правит отбор, а гены это только механизм его правления. Всего лишь жалкие носители информации, с помощью которых определяется наше поведение (у людей - до некоторой степени) и строение организма.

[Муха_]

И того, ответ на вопрос, вынесенный в заголовок темы (чего нам не хватает):


1. Не хватает ясного понимания, что в области бытия в которой мы собираемся создавать ИИ (в мире где редукция, бритва Окама, возможность вербализации идей, атомы, биты и т.д.) нет квалиа, нет сознания и нет разума. Не нужно моделировать эпифеномены. После создания ИИ они будут сопровождать его автоматически, как шум всегда сопровождает работу машины.

2. Немного не хватает элементной базы, позволяющей строить вычислительные системы с объемами и степенью связанности нейронной сети. Однако, об этом бесполезно говорить пока не решен вопрос принципов работы ИИ.

3. Для начала, не хватает теории, позволяющей строить вычислительные системы, способные получать минимальные (как в сложности по Колмогорову) алгоритмы для аппроксимации входных последовательностей. Представление об иерархичности нейронной сети косвенно связано с решением этой проблемы. Потребность в дальнейших теориях станет понятна после решения этой первой проблемы.

[Аstrocity]

...4. Не хватает понимания функц-я низкоуровневого образного мышления и семантики, на основе которой оно переводится в абстрактно-логическое.
Перспективы имхо, в 3D (нелитографической) технологии создания процессоров, с архитектурой типа GPGPU, но более сложной.
Возможно, оптико-кубитовой, необязательны нейронные сети. Т.к. нейроны это по сути те же триггеры, чуть усложненные вентили.

[Муха_]

.4. Не хватает понимания функц-я низкоуровневого образного мышления и семантики, на основе которой оно переводится в абстрактно-логическое.

Читайте внимательно пункт 1 . Если подробнее, то логическое мышление - это функция мозга очень высокого уровня. Суть ее мне с некоторых пор понятна (это очень долгий и сложный разговор), но пока нет ясности как реализовывать базовый уровень - нет смысла об этом говорить.
Собственно, само логическое мышление не интересно - оно мышлением не является, а является способом представления информации для ее вербализации. Интересно образное  мышление, рождающее у нас 100% уверенность в этом вероятностном мире.
Например, вам предлагают рассмотреть бесконечную последовательность, в которой нужно считать от одного до 5, а потом от 5 до одного и так бесконечно. Дальше, вам задают вопрос: встретится ли в этой последовательности число 6. Вы отвечаете, что нет и что вы уверены в этом на 100%.
Как нейронная сеть делает этот тривиальный и явно логический вывод? Грубо можно предположить, что нейронная сеть формирует ощущение уверенности относительно свойств системы, когда она выявила периодизм в системе, который на каждой цикле не вносит ничего нового. ИМХО, к перечню периодизмов можно свести любую уверенность, даже уверенность в правильности теоремы Пифагора. Хотя, в последнем случае это неимоверно трудный акт интроспекции .
Дальше, выявленную схему уверенностей, основанную на периодизмах нейроная сеть жалает поведать собеседнику. Для этого она должна сформировать последовательнсть символов, которые будут выданы в речи и которые должны инициировать такой же набор уверенностей у другой нейронной сети. Понятно, что это очень сложная функция, но опять таки тут ничего невозможного не видно.
Повторюсь, что начинать рассуждать конструктивно обо всем этом можно будет с момента, когда будет создан ИИ дотягивающий до ИИ животного вроде кошки.

[vika vorobyeva]

Вика вопервых, нужные нам качества появяться уже в первом во втором поколении просто потомучто мы их отобрали. 200 лет это для достижения идеала.

Нет.
Если Вы из выводка волчат отберете самого лояльного к Вам - он не будет собакой. Он будет просто чуть более лояльным и добродушным волком. Чтобы получить именно собаку - нужен планомерный и жесткий отбор на протяжении десятков поколений. Причем 9/10 волчат/детей в каждом поколении Вам придется выбраковывать (не допускать к размножению). Кто будет этим заморачиваться?
Кто вообще будет заниматься программой, длящейся столетия? Разве что потенциально бессмертный ИИ

[Dem]

а всякие аристократические фамилии разве не [само-]евгеникой занимаются? чисто по факту?

Там с направлением отбора проблемы. И достаточно быстро все становятся родственниками.

А уж что будет востребовано властью (не важно, государствами или корпорациями), я думаю, все себе представляют.

На самом деле - очень плохо представляют.  Биороботам в современном обществе практически нет места.

Если Вы из выводка волчат отберете самого лояльного к Вам - он не будет собакой. Он будет просто чуть более лояльным и добродушным волком. Чтобы получить именно собаку - нужен планомерный и жесткий отбор на протяжении десятков поколений. Причем 9/10 волчат/детей в каждом поколении Вам придется выбраковывать (не допускать к размножению). Кто будет этим заморачиваться?

Волки - стайные животные. Это значит что 99% щенков - будут воспринимать человека как лидера стаи и подчиняться ему.

[незлой]

Там с направлением отбора проблемы. И достаточно быстро все становятся родственниками.

инбридинг широко используется в селекции, чё.

[vika vorobyeva]

Волки - стайные животные. Это значит что 99% щенков - будут воспринимать человека как лидера стаи и подчиняться ему.

Пока они волчата - да. Но начиная с возраста около года, Вам придется регулярно и основательно лупить Вашего волка, снова и снова доказывая ему, что вожак стаи - именно Вы (и залечивать нанесенные им укусы).
Собака (психологически) отличается от волка тем, что навсегда застревает в "щенячьем" возрасте. Собаки лают, как волчата (взрослые волки - только воют), и до глубокой старости воспринимают человека как мать (ну или как безусловного вожака). И у волков, и у лисиц одомашнивание привело к культивированию "детских" черт.
И это не воспитание, различие проявляется на генетическом уровне.
 
Поэтому если Вы хотите получить расу рабов, Вы должны и в людях культивировать детские черты. Доверчивость, эмоциональность, послушность, некритичность мышления, детскую (безусловную) любовь к своим хозяевам. Никто из них психологически так и не должен повзрослеть (и взять на себя ответственность за свою жизнь).

Upd Что-то мы изрядно отклонились от темы

[Инопланетянин]

Для ИИ нужна искусственная нейронная сеть. А для мотивации нужны человеческие или похожие эмоции. Возникает вопрос - если для ИИ нужно воспроизвести устройство человеческого мозга, то чем уже имеющийся не устраивает?
Чем хорош компьютер? Ведь не искусственным же интеллектом. Быстрый счёт недоступный медленным нейронам и абсолютная механическая память не омрачаемая никакими эмоциями, желаниями (не)осознанной подтасовкой фактов (достижима ли она у субъективного интеллекта?).
Вряд ли мы получим выигрыш если создадим ИИ. Допустим, будет создан процессор с трёхмерной архитектурой как у мозга, но с гораздо большим быстродействием. Для ИИ с таким быстродействием время будет тянуться невыносимо медленно, двигаться (если ИИ будет управлять роботом) быстрее нас ему не позволит инерция - разум сойдёт со скуки. Разуму же события нужны, разнообразие. Насчёт жизни в космосе и других невыносимых условиях. Сложный мозг, из чего бы он не состоял, потребует благоприятной постоянной среды, поддерживать которую придётся и в космосе и глубоко под водой и вряд ли она будет очень отличаться от необходимой человеку.
А автоматические станции которые отправляют к Плутону без возврата? Там разум точно помешает, что он будет делать один, без возможности вернуться? Так что смысла нет даже пытаться ИИ создать.

[alex_semenov]

Таким образом "гомосексуализм" у гусей (а, точнее, их гендерная неразборчивость в создании "сообщества триумфального крика") становится оправдан отбором.

Да понятно, что в основе любого поведения лежит рациональное зерно. Не обязательно отобранное отбором. Просто не отбракованное им. Отбор отсеивает вредное. Но оставляет необременительные странности. Достаточно мудро.

Хорошо. Тезис про бунт против генов я снимаю как кликушеский. Аппелирующий к "совести". Но рабство - налицо.

Заменяем "робот" на "человек". "Человек" на "Гены" Чисто механически. Получаем

ТРИ ЗАКОНА ЧЕЛОВЕКОТЕХНИКИ:

• Человек не может причинить вред генам или своим бездействием допустить, чтобы его генам был причинён вред.
• Человек должен повиноваться всем приказам, которые дают гены, кроме тех случаев, когда эти приказы противоречат Первому Закону.
• Человек должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
  

Ну тогда оказывается, что трансгуманисты, пока будучи людьми, нагло попирают эти законы. За исключением третьего, разве что.

Трансгуманисты ничего не попирают. Они мечтают попирать. И только. Мечтать можно и нагло. Но вот по-настоящему обнаглеть… Я думаю эта публика в массе своей обос--а когда дело дойдет до дела.
Настоявшего дела. Трансгуманизм это такая сказка. Очень красивая, сладкая. Реальность будет куда жестче и даже ужасней. Но говоря вам: мы -рабы, я говорю: нам нечего терять кроме цепей. Так что ступайте, ступайте и не сомневайтесь. Этот мир всегда был обманом. Вы просто до этого были дети и ничего не понимали.

[alex_semenov]

ИИ: какого понимания нам не хватает?

ЕДИНОГО.

Данная тема ярко показывает что каждый видит ИИ по-своему. Ввделяет свою часть слона.



Поэтому даже если все мы возьмемся "тянуть проблему" мы как те муравьи, которые тянут гусеницу в разные стороны. Сдвиги будут. Но медленные.
Нужно ОБЩЕЕ,  единое для всех понимание тог что такое ИИ.
То есть ученые должны более-менее достигнуть КОНСЕНСУСА.
Пока его нет.
Если же появится - процесс пойдет лавиной.

[ВадимZero]

Нужно ОБЩЕЕ,  единое для всех понимание тог что такое ИИ.То есть ученые должны более-менее достигнуть КОНСЕНСУСА.Пока его нет.

Нет ученым этого не нужно и даже вредно. ИИ уучеными создаваться не будет, для ученых это не подьемная задача. Пусть ученые выдвигают те гипотезы которые считают правильными. ИИ создадут технари програмисты и под определенные цели. Они уж точно лучше будут видеть какие идеи достойны внимания какие нет.

[Аstrocity]

Трансгуманисты ничего не попирают. Они мечтают попирать. И только. Мечтать можно и нагло. Но вот по-настоящему обнаглеть… Я думаю эта публика в массе своей обос--а когда дело дойдет до дела.
Настоявшего дела. Трансгуманизм это такая сказка. Очень красивая, сладкая. Реальность будет куда жестче и даже ужасней. Но говоря вам: мы -рабы, я говорю: нам нечего терять кроме цепей.

 Большинство из расчетов трансгуманистов основаны на системотехнике, теориях бифуркаций и статистики, эмерджентности и синергетики. Понятно, что для большинства публики все это ниочем, ибо за всем этим стоят математика, кибернетика, биология и квантовая механика, о которых у большинства людей смутное представление ограничивающееся иногда школьным курсом.
Конечно интереснее обсуждать гусей с собаками чем например, дельфинов. Фрейд похоже, контексту улыбаецо 
 

[Муха_]

Большинство из расчетов трансгуманистов основаны на системотехнике, теориях бифуркаций и статистики, эмерджентности и синергетики.

Если бы они объясняли на пальцах, это было бы гораздо надежнее. Особенно учитывая последние 2 пункта.
Все мы помним научный коммунизм.

[PathFinder]

Если подробнее, то логическое мышление - это функция мозга очень высокого уровня. Суть ее мне с некоторых пор понятна (это очень долгий и сложный разговор), но пока нет ясности как реализовывать базовый уровень - нет смысла об этом говорить.
Собственно, само логическое мышление не интересно - оно мышлением не является, а является способом представления информации для ее вербализации.

Подробностями не поделитесь? Если не затруднит. Хотя бы в общих чертах.

[Аstrocity]

Большинство из расчетов трансгуманистов основаны на системотехнике, теориях бифуркаций и статистики, эмерджентности и синергетики.

Если бы они объясняли на пальцах, это было бы гораздо надежнее. Особенно учитывая последние 2 пункта.
Все мы помним научный коммунизм.

Если "на пальцах",-техпроцесс конечен, выжать из него с определенного момента будет уже нечего, т.к. вы не сможете превратить всю Вселенную в один процессор, как и скорость света-ограничивающий фактор. Придется подумать как решить проблему качественно, сам принцип Мура придется переформулировать.
Вышеперечисленное это и есть выделение и поиск тех свойств, которые приведут к качественному переходу.
В чем я согласен с трансгуманистами, это в том что ИИ появится не ранее чем:
1.будет создан прямой нейроинтерфейс
2.работающая кубитовая логика
3.голографическая память.
В чем не согласен. В самой трактовке ИИ. А если он появится (или уже есть) самопроизвольно, это будет уже не ИИ?

 

[Муха_]

Подробностями не поделитесь? Если не затруднит. Хотя бы в общих чертах.

Подумал. Решил что не осилю.

[ВадимZero]

В чем я согласен с трансгуманистами, это в том что ИИ появится не ранее чем:1.будет создан прямой нейроинтерфейс 2.работающая кубитовая логика3.голографическая память.

Извиняюсь конечно,  но это какието вещи которые связаны лишь технологическим пафосом.