Нужен ли человечеству искусственный интеллект?

[Абрамий]

Я думаю ,что сложность современной техносферы и экономики дошли до такой степени  ,что 
одним человеческим разумом тут уже  никак не управится .
Искусственный интеллект будет  нужен для управления техносферой , в противном случае нас будут ожидать масса проблем , причем Чернобыль и Фукусима  будут на их фоне чем-то незначительным и мелким  .
У нас не будет другого выхода .
Тоже относится управлению экономикой в целом .
 ИИ на базе квантовых компьютеров  сможет решить проблему создания  эффективной плановой экономики .
Дело в том ,что просчитать на любых  классических ЭВМ (или сети таких ЭВМ )   весь объём вычислений   потребный для эффективной плановой ( нерыночной ) экономики просто нереально .
И потому плановая экономика будет всегда уступать капиталистической , рыночной экономике .
  ИИ на базе квантовых компьютеров проблему эмуляции экономических процессов в масштабах целого крупного государства  .
И значит построение действительного социализма становится вполне реальным .
Контролировать  ИИ управляющей экономикой большого государства  практически невозможно .
Но другого выхода не будет . 

Главной же проблемой им видится будущее. Уже к 2030 году умственные возможности искусственного интеллекта должны превзойти человеческие, уверяют нас («закон Мура неумолим»). А такой авторитет, как Ханс Моравек (Hans Moravec), директор Института робототехники Университета Карнеги-Меллона (США), прямо говорит: «В конечном счёте роботы превзойдут нас. Человечество явно столкнётся с вымиранием». В общем, примерно как в книжке, которую часто можно было найти в ранце убитого на Первой мировой немецкого солдата: «Человек — это верёвка, натянутая между зверем и Сверхчеловеком... Как чудесно, что человек является переходной ступенью своего развития, а не тупиковой ветвью». Только вместо ницшеанского юберменша мы, понятно, верёвка к роботам.

Главным аргументом у сторонников таких взглядов остаётся знаменитое восклицание Ферми в кафе: «Где все?» ("Where is everybody?"). На такой почве вполне можно ожидать победы роботов: как только ИИ научится конструировать новых роботов лучше человеческих инженеров, наш вид будет обречён, ибо он всё более прогрессивно опирается как раз на ИИ, а последний, таким образом, нужду в человеческой поддержке потеряет.

После тотальной роботизации, поджидающей все цивилизации выше определённой ступени, Великое радиомолчание Вселенной становится очевидным: роботы вряд ли заинтересованы в контакте с мыслящим куском мяса, a priori уступающим даже его собственным вымершим разработчикам, ведь иначе они давно создали бы своих роботов, которые сразу же положили бы конец псевдоразумным, столь безрассудно тратящим ресурсы на свои выдуманные потребительские нужды. Соответственно, парадокса Ферми нет, как и высокоразвитых биологических цивилизаций.

 
 

[Олег Васильевич]

...ИИ на базе квантовых компьютеров  сможет решить проблему создания  эффективной плановой экономики .
Дело в том ,что просчитать на любых  классических ЭВМ (или сети таких ЭВМ )   весь объём вычислений   потребный для эффективной плановой ( нерыночной ) экономики просто нереально .
И потому плановая экономика будет всегда уступать капиталистической , рыночной экономике .
  ИИ на базе квантовых компьютеров проблему эмуляции экономических процессов в масштабах целого крупного государства  .
И значит построение действительного социализма становится вполне реальным .
Контролировать  ИИ управляющей экономикой большого государства  практически невозможно .
Но другого выхода не будет ...

Интересно, Абрамий, но вольно или невольно Вы затронули истинно мою тему - тему оптимизации макроэкономики "с компютерной помощью" ...  Пять лет кряду я фундаментально прорабатывал эту проблему и вышел на инновационную  компьютерно-телекоммуникационную технологию, позволяющую стабилизировать  наш "стихийный" рынок, сделав его... саморегулируемым.  А главное - очень эффективным.
Вот еще раз повторю внятно: не плановая экономика нам нужна, нам нужна оптимизированная саморегулирующаяся рыночная экономика.  Это и будет социализмом, но рыночным со всеми свободами и правами граждан, чего нельзя сделать при Новом Госплане. Это наш шаг вперед по отношению к эволюционно (на основе проб и ошибок) развивающемуся (и уже развитому)  западному рынку.  Но поскольку наша экономика "вписана" в мировую экономическую экономику, то спустя некоторое время после СНГ оптимизируется и вся мировая экономика...
А Вы в своем сообщения, я уверен, предполагаете  лишь модифицированную (приведенную к сегодняшнему дню) старую компьютерную систему, которую предлагал академик Глушков...
.....
Для начала хватит, чтобы не шокировать модераторов...  Мы все равно далее будем говорить об искусственном интеллекте, но только перенесенным на социальный объект - экономику...

[Stalk.er]

Согласно современным представлениям о сильном ИИ он не может существовать без среды и без взаимодействия со средой.
Поэтому сейчас превалирует робототехнический подход от простого к сложному. От червя к человеку.
Без платформы, железа построить ИИ не удастся.
Тоесть нужна платформа - автономный робот не уступающий человеческому телу, продаваемый продукт, открытая платформа.
Например такая платформа: http://www.icub.org/

Но эта платформа пока примитивна - она не автономна. Энергосистема и мозги венесены наружу, роборуке далеко до человеческой руки по чувствительности, гибкости и точности.
Вот после создания хорошей автономной платформы в приличных количествах и распостранении её во всех институтах среди разработчиков стоит ожидать революционных изменений.
Основные проблемы - это отсутствие ёмких/лёгких/дешевых аккумуляторов и несовершенство используемых приводов (нужны аналоги мышц).

[Олег Васильевич]

...Основные проблемы - это отсутствие ёмких/лёгких/дешевых аккумуляторов и несовершенство используемых приводов (нужны аналоги мышц).

Stalk.er, Вы говорите абсолютную истину.
Но Вы уже как бы перешагнули через вопрос темы, у Вас нет ни капли сомнения в том, что этот ИИ нужен человечеству и оттого Вы перешли непосредственно к технических проблемами такого "доброго Терминатора"...
А между тем этот вопрос - нужен или не нужен нам SuperTechnosapiens в  человеческой оболочке - еще висит в воздухе, заданный нашим топикстартером. И его надо, так сказать, сбить непременно, использовав все интеллектуальные ПВО нашего форума.... Сформировав тем самым общее мнение.

И  этом плане я еще раз задаюсь вопросом - обязательно ли нужна нам эта человеческая оболочка? Или ж мы говорим об искусственном интеллекте вообще, независимо от формы его реализации?
Эдак мы зарубим, по совету Viki, идею о производстве супер-пупер-андроидов (хотя бы даже в одном пробном эксземпляре), ограничившись маленькими паучками-роботами вроде собачонки, подчиняющихся усатому механику звездного корабля, сидящему в своей каюте с пультом управления в руках, курящему сигару и ремонтирующего с их помощью фотонный двигатель, вышедший из строя в связи со световым ураганом от вспышки Сверхновой слева по курсу корабля....)))

А идею ИИ  научно-производственного объединения "NASA-RASA", выпускающего эти корабли под Новосибирском партиями по 5 штук в одной упаковке, оставим на ветер. и он, этот Суперинтеллект, однажды подумав, решит делать вовсе не корабли, а, скажем, боевые микролазеры для тех же самых роботов-собачонок (которых уже больше, чем людей на Земле), доукомплектовывая их маленьким чипом, переводящим управление ими (собачонками) в виртуальные руки самого этого Суперпуперинтеллекта.
И те в час Х, ни мало не сомневаясь, сотрут человечество с лица планеты.

Или - еще что-то придумает, что мы никак не предусмотрели, поскольку ниже этого Супера-Пупера по интеллекту. 
Вот он, как звучит, настоящий вопрос данной темы.

[Stalk.er]

Эдак мы зарубим, по совету Viki, идею о производстве супер-пупер-андроидов (хотя бы даже в одном пробном эксземпляре), ограничившись маленькими паучками-роботами вроде собачонки, подчиняющихся усатому механику звездного корабля, сидящему в своей каюте с пультом управления в руках, курящему сигару и ремонтирующего с их помощью фотонный двигатель, вышедший из строя в связи со световым ураганом от вспышки Сверхновой слева по курсу корабля....)))

В любом случае создание ИИ будет идти снизу вверх по пути эволюции. Один экзэмпляр не будет ничего значит. Их потребуются тысячи. И им потребуется окупаемость. А для этого нужны технические предпосылки.
ИИ по уровню сравнимый с человеком появится не сразу (если вообще достижим).
Вообще этот процесс уже запущен. Уже идет определённая эволюция. Правда как я говорил полноценно эволюция может быть запущена только на массовой открытой робототехнической платформе.
Пока они глупее нас мы их можем контролировать (а они будут глупее нас очень долго). А степень развития ИИ привязана к железу. Это собственно и видно из истории развития ИИ. Не может быть каких-то волшебных методов, позволяющих обойти требования к железу. Выше потолка не прыгнешь. И мы его будем контролировать.
Пока ИИ не достиг нашего уровня - моральных вопросов и не возникает. Поэтому мне здесь не видится моральных ограничений.
Даже если роботы будут производить роботов мы всё равно будем контролировать процесс.
В супер-пупер интеллект, не привязанный к телу я не верю ввиду ограничений указанных выше.

[Олег Васильевич]

...Даже если роботы будут производить роботов мы всё равно будем контролировать процесс.
В супер-пупер интеллект, не привязанный к телу я не верю ввиду ограничений указанных выше.

Stalk.er, ну вот теперь у Вас прозвучал явственный ответ на поставленный топик-стартером вопрос.
Я "переведу" его для всех так.
Да, утверждаете Вы, человечеству нужны аппараты, наделенные искусственным разумом (даже и со Сверхраумом, во много раз превышающим интеллект среднего человека), в том числе и типа Терминатора. При этом контроль за такими аппаратами НИКОГДА не будет упущен из рук самого человечества. Я просто не верю, добавляете Вы, что такое (бунт машин против человеческой расы) в принципе возможно...

Вот в таком виде я, пожалуй, соглашусь с Вашим ответом, потому что сам верю и знаю, что РЕАЛЬНЫЕ инженеры-конструкторы при проектировании и производстве каких-либо устройств ВСЕГДА просчитывают риски, в том числе и технику безопасности.  Так что бунт машин против человека - это всё бабушкины сказки, страшилки для подростков и домохозяек, далеких от настоящего производства.

[ВадимZero]

Так что бунт машин против человека - это всё бабушкины сказки, страшилки для подростков и домохозяек, далеких от настоящего производства.

Бунт машин, основан на типичной логике гуманитария...Человек есть разум. Человек хочет быть свободным. Если будет искуственный разум, он захочет быть свободным. Вывод...одни заблуждения приводят к другим.

[Проходящий Кот]

Для слабого ИИ это не вызывает сомнения, одноко сильный ИИ сам себе на уме и куда его понесет нелегкая --- неизвестно.Людей вон заносит в самые разные стороны....

[незлой]

"может ли сильный ии сойти с ума?"

[Олег Васильевич]

...Бунт машин, основан на типичной логике гуманитария...Человек есть разум. Человек хочет быть свободным. Если будет искуственный разум, он захочет быть свободным. Вывод...одни заблуждения приводят к другим.

ВадимZero, и Вы путаете.
Речь идет об искусственном интеллекте, а не об искусственном разуме. Выше я (в частности, в посте #168) я тоже сначала думал, что речь идет об искусственном разуме (ИР). Но на самом деле речь шла об ИИ - искусственнгом интеллекте, лишенным самоиндертификации.  Это несколько разные вещи. Вот в фильме "Терминатор" действовал искусственный интеллект, а не искусственный разум. У него, у ИИ, не было самосознания, самидентификации, в общем, не было чувства "Я".  Я бы сказал, что это был просто робот человеческого вида очень высокой выживаемости - андроид-солдат.  Он выполнял программу - уничтожить объект.  И всё делал, чтобы выполнить эту задачу.

Так вот раз чувства "Я" у него не будет, у ИИ, то и стремления к свободе и "качания" своих прав у него тоже не будет.
И, честно говоря, я считаю, что просто невозможно это - вдуть в рот железной кукле душу, то бишь способность к самоидентификации, к самосознанию. Мы и  с сознанием-то никак не разберемся, а тут - самосознание... Высший уровень деятельности мозга.
Именно поэтому бунта машин не может быть в принципе.

P.S. А я ведь гуманитарий, ВадимZero, и тоже пришел к тому же выводу: НЕ МОЖЕТ.

[незлой]

И, честно говоря, я считаю, что просто невозможно это - вдуть в рот железной кукле душу, то бишь способность к самоидентификации, к самосознанию.

а обосновать? есть какие то запреты, кроме "пока не умеем"? почему тупая эволюция справилась, а нам - "невозможно"?

Именно поэтому бунта машин не может быть в принципе.

"честно говоря с считаю" или "не может быть в принципе"?

[ВадимZero]

И, честно говоря, я считаю, что просто невозможно это - вдуть в рот железной кукле душу, то бишь способность к самоидентификации, к самосознанию.

Я лично не думаю что в самосознании, есть что то волшебное(не алгоритмическое) Самосознание это скорей  понимание своего места в мире, не более. Такой взгляд на себя со стороны. Видим мы себя в зеркале, и думаем чего это за чувак...а потом ВАУ это же мы. То есть психика замечает синхронность между волевыми процессами и движениями того чувака в зеркале, и дает тому чуваку особенное имя "Я" Потому не вижу смысла различать интелект и разум.

[chiahua]

И, честно говоря, я считаю, что просто невозможно это - вдуть в рот железной кукле душу, то бишь способность к самоидентификации, к самосознанию.

Я лично не думаю что в самосознании, есть что то волшебное(не алгоритмическое) Самосознание это скорей  понимание своего места в мире, не более. Такой взгляд на себя со стороны. Видим мы себя в зеркале, и думаем чего это за чувак...а потом ВАУ это же мы. То есть психика замечает синхронность между волевыми процессами и движениями того чувака в зеркале, и дает тому чуваку особенное имя "Я" Потому не вижу смысла различать интелект и разум.

Шимпанзе тоже себя в зеркале за себя принимают, но разумными их язык не поворачивается назвать. От собратьев они своих недалеко ушли, только этим и отличаются. А по мне так орангутанги посообразительнее шимпандзе будут.

[ВадимZero]

Шимпанзе тоже себя в зеркале за себя принимают, но разумными их язык не поворачивается назвать.

Что говорит о том, что осознание себя не признак разумности.

[незлой]

Шимпанзе тоже себя в зеркале за себя принимают, но разумными их язык не поворачивается назвать. От собратьев они своих недалеко ушли, только этим и отличаются. А по мне так орангутанги посообразительнее шимпандзе будут.

а уошо разумной назвать язык бы повернулся?

[chiahua]

а уошо разумной назвать язык бы повернулся?

Мой попугай больше слов знает и вставляет их частенько по смыслу. А фильму сделать, чтоб красиво выглядело, так можно и Скиппи вспомнить, тоже ничего так смотрелось, на ура.

[незлой]

уошо не снималась в сериалах: сценариев ей не писали, т.е.
а что будет являться достаточным условием признания "разумности"?

[chiahua]

а что будет являться достаточным условием признания "разумности"?

Достаточным условием разумности я считаю переход с образного мышления на абстрактное. За исключением человека, такого нет ни у одной животины. И даже там, где животные распознают круги от треугольников, два зернышка от пяти, они пользуются образами, а не счетом.

[незлой]

Достаточным условием разумности я считаю переход с образного мышления на абстрактное.

ок.
а что такое абстракция?
в своё время долго возился с этим вопросом, и по моему "абстракция [любая] -- это описанная модель". и всё
дайте инструмент описания ("речь") -- получите абстракции в ассортименте.

[vika vorobyeva]

Давайте не будем затрагивать сложную и очень интересную тему о границах разума и самосознании у животных, иначе тема утонет в оффтопике
По условию задачи создать искусственный интеллект можно. То есть реализовать "в железе" действующую модель мозга. Которая сначала будет имитировать нервную систему какого-нибудь червяка с тремя сотнями нейронов, потом пчелы с ее миллионом, потом - собаки, потом - человека, а потом... 

И вопрос темы не в том, можно ли создать такую модель (можно, конечно - для начала, хотя бы точно повторяя нервную систему различных живых существ), а в том, надо ли это делать, и где лучше остановиться.