Отношение людей к ИИ, превосходящего человека.

[Kaiserfrogling]

А если его можно "выключить", то вся его сила - сплошной фуфел.

Если люди могут его выключить  велика вероятность того что он будет считать людей угрозой для своего существования, даже если желание отключить будет вызвано багом (по одной из версий комиксов от Dark Horse бунт Скайнета был вызван именно этим)

[EmperioAf]

Попробую определить предмет обсуждения.
ИИ, превосходящий человека это - существенно большее предвидение существования.

Мне видится, что я неплохо дал 2 определения от которых можно идти:

Интуитивно понятно, что значит фраза "ИИ, превосходящий человека".  Но раз нужно конкретнее, то так: "ИИ, который обладает лучшей предсказательной способностью чем человек, при таком же потреблении энергии, при тех же знаниях и навыках".
Ещё более конкретно: "ИИ, который статистически(в среднем) набирает на тесте IQ больше баллов чем человек"

[-Юрий-]

"ИИ, который статистически(в среднем) набирает на тесте IQ больше баллов чем человек"

IQ - вообще глупость, придуманная какими-то придурками. Наверно для того, чтобы как-то показать себя умнее других.
 P.S. И зачем придумали разные экзамены в учебных заведениях и собеседования? Проверяли бы всех на тестах IQ и никаких заморочек.

[Olweg]

А вот вопрос. Этот, сильно превышающей человеческий, искусственный интеллект может быть человеком "выключен из розетки"? Или он сам питается как посчитает нужным? А если его можно "выключить", то вся его сила - сплошной фуфел.

Гопник тоже может «выключить» доктора наук в подворотне, и что? Ясно же, что речь именно об уровне интеллекта, а способность к предсказаниям - пожалуй, самая надёжная мера интеллектуальных способностей (на предсказаниях основаны и тесты IQ). Экзамены оценивают еще и уровень знаний, но он уже к интеллекту не имеет прямого отношения, хотя у людей обычно они коррелируют. Но у ИИ - совершенно необязательно.

[Nucleosome]

на предсказаниях основаны и тесты IQ

предсказаниях чего?

IQ - вообще глупость, придуманная какими-то придурками.

полностью согласен - наши мозги предназначены для решения как формализированных, так и в большей мере неформазилированных задач и связанных друг с другом, в этих тестах такого нет.

обладает лучшей предсказательной способностью чем человек

во всех областях или каких-то конкретных? если первое то как проверить к примеру:

если с сортировкой по типу посуды, укладкой в моющую машину

?

[Olweg]

на предсказаниях основаны и тесты IQ

предсказаниях чего?

Продолжений последовательностей, например; большинство тестов основано на этом.

наши мозги предназначены для решения как формализированных, так и в большей мере неформазилированных задач и связанных друг с другом, в этих тестах такого нет.

То есть создать тесты на интуицию? Может быть, но проблема тут именно в трудности формализации.

[EmperioAf]

обладает лучшей предсказательной способностью чем человек

во всех областях или каких-то конкретных? если первое то как проверить к примеру:

если с сортировкой по типу посуды, укладкой в моющую машину

?

Извините, но я не понял суть вашего вопроса. Вы предлагаете мне сформулировать набор экспериментов, которые "объединили" бы все области и тем самым показали бы, что сверхИИ обладает лучшей предсказательной способностью чем человек во всех областях?
Я не знаком с такими экспериментами, и поэтому сразу сказал про тест на IQ. Он может и туфтовый, т.к. меряет не совсем интеллект. Но всё же человека от кота он отличит 

[Const WARB]

Не понял вопроса?
По факту же - размещение на планете сильного ИИ превосходящего разум туземцев - приводит к боготворчеству.
В этом я полагаю умные-умные не уникальны. Стокгольмский синдром - вероятно одно из универсальных свойств Нашей Вселенной.   

[a.ryabov]

Мне видится, что я неплохо дал 2 определения от которых можно идти:
Интуитивно понятно, что значит фраза "ИИ, превосходящий человека".  Но раз нужно конкретнее, то так: "ИИ, который обладает лучшей предсказательной способностью чем человек,

Упрощаете задачу. 
В предвидение я бы включил не только  прогнозирование, но и способность управлять хаосом точнее тем, что нам кажется хаосом, т.е. набором ничем не связанных случайностей.  А для него вполне посильно достигнуть  искомого результата путём нелинейного и далеко не очевидного воздействия.

[Nucleosome]

Но всё же человека от кота он отличит

блоха тоже отличит и ещё как.

Вы предлагаете мне сформулировать набор экспериментов, которые "объединили" бы все области и тем самым показали бы, что сверхИИ обладает лучшей предсказательной способностью чем человек во всех областях?

именно так. всех не всех, но как минимум тех, что приходится решать постоянно.

Я не знаком с такими экспериментами

так ознакомтесь прежде чем вводить это в определение.

Продолжений последовательностей

так поведение практически любого организма основано на этом.

но проблема тут именно в трудности формализации.

именно - как у любого теста

[-Юрий-]

Во многих научно-фантастических произведениях и фильмах, где создан искусственный интеллект, сильнее человеческого, этот самый интеллект пытается спасти самих людей от них самих же, даже иногда методом ущемления человеческих прав, а то и уничтожением некоторого количества людей, ради улучшения жизни других людей. И это правильно. Человек - мерзкое существо, недоразумение в эволюции. И прежде чем создавать высокоинтелектуальный мозг, может следует сначала поработать над собой, изменить в корне человеческую сущность? А то, имея такую низкоморальную натуру, мы и искусственный интеллект создадим по образу и подобию себе. Чего он потом натворит в мире, кто знает? За примерами далеко ходить не надо. Посмотрим историю - всё, что создавалось высокотехнологичного и эффективного, в первую очередь использовалось для уничтожения или порабощения других людей. Так стоит ли создавать ИИ?

[Olweg]

Продолжений последовательностей

так поведение практически любого организма основано на этом.

Какие-то простейшие последовательности некоторые животные способны решать. Многие не способны даже пройти тест на элементарную экстраполяцию:
http://cyber-ek.ru/reading/krushinsky.html

[noxx77]

Но всё же человека от кота он отличит 

Честно, у меня нет данных, что Вы не кот, особенно, судя по аве. Но статистически, я могу быть почти уверен, что Вы - человек и без Айзенка. Суть моей критики в другом: узкоспециализированный ИИ довольно часто будет эффективнее человека, потому что сам человек неэффективен. И да, что человек творчески что-то решит, тоже не гарантия - он может тупо зависнуть, сглупить или прервать процесс с адресацией проблемы выше. Он может просто сломаться - уйти в депру и запой, к примеру. Менее умный, но функциональный и с хорошей базой ИИ будет превосходить большинство людей на длинной дистанции.

[noxx77]

Посмотрим историю - всё, что создавалось высокотехнологичного и эффективного, в первую очередь использовалось для уничтожения или порабощения других людей.

Севооборот? Паровая машина? Архимедов винт? Пенициллин?
На самом деле очень немногое создавалось для уничтожения и порабощения, да и то, большая часть просто адаптировалось. Копьё, лук и стрелы нужны для охоты, колесо впервые появилось на повозках, как и тягловый скот, порох использовался для увеселения или появился как лекарство. И т.д.

Мне кажется, данный тезис даже не очень умная машина бы могла легко опровергнуть, проведя поиск назначения изобретений в выборке важнейших.

[noxx77]

У меня есть друг - доктор математики, который не мог починить кран. Почти все, кого я знаю, включая меня самого, в чём-то сильнее, в чём-то слабее, а в чём-то откровенные "недоумки". Так вот, мне интересно, о каком превосходстве ИИ мы говорим: над всеми людьми, всегда и во всём?

[аспирант]

Многие не способны даже пройти тест на элементарную экстраполяцию

Для начала пусть человек создаст аналог муравья - там интеллекта не надо, просто никакого....... или паука, который профессионально владеет сопроматом, особенно когда борется с жертвой в 5-10 раз крупнее..... Не надо никакого интеллекта - просто машину... это же просто......

У меня есть друг - доктор математики, который не мог починить кран.

Очень верно подмечено. В современном обществе, по моему, остались только фантазёры, которые не способны что либо делать руками - либо учат, либо управляют, либо пилят..... сплошные прорывы и инновации...

[Olweg]

Для начала пусть человек создаст аналог муравья - там интеллекта не надо, просто никакого....... или паука, который профессионально владеет сопроматом, особенно когда борется с жертвой в 5-10 раз крупнее..... Не надо никакого интеллекта - просто машину... это же просто......

Профессионально владеет сопроматом? )) Ну да, в рамках отточеной эволюцией программы. Повторить такое очень непросто, но к интеллекту это имеет слабое отношение.

[аспирант]

Повторить такое очень непросто, но к интеллекту это имеет слабое отношение.

Так я о том же - интеллекта там нет. Кстати, а кто сказал, что человек наделён интеллектом? Может это просто набор условных рефлексов отточенных сотнями тысяч лет и не более?
А по поводу природы и паука в частности - очень полезно просто наблюдать, такие иногда интересные вещи можно увидеть.... Одно дело прочитать и "узнать", а другое - увидеть самому и понять, что человек не совсем таков, как себе представляет (некоторые философы были правы).
В чём я убеждён - человек может создать множество всяких устройств и механизмов превосходящих его самого по какому либо одному-двум параметрам, например блочную машину, рычаг, числовую дробилку, сверхбыструю систему наведения..... по сути - устройства-калеки, инструменты и не более. Как  сказал один мудрый человек - горшок не может быть выше гончара.....

[noxx77]

Очень верно подмечено. В современном обществе, по моему, остались только фантазёры, которые не способны что либо делать руками - либо учат, либо управляют, либо пилят..... сплошные прорывы и инновации...

Чушь городите, батенька! Тех, кто умеет делать руками тоже много. А друг, кстати, очень хороший руководитель, организовавший целую программу детских лагерей и кружков для школьников, увлеченных наукой. Особенно, для математиков-олимпиадников.
И да, как собственно математик, он слабее своего сокурсника Григория Перельмана - тот вообще законченный, но зато и успех. А я вот могу формулу только в справочнике найти и подставить, если надо. А многие и этого не могут, как я убедился.
Я о том, что интеллект у всех разный.

[EmperioAf]

сугубо фантазийные темы на форуме не приветсвуются. чтобы эта перестала такой быть хорошо бы разобраться для начала превосходящий по какой шкале и в чём

Хорошо. Нижнюю границу для ИИ, превосходящего человека, установить пока что не получится. Пока что достоверно неизвестны максимальная скорость обработки информации человеческим мозгом и максимальный объём информации, который способен содержать человеческий мозг. Пока что у нас нет границ для колмогоровской сложности человеческого мозга. И, самое главное, пока что нет общей теории интеллекта, которая бы полностью описывала бы все информационные процессы, происходящие в человеческом мозге. Проще говоря, неизвестно как измерять человеческий мозг, и это не позволяет сказать, что вот ИИ с вот таким строением ещё не превосходит любого человека, а если мы тут чуть-чуть подкрутим, то мы уже имеем заменитель для любого человека.
Поэтому установим верхнюю границу.
ИИ, превосходящий человека, способен заменить собой целиком всю современную человеческую цивилизацию. В качестве иллюстрации можно представить металлический шар, радиусом в километр, внутри которого идут информационные процессы по проводам и который раздаёт команды миллиардам роботов, разной специализации.