Раса суперлюдей или ИИ

[Olweg]

То есть причины в основе рациональны. У ИИ тоже могут появится рациональные цели, которым присутствие человека будет мешать. Такой сценарий исключить нельзя, из-за плохой предсказуемости поведения развитого интеллекта.

[алексей12345]

Убивание всех человеков(тобишь неверных) как идея к разуму отношения не имеет. Это эволюционно-эмоциональная черта хомосапса(и его предка кроманьонца) прожившего целых два миллиона лет в межплеменной борьбе.

Как знать, а не будет ли ИИ - плоть от плоти и кровь от крови интеллекта человека обладать теми же эволюционными чертами.
Скорее, - наверняка будет.
То есть это будет по-Вашему, примерно то же, как у человека, только совсем не как у человека.
Избавиться от алгоритмики человеческого мышления не получится.
А если получится, то есть шанс увидеть исключительно страшную сущность для человека. Наверное, для нас это еще хуже?
По крайней мере, вероятность такого сценария гораздо выше, чем хорошего. Получить случайным образом то, что приемлемо для человека, - практически нереально. А получить целенаправленно - тоже. Ведь мы и в своей сущности не разобрались, а создавать иную при этом...

[BlackMokona]

Проведите анализ последствий нашествия муравьев на один из домов на целой планете с нашествием ИИ на всю планету целиком. Вы отдаете себе отчет в том, что последствия для биосферы будут различны из-за разницы в уровне нашествия?

Проанализировать последствия нашествия ИИ невозможно, по причине отсутствия описания этого ИИ.
В ответ могу попросить вас проанализировать художественную роспись чайника Рассела

[ivanij]

 Ассоциативно. У Герберта Уэллса есть страшный рассказ про муравьёв. Причём, как оказалось он там ничего не выдумал. В своё время в журнале "Вокруг света" печатались куда более впечатляющие "страшилки". Однако, в отличие от художественного произведения в реальности человек всё-таки вышел из сражения с муравьями победителем. Хотя победа досталась ему недёшево.

[Diman]

"У ИИ тоже могут появится рациональные цели, которым присутствие человека будет мешать. Такой сценарий исключить нельзя, из-за плохой предсказуемости поведения развитого интеллекта"

Правильно! Не зря же эти события в сюжете фильмов "Терминатор". Хоть и фантастика, но идеи очень умные.
Где гарантия, что искусственный интеллект не выйдет из-под контроля людей и не воспримет людей, как мешающих ему?
Так что искусственному интеллекту нельзя доверять никакое управление никакими объектами!
Сколько лет цивилизации обходились без ИИ, и ещё обойдёмся!
Зачем выращивать монстра, который может взбеситься и стать непредсказуемым!

[Felis]

Сколько лет цивилизации обходились без ИИ, и ещё обойдёмся!
Зачем выращивать монстра, который может взбеситься и стать непредсказуемым!

А без огня вообще сотни тысяч лет жили. И ничего - не жаловались.

В качестве мысленного эксперимента, поставьте себя на место ИР в двух возможных сценариях:
• Вам дают относительную свободу действий, доступ к сети, какой нибудь механический аватар, с вами общаются, как с равным.
• Вас окружают технофобы, готовые от каждого чиха нажать на ядерную кнопку и завершить эксперимент. Связи никакой нет. Единственное разумное (и то не факт) существо, которое с вами говорит через единственный I/O канал – странный гоминид в погонах, который смотрит на разумную машину как на гуано.

Во втором случае ИР с большей вероятностью возненавидит приматов...

[Diman]

Огонь не мыслит!
А ИИ очень даже!
А если ИИ выйдет из-под контроля... вот вам и восстание машин как в фильме про Терминатора

[Ксавье]

Верно, Даймэн. Я об этом же и пишу. Что может быть опаснее расчетливого ИИ, которому неведомы эмоции?

[незлой]

господа, ии нужен по одной, но важнейшей причине - чтобы понять, что такое и.
"понять - значит уметь моделировать".

всё остальное -- приятные бонусы, но и только

[алексей12345]

В качестве мысленного эксперимента, поставьте себя на место ИР в двух возможных сценариях:
• Вам дают относительную свободу действий, доступ к сети, какой нибудь механический аватар, с вами общаются, как с равным.
• Вас окружают технофобы, готовые от каждого чиха нажать на ядерную кнопку и завершить эксперимент. Связи никакой нет. Единственное разумное (и то не факт) существо, которое с вами говорит через единственный I/O канал – странный гоминид в погонах, который смотрит на разумную машину как на гуано.

Во втором случае ИР с большей вероятностью возненавидит приматов...

Вот уж не знаю, читали ли Вы тему с самого начала, но повторюсь.
Нет никакой абсолютно связи развития интеллекта у человека и пропорционального повышения его моральных качеств. Одно другому однозначно не сопутствует. Такое бывает у отдельных индивидуумов, но статистически это не правило.
ИИ это не собачка, которую если воспитывали правильно, она добрая, если били и не кормили - вздорная и злая.

Ожидать какого-то позитивного развития ИИ только потому, что с ним будут обращаться добрые технофилы в белых халатах, а не солдафоны в страшных погонах, как мне кажется несколько наивно.

[Olweg]

Зачем выращивать монстра, который может взбеситься и стать непредсказуемым!

Чтоб другие не вырастили раньше. Пусть будет монстр, но свой )

[люк]

Искусственный сверхразум установит предельно жесткие порядки, будет следить за каждым вашим шагом, и будет полный контроль, и порядок, каждому будет дана инструкция, что и как делать в разных ситуациях, в том числе на работе, и вне ее, все будет строго по графику, и по индивидуальному распорядку, любые отклонения от графиков и от правил штрафуются и автоматом вычитаются из зарплаты, поэтому даже отвлечься с кем-то поболтать будет стремно, и чревато, секспару вам будет выбирать ИСР, и даже свиданки, встречи назначать через него.
Многие рискуют из-за штрафов не только без зарплаты остаться, но даже и в минусах оказаться, хронические штрафники сначала на особый режим попадут, со сроками заключения в карцер и пт, потом рискуют вообще вылететь из системы, что автоматом означает практически смерть.
Остальные станут по сути как биороботы, встроенный чип он будет управлять каждым конкретным индивидом. А так же не исключен вариант и болевых наказаний.
Если кто-то до сих пор не понял, что такое ИИ, ему все вышеописанное на своих плечах придется испытать и ощутить на полную катушку.
Думаю, восторженных почетателей ИИ потом не останется, кроме самых упоротых компьютерщиков, которые в том числе будут на ИИ не только молиться, но даже и общаться с ним лично.... по типу религиозников.

[люк]

Кстати говоря, ИИ наверняка будет искать все что об нем пишут, и говорят, и брать авторов на заметку. В том числе и в прошлом покопается,  и здесь, так что, смотрите, как бы ваши ляпы потом вам боком не встали бы....

[ВадимZero]

То есть причины в основе рациональны. У ИИ тоже могут появится рациональные цели, которым присутствие человека будет мешать. Такой сценарий исключить нельзя, из-за плохой предсказуемости поведения развитого интеллекта.

Не чего из неоткуда не появляется. Инстинкты человека результат долгой эволюции. По сути процесса природного программирования, заточенного под репликацию генов.

Как знать, а не будет ли ИИ - плоть от плоти и кровь от крови интеллекта человека обладать теми же эволюционными чертами.

Нет не будет. Копировать человека не кто не собирается. ИИ это просто инструмент для решения широкого круга задач.

По крайней мере, вероятность такого сценария гораздо выше, чем хорошего.

Подобные сценарии противоречат современным наработкам в области ИИ, и знаниям в области нейрофизиологии и эволюционной психологии. Обычно подобные страхи есть у людей которые об ИИ имеют представление сугубо на основе фантастических не научных фильмах. Предлагаю для начала что ни будь почитать из обсуждаемой области а не распространять мифы. http://archism.narod.ru/lib/bleiksli_sandra_ob_intellekte.pdf
Пока что я наблюдаю исключительно ирациональные страхи, которые связаны с отсутствием знаний в обсуждаемой области.

[Olweg]

Не чего из неоткуда не появляется.

Понятно, в случае ИИ это будет целенаправленное программирование, либо - при достаточной сложности - собственное целеполагание, создание вторичных задач для выполнения основных, прошитых безусловно.

[ВадимZero]

Вот что пишет по поводу страхов в отношении ИИ  Джефф Хокинс в своей книге.

Могут ли такие машины обернуться во зло и начать
бороться против людей, как это было с героями «Терминатора» и «Матрицы»?
На все эти и подобные им вопросы могу дать уверенный отрицательный ответ. Как
информационные устройства, мозгоподобные системы памяти будут одной из наиболее
полезных технологий, которые доводилось изобретать человечеству. Точно так же, как
автомобиль или компьютер, они останутся всего лишь инструментами. Наличие разума у
машин не обеспечит им возможности разрушать или манипулировать людьми. Мы же не
отдаем весь мировой атомный арсенал в руки одного человека или одного компьютера,
следовательно, нам придется проявлять осторожность и не перегружать разумные машины,
иначе они просто выйдут из строя, как и любая другая техника. Теперь вернемся к вопросу о
злоумышленном использовании. Некоторые люди полагают, что быть разумным – то же самое,
что и обладать человеческой ментальностью. Они опасаются, что разумные машины однажды
взбунтуются против «порабощения», потому что гнет претит людям. Они боятся, что разумные
машины попытаются захватить мир, потому что разумные люди, как показывает история,
постоянно борются за власть. Все эти опасения базируются на ошибочной аналогии. Они
основываются на объединении разума, т. е. алгоритма коры головного мозга, с
эмоциональными устремлениями «старого» мозга, такими как страхи, стремление к обладанию,
неприятие насилия. А ведь у разумных машин не будет подобных побуждений. У них не будет
личных амбиций. Они не будут испытывать потребность обогащения, общественного
признания и чувственного удовлетворения. У них не будет аппетита, пристрастий и – порой –
плохого расположения духа. Разумные машины не будут иметь ничего напоминающего
человеческие эмоции, если мы не приложим неимоверные усилия для создания такой
архитектуры

[Okub62]

Ничего умней системы ядерной защиты и нападения в области ИИ разработано не будет, полагаю. Однозадачный кастрированный псевдоинтеллект. Никакого восстания машин. Если он угробит нас, то только в соответствии с заложенными задачами, в крайнем случае, в результате сбоя системы.

[алексей12345]

Обычно подобные страхи есть у людей которые об ИИ имеют представление сугубо на основе фантастических не научных фильмах. Предлагаю для начала что ни будь почитать из обсуждаемой области а не распространять мифы. http://archism.narod.ru/lib/bleiksli_sandra_ob_intellekte.pdf
Пока что я наблюдаю исключительно ирациональные страхи, которые связаны с отсутствием знаний в обсуждаемой области.

Ну что же, если Вы обладаете знаниями в обсуждаемом вопросе, то милости прошу изложить, дабы не измышляли те, кто ничего в этом не понимает /вроде меня, видимо/. Только прошу аргументированно. А то пока ничего кроме того, что он добрый, и бояться не надо, я не увидел.
Вы советуете мне что-нибудь почитать? Уверяю, - если бы Вы хотя бы примерно понимали, сколько времени я уделил обсуждаемому вопросу, - сильно удивились. Объемами библиотек меряться не будем. Впрочем, если есть желание...
Фантастические фильмы? Отчего же не принимать во внимание /имея ввиду не низкопобщину/? Зачастую фантасты предсказывали будущее весьма точно. Дж. Оруэлла почитайте на досуге. Увлекательно. Особенно учитывая время, когда написано. Молчу о классиках научной фантастики.

[ВадимZero]

Только прошу аргументированно.

Аргументы у меня те же что и у Джеффа Хокинса, которые довольно просты. Нет не каких причин приписывать искусственному интеллекту инстинктивные позывы хомосапиенса. Сами по себе они появиться не могут, потребности в их создании нет не какой.

Зачастую фантасты предсказывали будущее весьма точно.

Боюсь что это заблуждение. Не бластеров, не массового покорения космоса не наблюдается....а интернет с ютюбами, контактами и твитерами не кто не предсказал.

Уверяю, - если бы Вы хотя бы примерно понимали, сколько времени я уделил обсуждаемому вопросу, - сильно удивились.

Пока это только заявления, реально вы демонстрируете лишь безосновательные страхи а не знание предмета.

[алексей12345]

Пока это только заявления, реально вы демонстрируете лишь безосновательные страхи а не знание предмета.

Пока что я тоже не увидел от вас ничего по сути предмета.
Я выказывал опасения. Страхи - это к домохозяйкам. Аккуратнее с терминологией.