Раса суперлюдей или ИИ

[алексей12345]

Все просто замечательно осведомлены о том, что будет нужно ИР, чего он будет хотеть и т.д.

Если речь обо мне, то я ничего не утверждаю. Я лишь говорю о том, что есть вероятность наступления подобного сценария. И игнорировать его беспечно.
Аналогично, непонятно на чем основан оптимизм в этих вопросах. Вы ведь тоже не осведомлены о том, что будет нужно ИР?

[Ксавье]

Действительно, Филиз, на чем основан ваш оптимизм относительно ИИ и его потребностей?

[Felis]

Т.к. я полагаю, что у Разума есть некие свойства, которые не зависят от его природы (биол./ИИ/хрен-знает-что-еще).
И достигнув именно уровня разумности система не станет "убивать всех человеков" (с).

[ivanij]

Т.к. я полагаю, что у Разума есть некие свойства, которые не зависят от его природы (биол./ИИ/хрен-знает-что-еще).
И достигнув именно уровня разумности система не станет "убивать всех человеков" (с).

 В особенности, если ИИ будет продукт эволюции.

[алексей12345]

Т.к. я полагаю, что у Разума есть некие свойства, которые не зависят от его природы (биол./ИИ/хрен-знает-что-еще).
И достигнув именно уровня разумности система не станет "убивать всех человеков" (с).

Вот это меня и беспокоит. На самом деле в ходе развития интеллекта возникли побочные явления. К примеру, хищник никогда не станет убивать жертву, если не голоден. Человек зачастую действует иррационально. Охота /знаю людей, убивших за одну охоту более 80-ти зайцев/,  да и охота ради забавы на человека встречается. Что это, - баг или неотъемлемое свойство интеллекта? От зверей нам такое достаться не могло - более в природе подобное не встречается.

[алексей12345]

И еще одно, как считаете, у кого получится более "беспроблемный" для будущего человечества ИИ? /опустим чисто технические возможности, речь о возможном результате/

[Olweg]

Алексей, есть ведь такое выражение "лиса в курятнике".  Хищникам обычно сложно поймать дичь, и они сразу её съедают или начинают прятать, им уже не продолжения охоты. Но азарт при погоне они испытывают такой же, как и человек на охоте, так что можно "винить" в равной степени и инстинкты, и разум, который их позволяет удовлетворять без меры.

[shuricos]

хищник никогда не станет убивать жертву, если не голоден

Это не так.
Охота всегда связана с затратой энергии и риском получения травмы, которая не позволит охотиться в будущем. Это является сдерживающим фактором неограниченного убийства.
Что может служить таким сдерживающим фактором для убийства людей искусственным интеллектом - тот ещё вопрос.

[Okub62]

... Что может служить таким сдерживающим фактором для убийства людей искусственным интеллектом - тот ещё вопрос.

Ничего.
Хорошо, хоть его не будет никогда.

[BlackMokona]

Биосфера не имеет возможности существовать неограничено долго, просто сгорит наша планетка через ,n лет в пепел, плюс ещё 100500 проблем поближе и пожиже.
Остальные живые существа замечательно имеют все пороки человечества, и кровожадной резнёй тоже увлекаются, муравьи даже воевать умеют, брать рабов и выжирать всё живое. Поэтому не надо человека отдельно ставить как и ИИ.

[алексей12345]

Пост удалил, поскольку после правок он потерял смысл.

[Nucleosome]

Комментарий модератора раздела

обсуждая кто там моральнее кого или кто там "тварь дрожащая или право имеет" (с) мы далеко зайдём. удалил.

[Ксавье]

Т.к. я полагаю, что у Разума есть некие свойства, которые не зависят от его природы (биол./ИИ/хрен-знает-что-еще).
И достигнув именно уровня разумности система не станет "убивать всех человеков" (с).

Каков же срок достижения предполагаемого вами уровня разумности?

[Ксавье]

Биосфера не имеет возможности существовать неограничено долго, просто сгорит наша планетка через ,n лет в пепел, плюс ещё 100500 проблем поближе и пожиже.
Остальные живые существа замечательно имеют все пороки человечества, и кровожадной резнёй тоже увлекаются, муравьи даже воевать умеют, брать рабов и выжирать всё живое. Поэтому не надо человека отдельно ставить как и ИИ.

Проведите анализ последствий нашествия муравьев на один из домов на целой планете с нашествием ИИ на всю планету целиком. Вы отдаете себе отчет в том, что последствия для биосферы будут различны из-за разницы в уровне нашествия?

[Тортэ]

а разве мы заметим появление ии ? )
разве животные заметили появление человека разумного ?

[-Юрий-]

а разве мы заметим появление ии ? )
разве животные заметили появление человека разумного ?

Даже сейчас, когда электронная техника далека от "разумности", мы и то уже стали её рабами. А что же будет когда она поумнеет?

[Ксавье]

а разве мы заметим появление ии ? )
разве животные заметили появление человека разумного ?

Еще как заметили. Человек ведь дает о себе знать постоянно

[ВадимZero]

Т.к. я полагаю, что у Разума есть некие свойства, которые не зависят от его природы (биол./ИИ/хрен-знает-что-еще).
И достигнув именно уровня разумности система не станет "убивать всех человеков" (с).

Убивание всех человеков(тобишь неверных) как идея к разуму отношения не имеет. Это эволюционно-эмоциональная черта хомосапса(и его предка кроманьонца) прожившего целых два миллиона лет в межплеменной борьбе. Хомосапсу с его врожденной программой порохиального альтруизма, с вытекающими из нее стратегиями патриотизма и ксенофобии, свойственно ненавидеть и желать смерти любой нации которая теоритически может составить конкуренцию. Гуманитарии тут делают ошибку, приписывая своим инстинктам(хотелкам) статус разумного. Из этой ложной посылки следует ложный вывод, о том что ИИ будет хотеть причинить вред человеку.

[Olweg]

А почему у человека выработались такие инстинкты?

[ВадимZero]

А почему у человека выработались такие инстинкты?

Потому что эгоистичному гену выгодно уменьшение численности конкурентов, а также  численности собственных тушек на территории с ограниченными пищевыми ресурсами.