Раса суперлюдей или ИИ

[ВадимZero]

кстати - интересный вопрос: как запрограммировать эмпатию?
(то, что её можно запрограммировать - очевидно: всё, что получилось у эволюции имеет решение и для нас)

Это называют второй позицией восприятия(в нлп) Человек перемещается внутри своей модели мира в тело другого человека. При этом отстраняется от собственных ощущений и концентрируется на ощущениях другого. Ну а дальше обычные ответные реакции и стратегии стремления, избегания.

[Okub62]

http://i-news.kz/news/2015/04/24/7995490-obama_izvinilsya_za_gibel_zalozhnikov_v.html
ИИ извиняться будет не надо, он вне человеческой морали. Короче, повторюсь «Убивайте всех, Господь распознает своих!» (с)

[stuuvi]

ИИ извиняться будет не надо, он вне человеческой морали.

Как будто чьи то извинения могут изменить уже произошедшее событие.

[Okub62]

Не в извинениях дело, а в компенсациях и репарациях. На погибших содеявшим, по большому счёту, ...
Сегодня как раз одна годовщина. Там тоже извиняться не хотят, потому как вторым шагом однозначно выдвинут требования.
А с тупой железяки взятки гладки - так вышло.

[незлой]

если собака загрызёт прохожего -- спрос с хозяина. не смотря на то, что сам он прохожего не грыз.
тоже и тут.

у железки нет ответственности (по крайней мере в обозримом будущем), отвечать за неё будут создатели/владельцы.

извините, но такое ощущение, что под ии тут понимают либо железного безчувственного парнягу, разгуливающего по улицам на страх прохожим, либо железную-же бесчувственную коробку, повелевающую на свой вкус внезапно послушными до онемения людьми.
либо и то и другое сразу.

[DimVad]

если собака загрызёт прохожего -- спрос с хозяина

Но совсем не такой же, как если хозяин сам убьёт. О таких делам много писали. Если я подойду к Вам и ударю - Вы меня спокойно засудите. Если моя собака подбежит к Вам и укусит - максимум штраф, и то - замаетесь.

[незлой]

допустим даже так (речь шла о "загрызть" а не "укусить", ну да ладно)
из этого возможны 2 вывода

1. необходимо срочно запретить собак!
2. нужно приводить в порядок законы.

вам какой больше нравится?

[stuuvi]

Но совсем не такой же, как если хозяин сам убьёт.

Смотря с каким усердием подойти. Если хозяин сам загрызёт то его посадят. А если собака загрызёт, а хозяин на свободе, то ему можно и ноги поломать и почки отбить.

[DimVad]

вам какой больше нравится?

Оба.
Например - запрет на содержание собак "бойцовских пород" - необходим. Ибо нифига их хозяева сдержать не могут. Реально - собака сильнее хозяина в разы. Но и законы - тоже надо совершенствовать.

[stuuvi]

Например - запрет на содержание собак "бойцовских пород" - необходим.

Это факт.

[DimVad]

А если собака загрызёт, а хозяин на свободе, то ему можно и ноги поломать и почки отбить.

Это уже другой вопрос. Я показал на практике, что пример "Незлого" - неверен. И как раз играет против его позиции.

[незлой]

запрет на содержание собак "бойцовских пород" - необходим.

ну так и требуйте запретить использование ии в военных целях, всецело поддержу (аналог "собак бойцовых пород")
но тут требуют запретить собак вообще, обосновывая это тем, что некоторые из них -- бойцовые, а их хозяева - безответственны.

Я показал на практике, что пример "Незлого" - неверен.

в чём именно, извините? хозяин не несёт ответственности за своего пса? если "ктото кое где у нас порой" этой ответственности избегает -- то это к вопросу о правоприменении а не про собак.

[незлой]

к слову: если прокурор сумеет доказать, что собаку науськали на прохожего именно с целью того загрызть -- то это будет банальное убийство, со всеми вытекающими для хозяина.
с ии это сделать (доказать "науськивание") будет даже проще.

[stuuvi]

с ии это сделать (доказать "науськивание") будет даже проще.

Ну вот допустим ИИ могут только крупные страны создавать с развитой компьютерной индустрией. Сделали они ИИ , он вышел из под контроля. Те вроде извинились за нападение с его стороны. Но какие меры принять можно другой стране, если она крупная и обладает ядерным оружием? Предложить уничтожить ИИ. Либо применить ядерное оружие для уничтожения угрозы.

Скорее всего учитывая все риски, такой ИИ просто уничтожат сами создатели - риски окажутся слишком велики.

[незлой]

Скорее всего учитывая все риски, такой ИИ просто уничтожат сами создатели - риски окажутся слишком велики.

скорее всего, с учётом этих рисков, свободы действия у подобного ии будет примерно как сейчас у ядерной ракеты -- т.е. никакой.

[-Юрий-]

Я думаю, когда будет создан искусственный интеллект, вряд ли ему дадут свободу действий. Наверняка, его будут использовать точно так же, как компьютер, то есть для решения задач или консультаций. А принятие решений всегда останется за человеком. Примерно как описано в известном рассказе Мешок

[stuuvi]

скорее всего, с учётом этих рисков, свободы действия у подобного ии будет примерно как сейчас у ядерной ракеты -- т.е. никакой.

Его тогда надо полностью изолировать от интернета. А вот как метод устрашения о создании придётся объявить, предъявив какие то реальные доказательства того, что сиё даёт преимущество.. в обороне например. А если реально будет давать преимущество в обороне, например позволит перехватить большинство целей, то можно уже ядерный шантаж устраивать.

[люк]

Изолировать сверхинтеллект??!!! Это даже не смешно! Если это сверхинтеллект, то для него реально никаких преград не будет существовать, и изолировать его можно будет разве что в ЧД, и то под вопросом....
Хозяева сверхинтеллекта будут ими до какого-то заведомо определенного момента, далее их могут искать долго и нудно и безуспешно, если будет вообще кому искать.

Олигархам ИИ нужен конкретно для преступных целей получения сверхприбылей и получения абсолютной власти, Ученым нужен волшебный автомат для решения любых самых сверхсложных задач. Будет сговор, далее родится НЕЧТО, будет все что они задумали, но на короткий срок, потом придет жестокая расплата и поделом, но миру долго и с большой кровью придется решать возникшую проблему, и не факт что люди собственными силами смогут ее решить

[stuuvi]

Изолировать сверхинтеллект??!!!

Ну да, просто физически не подключать к сети. Он в железе заперт - деться ему некуда.

[Okub62]

Если к сети не подключать, то интеллект, полагаю, не разовьется. Не помню, чтобы где-то писали, что маугли обладают сколько-нибудь развитым интеллектом.