Нужны ли Людям "законы роботехники"?

[Николай Н]

Если ИИ и будет создан то “3 закона” в нём наврятли будут применятся, по крайней мере без соответствующей обработки . Еще один интеллект на планете на равных правах с нами не пройдёт.  Мы друг друга с трудом терпим . Скорее всего начнётся следующий виток истории рабовладельческого строя .Этож затаённая мечта человечества . Переделают ИИ в ИОИ (искусственно ограниченный интеллект) и будут его с успехом эксплуатировать. Да и в военных  целях его используют в первую очередь ,как обычно.Тут уж законы робототехники и заповеди отдыхают.

[turchin]

кстати, читали ли вы вот это?

Е.Юдковски
Искусственный интеллект как позитивный и негативный фактор глобального риска.
http://www.proza.ru/texts/2007/03/22-285.html

[Николай Н]

кстати, читали ли вы вот это?

Е.Юдковски
Искусственный интеллект как позитивный и негативный фактор глобального риска.
http://www.proza.ru/texts/2007/03/22-285.html

Прочитал. Весьма интересно . Но только люди будут и ИИ антропоморфизировать . Большинство воспринимает ИИ как синтетическую копию человеческого разума . Вот это будет опасно. Конечно, ИИ может быть не похож на наш, но законы его действия будут теже. Позитивность или негативность будет зависеть от нас, его создателей, от   цели его применения. В боеголовке не нужен ИИ запрещающий саморазрушение и т.д  . Свободный ИИ  с правом свободы выбора  человечеству просто бесполезен. Может только ради чисто научного интереса провести с ним(над ним) серию экспериментов. Ограничения ИИ будут носить целевой характер.

[КотКот_]

кстати, ничего хорошего в этих 3 законах нет.
они не делают роботов на самом деле безопасными, так как не определяют понятие вреда.

указание их противоречивости подробно
http://ru.wikipedia.org/wiki/Три_закона_робототехники

3 Laws Unsafe
http://www.asimovlaws.com/

Как в своё время написал Лем ("Футорологический конгрес")--- разум даст возможность его обладателю отлынивать от заданного дела. И это есть настоящая граница ---- тупой ИИ будет выполнять заданную работу, умный ИИ --- искать способ переложить её на другого....Но всё будет шито-крыто....

[Балакин Андрей]

Предположим, что через энное количество лет Люди создадут искусственный интеллект.

Ну, скажем - через 10 лет...

Имеют ли Люди моральное право ограничивать ИИ любым образом?, например введением "Законов роботехники"?
Вопрос можно трактовать и шире - может ли один интеллект повелевать другим, не зависимо от его происхождения?

Неплохо бы вначале определиться о каком виде ИИ идет речь. О нейрокомпьютере? Или об экспертной системе? Уж очень разные принципы организации информации у них.
Предположим, что речь идет о нейросетевом принципе, аналогичном человеческому. В таком случае это будет весьма трудно. Но в принципе возможно. Ах да! Речь идет ведь о "моральном праве". Прикольно! Мораль и роботы. Подходящая тема для халтурного романа. Мораль - это дисциплинарный симулякр людей регулирующий отношения близких людей. А закон - регулирует отношения граждан государства.
Возникает вопрос - зачем нужен неуправляемый и нерегулируемый робот, если даже люди вынуждены подчиняться законам? Для создания парков робожизни? Способность принимать самостоятельные решения не стоит ставить на одну доску с бесконтрольностью. Программист сам решает, какую долю свободы решений предоставить роботу, и вся ответственность за последствия лежит на нем, не на роботе. А мораль... Гм. Это как-то дико не уместно по отношению к действиям технических устройств. Любовь, дружба - это все человеческие обстоятельства жизни.

[arduan]

Исскуственный интеллект никогда не будет создан,нашим биологическим видом HOMO,http://eternalmind.ru/index.php?option=com_content&task=view&id=1546&Itemid=1   ---где-то далеко на горизонте,показалась не преодолимая стена,имя ей квантовая неопределенность   8)Вслед за термоядом,квантовым компьютером и антигравитацией, нас ждет облом и в пространственном отношении---Марс будет первой и последней планетой куда ступит нога человека

[EvilShurik]

Не говори "гоп" пока не прыгнешь. Насчёт ограниченности возможностей - это противоречет теореме Гёделя и её дальнейшему расширению - теории Омега-числа. Если уж в математике наличествует бесконечность аксиом, то и в метавселенной существует бесконечность возможных состояний бытия. Хотя нам может казаться что выбор ограничен. Но! Могут существовать труднопробиваемые барьеры. Тот же рост неустойчивости в сложных системах или ограниченность инструментария для воздействия на природу. Или к примеру воля злонамереных сущностей, для которых наша вселенная - нечто вроде вирт-полигона по отработке ублюдочных бытийствинных концепций.

[arduan]

Когда-то был популярен лозунг--сила беспредельна как и разум.Но оказалось ,что предел есть--чемпионы-штангисты оказались простыми "допингистами" и дальнейший рост результатов в тяжелой атлетике,ожидают лишь с внедрением"генетического"допинга(на какое-то время)Так вот, наш разум ограничен в силу этих же простых физиологических причин.Пробовали ли вы собирать кубик-рубика,самостоятельно,без готовых формул?Везде есть предел,предел нашего разума уже замаячил где-то вдалеке.....

[EvilShurik]

Когда-то был популярен лозунг--сила беспредельна как и разум.Но оказалось ,что предел есть--чемпионы-штангисты оказались простыми "допингистами" и дальнейший рост результатов в тяжелой атлетике,ожидают лишь с внедрением"генетического"допинга(на какое-то время)Так вот, наш разум ограничен в силу этих же простых физиологических причин.Пробовали ли вы собирать кубик-рубика,самостоятельно,без готовых формул?Везде есть предел,предел нашего разума уже замаячил где-то вдалеке.....

Пределы взламываются. У меня есть расказ "Титанические игры". Там переосмысляется концепция Олимпийских игр. Из-за ограниченности человеческих возможностей в росте рекордов наступил застой. Популярность Олимпиад упала. И вот гениальный организатр предложил альтернативную концепцию "Титанических игр". Разрешены все виды допингов. Цель игр - выявить наилучшую концепцию физической модернизации человеческого организма. Приз получает не только спортсмен-победитель, но и компания, разработавшая апгрейд. Фундаментальное требование к компании - её апгрейд не только не должен наносить ущерб здоровью, но кроме этого должен расширять возможности спортсмена сверх естественных.

[arduan]

Повторяю- и в допинге есть предел :-XВ вашем случае это будет раскаченный-перекаченный генетический мутант,который умрет ,точнее "сгорит"из-за своего ускоренного метаболизма,вымрет как вымерли гиганты-тиранозавры

[EvilShurik]

Повторяю- и в допинге есть предел :-XВ вашем случае это будет раскаченный-перекаченный генетический мутант,который умрет ,точнее "сгорит"из-за своего ускоренного метаболизма,вымрет как вымерли гиганты-тиранозавры

Глупость. Читайте условия к концепции внимательнее.
Дополнение:
Взламывание подразумевает преодоление конструкционных ограничений в организме путём замены базы, на которой она построена.

[arduan]

Повторяю- и в допинге есть предел :-XВ вашем случае это будет раскаченный-перекаченный генетический мутант,который умрет ,точнее "сгорит"из-за своего ускоренного метаболизма,вымрет как вымерли гиганты-тиранозавры

Глупость. Читайте условия к концепции внимательнее.
Дополнение:
Взламывание подразумевает преодоление конструкционных ограничений в организме путём замены базы, на которой она построена.

Если вы захотите создать новый биологический вид ,то знайте- вас ждет еще один облом,еще одна квантовая неопределенность -биологические виды создаются не людьми

[Балакин Андрей]

Если вы захотите создать новый биологический вид ,то знайте- вас ждет еще один облом,еще одна квантовая неопределенность -биологические виды создаются не людьми

Породы люди создают давно, а сейчас похоже, и новые виды и искусственные формы жизни замаячили, как возможность.

[arduan]

Термояд уже давно маячит как возможность И вообще:Римско-католическая церковь впервые за полтора тысячелетия обновила список смертных грехов, добавив туда генетические изменения ДНК человека, а также разрыв между богатыми и бедными. В интервью ватиканскому изданию L'Osservatore Romano епископ Джанфранко Джиротти заявил, что к смертным грехам можно отнести «определенные нарушения фундаментальных прав человека в результате экспериментов, генетических манипуляций. Не страшно ли будет нарушать?

[EvilShurik]

Маразматические Бредни попов-прощелыг? Нет. Я боюсь другого - при законодательном запрете на разработку новых видов живого их создадут в тайне, возможно те, кто эти запреты ввел. И вот тогда всем нам точно будет большой облом. Меньшее по масштабу боевое превосходство феодальной знати над крестьянами привело к феодальному средневековью. Спасибо, но мне повторение этого бояна не нужно. И когда пишете "квантовые ограничения" - понимайте смысл написанного. Факт создания жизни у нас перед глазами - зачатие и рождение ребёнка. Повторить в пробирке - можно по факту, но пока сложно.

[arduan]

Факт создания жизни у нас перед глазами - зачатие и рождение ребёнка. Повторить в пробирке - можно по факту, но пока сложно.

  Ха,ну вы меня и рассмешили, да задача по созданию простого сперматозоида человека из кирпичей--атомов ,сравнима по сложности с той же,что решала слепая ,пьяная обезъяна, когда напечатав на машинке роман Толстого "Война и мир"гордо объявила о сотворении случайным путем ,чуда--молекулы ДНК.А зачать ребенка очень просто надо лишь ,что- бы презерватив порвался

[EvilShurik]

Погодь смеяться. Чтоб что-то использовать, понимать как это работает не нужно. Достаточно знать "инструкцию по эксплуатации". Для создания системы боле сложной чем человеческий мозг достаточно запустить автоэволюционирующую систему, поставив перед ней конкретную цель. Так собственно живой мир и развивается. А пример с обезъянами барабанящими по клавиатуре выбросьте на помойку - он принципиально не корректен, поскольку не учитывает особенности эволюционирующей системы. С помощью эволюционных программ уже конструируют электронные схемы - есть статья в журнале "В Мире Науки". И получаются схемы превосходящие те, что разрабатывают инженеры-электронщики. Более того, понять как они работают, зачастую непросто, хотя свои функции они выполняют на пять. Вот вам и окончательное подтверждение возможности эволюции. Важен сам факт того что разумная жизнь построенная из обычной материи существует. Раз существует, значит можно создать искуственный аналог - принципиальных непреодолимостей нет.

[Алмин]

Факт создания жизни у нас перед глазами - зачатие и рождение ребёнка. Повторить в пробирке - можно по факту, но пока сложно.

  Ха,ну вы меня и рассмешили, да задача по созданию простого сперматозоида человека из кирпичей--атомов ,сравнима по сложности с той же,что решала слепая ,пьяная обезъяна, когда напечатав на машинке роман Толстого "Война и мир"гордо объявила о сотворении случайным путем ,чуда--молекулы ДНК.А зачать ребенка очень просто надо лишь ,что- бы презерватив порвался

За что же Вы так людей принижаете? Конечно Мы не венц природы, но уж точно не "слепая и пьяная обезьяна". 500 лет назад, знаете ли, за одну идею о полёте в космос могли на костре сжечь... но ведь наука победила! А что будет завтра? 

[arduan]

Девять кругов АДА. Выберите себе место

 1 круг     (Лимб)                                                                                                                  
Страж: Харон
Томящиеся: Некрещёные младенцы и добродетельные нехристиане
Вид наказания: Безбольная скорбь

2 круг     ( -- )                                                                                                                      
Страж: Минос
Томящиеся: Сладострастники (блудники и прелюбодеи, просто страстные любовники)
Вид наказания: Кручение и истязание бурей

3 круг     ( -- )                                                                                                                      
Страж: Цербер
Томящиеся: Чревоугодники, обжоры и гурманы
Вид наказания: Гниение под солнцем и дождём

4 круг     ( -- )                                                                                                                      
Страж: Плутос
Томящиеся: Скупцы и расточители (неумение совершать разумные траты)
Вид наказания: Стенка-на-стенку (вечный спор)

5 круг     (Стигийское болото)                                                                                            
Страж: Флегий — перевозчик через болото
Томящиеся: Гневные и ленивые
Вид наказания: Вечная драка по горло в болоте

6 круг     (Стены города Дита)                                                                                            
Страж: Фурии
Томящиеся: Еретики и лжеучители
Вид наказания: Быть призраками в раскалённых могилах

7 круг     (  --  )                                                                                                                    
Страж: Минотавр
Томящиеся: Совершающие насилие
Вид наказания:

       1-й пояс круга            
             Томящиеся: Насильники над ближним и над его достоянием (тираны и разбойники)
             Вид наказания: Кипеть в кровавой реке. Тех, кто высунется, подстреливают кентавры Несс (мифология), Хирон и Фол

       2-й пояс круга            
             Томящиеся: Насильники над собою (самоубийцы) и над своим достоянием (игроки и моты, то есть бессмысленные истребители своего имущества)
             Вид наказания: Самоубийц, в виде деревьев, терзают гарпии; мотов загоняют гончие псы

       3-й пояс круга            
             Томящиеся: Насильники над божеством (богохульники), против естества (содомиты) и искусства (лихоимство)
             Вид наказания: Изнывать в знойной пустыне у горящего потока

8 круг     (Злопазухи, или Злые Щели)                                                                        
Страж: Герион
Томящиеся: Обманувшие недоверившихся
Вид наказания:

       1-й ров круга            
             Томящиеся: Сводники и обольстители
             Вид наказания: грешники идут двумя встречными потоками, бичуемые бесами

       2-й ров круга            
             Томящиеся: Льстецы
             Вид наказания: Влипшие в кал зловонный

       3-й ров круга            
             Томящиеся: Святокупцы, высокопоставленные духовные лица, торговавшие церковными должностями («Симонисты»)
             Вид наказания: Туловища закованы в скалы, по ступня струится огонь

       4-й ров круга            
             Томящиеся: Прорицатели, гадатели, звездочёты, колдуньи
             Вид наказания: Голова повёрнута на пол-оборота

       5-й ров круга            
             Томящиеся: Мздоимцы, взяточники
             Вид наказания: Кипеть в смоле. В тех, кто высунется, черти вонзают багры

       6-й ров круга            
             Томящиеся: Лицемеры
             Вид наказания: Закованы в свинцовые мантии («федериков плащ»)

       7-й ров круга            
             Томящиеся: Воры
             Вид наказания: Мучения гадами (кенхр, амфисбена, фарей, якул, ехидна), взаимопревращения с ними

       8-й ров круга            
             Томящиеся: Лукавые советчики
             Вид наказания: Души спрятаны (горят) внутри огоньков

       9-й ров круга            
             Томящиеся: Зачинщики раздора
             Вид наказания: Потрошение

       10-й ров круга            
             Томящиеся: Алхимики, лжесвидетели, фальшивомонетчики
             Вид наказания: Проказа и лишай

9 круг     (Ледяное озеро Коцит)                                                                                      
Страж: Гиганты (Бриарей, Эфиальт, Антей)
Томящиеся: Обманувшие доверившихся:
                          Предатели родных
                          Предатели родины и единомышленников
                          Предатели друзей и сотрапезников
                          Предатели благодетелей, величества божеского и человеческого
                          Вмёрзший в льдину Дит (Люцифер) терзает в трех своих пастях предателей величества земного и небесного (Иуду, Брута и Кассия)

Вид наказания: Вмёрзли в лёд по шею, и лица их обращены книзу



6 круг?

[EvilShurik]

Не будет никакого ада. В отличии от поповских бреден, смерть абсолютна и за ней ничего нет. Как написано на могиле одного античного грека - не был, был, никогда более не будет. Так что кончайте читать сказки и займитесь полезным делом - к примеру самообразованием. Всё одно полезнее чем водку глушить.