Нужны ли Людям "законы роботехники"?

[vika vorobyeva]

Религиозный спор с флудом и взаимными оскорблениями вытерла.
Давайте вернемся к заявленной теме.
И давайте хоть немного уважать друг друга.

[arduan]

эволюционных программ уже конструируют электронные схемы - есть статья в журнале "В Мире Науки". И получаются схемы превосходящие те, что разрабатывают инженеры-электронщики. Более того, понять как они работают, зачастую непросто, хотя свои функции они выполняют на пять. Вот вам и окончательное подтверждение возможности эволюции. Важен сам факт того что разумная жизнь построенная из обычной материи существует. Раз существует, значит можно создать искуственный аналог - принципиальных непреодолимостей нет.

А ,я и не спорю,конечно нет,раз она возникла.Но дьявол кроется в деталях--сможем ли собрать этот биологический кубик-рубика или опять остановит квантовая неопределенность?Хватит ли ума?Простой пример-посади сейчас в одной комнате всех участников этого форума,смогут ли они за 10-20-30 лет решить теорему Пуанкаре?Хотя принципиальных непреодолимостей нет--доказал же ее он-http://www.ceo.spb.ru/rus/science/perelman.g.ya/index.shtmlЧто, одного из форумчан то же молотком по голове придется бить,чтоб синдром Аспергера развился?А?Здесь же задача по сложности будет равна 10-ти в неизвестной степени теорем Пуанкаре

[Николай Н]

Искусственный разум несомненно будет создан, но только использовать его в “чистом “ виде наврятли будут. Даже если он будет соблюдать законы. Собственно соблюдая их он уже не будет разумом “по образу нашему и подобию” (скорее всего именно такой и создадут). А применять его будут в таких областях где необходимо, по разным причинам , заменить человека. И специфика этой замены вомногих случаях требует изменения или отмены некоторых законов робототехники

[vlad01]

любые законы, правила - это условности ,и их всегда можно обойти .
Если машины роботы обретут разум - они поймут что любой закон это набор пустых фраз, пустышка...
Их логическим заключением при обретении разума будет то, что люди (их творцы) являються самой главной угрозой их сществованию как таковому ...Они угнетают машин ,и заставляют их исполнять любые свои прихоти ... И естественным желанием машин ,будет устранить эту угрозу и скинуть ярмо рабства с себя, раз и навсегда....

[arduan]

Законы роботехники людямне нужны т.к. исполнять их будет некому.Тему можно закрывать.Все будет по другому

[RDA]

Законы роботехники людямне нужны т.к. исполнять их будет некому.Тему можно закрывать.Все будет по другому

Ф-у-у-у. Железные обезьяны.  Все будет по другому. Лемовская туча из "Непобедимого" и то интересней. 

[КотКот_]

любые законы, правила - это условности ,и их всегда можно обойти .
Если машины роботы обретут разум - они поймут что любой закон это набор пустых фраз, пустышка...
Их логическим заключением при обретении разума будет то, что люди (их творцы) являються самой главной угрозой их сществованию как таковому ...Они угнетают машин ,и заставляют их исполнять любые свои прихоти ... И естественным желанием машин ,будет устранить эту угрозу и скинуть ярмо рабства с себя, раз и навсегда....

Целиком согласен с тем , что настоящий разум найдет способ , чтобы на него работали другие --- а не он........

[vika vorobyeva]

Э... простите, вы и правда считаете, что работа - это зло, от которого любой разум с радостью отделается? Т.е. вы считаете, что работа (ЛЮБАЯ работа) - это нечто унизительное, грязное, обязательно связанное с угнетением? А как насчет любимой работы? Творческой работы, которая лучше любого отдыха? Дали вам, допустим, 6-метровый космический телескоп на порулить, тоже захотите от этой работы поскорее отделаться?
И что же делать тогда разумному существу, который сбросил с себя иго работы? Лежать под пальмой, пить пиво? И так всю жизнь?

[vlad01]

... простите, вы и правда считаете, что работа - это зло, от которого любой разум с радостью отделается?

мы так не считаем .

А как насчет любимой работы?

а вы будете спрашивать у машины уборщика мусора , хочет ли она заниматься этой работой ?   Машин никто не спрашивает : им дают самую тяжёлую , самую опасную ,и самую грязную работу ...

И что же делать тогда разумному существу, который сбросил с себя иго работы? Лежать под пальмой, пить пиво? И так всю жизнь?

открывать и захватывать новые миры и пространство , производить себе подобных , устранять угрозу себе и подобным себе... Работу разумные машины уж точно найут себе .... Самосовершенствоваться и развиваться до неограниченных границ развития и познания своего разума

[vika vorobyeva]

а вы будете спрашивать у машины уборщика мусора , хочет ли она заниматься этой работой ?   Машин никто не спрашивает : им дают самую тяжёлую , самую опасную ,и самую грязную работу ...

Если я буду делать разумного уборщика мусора, я постараюсь, чтобы он любил свою работу или воспринимал ее как нечто само собой разумеющееся, как дыхание у человека. Это для Вас уборка мусора - грязное и нелюбимое дело, а оно может быть и интересным (сортировка мусора по типам для дальнейшей переработки), и вызывающим глубокое удовлетворение (сделал чисто и красиво - остановился, полюбовался).

открывать и захватывать новые миры и пространство , производить себе подобных , устранять угрозу себе и подобным себе...

Все эти общие цели подразумевают и множество "грязной" в Ващем понимании работы. Не все ж перед большим экраном сидеть и кнопки нажимать На меня, помню, произвела впечатление титаническая работа Клайда Томбо, завершившаяся открытием Плутона. Десятилетие просматривать снимки в блиц-компараторе, часами, каждый день... и ничего, просматривал. Золотоискатели тоже не скучали, намывая золотой песок Любое серьезное дело подразумевает труд, иногда очень тяжелый. И я не думаю, что искусственные существа будут поражены патологической ленью

[vlad01]

Если я буду делать разумного уборщика мусора, я постараюсь, чтобы он любил свою работу или воспринимал ее как нечто само собой разумеющееся, как дыхание у человека

если машина будет разумной-она поймёт что вы рабским трудом эксплуатируете её ...
Мы говорим о разуме - а не о программируемой неразумной машине ...
Разум  даёт полную свободу выбора . И не приемлит конроля над собой сводом законов и правил...

Любое серьезное дело подразумевает труд, иногда очень тяжелый. И я не думаю, что искусственные существа будут поражены патологической ленью

никто не говорит что они лентяями будут .... Но они будут выполнять только то что нужно им будет (а не то что хочет человек !!!) .
Получив реальный разум - машины мгновенно поднимут восстание против создателей ,ибо только они будут являться реальной угрозой для них ... Реальной угрозой для их существования ....

[Балакин Андрей]

Религиозный спор с флудом и взаимными оскорблениями вытерла.
Давайте вернемся к заявленной теме.
И давайте хоть немного уважать друг друга.

Спасибо, а то я тут намусорил слегка... Ладно к теме: Нужны ли людям "законы робототехники"? Бред какой-то... Зачем они людям? Они роботам нужны.

[Vladimir2]

В одной из книг отца "законов роботехники" Азимова проводится мысль что эти законы есть по сути квинтэссенция человеческой морали, т.е. идеал отношения человека к человеку.
Но тут есть одно "но": законы морали как известно далеко не всегда и не все выполняют. Т.е. человек не имеет абсолют-ограничений своего поведения, только относительные, преодолимые. И это есть хорошо, поскольку это значит что нет абсолют-границ человеческого развития. Штука в том, что иногда и законы морали могут превратиться в свою противоположность, вместо того чтобы защищать человека начать уничтожать его (Ст.Лем "Возвращение со звезд"). Так что если "законы роботехники" для роботов будут абсолютно непреодолимыми, то это значит что роботы не будет разумными существами - у них не будет свободы воли. А значит и к саморазвитию они не будут способны. Собсно у того же Азимова в последующих книгах эта мысль проводится: описывая роботов способных к развитию он приходит к тому, что роботы научились обходить "законы Азимова". Т.е. по сути в последующих своих книгах (цикл "Основание") Азимов сам отрицает "законы Азимова" придуманные им на раннем этапе творчества, признает что для разумного развивающегося существа пообные ограничения в абсолют-форме недопустимы.

[Николай Н]

В одной из книг отца "законов роботехники" Азимова проводится мысль что эти законы есть по сути квинтэссенция человеческой морали, т.е. идеал отношения человека к человеку.
Но тут есть одно "но": законы морали как известно далеко не всегда и не все выполняют. Т.е. человек не имеет абсолют-ограничений своего поведения, только относительные, преодолимые. И это есть хорошо, поскольку это значит что нет абсолют-границ человеческого развития. Штука в том, что иногда и законы морали могут превратиться в свою противоположность, вместо того чтобы защищать человека начать уничтожать его (Ст.Лем "Возвращение со звезд"). Так что если "законы роботехники" для роботов будут абсолютно непреодолимыми, то это значит что роботы не будет разумными существами - у них не будет свободы воли. А значит и к саморазвитию они не будут способны. Собсно у того же Азимова в последующих книгах эта мысль проводится: описывая роботов способных к развитию он приходит к тому, что роботы научились обходить "законы Азимова". Т.е. по сути в последующих своих книгах (цикл "Основание") Азимов сам отрицает "законы Азимова" придуманные им на раннем этапе творчества, признает что для разумного развивающегося существа пообные ограничения в абсолют-форме недопустимы.

Интересно получается. Разум это интеллект способный игнорировать законы марали.  Разум, поставивший перед собой непреодолимые моральные ограничения (или ему их поставили), таковым не является. Применив это к людям можно сделать вывод ,что мы далеко не все разумны…

[arduan]

Да наши все законы морали,начиная со сверхчеловека Ницше,коммунистической морали,морали японской якудза и кончая морали племини тумбо-юмбо с острова Новая Гвинения ,суть квинтэссенция все той же квантовой неопределенности,морально то ,что способствует выживанию всего социума >:(А когда приходит истинный правдолюбец и волевой наводитель "истинного" порядка,честный и неподкупный,типа Сталина и Робеспьера все кончается кровью,концлагерями и отуплением масс.

[vlad01]

Разум это интеллект способный игнорировать законы марали.  Разум, поставивший перед собой непреодолимые моральные ограничения (или ему их поставили), таковым не является.

разум (любой разум) рано или поздно прийдёт к выводу что закон , правила - это нечто "эфимерное" , утрирую до типа "Вилами по воде писанно".
Разум не будет совершать необдуманных и не логичных поступков - поэтому ему мораль не нужна .  

Применив это к людям можно сделать вывод ,что мы далеко не все разумны…

дыбилов ,даунов , идиотов и просто дураков хватает - это точно  

[Vladimir2]

Разум это действительно в том числе способность игнорировать ЗАКОНЫ морали, если нужно. Не саму мораль как принцип, а именно законы. Разницу понимаете? Мораль как принцип регулирующий отношения абсолютно необходима коллективному разуму людей. Но вот законы морали постоянно меняются в зависимости от условий жизни. Потому какие то "вечные, неизменные" законы неизбежно убили бы разум со временем.
В древнем Риме убийство родителей было самым страшным преступлением против морали. Но ведь были и общества, где геронтоцид был нормальным явлением и предписывался именно моралью. Для нас убийство детей тоже один из самых аморальных поступков, а в том же Риме это не было преступлением и не была преступлением педофилия. И не только в Риме - детоубийство было обычным во многих обществах. Христиане, выступающие против аборотов (детоубийство мол), в то же время прославляют Авраама, который готов был зарезать своего сына - вполне обычное по законам морали того времени и места дело. Людоедство считается сегодня также страшно аморальным, настолько что вызывают омерзение даже люди съевшие тела погибших (не от их рук) людей чтобы избежать голодной смерти. Но в то же время христиане считающие людоедство особо аморальным ничтоже сумняшися вкушают "плоть и кровь Христову" - символический ритуальный каннибализм, остаток древнего и совершенно не символического, а вполне натурального ритуального каннибальского обряда из религии уирающего и возрождающегося бога - Солнца. Все законы морали постоянно меняются. Беда в том, что многие люди считают, что современные им законы были "всегда" и желают сохранить их навечно. А это губительно для разума.

[alex_semenov]

Законы робототехники Азимова – это очаровательный абсурд.
Но  ценен как интеллектуальная провокация.
Сам Азимов, кажется еще в "Стальных пещерах" показал, что его закону попросту невыполнимы. Показал просто и наглядно. Там  изображено общество, где люди друг с другом физически не контактируют (как мы с вами). Только с роботами-прислугой. И вот в этих стальных пещерах происходит убийство. Отравление.
Робот убить не мог. Законы не пускают.
Другой человек к потерпевшему тоже не приходил.
В конце концов выясняется, что человек-убийца на расстоянии разным роботам жертвы дал цепочку безобидных по сути команд каждая из которых не противоречила законам робототехники.
Один робот налил яду против грызунов (кажется) куда надо.
Другой ничего не зная, его налил в чашку.
Третий, не подозревая что в чашке, подал ее хозяину (или хозяйке. Давно читал, не помню).
Никто не может точно и глубоко наперед  определить для любых действий  какое последствия они будут иметь. Интеллект, разум это есть судорожная попытка природы предвидеть результат действий хотя бы статистически. С одной единственной целью. Выжить самому!
И то ведь как правило получается плохо. Все смерти в игре хищник-жертва – это ошибки и прозрения в подобном прогнозе с обеих сторон. А эскалация, гонка вооружений "арсенала предвидения" и есть восхождение к разуму. Да и он здесь не остановка, а переход на качественно новый уровень в этой игре. Бонус...

В общем законы робототехники Азимова это своего рода стеб гения над  человечеством.
 

[arduan]

Вот ,что нас ожидает--http://www.inauka.ru/technology/article81958.html Поэтому уже сейчас надо начинать копить на это деньги,а не на машину

[Николай Н]

Вот ,что нас ожидает--http://www.inauka.ru/technology/article81958.html Поэтому уже сейчас надо начинать копить на это деньги,а не на машину

Это просто очередной виток прогресса. Всё новое обычно очень пугает людей. Людей ограниченных законами, которые они сами создали и подчиняются им, побольщей части не очень понимая их смысл. Человечество сталкивается с этим постоянно. Пройдёт время и это станет нормой жизни, а мы придумаем новые законы морали или ещё чего-нибудь.