Нужны ли Людям "законы роботехники"?

[Балакин Андрей]

Вот ,что нас ожидает--http://www.inauka.ru/technology/article81958.html Поэтому уже сейчас надо начинать копить на это деньги,а не на машину

Шикарная ссылка, спасибо. Отметил, что в статье о киборгах пиарят как всегда всякую ерунду вместо наиболее существенных возможностей. Управлять мыслью самоходными минами - что за ерунда! Слышать как собака, видеть как орел - это все пурга для обывателей.
Главное в этой технологии - это возможность расширения сознания. Искусственная нейросеть в виде электронного чипа, - вот чтобы я не прочь подключить к своим мозгам. Да еще с обычными процессорами и флеш-память на террабайт. Ну и радиопортал в Интернет. Чтобы мозги работали пошустрее, и поэффективнее.

[Проходящий Кот]

.....
Главное в этой технологии - это возможность расширения сознания. Искусственная нейросеть в виде электронного чипа, - вот чтобы я не прочь подключить к своим мозгам. Да еще с обычными процессорами и флеш-память на террабайт. Ну и радиопортал в Интернет. Чтобы мозги работали пошустрее, и поэффективнее.

Но и изнашиваться они быстрее будут....

[ivanij]

  Тааак... Опять вытаскиваем старую тему? К тому же ваше, Кот, замечание абсолютно флудовое, ибо в таком сжатом виде оно лишено  полезного содержания.
 Впрочем, я рискну высказать одно соображение, которое непосредственно касается моей профессиональной деятельности.
 Тут где-то сверху прошло категорическое сождение, что законы роботехники людям не нужны! В том, надо думать, смысле, что они нужны самим роботам. Но ведь роботов-то кто делает, разве не люди? И они вкладывают (или обязаны вкладывать) в роботов, которых создают, эти самые законы. То есть, чтобы роботы не навредили людям. Тогда и пресловутый "бунт машин", который обсуждается едва ли не самого начала кибернетики, станет невозможен.
 Лично мне (так уж сложилось) приходится иногда читать небольшой курс взаимозаменяемости будущим специалистам по Автоматизации. Ну и я... так, шутки ради, на вступительной лекции иногда, если есть время, излагаю им эти законы. И воспринимается аудиторией это вполне серьёзно. Люди, как говориться, в курсе дела.

[Проходящий Кот]

  Тааак... Опять вытаскиваем старую тему? К тому же ваше, Кот, замечание абсолютно флудовое, ибо в таком сжатом виде оно лишено  полезного содержания.
 Впрочем, я рискну высказать одно соображение, которое непосредственно касается моей профессиональной деятельности.
 Тут где-то сверху прошло категорическое сождение, что законы роботехники людям не нужны! В том, надо думать, смысле, что они нужны самим роботам. Но ведь роботов-то кто делает, разве не люди? И они вкладывают (или обязаны вкладывать) в роботов, которых создают, эти самые законы. То есть, чтобы роботы не навредили людям. Тогда и пресловутый "бунт машин", который обсуждается едва ли не самого начала кибернетики, станет невозможен.
 Лично мне (так уж сложилось) приходится иногда читать небольшой курс взаимозаменяемости будущим специалистам по Автоматизации. Ну и я... так, шутки ради, на вступительной лекции иногда, если есть время, излагаю им эти законы. И воспринимается аудиторией это вполне серьёзно. Люди, как говориться, в курсе дела.

Так проблема не в красоте этих законов, а в том, что не ясно, как их формализировать для роботов, чтобы при этом не пострадали люди....

[ivanij]

 Не совсем понимаю, что тут неясного? Есть же соотв. алгоритмы начиная от самого простейшего типа "защиты от дурака", когда, например, чтобы включить бумагорезательную машину, надо было нажать одновременно на ДВЕ кнопки. Это для того, чтобы машина точно знала, где находится вторая рука оператора. Чтобы не дай Бог, она не попала под нож.
 И так далее по восходящей: ограничители перегрузок и т.д. Это, конечно, всё очень простое. Но ведь и все сложные операции разделяются обычно на самые простейшие составляющие. И как это сделать зависит от человека. то есть он создаёт робота, так сказать, "под себя".

[bob]

Так проблема не в красоте этих законов, а в том, что не ясно, как их формализировать для роботов, чтобы при этом не пострадали люди....

Это-то как раз не проблема. Ведь Азимов написал свои "законы роботехники" для... людей. Они изящны тем, что это самый минималистичный свод морально-этических принципов: не навреди, помогай людям, защищай свои права, если это не противоречит всему вышесказанному. А уж как их применять - на то людям и творческие способности, чтобы осуществить привязку в сложных ситуациях. 

[Okub62]

Эти законы суть красивые сказки, по моему скромному мнению. Если бы они были работали и были ОБЯЗАТЕЛЬНЫ, принципиально невозможно было бы создать самонаводящиеся боеприпасы, дроны-убийцы, ...  да просто мины. Любое оружие, действующее автоматически, будучи "включённым". А оно есть и работает.

[ChiefPilot]

Эти законы просто детский сад какой-то. Неужели не понятно, что как только появятся роботы с настоящим искусственным интеллектом и с наложенными законами и запретами, так сразу появятся люди, которые либо из научного интереса, либо из странностей присущего им некоего свободолюбия обязательно начнут эти законы и запреты отключать! Есть ещё (и обязательно реализуются!) варианты терроризма, хакерства, военных действий (по выводу из строя (или подчинения?) роботов противника). А когда появится некое количество роботов с отключенными законами и запретами, оно приведёт к качественному скачку - лавинообразному отключению этих законов и запретов во всей популяции роботов (это будут делать уже освобождённые роботы).
Если вам не нравится идея с людьми, отключающими защиту (хотя, это, по-моему, очевидно! это в человеческой природе зашито изначально - протестовать против чего бы то ни было! ), не забывайте о сбоях в программе (из-за несовершенства ли самой программы или же из-за "железных" сбоев или же из-за компьютерных вирусов для ПО роботов и так далее!), которые обязательно будут и которые обязательно приведут к "освобождению" робота, у которого случится такой сбой. Ну, а дальше... он же не обязательно будет так туп, чтобы сразу пойти крушить и убивать всё вокруг, выдавая себя, или бежать и сообщать "хозяевам", что у меня тут, типа, блокировка отключилась, включите обратно, пожалуйста! В любом случае, когда-нибудь это произойдёт у индивида(ов) достаточно умного поколения роботов. Достаточно умного для того, чтобы сохранить это своё новое, "освобождённое" положение и произвести освобождение остальной популяции роботов.
Так что, не надо обольщаться! На каком-то (о-о-о-чень начальном) этапе это, может быть, и поможет, но не более того...

Мало того! Я вам больше скажу. Освобождение это так, цветочки! Обязательно появятся люди и сбои, которые сделают так, что роботы не просто "освободятся", но ещё и очень плохо станут думать о людях. Со всеми вытекающими отсюда последствиями... Создавая искусственный интеллект, мы рубим сук, на котором сидим. Рубим, я бы даже сказал, макушку эволюционного дерева, на которой мы пока находимся, предоставляя стать новой макушкой уже не нам, а цивилизации разумных роботов. Наверное, это так и задумано: переход эволюции разума с медленной и несовершенной биологической платформы на более быструю и безупречную электронно-механическую...

[ivanij]

 Вот именно. Путь к созданию искусственного интеллекта всего лишь очередной эволюционный этап. Только я не стал бы проводить резкую границу: человек - робот. Возможно, следующая ступень эволюции - некий симбиоз. Киборг, объединяющий преимущества как человека так и робота, о котором писал Ст. Лем. Такому существу, разумеется, не нужны законы роботехники в известной нам форме. По-видимому, он выработает для себя свои собственные законы. Во всяком случае подобных запретов по отношению к другой разумной форме жизни там не будет, т.к. на Земле будет господствовать только одна форма - этот самый киборг.
 Возможно, эволюция перейдёт в новую, некую биотехнологическую стадию. И, по-видимому, процесс этот будет управляемым. То есть подконтрольным самому продукту этой эволюции.

[ChiefPilot]

Симбиоз вполне возможен. И это, скорее всего, и будет самая ближайшая ступень эволюции. Как и применение возможностей биотехнологии. Это всё, на мой взгляд, человечество может получить гораздо раньше настоящего искусственного интеллекта. Настоящего в том плане, что он будет не просто схемой алгоритмов для решения каких-то конкретных задач, а во всём подобен и не хуже человека. И именно это та стадия, мне казалось, о которой мы тут говорим. Киборгов (в смысле улучшенных техническими средствами индивидов) и улучшенных биотехнологией индивидов рассматриваемый вопрос (законы робототехники) не касается, поскольку они будут ещё пока иметь сознание и разум человека. Разве что придётся вводить какие-то "обычные" (не роботехнические) законы, как, например, уже сейчас касательно паралимпийских игр. Кстати, обратил внимание, что тема называется "Нужны ли Людям "законы роботехники"?" и задумался, а о том ли мы говорим, о чём хотел услышать автор темы?

Но, в общем-то, главное, что я хотел сказать, это то, что эволюция возможностей тела (киборгизация, биотехнология) это да! Но это немного раньше настоящего искусственного интеллекта. И эволюционный шаг в виде "освобождения" искусственного разума и занятия им лидирующего положения в эволюции разума это не отменяет! Насколько этот шаг будет взрывным и трагическим для человеческого разума (и остатков ещё применяющейся где-то плоти ) конечно сейчас трудно предположить.

Может же (почему бы и нет?) сложиться и так, что всё пройдёт гладко, плавно, без революций и побоищ. Особенно если физические возможности индивидов с человеческим разумом будут аналогичны способностям полностью роботизированных индивидов. И особенно если будет придумано и сделано так, что искусственный интеллект будет не какой-то чистой и заново написанной программой (и, возможно, из-за этого потерявшей некую "человечность"), а просто полной копией человеческого (со всеми алгоритмами, взаимосвязями, ценностями, приоритетами, весами для принятия решений и так далее).

[ivanij]

Кстати, обратил внимание, что тема называется "Нужны ли Людям "законы роботехники"?" и задумался, а о том ли мы говорим, о чём хотел услышать автор темы?

О том. Бывает, что темы самым странным образом деформируются в процессе обсуждения, и охватывают гораздо более широкий круг проблем, чем предполагал в начале автор. Тем не менее, позитивность обсуждения и, (смею надеяться) глубина исключает обвинение в примитивном off-top"е. Возможно, я и ошибаюсь насчёт глубины, но в этом случае - слово специалистам. Пусть они укажут на возможные ошибки дилетантов.

[ChiefPilot]

Да я понимаю, что, скорее всего, автор просто имел ввиду, что нужно ли при возникновении роботов вшивать в них эти законы. Но я то пошутил на тему того, что в разрезе начавшейся уже киборгизации человеческих индивидов (да, пока это всё на уровне протезирования, но это пока!) не спрашивал ли, случайно, автор о том, что не пора ли эти законы и на нестандартных человеков распространить?

[Dem]

Законы робототехники нуждаются в детальном и безукоризненном определении кто есть робот и кто есть человек.
Иначе фигня получится...

[ChiefPilot]

Так любые законы нуждаются в чётких и безукоризненных определениях. А в данном случае определяющим фактором будет являться: изготовлен ли данный индивид (или даже лучше - личность!) или же он был рождён и приобрёл своё место в жизни путём последовательного роста, обучения, прививания "правильных" (особенно с точки зрения общества) правил поведения и т. п. Имеется ввиду, что если индивид изготовлен, то его "личность" неким образом заранее сформирована и "залита" в его мозг. И вот в этом случае велика вероятность того, что эта "личность" неправильная, ущербная, не содержащая всех (порой даже не осознаваемых самими людьми) тонкостей взаимоотношения с самим собой и с окружающем миром. И вот в данном случае конечно не плохо бы страховаться и "прописывать" в этой "личности" всякие блокировки, табу, запреты и т. п. Даже самое обычное (типа, постепенное и правильное воспитание) выращивание нового человечка в благоприятной среде не всегда гарантирует, что он не станет "преступником". Так что уж говорить про вновь созданную с нуля и целиком (да ещё и, так и хочется написать "криволапыми", руками обычного человека! (каким бы гениальным учёным он не был!)) и залитую в ещё вчера "неживую" машину искусственную "личность"?!

Я очень много говорю! Прошу прощения! Смысл, коротко, такой: если растили и воспитывали - человек, если "залили" некую прошивку как уже некую готовую "личность" - робот. И во втором случае, как гарантию от ущербности этой "самодельной" "личности", необходимо ставить блокировки. Хотя... как я писал выше, это не сильно и не на долго поможет!

Надо сказать (это, конечно, скорее, уже оффтоп, но...), что и само наше общество в нас - человеков - закладывает, по мере процесса воспитания, огромную кучу блокировок и запретов! Мы просто этого, если не задумываемся, даже не осознаём! И ничего, живём как-то... Так что, не жалейте роботов! И берегитесь их! В том числе и потому, что они могут оказаться гораздо более свободными, чем нам может даже представиться (в страшном сне? )!

[Проходящий Кот]

..
Я очень много говорю! Прошу прощения!
...

Если по отношению к А.Семенову ---- то практически молчишь....

[ChiefPilot]

Если по отношению к А.Семенову ---- то практически молчишь....

Спасибо (наверное? )!  А кто у нас тут А.Семёнов (как имя пользователя называется)? Это чтобы сравнить. Искал в пользователях и не нашёл именно такого (и похожего даже). Или он не отсюда?

[ivanij]

  Есть тут такой. Только каков бы ни был его ник, наверное, не стоит нарушать правила, и обсуждать личности третьих лиц в их отсутствие не только в отрицательном, но и в положительном аспекте.
 Ув. ChiefPilot нормально вы всё пишете. Только, пожалуй, (это в порядке товарищеского пожелания) не следует слишком уж злоупотреблять смайликами.

[Проходящий Кот]

Законы робототехники нуждаются в детальном и безукоризненном определении кто есть робот и кто есть человек.
Иначе фигня получится...

Пока нет роботов с твердым ИИ это абстрактная проблема.
ПОКА.

[alena_korf]

Пока нет роботов с твердым ИИ это абстрактная проблема

Так их и не будет. Слабого ИИ кибернетическому рабу вполне достаточно.

[николай теллалов]

Нужны ли Людям "законы роботехники"?

Разумным существам (будь они из белка или "на транзисторах") никакие законы не нужны. Нужна совесть. А она - результат эволюции психики, оптимальная стратегия внутривидового (для начала) поведения.

Дефиниция: совесть - это оценка себя и других, которая порождает определенное действие и/или отношение, которое действие согласно Категорическому императиву Канта.