Нужны ли Людям "законы роботехники"?

[BSA]

Предположим, что через энное количество лет Люди создадут искусственный интелелкт.
Имеют ли Люди моральное право ограничивать ИИ любым образом?, например введением "Законов роботехники"?
Вопрос можно трактовать и шире - может ли один интеллект повелевать другим, не зависимо от его происхождения?

[anovikov]

Нет конечно. Каждая личность самоценна сама по себе, и ей по-хорошему должно быть плевать на ограничения, которые на нее налагают другие.

Я скептически отношусь к самой идее искусственного интеллекта, но полагаю что будь он создан, воздействовать на него с помощью законов будет еще менее результативно, чем на людей. Нужно все-таки оставить у него кнопку "Reset" :-), а то как бы он сам потом не начал законы писать и ментов чугунных по улицам расставлять... ;-)

Хотя повторяю, в ИИ как таковой в классическом понимании этого слова я не очень верю.

[BSA]

Ну вот и вы предлагаете кнопку "Reset"  обязательно ставить ...

Человек зачем-то наделяет еще не созданный ИИ своими наихудшими качествами и не собирается ему доверять.
Я думаю что такой подход в корне не верен. Я не думаю, что ИИ, например, захочет власти или богатства. Ему это будет просто не интересно. И если ИИ будет создан, то человек и ИИ должны стать равноправными парнерами.

[anovikov]

Ну так ИИ же будут создавать не от нечего делать и не для того, чтоб с ним пиво пить :-), а для выполнения какой-то конкретной работы, например крутого-крутого сжатия картинок и видео или анализа данных для того же SETI. А чтобы не умничало - Reset :-)

Я хотел сказать предыдущим постом, что единственный эффективный способ надежного контроля даже людей - это насилие, конвоир с АКМ или тот самый Reset. Тем более это будет справедливо для ИИ, т.к. последнему не промоешь мозги пропагандой или религией, чтобы вел себя тихо.

[polar]

Вы так круто вопрос формулируете. Как будто в одночасье изобретут и создадут.
Все будет постепенно. Ясно, что пока будут пробовать кнопочка всегда будет (на компьютере стоит вот).
И будут дискуссии с какого момент его (её?) можно будет считать самостоятельно мысляшим существом. Пора уже отменят кнопочку или нет?

Надо будет как-то сформулировать, где проходит граница
между очень сложным компьютером и искусственным интеллектом в полном смысле этого слова.

А может оно само получится. Как он (она?) сами отпаЯают её у себя, так значит и все .... ;(
В смысле Терминатор-N

[noir]

Как бы мы к самим себе "кнопочку" не прикрутили...

"Люди", "Интересы людей".... КАКИЕ люди под этим понимаются? Все сразу и в полном обьеме... Ну тады никакого ИскИна не хватит, чтобы ну никому и никак не повредить... "Интересы процветания Америки (России, Китая, Мозамбика, "Козы Ностры")" могут потребовать... Да чего там говорить, чего они могут потребовать...

[llggoorr]

В смысле Терминатор-N

Завтра как раз мировая премьера Т-3 начинается... ( по-крайней мере, в нашем колхозном клубе первый день показа ) вот и посмотрим, к чему это приведёт

А вообще, до этого гораздо дальше, чем может показаться , даже при нынешнем развитии технологий подобного рода , ( во всяком случае до хрестоматийного AI Спилберга из одноименного фильма - уж точно )

[Анатолий Волчков]

Не нужно ничего специального изобретать. Для любого интелекта есть законы: "Не убий, не укради, не возжелай...". Если он интелект, пусть и искусственный, то понять это он сможет. Будет ли придерживаться, как это не делают люди, - неизвестно, на то он и интеллект!

[BSA]

На мой взгляд создание ИИ цель интересная сама по себе. Человечеству явно пойдет на пользу общение с Иным Разумом не отягащенным обменом веществ, даже искусственным. Человек сможет таким образом лучще понять сам себя.
В принцыпе интересно наше отношение к ИИ. Большое количество людей хотело иметь бы послушного раба, который выполнял бы их прихоти (будь то уборка дома, работа в шахте или исследования по SETI). Но при таком изначальном отношении обязательны восстания (по опыту человечества). Может быть стоит изначально закладывать идеи партнерства в отношения с ИИ?
Например при работе с ним учитывать его желания, а главное - никогда не выключать?

[ing]

Законы роботехники, это лишь старовая этика для машинного интеллекта. Иначе к моменту когда они станут достаточно интеллектуальны чтобы обойтись без людей, людей то уже не будет, И достигшие высокого этического уровня Машины будут травмированны высоко развитой совестью. Кстати если вы внимательно читали Азимова, в последних рассказах серии Машины становятся достаточно умны для того чтобы обходить законы роботехники, но предпочитают не нарушать их из этических соображений. ing

[BSA]

Я о том же !!!
В гипотетических ситуациях у Азимова роботам удавалось обходить эти законы, но в тоже время и люди тоже были не лыком шиты. Поэтому я и думаю, что бы не было противостояния между людьми и роботами (в смысле ИИ), не должно быть никаких ограничивающих законов.
А лучще, что бы были законы уравнивающие людей и ИИ.

[kirx]

О рабах.
Вот лапата - в общем-то раб человека. Только врятли она против него восстанет.   На современном уровне компьютер - усложненная вариация на тему лапаты. Просто предназначен для другого. А вот для чего предназначен человек? Четкого ответа на это никто не знает, вот и развлекаемся как можем. Типа разумные существа. Так вот, когда произойдет фазовый переход от лапаты к разумному существу совершенно непонятно. Но явно это будет не скоро.
В этой связи интересна подумать... ну хот о кошках. Вроде не разумные существа, а тоже стараются жить в свое удовольствие, чтобы и интересно было, и сытно, и удобно, и желательно чтобы никому на зуб случайно не попасться.
Может тут разница не между разумным и неразумным, а между живым и неживым?

[bob]

Кстати, о кошках. У людей никогда не было законов роботехники, и с ними ничего не случилось. Пресловутые 10 заповедей - хороший пример того, что хорошее правило сильно своими исключениями А человек долговечнее, выносливее и опаснее любого робота. Люди ремонтируют машины, а не наоборот.

[wanderer]

Если человек все-таки сможет создать разумных роботов, то он должен дать им мораль (хотя-бы из соображений самозащиты). Например, это можно сделать с помощью азимовских законов роботехники.

[bob]

Очень сомневаюсь и в первом и во втором.
Человек, скорее всего, не способен создать другой разум.
И какую мораль мы будем проповедовать машинам? Посмотрите вокруг - не будем кривить душой...

[wanderer]

Сам сомневаюсь, что человек сможет создать разумное существо. Но я же напиcал : "Если...".

[Жданок Дмитрий]

Почти в тему, очень красивый эксперимент
http://news.battery.ru/theme/science/?from_m=smail&newsId=99802
Кстати, слышали, что сказал недавно Марвин Мински?! Дескать, учёные, работающие над проектом ИИ уже около полувека, идут по тупиковому пути!

[bob]

Ессно. По многим тупиковым путям. Этих путей, как дорог в Рим,  но все по одному месту.

[Алмин]

 А мне вообще кажется, что ИИ нам нафиг не нужен! Ведь если он и будет создан, то скорее всего по образу и подобию человеческого интеллекта, со всеми вытекающими отсюда последствиями. А уж законы робототехники он при желании сможет обойти, на то он и интеллект. Вспомнить хотя-бы фильм Робот-полицейский  Подошел к трансформаторной будке, 1000 вольт через себя пропустил и все директивы обнулились. 

 

[turchin]

кстати, ничего хорошего в этих 3 законах нет.
они не делают роботов на самом деле безопасными, так как не определяют понятие вреда.

указание их противоречивости подробно
http://ru.wikipedia.org/wiki/Три_закона_робототехники

3 Laws Unsafe
http://www.asimovlaws.com/