Пределы автоматизации и внедрения роботов

[BlackMokona]

Во всех этих случаях робот должен остановить человека?

это вторая часть закона.
тоже в ней неуверен, имхо - достаточно первой.
ну, или не вживлять ии в пепельницы

Причём тут вторая, робот увидел, что человек сигаретой наносит себе вред, значит он долже отобрать у него сигарету, все увищевания человека ниже по приоритету и будут игнорироваться.
А если вторую часть выключить, то Азимов уже описал эту ситуацию, роботы смогут убивать людей.

[Vitaliy]

Школьный инвентарь заменят роем роботов

Видео занятные.

Мелко плавают, пора задуматься о замене учителей роботами. 

[незлой]

Причём тут вторая

"робот не может своими действиями причинить вред человеку, или
допустить своим бездействием чтобы человеку был причинён вред" [по памяти]

"вторая часть" -- это вторая строчка. без неё сигарета в моей руке роботу никак не помешает.

[BlackMokona]

Причём тут вторая

"робот не может своими действиями причинить вред человеку, или
допустить своим бездействием чтобы человеку был причинён вред"

вторая часть -- это вторая строчка. без неё сигарета в моей руке роботу никак не помешает.

Без неё робот вас убьёт, без нарушения первого закона роботехники, описанно Азимовым, в рассказе где для ученных сделали партию роботов без второй строчки

[незлой]

впрочем, опятьже: поскольку для решения указанной задачи (что будет являться "вредом" для данного конкретного индивидуума) данных у ии всегда будет недостаточно (и снова -- паки и паки - у ии члена роя), на деле всё, скорее всего, ограничится "белым списком" допустимых действий.
дёшево, сердито, проверено временем.
 

[Rattus]

Во всех этих случаях робот должен остановить человека?

Дык ещё Лем в "Осмотре на месте" по этому поводу прикалывался.
Да и вообще вся эта робоэпопея с "законами" у самого Азимова как раз и построена на наглядной демонстрации их совершенной надуманности. Чистая схоластика же. Сколько можно её труп гальванизировать?

[BlackMokona]

впрочем, опятьже: поскольку для решения указанной задачи (что будет являться "вредом" для данного конкретного индивидуума) данных у ии всегда будет недостаточно (и снова -- паки и паки - у ии члена роя), на деле всё, скорее всего, ограничится "белым списком" допустимых действий.
дёшево, сердито, проверено временем.

Поднять и отпустить ящик это допустимое действие?

[незлой]

Без неё робот вас убьёт, без нарушения первого закона роботехники, описанно Азимовым, в рассказе где для ученных сделали партию роботов без второй строчки

пускать ии в системы жизнеобеспечения (любого уровня) -- решение так себе. имхо.
смысле -- несколько надуманный кейс.
ваш автомобиль вам тоже не поможет, если что, но вас же это не напрягает?
например.

[незлой]

Поднять и отпустить ящик это допустимое действие?

смотря что под ящиком, разумеется.

[BlackMokona]

Без неё робот вас убьёт, без нарушения первого закона роботехники, описанно Азимовым, в рассказе где для ученных сделали партию роботов без второй строчки

пускать ии в системы жизнеобеспечения (любого уровня) -- решение так себе. имхо.
смысле -- несколько надуманный кейс.
ваш автомобиль вам тоже не поможет, если что, но вас же это не напрягает?
например.

Просто смысл закладывать первый закон если он бесполезен?

[Olweg]

Для слабых ИИ поможет только перечень инструкций, что с человеком делать можно, а что нельзя. Например, можно передать нож человеку, а вот пырнуть его этим ножом нельзя (см. новость на предыдущей странице ). А поведение сильного ИИ всё равно предсказать будет невозможно, придётся прибегать к убеждению, а в особо тяжёлых случаях - к отключению питания (если он не примет заранее мер, конечно).

[BlackMokona]

Для слабых ИИ поможет только перечень инструкций, что с человеком делать можно, а что нельзя. Например, можно передать нож человеку, а вот пырнуть его этим ножом нельзя (см. новость на предыдущей странице ). А поведение сильного ИИ всё равно предсказать будет невозможно, придётся прибегать к убеждению, а в особо тяжёлых случаях - к отключению питания (если он не примет заранее мер, конечно).

Сильный ИР на уровне людей либо раб, либо гражданин. А супер ИР это Бог для нас , он сам решит ,что кому можно, а что нельзя.

[Olweg]

Да, там будет много интересной работы для юристов. Например, обладает ли ИИЧУ неотъемлимыми правами человека

[BlackMokona]

Да, там будет много интересной работы для юристов. Например, обладает ли ИИЧУ неотъемлимыми правами человека

Есть группы и организации выступающие за выдачу прав роботам уже текущего уровня.

[ВадимZero]

А супер ИР это Бог для нас , он сам решит ,что кому можно, а что нельзя.

Сильный обязательно будет доминировать, такова чуйка лысой обезьяны.

А поведение сильного ИИ всё равно предсказать будет невозможно, придётся прибегать к убеждению

Достаточно прописанных инструкций, которые будут являться критериями в пользу того или другого действия.

[Olweg]

Возможно. Но если у ИИ будет широкое поле деятельности, то на каждый чих инструкцию не напишешь. Можно прописать аналог заповедей (да хоть тех же азимовских законов), но ту же возникнут проблемы с семантикой - поскольку знания ИИ будут основаны на обучении, которое невозможно строго алгоритмизировать из-за комбинаторного взрыва, то любое определение может трактоваться так же неопределённо и расплывчато, как и людей. Взять хотя бы заповедь "не убий", нарушение которой по отношению к чужим людям не только не порицается, но и всячески поощряется в том же Ветхом Завете. Да и убийство преступников не запрещено. Для любой инструкции можно найти кучу лазеек.

[ВадимZero]

то на каждый чих инструкцию не напишешь.

Придется написать.

то любое определение может трактоваться так же неопределённо и расплывчато, как и людей.

Инструкции предпологают и четкие определения.

Для любой инструкции можно найти кучу лазеек.

Тому кто хочет их найти, то есть тот кто запрограмирован на это.

[BlackMokona]

Придется написать

Миллиарды человеко лет или забить и пустить как есть. Сложный вопрос.

[Olweg]

Придется написать

Это невозможно. Даже уголовный кодекс приходится часто трактовать исходя из "здравого смысла". Например, превысил ли человек меру необходимой самообороны или нет. Реальная жизнь слишком сложна, чтобы описать её инструкциями. На этом завязли разработчики экспертных систем в 80-е - 90-е.

Для любой инструкции можно найти кучу лазеек.

Тому кто хочет их найти, то есть тот кто запрограмирован на это.

Необязательно. Достаточно сложная система будет способна создавать подзадачи для решения основных, заданных операторами. Что это будут за подзадачи и как она их будет намерена решать - это
большой вопрос, потому что уже сейчас нейронные сети представляют из себя чёрный ящик, действия которого сами разработчики не могут предсказать. Тем более что уже появляются системы, способные разрабатывать другие системы, и тоже бог весть каким образом, ранее в теме были ссылки. Конечно, такие системы должны тестироваться, но можно ли учесть все возможные ситуации. Если читали "Ананке" у Лема, то там проиллюстрирована такого рода проблема, причём речь об очень примитивной системе - такого типа уже сейчас создаются, хотя бы для тех же беспилотных автомобилей.

[ВадимZero]

Даже уголовный кодекс приходится часто трактовать исходя из "здравого смысла". Например, превысил ли человек меру необходимой самообороны или нет.

В нашем случае нужно просто определить. Должен ли действовать ИИ в определенной ситуации или нет. Если инструкциями не прописаны определенные действия, ИИ действовать не будет.

Что это будут за подзадачи и как она их будет намерена решать - это
большой вопрос,

Это будут задачи, которые не должны находиться в противоречии с его преоритетами.

Если читали "Ананке" у Лема,

Приводить логику гуманитариев, при обсуждении технических проблем большая глупость.