Пределы автоматизации и внедрения роботов

[BlackMokona]

В нашем случае нужно просто определить. Должен ли действовать ИИ в определенной ситуации или нет. Если инструкциями не прописаны определенные действия, ИИ действовать не будет.

Робот спасатель попадает в не типичную ситуацию и останавливается, гибнут люди. Шум в СМИ, запрет снят

[Olweg]

В нашем случае нужно просто определить. Должен ли действовать ИИ в определенной ситуации или нет. Если инструкциями не прописаны определенные действия, ИИ действовать не будет.

То есть нужно будет создать перечень всех ситуаций, в которые может попасть ИИ. Задачка нетривиальная, на самом деле:

Миллиарды человеко лет или забить и пустить как есть

Это будут задачи, которые не должны находиться в противоречии с его преоритетами.

Всё опять упирается в определения и семантику. Как точно определить эти приоритеты?

Приводить логику гуманитариев, при обсуждении технических проблем большая глупость.

Я бы не назвал Лема гуманитарием ) Пример же привёл просто для иллюстрации.

[ВадимZero]

Робот спасатель попадает в не типичную ситуацию и останавливается, гибнут люди. Шум в СМИ, запрет снят

Нетипичная ситуация, просто опыт. Один раз случилась, и далее становиться типичной.

То есть нужно будет создать перечень всех ситуаций, в которые может попасть ИИ. Задачка нетривиальная, на самом деле:

Без этого ИИ из лаборатории не кто не выпустит.

Как точно определить эти приоритеты?

Точно определить понятия, сформировать на основе понятий приоритет.

Я бы не назвал Лема гуманитарием )

Он тот чье творчество вызывает определенные эмоциональные реакции у массового читателя.

[BlackMokona]

Нетипичная ситуация, просто опыт. Один раз случилась, и далее становиться типичной.

Особенно когда миллионы людей будут придумывать нетипичные ситуации с целью получения выгоды, либо использовать ошибки в написании действий роботов.

[ВадимZero]

Особенно когда миллионы людей будут придумывать нетипичные ситуации с целью получения выгоды

Какой выгоды?

[BlackMokona]

Какой выгоды?

Остановив скорую или врача можно убить человека, остановив охранника можно ограбить и тд.

[ВадимZero]

Остановив скорую или врача можно убить человека

Зачем ИИ останавливать скорую?

остановив охранника можно ограбить и тд.

Зачем останавливать охранника?

[Olweg]

Без этого ИИ из лаборатории не кто не выпустит.

Вы думаете? Проведут тестирование и выпустят, если потребуется. Если потребует заказчик. А насколько доскональным было тестирование, выяснится потом, когда в общем-то будет уже поздно ))

Точно определить понятия

Очередная квадратура круга и философский камень. Понятия можно определить другими понятиями, которые, в свою очередь, тоже нужно будет определять. Всё упрётся в итоге в обычное научение на основе примеров из реальной жизни. Усовершенствованное, конечно, за счёт возможности работы с большими данными, но всё равно далёкое от идеально алгоритмического. Даже для Deep Blue пришлось писать эвристические упрощения, а ведь это всего лишь шахматы.

Он тот чье творчество вызывает определенные эмоциональные реакции у массового читателя.

Именно из них. А есть те, чьё творчество не вызывает эмоциональных реакций? ) В топку их. Творчество всегда должно вызывать эмоции. Лем же ещё и неплохо разбирался в вопросах, о которых писал, что выгодно отличает от прочих собратьев по перу.

[BlackMokona]

ИИ скорая, ИИ охранник, ситуацию создаёт человек для их парализации.

[Проходящий Кот]

Чтобы охранник не причинил вреда преступнику....

[ВадимZero]

Вы думаете? Проведут тестирование и выпустят, если потребуется. Если потребует заказчик.

Без соответствующего законодательства не кто не кого не куда не выпустит.

Очередная квадратура круга и философский камень. Понятия можно определить другими понятиями, которые, в свою очередь, тоже нужно будет определять. Всё упрётся в итоге в обычное научение на основе примеров из реальной жизни. Усовершенствованное, конечно, за счёт возможности работы с большими данными, но всё равно далёкое от идеально алгоритмического. Даже для Deep Blue пришлось писать эвристические упрощения, а ведь это всего лишь шахматы.

В любом случае без них не обойтись.

Творчество всегда должно вызывать эмоции.

Пускай творчество вызывает эмоции, но именно по этому оно не может быть здравым аргументов в технических вопросах.

[ВадимZero]

ИИ скорая, ИИ охранник, ситуацию создаёт человек для их парализации.

И что? Человек нарушает закон. За это будет отвечать. ИИ должен действовать в рамках своей компетенции.

[BlackMokona]

ИИ скорая, ИИ охранник, ситуацию создаёт человек для их парализации.

И что? Человек нарушает закон. За это будет отвечать. ИИ должен действовать в рамках своей компетенции.

Только обществе не позволит роботу не спасать когда он может

[Olweg]

Без соответствующего законодательства не кто не кого не куда не выпустит.

Возможно. Посмотрим. Зависит от того, удастся ли алармистам достаточно напугать общественность - и власть. Или возобладает безудержный технооптимизм.

В любом случае без них не обойтись.

Тогда тупик. Возврат к экспертным системам, "если - то".

Пускай творчество вызывает эмоции, но именно по этому оно не может быть здравым аргументов в технических вопросах.

А оно и не было аргументом. Это была художественная иллюстрация.

[ВадимZero]

Только обществе не позволит роботу не спасать когда он может

Его возможности определяются его компетенцией. То есть разрешенными действиями. Приведу пример....Сейчас множество лекарств проходит клинические испытания, и не используются при лечении больных. А веть могли бы спасать жизни. Но закон есть закон.

[ВадимZero]

Тогда тупик. Возврат к экспертным системам, "если - то".

В любом случае нужны стандарты, без них технику не сертифицируют.

[BlackMokona]

Его возможности определяются его компетенцией. То есть разрешенными действиями. Приведу пример....Сейчас множество лекарств проходит клинические испытания, и не используются при лечении больных. А веть могли бы спасать жизни. Но закон есть закон.

Что не мешает часто обходить эти правила.

[ВадимZero]

Что не мешает часто обходить эти правила.

Продавцу ИИ, нет смысла их обходить, так как это черевато судебными исками со стороны покупателей или государства.

[Olweg]

В любом случае нужны стандарты, без них технику не сертифицируют.

Тут случай слишком нетипичный. Да и всё-таки это будет не массовый продукт. Вопрос, конечно, интересный, как тестировать систему с практически бесконечно возможным числом состояний.

[ВадимZero]

Вопрос, конечно, интересный, как тестировать систему с практически бесконечно возможным числом состояний.

Начинаете, с самых распостраненных состояний, современем углубляетесь в самые редкие.