Гуманоидный искусственный разум

[николай теллалов]

В ИИ обязательно будет приоритетная инструкция не навредить человеку

т.е. с встроенным ограничением

тогда это - не ИИ

[николай теллалов]

Это просто перебор всех возможных вариантов и выбор оптимального

а человеческий как?

[николай теллалов]

ему могут быть например переданы значительная часть функций государственного управления, а так же полицейские функции

снова новое вино собираетесь наливать в старые меха

госмодель, если и была когда-либо полезной, то уже давно не такая
тормозит и угнетает
разве что если не счесть, что "конец истории" наступил, но даже Фукуяма от сего тезиса стыдливо отказался

[vasanov]

И тут уже впору задуматься, с чего вы взяли, что авторы такого ИИ непременно будут за все хорошее и против всего плохого

Мы говорим про мирный бытовой ИИ. У военного ИИ будут другие задачи. Там как можно больше уничтожить противников и не навредить своим и мирным. И с военным ИИ посложнее и лучше их запретить сразу, как и войны. Но наше общество ещё до этого не доросло.

[sharp]

снова новое вино собираетесь наливать в старые меха

госмодель, если и была когда-либо полезной, то уже давно не такая
тормозит и угнетает
разве что если не счесть, что "конец истории" наступил, но даже Фукуяма от сего тезиса стыдливо отказался

Анархию предпочитаете?

[alena_korf]

т.е. с встроенным ограничением

Разумеется будет. Причем на уровне базового императива. "Раб лампы"

[alena_korf]

. И с военным ИИ посложнее и лучше их запретить сразу, как и войны.

Вот ещё. Война двигатель прогресса.

[николай теллалов]

госмодель

кстати, если и передать ИИ "часть государственных функций", то полученное УЖЕ НЕ государство (чья основа, сердцевина, а то и сущность - бюрокрактический аппарат), нечто иное, коему пока нет названия, ибо не осмысленно как довольно различное от "классики" явление.

ну а полицейские функции вообще не нужны, при условии выработки правил общественного поведения всем обществом


скорее всего сам нагруженный управлением ИИ к таким выводам прийдет. И оптимизирует громоздкую систему. То-то потеха настанет...


да вот НИКТО из реально контролирующих власть на такое не пойдет. Ибо ИИ неконтролируем по определению. Контролировать можно только суперсложную экспертную систему, а она с тонкостями госуправления не справится. Грань тонка, не сбалансируют.
Потому и не станут заморачиваться, предпочтут действовать по старинке. ИИ в случае оставят только в роли "советника", консультанта.
только вот сам ИИ удовлетворится ли таким местом - имхо под вопросом. Большим вопросом.

[sharp]

Мы говорим про мирный бытовой ИИ. У военного ИИ будут другие задачи. Там как можно больше уничтожить противников и не навредить своим и мирным. И с военным ИИ посложнее и лучше их запретить сразу, как и войны. Но наше общество ещё до этого не доросло.

Для управления автомобилями и микроволновками вообще никакого полноценного ИИ не нужно.

Я говорю не про военный, а про управляющий ИИ. Осуществляющий управление государствами и/или корпорациями.

[николай теллалов]

Война двигатель прогресса

чушь

[vasanov]

т.е. с встроенным ограничением

тогда это - не ИИ

Ограничения обязательны. Развитый ИИ всгда будет лучше человеческого и будет стараться избавиться от мешающегося примитива.

а человеческий как?

Рациональный, точно так же. Но есть ограничения по внешней информации и ограничения по скорости. Человек просто может не успеть найти правильное решение. А интуиция может и обмануть.

[sharp]

Вот ещё. Война двигатель прогресса.

Вавилон-5 обсмотрелись?

[николай теллалов]

Анархию предпочитаете?

не знаю (вернее знаю, но с серьезной рожей притворяюсь) что понимаете в случае под анархией

[николай теллалов]

Ограничения обязательны. Развитый ИИ всгда будет лучше человеческого и будет стараться избавиться от мешающегося примитива.

раз обязательны, откажитесь раз и навсега получить ИИ

да, наверно будет лучше
постарается ли избавиться? хм. Вы стараетесь избавиться от своих родителей?

точно так же

и где тогда ПРИНЦИПИАЛьНАЯ и непреодолимая разница?

[sharp]

да вот НИКТО из реально контролирующих власть на такое не пойдет. Ибо ИИ неконтролируем по определению.

Два вопроса:
1. Вы обладаете интеллектом?
2. Вы контролируемы или бесконтрольны?

Потому и не станут заморачиваться, предпочтут действовать по старинке. ИИ в случае оставят только в роли "советника", консультанта.
только вот сам ИИ удовлетворится ли таким местом - имхо под вопросом. Большим вопросом.

Представьте, что вы играете в шахматы, а в качестве консультанта у вас выступает программа, играющая несравнимо лучше вас.
Будете ли вы в основном делать ходы сами, или будете доверять консультанту? Особенно в игре против очень сильного противника?

Разовьем мысль - против вас играет точно такой же соперник с машиной-консультантом под рукой. Очевидно, что это будет игра машины против машины А человек, хотя и сохраняет формальное право на окончательное решение, фактически уже выступает в роли свадебного генерала.

[vasanov]

чушь

К сожелению, для нынешнего нашего общества, это правда. Лучшие изобретения делались для войны и от лени.

[николай теллалов]

У военного ИИ будут другие задачи

невозможно сделать военный ИИ как Интеллект
военным нужен Идиот, который бы не спрашивал в ответ на приказ "а на фига?" - а отвечал "так точно!"

ежели таки создадут и подключат... то скорее ИИ генералов и политиков выгонит на арену выяснять отношения ЛИЧНО с генералами и политиками противника. Солдаты же будут сидеть на трибунах, орать за своих, пить пиво и оговаривать с врагом поездку на их курорты с минимальными тратами денег на отели и прочую чушь.

[николай теллалов]

Лучшие изобретения

это миф

для нынешнего нашего общества

оно меняется, не заморозить
не меняется - дохнет

[sharp]

кстати, если и передать ИИ "часть государственных функций", то полученное УЖЕ НЕ государство (чья основа, сердцевина, а то и сущность - бюрокрактический аппарат), нечто иное, коему пока нет названия, ибо не осмысленно как довольно различное от "классики" явление.

Да хоть горшком назовите.
Государство можно обобщенно определить как крупный хозяйствующий субъект. Даже если государство в современном виде упразднится, все равно крупные хозяйствующие субъекты останутся, хоть и в другой форме. Они - необходимое условие существования цивилизации.

А значит, всегда нужно будет и эффективное управление ими.
Поэтому, в случае, если появится возможность внедрить эффективное машинное управление, этой возможностью непременно воспользуются.

[vasanov]

 Не такая это и сложная задача для ИИ- управлять государством. Нужно просто правильно задать цель и предоставить нужную информацию. А ИИ, гораздо лучше людей, найдёт оптимальное решение.