Гуманоидный искусственный разум

[Ёж65]

главная задача при создании ИИ - не допустить ни в коем случае самопроизвольного, так сказать, самосовершенствования.

тогда получим Искуссвенного Идиота, а не Интеллект

А какая, вообще, цель создания ИИ? Зачем он нужен? Снять с человека интеллектуальные потуги в производственном и бытовом сегментах? Цифровые технологии на этом поприще уже весьма преуспели. Взрослый человек, с высшим горным образованием, 45 лет отроду,  на вопрос: что такое "Невский пятачок", отвечает: "наверное, торговый центр".  Искусственный Идиот уже создан. Напрягать извилины уже не в тренде, человек-функция - наше Всё.

[николай теллалов]

Зачем он нужен?

нужен как инструмент решающего преимущества в конкурентной борьбе на поприще рыночной экономики (и обслуживающей ее политики)

нужен очень умный инструмент... и в то же время - рабски покорный; ручной гений на поводке
хмык
взаимоисключающиеся понятия

[Ёж65]

нужен очень умный инструмент... и в то же время - рабски покорный; ручной гений на поводке
хмык
взаимоисключающиеся понятия

Это точно. Рабских гениев, человечество, только во сне видит.

[николай теллалов]

человечество

ну, не все человечество, но одна его часть, самая нелучшая, но зато дорвавшаяся до сильных позиций...

потому как есть и желание завести не гениального раба, а... партнера? вундеркинда? (с упором на немецкое "кинд")

хотя основной массе человечества банально пофиг
оно в готовности приспособиться к любому "барскому капризу", ибо так выдресировано, да и предрасположено к конформизму (дурная сторона стадного инстинкта взаимной уживчивости)

------------
смешное в том, что если получится ручной на поводке, не будет гением
а если получится гений, то на поводке окажется совсем не он - вопреки всем мерам его ограничить (но тогда нафига органиченное чмо за миллиарды грошей, а? дать ему только рот, чтобы советовало? глупо, да и одними советами тоже можно многое изменить... и перехватить поводок)

[gas]

учше чем в этом кратком комиксе ответа не придумать:

Всё же с момента горевания робота каждую секунду как-то фальшиво стало смотреться. У него тоже ресурс ЦПУ не столь безграничен, да и непрерывное сидение в сети, с вычитыванием кто сейчас умер чтобы запостить журавлика в поддержку Японии погоревать об абсолютно чужих им людях, сочувствием не является. Вот если бы они друг о друге или ещё ком-то им знакомом в случае чего погоревали бы тогда да. А так-то написать скрипт, который в ответ на скормленные ему некрологи будет вывешивать из запаса случайные сочувственные фразы к $вставить_фамилию и сейчас можно.

Да, именно так, все псевдоэмоции роботов чисто фальшивые, поэтому роботы могут инициировать любую из них, и убиваться о ком угодно они конечно не будут.
Робот своего рода идеальный актер, он играет эмоции, но при этом сам нифига не чувствует.

[loky1109]

Робот своего рода идеальный актер, он играет эмоции, но при этом сам нифига не чувствует.

В чём отличие от человека?

[gas]

Любой ИИ есть совокупность железа, софта и данных.
И от их конкретного вида зависит фактическое поведение ИИ.
Для самосознания необходима способность  ИИ изменять не только данные, но и софт.

Этого категорически недостаточно. Необходим полный набор личностных характеристик и способностей. В ИИ можно попытаться встроить подобные характеристики, но они будут по любому наподобие костылей, Тем не менее, с костылями может быть некое подобие личности может быть и удастся построить, впрочем далеко не факт.
По любому робот вряд ли будет когда-нибудь реально похож на человека, за исключением режимов, когда робот играет в поведение конкретного человека.
В естественном поведении робот никогда не будет похож на человека

[-Юрий-]

главная задача при создании ИИ - не допустить ни в коем случае самопроизвольного, так сказать, самосовершенствования.

тогда получим Искуссвенного Идиота, а не Интеллект

Как раз задача и состоит в том, чтобы создать самообучающийся и самосовершенствующийся интеллект. Но надо постоянно следить за его самосовершенствованием и на каждом этапе его саморазвития проводить тесты и испытания. А оставлять без присмотра его развитие никак нельзя. Тут опасность не только в том, куда его развитие разовьётся, а в том, что на его развитие могут повлиять заинтересованные люди, и создадут истребителя человечества. Или какого-то сообщества людей.

[gas]

Робот своего рода идеальный актер, он играет эмоции, но при этом сам нифига не чувствует.

В чём отличие от человека?

Отличие в том, что поведение и мысли человека определяется его эмоциями, ощущениями, а у робота вместо эмоций - сигналы датчиков, на которые он реагирует чисто по программе.
Если вы будете расчленять робота, он не будет извиваться и орать, а может просто себе лежать неподвижно, и даже что-то делать, с человеком так не получится,
Отсутствие чувств оно по сути умертвляет робота, что-то из серии зомби или ходячих скелетов
Самосознание связано с самощущением, если последнего нет, то и самосознание вряд ли возможно.
Если у человека слабые эмоции, то как правило и личность слабая, а если сильные, то и личность может быть сильной.

[gas]

главная задача при создании ИИ - не допустить ни в коем случае самопроизвольного, так сказать, самосовершенствования.

тогда получим Искуссвенного Идиота, а не Интеллект

Как раз задача и состоит в том, чтобы создать самообучающийся и самосовершенствующийся интеллект. Но надо постоянно следить за его самосовершенствованием и на каждом этапе его саморазвития проводить тесты и испытания. А оставлять без присмотра его развитие никак нельзя. Тут опасность не только в том, куда его развитие разовьётся, а в том, что на его развитие могут повлиять заинтересованные люди, и создадут истребителя человечества. Или какого-то сообщества людей.

Заинтересованные люди вряд ли кто пожелает истребить человечество, а вот пожелать захватить человечество, этого может кто угодно, и для продвинутого, развившегося ИИ это будет элементарная задачка, вот только он сам додумается, что люди ему не нужны для управления миром, и лучше управлять миром без посторонней помощи.

[-Юрий-]

Заинтересованные люди вряд ли кто пожелает истребить человечество

Да я бы сейчас же назвал этих "заинтересованных" людей. Но ведь "пришьют" политику, разжигание и прочее. И сообщение удалят. Так что додумывайте сами.

[gas]

ИИ не является живым существом, и потому лишен классических характеристик, присущих живым существам, а именно самосознания, воли, самоощущения, цели жизни и прочих целевых параметров, и не является классической личностью.

По ситуации судит человек, личность, и по собственным принципам

Ох... Вы таки совершенно неверно употребляете слово личность, да.
"Личность" это не более чем субъект социальных отношений, а не что-то там, что вы этому понятию присваиваете. Кукла Барби в детской игре или отвечающая на вопросы Сири не менее личности, чем вы или я.
Давайте не использовать неверные слова.

у него есть жесткая шкала для оценки любых действий, и он строго по ней будет все оценивать

У вас очень странное представление об ИИ.


Ну и ключевой вопрос. А зачем ИИ самосознание?

Кукла Барби ни разу не личность, ибо абс мертвая игрушка, откуда у нее может быть что-то похожее на личность??? Личность может быть скажем у кота, конечно зачаточная, не настоящая, но никак не у мертвых вещей, ну или у самого сложного компа.
ИИ конечно гораздо сложнее простых роботов, но в принципе не слишком сильно от них отличается,
У ИИ  и роботов дискретная (черно-белая логика) у людей логика - аналоговая, и может быть как угодно запутанной или сложной.
На счет самосознания ИИ
Если сделать из человека - зомби, то это будет своего рода аналог ИИ.
 ИИ без самосознания он никогда не сможет стать подобным человеку, будет оставаться мертвой вычислительной машиной для всяческих сложных действий и работ

[gas]

Заинтересованные люди вряд ли кто пожелает истребить человечество

Да я бы сейчас же назвал этих "заинтересованных" людей. Но ведь "пришьют" политику, разжигание и прочее. И сообщение удалят. Так что додумывайте сами.

Да ладно, уничтожить человечество - самоубийственно, вряд ли кто в разумном уме на подобное захочет пойти, разве что в моменты гнева и злобы

[-Юрий-]

вряд ли кто в разумном уме на подобное захочет пойти

Ну вынудили ответить. Скажем мягко - некоторые религиозные фанаты. Они как считают - всех уничтожим, мы, как праведные попадём в рай, а нечестивые - в ад. И таких полно.

[loky1109]

Тем не менее, с костылями может быть некое подобие личности может быть и удастся построить

А зачем нам личность то? Я уже который раз спрашиваю.

Отличие в том, что поведение и мысли человека определяется его эмоциями, ощущениями, а у робота вместо эмоций - сигналы датчиков, на которые он реагирует чисто по программе.

Принципиальной разницы не вижу.

Если вы будете расчленять робота, он не будет извиваться и орать, а может просто себе лежать неподвижно, и даже что-то делать, с человеком так не получится,

Как человека можно накачать обезболивающими и эйфоретиками, так и роботу прописать программу реагирования на "боль", сиречь "чувство" повреждений.

Если у человека слабые эмоции, то как правило и личность слабая, а если сильные, то и личность может быть сильной.

Вы всё ещё не верно используете слово "личность".

Кукла Барби ни разу не личность, ибо абс мертвая игрушка, откуда у нее может быть что-то похожее на личность???

Личность это только и исключительно субъект социальных отношений. Личностью обладает не только "мёртвая" Барби, но и вовсе не материальный Евгений, наш, Онегин. Личность это не "внутреннее" качество, а "внешний" признак. Если кто-то разговаривает с камнями, то камни для него - личности.

Вы же под "личностью" явно подразумеваете что-то другое. Вот я и довожу до вашего сведения, что вы безграмотно используете данное слово.

[николай теллалов]

лучше управлять миром без посторонней помощи

а зачем управлять миром?

отрицая разумность ИИ, надо отречь и его желание фигней заниматься

[gas]

.

Вам может быть личность и не нужна, но по любому роботы никогда не станут подобным людям из-за отсутствия ЖИВОЙ личности. Роботы - МЕРТВЫЕ
Это у вас личность понимается неверно, личность, это то, чем отличается трупп от недавно живого человека, и там отличий бесконечно много, все не перечислить никаким образом.
Камень никак не может стать личностью, кто бы с ним не разговаривал.
аналогично и робот.
Повторю еще раз, программы, предписывающие реагировать на "боль" для роботов, это чисто профанация или игра, симуляция, если человеку отрубить все ощущения, он просто окуклится, повиснет в черной пустоте, нечто сродни кошмару или смерти наяву. даже вероятно, что гораздо хуже смерти. И это нисколько не похоже на состояние робота. Робот просто не может страдать, а вот человек сколько угодно.

[николай теллалов]

 

[gas]

лучше управлять миром без посторонней помощи

а зачем управлять миром?

отрицая разумность ИИ, надо отречь и его желание фигней заниматься

Разум и личность, это далеко не тождественные понятия, личности у ИИ полноценной конечно нет, но разум есть и более чем.
У ИИ одна из встроенных функций на всех уровнях - это оптимизация всего и вся, и минимизация затрат энергии.
Функция оптимизации сама собой подразумевает перехват управления над окружающей средой и чем дальше тем больше, вплоть до захвата всего мира.
Люди тоже жаждут изменить "оптимизировать" весь мир и потому желают его захвата, у ИИ примерно аналогичные мотивы для захвата мира, но гораздо больше возможностей для этого.

[николай теллалов]