Нужен ли человечеству искусственный интеллект?

[ams]

чтобы она делала, "что хотела", то это крайне опасный идиотизм, это понятно сразу и безо всяких умствований.

3.1. Вообще- то, ребенка тоже долго и мучительно обучают с детства. Сам он даже говорить не сможет научиться


3.2. Свобода выбора поведения для ЕИ тоже совершенно иллюзорная, даже если бы не УК, мораль, финансы,... - с 10 этажа не спрыгнешь в поле тяжести g, и в костер пойти не сможешь без последствий... Думаю и ИИ тоже быстро это сам сообразит.


3.3. Про "идиотизм" - Хорошо бы разделить свободу выбора решений / поведения / влияния / разрушения / развития / изучения / созидания...- а не класть все в одну кучу...



3.4. Мне представляется вполне естественным наделить "ИИ- субъекты" (учителя, советники, консультанты, коучи, эксперты,...) почти такими же ресурсами / возможностями, что и человека. Может только физической силы поубавить, да в воспитание законы этики и нравственности вложить... (не говоря уж об УК). Фактически, ИИ- субъекты могут быть приравнены к людям в правах и обязанностях...


3.5. Ещё полезно не путать абстрактный "ИИ- аппарат" и "Искустенную личность" (ИЛ). Теории ЕЛ до сих пор у психологов нет. Так что воспитание ИЛ, думаю, будет сродни воспитанию ребенка, только намного быстрее и точнее.

[ams]

И вот у нас образуются ВС которые контролируются программой цель которой массово убивать людей помеченных как вражеские.

Хороший аргумент, принимаю. Только вот пару замечаний можно сообразить сразу:

1. Пусть даже ИР есть только у одной стороны и им не жалко врагов.Но ведь ИР может изначально не только косить врагов и ждать сбоев в системе...- он может сразу забрать власть у человечества - и навсегда. Это как сегодня начать глобальную ядерную войну. Да, тогда роль людишек сведется к прозябанию в зоопарках... Может так оно и лучше будет- хоть не перебью друг дружку!


2. Пока что построить ИИ мне представляется намного более простой задачей, чем полностью роботизировать все возможности  человека (физиологические, прежде всего, автономность и выживаемость). Пусть у ИР будут все заводы по построению роботов и любых механизмов... А как насчет разработки новых технологий? А творчество? А научные открытия и исследования?

Я совершенно не понимаю, как глобальный Сверх ИР (ИСР) сможет без людей развивать науки... Вычислять, помнить, анализировать, сравнивать...- да. А изобретать? Ведь даже "представление знаний" в цифровом виде по сю пору темная задачка, не говоря уж о "ТРИЗ - идеологии" ( Теория Решения Изобретательских Задач). А что скажете насчет мотивации ИР? Нафига оно ему все это? Людям- для размножения, выживания и конкурирования. А ему- зачем?

[ams]

1. Ко всем, кто полагает, что можно создать полноценный ИИ, сравнимый с человеческим, и что этот ИИ сможет вдруг поработить человечество.

Серега, это сильно разные высказывания: " ... можно создать ИИ..." и " ... сможет поработить". Союз "и" тут сомнителен. Я бы ещё понял логическое умножение - местоимение "который"

В реальной действительности (во как сказал!) человек обойдется с противником вовсе не так, как многие думают. Он просто изменит правила. Помните фрагмент со словами "лошадью ходи"...

- Ну мы вроде как договорились, что, ГИПОТЕТИЧЕСКИ, ИИ, превосходящий ЕИ во всем уже создан...

Тогда то и возникает вопрос- "кто кого шахматной доской по башке первый огреет?"

[Проходящий Кот]

И что такое личность?

[stuuvi]

2. Не машина обыграла в Го, а алгоритм игры в Го доказал своё превосходство над человечьими слабенькими мозгами (память, скорость счета, эмоции,...)

Превосходство это то что может оценивать человек. Орудия труда никаким таким превосходством не обладают. Какая то религиозная суеверная манера одушевлять и приписывать человеческие характеристики орудиям труда.

Компьютер - орудие труда созданное человеком. Если оно позволяет человеку быстрее считать - прекрасно. При чём здесь вообще превосходство? Молоток тоже способен нанести больше повреждений, чем кулак, и не одну тысячу лет уже. Но молоток держит человек. Компьютер - такое же оружие труда как и молоток, а домыслы насчёт того, что компьютер может - думать, чувствовать превосходство, эмоции и тд - не более, чем суеверия.

А счёты к примеру по вашей точке зрения - превосходство над человеком имеют?

Если же речь идёт о алгоритмах - это ещё более дикое суеверие, каким таким образом алгоритм может ощущать превосходство? Если алгоритмы вообще - то создают люди.

[stuuvi]

человечьими слабенькими мозгами

Меня эта фраза оскорбляет. Говорите за себя - к примеру - " Превосходство над моими(ams) слабенькими мозгами".

[BlackMokona]

Пока есть эффективные способы применения ОМП, глобального внедрения этого не будет.

Как будто все странны мира обладают ядерным оружием, а идеи ограниченной войны вымерли.
 

3. - автономные вооружения да, пробуют создавать - в рамках ОКР и полевых испытаний...Но ведь "по умному" - даже в "автономно умный" дрон или пулемет не заряжают сразу весь боезапас государства... + "ядерную / вечную батарейку"

Извините конечно, но весь ядерный боезапас давно в загребущих лапах машин. Правда включают их только в опасные моменты, пока благо РСМД действует и опасный момент не равен всему времени.

«Периметр» является альтернативной командной системой для всех родов войск, имеющих на вооружении ядерные заряды. Она была создана в качестве резервной системы связи, на случай, если ключевые узлы командной системы «Казбек» и линии связи РВСН будут уничтожены первым ударом в соответствии с разработанной в США концепцией Ограниченной ядерной войны.

Для обеспечения гарантированного выполнения своей роли система была изначально спроектирована как полностью автоматическая, [4] и в случае массированной атаки способна принять решение об адекватном ответном ударе самостоятельно, без участия [4] (или с минимальным участием) человека. Существование подобной системы иногда называют аморальным, однако она является по сути единственным фактором сдерживания, дающим реальные гарантии отказа потенциального противника от концепции сокрушительного превентивного удара.

По утверждению Владимира Ярынича, одного из разработчиков системы, система также служила страховкой от принятия высшим руководством страны поспешного решения на основе непроверенной информации. Получив сигнал от системы предупреждения о ракетном нападении, первые лица государства могли активировать систему «Периметр» и спокойно ожидать развития событий, находясь при этом в полной уверенности, что даже уничтожение всех, кто обладает полномочиями на отдачу команды об ответной атаке, не сможет предотвратить удар возмездия. Тем самым полностью исключалась возможность принятия решения об ответном ударе в случае ложной тревоги. [

[ВадимZero]

И что такое личность?

Оценка человека в социальном контексте.

[stuuvi]

весь ядерный боезапас давно в загребущих лапах машин

Это ошибка, систему активируют люди. Вы же не будете утверждать, что в руках снаряда находится заряд, которым он начинён? Тем самым мракобесным образом одушествляя снаряд и суеверно наделяя его некой волей.

[BlackMokona]

весь ядерный боезапас давно в загребущих лапах машин

Это ошибка, систему активируют люди. Вы же не будете утверждать, что в руках снаряда находится заряд, которым он начинён? Тем самым мракобесным образом одушествляя снаряд и суеверно наделяя его некой волей.

Система принимает решение пускать ядрен батоны или не пускать, т.е в руках системы решение.
Ну значит и у меня воли нет, меня тоже активировали когда то, без одного дела двух людей меня бы тоже не было. и тд до самой первой жизни 

[stuuvi]

Система принимает решение пускать ядрен батоны или не пускать, т.е в руках системы решение.

Система никаких решений не принимает. Это автомат, который при определённых условиях выполняет одно действие, при других условиях - другое.

Если вы считаете, что система всё же принимает решения, то в таком случае вы должны считать, что капкан в который попал зверь - принял решение захлопнуться, когда зверь в него наступил.

[BlackMokona]

Система принимает решение пускать ядрен батоны или не пускать, т.е в руках системы решение.

Система никаких решений не принимает. Это автомат, который при определённых условиях выполняет одно действие, при других условиях - другое.

Если вы считаете, что система всё же принимает решения, то в таком случае вы должны считать, что капкан в который попал зверь - принял решение захлопнуться, когда зверь в него наступил.

Человек это тоже автомат который в одних условиях принимает одни решения, а в других другие.
Просто разная сложность систем и решений.

[Кремальера]

Как будто все странны мира обладают ядерным оружием, а идеи ограниченной войны вымерли.

Какая разница кто им обладает?Арсеналы есть,и этот общий знаменатель хорошо причесывает любых выскочек.Да и вообще  это очень хороший демотиватор для любых хай-тек поползновений.И в области ИИ,в том числе.Какой смысл в умных конвенциональных вооружениях,если есть ядерная дубина?

[BlackMokona]

Как будто все странны мира обладают ядерным оружием, а идеи ограниченной войны вымерли.

Какая разница кто им обладает?Арсеналы есть,и этот общий знаменатель хорошо причесывает любых выскочек.Да и вообще  это очень хороший демотиватор для любых хай-тек поползновений.И в области ИИ,в том числе.Какой смысл в умных конвенциональных вооружениях,если есть ядерная дубина?

Так же США и СССР думали после появления ядерной дубины, но жизнь жестоко и бесчеловечно растоптала их мечтания. Они думали, что теперь все войны решаются ядерной дубиной, а в результате со второй мировой войны, она лежала лишь пугалом ,а воевал всевозможный хайтэк по всему миру.

[Кремальера]

а воевал всевозможный хайтэк по всему миру.

Эти войны не меняли миропорядок,а наоборот они его поддерживали.Т.е. это своеобразные дружеские пендели тинейджеров,для ВПК противоборствующих сторон. Но если слом существующей парадигмы все же будет воплощаться в жизнь силовым путем(как в принципе он и должен воплощаться у взрослых джентельменов),то без "дубинки" не обойдутся.

[BlackMokona]

а воевал всевозможный хайтэк по всему миру.

Эти войны не меняли миропорядок,а наоборот они его поддерживали.Т.е. это своеобразные дружеские пендели тинейджеров,для ВПК противоборствующих сторон. Но если слом существующей парадигмы все же будет воплощаться в жизнь силовым путем(как в принципе он и должен воплощаться у взрослых джентельменов),то без "дубинки" не обойдутся.

Правда в итоге этот мировой порядок хайтек сломал, гонка хай-тек вооружения, кульминация которой стала СОИ снесла менее эффективную систему, которая не смогла поддерживать её.

[ams]

Вы готовы доверить воспитание ваших детей роботам? А вы понимаете, что ум ребенка превзойдет по гибкости любой ИИ, который вы когда-нибудь будете в силах создать?

- это, как я уверен, просто ваше негативное мышление (привычка) на все смотреть в мрачном стиле...

А я вот АБСОЛЮТНО уверен, что хорошо построенный (мною) ИИ сможет воспитать мою внучку намного более глубоко и продуктивно, чем её молодые малоопытные родители (по себе сужу 30- 35 лет назад) ...



Ибо, хороший ИИ сможет впитать ОПЫТ / ОШИБКИ / ТЕХНОЛОГИИ / МНЕНИЯ - всех поколений предыдущих воспитателей...

[ams]

ум ребенка превзойдет по гибкости любой ИИ, который вы когда-нибудь будете в силах создать?

- так все просто: введите определение гибкости ЕИ и ИИ, методику вычисления / определения ея..., и не надо будет "понты кидать"- просто посчитаем.

[BlackMokona]

- так все просто: введите определение гибкости ЕИ и ИИ, методику вычисления / определения ея..., и не надо будет "понты кидать"- просто посчитаем.

Этого мало, когда ИИ достигнет данного показателя, будет объявлено, что гибкость не делает ИИ , равным ЕИ, а нужен другой параметр. Даже не знаю, что тут нужно, контракт подписанный кровью с автоматическим наймом килера на нарушителя? 

[ams]

Обучать человека должен только человек, компьютер этого не сможет никогда. Серьезно.

- а про "композицию возможностей" - никогда не читали?!

Рутинные задачи воспитания - поручу ИИ... А если что не по мне- я сначала с "ИИ- воспитателем" побеседую- вдруг это я тупой маразматик...- либо я ему, "ИИ- воспитателю", сумею объяснить, в чем он ошибается... По любому - всем станет лучше..., если позитивно смотреть.



А какие перспективы для "ИИ- воспитателя" пра - пра- внуков и внучек?!