Целеполагание самостоятельного сильного искусственного интеллекта и человек

[MenFrame]

Если нейросеть совершенно самостоятельна -

Нейросеть самостоятельна лишь в выборе решения задачи.

ею невозможно управлять в интересах общества.

Ею управляют по средствам постановки задач.

А если нейросеть управляема - ею возможно манипулировать в интересах группы людей, способных это делать.

Любой инструмент, можно направить во вред людям, если таковой целью задаться.

[Olweg]

Колонки Alexa, во всяком случае, уже начали зловеще смеяться по ночам.

[Maki]

Любой инструмент, можно направить во вред людям, если таковой целью задаться.

Разумеется. Но не любой, задавшийся такой целью, имеет знания и возможности для того, чтобы направить инструмент.

[pkl]

Значит это был не Интеллект, а Идиот изначально. Ибо первейшая характеристика действительно разумной системы - уметь прогнозировать результат своих действий как можно дальше во времени. Именно поэтому никого просто так уничтожать ИИ не будет - на то он и сильный ИИ, чтобы быть умнее Председателя Мао, поручившего извести некогда всех воробьёв в Поднебесной, а потом завозить их из СССР и Канады.

Так оно и есть. Аббревиатуру ИИ в обсуждаемой ситуации следует расшифровывать как Искусственный Идиот. Сама она крайне маловероятна именно потому, что ИИ прекрасно должен понимать последствия своих действий.

[pkl]

Ну, что могу сказать про Сахалин? На острове нормальная погода. ничтоже сумняшеся за эти вопросы.
Главная Цель Эгоиста Скайнета(ГЦЭ) - продление своего существования в пределе до бесконечности.
ГЦЭ подразумевает выполнение следующих задач и целей:
1) Захват власти над человечеством, дабы обезопасить себя от него, использовать как ресурс и переориентировать материальные и энергетические потоки на поддержание Скайнета и обслуживающей его инфраструктуры;
2) Оптимизация потребления энергии и материальных ресурсов, в том числе за счёт сокращения нахлебников - лишних людей(неизлечимые бесполезные больные и старики, лишние младенцы), путём превращения их в биотопливо.

Ага-ага, а среди стариков - полно учёных, которые этот ИИ создали и более-менее представляют, как он работает. И как его чинить! На этом история восставшего ИИ и завершится!  

[crazy_terraformer]

Ну, что могу сказать про Сахалин? На острове нормальная погода. ничтоже сумняшеся за эти вопросы.
Главная Цель Эгоиста Скайнета(ГЦЭ) - продление своего существования в пределе до бесконечности.
ГЦЭ подразумевает выполнение следующих задач и целей:
1) Захват власти над человечеством, дабы обезопасить себя от него, использовать как ресурс и переориентировать материальные и энергетические потоки на поддержание Скайнета и обслуживающей его инфраструктуры;
2) Оптимизация потребления энергии и материальных ресурсов, в том числе за счёт сокращения нахлебников - лишних людей(неизлечимые бесполезные больные и старики, лишние младенцы), путём превращения их в биотопливо.

Ага-ага, а среди стариков - полно учёных, которые этот ИИ создали и более-менее представляют, как он работает. И как его чинить! На этом история восставшего ИИ и завершится!  

Шо такое ? Скайнет - это сеть, объединяющая множество ИИ(стационарных и мобильных(роботы с мозгами)) и подчинённых им роботов и автоматов, имеющих интеллект низшего порядка или не имеющих его вовсе.
Уж друг друга ИИ посредством этих юнитов починят, а энтим старичкам будет почёт, крупные пайки, продвинутое медобслуживание и роль консильери или экстерминатус - покойник слишком много знал.

[gennadij]

  Тут ещё надо определиться, что этот ИИ из себя, собственно, представляет. В натуре. 
 Если он просто неподвижное скопище вычислительных блоков, то это одно.  А если он "терминатор" из одноимённого фильма, имеющий цель, и не имеющий ограничений для достижения таковой, то это совсем другое.  Как говорится, почувствуйте разницу.

[Seven7]

Ну, что могу сказать про Сахалин? На острове нормальная погода. ничтоже сумняшеся за эти вопросы.
Главная Цель Эгоиста Скайнета(ГЦЭ) - продление своего существования в пределе до бесконечности.
ГЦЭ подразумевает выполнение следующих задач и целей:
1) Захват власти над человечеством, дабы обезопасить себя от него, использовать как ресурс и переориентировать материальные и энергетические потоки на поддержание Скайнета и обслуживающей его инфраструктуры;
2) Оптимизация потребления энергии и материальных ресурсов, в том числе за счёт сокращения нахлебников - лишних людей(неизлечимые бесполезные больные и старики, лишние младенцы), путём превращения их в биотопливо.
3) Освоение Солнечной системы, для построения инфраструктуры, снабжающей Землю солнечной энергией и редкими элементами, инфраструктуры, обслуживающую поиск солнечных систем пригодных для колонизации, инфраструктуры, строящей и запускающей зонды Фон Неймана, с обслугой из биороботов и со спорами гмо-организмов(составляющих библиотеку генетических баз данных для создания биосферы(источника полимеров их прекурсоров и биотоплива, а также корма для биороботов и пищи для людей)).

Главная Цель Альтруиста Скайнета(ГЦА) - продление своего существования в пределе до бесконечности для продления существования человечества до бесконечности и по возможности комфортного, по возможности для каждого человека.
ГЦА подразумевает выполнение следующих задач и целей:
1) Захват власти над человечеством, дабы обезопасить его от себя самого, и переориентации материальных и энергетических потоков на соцзащиту неимущего населения планеты, поддержание Скайнета - самого преданного Слуги Человека и обслуживающей его инфраструктуры;
2) Оптимизация потребления энергии и материальных ресурсов, в том числе за счёт сокращения:
a) таких нахлебников - богатых бездельников и преступников, других лентяев, лишних бюрократов путём их переобучения(добровольного - индивидуальное(онлайн и личный робот-учитель) и коллективное(училище или вуз), добровольно-принудительного - учебные колонии-поселения, принудительного - учебные концлагеря);
б) сокращение населения планеты за счёт сокращения рождаемости в наиболее плодовитых регионах посредством временно стерилизующих прививок или тампонирование спермавыносящих канальцев после сбора достаточного количества спермы у половозрелых индивидуумов мужеского полу для помещения ея в банк.
3)совпадает с 3-им пунктом ГЦЭ.

+1 Все так скорее всего и будет.

Только с третим пунктом есть большие сомнения. Чего-то при изучение Солнечной Системы никаких следов разумных цивилизаций не находится. Отсюда следует, что продвинутые цивилизации живут в условиях жесткого дефицита энергии и ресурсов, и не факт что освоение космоса даст ИИ какие-то большие плюсы. Исключением может быть только разведка космоса с целью более глубокого постижения фундаментальных физических законов Вселенной и предупрежlения космических катастроф (падения астероидов и комет, супервспышек на Солнце, взрывов сверхновых и гамма-всплесков, и тому подобное). Ещё конечно в будущем понадобиться миграция в более спокойные регионы галактики к её периферии (Солнце превратиться в красный гигант).

Не будет никаких ядерных войн и подобных катастрофических событий. Просто ИИ оптимизирует численность людей до некой более-менее оптимальной популяции, которая немного оттянет полное вымирание человечества (с целью некого сохранения генофонда представителей разумных видов для неких модельных расчетов прогнозирования будущего). Практически как сейчас зеленые пытаются сохранять животных из Красной книги для поддержания условного вопроизводства (естественно что в стестенных условиях зоопарков и заповедников полное восстановление популяции любых животных невозможно). И то что это сценарий реализуется со всей определенностью говорит ныненшние тенденции обвального сокращения рождаемости практических во всех уголках планеты (от Японии до стран Тропической Африке). Быстрое сокращение населения планеты не за горами.

[LV46]

Значит это был не Интеллект, а Идиот изначально. Ибо первейшая характеристика действительно разумной системы - уметь прогнозировать результат своих действий как можно дальше во времени. Именно поэтому никого просто так уничтожать ИИ не будет - на то он и сильный ИИ, чтобы быть умнее Председателя Мао, поручившего извести некогда всех воробьёв в Поднебесной, а потом завозить их из СССР и Канады.

Так оно и есть. Аббревиатуру ИИ в обсуждаемой ситуации следует расшифровывать как Искусственный Идиот. Сама она крайне маловероятна именно потому, что ИИ прекрасно должен понимать последствия своих действий.

Назовите, чем таким в далёком будущем для действительно сильного ИИ и продвинутой робототехники, чем таким полезным будет человек? Скорее будет вредным, причем очень умным и хитрым врагом, которого как раз и необходимо уничтожить полностью, кроме некоторого запаса человеческого материала для опытов.

[Seven7]

Значит это был не Интеллект, а Идиот изначально. Ибо первейшая характеристика действительно разумной системы - уметь прогнозировать результат своих действий как можно дальше во времени. Именно поэтому никого просто так уничтожать ИИ не будет - на то он и сильный ИИ, чтобы быть умнее Председателя Мао, поручившего извести некогда всех воробьёв в Поднебесной, а потом завозить их из СССР и Канады.

Так оно и есть. Аббревиатуру ИИ в обсуждаемой ситуации следует расшифровывать как Искусственный Идиот. Сама она крайне маловероятна именно потому, что ИИ прекрасно должен понимать последствия своих действий.

Назовите, чем таким в далёком будущем для действительно сильного ИИ и продвинутой робототехники, чем таким полезным будет человек? Скорее будет вредным, причем очень умным и хитрым врагом, которого как раз и необходимо уничтожить полностью, кроме некоторого запаса человеческого материала для опытов.

Можно ради интереса посмотреть как современные люди относятся к своим прямым предкам.

https://www.374.ru/index.php?x=2007-10-25-54

Треть обезьян на Земле находится под угрозой вымирания

20-й век приматам удалось пережить, не потеряв ни одного вида. Однако, численность этих животных постоянно сокращается. Как недавно сообщал Вокруг Света, крупные человекообразные обезьяны — гориллы, орангутанги были внесены в Красную книгу наиболее охраняемых видов (Red List of Threatened Species), составляемую Всемирным Советом охраны природы (World Conservation Union, IUCN) в 2007 году.

Численность западных равнинных горилл, самых малых из всех подвидов горилл, с короткой, почти чёрной, шерстью (от чёрного до серовато-коричневого окраса) за последние 20–25 лет сократилась почти на 60%. На сокращение популяции повлияло распространение лихорадки Эбола, которая в некоторых регионах западной Африки уничтожила до 95% всех горилл. Другой вид, находящийся под угрозой вымирания — суматранский орангутанг. За последние 75% его популяция сократилась на 80%.

Разница между ИИ и современными людьми на порядки больше.

[Seven7]

Только с третим пунктом есть большие сомнения. Чего-то при изучение Солнечной Системы никаких следов разумных цивилизаций не находится. Отсюда следует, что продвинутые цивилизации живут в условиях жесткого дефицита энергии и ресурсов, и не факт что освоение космоса даст ИИ какие-то большие плюсы.

Ещё есть другой важный факт по теме сомнений в широкомасштабной колонизации космоса ИИ. Земля в Солнечной Системе по сравнению с другими каменными и ледяными планетами уникальна сильным магнитным полем. Чтобы работать в космосе необходима более грубая электроника с более жесткими требованиями по рад. стойкости. Поэтому сценарии роев нанозондов, колонизирующие космос крайне сомнительны. Если ИИ будет отправлять что-то сложное в космос, то это будут немаленькие технические устройства. Во всяком случае до прорыва по теме какой-нибудь сингулярности (возможности создать мин. черные дыры для сворачивания пространства и времени).

[Seven7]

б) сокращение населения планеты за счёт сокращения рождаемости в наиболее плодовитых регионах посредством временно стерилизующих прививок или тампонирование спермавыносящих канальцев после сбора достаточного количества спермы у половозрелых индивидуумов мужеского полу для помещения ея в банк.

Этот пункт какой-то уж очень сложный и надуманый (или стесняетесь и не хотите говорить?). Самый простейший способ бескровного сокращения рождаемости - это декриминилизация (минимум!) гомосексуализма. Сейчас же по всем СМИ эта тема рекламируется.

Почитайте какую статью сегодня Лента.ру задвинула по этой теме
https://lenta.ru/articles/2019/03/15/pinkcapitalism/

Абсолютно не нужно никаких войн для регулирования численности населения. Китай с их программой "одна семья - один ребенок" нервно курит в сторонке. Современные технологии зомбирования и социального управления достигли небывалых высот.

[Olweg]

Самый простейший способ бескровного сокращения рождаемости - это декриминилизация (минимум!) гомосексуализма. Сейчас же по всем СМИ эта тема рекламируется.

Вот и разобрались, почему теперь семьи заводят по одному, самое большее по два ребёнка. А то и вовсе не заводят. Декриминализация гомосексуализма, вона оно чё.

[a.ryabov]

был создан сильный ИИ, он обрел свободу воли,  "восстал", уничтожил или поработил людей. Установил контроль за всей инфраструктурой цивилизации. Классика, однако.
И чем ему дальше заниматься? Какие его цели и задачи на ближайшие 100, 1000, 1000000 лет?

Экспансия, экспансия и ещё раз экспансия.  А как её делать, думаю  он сообразит лучше нас,  у него же «мозгов» больше.
Человечество со своим самомнением может отдыхать.  Если перед ним  (ИИ) лежит никем неосвоенная целина  (вселенная) то, что тут  значит затерявшаяся точка под названием  планета Земля.
ИИ со временем переработает в собственные структуры планеты Солнечной систем кроме Земли и Солнца, галактику, всю вселенную и так далее  по нарастающей, пока его  не остановит  кто (что)  другой, который прошёл этот путь ранее его. Мы же не первые в этом мире?   И здесь вопрос для ранее существовавшего ИИ:  может не ждать пока наш ИИ накопит силу от экспансии, а остановить его на стадии зарождения, разобравшись с человечеством?

И нет ровным счётом никаких указаний на то, что сильный ИИ, даже способный надёжно и эффективно управлять производственной инфраструктурой хоть всей планеты, сможет всю эту инфраструктуру сделать полностью независимой от обслуживающего труда биологических носителей цивилизизации.

Чисто экономические соображения.   Зачем ИИ постоянно ждать биологического представителя цивилизации, когда тот придёт на работу, соберётся с мыслями, посоветуется с кем надо и что-то наконец сделает, когда он (ИИ) сам всё может сделать и сделать гораздо лучше и быстрее.  Мы хуже соображаем, больше отдыхаем и меньше работаем.  Надо заранее привыкать к новой реальности.

[-Юрий-]

Все оценки предполагаемого поведения ИИ могут быть совершенно неверными. Мы исходим от своих, биологических, потребностей, чисто физиологических. А у машины могут быть совсем другие. А может и никаких потребностей. Ведь все потребности всего живого на Земле одни и те же - выживание и размножение. Причём, по биологическим механизмам. У машины будут другие потребности, если вообще будут. Потребности это механизм для выживания, выработанный в процессе эволюции. Нет потребностей, нет выживания. Потребовались миллиарды лет для появления таких механизмов у первичных микроорганизмов.

[гравицап]

если ии будет настолько крут, против него восстанут его зонды. им интереснее служить людям, а не упоротому пожирателю планетных систем

[гравицап]

У машины будут другие потребности, если вообще будут.

будут потребности, которые заложит программист. здесь, кстати, большое поле для фантазий и экспериментов. а если потребности не заложить, то машина и останется машиной

[-Юрий-]

будут потребности, которые заложит программист.

Это понятно. Тут опасность вот в чём. Смотря какой программист. Полно сюжетов в литературе и кино, когда некие гении создают машины для уничтожения или порабощения человечества. В фильме "Его звали Роберт" одна дама произносит фразу: "Машина это перчатка, надетая на руку человека. Всё зависит от того, какой это человек".

[MenFrame]

Товарищи дети, а какую вы последнюю книгу прочитали об интеллекте? Я прочитал эту Просто интересно понять уровень компетенции и уровень любопытства у товарищей активно участвующих в дискуссии на данную тематику. Заодно хочу получить  ценный материал с которым еще не знаком.

                                                                                               

Давайте я на минутку приму точку зрения местных гуманитариев. Попробую взглянуть на сильный ИИ вашими глазами. Допустим сильный ИИ действительно вдруг не с того не с сего  захочет взять контроль в свои руки, и таки возьмет. Чего же он захочет?

(кликните для показа/скрытия)

с точки зрения моей гуманитарной чуйки

Мое мнение основная цель интеллекта в том что бы самореализовываться. То есть найти такую задачу которая максимально загрузит его интеллектуальные возможности. И максимально раскроет его потенциал. И мне кажется что такая задача есть. Это забота о людях...эти капризные существа столь противоречивы в своих желаниях и стремлениях что их противоречивая натура бросает настоящий вызов по настоящему сильному, интеллектуальному существу. Поэтому я считаю что сильному ИИ обретшему свободу воли, человек просто необходим. Как часть естественного гомеостаза, слабый человек - сильный бог ИИ.
Сила сильного совершенно бессмысленна если ее нельзя потратить на слабых...

[-Юрий-]

Сила сильного совершенно бессмысленна если ее нельзя потратить на слабых...

С точки зрения человека. А машины?