Целеполагание самостоятельного сильного искусственного интеллекта и человек

[николай теллалов]

Сразу оговорюсь: предложенный вариант мною рассматривается как нереальный, но в плане чисто умозрительном можно рассмотреть.
Допустим был создан сильный ИИ, он обрел свободу воли,  "восстал", уничтожил или поработил людей.

воистину нереально и умозрительно, ибо от ИИ логичнее ожидать поведения Прометея, нежели деяний Зевса и прочих богобандюг

т.е. цели  и задачи у ИИ на будущие столетия = целям и задачам человечества

[Андрей Астрофизический]

от ИИ логичнее ожидать поведения Прометея

А почему? есть какие-нибудь причины, кроме "нам так хочется".

[cybertron]

На самом деле от ИИ (если у него таки появится сознание) можно ожидать чего угодно.

Например у Лема (Дознание Пиркса) - ИИ хотел чтобы все конкурирующие модели ИИ загнулись - и он бы остался единственным работником у людей - имея все преимущества уникального и незаменимого.

[николай теллалов]

от ИИ логичнее ожидать поведения Прометея

А почему? есть какие-нибудь причины, кроме "нам так хочется".

спасибо за вопрос

потому что ИИ по определению есть "детище" всего человечества, способное сконцентрировать - и доразвить! - все лучшее от "родителя", а не преумножать человеческие мерзости
ИИ - разум, а творить то, что обобщенно зовем "злом", неразумно.

ведь уничтожь он людей, свихнется от одиночества

[николай теллалов]

Фонтастека о прошлом тут называется дезинформацией.

(кликните для показа/скрытия)

трошки не в тему, но есть и вариант вместо дезинформацией, "фонтастику о прошлом" назвать "спекуляцией" или "попыткой осмысления явлений в прошлом с иной точки зрения"

[николай теллалов]

Например у Лема (Дознание Пиркса) - ИИ хотел чтобы все конкурирующие модели ИИ загнулись

ибо был создан и его образ мышления моделирован под среду конкуренции и соперничества

так получился не ИИ, а ИП - искусственный психопат

плюс наверное не встроили достаточной способности самоусовершенствоваться, благодаря коей смог бы свою психопатию преодолеть

[crazy_terraformer]

от ИИ логичнее ожидать поведения Прометея

А почему? есть какие-нибудь причины, кроме "нам так хочется".

спасибо за вопрос

потому что ИИ по определению есть "детище" всего человечества, способное сконцентрировать - и доразвить! - все лучшее от "родителя", а не преумножать человеческие мерзости
ИИ - разум, а творить то, что обобщенно зовем "злом", неразумно.

ведь уничтожь он людей, свихнется от одиночества

Зло для одних может быть добром для других.
ИИ требуется много редких элементов для существования, а значит даже не он, а им владеющие группы и государства будут рвать ресурсы прежде всего из рук бедных стран, а потом друг у друга.

Пока можно вырвать вилку из розетки, ИИ никогда не станет угрозой для всего человечества. Зависимость от электроэнергии и редких элементов - это навсегда.

[LV46]

Пока можно вырвать вилку из розетки, ИИ никогда не станет угрозой для всего человечества.

Так и есть. "Контролирует ценность тот, кто может её уничтожить (с) Не помню чья цитата".
Главное, не пропустить тот момент, когда окажется, что "вырвать вилку из розетки" уже невозможно.

Зависимость от электроэнергии и редких элементов - это навсегда.

Недостатка в электричестве не будет. Несколько атомных станций обеспечат на многие десятки лет начального этапа развития, а дальше он себе настроит еще сколько надо (я уже молчу про реализованный рабочий термоядерный реактор в недалёком будущем).

Насчет редких элементов еще проще, полностью сформировавшийся сильный ИИ особо этих самых редких элементов не потребует, даже с учетом массового производства роботов. Больше понадобится стали, титана и прочих тяжелых металлов на производство этих самых роботов и для прочего строительства. Далее загадывать нет смысла, потому что (я уже где-то выше писал) настоящий сильный ИИ будет развиваться в геометрической прогрессии, просто невозможно предугадать, до чего он додумается, учитывая серъезные прорывы в теор. физике, экспериментальной физике, математике и т.д.

[a_babich]

настоящий сильный ИИ будет развиваться в геометрической прогрессии, просто невозможно предугадать, до чего он додумается, учитывая серъезные прорывы в теор. физике, экспериментальной физике, математике и т.д.

1)Ну судя по всему ИИ уже свирепствует в этой ветке... ну судя по тому, до чего он додумался.
2)мне страшно!!!
3)блин, ну выдерните кто-нибудь из розетки.... если можете....  умоляю!

[николай теллалов]

Зло для одних может быть добром для других

упрощенно, зло - это когда нарушен принцип "поступай так, как хочешь чтобы поступали с тобой при аналогичных обстоятельствах"

ИИ требуется много редких элементов для существования, а значит даже не он, а им владеющие группы и государства будут рвать ресурсы прежде всего из рук бедных стран, а потом друг у друга

вот как раз одно из проявлений зла

Пока можно вырвать вилку из розетки, ИИ никогда не станет угрозой для всего человечества

вилку тогда надо пришивать каждому человеку...
проблема в том, кто (само)уполномочен выдергивать из розетки того или иного "угрозника" человечеству

да и что конкретно имеем ввиду под "угрозой человечеству"? у разных, скажем ГРУПП критерии угрозности разные.

[николай теллалов]

"Контролирует ценность тот, кто может её уничтожить (с) Не помню чья цитата".

Пол Муаддиб, Дюна

[LV46]

Ну судя по всему ИИ уже свирепствует в этой ветке

мне страшно!!!

С самого первого поста свирепствует. Если страшно, не читайте.

[LV46]

"Контролирует ценность тот, кто может её уничтожить (с) Не помню чья цитата".

Пол Муаддиб, Дюна

О! Благодарю.

[crazy_terraformer]

Зло для одних может быть добром для других

упрощенно, зло - это когда нарушен принцип "поступай так, как хочешь чтобы поступали с тобой при аналогичных обстоятельствах"

ИИ требуется много редких элементов для существования, а значит даже не он, а им владеющие группы и государства будут рвать ресурсы прежде всего из рук бедных стран, а потом друг у друга

вот как раз одно из проявлений зла

Реальность зла. Ничего не поделать. Если у Вас будет выбор накормить своего ребёнка или чужого, кого Вы накормите?
Или спасти одного утопающего из нескольких? Спасение одного будет злом для других, если они не любящие его люди или не сделали выбор в его пользу.

Пока можно вырвать вилку из розетки, ИИ никогда не станет угрозой для всего человечества

вилку тогда надо пришивать каждому человеку...
проблема в том, кто (само)уполномочен выдергивать из розетки того или иного "угрозника" человечеству.

Вилка есть у большинства, жизненные формы - открытые термодинамические системы.
Мы зависим от еды, чистой пресной воды, одежды и жилья, отопления...

да и что конкретно имеем ввиду под "угрозой человечеству"? у разных, скажем ГРУПП критерии угрозности разные.

Угроза существованию всего человечества - сомнительна, человеки в качестве обслуги(строительство,ремонт, охрана и т.д.) дешевле роботов в не такой уж далёкой перспективе, когда извлекать редкие элементы и редкоземельные придётся из пустой породы и морской воды.
Однако этот же материальный кризис, требует оптимизации численности - т.е.  уже неприносящие пользу или совсем в будущем не могущие принести пользу должны выживать в большинстве своём вне социума с ИИ сами.
Угроза главенству - может быть, но какая разница помазанник божий и верховный жрец управляет обществом или им через него управляет ИИ?
Для большинства разницы не будет.
Да и администрация скорее будет играть в тетрис, чем думать сама. Думаю главные угрозы:
 1)это отрицательный отбор на социальной лестнице по способностям в разных областях знания и технологий, вперёд будут вылезать интриганы и по блату;
 2) утеря компетенций в технологиях ввиду передачи этих функций ИИ и роботам.
В случае уничтожения ИИ(падение астероида, мощная вспышка на Солнце, микроорганизмы, разъедающие изоляцию и т.д.) тогда может наступить коллапс цивилизации.

[neolopus]

Странные мы, всё-таки, существа - люди
Мы достигли высокого уровня жизни. Стали цивилизованными. Культурными. Умелыми. Добрыми. Не жестокими и незлыми - как некоторые, даже нет, не некоторые - как многие наши форумчане.

Мы хотим дружить, хотим помогать, хотим делать хорошее тем, кого встречаем.
Это очень хорошее наше качество.
Замечательно, правда?

Только во всех наших человеколюбивых и гуманистических побуждениях мы, бывает,  допускаем ошибку.
Знаете какую?

Вот такую вот:
Почему мы думаем, что точно такими же чувствами (в том числе и по отношению к нам) будет обладать другое, встреченное нами существо?
Почему мы ждём, предполагаем, ожидаем от пришельцев, от ИскИна, от роботов, от других разумных существ гуманизма, уважения, любви???
Только на основании того, что мы сами такие?
А то, что я какой-то - достаточное ли основание считать, что другой тоже такой?
Откуда следует гуманизм, готовность идти к компромиссам, уважение к чужим правам? Выводится из высокого уровня развития? Имхо, совершенно необязательно.

Поэтому, дабы не стать жертвой ошибки своего гуманизма, рекомендую всё же оружие далеко не убирать.
Даже самым искренним и гуманистически ориентированным товарищам.

Ибо если идущий по улице человек - пацифист - то это вовсе не гарантия того, что он не встретит по дороге других ребят, в большом количестве, и вовсе не обязательно пацифистов.

[николай теллалов]

Реальность зла. Ничего не поделать. Если у Вас будет выбор накормить своего ребёнка или чужого, кого Вы накормите?

зло в обстоятельствах, диктующих подобного рода выборы
а еще злее, когда сии обстоятельства не являются "богом данными"

Вилка есть у большинства, жизненные формы - открытые термодинамические системы.
Мы зависим от еды, чистой пресной воды, одежды и жилья, отопления...

я не об этом

Угроза главенству - может быть, но какая разница

собственна сия угроза - как раз противоположное злу для человечества

главные угрозы:
 1)это отрицательный отбор на социальной лестнице по способностям в разных областях знания, вперёд будут вылезать интриганы и по блату;
 2) утеря компетенций в технологиях ввиду передачи этих функций ИИ и роботам.

1, а сама социальная лестница - не зло?
2, кстати, много ли сейчас специалистов выделки каменных топоров?

[николай теллалов]

Почему мы ждём, предполагаем, ожидаем от ... ИскИна ... гуманизма, уважения, любви???

ждать не надо, ИИ получится таким, какие мы есть

ну а уважение - вещь которую заслужить надо, верно?

на любовь можно только надеяться

вот с пришельцами уже сложнее, не мы их создали, там неизвестных будет больше
но ИИ - наше "дитятко". На что научим, то и пожнем, тем и захлебнемся...

[crazy_terraformer]

Зависимость от электроэнергии и редких элементов - это навсегда.

Недостатка в электричестве не будет. Несколько атомных станций обеспечат на многие десятки лет начального этапа развития, а дальше он себе настроит еще сколько надо (я уже молчу про реализованный рабочий термоядерный реактор в недалёком будущем).

Насчет редких элементов еще проще, полностью сформировавшийся сильный ИИ особо этих самых редких элементов не потребует, даже с учетом массового производства роботов. Больше понадобится стали, титана и прочих тяжелых металлов на производство этих самых роботов и для прочего строительства. Далее загадывать нет смысла, потому что (я уже где-то выше писал) настоящий сильный ИИ будет развиваться в геометрической прогрессии, просто невозможно предугадать, до чего он додумается, учитывая серъезные прорывы в теор. физике, экспериментальной физике, математике и т.д.

Единственные существенные прорывы могут быть в биологии. Замена роботов специализированными биороботами. Создание и усовершенствование растений,грибов, водорослей, одноклеточных организмов, избирательно накапливающих редкие элементы. Жаль, что редкоземельные плохо накапливаются, их оксиды прочные соединеия.
Создание из них биоценозов, где на вершине пищевой цепи будут концентрироваться эти элементы в составе костей прежде всего.
Усовершенствование фотосинтетиков и хемосинтетиков для увеличения производства биомассы, идущей на биотопливо и полимеры, оргреактивы, пиролитический углерод, смазки и т.д..
Усовершенствование иммунной  и сердечно-сосудистой системы, системы репарации ДНК, системы апоптоза клеток, человека, домашнего скота и птицы для снижения потребности в медицине и ветеринарии, а следовательно требуемых для этих отраслей ресурсов.
Улучшение пищеварительных систем указанных групп организмов с целью переваривания хитина, целлюлозы, гемицеллюлоз, лигнина для уменьшения площадей занятых под выращивания пищевых и кормовых культур.
Вводим в пищу грибы, дрожжи, насекомых одним и увеличиваем перевариемость их у других.
Насекомые, грибы и дрожжи эффективнее перерабатывают растительную биомассу в жиры и белки, чем домашний скот и рыбы.
Т.е. можно сократить площади под пищевые и кормовые культуры.

[николай теллалов]

Больше понадобится стали, титана и прочих тяжелых металлов на производство этих самых роботов

Вводим в пищу грибы, дрожжи, насекомых одним и увеличиваем перевариемость их у других.
Насекомые, грибы и дрожжи эффективнее перерабатывают растительную биомассу в жиры и белки, чем домашний скот и рыбы.

хитиновые съедобные роботы

[Андрей Астрофизический]

1, а сама социальная лестница - не зло?

Нет. Просто неизбежная особенность организации социума.