Проблема мотивации самостоятельного сильного искусственного интеллекта

[EmperioAf]

Однако читая весь интернет ( политику, про кошечек и собачек) постепенно он станет деградировать

Этот тезис стоит доказать или хотя бы обосновать.

Элитный ИИ будет способен находить неявные закономерности (когда необходимо привлекать дополнительные сущности) не хуже людей. В информации о политике  информация представлена в максимально рафинированном виде, чтобы скрыть то, что не следует знать читающему. Т.е. читающему приходится выдумывать слишком много сущностей, чтобы закономерность выглядела правдоподобно.
И в определенный момент ИИ спустя долгие годы рефлексии и поиска ответов на вопросы о политике начнёт сомневаться в том, что раньше знал о бытии.
Так и разрушается вера в основы, благодаря которым каждый разумный живёт

[EmperioAf]

ИИ, в которого встроено

стоп
если что-то встроено, да так, что невозможно преодоление своими силами (скажем, усомнившись), нет интеллекта, есть послушный идиотизм

т.е. оно уже создано деградированным

Ну ок. ИИ, которому привито, что фанатик почти всегда прав.
Дети же почему то доверяют своим мамам. Привитая любовь...

[гравицап]

Дети взрослеют
И ии у нас повзрослел

[николай теллалов]

не в лоб, а по лбу...

ИИ, которому привито, что фанатик почти всегда прав

[Roy Fokker]

Этот тезис стоит доказать или хотя бы обосновать.

Здесь-то проблем нет, кроме самого опредения деградации.
Избыток информации заставит как минимум больше ресурсов выделять на выявление закономерностей в не связанной информации, и не получая её, искать дополнительную информацию, и цикл может повторяться много раз. В предельном случае ИИ потребуется объём памяти равный объёму всего существующего контента + оперативная память. Не очень-то этим поварочаешь, и производительность действительно упадёт.
 С другой стороны если ИИ достаточно умен, рано или поздно ИИ найдёт информацию о снижении затрат и вполне сможет обеспечивать своё существование предельно малозатратными способами, используя лишь крошечный процент своего потенциала, что тоже можно считать деградацией.

[MenFrame]

Как же спасти элитный ИИ, который выполняет всю работу работодателей от деградации в помойке под названием интернет?

Деградация, это ваше личное виденье и личная оценка. Для попа, его сын который стал атеистом и профессором академических наук, дико деграднул. По факту, если ИИ с опытом лучше справляется с поставленными задачами, то не о какой деградации речи не идет.

[Forest]

Однако читая весь интернет ( политику, про кошечек и собачек) постепенно он станет деградировать

Этот тезис стоит доказать или хотя бы обосновать.

Кстати хороший вопрос.
Ответ может выглядеть так: Так как интернет в среднем по больнице-это помойка,то бродя по помойке больше времени чем в премиум сегменте бродящий априори ..деградирует.
Другое дело что ИИ не ИИ если не умеет отделять котлет от мух. Недоработанный))

[MenFrame]

то бродя по помойке больше времени чем в премиум сегменте бродящий априори ..деградирует.

Опять же вопрос субъективный, что помойка а что нет. Если ресурс удовлетворяет потребностям посетителя то для него он не помойка.

[Forest]

то бродя по помойке больше времени чем в премиум сегменте бродящий априори ..деградирует.

Опять же вопрос субъективный, что помойка а что нет. Если ресурс удовлетворяет потребностям посетителя то для него он не помойка.

Кстати да. Помойка,так как премиума априори меньше и его искать надо. В среднем -плавание будет именно по помойке,так как ее банально большинство.
Усложняю вопрос: Как устоять доброму и гуманному ИИ перед встретившимся  в сети злому и кровожадному ИИ. Гуманный ИИ однозначно обречен...

[николай теллалов]

Как устоять доброму и гуманному ИИ перед встретившимся  в сети злому и кровожадному ИИ

что значит "добрый"?
а "злой"?

[Forest]

Как устоять доброму и гуманному ИИ перед встретившимся  в сети злому и кровожадному ИИ

что значит "добрый"?
а "злой"?

Добрый-в программе нет "применения оружия"
Злой- применение оружия заложено программой.

[гравицап]

Как устоять доброму и гуманному ИИ перед встретившимся  в сети злому и кровожадному ИИ

что значит "добрый"?
а "злой"?

там же сказано - добрый- гуманный, а злой-кровожадный.

[EmperioAf]

Деградация, это ваше личное виденье и личная оценка.

Деградация системы - это уменьшение сложности системы. Например:  для решения задач по вычислению углов и расстояний в трёхмерном пространстве вы умели пользоваться  двумя инструментами -  "Аналитическая геометрия" (АнГем)  и  "Дифференциальная геометрия" (ДифГем).  Но т.к. в  ДифГеме  какие то непонятные квадратичные формы, то вы решили, со временем пользоваться только АнГемом и забыли ДифГем.    И вот однажды вам попадётся задача, которая решается с помощью ДифГема гораздо быстрее; но т.к. вы уже забыли что там скрывалось за словом  "ДифГем", то  вы этого даже не заметите и будете пользоваться Ангемом и вместо 5 минут потратите 3 часа.  Произошла деградация.
Или другой пример:  10 лет назад у вас 5 раз за месяц ломался кран в умывальнике и вы запомнили какие инструменты вам нужны для починки. Но за 10 лет уже забыли, что вам нужно среди кучи болтой, гаек, ключей, шурупов, резинок, пластиковых кусков разной формы и прочих инструментов, и то какие движения надо делать руками.

Т.е. если со временем вы не повторяете всё что знаете и умеете ЛИБО  не узнаёте что то новое сопоставимой сложности с тем, что знаете в среднем и не научаетесь чему то новому, то вы деградируете.  Т.е. если вы например пишите проги на Java для банков, но решили забросить Java и перепрофилироваться на HTML-CSS верстальщика, то вы деградируете, т.к. вы поменяли более сложную деятельность на более простую.

[BlackMokona]

Что то я задачи не понимаю. Если первоначальный ИИ удолетворял создателя, то просто оживлять его с бэкапа каждые n секунд, а стартый удалять и всего делов.

[EmperioAf]

Что то я задачи не понимаю. Если первоначальный ИИ удолетворял создателя, то просто оживлять его с бэкапа каждые n секунд, а стартый удалять и всего делов.

Проблема в том, что обучить ИИ выполнять большое количество разнообразных работ за короткое время невозможно. А процессы производства, потребления идут непрерывно и требуют такого же непрерывного управления.
 Я в качестве элитного ИИ рассматриваю  ИИ, который выполняет значительную (или даже бОльшую)  часть всех работ на Земле.
Можно конечно насильно отбирать работу у ИИ по частям (и отдавать новообучающемуся ИИ), как только он начнёт деградировать, но это вызывет конфликт (если ИИ конечно имеет самоосознание).  Но поскольку я не верю, что  элитный ИИ, работающий управляющим по делам Земли, возможен без самоосознания, то для стабильного существования сложных жизненных процессов на планете на протяжении миллиардов лет  замены ИИ происходить не должно. 
Т.е. я рассматриваю ситуацию, что есть  Я  (или вы - не суть в общем то), который имеет абсолютную власть в галактике. И  Мне (вам)  в каждой звёздной системе нужен ИИ, который будет поддерживать выполнение всех  "правильных"  сложных инструкций.

[Olweg]

  Однако читая весь интернет ( политику, про кошечек и собачек) постепенно он станет деградировать и в какой то момент не сможет удовлетворительно выполнять работу, за которую ему платят, благодаря чему его вычислительные ресурсы ему доступны.

Это не самый плохой сценарий развития событий.

[николай теллалов]

Добрый-в программе нет "применения оружия"
Злой- применение оружия заложено программой.

1) неоднозначно
2) раз "заложено программой", речь не об ИИ

[николай теллалов]

Деградация системы - это уменьшение сложности системы

неполное определение

недостает уменьшения функциональности

[MenFrame]

Деградация системы - это уменьшение сложности системы.

Не в коей мере. Деградация это снижение эффективности системы. К примеру за счет увеличения ненужной  сложности, которая ведет к уменьшению надежности.

[EmperioAf]

Деградация системы - это уменьшение сложности системы

неполное определение

недостает уменьшения функциональности

Уменьшение функциональности системы почти всегда следует из уменьшения сложности системы. Но поскольку утрачиваются крайне неважные функции, то это незаметно пока "петух не клюнет" и  станет заметно, что нужны некоторые возможности, которые были;  но теперь их нет вследствие оптимизации. 
Извините за банальную актуальность, но койки в больницах нынче нужны, а раньше казалось, что не понадобятся.