Проблема мотивации самостоятельного сильного искусственного интеллекта

[EmperioAf]

У ВАс уже есть какой-то конкретный ИИ, с чётко определёнными характеристиками типа доступной памяти и производительности?

нет. В качестве эталона я использую человека.

У АСУ ТП, работающих десятилетиями вообще безо всякого ИИ, с этим есть какие-то проблемы?

Да, у АСУ ТП есть проблемы. Без обслуживающего человеческого персонала они неадекватно реагируют на форс-мажорные обстоятельства.

Если "дообучать" нужно извне, а не система сама примет решение, что ей нужно чему-то дообучиться для решения задачи - то это уже не сильный (или, по вашему, "элитный") ИИ - просто по общепринятому определению этого самого И: Интеллект - это способность решать НЕстандартные задачи.
Таким образом Вы противоречите сами себе.

Я имел ввиду, что нужно будет дообучать новыми данными из внешней среды. А решение о дообучении ИИ конечно примет сам.   Просто я так формулирую  предложения, т.к. обычно стараюсь смотреть на мир с позиции Бога (глазами Бога). Но это лирика.

Прежде всего потому, что из этих же самых законов физики следует ОЧЕНЬ трудная предсказуемость сложных процессов нелинейной динамики: начиная от свёртывания молекулы белка новой последовательности и критической температуры новых сплавов-сверхпроводников и заканчивая прогнозом погоды более чем на несколько дней. Погодите замахиваться на планетарное управление - начните с "малого", точнее давно прекрасно формализованного: займите свой мегаИИ решением прежде всего этой [size=78%]https://ru.wikipedia.org/wiki/Существование_и_гладкость_решений_уравнений_Навье_—_Стокса[/size][/size][size=78%]. А уже потом рассуждайте про предсказуемость и управленческую мощь чего-либо.[/size]

Я неоднократно (т.к. на них часто ссылаются) читал по диагонали проблемы тысячелетия, но, извините, у меня есть ощущение, что проблемы там не с задачами, а с формулировками. Ибо в быту люди как то решают почти все проблемы, которые необходимо решать.
P.s. я как то спросил у друзей как они решают свои проблемы, и ответ меня расстроил банальностью:  "гуглишь, читаешь и выполняешь по порядку. В чём проблема?"

[николай теллалов]

В качестве эталона я использую человека

не мало ли?
ИИ скорее надо мерять группой людей, причем не случайно собранных, а слаженный коллектив

[EmperioAf]

Разница между человеком и группой людей является количественной а не качественной, вроде бы. Если конечно предел Ходжсона  "не рассосётся" со временем, то разница качественная и в качестве элитного ИИ я конечно рассматриваю интеллектуальный ресурс большого количества людей. По аналогии с "лошадиной силой",  интеллект элитного ИИ, управляющего Землёй имеет порядок в несколько тысяч человеческих интеллектов.

[николай теллалов]

Разница между человеком и группой людей является количественной а не качественной

слаженный коллектив - это уже, пусть и не большой, но скачок в интеллектуальном отношении
(например изобретатель-одиночка и целое КБ, одинокий исследователь и НИИ - разве тут все только количественное?)
(а есть и такой момент, что ИИ теоретически может обрабатывать информацию именно как коллектив, а не как индивид)

ИИ, управляющего Землёй

если такое действительно будет (и ИИ на такое согласится), то облик управления не впишется в привычные рамки понятия "управление"

[Rattus]

При наличии же самообучаемости и достижении некоторого масштаба, ИИ неизбежно превратится в "чёрный ящик", со всеми неприятными последствиями.

Эти последствия нивелируются тривиальным отбором при наличии хоть какой-то популяции образцов.

остальные послушно носят бесполезные маски на улице

На бессимптомных носителях, коих, как теперь посчитано, не менее половины от всех инфицированных - вовсе не бесполезные.

Даже если представить фантастическое богоподобное "нечто", дёргающее всю планету за ниточки - жалкие дикари с их ничтожными ресурсами вряд ли могут быть этому интересны.

И это хорошо - иначе было бы как с модой на полную стерильность в быту в начале прошлого века. Но какое это непосредственно имеет отношение к обсуждаемому вопросу?

Может быть "ИИ" всё-таки правильней рассматривать не как сферический сверхразум в вакууме, а как продукт конкуренции групп инженеров и программистов?

На третий день... Может так следует рассматривать вообще почти любую реальную технологию?

Как только кто-то добивается полной гегемонии

Для начала надо описать - что это вообще значит и насколько полной? Если все уравнения нелинейной динамики останутся не имеющими точных решений и прогноз погоды, не говоря уже о всяких дизастерах, так и останется непредсказуемым на длинные сроки, то у управляющего ИИ всегда будет чем заняться и на чём поддерживать форму.

Кнопка RESET и Интеллект перпендикулярны друг другу.

Вот только без такой кнопки никакому известному интеллекту долго непрерывно функционировать не получается:
https://ru.wikipedia.org/wiki/%D0%94%D0%B5%D0%BF%D1%80%D0%B8%D0%B2%D0%B0%D1%86%D0%B8%D1%8F_%D1%81%D0%BD%D0%B0
Как и обычные наши не-ИИ электронные помощники при активном многоплановом использовании также рано или поздно его требуют.
И даже сейчас, даже достаточно аккуратно установленные сервера порою "падают".
Сможет ли обойтись без неё гипотетический "сверхсильный ИИ" - неизвестно.

делает его чем угодно, но и не интеллектом

несовместимы

Ви сколько дней не спали, прежде чем написать этот бред?

В качестве эталона я использую человека.

Ну тогда и результат у вас совпадёт с реальностью как у придумывавших вот это в начале-середине прошлого века:

у меня есть ощущение, что проблемы там не с задачами, а с формулировками. Ибо в быту люди как то решают почти все проблемы, которые необходимо решать.

С прикладной точки зрения 5 из 6 оставшихся задач действительно вполне достаточно считать решёнными по умолчанию: вся современная криптография стоит на положении, что P != NP, а куча работ математиков включает фразу "положим, что гипотеза Римана верна" и мир допрежь не рухнул.
Но вот решение задачи с уравнением Навье-Стокса имеет прямой выход на практику (и алгоритмы квантовых вычислений тут, кстати, никак не помогут, как недавно просветил AlexAV), потому и привёл только его.

[Maki]

получается очень одинокое и грустное НЕЧТО...

Так получается, если в системе сымитированы базовые животные инстинкты, подобие нейромедиаторов, сенсорика, и прочие субъектные прибамбасы, составляющие основы наших эмоций. У эффективного машинного вычислителя никаких эмоций быть не должно.

делает его чем угодно, но и не интеллектом
просто супер экспертная система
не личность
не разум
НЕЧТО из киноужастиков под названием "НФ" (пирожки под названием "с мясом")

Так ведь НЕЧТО из киноужастиков (например пресловутая "Матрица") - это и есть "личность", имеющая собственные желания, волю, целеполагание. Идея о том, что внутри машины заводится такое НЕЧТО - весьма кассовая, так как вызывает у обывателя животный страх. Вот почему она кочует из фильма в фильм.

[Maki]

Эти последствия нивелируются тривиальным отбором при наличии хоть какой-то популяции образцов.

Собственно это я и имел в виду, когда писал, что:

"ИИ" всё-таки правильней рассматривать не как сферический сверхразум в вакууме, а как продукт конкуренции групп инженеров и программистов

И так действительно следует рассматривать

...вообще почти любую реальную технологию

Вот почему идеи о "Восставшем", или "Уподобившемся Богу" ИИ я считаю несерьёзными. А вот широкое использование ИИ инженерно-финансовыми группами в целях собственного "Богоподобия" - вполне возможно. На фондовом рынке, например, это уже давно стало реальностью.

Для начала надо описать - что это вообще значит и насколько полной? Если все уравнения нелинейной динамики останутся не имеющими точных решений и прогноз погоды, не говоря уже о всяких дизастерах, так и останется непредсказуемым на длинные сроки, то у управляющего ИИ всегда будет чем заняться и на чём поддерживать форму.

Я имел в виду "гегемонию" как возможный исход соперничества "коллективных интеллектов", объединяющих ИИ и мозги человеческих групп. Известную из фантастики ситуацию, когда на Земле победил один "Большой Брат".
Формально, возможности для развития у такого "гегемона" будут безграничны. Но будет ли этот ИИ и его человеческие бенефициары развиваться?

[николай теллалов]

если в системе сымитированы

они сами появятся

[николай теллалов]

широкое использование ИИ инженерно-финансовыми группами

его не получится использовать, его надо убеждать сотрудничать

иначе не ИИ, а ЭС

[Diman]

Причем тут финансирование? Вопрос о жизнеспособности, то есть способности к саморепликации, длительному устойчивому существованию и функционированию.

[Maki]

они сами появятся

Как мыши из мусора?
В нашем мозгу всё это - наследие миллиардов лет выживания и эволюции от бактерии до человека. Превращение калькулятора в пентиум ничего подобного не требовало.

его не получится использовать, его надо убеждать сотрудничать
иначе не ИИ, а ЭС

Пока самообучаемая нейросеть гарантированно выполняет поставленную задачу (пусть даже совершенно непонятным для нас образом) - она функциональна.
Если же ЭТО приходится убеждать - оно становится непредсказуемой, а значит бесполезной вещью.

[николай теллалов]

Как мыши из мусора?

как результат реакции на данные с внешних и внутренних датчиков

оно становится непредсказуемой, а значит бесполезной вещью

тогда не будет ИИ
будут экспертные системы - вещь по определению ниже уровня, чем ИИ
с ее помощью можно будет успешно вести войны
а с ИИ не получится, ибо он тут же спросит "а зачем воевать?"

естественно, людям (некоторым) такие советчики не нужны
людям (некоторым) важно эффективно решить некую задачу
спрашивать себя "а надо ли ее решать и вообще ставить?" люди (некоторые) не любят
и жалеют, что природа их обделила кнопкой сброса, отключения и перезагрузки

[Rattus]

его не получится использовать, его надо убеждать сотрудничать

"Уговаривайте меня, уговаривайте!" (Советская аудиоадаптация "Алисы в стране чудес")
"Я вся такая несуразная, вся угловатая такая, такая... ПРОТИВОРЕЧИВАЯ ВСЯ!"

иначе не ИИ, а ЭС

А с этим - не ИИ, а ИК - Искусственная Кокетка.
Сильный ИИ, если он действительно сильный - нет никакого смысла о чём то там уговаривать, ибо все ваши доводы и мотивы он знает наперёд. Должен знать, ибо в целом любая дипломатия - штука довольно однообразная, хотя и не всегда точно предсказуемая - как погода.

тогда не будет ИИ

Такого бессмысленного и бесполезного, что Вы описываете - вероятно не будет, ибо энтузиастам вряд ли будут доступны соответствующие вычислительные мощности в свете торможения муровской динамики. Хотя чтобы просто кокетничать много ума не надо - может даже сейчас уже можно написать несложную марковскую цепь, которая это вполне сможет демонстрировать. Может быть это даже будет иметь свою нишу спроса в только развивающейся сейчас индустрии секс-кукол и VR...

а с ИИ не получится, ибо он тут же спросит "а зачем воевать?"

Затем, что таково может быть тактическое состояние момента. Последнее племя пацифистов - мориори - уже давно загеноцидлено племенем по соседству - маори. Другие таких глупостей больше не делают.

[-Юрий-]

Запишите себе в блокнотик: в четверг 23 апреля по "Культуре" в 20-00 передача "Можно ли создать искусственный интеллект?".

[Diman]

А в чём смысл-то?

[-Юрий-]

А в чём смысл-то?

Всем посмотреть.

[Maki]

как результат реакции на данные с внешних и внутренних датчиков

Датчики, их данные, реакция системы на эти данные, и оценка системой этой реакции не могут "появиться" самопроизвольно. Про мышей и мусор я ведь упомянул не просто так.

тогда не будет ИИ
будут экспертные системы - вещь по определению ниже уровня, чем ИИ
с ее помощью можно будет успешно вести войны
а с ИИ не получится, ибо он тут же спросит "а зачем воевать?"

Такой вопрос способна поставить и нормальная экспертная система.
А вот какое решение выдаст непредсказуемый "сверхразум" - совершенно непонятно. Мир или война должны быть ему глубоко фиолетовы.

[николай теллалов]

Датчики, их данные, реакция системы на эти данные, и оценка системой этой реакции не могут "появиться" самопроизвольно.

так у вас нечто совсем абстрактное, без хардуера?

Такой вопрос способна поставить и нормальная экспертная система

если специально запрограммирована

[Forest]

ИИ будет не жизнеспособен,так как не удовлетворяет критериям  способность и жизнь. Любой электрик из жэка его вам отключит за неуплату.

[EmperioAf]

ИИ будет не жизнеспособен,так как не удовлетворяет критериям  способность и жизнь. Любой электрик из жэка его вам отключит за неуплату.

Ну человека тоже можно отключить за неуплату за воздух. Вопрос темы предполагается таким "жизнеспособен ли ИИ в долгосрочной перспективе?". Ну хотя бы тысячу лет.