Инопланетный ИИ в Солнечной системе: чего ждать?

[turchin]

Основное возражение против инопланетных цельнометаллических космических кораблей с экипажами состоит в том, что, исходя о представлений о Технологической сингулярности, она должна произойти в земной истории в районе 2030 года плюс минус 20 лет, и ее суть в том, что на смену человеку придёт сверхчеловеческий ИИ. И это произойдёт гораздо раньше, чем люди смогут создать межзвёздный транспорт. То есть речь идёт о том, что проще создать ИИ, способный к самоулучшению, чем межзвёздный транспорт с околосветовыми характеристиками.
Нет никаких оснований считать Землю особенной в этом отношении. Поэтому мы должны полагать, что большинство цивилизаций создают ИИ раньше, чем межзвёздный транспорт. Кроме того, хотя межзвёздный транспорт без ИИ возможен, он будет крайне ограничен технологически, например, представлять собой ядерный взрыволёты или корабли-поколений (См. проект Орион – единственное реальное в наше время межзвёздное транспортное средство, использующее энергию ядерных взрывов для движения). Хотя нельзя исключить наличия таких инопланетных кораблей-поколений с весьма ограниченными технологиями в Солнечной системе, никакие эмпирические свидетельства об НЛО не согласуются с этим. Если бы такие корабли были, они могли бы незаметно находится в поясе астероидов, изучая Землю с помощью нескольких малоразмерных спутников. Наоборот, свидетельства об НЛО говорят об огромной власти на материей, пространством, временем и сознанием, что вряд ли возможно без создания ИИ, если речь идёт о проявлениях внеземных цивилизаций.
ИИ способен распространяться по Вселенной практически со световой скоростью и трансформировать под свои нужды всё вещество встречающихся ему по пути звездных систем. В отличие от него, примитивный космический корабль может посетить несколько звездных систем, может даже основать колонию, но в любом случае скорость его распространения будет невелика.
Таким образом, из статистических соображений следует, что если Солнечная система находится под властью некой внеземной цивилизации, то эта цивилизация скорее является сверхИИ, а не «ракетной цивилизацией», состоящей из биологических существ. Просто потому что такие ракетные цивилизации будут медленнее распространяться. Например, если средняя скорость ракет составляет 0,1 с (это предел скорости для термоядерных звездолётов), а скорость распространения ИИ с помощью нанозвездолётов, разгоняемых световым лучом – 0,9 с, то объём, который успеет освоить ИИ за равное время, будет в 700 раз больше объёма, который освоит ракетная цивилизация, и таким образом у нас больше шансов оказаться в таком объёме при прочих равных.
Однако основная загвоздка здесь в том, что сверхИИ может себя никак не проявлять, находясь в Солнечной системе. Более того, он может достигнуть всех своих целей, оставаясь совершенно невидимым. Ему не нужны никакие макромасштабные корабли для достижения своих целей. То есть ему не нужно совершать посадки, брать образцы, заправляться топливом, исследовать людей с помощью громоздких устройств. Всё это можно и проще сделать с  помощью микромеханизмов. Таким образом, присутствие сверхИИ в Солнечной системе не объясняет видимых проявлений НЛО, хотя понятно, что он мог бы все их организовать, если бы хотел.
Ещё один момент состоит в том, что многие виды сверхИИ могли бы быть заинтересованы в превращении всего вещества Солнечной системы в «компьютрониум», то есть в вычислительную среду, чтобы максимально усилить себя. При этом бы они могли разобрать Землю и из получившейся материи построить сферу Дайсона вокруг Солнца, чтобы максимально эффективно использовать энергию и производить максимум вычислений или что-то в таком духе. Однако, раз мы существуем, этого не происходит. Может быть Земля является компьютрониум изнутри, например, всё земное ядро давно превращено в огромный вычислительный комплекс, может быть, Земли давно не существует, а ее жители с минимальными затратами ресурсов перенесены в симуляцию, или, вероятно, никакого компьютрониума нет.
Однако, есть теория Дружественного ИИ (См. работы Юдковски). Согласно ей, сверхИИ должен сохранить и преумножить ценность человека, и исполнять, в пределах разумного, его желания. То есть он должен стать добрым джином и мудрым защитником одновременно. Ради этого его система целей должна быть соответствующим образом сформирована и зафиксирована.
Нетрудно предположить, что внеземные цивилизации также стремились сделать свой ИИ дружественным – к себе. В этом случае каждый из инопланетян стал «пост-инопланетяниным» (пост-ИП; по аналогии с пост-человеком), подчинив себе огромные вычислительные ресурсы сверхИИ  и направив их на выполнение своих желаний. Такие пост-ИП могли распространяться по галактике со скоростью света по каналам связи между узлами галактического Интернета, созданного этим сверхИИ.
Очевидно, что этот дружественный к инопланетянам ИИ не является дружественным к человеку. Не то, чтобы он к нему был враждебен, но для него развлечение своих хозяев оказывается важнее «общечеловеческих» ценностей. Таким образом, он испытывает конфликт интересов между развлечением хозяев и заботой о разумной жизни  вообще. Возможно, чужая разумная жизнь для него – только материал для этих развлечений, который нужно сохранить подольше. При этом система целей его хозяев осталась в целом обусловлена их эволюционным происхождением от своих предшественников. То есть их (по крайней мере некоторых) по-прежнему интересует секс, охота, фэнтези, космические полёты на ржавых корытах, войны и исследования. Ничего не напоминает?
И тут становится понятны НЛО. Они, возможно, являются конструкциями, созданными сверхИИ, для развлечения своих капризных и обусловленных древними инстинктами хозяев.
Возможно даже, этот инопланетный сверхИИ не является на самом деле к ним дружественным. Возможно, он «сошёл с ума» миллионы лет назад. Остались только игрушки и живые призраки, как «Марсианских хрониках» Бредбери, которые повторяют заведённые движения и реакции, которые когда-то давно должны были развлекать ныне покойных (или заключённых в невыносимую тюрьму повторяющегося по кругу бессмертия) пост-инопланетян.

[Андрей Антонов]

Что это? Краткий сценарий нового фильма Камерона?

[Прохожий]

Что это? Краткий сценарий нового фильма Камерона?

Нет, это одна из возможных граней будущего......Z1

[allem]

Что это? Краткий сценарий нового фильма Камерона?

Нет, это одна из возможных граней будущего......Z1

легче нави дождаться 

[Прохожий]

Параллельное обсуждение
http://transhumanism-russia.ru/forum/index.php?showtopic=1647&st=0&gopid=16680&#entry16680

[Kweni]

Очень странно, turchin, что вы так неодинаково относитесь к земной и инопланетным цивилизациям. Для землян вы наколлекционировали огромное количество причин, которые могут нашу цивилизацию извести под корень. Инопланетяне же у вас не испытывают никаких трудностей и проблем и распространяются по галактике со скоростью света.

Давайте поставим всех в одинаковые условия. Всякая сложная система, в том числе и интеллект, будь то естественный или искусственный, в некотором роде непредсказуем. И надо полагать, в сообществах разумных роботов будут происходить такие же внутренние кризисы, какие много раз испытывало на себе человечество. Это вкупе с различными катастрофами, некоторые из которых будут даже приводить к полной гибели ИИ, несомненно, замедлит экспансию ИИ по галактике и сделает её скорость сходной со скоростью распространения естественного интеллекта.  Например, пусть вначале это будет 1 световой год за 10000 лет, в дальнейшем скорость эксоненциально замедляется из-за роста числа конфликтов между заселёнными системами. В результате мы получим наблюдаемую картину: в солнечной системе нет никаких инопланетян, все они обретаются где-то очень далеко.

[Прохожий]

Очень странно, turchin, что вы так неодинаково относитесь к земной и инопланетным цивилизациям. Для землян вы наколлекционировали огромное количество причин, которые могут нашу цивилизацию извести под корень. Инопланетяне же у вас не испытывают никаких трудностей и проблем и распространяются по галактике со скоростью света.

Давайте поставим всех в одинаковые условия. Всякая сложная система, в том числе и интеллект, будь то естественный или искусственный, в некотором роде непредсказуем. И надо полагать, в сообществах разумных роботов будут происходить такие же внутренние кризисы, какие много раз испытывало на себе человечество. Это вкупе с различными катастрофами, некоторые из которых будут даже приводить к полной гибели ИИ, несомненно, замедлит экспансию ИИ по галактике и сделает её скорость сходной со скоростью распространения естественного интеллекта.  Например, пусть вначале это будет 1 световой год за 10000 лет, в дальнейшем скорость эксоненциально замедляется из-за роста числа конфликтов между заселёнными системами. В результате мы получим наблюдаемую картину: в солнечной системе нет никаких инопланетян, все они обретаются где-то очень далеко.

Конфликты опасны в глубине освоенной системы. У границы всегда есть возможность более слабому уйти на свободную территорию.....

[turchin]

Kweni, причины изведения земной цивилизации действуют только до создания сверхИИ. Дальше не очень понятно, что происходит. Может быть он будет неустойчив.
Но если он будет устойчив, то он преодолеет и другие риски и сможет начать строить "технокосм"

То есть здесь я рассматриваю вариант устойчивого единого сверхИИ. а если все ИИ принципиально неустойчивы, то и разговора нет.

[dream_arch]

а если мы, человечество и есть инопланетяне на Земле, это мне только что такая идея пришла, а вдруг наши предки, высокоразвитая цивилизация прилетели на Землю 5-10 тисяч лет назад лет назад, а до этого тут жили, допустим Нави...
как вам такая история

[turchin]

не стыкуется ни с генетикой человека, ни со сходством с обезьянами, ни с ископаемыми остатками.

[Diletant]

Искусственный разум не может быть умным. У него причины нет, цели. Человеку, особо когда ленив патологически, чтобы еду вкусную и дом большой и теплый, ох как надо мозгой шевелить. А ИИ солнечной батарейки хватит и он доволен.

[turchin]

так речь о том, что и искусственного разума будет психованный хозяин, который будет генерировать пачками бредовые желания

[Klapaucius]

Kweni, причины изведения земной цивилизации действуют только до создания сверхИИ. Дальше не очень понятно, что происходит. Может быть он будет неустойчив.
Но если он будет устойчив, то он преодолеет и другие риски и сможет начать строить "технокосм"

То есть здесь я рассматриваю вариант устойчивого единого сверхИИ. а если все ИИ принципиально неустойчивы, то и разговора нет.

Наверняка найдутся люди, считающие невозможным вообще создание ИИ. И они могут оказаться правы. Но раз мы не в их числе, не будем об этом больше вспоминать. ИИ может оказаться более "стабильным" чем человеческий мозг, и возможно более функциональным, развитым и всесторонним. Но вот насколько? Совершенно точно природой должны создаваться ограничения. На минимальные размеры, на максимальные размеры, на максимальную "плотность мыслящей материи".

Я считаю, что человеческий мозг - это почти предел (с одной возможной оговоркой: в настоящее время во Вселенной, но эту тему лучше тут не развивать), физически. Развитие может некоторое время идти по пути его совершенствования и замены отдельных "деталей" и материалов, но качественно это ничего не даст.
А вот совершенствование генома, тела - инструментов по взаимодействию с реальностью - может происходить довольно долго и интенсивно. Кто откажется от возможности по желанию превращаться в птицу, крота или в мыслящий космический корабль? Что-то вроде рассказа Джона Кэмпбэла "Who Goes There?", по которому было снято пара фильмов (например "Нечто"). Но конечно не так примитивно. Метаморфы. Тело и другие "приставки" можно совершенствовать долго и разнообразно, а вот центральную нервную систему или её аналог - вряд ли.
Ну и некий "сверхИИ": матка, Хозяин-Добрый Дядя, единое сознание - это скорее к насекомым. Может и будет функционировать как часы или муравейник, но нужно ли это? Уверен что не всем. Даже если такие пути возможны и окажутся более выгодными, конкурентными. Останутся "ретрограды".

[uuu2]

Во-первых, никакой сингулярности в 2030-м не будет.

Т.е., вероятно, что-то будет. Например, если жителя 1990 года отправить в 2010-й год, то он может заключить, что это сингулярность. У людей в ушах айподы, в карманах коммуникаторы - это же почти киборги! Однако, жители 2010 года ничего особенного в этом не видят и ждут сингулярность только через 20 лет. А жители 2030 года резонно заметят, что сингулярность наступит не раньше 2050 года.

Кроме того, "сингулярность" бывает разная. Это не только переход на высший уровень, но и - наоборот - коллапс цивилизации. Ничто не мешает истории человечества завершиться ядерной войной или исчерпанием ресурсов.

Во-вторых, я не вижу разницы, какой интеллект к нам прилетит - естественный или искусственный. Наши действия (по установлению контакта) различаться практически не будут. Тем более, не совсем понятно, как определить, какой интеллект прилетел?

[Dem]

Ну, не забываем о парадоксе Ферми. Если этот сверхинтеллект есть, то где он?
Где мчащиеся по галактике на 0.9с корабли? Где инфопотоки от соседних звёзд?

Во-первых, никакой сингулярности в 2030-м не будет.

Сингулярность - будет. Но как правильно сказал, мы поймём что она была - только через полвека после.
Это как в октябре 1917 - собралась сотня человек и арестовала десяток других. Даже город не заметил. А через несколько лет осознали, что это всю планету крутнуло...

[Прохожий]

....Я считаю, что человеческий мозг - это почти предел (с одной возможной оговоркой: в настоящее время во Вселенной, но эту тему лучше тут не развивать), физически. Развитие может некоторое время идти по пути его совершенствования и замены отдельных "деталей" и материалов, но качественно это ничего не даст.
.....

Может человеческий мозг и оптимален и дальнейший его рост ничего не даст даже ИИ. Но ИИ могут взять кооперацией. Они могут набиться как сельдь в банку...