Семинары и международные симпозиумы НКЦ SETI

[Проходящий Кот]

Тоесть вы колеблетесь --- Атака или Технокосм?

[turchin]

Утверждение об априорной неопределнности - не значит, что я колеблюсь.
Более того, SETI атака - не единственный риск от внеземного разума. Я сделал карту всех рисков = она на английском , но с картинками, так что все понятно - тут: http://lesswrong.com/lw/nuz/the_map_of_the_risks_of_aliens/

Тоесть вы колеблетесь --- Атака или Технокосм?

[Rattus]

Первая программа для маленького компьютера никакого отношения к самоорганизации в природе не имеет, она по сути нечто вроде управляющей программы для принтера, который рисует чертеж полноценного компьютера и выполняет еще несколько жестко запрограммированных технических функций

Зигота развивается ровно так же. И делает она это как раз именно на принципах самоорганизации по исходно небольшой программе генома. Только в данном случае средой должна выступать ноосфера.

если цивилизации находятся плотно и звездолеты быстры

Первое противоречит наблюдаемым фактам, второе - практической физике, так что этот случай можно забыть.

Если размер ИИ программы больше петабайта - тоже атака невозможна, такой объем не передашь

Вот это самое серьёзное возражение. Второе - принцип свободы Висснер-Гросса: сильный интеллект по определению не может быть марионеточным.

[turchin]

Принцип Висснера можно покрыть принципом ортогональности Бострома. https://wiki.lesswrong.com/wiki/Orthogonality_thesis
Про размер в петабайт - дело в том, что сильный ИИ может быть очень эффективным оптимизатором кода. Вот сейчас люди написали программу играющие в щахматы в 111 строк кода. То есть сильный ИИ может (и должен) максимально сжать свой зародыш по размеру, убрать все лишнее - пусть учится на месте.

Первая программа для маленького компьютера никакого отношения к самоорганизации в природе не имеет, она по сути нечто вроде управляющей программы для принтера, который рисует чертеж полноценного компьютера и выполняет еще несколько жестко запрограммированных технических функций

Зигота развивается ровно так же. И делает она это как раз именно на принципах самоорганизации по исходно небольшой программе генома. Только в данном случае средой должна выступать ноосфера.

если цивилизации находятся плотно и звездолеты быстры

Первое противоречит наблюдаемым фактам, второе - практической физике, так что этот случай можно забыть.

Если размер ИИ программы больше петабайта - тоже атака невозможна, такой объем не передашь

Вот это самое серьёзное возражение. Второе - принцип свободы Висснер-Гросса: сильный интеллект по определению не может быть марионеточным.

[Rattus]

Принцип Висснера можно покрыть принципом ортогональности Бострома. https://wiki.lesswrong.com/wiki/Orthogonality_thesis

Это всё чисто умозрительная философия. Принцип Висснер-Гросса имеет конкретное (и на самом деле довольно тривиальное) математическое выражение в терминах термодинамики и информатики и используется в работающей модели (программа "Энтропика").

То есть сильный ИИ может (и должен) максимально сжать свой зародыш по размеру, убрать все лишнее - пусть учится на месте.

Тем меньше значит в нём останется предзаданных алгоритмов и тем менее он будет отличим от неспецифического ИИ любого происхождения (собственно "сильный специфический ИИ" - явный оксюморон в соответствии с принципом Висснер-Гросса) - точно также как любой известный нам ЕИ.

[Проходящий Кот]

Однако возможна ситуация, когда даже такой свободный ИИ в силу неизвестных нам законов своего развития может стать в отдаленном будущим хозяином цивилизации согласно планам исходной цивилизации.
И если в исходном послании есть глубинный слой в духе "Андромеды" тогда-то и произойдет фактический захват или подключение к Технокосму ---- что в принципе одно и тоже....

[Сергей Михайлович]

И если в исходном послании есть глубинный слой в духе "Андромеды" тогда-то и произойдет фактический захват или подключение к Технокосму ---- что в принципе одно и тоже....

Вот объясните - захват чего и главное для чего?

[turchin]

Солнечной системы, с тем чтобы направить все ее ресусры на копирование и рассылку сообщения дальше

И если в исходном послании есть глубинный слой в духе "Андромеды" тогда-то и произойдет фактический захват или подключение к Технокосму ---- что в принципе одно и тоже....

Вот объясните - захват чего и главное для чего?

[Сергей Михайлович]

Ага. Всё-таки захват ресурсов. Я понимаю, каждый имеет право на свою точку зрения, но её, эту точку зрения, надо обосновывать.
 Итак, имеем гипотетический сверхразум, технологические возможности которого даже трудно представить. Главной своей целью считающий противодействие хаотизации вселенной и её тепловой смерти. Одновременно они испытывают жуткую нехватку вещества (энергии), для осуществления этой цели. И для этого им нужно подавлять (иначе это не назвать) другие очаги нарождающегося разума. Получается, что других источников ресурсов, кроме уже населённых планетных систем, нет. Я уже не говорю о том, что для них синтезировать любое количество нужного элемента не проблема, да и "бесхозных" источников энергии во вселенной навалом, гораздо более мощных, чем жёлтый карлик.
Вам не видится нелогичность и нерациональность этих выводов? Или я что-то не понимаю.
 Или seti-атака, или seti-помощь. Если это присутствует одновременно, то скорее всего это первое. Я лично считаю, что мы пока для них не представляем интереса. Слишком разные весовые категории. 

[Проходящий Кот]

Это ваше личное мнение.
Пацифизм в голове не преодолели.

[Rattus]

Итак, имеем гипотетический сверхразум, технологические возможности которого даже трудно представить. Главной своей целью считающий противодействие хаотизации вселенной и её тепловой смерти.

Сверхразум, в процессе своей эволюции как-то упустивший неравновесную термодинамику и понятие диссипативных систем - очень альтернативный разум.

Или я что-то не понимаю.

Термодинамики Вы не понимаете. А также сопряжённых с ними конкретных химии и ядерной физики. Впрочем, Вы тут неодиноки. Вас тут, возможно, даже большинство.

[turchin]

целей может быть много, но захват ресурсов важен в первую очередь если есть конкуренция с другим сверхразумом или желание предотвратить его появление или хотя бы вмешаться в предвыборную гонку в процесс определения его конечных целей.

Ага. Всё-таки захват ресурсов. Я понимаю, каждый имеет право на свою точку зрения, но её, эту точку зрения, надо обосновывать.
 Итак, имеем гипотетический сверхразум, технологические возможности которого даже трудно представить. Главной своей целью считающий противодействие хаотизации вселенной и её тепловой смерти. Одновременно они испытывают жуткую нехватку вещества (энергии), для осуществления этой цели. И для этого им нужно подавлять (иначе это не назвать) другие очаги нарождающегося разума. Получается, что других источников ресурсов, кроме уже населённых планетных систем, нет. Я уже не говорю о том, что для них синтезировать любое количество нужного элемента не проблема, да и "бесхозных" источников энергии во вселенной навалом, гораздо более мощных, чем жёлтый карлик.
Вам не видится нелогичность и нерациональность этих выводов? Или я что-то не понимаю.
 Или seti-атака, или seti-помощь. Если это присутствует одновременно, то скорее всего это первое. Я лично считаю, что мы пока для них не представляем интереса. Слишком разные весовые категории.

[Rattus]

целей может быть много, но захват ресурсов важен в первую очередь если есть конкуренция с другим сверхразумом или желание предотвратить его появление или хотя бы вмешаться в предвыборную гонку в процесс определения его конечных целей

Цели, кстати, вовсе не обязательны иные кроме биологических.
Простейший вирус или более сложный паразит убивает клетку или большого многоклеточного хозяина в абсолютном большинстве случаев не "для чего-то" (зачастую это ему даже вредит в перспективе), а "просто потому что может". Или не способен размножаться иначе.

[turchin]

Итак, выступил сегодня в астрономии о рисках программы SETI - то есть о рисках загрузки описания иноплнатетного ИИ, который затем захватит Землю и использует ее для дальнейшей ретрансляции. Успех: один человек понял примерно, о чем о говорю, и с некоторыми оговорками меня поддержал (Панов).

Собственно, я хотел поделиться наработками по теме за последний год, а именно моделью, которая связывает скорость межзвездных перелетов и плотность инопланетных цивилизаций во вселенной - с вероятность этой самой SETI атаки. До модели дело почти не дошло в обсуждении, все в основном вертелось вокруг очень общих вопросов, типа возможен ли искусственный интеллект, зачем им пытаться захватить вселенную.

Вопрос "зачем" всех очень волновал особенно. Задавал его и бывшей в зале Кардашев - тот самый, который цивилизации 3 типов придумал, а сейчас над проектом Радиоастрон работает.
Я пытался так и этак ответить, что цели могут быть разные.

Один ответ может быть: Если в космосе много разных цивилизаций, то у них будут случайно образом распределенные цели и некоторая часть захочет максимально стремиться к космической экспансии, так что вопрос о цели бессмыслен - это просто вопрос больших чисел.

Но меня этот ответ не удовлетворяет: я уверен, что большинство цивилизаций будут иметь экспансию в качестве одной из конвергнетных инструментальных целей, то есть в качестве универсального средства, которое подходит для многих разных задач.

Например, запуск спутников на орбиту - это средство для многих целей. Спутники запускают, чтобы исследовать Землю, чтоб сбивать вражеские ракеты, фотографировать дальний космос И так далее - то есть конечных целей очень много, а вот навык запуска спутников он один. При этом задвать вопрос “Зачем” - это вообще антропоморфизм.
То же касается и стремления максимально распространиться по вселенной территориально, что можно сделать либо с помощью SETI-атаки, либо с помощью рассылки зондов фон Неймана.Это средство, которое пригодно для нескольких рациональных целей, часть из которых мы можем придумать, но наверное большая часть пока вне пределов нашего воображения.

- Потенциальное противостояние с другими цивилизациями, либо устранение соперников и будущих угроз. Предовтращение опасных эксериментов, которые могут угрожать всей вселенной, как-то распад фальшивого вакуума в результате опытов на ускорителе.
- Исследование космоса
- Получение как можно больше вычислительных ресурсов под свой контроль - а чем больше звезд захвачено, тем больше можно сфер Дайсоа можно захватить.
- Объединение всей видимой вселенной под единым контролем, с тем, чтобы противостоять той или иной гибели вселенной, как-то Big Rip или сжатие
- Миссионерская деятельность - спасти туземцев - космический эффективный алтьтруизм.
- Инопланетный ИИ пал жертвой дурацкой команды его создателей, которые попросили его посчитать число Пи, например. До конца число пи никто не посчитает, нужна бесконечность ресурсов. Paperclip maximizer.
- Иррациональные конечные цели - может, просто жажда захвата пространства у них в крови. Или потребность в неограниченном размножении.

Разговор о рациональных целях экспансии в принципе имеет смысл, так как имеет смысл анализ целей внеземного разума, и попытка выявить наиболее вероятные цели. По моему мнению “военка” всегда будет сильной инструментальной целью.

[shammy]

Пока мы на нашей Планете не замутим коммунизм, ни "SETI", ни какая бы то ни было другая, уважаемая некоторыми, коллаборация ничего не услышит и не увидит, ибо "цивилизация", вмешивающаяся в естественный натуральный отбор, никому не нужна и потенциально опасна. Пока род люди не осознает, что разрез глаз, цвет кожи, сексуальная ориентация, etc... Никакой роли вобщем-то не играет. Пока богатый 1 процент населения Планеты будет проценты выставлять остальной части, ничего не получится. Инопланетяне нас боятся, им страшно смотреть на айран амбар, освящение Питерского водопровода... и прочие гомеопатические аптеки Поэтому, "SETI" и другие проекты обречены на провал и просто лакуна в бюджетах исследователей.

[Сергей Михайлович]

Ссылка на видео семинара, записанного Иваном Кондратьевым:
 https://youtu.be/dOri-2wo1Os

[Проходящий Кот]

Нормальный доклад.
И обсуждение.
Если бы не влезли боговер Гиндилис и сверхсветовичка.

[turchin]

Обсуждение бога продолжилось и после семинара - я сказал, что даже в религии есть вирусы, только их зовут бесами. То есть в любой информационной среде могут распространяться вирусы.

[Rattus]

я сказал, что даже в религии есть вирусы, только их зовут бесами

Скорее это мемы по своим признакам сильно напоминают бесов из религий. А универсального определения вируса не существует в принципе - точно также как неразрешима проблема остановки машины Тьюринга или непротиворечивость/полнота формальных систем по Гёделю.
Поэтому у меметики возникают некторые проблемы с фальсифицируемостью.

[Сергей Михайлович]

В принципе я не ожидал от доклада ничего принципиально нового, отличного от предварительной дискуссии. Главное состоит в том, что докладчик не отвечает на вопрос, почему инопланетяне должны обязательно нас подавлять в своём развитии, вплоть до уничтожения. Рассматриваются лишь ничем не подкрепленные расчеты, каким образом мы будем подвергнуты атаке. Атаке мы будем подвергнуты обязательно.  Ответу на вопрос зачем, автор уделил целый 1 (один) слайд и 50 сек. времени. Смысл слайда в том, что если мы вдруг осознаем, что погибнем в 99% (?) случаях по внутренним причинам, тогда нам стоит подвергнуться атаке, вероятность погибнуть из-за которой 50% (?). В этом наверное видится спасение.
Несмотря на запредельную мировоззренческую  безысходность такого подхода, я понимаю - автор искренне верит во всё то, что декларирует.
 После лекции я задал вопрос Алексею: в чем он видит предназначение разума? 
 Чтобы не быть обвинённом в неправильной интерпретации, предлагаю ему ответить здесь.