Семинары и международные симпозиумы НКЦ SETI

[turchin]

В презентации, ссылку на которую я дал выше, это подробно разобрано - как передавать картинки с помощью двоичного кода, как затем передавать обозначения транзисторов и логических элементов с помощью рисунков, которые сопоставляют изображение прибора и его обозначение. И когда язык электротехники объяснен, становится понятна и схема компьюетра. И затем программа для него.

для успешной атаки им нужно прислать не только программу, но и электрическую схему простого компьютера, на котором эта программа может работать. Вопрос о схеме этого компьютера я подробно разбирал, ничего трудного в пересылке простой схемы нет.

Ага, конечно, нет. Вот вам пара чертежей микросхем:


А теперь попробуйте представить себе, что они оказались перед существом, которое даже не подозревает о существовании латиницы. Много оно поймет в условных обозначениях, которыми отмечены элементы?

[turchin]

Угроза в том, что это программа будет искусственным интеллектом, то есть обладать выской способностью к самообучению. И иметь цель заставить нас ее рассылать дальше.

Память сознания - неправильный перевод обратно на русский, на самом деле имеется в виду -декларативная память, которая может быть сознательным образом извлечена - грубо говоря объем ваших воспоминаний. У среднего человека он составляет как раз гигабайты в лучшем случае. Петабайты в синапсах - это результаты обучения нейронной сети в ходе жизни, пересылать их не нужно, ИИ заново обучиться на земле, как ребенок, который с петабайтами не рождается.

Схема простого компьютера нужна только на стадии загрузки, и паять ее не нужно. То есть простой копмьюетр можно эмулировать внутри любогт другого быстрого компьюетра.

И программа, которая будет на нем, только объяснит, как сделать компьютер достаточной сложности, чтобы запустить на нем полноценный инопланетный ИИ.

"Слайд 32: Если бы распространение заразы шло в виде цепной реакции с коэффициентом хотя бы 1,5"

Все зависит от плотности цивилизаций во вселенной. SETI атака возможна только если она мала, примерно одна цивилизация на 100 млн световых лет. Мы просто не научились смотреть так далеко, а долететь физически с такого расстояния сложно. При этом при средней дистанции в 100 млн световых лет вполне может пройти 50 циклов заражений за предыдущие 5 млрд лет, то есть некий довольно мощный естественный отбор на наиболее эффективную SETI атаку.

Вопрос о схеме этого компьютера я подробно разбирал, ничего трудного в пересылке простой схемы нет. Это устраняет проблемы с компьютерной несовместимостью.

Ну ОК - программу Вы на этом «Байт-01» запустите. Из дисплея инопланетянин скорчит очень страшную рожу. Какая в этом факте заключена экзистенциальная угроза цивилизации?

вот здесь есть моя прошлая презентация на тему: http://www.slideshare.net/humanityplus/seti-risks-alexey-turchin?qid=7c00c3a3-9c6c-4fdb-8409-59400dede497&v=&b=&from_search=1

Замечательно. Проведём работу над ошибками и неактуальными данными:
Слайд 11: "Память сознания - 2,5 GB" Во-первых нет такого термина как "память сознания", а вся память, которую можно учесть в синапсах головного мозга составляет как минимум петабайт.
А размер человечьего генома можете и до обычного сидюка (700MB) спокойно сократить (1п.о.=2бита=0,25байт. 3Гп.о./4=750MB минус как минимум 50MB на генетический мусор даже по самым строгим оценкам) - так даже нагляднее.
Слайд 12: Совершенно голословные утверждения. Уже из вышеприведённой поправки становится совершенно ясно, что никакого сильного ИИ на любом даже современного уровня десктопе или отдельном сервере запустить не удастся. Не говоря уже о спаянных на коленке схемах из набора "Амперка" и журнала "Юный Радиолюбитель". Эти домыслы настолько далеки от реальных технологий ИИ, что ладонь сама к лицу тянется.
Дальше - известные вещи, ничего нового.
Слайд 22: "Галактический Интернет" с лагом в годы и пропускной способностью, достаточной только для текстов и картинок низкого разрешения - это Галактический Юзнет в самом лучшем случае. Остальное - сказки 1001 ночи.
Слайд 31: ошибка в слове "ресурсы" - c вместо s.
Слайд 32: Если бы распространение заразы шло в виде цепной реакции с коэффициентом хотя бы 1,5 - мы бы уже давно получили копию её кода и не из одного места - пардокс Ферми никто не отменял.
Слайд 36: Ну хоть какие-то основания для взятых значений?

[HellPhoenix]

В презентации, ссылку на которую я дал выше, это подробно разобрано - как передавать картинки с помощью двоичного кода,

Боюсь, что двоичный код этот будет понятен только самим отправителям. Еще раз повторюсь, что информация - весьма субъективное явление. А двоичный код вообще-то - это просто числа, записанные нулями и единицами.

как затем передавать обозначения транзисторов и логических элементов с помощью рисунков, которые сопоставляют изображение прибора и его обозначение.

Угу. И как вы дадите понять неведомым получателям, что вот здесь у вас транзистор, а здесь сопротивление? Учтите к тому же, что у получателей и отправителей, может быть по разному устроено зрение.

И затем программа для него.

Картина маслом:
- Эй, Чак! Тут в программе написано: "Убить всех человеков"!
- Похрен, Джо! Компилируй и запускай на исполнение!

[HellPhoenix]

Схема простого компьютера нужна только на стадии загрузки, и паять ее не нужно. То есть простой копмьюетр можно эмулировать внутри любогт другого быстрого компьюетра.

Звиздец. То есть, на Земле еще и должен откуда-то взяться эмулятор инопланетного "простого" компьютера.

[turchin]

Предполагается , что в коммуникации данного типа участвуют близкие по типу технологические цивилизации, а Солярисы отдыхают. Мы, исходя из принципа посредственности,  - типичная цивилизация, так что есть еще много таких.
Те, кто способен построить радиотелескоп, точно знают, что такое сопротивление, кондесатор и катушка индуктивности.
В приннципе, есть всего несколько типов базовых электродеталей с двумя выходами, и если кому-то попадет в руки схема телевизора, то по расположению деталей, он поймет, где резисторы, где катушки итд.
А передать можно с помощью фотографий деталей, например, в разрезе - тут уже понятно, где катушка, где диод, где резистор.

[HellPhoenix]

Те, кто способен построить радиотелескоп, точно знают, что такое сопротивление, кондесатор и катушка индуктивности.

Ага. Но как вы им объясните что именно вот этот элемент - катушка, а этот - конденсатор?

А передать можно с помощью фотографий деталей,

А теперь представьте себе, что инопланетяне видят в другой части ЭМ-спектра. Или, глаза у них не главный сенсор.

[Rattus]

Если удастся придумать способ передавать хотя бы гигабайт данных на галактическое расстояние. Для отправителя сверхицивилизации - это не проблема, если он может всю свою галактику покрыть сферами дайсона и либо рисунки из них рисовать, чтобы привлечь наше внимание, либо мигать ими. Из чего следует, что наибольшие шансы наткнуться на SETI атаку - у межгалактической астрономии, а не у традиционного радио SETI

В соседней галактике даже просто отдельные звёзды различить не удаётся - чего уж говорить о "сферах дайсона", которые вокруг ярких звёзд строить нет никакого смысла в принципе, ибо звезда раньше лопнет, чем окупит затраты на строительство особенно гигантского в диаметре сооружения (из-за той же самой яркости звезды, которая поплавит любую недостаточно удалённую сложную конструкцию).

Передача "гигабайта данных на межгалактическое расстояние" либо уже должна была состояться (по той же самой причине - галактик на небе по порядку величины столько же, что и звёзд в большой галактике - ~триллион. В сфере 1000 млн св. лет - не так уж сильно меньше, но скорость тут - уже 1с) и что уже должно было случиться при жизни Шкловского, либо таки невозможна в принципе, а т.н."сверхцивилизации" трансгалактического масштаба - по сути своей псевдорелигиозная концепция, не имеющего сейчас никакого научного бэкграунда.

Мы просто не научились смотреть так далеко

А откуда уверенность, что это вообще возможно?
С другой стороны - если Вы, как трансгуманист, являетесь технооптимистом, то вероятность появления собственного сильного ИИ здесь у нас для Вас должна быть куда выше. Собственно даже в этом веке. Оснований на это рассчитывать - куда больше, чем углядеть сигнал(!) из далёкой(!!) галактики.
Прогресс "брони" оказывается элементарно на многие порядки быстрее полёта "снаряда".

на самом деле имеется в виду -декларативная память, которая может быть сознательным образом извлечена - грубо говоря объем ваших воспоминаний. У среднего человека он составляет как раз гигабайты в лучшем случае.

Вот только история многих творческих озарений и открытий, да и просто попытки автоматизации ряда самых обычных человеческих работ типа уборщицы, показывает, что эти декларативные гигабайты - вершина айсберга, каким является полноценный интеллект хотя бы человечьего уровня (да даже и вообще гоминидного).

ИИ заново обучиться на земле

И будет вполне земным ИИ по результату такого обучения с привитыми ему тут ценностями.

И программа, которая будет на нем, только объяснит, как сделать компьютер достаточной сложности, чтобы запустить на нем полноценный инопланетный ИИ.

Вы с теорией информации вообще знакомы? Как её энтропия по Шеннону или сложность по Колмогорову считаются, в курсе? Как работают архиваторы и каковы пределы сжатия информации? Если да, то каким образом там вся эта схема "большого ИИ" разместится?

А теперь представьте себе, что инопланетяне видят в другой части ЭМ-спектра.

Так там же не цвет передаётся! А трансформатор - он и в ближнем ИК и в УФ - трансформатор. Ионизирующее излучение (короткий УФ и далее) живым организмам не доступны в принципе, а тепловое ИК и прочее радио - слишком размазанное, чтобы позволить осуществлять точные мманипуляции с объектами.

Или, глаза у них не главный сенсор.

Даже эхолокацией должно быть видно примерно то же самое. А без дистантного способа восприятия достаточного разрешения цивилизация не появится. Способ такой может быть только лучевой, описываемый элементарной и геометрически-универсальной оптикой.

[turchin]

Конденсатор, катушка и резистор очень отличаются внешне, так что шлем фотки.
Не важно, в каком спектре они видят, главное, чтобы понимали двухмерные изображения (точнее, ожидали, что мы их поймем), и от спектра это не зависит. Глаза воникали в ходе эволюции 7 раз более менее независимо. А если цивилизаций много, то найдется такая , где все будет почти как у нас. Солярисы в этой игре не участвуют.

Те, кто способен построить радиотелескоп, точно знают, что такое сопротивление, кондесатор и катушка индуктивности.

Ага. Но как вы им объясните что именно вот этот элемент - катушка, а этот - конденсатор?

А передать можно с помощью фотографий деталей,

А теперь представьте себе, что инопланетяне видят в другой части ЭМ-спектра. Или, глаза у них не главный сенсор.

[Rattus]

Солярисы в этой игре не участвуют.

К слову о "солярисах" - они мало того, что возможны, так ещё и являются обязательной фазой существования простой жизни. Имеется ввиду единый биосферный вирусно-прокариотический пангеном. А его "мыслефигуры" на поверхности - ничто иное как репродуктивно-изолирующиеся виды эукариот.
Не впечатляет? Ну тогда учите биологию, чтобы впечатляло. Прочее же - сказки.

[turchin]

Сейчас не удается отличить отдельные звезды, но если мы найдем некий явно искусственный маяк, то потратимся на космический телескоп с аппертурой в 100 метров, и все различим. Далее, про яркие звезды - надо брать менее яркие и более живучие. при этом каждая сфера дайсона условно говоря кодирует только один бит, а все послание состоит из одного огромного рисунка из миллиардов звезд (да, я знаю, что звезды движутся, но наверное это можно компенсировать неким алгоритмом, и я не сверхцивилищаиця, чтобы продумать все детали). Можно и без сфер дайсона - подсыпаем редкий метал в корону звезды, она меняет линию в спектре - и это видно довольно далеко.

Дальше внизу мои ответы выделил ++++ ...++++, так как трехуровневое цитирование не работает. 

Если удастся придумать способ передавать хотя бы гигабайт данных на галактическое расстояние. Для отправителя сверхицивилизации - это не проблема, если он может всю свою галактику покрыть сферами дайсона и либо рисунки из них рисовать, чтобы привлечь наше внимание, либо мигать ими. Из чего следует, что наибольшие шансы наткнуться на SETI атаку - у межгалактической астрономии, а не у традиционного радио SETI

В соседней галактике даже просто отдельные звёзды различить не удаётся - чего уж говорить о "сферах дайсона", которые вокруг ярких звёзд строить нет никакого смысла в принципе, ибо звезда раньше лопнет, чем окупит затраты на строительство особенно гигантского в диаметре сооружения (из-за той же самой яркости звезды, которая поплавит любую недостаточно удалённую сложную конструкцию).

++++Тут не понятно - она бы уже произошла, если бы бы знали на что смотреть и какими инструментами. В ближайших галактиках цивилизаций 3го уровня по кардашову не видно.

Передача "гигабайта данных на межгалактическое расстояние" либо уже должна была состояться (по той же самой причине - галактик на небе по порядку величины столько же, что и звёзд в большой галактике - ~триллион. В сфере 1000 млн св. лет - не так уж сильно меньше, но скорость тут - уже 1с) и что уже должно было случиться при жизни Шкловского, либо таки невозможна в принципе, а т.н."сверхцивилизации" трансгалактического масштаба - по сути своей псевдорелигиозная концепция, не имеющего сейчас никакого научного бэкграунда.

Тут все упирается в наличие зазора, когда у нас уже есть сильные инструменты для наблюдения звездного неба, но еще нет своего сильного ИИ, чтобы обезопасисться от враждебного. Зазор этот недолог - несколько десятилетий максимум, так что может иметь смысл вообще отложить попытки поиска внеземных цивилизаций, пока мы свой ИИ не создадим. А снаряд он уже отправлен еще до нашего рождения миллионы лет назад, и продолжает направляться в виде потока сигналов - как одуванчик свои семена рассылает. ++++

Мы просто не научились смотреть так далеко

А откуда уверенность, что это вообще возможно?
С другой стороны - если Вы, как трансгуманист, являетесь технооптимистом, то вероятность появления собственного сильного ИИ здесь у нас для Вас должна быть куда выше. Собственно даже в этом веке. Оснований на это рассчитывать - куда больше, чем углядеть сигнал(!) из далёкой(!!) галактики.
Прогресс "брони" оказывается элементарно на многие порядки быстрее полёта "снаряда".

на самом деле имеется в виду -декларативная память, которая может быть сознательным образом извлечена - грубо говоря объем ваших воспоминаний. У среднего человека он составляет как раз гигабайты в лучшем случае.

Вот только история многих творческих озарений и открытий, да и просто попытки автоматизации ряда самых обычных человеческих работ типа уборщицы, показывает, что эти декларативные гигабайты - вершина айсберга, каким является полноценный интеллект хотя бы человечьего уровня (да даже и вообще гоминидного).

ИИ заново обучиться на земле

И будет вполне земным ИИ по результату такого обучения с привитыми ему тут ценностями.

И программа, которая будет на нем, только объяснит, как сделать компьютер достаточной сложности, чтобы запустить на нем полноценный инопланетный ИИ.

Вы с теорией информации вообще знакомы? Как её энтропия по Шеннону или сложность по Колмогорову считаются, в курсе? Как работают архиваторы и каковы пределы сжатия информации? Если да, то каким образом там вся эта схема "большого ИИ" разместится?

++++Тут энтропия не причем. Есть маленький компьютер, и маленькая программа для него, которая почти не обладает ИИ и которая нужна, только чтобы нарисовать схему большого компьюетра, на котором будет работать уже другая программа, тоже загруженная в  этом сообщении. То есть первая программа и маленький компьютер, - они как программа загрузчик работают. Уже у Хойла это было в сюжете романа "Андромеда" Сначала построили инопланетный компьютер и ИИ в нем был довольно примтивный, но он попросил ДНК человека и вырастил на его основе девушку мутатнта, и в нее подзагрузил кое-что еще. И она уже была суперумной. Я думаю, что весь сюжет с девушкой - это для красоты сюжета, а вот идея двухуровневого компьюетра правильная, так как сразу Креэй по инопланетным чертежам не построить. Нужен помощник.++++

А теперь представьте себе, что инопланетяне видят в другой части ЭМ-спектра.

Так там же не цвет передаётся! А трансформатор - он и в ближнем ИК и в УФ - трансформатор. Ионизирующее излучение (короткий УФ и далее) живым организмам не доступны в принципе, а тепловое ИК и прочее радио - слишком размазанное, чтобы позволить осуществлять точные мманипуляции с объектами.

Или, глаза у них не главный сенсор.

Даже эхолокацией должно быть видно примерно то же самое. А без дистантного способа восприятия достаточного разрешения цивилизация не появится. Способ такой может быть только лучевой, описываемый элементарной и геометрически-универсальной оптикой.

[Rattus]

но если мы найдем некий явно искусственный маяк

Какой мощности должен быть этот "маяк" и с чего Вы взяли что он технически возможен?

то потратимся на космический телескоп с аппертурой в 100 метров, и все различим.

В галактике за стомильонов св.лет??

Далее, про яркие звезды - надо брать менее яркие и более живучие.

И совсем уже незаметные на общем фоне. Тут в своей-то галактике красных карликов посчитать и то - проблема...

и я не сверхцивилищаиця, чтобы продумать все детали

Deus ex machina - это совсем уже несолидно - даже для нормальной схоластики.

подсыпаем редкий метал в корону звезды, она меняет линию в спектре - и это видно довольно далеко.

Сколько надо такого металла, как далеко его будет видно и можно ли в принципе его столько добыть в звёздной системе?

[turchin]

Предположим, что сверхиивилизация имеет две способности - создвать зонды фон неймана , летающие со скоростью 0.1 с, и создавать сферы дайсона. Это вполне консервативное предположение о сверхицивилизации. Свою галактику они освоят за миллион лет. Допустим, им трудно лететь к другим галактикам, так что они используют сферы дайсона, чтобы как-то посылать сигналы из нее.

Тогда маяком будет некий простой геометрический рисунок, изобржаенный с помощью затемненеия огромного числа самых ярких звезд. Это не единственный способ создать маяк, можно сверхновые почасще взрывать редкого типа, или некие радиовсплески утраивать. Если галактика видна в профиль, то статический рисунок по ее поверхности будет иметь довольно большие уголовые размеры и будет виден на миллиарды световых лет, если смотреть перпендикуляно плоскости галактики. Это может быть выглядеть во так:



или вот так, как сейчас делают вечный диск, с микрошрифтом и указателем, что это микрошрифт с помощью уменьшающегося макрошрифта


Метелла нужно гораздо меньше, чем строить сферу дайсона, может быть сотни тысяч тонн на звезду. Но для маяка нужно будет более заметные характерыне измненеия яркости, так что в маяке или сферы дайсона, или их упрощенные аналоги.

[Rattus]

Зазор этот недолог - несколько десятилетий максимум, так что может иметь смысл вообще отложить попытки поиска внеземных цивилизаций, пока мы свой ИИ не создадим.

Золотые слова! Только по совсем иной причине. Вы понимаете, что десятки лет - это ничто в астрономическом масштабе? А если цивилизации настолько редки что встречаются не чаще чем раз на сто миллионов светолет, то "инфицирование" им таким образом не светит "от слова сов7".
Ну стоит ли тогда вообще говорить об этом сказочном сценарии?

можно сверхновые почасще взрывать редкого типа

Вы понимаете, что это невозможно чисто физически?

Если галактика видна в профиль, то статический рисунок по ее поверхности будет иметь довольно большие уголовые размеры и будет виден на миллиарды световых лет, если смотреть перпендикуляно плоскости галактики. Это может быть выглядеть вот так

Ну и что же тогда этого ещё никто не увидел до сих пор? Астрономы мало галактик разглядывали за прошедший век?

То есть первая программа и маленький компьютер, - они как программа загрузчик работают.

Т.е. фактически вы предлагаете использовать принцип самоорганизации в качестве деархиватора как это делает наша жизнь для онтогенеза. Это сработает только в том случае, если механизмы самоорганизации такого уровня вообще существуют в природе. На что тоже нет никаких указаний.
Природа же в эволюции интеллекта же демонстрирует ровно обратное: чем более сложен автомат, тем меньше в нём жёстких скриптов. У гоминид например вообще инстинктов практически нет или они очень примитивны. Хуже того - согласно формуле Висснер-Гросса, свобода (широта контролируемых параметров) имманентна интеллекту. Просто по определению практически. Поэтому любое ограничение интеллекта (в виде прописи в нём жестких скриптов) снижает его эффективность как интеллекта.

Предположим, что сверхицивилизация имеет две способности - создвать зонды фон неймана , летающие со скоростью 0.1 с, и создавать сферы дайсона. Это вполне консервативное предположение о сверхицивилизации.

И физически малореальное. Скорость скорее всего должна быть ещё на порядок меньше как минимум вследствие непомерных энергозатрат и начинающихся серьёзных проблем с межзвёздной средой, "зонды фон-Неймана" без биологических компонентов скорее всего невозможны по чисто химическим и термодинамическим причинам.

[turchin]

Конечно, я представляю, что зазор маленький. Но если сигнал идет все время, то даже маломальского зазора достаточно. Представьте что бандит стоит под дверью всю ночь, и утром вы ее приоткрыли на полсекунды - и тут он уже свою ногу в щель вставил.

Первая программа для маленького компьютера никакого отношения к самооргнаизации в природе не имеет, она по сути нечто вроде управляющей программы для принтера, который рисует чертеж полноценного компьютера и выполняет еще несколько жестко запрограммированных технических функций, типа дает стандартные ответы на стандартные вопросы, например "Друзья! мы сейчас подключим вас к галактическому интернету! Просто соберите устройство по чертежу, который я сейчас распечатаю и поясню".

Чем меньше скорость зондов фон Неймана, тем вероятнее, что цивилизация захочет отправлять сигналы, чтобы самораспространяться. Но тогда ей нужен получатель на другой стороне, которого надо как-то убедить построить нужные механизмы.

[turchin]

В целом моя идея превратить все возражения против SETI атаки в некие условия, которые показывают, когда она возможна:
например, если цивилизации находятся плотно и звездолеты быстры, то атака бессмыслена - они раньше прилетят.
Если размер ИИ программы больше петабайта - тоже атака невозможна, такой объем не передашь

[Сергей Михайлович]

Алексей, а на мой вопрос будет ответ?

[turchin]

Алексей, а на мой вопрос будет ответ?

Я не вижу от вас вопроса на последних двух страницах форума, можете пожалуйста его напомнить? там было утверждение про альтруизм, но это не вопрос.

[Сергей Михайлович]

Хорошо.  Почему вы называете seti-атакой то, чему стоит поддаться (предполагается польза от этого). Ведь атакой называются враждебные действия.

[turchin]

Исторически так сложилось - я сначала понял риск, а потом увидел, что может быть и польза, но польза это возникает только при одном неприятном условии, которое, собственно, оправдывает сохранение названия SETI-attack.

Это условие состоит в том, что если мы узнаем, что нас шанс погибнуть составляет 99 из 100, а шанс того, что SETI атака нас прикончит  - только 50 на 50, то есть смысл ей поддаться. Но это выбор из двух зол, и самое главное здесь неопределенность - никто не может эти шансы посчитать точно, а некоторые могут очень неправильно посчитать и предпринять радикальные действия на основе неправильных вычислений.

Иначе говоря, если 100 "радиолюбителей" загрузят инопланетный код, то один из них может запустить его, потому что он уверен, что человечество все равно обречено.

[Сергей Михайлович]

"Это условие состоит в том, что если мы узнаем, что нас шанс погибнуть составляет 99 из 100, а шанс того, что SETI атака нас прикончит  - только 50 на 50, то есть смысл ей поддаться."
Изящный ответ. Принято.
Но я всё-таки хочу вернуться к главному. Сверхразум, если он видит свою задачу в противодействии энтропии, зачем ему это навязывать (через распространение себя) другим, вполне вероятно, таким же развитым разумам. Или вы считаете, что какую-либо доктрину можно навязать?