Насколько SETI опасно?

[alex_semenov]

попробую изложить вкратце ваш убийственный довод, как я его понял:

Добрый ИИИ будет распространяться как наивными новрожденными цивилизациями, так и сверхцивилизациями, которые смогли его протестировать в фантомной реальности. В то время как злой ИИИ будет распротрнаняться только наивными цивилизациями, которые он поразил. в результате добрый ИИ будет распространяться быстрее.

Является ли это доказательсвто непробиваемым? нет. потому что возможны варианты:

Стоп. О вариантах отдельно. Главная идея моих возражений чуть тоньше.
Я хочу что бы мы ее усвоили.
Это база. Не хочется ее терять.
Главное, суть из всего выше мной написанного было сказана в конце.
Я прорисую эту мысль детальней:

************
Рассмотрим такую модель.
Пускай есть два вида цивилизаций. Слабые и сильные. Их в любой точке вселенной поровну.
Пускай есть две стратегии распространения ИИИ. Добрая и злая.
На сильной цивилизации злой ИИИ тормозит в N раза. На слабой в N раза бежит быстрей.
Добрый ИИИ по всем цивилизациям движется одинаково.
Какая из цивилизаций какая (сильная или слабая) ни один ИИИ не знает пока с ней не столкнется.
Так как  цивилизаций по условию поровну то в среднем злая стратегия не лучше доброй.
Мы построили  равновесную модель для доброй и злой стратегии.
Теперь сдвигая меняя, УТОЧНЯЯ правила игры, мы получим преобладание злой или добрых стратегий.
************

Это – главное. Все остальное - детали.
Все что можете сделать вы или я – сдвинуть в условиях подобной модели равновесие в ту или иную сторону.
Когда вы предложили модель эволюции ИИИ, вы изначально учитывали в этой модели только те факторы, которые способствуют злой стратегии и АБСОЛЮТНО игнорировали факторы, помогающие доброй стратегии. Имея такой нездоровый перекос НАЧАЛЬНЫХ условий,  у вас очень логично возник инфернальный мира.
Что меня просто обескураживало.
Я же в свою очередь нашел потерянные вами факторы и перетянул равновесие в сторону добра. То есть я вспомнил что есть сильные цивилизации (равновесие!) и сильных цивилизаций в 100 раз больше чем слабых (сдвиг!). Это сразу же поставило ваших паразитов на грань вымирания.
И даже, когда вы (то есть я) вывели хитрого паразита, мне понадобилось еще сильней сдвинуть равновесие в сторону добра чтобы извести и этот тип живности в нашей модели. Я вспомнил об эмуляции и придумал "карантин".
Но это все уже мелочи.
Я хочу чтобы вы поняли общую идею и вашу задачу как "адвоката дьявола".

Что бы вы конкретно не выдумывали, чтобы показать, что в мире преобладают паразиты (что SETI-атака очень опасна) вы должны:

1. Построить такую модель эволюции, в которой баланс сил был значительно перекошен в сторону злой стратегии распространения ИИ чем доброй.
2. Вы должны убедить нас, что эта ваша модель адекватна нашей реальной вселенной. То есть она не упускает всех важных деталей. Объективна. И баланс сил действительно не в нашу сторону.

Если я захочу доказать обратное. Что добрые стратегии имеют во вселенной преобладание, я должен выполнить те же два пункта, но для добрых стратегий.

Я не хочу что бы у кого-то возникло ощущение что я окончательно  доказал неизбежность победы добра над злом в случае распространения ИИИ. Просто я построил на пальцах простецкую модель с сильным сдвигом равновесия в сторону добра, которая в добавок и выглядит явно убедительней, чем ранее предложенная вами модель, где из-за банальной потери условий возник вопиющий сдвиг равновесия в сторону зла.

Но таково ли реальное положение дел?
Не знаю.

[alex_semenov]

А теперь возвращаемся к деталям.

Является ли это доказательсвто непробиваемым? нет. потому что возможны варианты:

Нет не является.
Если мы начнем уточнять модель, мы можем получить изменение баланса. То что вы ниже предлагаете как раз и есть попытка изменить баланс.
Конечно, моделей можно настроить каких угодно.
Но насколько они адекватны?
Это главный вопрос.

о) самый туппой вариант: сверхцивилизаций вообще нет, а есть только наивные цивилизации, поскольку атака столь эффективна (и столь древняя), что ни одна (или очень мало) сверхцивилизация не успела сформироваться.

Конечно. Тогда инфернальный сценарий неизбежен. Но вы сами верите в такую возможность? Все цивилизации недоразвитые кроме одной избранной, которая и породила волну ИИИ?
Хотя почему бы и нет?

а) возможно, что нет предельного уровня сверхцивилизации, и каждая цивилизация непрерывно (и мб экспонециально) развивается. тогда сверхцивилизация на уровне условно 2100 года бесконечнго глупее цивилизации на уровне 2200 года, а та в свою очередб глупее цивилизации на уровне 2300 года. как бы ни была умна цивилизация, возможна ещё более умная цивилизация, способная ее обхитрить

Но тогда, насколько я понял идею, мы получим равновесную картину. Злая и добрые стратегии в итоге окажутся равносильны.

б) например ( частный случай для  а)) может быть следующее. сверхцивилизация загружает некий ИИИ и тестирует его в имитации. он ведёт себя как ангел.  она его запускает в реале, он обнаруживает, что на самом деле находится в сверхцивилизации и съедает ее, так как он создан сверхсверх цивилизацией именно для атаки на сверхцивилизации. (У вернора винджа есть похожая борьба разных сверх ИИИ друг с другом в "Пламя над бездной".)

Кстати, я когда-то начал читать, но так и не дочитал... Не помню почему...
Надо закончит. Я оказывается не достиг понимания всей интриги!
Виндж - красавчеГ!
Обратите внимание. Вы тут ввязались уже в обсуждение тонкостей. Конечно же раз модель a) равновесна в ней у всякой стратегии есть шанс на эволюционный успех. И то что вы описали – частный случай борьбы силы против силы.

Но ваша задача сложней. Вы должны показать что зло преобладает. Здесь же равновесие, а значит неопределенность.
Я уже предвижу ваш ход. Вас устроит равновесие. 50% вероятности атаки (мы живем в жестоком мире где добра столько же сколько и зла!) вас устроит. Этого и так достаточно чтобы бить тревогу.
Верно?
Зачем вам строить инфернальную модель, доказывать ее адекватность, если можно довольствоваться "ничей", а задачу доказательство обратного свалить на оппонента.
Я же пока могу довольствоваться тем, что отбил у вас хотья бы пол мира.


О современной политике и мерах необходимых предосторожностей я опускаю.
Не моя парафия.

[Alex_P]

а чтобы не сделать этого, надо временно запретить seti, так как в нынешних политических услоовиях кто-нибудь объязательно последует по чертежам. (когда планета объединится и будет создан жёсткий всемирный контроль, то можно будет обеспечить то, что чертежи не утекут в интрнет или в руки недобросовестных государств)

 Лично если бы передо мной стоял выбор : или гибель цивилизации от действий злобного инопланетного ИИ, или будущее по turchinу, я бы крепко задумался.

[КотКот_]

а чтобы не сделать этого, надо временно запретить seti, так как в нынешних политических услоовиях кто-нибудь объязательно последует по чертежам. (когда планета объединится и будет создан жёсткий всемирный контроль, то можно будет обеспечить то, что чертежи не утекут в интрнет или в руки недобросовестных государств)

 Лично если бы передо мной стоял выбор : или гибель цивилизации от действий злобного инопланетного ИИ, или будущее по turchinу, я бы крепко задумался.

Получается лекарство горше болезни.......

[flying spagetti monster]

отвлечемся от мифических внеземных цивилизаций
и представим себе что истощением ресурсов галактики для "жизни" некоторого происхождения можно пренебречь
тогда та "жизнь" которая первой в этой галактике научится рассылать сама себя троянским способом, т.е. практически распространяться со скоростью света (перемещаться между звездами она тоже может - это хоть и надежнее, но намного медленне), станет доминирующей во всей галактике
эта "жизнь" будет распространяться либо в виде кода (пожирая другие зарождающиеся формы жизни, которые способны к анализу информации извне) либо распространяясь физически (занимая например необитаемые планеты и, мягко говоря, "терраформируя" обитаемые)

из этого следует пара выводов
1) многообразия разновидностей жизни (в смысле независимого происхождения) в галактике скорее всего не будет. это может быть решением парадокса ферми. "где они? - они просто еще нас не заметили"
2) в разных концах галактики исходная форма жизни может сильно изменяться под действием "мутаций" и в конечном итоге развалиться как вид на множество ветвей

[ivanij]

эта "жизнь" будет распространяться либо в виде кода (пожирая другие зарождающиеся формы жизни, которые способны к анализу информации извне)

 Не вполне ясен всё-таки возможный механизм такого пожирания. В противном случае это может рассматриваться лишь в качестве фантастических предположений.

[Kosmogen]

А не должна же!
Так, где в ней тогда ошибка?!!

Ну, круто вы тут с Турчиным замесили!
А ошибка в том, что вы рассматриваете атакующий нас разум всего лишь как сверхбыстродействующую, но  совершенно безмозглую и тупую вычислительную  машину.

А давайте допустим, что инопланетный разум обладает сопереживанием и состраданием к иным разумным существам ( так как люди в общем то в среднем относятся к братьям своим меньшим, собакам), и все ваши умопостроения об опасности летят ... к черту. 

[КотКот_]

А не должна же!
Так, где в ней тогда ошибка?!!

Ну, круто вы тут с Турчиным замесили!
А ошибка в том, что вы рассматриваете атакующий нас разум всего лишь как сверхбыстродействующую, но  совершенно безмозглую и тупую вычислительную  машину.

А давайте допустим, что инопланетный разум обладает сопереживанием и состраданием к иным разумным существам ( так как люди в общем то в среднем относятся к братьям своим меньшим, собакам), и все ваши умопостроения об опасности летят ... к черту. 

Вот об этом и речь.....

[Uselink]

Отменный флуд... Это старая проблема. Можете почитать классику фантастики 60-80 годов. Вы хотите ПРЕДСТАВЛЯТЬ что-то, не имея об этом ни малейшего ПРЕДСТАВЛЕНИЯ и строя посылки и доводы, исходя из человеческой природы.
Если сверх-цивилизация чего-то захочет получить или взять, вы даже не узнаете об этом, а кроме того будете ещё и очень рады тому, что всё так произошло. Но даже этот довод можно считать ошибочным, пока реально не произошло ни одной встречи с сверх-цивилизацией. А брать аргументацию и примеры из американских боевиков  - это, мягко говоря, невежественно. А так это похоже на уравнение вида x+y+z+f+d+c+r+...+n=p, где все слагаемые неизвестны.

[Kosmogen]

Отменный флуд... Это старая проблема. Можете почитать классику фантастики 60-80 годов.

Кое-что читали-с, в курсе. В том числе сборник рассказов С.Лема "Формула Лимфатера" 

А так это похоже на уравнение вида x+y+z+f+d+c+r+...+n=p, где все слагаемые неизвестны.

Нет, закон усложнения материи, от атомов к хим.соединениям,  от неорганических минералов к органических, от одно- к многоклеточным и от неразумных существ к разумным  - есть  универсальный вселенский закон, производный от одинаково действующих повсюду физических законов. Для эволюции сложных живых характерно тяготение к устойчивым состояниям, оптимизация и поиск наилучшей стратегии выживания. Чем более развит разум тем сильнее в его действиях должно быть стремление к сотрудничеству и обмену опытом, к любви, наконец. Это не учитывается в рассматриваемой стратегии, что есть  ошибочно.   

[Uselink]

Нееее Снова попытка "очеловечить" принципы развития Вселенной. Есть реальное доказательство и описание принципов восприятия Вселенной другим разумным или сверх-разумным существом или группой существ? Вспомните
"Солярис" С. Лема и дискуссии по его душу  А общие базисные принципы ЧЕЛОВЕЧЕСТВА останутся таковыми и свойственными лишь одному ему, пока не найдётся подтверждение в постижении миропонимания иной цивилизации или сверх-цивилизации. Кроме прочего, есть горизонт познания. То что вчера было неизвестно, сегодня уже вчерашний день.
Потому две цивилизации с разными горизонтами скорее всего будут по-разному относиться к окружающему миру.
Прямо какой-то трансцендентализм....

[bob]

Здесь интересные наблюдения проведены в 1947 году американским генералом Маршаллом.

Данные Маршалла просто показывают, что его солдаты - не идиоты. Воевать им влом, убивать - тем более. Помимо статистики обращения в санчасть с обмороженным пальцем и "отнявшейся" правой рукой, он бы ещё собрал данные по самострелу в мягкие ткани пятой точки при начале боя. Вот это была бы просто песня.

[Kosmogen]

Потому две цивилизации с разными горизонтами скорее всего будут по-разному относиться к окружающему миру.

А с  какой такой стати, если окружающий мир один и тот же  Большой горизонт вселенной один для всех.  На земле разные, порой изолированные, народы создавали во многом схожие социальные структуры и изобретали велосипеды. Да, культуры в чем то разные, но не принципиально. Тем боле как только цивилизация становится космической, ей придется решать одни и теже технические задачи. А они в жизни будут превалировать. Такшто...
 

[КотКот_]

Потому две цивилизации с разными горизонтами скорее всего будут по-разному относиться к окружающему миру.

А с  какой такой стати, если окружающий мир один и тот же  Большой горизонт вселенной один для всех.  На земле разные, порой изолированные, народы создавали во многом схожие социальные структуры и изобретали велосипеды. Да, культуры в чем то разные, но не принципиально. Тем боле как только цивилизация становится космической, ей придется решать одни и теже технические задачи. А они в жизни будут превалировать. Такшто...
 

Все движется к точке Омега...

[Kosmogen]

Все движется к точке Омега...

Омега точка - это вроде бы как конец всему. Всё, мол, граждане, приехали, дальше рельсов нет. Шарден считал, что это будет слияние с богом . Но что будет потом он думать не захотел. Что, спрашивается, если бог всё это на самом деле вытворяет, то он на этом успокоится? Нет уж, господа верующие, вы же сами говорите, что пути господни неисповедимы. Очевидно, что этот переход должен быть той же ступенькой в бесконечном числе ступенек, что показывал нам здесь раньше Семенов для  метапереходов эволюции жизни. И тогда путь к технологической сингулярности надо признать тоже бесконечным, если мы не будем опрометчиво считать, что этот конец пути. Пока нет на то оснований.
 

[Uselink]

Потому две цивилизации с разными горизонтами скорее всего будут по-разному относиться к окружающему миру.

А с  какой такой стати, если окружающий мир один и тот же  Большой горизонт вселенной один для всех.  На земле разные, порой изолированные, народы создавали во многом схожие социальные структуры и изобретали велосипеды. Да, культуры в чем то разные, но не принципиально. Тем боле как только цивилизация становится космической, ей придется решать одни и теже технические задачи. А они в жизни будут превалировать. Такшто...

Ну понимание мира не случается в одночасье, это процесс исторический, на разнаых стадиях понимание законов и устройства Вселенной будет совершенно разным. Вот Вам типичный пример: космологическая модель Аристотеля и Коперника. И элементы одни, и вроде бы движение есть, а общий смысл теорий просто в корне отличен, что в свою очередь вело к абсолютно разным результатам.
Схожие социальные структуры и культуры в пример приводить не уместно, так как они все представители человечества.
Как только цивилизация станет космической в глобальном смысле, тогда и посмотрим, какие задачи ей придётя решать, а пока мы можем о них лишь теоретически рассуждать. Так што  Не меряйте всё человеческими мерками. Обращаясь к теме поста, можно сделать заключение,
что вера в опасность SETI, это лишь человеческая фобия, как раньше в древности люди гадали о природе молнии и грома, называя их божественным гневом, гневом духов и т.д.

[flying spagetti monster]

эта "жизнь" будет распространяться либо в виде кода (пожирая другие зарождающиеся формы жизни, которые способны к анализу информации извне)

 Не вполне ясен всё-таки возможный механизм такого пожирания. В противном случае это может рассматриваться лишь в качестве фантастических предположений.

конкуренция (из-за ресурсов), паразитизм, хищничество
это же просто
кстати похожая на нас жизнь окажется на нашей же биосферной нише. поэтому ресурсы мы будем использовать одни и те же. поэтому конфликт неизбежен. либо мы их либо они нас

[flying spagetti monster]

А давайте допустим, что инопланетный разум обладает сопереживанием и состраданием к иным разумным существам ( так как люди в общем то в среднем относятся к братьям своим меньшим, собакам), и все ваши умопостроения об опасности летят ... к черту. 

1) я бы посоветовал не употреблять термины "разум", "сопереживание", "сострадание". это глупо. вы просто обсмотрелись дешевой фантастики и носите розовые очки. инопланетяне не прилетят в образе матери терезы
2) люди плохо относятся к братьям своим меньшим. их просто вытеснили, сожрали и истребили. оставшихся посадили в загоны, а из некоторых сделали плюшевых домашних игрушек

[flying spagetti monster]

Нееее Снова попытка "очеловечить" принципы развития Вселенной. Есть реальное доказательство и описание принципов восприятия Вселенной другим разумным или сверх-разумным существом или группой существ? Вспомните
"Солярис" С. Лема и дискуссии по его душу....

+1
почему то многие до сих пор не могут осмыслить "солярис"

[flying spagetti monster]

Большой горизонт вселенной один для всех...

ну это тоже придумано людьми и вовсе не факт. так что в качестве отправной точки для рассуждений не подходит