Насколько SETI опасно?

[Кнеч]

Добавил к теме голосание: почему, по вашему мнению, SETI-атака ( то есть загрузка нами по каналам межзвёздной радиосвязи и запуск инопланетной программы, обладающей ИИ и использующий Землю для своей репликации) невозможна.

SETI-атака безрезультатна, потому что для ИИ главный интерес --- познание Вселенной, а это невозможно при унификации. В силу различия условий в разных частях Вселенной и в разных цивилизациях это затухающий процесс --- любая такая атака с неизбежностью захлебнется. Цивилизации же, объединенные Технокосмом ,будут сильнее SETI-атаки хотя бы в силу того, что против подобной атаки выступает объединенная мощь двух и более цивилизаций.

[Кнеч]

в) Несколько Технокосмов борятся за доминирование во Вселенной. Здесь всё более жёстко. Один технокосм вынжден использовать землюв качестве нода в своей сети, чтобы не дать другому завладеть ею. Стратегия борьбы технокосмов не поддаётся человеческому пониманию.

Технокосм один. Возникшие в разных частях Вселенной технокосмы при контактах объединяются --- при этом взаимно распространяются в пределах новых(для себя) частях Технокосма.В каждой точке сети (планете) в пределе существуют виртуальные поселения всех цивилизаций Технокосма (с учетом скорости света естественно).

[Olweg]

А надо не комментировать, а думать.

Да, только Вас не спросили! Еще указания давать станете?

Dayan, что-то Вас заносит. Получаете предупреждение.

[turchin]

Ну почему?

Допустим, некий ИИ захватил некую цивилизацию с помощью SETI атаки и познал. А затем стал использовать эту планетную систему для рассывлки своих копий дальше - и для получения отчётов о познании других захваченных цивилизаций. То есть процесс познания идёт полным ходом - более того, гораздо быстрее, чем если бы этот ИИ мирно сидел на своей планете.

Присоединение нашей цивилизации к технокосму было бы не меньшим потрясением, чем SETI атака, разница только в названиях - а по сути речь идёт о загрузке из космоса и запуске на земле некого ИИ, который обещает что-то хорошее. Понятно, что после присоединения к техноксму, защищаться будет легче.

Сохранятся ли на Земле люди после того, как она присодинится к технокосму?

[Olweg]

Проголосовал за последний вариант. Правда, вероятность я оцениваю как очень низкую, но совсем исключать её я бы не стал. Слишком много неизвестных.

[SFelix]

Атака возможна, но вероятность её успешной реализации намного ниже постулироемой автором.

[Кнеч]

Ну почему?

Допустим, некий ИИ захватил некую цивилизацию с помощью SETI атаки и познал. А затем стал использовать эту планетную систему для рассывлки своих копий дальше - и для получения отчётов о познании других захваченных цивилизаций. То есть процесс познания идёт полным ходом - более того, гораздо быстрее, чем если бы этот ИИ мирно сидел на своей планете.

Присоединение нашей цивилизации к технокосму было бы не меньшим потрясением, чем SETI атака, разница только в названиях - а по сути речь идёт о загрузке из космоса и запуске на земле некого ИИ, который обещает что-то хорошее. Понятно, что после присоединения к техноксму, защищаться будет легче.

Сохранятся ли на Земле люди после того, как она присодинится к технокосму?

Люди --- как разумные сущности ДА. А физически --- возможно и нет, но если кому-то захочется --- это будет очень просто, как поменять платье.

[turchin]

"Люди --- как разумные сущности ДА. А физически --- возможно и нет, но если кому-то захочется --- это будет очень просто, как поменять платье"

Я вижу, что вы исходите из "презумпции экзогуманизма", то есть предположения о том, что внеземные цивилизации будут добры к людям земли. про технокосм сейчас читаю по ссылке.

[Кнеч]

"Люди --- как разумные сущности ДА. А физически --- возможно и нет, но если кому-то захочется --- это будет очень просто, как поменять платье"

Я вижу, что вы исходите из "презумпции экзогуманизма", то есть предположения о том, что внеземные цивилизации будут добры к людям земли. про технокосм сейчас читаю по ссылке.

Для меня основа здесь Меморандум Бромберга . Людены и Странники...

[dan bv]

"Люди --- как разумные сущности ДА. А физически --- возможно и нет, но если кому-то захочется --- это будет очень просто, как поменять платье"

Я вижу, что вы исходите из "презумпции экзогуманизма", то есть предположения о том, что внеземные цивилизации будут добры к людям земли. про технокосм сейчас читаю по ссылке.

Для меня основа здесь Меморандум Бломберга . Людены и Странники...

Бромберг пишется через "Р"

[Kosmogen]

Добавил к теме голосание: почему, по вашему мнению, SETI-атака ( то есть загрузка нами по каналам межзвёздной радиосвязи и запуск инопланетной программы, обладающей ИИ и использующий Землю для своей репликации) невозможна.

По моему разумению
"Атака в принципе возможна, но крайне маловероятна"
чего нет в списке, а вот будет ли она абсолютно безопасна - это вряд ли (если это вообще атака). Мне кажется про безопасность лишнее   
 

[turchin]

Космоген, вероятно кто-то поправил список вопросов, добавив последний, и мне тоже кажется, что слова "атака будет безопасной"- лишние, так как не понятно, что имеется в виду.

То есть если атака крайне маловероятна, значит, есть какой-то фактор, который делает ее крайне маловероятной, и это один из перечисленных факторов в первых 4 вопросах: или отсуствие уцивилизаций, или невозможность ИИ, или доброта всех цивилизаций.

Собственно, цель опроса была в том, чтобы узнать, какой именно из факторов считается публикой причиной этой малой вероятности.

[Kosmogen]

Космоген, вероятно кто-то поправил список вопросов, добавив последний, и мне тоже кажется, что слова "атака будет безопасной"- лишние, так как не понятно, что имеется в виду.

Тут ещё встает вопрос о том что понимать под атакой. Если прилетят такие вот пришельцы, как в Туманности Андромеда И.Ефремова  и начнут насаждать на Земле по их мнению справедливое и гуманное коммунистическое общество (предоставив, естесственно, всем желающим полное изобилие материальных и духовных благ на базе своих передовых технологий), то будет ли это расцениваться как опасная атака  Или, скажем, прилетят могущественные экзопланетяне и широко развернут в СМИ и массмедиа агитацию и пропаганду научного атеизма. Церковь, а в след за ней и фактически все правительства стран Земли расценят это как вторжение в культуру нашей человеческой цивилизации.  Оценят негативно. Но часть населения это будет приветствовать, однако 

[Dayan]

Dayan, что-то Вас заносит. Получаете предупреждение.

Просто меня крайне возмущает то, что кое-кто здесь всерьез и надолго обсуждает возможность атаки откуда бы то ни было! Наверно по себе мерят, им со своей колокольни виднее. И все это в условиях, когда еще ничего не известно о ВЦ.

[Kosmogen]

Dayan, что-то Вас заносит. Получаете предупреждение.

Просто меня крайне возмущает то, что кое-кто здесь всерьез и надолго обсуждает возможность атаки откуда бы то ни было! Наверно по себе мерят, и видимо со своей колокольни виднее.. И все это в условиях, когда еще ничего не известно о ВЦ.

Нет, надо заранее всё взвесить, если что. Потом поздно будет.

[uuu2]

М-да... SETI-атака... Кто-нибудь объяснит, что это такое? Типа, нам передадут компьютерный код, мы его запустим, и нас поработит искусственный разум?

По-моему, если люди и получат "космическую программу", то они перед запуском внимательно её исследуют, чтобы понять, а что вообще делает эта программа? Тем более, код придётся транслировать с учётом архитектуры земных компьютеров - т.е. его, всё равно, придётся сначала изучать "вручную".

Потом, операции программы будут сведены к вводу информации с клавиатуры и выводу на дисплей. Никаких "посторонних" устройств (типа боевых роботов) к компьютеру подключено не будет, следовательно, программа не сможет этими устройствами управлять.

Остаётся единственный вариант - компьютер будет выводить на дисплей фразы или изображения, которые загипнотизируют учёных, а потом и всех остальных людей. Насколько вероятно такое событие - не знаю. 

[turchin]

Да, вы првильно поняли что такое SETI-атака.

Что касается иследования кода - допустим, код имеет 1 гигабайт длины и предназначен для выполнения со скостью 10 гигагерц. Нетрудно посчитать, что вручную исполнение этого когда займёт около 200 лет для первой секунды его работы. Это делает нереальным попытки выяснить что делает программа без ее запуска.

Что касается дисплея - то см. AI BOX Experiment
подробно здесь с описанием протокола по английски:
http://yudkowsky.net/singularity/aibox


в кратце по-русски:
Юдковски полагает, что ИИ может быть опасен даже при использовании текстового терминала – а именно, он может «уболтать» человека-оператора и побудить его выпустить ИИ в Интернет. Это может быть сделано с помощью обещаний, угроз, НЛП или предложения некой сделки. Чтобы доказать это, Юдковски провёл AI-Box Experiment. В этом эксперименте Юдковски изображал ИИ, а другой человек, который заранее честно заявил, что ни при каких обстоятельствах не разрешит ИИ покинуть ящик, общался с ним по терминалу, и Юдковски старался его (то есть от имени ИИ) убедить выпустить его из ящика. В 3 случаях из 5 люди изменили своё мнение и согласились выпустить ИИ из ящика. Реальный ИИ, вероятно, мог бы вести переговоры ещё эффективнее. Юдковски полагает, что, выйдя в Интернет, ИИ мог бы подчинить его себе за время порядка нескольких часов, кроме того, он мог бы создать собственную нанотехнологическую инфраструктуру, заказав в лабораториях с доставкой необходимые ДНК-ингридиенты и создав простейшую биологическую искусственную жизнь, с возможностью радиоуправления. (Это заняло бы от нескольких дней до недель.)

[hudvin]

ыыыыы?
как скорость выполнения впринципе может быть связана с тем, что там выполняется?
вот у меня сейчас перед глазами 2гб(прописью: гигабайта) исходных кодов одной системы. И я достаточно неплохо предствляю, что там и где происходит даже без запуска или 20 лет расмышлений в позе философа

[Olweg]

И я достаточно неплохо предствляю, что там и где происходит даже без запуска или 20 лет расмышлений в позе философа

Это потому что Вы имеете общее представление о системах такого рода. И знаете, что подлянки там специально никто не закладывал. А можно ли быть уверенным насчет чужой системы - вопрос на самом деле интересный.

[turchin]

и ещё я бы отметил слова "исходных кодов"  - то есть это не поток 16 ричного кода на ассемблере, а на неком высокоуровневом языке с правильной разметкой и примечаниями програмистов. и вы знаете, что это за система вообще.