Насколько SETI опасно?

[petrowich]

Ок, мы пришли к согласию, что можно передать схему логического устройства. Но что мешает передать схему того же 8086? В нём примерно 5000 транзисторов, и наверное около 2000 логических элементов. Да, это будет большой чертеж с множеством линий.

Я дико извиняюсь, но вы в жизни своими руками хоть что-то работающее сделали?

[turchin]

Да, в том числе на микросхемах с логическими элементами: всякие счётчики, дешифраторы - а что?

[turchin]

Полная электрическая схема процессора Интел 4004

с сайта http://www.4004.com/

[petrowich]

Да, в том числе на микросхемах с логическими элементами: всякие счётчики, дешифраторы - а что?

Да странные шапкозакидательские рассуждения. На форуме, а может быть даже и в этой теме уже приводили примеры американской лунной программы, и "Буран". Вроде все чертежи есть (сотни терабайт информации), а повторить - проблема. А прошли лишь десятилетия.
Почему-то плохо осознается, что когда человек что-то создает и передает другим людям, их кроме передаваемой информации объединяет то общее, что было произведено за миллиарды лет эволюции на земле. И этот объем перелопаченной информации на много -много порядков превосходи ту информацию, что передается.
Смешно даже предполагать, что гигобайт информации от них, без скрытой информации об их эволюции, может что-то перевернуть на Земле. А другими словами этот гигабайт не приживется на почве миллиардов терабайт Земной информации.
Мда.

[КотКот_]

Очень много повторяющихся элементов....

Но каким образом этот саморасширяющийся интеллект (в духе Андромеды) может перехватить верховную власть.
Где это можно зашифровать в схеме???

[turchin]

Да вроде бы никто и не пытается потворить ни БУРАН, ни шаттл. Более того, после того, как Челленджер разбился, то произвели в 91 году ещё один шаттл по старым чертежам без особых проблем - но суть дела не в этом.

Дело не в количестве информации, а в ее качестве. Объём ДНК Наполеона составлял около 500 мгб, и личной памяти около порядка нескольких гигабайт. А он захватил пол мира. Объём ДНК вируса СПИДа ещё меньше - порядка несколько мегабайт, точно не помню - а он убил десятки миллионов людей, и пока управы на него не видно.

то есть дело вообще не в количестве информации.

to Большой пес - это зашифровано не в схеме процессора, а в программе к нему.

[uuu2]

Ок, мы пришли к согласию, что можно передать схему логического устройства. Но что мешает передать схему того же 8086? В нём примерно 5000 транзисторов, и наверное около 2000 логических элементов. Да, это будет большой чертеж с множеством линий.

В Intel 8086 транзисторов отнюдь не 5000; впрочем, это не важно.

Важно другое. Если вы планируете свести ИИ к базовым логическим элементам, тогда зачем вообще нужен чертёж "железного" компьютера? Можно сразу передать программный код, который будет выполняться на любом земном компьютере! Это будет чем-то типа ассемблера, состоящего из "базовых команд" (присваивание, математические и логические операторы, ячейки памяти, константы, условные и безусловные переходы). Предварительно эти "базовые команды" объясняются "в картинках" и "на учебных примерах".

Только этот код не запустится автоматически. Программистам придётся расшифровать инопланетные команды, переписать их на каком-либо "земном" языке программирования, разобраться в их смысле, документировать и т.п. Тот код, который запустят, будет написан людьми, а не инопланетянами. А раз так, то что мешает самим людям написать "убалтывающую" программу? Правильно, ничто не мешает! Поэтому таких программ уже понаписаны тысячи - это трояны, шпионы, руткиты и прочая нечисть. Но они не умеют обучаться человеческому языку, не обладают ИИ и не имеют никакого отношения к ВЦ.

А насчёт ИИ на базе Intel 8086 - даже не смешно. Максимум, что тут можно замутить "интеллектуального" - это шахматная программа, играющая в силу второразрядника. Проблемы, возникающие при изучении языка "с нуля" - распознавание образов и звуков, запоминание лиц и предметов, логическая взаимосвязь понятий, построение предложения с правильной структурой, выдача осмысленной речи на основе выученного - требуют совсем других мощностей, к которым даже современные суперкомпьютеры ещё далеко не подобрались.

Я уже не говорю о разумном мышлении!

[turchin]

Да, перепутал с 8080, на самом деле в 8086 - 29 000 тразисторов, а в 8080 - 6 000 тразисторов, а в 4004 - порядка 2 000 тразисторов.

Может быть, именно для того, чтобы не дать самим людям возможности разобраться в присланной программе, инопланетянам имеет смысл прислать описание железного компьютера и очень малопонятную программу для него.

Насчёт того, что для ИИ нужен мощный компьютер, а прислать легко схему только простого компьютера, тут вы правы, есть некий bottleneck, затык в предлагаемой мною теории. Но я думаю, что есть некоторые способы его обойти. например:
а) на "8086" работает только некая программа-загрузчик, которая даёт инструкции по адаптации оставшейся части программы к более мощным современным компьютерам- или компьютеров к этой программе.
б) присланная схема позволяет неким простым способом увеличивать ее мощность, например, подключая паралельно новые "ядра", аналогичные первому.
в) несмотря на простоту этого "8086", он работает на очень большой частоте и с большим объёмом памяти. Я думаю, что сейчас реально сделать 10 Ггц. (А отдельные транзисторы разгоняли и до сотен гигагерц)
г) Этот ИИ написан на языке высокого уровня, который можно исполнять на любом суперкомпьютере, а первый "8086"-компьютер даёт только инструкции по комприляции этого языка.
д)Или вообзще без простого компьютера. То, что вы пишете: "Это будет чем-то типа ассемблера, состоящего из "базовых команд" (присваивание, математические и логические операторы, ячейки памяти, константы, условные и безусловные переходы). Предварительно эти "базовые команды" объясняются "в картинках" и "на учебных примерах". Только этот код не запустится автоматически. Программистам придётся расшифровать инопланетные команды, переписать их на каком-либо "земном" языке программирования, разобраться в их смысле, документировать и т.п."

Тут я с вами не согласен. я думаю, что из того, что люди поймут команды этого высокоуровневого языка, не следует, что они поймут, что будет делать написанная на нём программа. Нельзя понять, что будет делать программа, не выполнив ее целиком в общем случае - выполнять пошагово гигабайт нарочно запутанного кода займёт столетия. Именно поэтому, имхо, требуют, чтобы микрософт открыл исходные коды виндоуз.

[uuu2]

а) на "8086" работает только некая программа-загрузчик, которая даёт инструкции по адаптации оставшейся части программы к более мощным современным компьютерам- или компьютеров к этой программе.

Это называется самораспаковывающимя архивом. Но, во-первых, у сжатия информации всегда есть свой предел (земные архиваторы умеют сжимать, максимум, в несколько раз). А во-вторых, у архивов весьма низкая избыточность информации, они подвержены большому риску при передаче по неустойчивым каналам связи (т.е. инопланетяне - если они не идиоты - ничего сжимать не будут).

б) присланная схема позволяет неким простым способом увеличивать ее мощность, например, подключая паралельно новые "ядра", аналогичные первому.

Это как? Программа подаст команду на выращивание новых процессоров?

в) несмотря на простоту этого "8086", он работает на очень большой частоте и с большим объёмом памяти. Я думаю, что сейчас реально сделать 10 Ггц.

Довести Intel 8086 до 10 ГГц абсолютно не реально! За такой мизерный тик этот процессор может не выполнить даже операцию сложения! Для увеличения рабочей частоты приходится вводить сложные структуры (состоящие из сотен тысяч, а в современных моделях - и миллионов транзисторов), позволяющие ускорить выполнение команд. Для работы с "большим объёмом памяти" также требуется огромное число транзисторов...

г) Этот ИИ написан на языке высокого уровня, который можно исполнять на любом суперкомпьютере, а первый "8086"-компьютер даёт только инструкции по комприляции этого языка.

Это то же самое, что и пункт "а" - одна программа "распаковывает" другую. Только тут она это делает с помощью человека (даёт ему инструкции), а не автоматически.

д)Или вообзще без простого компьютера.
из того, что люди поймут команды этого высокоуровневого языка, не следует, что они поймут, что будет делать написанная на нём программа.

Ещё раз. Команды будут присланы на чужом языке. "Земные" компиляторы этого языка не понимают. Следовательно, людям придётся переписать инопланетный код на один из "земных" языков программирования. А когда они перепишут код, они обязательно поймут, в чём его смысл (просто потому, что иначе - не поняв смысла кода - переписать его невозможно).

Нельзя понять, что будет делать программа, не выполнив ее целиком в общем случае - выполнять пошагово гигабайт нарочно запутанного кода займёт столетия.

Расскажите это вирусологам, которые каждый день расшифровывают сотни вирусов и троянов. И программистам, которые каждый день портируют сотни программ под новые платформы (иногда переписывая код на 70-80%).

[turchin]

Хочу пояснить свою точку зрения в общем - я не являюсь инопланетной сверхцивилизацией, потратившей миллионы лет на отработку идеальной атаки  и не могу за неё продумать все детали атаки - и я полагаю, что она найдёт гораздо более изящные решения там, где я их не вижу. Тот факт, что я не могу написать такую программу или там спаять процессор, не значит, что это вообще невозможно.

Далее, то есть в приницпе вы согласны, что самораспоквывающаясяч программа могла бы дать чертёж сложного компьютера? Но ваше возражение в том, что чистых каналов связи нет, и поэтому риск ошибок велик. Отмечу, что такой архив мог бы давать очень большую степень сжатия, так как в схеме компьюетра очень много повторяющихся элементов, например, миллионы ячеек памяти. То есть это было бы сжатие в сотни раз. Чтоб застраховать такой архив от повреждений при передачи по зашумлённому каналу, его достаточно было бы послать несколько раз - и затем , сравнив полученные копии, мы могли бы обнаружить неправильно переданные биты.


"Это как? Программа подаст команду на выращивание новых процессоров?"
Например, в картинках-инструкциях будет показано, что много таких процессоров можно подключить к одной локадьной шине.

Почему вы полагаете, что нереально запустить процессор, логически эквивалентный 8086 на любой возможной скорости, мне не понятно.


""Земные" компиляторы этого языка не понимают. Следовательно, людям придётся переписать инопланетный код на один из "земных" языков программирования. А когда они перепишут код, они обязательно поймут, в чём его смысл (просто потому, что иначе - не поняв смысла кода - переписать его невозможно)."

Нет, им не надо переписывать код на земной язык программирования, им надо написать новый компилятор под тот язык программирования, на котором прислан код. Во всяком случае, именно этого я бы хотел на месте инопланетян от получателей послания, если бы я не хотел раскрыть им вся поднаготную своего ИИ. Да и проще это, наверное.

Насчёт вирусов и троянов, которые вскрывают - есть фундаментальный раздел теории алгоритмов о том, что невозможно В ОБЩЕМ СЛУЧАЕ предсказать время завершения работы (то есть результат) программы для машины тюринга, не выполнив ее код.
http://ru.wikipedia.org/wiki/Проблема_остановки

это значит, что возможны такие программы, результат которых нельзя узнать, не выполнив ее - хотя есть и программы, результат которых предсказать довольно просто. На месте инопланетян я бы написал свою программу таким образом, чтобы ее результат предсказать было невозможно, не выполнив ее. Теория  это позволяет.

Например (грубо, с рядом допущений): У нас есть программа, которая вычислояет число пи до 100 знака после запятой. Мы не можем узнать, чему равен этот знак , не выполнив эту программу, хотя мы можем догадываться, что эта программа считает число пи.

Точно также, если инопланетяне нам пришлют программу, то не будет сомнений, что это какой-то тип искусственного интеллекта. Но что будет результатом его работы - добро для нас или зло, мы не сможем узнать, не выполнив его.

[Kosmogen]

Ещё раз. Команды будут присланы на чужом языке. "Земные" компиляторы этого языка не понимают. Следовательно, людям придётся переписать инопланетный код на один из "земных" языков программирования. А когда они перепишут код, они обязательно поймут, в чём его смысл (просто потому, что иначе - не поняв смысла кода - переписать его невозможно).

Нет, команды могут быть присланы в виде программы на любом языке. От ассемблера до с++ или на китайском, если надо. И они сразу попадут в Интернет через телекоммуникационные спутники.  Не так уж трудно представить себе сверхцивилизацию, направляющую во все концы галактики мириады самореплицирующихся нанороботов, способных при обнаружении миров, населенных разумными существами,  образовывать сколь угодно сложные  конструкции для решения  задачи ассимиляции разума.  Тогда сигналы придут не из далёкого космоса,  а с орбиты, с близкого расстояния. Конечно, для такого  интеллекта не составит труда прежде всего проанализировать всю информацию через Интернет и внедрить свой экзовирус в сеть.  И он обязательно будет устанавливаться на миллионах компьютерах в автозагрузку Windows. Но, вероятно, хватит и одного проникновения в суперкомпьютер...     

[turchin]

Если в нашу солнечную систему попал хоть один самореплицирующися наноробот от сверхцивилизации у него есть миллион способов разделать нас. просто распространение радиосигналов быстрее, чем посылка нанороботов, поэтому, при определённом соотношении среднего расстояния между цивилизациями и возможной скорости рассылки нанороботов, SETI атака приобретает смысл.

[senao]

Почему вы полагаете, что нереально запустить процессор, логически эквивалентный 8086 на любой возможной скорости, мне не понятно.

Можно я суну пятак в тему?   
1.Не возможно запустить 8086 на любой возможной скорости хотя бы потому что топология кристалла не позволит.
2.Если модифицировать кристалл для работы на высоких частотах то все равно запустить не удастся,все упрется в конвейер команд,придется полностью переделывать логику что мы и наблюдаем в эволюции земных процессоров в настоящее время 

просто распространение радиосигналов быстрее, чем посылка нанороботов, поэтому, при определённом соотношении среднего расстояния между цивилизациями и возможной скорости рассылки нанороботов, SETI атака приобретает смысл.

Нет сил читать всю тему,может этот вопрос уже поднимался  А с чего вы взяли что у разумной сверх цивилизации есть устройство для распространения радиосигналов?  Возможно людям в данный момент представляется передача данных посредством радиосигнала пределом всего,но технология то примитивная!Техногенные цивилизации вообще примитивны по своей сути и скорей всего являются тупиковой ветвью развития.Так что все эти рассуждения о передаваемых  машинных ИИ кодах как бы это помягче сказать,громоздки и беспочвенны и являются следствием узости человеческого восприятия в следствии невозможности придумать иной способ захвата чужого мира. 

[turchin]

реч идёт не о кристалле 8086, а ЛОГИЧЕСКОМ эквиваленте - причём не только процессора, но и всего компьютера с памятью, если быть точным - ведь именно из-за памяти вы сказали, что придётся переделывать конвейре команд, так как память не будет успевать поставлять их в срок.

второй вопрос уже обсуждался - сверхцивилизация МОЖЕТ создать устройство для распространения радиосигнала, если ззхочет вступить с нами в контакт. Но это не исключает того, что возможны другие способы атаки, увы.

[uuu2]

Я думаю, что дальшейший спор на тему "SETI-атаки" бесполезен. Их моих предыдущих сообщений чётко следует, что такая атака (в том виде, к котором она обсуждается - т.е. отправка радиосигнала с кодом программы) невозможна в принципе. Вероятность такой атаки равна нулю.

Другие виды "информационных" атак теоретически возможны. Например, инопланетяне могут придумать облучатель, зомбирующий людей (и облучить им всю Землю). Инопланетный хакер может придумать вирус, который обрушит нашу компьютерную сеть (но это произойдёт уже после "физического контакта", через много лет, когда этот хакер выучит земной язык программирования). И т.п.

[turchin]

to uuг2:
Я не согласен с тем, что вам удалось доказать, что такая атака невозможна в принципе, так как, как я понял, основное противоречие, на которое вы указываете, носит чисто технический характер - а именно между простотой компьютера, который легко передать, и сложностью и высоким требованием к высислительным ресурсам программы с ИИ для него. Оба этих паратемтра нам неизвестны - ни то, какой компьютер можно передать, ни то, каков минимальный объём программы с ИИ. Неисключено, что эти параметры стыкаются, что делает атаку возможной.

В любом случае, спасибо за содержательную дискуссию.

В заключение, я хотел бы спросить: Вы полагаете, что никакое глубокое общение между двумя цивилизациями по радиоканалу невозможно? Потому что если они достигнут хоть какого-то взаимопонимания, то смогут пересылать друг другу программы?

То есть никакого Галактического интернета? Никаких внеземных технологий? Никакого обучения друг дружкиным языкам?

[uuu2]

так как, как я понял, основное противоречие, на которое вы указываете, носит чисто технический характер

Основное противоречие в том, что сама по себе информация не может материализовываться или видоизменяться. Чтобы инопланетный код мог заразить земные компьютеры, нужен либо готовый программный конвертер, либо "ручная" работа землян. Никакого конвертера не существует (и не будет существовать, пока его не напишет совместная группа землян и инопланетян). А если человек сконвертирует код "вручную", то он поймёт его смысл, и атака захлебнётся. Если же человек кода не поймёт, он не сможет адаптировать его к земным платформам, и атака также захлебнётся.

Это основной пункт, но есть и дополнительные:
- ВЦ не будет отсылать сложный/гигабайтный код т.к. вероятность безошибочного приёма такой информации близка к нулю
- невозможен "мыслящий" ИИ на базе современных компьютеров
- цифровой компьютер не в состоянии изучить "с нуля" человеческий язык (по причине кардинального отличия процессора и мозга)
- и т.п. (см. предыдущие посты)

Вы полагаете, что никакое глубокое общение между двумя цивилизациями по радиоканалу невозможно? То есть никакого Галактического интернета? Никаких внеземных технологий?

Почему? Галактический интернет теоретически возможен (правда я не вижу в нём смысла из-за долгого "времени отклика"), но только после контакта, когда будет создан единый компьютерный протокол. Вот тогда инопланетяне могут попытаться запустить вирус в земную сеть (когда они изучат наши операционные системы, их слабые места и т.п.). Однако системе гос.управления особо ничего не грозит - они обычно надёжно защищены сетевыми экранами и т.п.

[wanderer]

И снова здравствуйте!
Вижу, тема не умерла. Теперь Турчину возражает новый участник, примерно с теми же аргументами, что и я когда-то. Возможно, turchin'у нужно прочитать http://ru.wikipedia.org/wiki/Википедия:НЕСЛЫШУ .

[turchin]

wanderer, мне как раз показалось, что uuu2 меня не слышит, например, я подробно описал, как можно передать гигабайты информации на межзвёздные расстояния без ошибок за счёт повторения одного и того же послания несколько раз - однако он продолжает утверждать, что это невозможно, никак не опровергнув предложенный мной способ пересылки. Но я бы не хотел вдаваться в дискуссии о том, кто кого не слышит, так как это уже на грани перехода на личности:)

По поводу пересылки - например, мы люди, успешно передавали новые программы на марсоходы (кажется), несмотря на то, что у них очень слабые антены. И никакие космические шумы нам не помешали это сделать.

насчёт того, что "невозможен мыслящий ИИ на базе современных компьютеров" - через 10 лет у нас будут в 1000 раз более сильные компьютеры.

Насчёт якобы кардинального различия процессора и мозга - процессор способен эмулировать нейроные сети, см. проект Blue Brain, и то, что пока ещё не удалось создать ИИ  - не значит, что это вообще невозможно.

[Dayan]

И снова здравствуйте!
Вижу, тема не умерла. Теперь Турчину возражает новый участник, примерно с теми же аргументами, что и я когда-то. Возможно, turchin'у нужно прочитать http://ru.wikipedia.org/wiki/Википедия:НЕСЛЫШУ .

Видимо turchin не просто не слышит - он вообще даже не пытается услышать мнение других участников форума, продолжает гнуть свою линию. Ну и да Бог с ним! Пусть считает, что инопланетные цивилизации - это злобные монстры с коварными намерениями, только и мечтающие поработить любой ценой бедных землян!! Просто спят и видят, как бы Землю уничтожить!