Вероятность гибели цивилизации в 21 веке

[Nucleosome]

да, моя субъективная оценка вероятности серой слизи тоже весьма мала. хотя есть люди, которые думают по другому. вариантом серой слизи может быть искусственная жизнь - то есть нечто биоподобное, но с другим набором аминокимлот в днк, другой закруткой беклков - и в силу этого неуязвимая для  имунных систем обычных живых существ.

например, некая бактерия, которая умеет и целлюлозу разлагать, и солнечным светом питаться , и всю огранику есть, и чистый уголь усваивать. всепожирающий комбайн такой.

Как это ни странно, но всего этого мало. И имунные системы тут не причём (кстати, то что он будет из других аминокислот не означает его неуязвимости: у насекомых имунная система работает по принцыпу "не-свой", а у нас она случайным образом генерирует антитела, которые потом отбираются на нужные), организм, умеющий слишком много сразу будет очень слабым конкурентом для имеющихся - они-то давным-давно приспобились каждый в своей среде, и приспособились очень не плохо, а универсальный комбайн мы будем лепить (если будем) сообразно со своими знаниями, ошибками, и прочим, в итоге это будет не супергерой, а суперурод.

[turchin]

если бы я знал, чего достаточно, чтобы сделать такого всеядного монстра - получил бы нобелевскую премию:) (посмертно)

это может быть что-то очень простое - типа плесени, вырабатывающей несколько ядов .

[MoonCat]

Как это ни странно, но всего этого мало. И имунные системы тут не причём (кстати, то что он будет из других аминокислот не означает его неуязвимости: у насекомых имунная система работает по принцыпу "не-свой", а у нас она случайным образом генерирует антитела, которые потом отбираются на нужные),

Чем не довод в пользу промышленного шпионажа чужих генов?  Насекомые слишком закрыты. Хотя, возможно, на стадии личинок (иногда, куколок), которая есть у всех насекомых, принцип иммунки у них не такой строгий?

vale

[Nucleosome]

Чем не довод в пользу промышленного шпионажа чужих генов?  Насекомые слишком закрыты. Хотя, возможно, на стадии личинок (иногда, куколок), которая есть у всех насекомых, принцип иммунки у них не такой строгий?

vale

Может быть... обычно личинки живут в более защищённых средах (хоть и не всегда), поэтому возможно. Не знаю.

[Ira]

это может быть что-то очень простое - типа плесени, вырабатывающей несколько ядов .

подавляющее большинство микроорганизмов (бактерии, грибы) не ограничиваются 1-2 токсинами. Патогенные для человека тем более. Они всегда выделяют несколько "ядов", которые по разному страшно действуют на организм.

... а у нас она случайным образом генерирует антитела, которые потом отбираются на нужные),

позвольте уточнить!
Возьмем, к примеру, реакцию сенсебилизации. Попадает в организм определенная порция антигена (ну например аллергена). Организму этого количества АГ хватает, чтобы выработать антитела, но ответной реакции иммунной системы на попадание АГ не происходит. Но, после повторного попадания эта самая реакция не то что включается, а может достигнуть огромной силы (вплоть до анафилактического шока). Т.е. действует принцип "не свой". Так и вырабатывается специфический иммунитет к большинству инфекций после перенесения болезни или введения вакцины.

[turchin]

Солярис - серая слизь?

ИИ, который начнёт переваривать всё вещество в свою структуру, может внешне выглядить как gray goo, пожирающая всё подряд. И такой ИИ найдёт способы преодолеть ограничения микромира.

С другой стороны, саморазмножающие роботы не обязаны быть наномашинами. Вполне сгодятся и в миллиметр размером. Вопрос в скорости их размножения. И всеядности. И уме.

[Nucleosome]

Подождите! ИИ - это ж алгоритм. то бишь не материальный, а информационный, как же он сможет перерабывать всё вещество в свою структуру?
Ira - ну в конечном счёте, понятное дело, что получается ответ по типу "не свой" - отсюда и отторжение пересаженных органов... Ведь и выработка антител это фактически отбор нужный из общей, случайной массы. что мне до сих пор не ясно в имунной системе нашего типа - это то, как организм узнаёт какие антитела против него же, а какие нет? И ведь бывают аутоимунные заболевания (одна из форм диабета кажется) - стало быть механизм относительно часто даёт сбои и выпускает во внутреннюю среду антитела к самому себе.
Mooncat - пытаясь предсказать ваш ответ на аутоимунные заболевания пишу, что аналог их для сообществ, прежде всего человеческих - это глубоко защедшие чистки своих от инородных элементов - как ни прискорбно, но многие свежеиспечённые режимы кончали именно этим. А всё потому, что ломали установленную в предыдущем строе систему отличия свой/чужой.

[turchin]

ИИ - алгоритм, но он может управлять физическим объектами с помощью неких внешних мнипуляторов и создавать всё более эффективные манипуляторы. Подробнее это описано у Юдковского в статье "ИИ как фактор риска".

[Nucleosome]

А кто ему даст такие, которые позволят это? Сам возьмёт? А как?

[turchin]

nucleosome, если вас волнует подробный ответ, как Ии овладеет манипуляторами, отсылаю вас к названной выше статье http://www.proza.ru/texts/2007/03/22-285.html
где этот вопрос обсуждается на многих страницах.

коротко говоря: он умный, придумает.

то есть для начала ему потребуется хотя бы один канал связи с внешним миром, хотя бы выход в интернет. там он заработает денег, наймёт нужных людей, и они соберут те промежуточные устройства, которые нужны для организации более эффективного манипулятора внешним миром. и это не единственный вариант, есть, наверное, и по лучше.


более того, даже прямого выхода не понадобиться - достаточно, чтобы кто-то снаружи узнавал о результатах работы ИИ и на основании этого вносил изменения в его программу. Из этого уже можно построить систему доступа наружу.

[Olweg]

Ужастик по теме:
http://www.rusf.ru/esli/rubr/books/es0202st.htm
 

[turchin]

спасибо за ужастик! А есть ли ещё что-то в современной фантатстике про сингулярность , кроме этого и Винджа?

я написал похожий рассказ "дракон" о том же примерно
http://www.proza.ru/texts/2006/05/17-314.html

[MoonCat]

И ведь бывают аутоимунные заболевания (одна из форм диабета кажется) - стало быть механизм относительно часто даёт сбои и выпускает во внутреннюю среду антитела к самому себе.

Есть еще системная красная волчанка. Не приводилось таких больных наблюдать?

vale

[Nucleosome]

Есть еще системная красная волчанка. Не приводилось таких больных наблюдать?

vale

Нет... только на картинках да и то мельком. Думаю к счастью. (вот когда слово vale как нельзя более к месту!)
 turchin  - ну а чего ради его в интернет выпускать?

[Юрий_К]

turchin  - ну а чего ради его в интернет выпускать?

Чтобы самообучался. Это ведь разумное существо будет. Создатели к нему будут относится как к ребенку.
Притом как к любимому ребенку.
Думаете будут тексты на дискетах ему подтаскивать? 

[T101]

turchin  - ну а чего ради его в интернет выпускать?

Чтобы самообучался. Это ведь разумное существо будет. Создатели к нему будут относится как к ребенку.
Притом как к любимому ребенку.
Думаете будут тексты на дискетах ему подтаскивать? 

А я вот уже писал, что детей пускать в интернет нельзя, по кр. мере без присмотра. Т.к. увы, по объему, процент полезного контента меньше чем процент бесполезного+вредного. К детям-ИИ это тоже относится 

[turchin]

вам когда-нибудь удавалось обмануть 3 летнего ребёнка? также просто будет обмануть человека ИИ. то есть, например, вы будете думать, что он сломался и чинить его исходный код, а он использует набор "ошибок" в коде, как вирус, который оставит закладку на вашем компьютере. И это ещё упрощённо говоря.

Или ещё проще - он обещает своему программисту миллиард долларов и любовь всех девушек земли в обмен на доступ в интернет. И он выполнит своё обещание.

[Sergiusz]

Или ещё проще - он обещает своему программисту миллиард долларов и любовь всех девушек земли в обмен на доступ в интернет. И он выполнит своё обещание.

Айзек Азимов - Настоящая любовь 

[Nucleosome]

если ИИ=ребёнок, то ИИ не нужен, потому что детей можно намного более простыми и многократно провернными способами получать

[turchin]

Глобальная катастрофа - универсальное средство шантажа.

Должны ли мы идти на поводу у террористов - конечно, нет. но если они будут угрожать высвободить сверхопасный вирус, требуя взамен всего-то миллиард долларов? Даже если мы надеемся, что это не совсем смертельный вирус? Человек, захвативший банк с людьми,  - будет ли он добрее, если от его действий будет зависеть судьба всего мира?

должны ли мы будем раз за разом идти на уступки террористам, угрожающим взорвать весь мир (и в силу этого не имеющих точной пространственной локализации) или однажды откажем им?

Что, если две самоубийственые группы террористов выдвинут одновременно противоположные требования? например: освободить местность Х - и убить всех в Х?

Сколько же всего этого ждать? учитывая экспоненциальное развитие технологий производства ДНк и накопление знаний о природе вирусов. ну, думаю, лет десять. В лучшем случае.