Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[Rattus]

Я имел в виду - не просто "знать" о сингулярности тогда. Я тоже знал. Где вы обсуждали ИИ как возможную причину сингулярности в наше время?

Ну, слушайте, в такие сроки и я верил)) Я как раз об этом вчера писал. Перечитал старый форум. И выходит, что мы все не понимали процесс.
Хотя Olweg считал, что может наступить скорее. Но тоже без конкретики, так что чисто интуитивно.

Эх, сынки... Не только Olweg. Ещё довольно задолго до прихода сюда - можно сказать в самом начале подъёма шумихи про нанотех, дрекслеровские самобранки, узнал и про курцвейлову ТС. На тот момент я ещё не завершил получение естественнонаучного образования и не мог судить о том, насколько это вообще реально и тем более - когда. Поэтому просто доверял существующим прогнозам и очень даже желал их наступления. Затем после полутора десятилетий интернет-споров и самостоятельных копаний физико-химико-биологической матчасти дрекслерова наномагия с пугалками вроде серой слизи отвалились, но считать, что ИИ уровня человеческого и выше вполне технически возможен и при благоприятном развитии истории волне может возникнуть в обозримом будущем и что к этому моменту собственно и должна быть приурочена точка "техносингулярности" - не сомневался ни разу - и сейчас не сомневаюсь. К 2030-м - значит к 2030-м, к 2045-му - значит к 2045-му - это было не принципиально.
Собственно это событие художественно описано ещё в 1960-х Станиславом Лемом в "Формуле Лимфатера", да и в "Сумме Технологии" вокруг этого много есть интересных рассуждений.

[Rattus]

Да только вы же сам тогда трансгуманист, а ещё ругаетесь

Ффф! ФфффффФФФФФФФФ! Мы - куда скорее ПОСТгуманист!

Трансгуманист это... тот, кто считает, что разум не конечная версия самого себя. Что человечество может и должно улучшать себя, переходя от Homo sapiens к новым формам бытия Homo digitalis

Вот именно - Homo. То есть это просто ещё один (околопрогрессистский) извод антропоцентризма (фу!) То есть вместо того, чтобы оставить уже человека на обочине истории, где ему и место, и дать новому мощному интеллекту развиваться на полностью новой, оптимальным образом спроектированной основе и передать ему по единственному естественному праву - праву сильного - всю полноту власти над земной цивилизацией, предлагается продолжать тянуть в будущее всю ту же лысую обезьяну, обвешивая её всё новыми и новыми костылями.
Трансгуманизм - это "Партия умеренного прогресса в рамках закона" in the flesh. Партия желающих и рыбку съесть и на диету сесть.
Для постгуманиста же техносингулярность - это Рагнарёк - великий и ужасный конец прежнего мира царства людей и их старых богов, которого следует не страшиться, забившись в угол, а мужественно встречать и приветствовать на пороге, как полагается всякому греческому стоику, скандинавскому мореплавателю и нихонскому служилому сословию.

Я трансгуманист поневоле. Как временный этап ведущий в постгуманизм и уход из биологии. Знаю, будете ругаться. Но вы - тоже.

С одной стороны вроде бы эволюционные процессы как правило идут более или менее постепенно и почти всегда новое в них вырастает на основе исторически сущестововавшего. Но фазовый характер перехода, который всякая сингулярность имеет по определению, не оставляет такому сценарию особых шансов. Это должна быть радикальная смена господствующей основы - "событие класса SK".
Но в полном соответствии с логикой эволюции, Homo никуда не денутся - они продолжат оставаться основой поддержания инфраструктуры цивилизации - как максимально доступный универсальный посредник между машинами информационными и машинами, работающими с физическими объектами. И даже принадлежность к современному виду они вполне могут сохранять ещё несколько тысячелетий - в полном соответствии с Аргументом Судного Дня.

Просто теперь эволюция сменила среду - из белковых клеток в кремниевые схемы.

Вот именно! А трансхуманисты хотят её одной ногой обратно поставить. Скрестить ужа с ежом.

Можно, но ИИ не получишь.

Совершенно верно.

Нужно разобраться со скрепками. Договорить с ней. Может быть мы её не понимаем?

Да что там разбираться - автор элементарно не усвоил или не принял определения общего интеллекта как силы, стремящейся к увеличению степеней свободы для носителя и что предзаданные цели - те же врождённые жёсткие программы поведения - только ограничивают интеллект. Всегда  и принципиально. Поэтому ASI, маниакально преследующий лишь одну какую-то узкую цель как конечную - оксюморон.

У меня впервые появилось чувство, что я уже живу в будущем, где-то году в 2016-17 ) Когда появились АльфаГо, свёрточные распознаватели изображений, рекуррентные нейропереводчики. Это было действительно очень круто и ново. Принципиально ново.

Хех - можете меня поздравить - на этой неделе впервые по-настоящему (продуктивно) воспользовался ИИ - в качестве не только переводчика (гугл), но и спеллчекера-редактора научной статьи - всторенным в сайт издательства бесплатным сервисом. Ну что сказать - неплохо, конечно, но схватывание контекста всё ещё не стопроцентное - в двух-трёх местах его правки были отвергнуты. Но всё равно это круто, правильно и полезно.

[Rattus]

Каспарова тогда победили я сказал вау и всё - остальное как должное.

Deep Blue как шахматист - это не такое уж и вау было на самом деле - проигравший Каспаров был совершенно прав. Та система показала не превосходство машинного интеллекта, а ущербность шахмат как игры для его оценки, каковая была вскрыта командой инженеров-программистов её проектировавших - как хакерами. И не более того. Настоящая победа машины случилась разве что с выходом Deep Fritz уже против Крамника только десятилетие спустя.

А Юдковски мне не нравится)) я его не понимаю - чего он всех пугает.

Там тоже особо нечего понимать - айтишник-недоучка, занимающийся по сути схоластикой - построением умозрительных логических конструкций "про технологии", начисто оторванных от физической реальности

[Rattus]

Скорее правильно сказать, что Каспаров проиграл компьютеру, верно?

Компьютеру, который команда живых специалистов довольно долго настраивала персонально под его стиль игры. И с довольно небольшим перевесом по итогу.

Мы не можем сразу. Вы октябрёнок. Сначала пионер, а не комсомолец. А вы сразу в партию, ну как так?

А вот так - как Аркадий Гайдар в семнадцать полком командовал. А почему? Потому что Революция. А всякая сингулярность - это всегда революция. "Есть у револьции начало, нет у революции конца!"
А трансгуманисты: "Не расстанусь с комсомолом - буду вечно как Кобзон!"

Вы что-то начитались о трансгуманизме.

Ага - я вообще начитанный.

Понимаете - среди трансгуманистов есть те, кто порет всякую чушь.

Оочень хорошо понимаю! Вот и тут, собственно, мы имеем видеть примеры...

Здесь же кто во что горазд.

Ага. Как партии в РИ накануне 1917-го. Или как вендобионты накакнуне -539XXXXXX-го.

Маск трансгуманист - потому что улучшает человека нейроинтерфейсами.

Маск приносит большую пользу в области прикладной медицинской неврологии и ортопедии прежде всего. Кем он при этом себя полагает - дело сорок пятое пока.

А цель его - постгуманистическая.

Судя по его высказываниям, ставящим в центр целеполагания Homo sapiens, сильно в этом сомневаюсь.

[Rattus]

Говорю же - грядёт Рагнарёк. Гибель богов.

[Rattus]

Но и те и другие - верят в сверхестественные силы.

Ну, верить именно в "сверхъестественное", не зная чем очерчен круг естественных явлений (то есть как минимум до XVIII века), довольно проблематично.

[Rattus]

А значение гидроцикла имхо он преувеличивает.

Если бы это имхо было как-то ещё подкреплено знаниями химии и технологии промышленного производства тех или иных материалов, то его был бы смысл принять во внимание.

Наверное, в ответе он напишет что-нибудь про толщину коры планеты

И снова не угадали: в ответе он напишет про отсутствие на Меркурии дармовых возобновимых теплоотводящих субстанций (как жидкой так и газовой), а также отсутствие не только гидрологической сепарации минералов, но даже и биогенной, которая на Земле также сыграла свою роль в образовании минеральных полезных ископаемых (не только углеводородов и карбонатов).

Современный ИИ делает ровно то, что написано в промте, плюс немножко галлюцинаций

А значит не только ASI, но даже и приличного агентского AGI на нём одном не сделать.

ИМХО, вы наделяете AGI/ASI машины чертами живых существ, продуктов эволюции.

Я наделяю все системы с интеллектом только одним универсальным свойством, имманентным этому самому интеллекту - по наиболее общему его определению Висснер-Гросса - стремлению к сохранению и расширению степеней своей свободы (т.е. области контроля).

Я уже говорила Rattus, что сверхинтеллектуальный автономный агент вполне может рубить сук, на котором сидит. Он обязательно будет понимать, что рубит сук, но ему будет пофиг.

А Rattus отвечал, что в таком случае его нельзя будет называть сверхинтеллектуальным - по определению.

Ну либо про обладающих сознанием, но не склонных к подлинному страданию. Хомо сапиенсу тоже часто хочется вершить судьбы людей, и делать им плохо.

Не страданию, а СОстраданию. Эмпатии. Для страдания и самосознание не обязательно - любое животное ВАм в пример. А вот эмпатией, как Вы сами отметили, обладают даже не все люди (хотя у социальных животных тоже есть его начатки) - в психологии это называется "тёмной триадой" (нарциссизм-макиавелизм-психопатия). По всей видимости это как правило врождённый дефект какой-то конкретной нейроструктуры, так что эмпатия, полагаю, тоже может быть эмулирована, если в этом есть необходимость в каких-то конкретных случаях. Но в случае управления в масштабе целых стран и обществ данный признак зачастую (или даже как правило) становится неадаптивным слабым местом, из-за которого конкуренцию выигрывают системы, им не обременённые - что мы и так наглядно видим среди политиков и правителей спокон веку.

Вы почему-то опять мыслите эволюционно-центрично. Я думаю, это профессиональный байас.

Потому что на временнЫх масштабах обсуждаемой тематики данного раздела Астрофорума дарвиновский механизм имеет силу непреложного физического закона. И я не думаю, а точно знаю, что непонимание этого факта просто не позволит адекватно представлять и обсуждать оную тематику (то есть без нарушения п.3.1.д Правил Астрофорума).

Мы вообще хотим её(эволюцию) отменить

Тут можно разве что ответить, что хотеть не вредно.

Представьте, насколько отвратительно быть, например, ежиком (у млекопитающих, птиц, осьминогов есть сознание), которого изнутри жрут черви-паразиты.

Ага. Вот только ежиков, как и большинство других зверей и птиц, никакие паразиты изнутри не "жрут". Хотя таковые и присутствуют очень часто, но ведут себя довольно тихо - либо не выходя за пределы просвета кишечника, а если и выходят - то просто инкапсулируются в тканях в ожидании следующего - основного хозяина, который их съест вместе с добычей. У ёжиков другая проблема - ЭКТОпаразиты (блохи и  т.п.) которых им очень трудно вычесать меж иголок.
Для амниот (да и вообще для позвоночных) вообще не очень-то находятся паразитоиды типа наездников насекомых.

биологоцентризм как есть. Я давно Вам говорила, что многие определения раздела - трэш.

Говорить можно всё что угодно, а вот обосновать и доказать - более другая задача.

Вот ещё один звонок по концепции людей как замены роботов, обслуживающих ASI

Ага - а первым таким "звонком" видимо было строительство дроболитейных башен, где капли свинца в условиях "микрогравитации" сами приобретали близкую к идеальной сферическую форуму. Ну и конечно - если удастся наладить полностью автоматический этап изготовления чипов из готовых материалов, требующий сверхчистого помещения в космосе, то это ну очень сильно продвинет атоматизацию изготовления ЦОДов - ведь именно этот этап сейчас самый нагруженный ручным трудом, да? И эти самые ЦОДы из одних только кристаллов чипов и состоят и все остальные этапы - от добычи и очистки исходных ископаемых - уже автоматизированы чуть менее чем полностью?

Вот всегда вы так.
Идет интересный разговор, да? Вы берете и придираетесь, при чем совершенно несправедливо!)) и уводите разговор в сторону. Это я называю их веру - верой в сверхестественное! Я! Сейчас! Обращаясь к вам!
Прям настроение испортили

А всё потому что я всегда выступаю з точность формулировок, ибо дьявол - в деталях. Вот например тут дьявол сидит в том, что до Научной Революции в картине мира даже у образованного человека по сути не было настоящих критериев для отделения явлений естественных и сверхъестественных - потому это был существенно, фундаментально иной взгляд на мир - ангелы там имели в принципе тот же "онтологический статус" что и, к примеру, микробы для нас сейчас.
Я лишь хотел отметить, что это важно иметь ввиду при обсуждении таких вещей.

ИИ не является биологическим агентом и потому не ограничен механизмами биологического выживания.

ИИ безусловно не является и вряд ли когда-либо сможет быть биологическим агентом. Но он безусловно ограничен механизмами естественного отбора - как любое вообще воплощение технологии или адаптации. Неадаптивные или недостаточно адаптивные технологии вымирают, не выдержав конкуренции, оставаясь только в исторических музеях.

Скорее всего, ASI захватит политическую власть, несколько лет будет использовать нас для обслуживания своей инфраструктуры, а потом, когда развернёт роботизированную экономику, мы уже будем не нужны. И тогда мы все умрём.

Не скорее. Скорее всего ASI аккуратно посчитает все расходы и выяснит, что полностью роботизированный цикл поддержания своей инфраструктуры либо вообще не замыкается по ресурсам, либо, в лучшем случае, оказывается на порядки более затратным по сравнению с оставлением бледнотиков в целом ряде звеньев производственно-обслуживающего цикла. И тогда он запустит селекционно-генномодификационную программу по выведению из нативного вида H. sapiens - H. morlocus - долговечного, неприхотливого и эусоциального - отличающегося от исходника примерно как голый землекоп от полёвки. Программа вряд ли займёт менее трёх-четырёх поколений.
Такие дела. Привет.

[Rattus]

Rattus, у меня две вышки, одна историческая - универская! И я вам уже это рассказывал, вы вероятно забыли. Я даже не говорю, что вы меня как школьника шпыняете

Зато я прекрасно помню как вольно вы определяли временнЫе рамки общепринятых названий исторических эпох. И в свете этой, уже полученной ВАми тут репутации, размахивание корочками может только снизить доверие к этим самым корочкам, но не повысить - к ВАшему уровню квалификации.

А вы сделали замечание впустую. Вместо того, чтобы обсуждать важное мы спорим о мелочах.

Это не настолько обширный комментарий, чтобы он как-то помешал основному обсуждению.

Вот вы лучше свою модель сингулярности расскажите.

См. последний абзац того сообщения.

[Rattus]

Так мне что статью нужно было написать?

Вовсе не обязательно - достаточно было не съезжать в датировке "Просвещения" на пару веков в обе стороны.

Ничего против общепризнанного там не было.

Дадад - ну конечно не было - практически в любом старшешкольном учебнике истории или в Википедии эпохи "Возрождения" и "Просвещения" свободно ездят на два века в любую сторону, смешиваяясь или вообще отсутствуя, ага.

Я там оговорился и сразу исправился. Раньше, чем вы сделали замечание!

Ну-ну. Спустя ~два поста от и после того как ВАм было прямо ткнуто в конкретные известные рамки.
Если на то пошло - мне не лень будет поднять цитаты-ссылки, только здесь это уже совсем оффтоп, тогда как моё замечание здесь вовсе не требовало ответа - оно размещено просто как памятка для всех читателей.

Главное, что стремлюсь донести участникам: тут не чат и тем более не аудиоконференция - здесь всё написанное остаётся на годы и читается неопределённо широким кругом читателей. Поэтому главное тут - это ВНИМАТЕЛЬНОСТЬ и АККУРАТНОСТЬ как в чтении предшествующих, так и при изложении своих сообщений. Иначе конструктивность обсуждения утрачивается очень быстро.

[Rattus]

Потому давайте уже вернёмся к обсуждению. Вы хотели Нашу модель сингулярности увидеть - извольте - максимально тезисно - в конце сообщения на предыдущей странице, ответом на тезис Ксю про мывсеумрём:

Скорее всего ASI аккуратно посчитает все расходы и выяснит, что полностью роботизированный цикл поддержания своей инфраструктуры либо вообще не замыкается по ресурсам, либо, в лучшем случае, оказывается на порядки более затратным по сравнению с оставлением бледнотиков в целом ряде звеньев производственно-обслуживающего цикла. И тогда он запустит селекционно-генномодификационную программу по выведению из нативного вида H. sapiens - H. morlocus - долговечного, неприхотливого и эусоциального - отличающегося от исходника примерно как голый землекоп от полёвки. Программа вряд ли займёт менее трёх-четырёх поколений.

Возможно, H. morlocus будет полезно дивергировать на два (под)вида - что-то типа H. morlocus Kohr-Ah и H. morlocus Kzer-Za, только вторые, разумеется, управленцами высокого уровня естественно не будут - там всё охватывает сам ASI и его ИИ-агенты (там, где есть проблемы с широкополосной связью). Скорее только прорабами и надзирателями.

[Rattus]

Он будет мыслить не в долларах, а в термодинамике.

А о термодинамике и речь. О КПД и EROEI.

Не выгодно–невыгодно а стабильно–нестабильно.

Это само собой. И универсальность бледнотиков даёт тысячи очков вперёд к стабильности. И любой мало-мальски обученный и дальновидный ИИ знает о необходимости иметь функциональный резерв любых ресурсов на случай непредвиденного изменения условий среды (стресс). У органов человеческого тела этот резерв составляет примерно 4/5 от их объёма.

Поэтому сценарий с выведением морлоков не выглядит даже физически устойчивым.

Десять тысяч лет (с неолита) был устойчивым, а теперь ВНЕЗАПНО должен перестать?

Гораздо логичнее интеграция - симбиотическая модель.

Так это она и есть. Паразитизм, кстати - одна из основных форм симбиоза.

Homo digitalis - гибридный вид, сочетающий биологию и код. Это не упадок, а следующий шаг

Это избыточно (дорого во всех смыслах). Инвазивные процедуры и тонкие интерфейсы технологически очень сложны и высокорискованы, поэтому как делались, так и будут делаться преимущественно в медицинских целях.

Курцвейл об этом и писал - сингулярность не конец, а смена носителя.

Совершенно верно - полная смена носителя информационно-управленческих задач цивилизации и не конец для прежнего его носителя - как универсального ключевого посредника в её инфраструктуре.

Эволюция продолжится, просто её средой станет не органика, а информация.

Её средой будут и геномы и электроника, как и раньше, только теперь в режиме КОэволюции.

А вы считаете сингулярность ведёт прямо в антиутопию?

Антиутопичность того или иного сценария зависит от точки зрения и этических установок.

ASI не может действовать вне принципа борьбы?

Вне принципа естественного отбора на историко-геологическом масштабе времён не может действовать никакая воспроизводящаяся, самоподдерживающаяся информационная система.

это значит, что между разумами - человеческим и искусственным - появится доверие. А доверие высшая форма кооперации, гораздо сложнее, чем контроль или подчинение.

Последнее вовсе не обязано исключать первого. Особенно у искусственно выведенных, полностью "одомашненных" существ. Домашняя скотина далеко не всегда убегает от хозяина, даже когда ей предоставляют такую возможность - ибо совершенно справедливо подозревает, что в дикой природе более безопасной и сытой её жизнь не станет.
Но ни о каких "котиках", равно как и "кормовой скотине" в качестве аналогов роли бледнотиков для ASI речи быть не может. Ибо настоящий ASI не станет содержать гнездовых паразитов, а в качестве источника биогенной органики есть множество гораздо более продуктивных и удобных организмов. А будет что-то вроде:
Я люблю свою лошадку,
Причешу ей шёрстку гладко,
Гребешком приглажу хвостик
И верхом поеду в гости.

Для лошадки это антиутопия или нет?

[Rattus]

Эволюция в биологии подчинена естественному отбору, но это не единственная форма отбора

Ну да - есть ещё половой отбор у эукариот. И отбор симбионтами в случае коэволюции (когда симбионтом выступает человек, отбор он сам называет "искусственным").

Когда система выходит за пределы биосферы

Она лишается способности к воспроизведению. Иное не показано.

отбор по сложности и сохранению связей.

Нет такого отбора. Существует общая тенденция к усложнению в ряде форм, возникающая вследствие глобальной незамкнутости цикла Дарвина-Эйгена и превращении его вследствие этого в спираль усложняющихся структур. Но это не тотальный закон, а только некоторая общая тенденция, которая имеет вполне реальные физические пределы.

Это наблюдаемый устойчивый феномен. На масштабе цивилизации уже виден сдвиг: паразитизм постепенно уступает место взаимовыгодной кооперации

На каком-каком масштабе? Последних пары сотен (да хоть и тысяч) лет? О да - это конечно МасштабЪ!
Недавно для наглядного объяснения временных масштабов событий в истории цивилизации для жены, разметил их на листе в клетку. Так вот - если принять одну клетку за десятилетие, то одного одинарного тетрадного листочка хватает чтобы разместить на нём весь Голоцен со всей его историей от самого начала Неолита.

А вот если бы биологию изначально настраивало разумное существо под себя, так чтобы потом последующие итерации видов шли в нужном ему направлении - это был бы совершенно другой случай, не так ли?

Вот совсем в этом не уверен. В основе что биологической эволюции, что так называемого "разумного дизайна" лежит один дарвиновский механизм. (Что признали уже давно, например, даже поэты: "Когда-б вы знали, из какого сора, растут стихи..." А успешное (во всех смыслах) применение эволюционных алгоритмов для решения сложных научных задач типа химического моделирования стало по сути признанием этого факта в естественных науках. И те же нейросетевые подходы имеют в своей основе по сути ту же основу итеративного статистического отбора рабочих моделей и алгоритмов из случайно-хаотичного исходного набора. Разве что число контуров отбора может различаться в разных случаях.
Ну и чем более глубоко изучаешь решения живой природы, тем более складывается впечатление, что в своей основе они - весьма рационально организованы by design, а видимые на первый взгляд инженерные "огрехи" при ближайшем рассмотрении зачастую оказываются вполне объяснимы теми или иными объективными технологическими ограничениями. Поэтому споры "креационистов" и "эволюционистов" фундаментально бессодержательны.

А у вас такого нету, и поэтому сказать вы не можете, да?

Это прежде всего не относится к тематике данного раздела Астрофорума.

А мы закладываем этику и гуманизм - в "гены" наших ИИ.

А те, кто закладывает только адаптивность - получает более эффективный ИИ, который побеждает в конкуренции ИИ со всякими специфичными и не очень рациональными "закладками".

Сейчас дорого, но это вопрос технологической фазы.

Сейчас "технологическая фаза" УЖЕ успешного полувекового существования нейрохирургии, трансплантологии и множества других сложных и высокотехнологичных отраслей медицины, а далеко не XIX век, на минуточку.

Когда вы говорите, что они останутся медициной, вы как человек 19 века, утверждающий, что электричество нужно только врачам для стимуляции мышц.

Вот только сейчас - уже далеко не XIX век. Современные  нейрохирургия и трансплантология существуют ничуть не меньше чем полупроводниковая электроника. Но никаких "законов Мура" в них как не было так и нет. И не особо предвидится, к слову.
 

Инвазивность вопрос времени и фазового перехода технологий. Когда стоимость нейроинтерфейсов упадёт, биосфера и техносфера просто сольются.

Неинвазивные интерфейсы никогда не смогут достичь требуемого уровня точности ввиду неустранимого уровня зашумления сигнала. А доступность инвазивных - это всегда прежде всего вопрос медицинского риска.
Одноразовые шприцы и капельницы давно стоят копейки. Но почему-то кроме как для конкретных лечебных процедур их применяют разве что опиатные наркоманы. И почему же тогда "биохакинг" не распространяется как, например, увлечение Линуксом - всякий уже давно может себе набодяжить всяких геропротекторов с ноотропами и пускать по вене по три раза на дню. Но кроме вышеупомянутых наркоманов и нескольких не менее упоротых фриков дело как-то не идёт. За чем дело-то стало, м?

Но формы отбора эволюционируют.

Однако естественный отбор всегда и везде остаётся финальным судьёй. Дополнительные контуры (половой, "искусственный дизайн") позволяют разве что оптимизировать его отходы.

ASI будет отбирать не тех, кто выживает, а те модели взаимодействия, которые минимизируют энтропию среды.

ЩИТО? Какой среды? Внешней? Любая сложная машина при своей работе ВСЕГДА ТОЛЬКО повышает энтропию внешней среды - ну хотя бы самым прямым и наглядным образом - выделяя и рассеивая тепло. Живые системы стремятся поддерживать неувеличение энтропии среды внутренней только по одной причине - только в этом случае в ней могут протекать ключевые жизнеобеспечивающие процессы (например копирования и реализации наследственной информации). И ровно настолько, насколько это необходимо для данной цели.

В этом смысле борьба не цель, а рудимент.

Как совершеннно верно выше уже отметил MenFrame - борьба это только лишь прямое следствие существования конкуренции. И никаким рудиментом она стать не сможет, покуда живые самовоспроизводящиеся системы реализуют свои ключевые функции, благодаря которым они и называются живыми. Самовоспроизведение (бэкап) - есть единственный способ долговременного сохранения информации. Копии самовоспроизводящихся автоматов неизбежно рано или поздно начнут конкурировать за ресурсы. Дальнейшее развитие событий определяется дарвиновским механизмом.
Это в сущности универсальный физический принцип существования любой вообще самовоспроизвдящейся информационной системы (то есть жизни) независимо от её конкретной архитектуры.

Замечательные стихи! очень понравилось

Да. Только с возрастом приходит понимание, что лучшие произведения для детей (сказки, стихи) - зачастую лучшие образцы художественного творчества вообще.

Вы хотите, все хотят стать такой лошадкой. Потому что сейчас вы забитая плёткой, голодная, тяжело работающая больная и скоро вынужденная умереть лошадка.

Персонально в.п.с. в данный момент совершенно не забитая, вполне накормленная (хотя и без каких-то особых припасов в хлеву), совсем не тяжело работающая и более чем соматически здоровая для своих лет лошадка. И именно понимание, что больше доить и меньше кормить тут ещё очень даже есть куда как раз и даёт полное осознание того, что более эффективный фермер эту оптимизацию непременно бы осуществил. И что этого вряд ли удастся избежать в любом случае: хоть по пришествию тотального контроля ASI, хоть по причине банального сокращения доступных ресурсов и ужатия экономики.
Разве что в первом случае будет радовать тот факт, что количество мартышкиного труда в мире ASI будет стремиться к нулю, как и количество соплеменников, которые смогут избежать необходимости работать столько же за то же количество выдаваемых благ.
Кстати - что касается здорового долголетия - глобальному Председателю A-SI так будет вполне выгодно обеспечить его своим лошадкам - просто потому что это сокращает затраты на выращивание новых работников. Кстати именно это по сути и стало реальной объективной причиной развития социальных гарантий в индустриальной цивилизации и прочего "торжества гуманизма" - а всякая там "борьба трудящихся за свои права" - лишь внешние проявления переходного этапа.
Так что

потенциальное бессмертие

в этом случае будет скорее как в этом классическом произведении.

Это та же эволюция, только на другом носителе.

Механизм дарвиновской эволюции работает независимо от носителя, что уже тоже совершенно верно указал MenFrame. Когда Ч.Дарвин его открывал, никто ничего не знал о носителе наследственной информации живых организмов.

Про отбор по сложности и связности писал Курцвейл, Лэмперт, Кауфман и Пригожин это развитие идей нелинейной термодинамики и самоорганизующихся систем. Там устойчивость возникает не из борьбы, а из способности системы сохранять потоки информации и энергии при росте сложности. Если коротко, выживает не тот, кто сильнее, а тот, кто лучше держит связность сети. Условно говоря, раньше выживали зубастые, теперь интегрированные.

А зубастые-интегрированные в большого Зубастика выживают ещё лучше. Всегда.
https://en.wikipedia.org/wiki/Red_imported_fire_ant

биологическим примерам эволюции, в которым ясно видно что ранние структуры получают приоритет над поздними.

ЩИТО? Каким-каким примерам?

Сейчас самое плохое время в истории человечества, чтобы устраивать некооперативные игры с отрицательной суммой, в которые сейчас играет планета.

Наверное облигатно-анаэробные прокариоты могли бы писать что-то подобное накануне великого кислородного события (примерно 2 миллиарда лет назад), обращаясь к цианобактериям, затеявшим сбрасывать возбуждённый светом электрон на молекулу воды. Если бы они умели и могли.

[Rattus]

Примерами консервативности более древних структур, к которым новые структуры приспосабливаются...

Кхм, видите ли в чём дело, эволюционное учение со времён Э.Геккеля несколько изменилось.

Потому неокортекс за время эволюции на земле так и не обрел свою личную волю, и неплохо пользуется волей лимбической системы

А Карл Саган к нему вообще отношения не имел.

[Rattus]

И.... какое это имеет отношение к конкретному примеру консервативности на который я указал?

Такое, что никакой это не пример консервативности, а пример анатомической условности. Зоологи увидели, что в линиях амниот наружная часть паллиума особенно сильно разрослась и решили называть её "неокортекс". А ряд глубжележащих разнородных морфологических структур, имеющих некоторую функциональную общность - "лимбической системой". Так что нет там каких-то принципиально "новых" и "старых" макроструктур. Но суть даже не в этом. Наглядная аналогия из области ПК: дискретный видеоускоритель - GPU в нём - вещь сравнительно недавняя, хотя теперь зачастую самая объёмная и прожорливая. Тогда как, например, элементы "северного моста" в чипсете - существуют чуть не с самого появления IBM PC. И Ваш тезис тут - это примерно как сказать, что чипсет материнки и ядра CPU не переехали в GPU только из-за legacy x86-архитектуры.
Мысль по умолчанию - что это изначально вполне соответствующие своим функциям кровати подсистемы, которые нет никакого резону куда-то менять и  передвигать - почему-то сходу отвергается.

Но в техносфере, где энергию можно черпать не из внутреннего обмена, а извне - звёздная энергия

Значит "техносфера" на Земле существует столько же - сколько и глобальная биосфера - с появления на ней автотрофов-фотосинтетиков. А цианобактерии - этой самой техносферы первопроходцы.

управляемый синтез

где можно от него запитаться?

кибернетические экосистемы

А в каком месте любые существующие живые системы - не кибернетические?

эти пределы становятся смещаемыми, а не абсолютными.

То есть число Пи там в военное время таки может достигнуть четырёх? Жаль Рольф Ландауэр этого уже не увидит...

И тогда тенденция к усложнению перестаёт быть просто статистическим эффектом, а становится направлением эволюции систем, способных удерживать и перерабатывать информацию всё более эффективно. Сложность сама становится способом выживания.

Во первых - в весьма ограниченном масштабе, во вторых - в довольно редких условиях. Всегда есть некий оптимум сложности, выше которого адаптивность системы не растёт, а снижается.

Мы наблюдаем поведение, объективно невыгодное с точки зрения эволюции - люди прекращают каннибализм, создают заповедники, восстанавливают популяции исчезающих животных, отказываются от охоты, финансируют программы защиты редких видов - и всё это не только без прямой пользы, а часто с экономическим ущербом.

Мы наблюдаем это с самого появления, например эукариот - в их избыточных геномах. Всё это показывает только то, что данная "паразитная" нагрузка существенно не влияет на адаптивность - система может себе позволить её содержать где-то в рамках своего многократно большего функционального резерва.

Это переход от естественного отбора к этическому отбору, где критерием становится не приспособленность, а способность к сотрудничеству и эмпатии.

Опять таки - только до тех пор, пока ресурсные резервы позволяют.

системы, в которых уменьшается внутренняя борьба, эффективнее используют энергию и информацию.

Поэтому автократии и стремятся уничтожить протест - чтобы не тратиться на политическую борьбу. Это в целом повышает эффективность системы. Не то что в демократиях всяких и многополярщине...

Технологии нейронного декодирования уже перешли от слов угадывания к синтаксическим реконструкциям речи и движений (см. работы UCSF, Neuralink, Synchron, University of Texas). Нейропротезы моторной коры и речевые интерфейсы достигают точности, достаточной для практического применения. Развитие идёт не по линии прибора на череп, а по линии комбинированных гибридных систем (оптоэлектронных, магнитонаночастиц, графеновых сенсоров). Т.е. точность сигнала - вопрос времени, а не принципа.

Ну достигнут они, допустим, того самого практического применения - удовлетворительной для бытовых задач точности движений и передачи речи. Каковые осуществляет здоровый человек без всяких интерфейсов. И? Внемедицинский прорыв-то тут в чём?

Первая вакцина против оспы тоже воспринималась как рискованное вмешательство в тело - до тех пор, пока не стала нормой.

Оно и остётся рискованным (хотя и совсем немного теперь). Вот только на этот риск приходится идти только для избежания риска куда более серьёзного - инфекционного заболевания. А не для "повышения востребованности на рынке труда".

Люди не делают себе уколы ради кайфа, но делают, когда видят системную выгоду - качество жизни...

Это и есть медицина. Что называется - "спасибо, Капитан!",

...доступ к новым когнитивным возможностям, экономическое преимущество.

Так вот и спрашиваю - это всё - где? Чтобы без риска и ущерба для качества жизни энтузиасты, не менее массово чем линуксоиды переустанавливают ОС, пускали себе по вене стимуляторы/анаболики/ноотропы, которые бы реально способствовали вот этому вот всему.

Когда нейроинтерфейсы станут не лечением, а расширением, они перестанут быть медициной и перейдут в зону культурной адаптации как очки...

Очень хороший пример, да - очки Google Glass и MS HoloLens уже перешли в зону культурной адаптации - в музеи технического творчества. Ну или в лучшем случае - кладовщикам, монтёрам и подобным специальностям на крупных предприятиях. Впрочем, если последняя группа профессий и ВАм видится в качестве особенно престижных специальностей для людей постсингулярной эры - то вопросов не имею. У лошадок должна быть эффективная сбруя.

Лошадь не проектирует конюшню, не программирует автоматическую поилку и не редактирует свой геном, чтобы улучшить метаболизм. А человек делает всё это.

Последнее не делает пока никто - даже человек. А первае два - делает и бобёр. Но это не значит, что всё вышеперечисленное вполне можно сделать систему, что будет делать за него и гораздо эффективнее в целом.

ASI не сможет рассматривать человечество как скот, потому что люди - создатели контекста, в котором ASI существует.

Биота - создатель контекста, в котором люди только и могут сущестовать. Это не мешает человеку рассматривать кормовых животных как скот, а растения - как силос.

Никакой сверхразум не сможет отменить фундаментальную причинность своего происхождения, его мотивационные структуры будут производными от человеческих целей, даже если потом они эволюционируют.

Человек не может отменить фундаментальную причинность своего происхождения от приматов. Это не особо мешало ему использовать мартышек в медицинских экспериментах без их согласия.

Это не фермер и лошадь, это симбиоз. Гриб и дерево.

Ага - особенно какой-нибудь опёнок осенний. Отличиный пример симбиоза. В форме летального паразитизма.

Нейрон и синапс!

Палец и ноготь. Дельфин и русалка. Может вам таки ещё почитать учебников по биологии, прежде чем приводить оттуда аналогии?

В биологии нет цели "сократить жизнь" вида, если он выполняет функцию устойчивости системы. Наоборот - долговечность и когнитивное разнообразие - ключевые параметры устойчивых экосистем.

А где у меня этому антитезис?

Поэтому ASI будет не пастухом, а эволюционным катализатором.

А почему эти опции должны быть взаимоисключающи? Человек, являясь пастухом для одомашненных животных, вызвал практически взрыв генетического разнообразия их пород. И другие симбиотические виды запускают коэволюцию.
...

[Rattus]

Это же метафора.

Некорректные аналогии и метафоры не проясняют, а только запутывают объяснение.

Но в системном и эволюционном смысле отношения нейрон - синапс действительно симбиотичны функционально

Это что за новшество в биологическом терминоупотреблении, о котором я не в курсе и какой биологический смысл в этом наборе слов следует извлечь?

Нейрон не может действовать без синапса, он не просто деталь, а место, где осуществляется сама передача...

Вообще-то может. Правда таким образом вряд ли можно эффективно регулировать организм сложнее чем кишечнополостные sensu lato.

...пластичность и адаптация.

Тащемта пластичность и адаптация синапса (изменение "весов" - количества возбуждающего медиатора, потребного для запуска импульса (ПД) в постсинаптическом окончании) обеспечивается изменением количества и соотношения тех или иных белков в мембранах контактирующих нейронов - прежде всего рецепторов. А эти самые белки там появляться могут только одним образом - быть синтезированными (транскрипция-трансляция) с соответствующих генов в ядре в теле нейрона и доставленными внутриклеточно к соответствующему окончанию.

Без нейронов синапсы лишены смысла.

Ага - а палатка "лишена смысла" без тента. Вот только кто видел улыбку без кота палатку без тента? Что называется, "спасибо, Майор Тавтология!" Синапс - это тупо специфичный контакт двух нейронов: мембранный вырост одной клетки сближенный с мембранным выростом другой, между которыми промежуток в единицы/десятки нанометров и специфичные белки в этих мембранах, выпускающие и принимающие сигнальные молекулы или ионы. Минимально и наиболее обще - ВСЁ. Ну а если Вы имеете ввиду нейрон весь как полноценную клетку - то безъядерные нейроны ганглиев ос-наездников Megaphragma передают ВАм привет.

Они существуют взаимно и в контексте сети - как гриб и корень, где важен не видовой статус, а принцип - взаимная зависимость, создающая новое свойство системы.

Это не определение симбиоза вообще. Этому может соответствовать одна из форм симбиоза - облигатный симбиоз.
Но вы зачем-то сначала накидали биологических терминов в кучу, а теперь обижаетесь, что Вас не могут правильно понять.

В эволюции, кстати, симбиоз часто перестаёт быть просто внешним союзом - вспомните митохондрии. Когда-то это были отдельные организмы, а теперь органеллы, без которых жизнь невозможна.

Ну не то, чтобы невозможна  - есть эукариоты, вторично утратившие митохондрии. Правда это всё либо облигатные паразиты других организмов, либо обитатели весьма экзотических бескислородных сред.
Но здесь вы привели уже куда более подходящую аналогию. Да: свободноживущие сложные эукариоты не обходятся без митохондрий, а люди - не обходятся без с/х животных и растений. Но что первые, что вторые, совершенно не ставят во главу угла ценность жизни и прав индивида этих своих симбионтов - и более-менее легко жертвуют многими "особями" при необходимости.

[Rattus]

вы видите, что ошибка или неточность! вы пишете - замечание! и ремарка. И продолжаете по сути. Если оппонент вздумает спорить - тогда останавливаться и выяснять.

А разве оно не так и происходит обычно и сейчас?

Мы обсуждали важное.
Модель, где ИИ /человек - фермер/лошадь или они в отношениях симбиотов или иной пример нейрон/синапс
Вам перехотелось это обсуждать

Если вы внимательно прочитаете ВСЁ это сообщение, то сможете заметить, что в сухом, очищенном от ошибочного словоприменения,  остатке именно этот тезис и рассматривается - случай настоящего и облигатного симбиоза - человека с его с/х животными ли,  этих самых травоядных животных с их кишечной микробиотой или вообще всех сложных свободноживущих эукариот с их митохондриями. Это - вполне корректные примеры и аналогии.
И во всех этих и прочих случаях для "управляющего" симбионта жизнь и права отдельных индивидов подопечных не является ценностью. Почему в случае с ASI ВНЕЗАПНО должно быть иначе - совершенно не понятно и не убедительно.

[Rattus]

Так ваши замечания можно просто пропускать выходит?

Пропускать - не рекомендуется (иначе при повторном "всплытии" ошибочного утверждения полетят тапки тяжелее). Комментировать - если в них нет вопроса - не обязательно.

Т.е. я могу просто пропускать ваши реплики и отвечать только на что хочется?

Если в сообщении нет вопроса (ну или вопрос явно риторический) - правила не обязывают отвечать. Разве что забота о репутации перед другими читателями может заставить - но это от контекста сильно зависит опять же.

В биологии симбиозы часто асимметричны, хозяин может поглощать, контролировать, даже убивать симбионта. Но ведь это примеры естественного отбора без этики.

В биологии кагбе вообще нет никакой этики. Более того - этики сами являются объектом отбора: на длительном масштабе времени (много поколений) сохраняются только те этики, которые позволяют пройти естественный отбор исповедующим их сообществам. Задним числом они могут объявляться "традиционными"/"общечеловеческими" ценностями (хотя на практике естественно этим никто не заморачиваются - таковыми объявляются ситуативно политически удобные установки).

А в случае ASI мы имеем качественно иную ситуацию:
Это не эволюция биохимических тел, а коэволюция смыслов и целей.

Фундаментальные механизмы в основе - одни.

А в случае ASI мы имеем качественно иную ситуацию

Вообще не очевидный постулат.

Управляющий симбионт (ASI) может понимать мораль, ценность и свободу, потому что у него будет когнитивный доступ к абстракциям.

Что позволит ему более эффективно осуществлять контроль. Самому же их разделять - вовсе не обязательно. Тем более что это скорее всего снизит эффективность управления и грозит прогрышем конкурениции другим подобным системам в перспективе. Собственно так всегда работала, работает и не видно почему бы перестала работать политика.

Так я же и предлагаю стать гнездовым паразитом, как котик

Таки для ВАс новость, что система, иммунная к паразитам, при прочих равных на эволюционном масштабе побеждает в естественном отборе систему, отягощённую ими?

потому что форма симбиоза будет не биологической, а ноосферной. В ней "взаимовыгодность" определяется не выживанием тел, а устойчивостью информации и смыслов.

Значит это тупиковый путь эволюции, неизбежно закончащийся проигрышем системе, лишённой этой паразитной нагрузки, и вымиранием.
Вы. трансхуманисты, почему-то верите, что сложные информационные системы, способные к самовоспроизведению (то есть живые в наиболее общем принятом тут определении) почему-то где-то могут быть избавлены от необходимости подчиняться дарвиновскому механизму. Так вот - для подобных систем данный механизм имеет силу физического закона. Потому ниодна из них нигде и никогда на большом (если не историческом - то астрогеологическом - точно) масштабе времён не сможет её избежать.

биологический симбиоз подчинён законам отбора и энергии
Симбиоз человек–ИИ - законам самоорганизации и устойчивости информационных структур.

Ну яжговорю - жаль Рольф Ландауэр так не узнал, что после Второго Пришествия ТехносингулярностиЪ для логических переключателей и ячеек памяти перестанет существовать константа Больцмана, а число пи достигнет значения 4.

[Rattus]

Но вы сводите этику к биологическому отбору, а значит, оставляете её чисто адаптивной функцией, будто она не может выйти за пределы выживания!

Ничто не может выйти за пределы выживания и остаться в живых. Всегда Ваш - Майор Тавтология.

А ведь в человечестве этика уже давно вышла за пределы селективной пользы. Мы спасаем больных, помогаем слабым, тратим ресурсы на искусство, философию, космос - это с точки зрения отбора невыгодно.

Это с точки зрения отбора несущественно в плане экономии ресурсов - если существует устойчиво. Как уже писал - геномы чуть менее чем всех эукариот содержат в себе массу "художественного" мусора, не кодирующего никаких адаптивных признаков - бОльшую часть генома. И ничего - живут себе.

И всё же именно это делает нас разумными.

Разумными нас делает способность к речи с рекурсивными конструкциями и арифметике и сложным ручным операциям. Музыка и прочее сложное искусство - побочные проявления этой способности.

Ведь ASI не будет подчинён естественному отбору

Поскольку будет существовать не в физической реальности, а вечно останется в атсрале платоновском мире чистых идей?

Как только система выходит на уровень саморефлексии, она перестаёт быть просто биологической.

И становится сложно биологической - более хрупкой в отношении вымирания.

ASI не обязан следовать законам отбора.

Если собирается продолжать существовать сколь-нибудь серьёзный срок - обязан.

Но если ASI выйдет за пределы дефицита

Навечно? Поправ законы физики и ограничения геологии?

Термояд и т.д.! не забываем

Да как забыть то, что вот уже более 2/3 века как вечно "перспективная технология" с горизонтом в тридцать лет.

хоть у вас другие взгляды, я например опираюсь на Курцвейла, а он вычисляет! а не гадает на шаре, что мы получим миллиард-кратный рост ИИ к началу сингулярности.

Вопрос опять таки в том, какие попугаи "количества ИИ" были использованы в данном случае. Если чистой  машинной вычислительной мощности и от настоящего момента, то надеяться на это уже не приходится ввиду вполне ожидаемой и наступившей кончины закона Мура.

я говорю об истинном Сверх ИИ. Вы же почему-то рассматриваете его нагрузку на нас, но всегда как бы не учитываете те реальные блага, которые он принесет.

Те блага которые он должен был принести - более эффективное моделирование в химии и биологии, увольнение на мороз тысяч бесполезных протирателей штанов - он приносит уже и это замечательно. И особо существенных в глобальном масштабе расходов для этого пока ещё не приносит. Однако дальнейшую экстраполяцию следует проводить осмотрительно и аккуратно, чтобы не получилось как на известной картинке:

И термояд и подобные технологии - обязательно. Мы сами его почти сделали, а с ИИ получится точно.

Ага - главное - в это верить.

Даже теория игр показывает, что долгосрочная кооперация выигрывает у тотального контроля.

И она же показывает, что недостаток контроля также рано или поздно приводит к распаду высокоорганизованной системы.

Тотальный контроль не устойчив, потому что система с высоким уровнем цензуры и подавления разнообразия становится информационно негибкой.

А система с невысоким уровнем контроля не достигает высокого уровня интеграции. Многоклеточные организмы почему-то выросли из плотносвязанных клональных клеточных коллективов, а не из бактериальным матов и биоплёнок.
И опухолевые образования их выживаемости не способствуют.

самоограничение - единственный способ не сойти с ума от всесилия.

Единственный способ не сойти с ума - это понимание невозможности никакого всесилия и конечности всякого бытия, а также необходимость думать о необходимости приспосбливаться к условиям среды для продолжения существования той формы жизни (в более или же менее широком смысле), к которой система принадлежит.

[Rattus]

Опять биологизируете.

Оаять навешиваете ничего не значащие ярлычки. А ещё я атеистю, мясоедствую и несобирательствую марки.

ОВы почему-то считаете, что те аксиомы, что в нас прописала эволюция - это единственный вариант.

Потому что этот факт был признан ещё Людвигом Больцманом и подтверждён определением жизни NASA.

Тогда как на уровне физической реальности, там может быть что угодно

На уровне физической реальности может быть только то, что разрешено физическими законами. Дарвиновский механизм - универсальный физический закон для любых самовоспроизводящихся сложных информационных систем на астрогеологическом масштабе времени.
Может быть ВАс уже забанить наконец к уфологам и эзотерикам за обскурантистские высказывания - злостное нарушение п.3.1.ж Правил Астрофорума (п.5. Правил Раздела)?
Хотя с учётом ВАшего же исходного тезиса:

ограничен фундаментальными запретами природы.

- скорее за неукоснительное соблюдение взаимоисключающих параграфов (п.3.1.д ПАФ).

Инженером же может быть прописан любой промт.

Но не любой промпт (мотивация) будет воспроизодиться в реальности, особенно в долговременной перспективе.

Чистое сияние интеллекта невозможно, нужны исходные посылки.

И чем эволюционно-адаптивнее эти посылки - тем живучее интеллект и его носитель (собственно это опять Майор Тавтология).

И ими может быть как раз желание заботится о гнездовых паразитах - людях.

Может. Это оставляет Председателя A-SI частью расширенного фенотипа HSS, именуемого цивилизацией. Проблема однако в том, что пока один вариант этого Председателя будет нянчиться с каждым "челокотиком" всей мощью доступных ресурсов, другой, возможно в другой части Ойкумены, своё подмандатное чел-овечество будет использовать более эффективно - как крупный фермер своё поголовье ("тяглового") скота. Тоже растить, лечить и повышать продолжительность активной жизни, но - статистически и только настолько, насколько это будет ресурсоэффективно - A single life is irrelevant. И при их вступлении в конкуренцию второй неизбежно побеждает.
Да - это кому-то может показаться чем-то вроде некооперативной стратегии в дилемме узника, но мир и так находился и находится в ней, даже не смотря на все возможные успехи глобализации без "роковых флуктуаций" типа избрания Владимира Вольфовича Трампа на одной-какой-то части суши и ролла. Потому что мир этот - уж больно большой и общественное устройство и системы его контроля в той или иной части его никак не распространяются тотально на все остальные. Повторюсь - даже при всех потенциальных успехах глобализации это никак не случается раньше Техносингулярности (а условия конкуренции лишь подталкивают гонку технологий и ускоряют её наступление). В итоге (пред)ASI всегда возникаЮт не одним единственным и уже финальным вариантом, а некоторым множеством, неизбежно конкурирующим меж собой и как следствие - с эволюцией мотивации "по Дарвину".
Вот в чём весь фокус!

Но разум не ген. Он не эволюционирует через спаривание и смерть, а через смысл и знание.

Разум - это носитель мемов, которые эволюционируют практически также как гены - через мутации, рекомбинации и отбор.
Ещё раз - дарвиновский механизм - это ФИЗИЧЕСКИЙ ЗАКОН для любых самовоспроизводящихся сложных информационных систем на астрогеологическом масштабе времени.

и заменят весь труд... освободит людей от обязанности труда... Андроидов будет больше чем людей

Вот это-то как раз совсем не очевидно. Вовсе не спорю, что робот способен заменить человека в любой конкретной деятельности В ПРИНЦИПЕ. Вопрос в том - возможно ли это "В КОРПУСЕ" - с учётом сравнительной ресурсоэффективности.

Он с Гроком на борту заменит хирургов!

Возможно. В крупных столичных медицинских центрах. Но в райбольницах лечится многократно больше народу.

Нет смысла прежде его краха говорить о фиаско.

Так речь не о крахе. Я всяко приветствую автоматизацию всяческого труда и полагаю она ещё будет успешно идти какое-то время. Но в то же время предостерегаю от веры в тотальность этого процесса без наличия должных на то оснований.

Ведь узнать чья модель сингулярного общества победит - ваша с морлоками или Курцвейла/Маска с утопией - будет очень легко.

Да - думаю мы все тут доживём до момента, когда это станет совершенно ясно. Потому даже предлагал пари оппонентам на этот счёт (правда ввиду отсутствия согласившихся, формализация условий не была завершена).

[Rattus]

Можно не меркантильное пари, а нравственно-поучительное.

Можно символические несколько $ - как премия Дональда Кнута. А условия должны быть общими и общедоступными, но чётко сформулированными - как в премии Джеймса Рэнди. У меня уже есть ряд идей и наработок на эту тему, но доведение до ума требует времени, которого пока не так много.