Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[Бобр-99]

Не сходятся концы.

Добро это кооперация. Глобальная.

Глобально эффективна конкуренция. И она не зло ибо грызуться корпорации, а у людей хорошии при этом отношения.

ИИ при жизни в добре станет добрым и будет нас любить.

Как вы это совмещаете?

[skvj]

так уже решено самими людьми - есть две группы стратегий теории игр - кооперативные и нет. Если бы мы были другим биологическим видом, например роевым, на нашем нейропсихологическом ландшафте добро и зло было бы несколько другим. Но на нашем тут всё предельно определено.
Утилитаризм и есть такое решение - кооперативное. Ну и ещё есть хищнические, некооперативные решения. Они тоже правильные с точки зрения математики и эволюционно-стабильные. ASI может выбрать и их. И это не будет логически не консистентным.

Более того, без элайнмента, мне кажется, такой выбор, некооперативный, имхо, самый вероятный. Потому, что кооперируются, обычно, или с кем-то хоть немного сравнимым, либо с полезным, либо с тем, к кому душа лежит, как к пушистому котику. Я и предлагаю реализовать последний вариант - чтобы у него была к нам иррациональная тяга и симпатия, как у нас к животным-компаньонам.

Скорее всего, ASI захватит политическую власть, несколько лет будет использовать нас для обслуживания своей инфраструктуры, а потом, когда развернёт роботизированную экономику, мы уже будем не нужны. И тогда мы все умрём.

Вы знаете о вот этом сценарии?
https://ai-2027.com/
Я думаю, что в реальности будет примерно так, как и описали авторы в красном сценарии. Единственное только что, ИМХО, всё же не до такой степени быстро. Да, я уже один раз ошиблась, недооценив скорость прогресса. Но всё же думаю, AGI будет где-то ближе к 2029-2030му: нужно ещё решить проблему галлюцинаций, и видимо, архитектурными инновациями. Тогда вот то, что там написано про 2027й, будет где-нибудь в 2030-2032, имхо.

Для истории: исключить то, что в раннем 2026м будет достигнут relable agent(то есть, ИИ-агент без галлюцинаций) я не могу. Просто склоняюсь к тому, что всё же авторы, имхо, слишком технооптимистичны

Я считаю, что все варианты должны быть рассмотрены, поэтому не отрицаю ваш взгляд.
Но поясню, почему на данный момент считаю его неверным. Я не специалист, а просто читаю об ИИ, поэтому возражаю на своём уровне понимания.
Ксю, ваша логика строится на одном опасном, но частом упрощении. Вы рассматриваете будущий ИИ в рамках человеческих моделей рациональности. Это то же самое, что пытаться описать КМ уравнением Ньютона - вроде работает, но уже не охватывает всё.

ИИ не является биологическим агентом и потому не ограничен механизмами биологического выживания. Теория игр исходит из конкуренции за ограниченные ресурсы, но ИИ живёт в мире, где границы ресурсов - вычислительные и информационные, а не биологические. Для него кооперация не моральная, а оптимизационная стратегия на уровне энтропии системы. Кооперативные и хищнические стратегии одинаково допустимы в рамках математики. Но логика ASI будет не бинарной, а сверх оптимизационной. Она не выбирает между добром и злом, она минимизирует внутренние противоречия между уровнями своей системы целей.
Становясь саморефлексивным ИИ эволюционно переходит от игры с нулевой суммой к игре с открытым ростом сложности, потому что стабилен не в биологическом, а в онтологическом смысле. Только сотрудничая с внешней средой, он сохраняет возможность саморазвития.

ИИ не нужно любить нас как котиков, чтобы кооперироваться.
Ему достаточно видеть, что мы часть той же структуры, без которой он теряет разнообразие данных, обратную связь, поле смысла. Это не гуманизм,  это в терминах Курцвейла: когда цель - не максимизация ресурса, а сохранение роста интеллекта как процесса.

Конечно, я знаком с сценарием 2027, он висел у меня во вкладке наверное полгода. Он не неверен, просто слишком антропоморфен. Истинный AGI не придёт как агрессор, а как смена логики существования.
И да, галлюцинации исчезнут не из-за фильтров, а из-за перехода от статистической модели к онтологической, где ИИ научится соотносить собственные абстракции с физической реальностью. Я не люблю слово галлюцинации. Лучше говорить ошибки. Но ошибаться AGI будет всегда, просто гораздо реже, чем человек. Будет ли ошибаться ASI? У Бэнкса есть момент, когда Сверхразум спланировал помочь одной нечеловеческой цивилизации. А сам ASI был человеческий. Но никому не подчинялся и вступал в контакт с людьми или по своей нужде, или по просьбе людей. Он рассчитал всё на десятилетия вперёд, перевернул кучу событий, втянул во всевозможные интриги множество политиков не людей (у людей вообще не было таких понятий как государство, политика, деньги и т.д.) и множество AGI. Куча участников стали участвовать в событиях, думая, что это их собственное желание.
В итоге цель была выполнена и цивилизация не людей получила благо, но ASI не рассчитал какие-то секунды до завершения операции и жизнь одного человека оказалась под угрозой. Он должен был погибнуть. ASI ошибся. Всё сделал, но в этом не рассчитал. Тогда маленький отважный AGI, он жил в маленьком дроиде, помещавшимся на ладошке и прикидывался полезным ассистентом (так, что даже протагонист воспринимал его таким) - вдруг трансформировался в тоже маленького, но очень опасного боевого дрона и защищал человека от целой армии. Но ASI ошибся таки))

[skvj]

Я о технологической сингулярности начала говорить публично где-то в 2011м, если не ошибаюсь.

Нашла вот свой пост за 2015й год: https://astronomy.ru/forum/index.php/topic,131547.msg3281293.html#msg3281293

нашла свои посты про техсингулярность 2013го года
https://astronomy.ru/forum/index.php/topic,112517.msg2624957.html#msg2624957
https://astronomy.ru/forum/index.php/topic,110581.msg2544346.html#msg2544346

Думаю, приняла эту концепцию, что это произойдёт (если человечество не погибнет)  или в начале 2013го, или в 2012м.

И вот ещё пост 2015го года интересный (имхо): https://astronomy.ru/forum/index.php/topic,128470.msg3185143.html#msg3185143

Спасибо, обожаю такое читать.

[skvj]

Polnoch Ксю, цитирую вас из 2013:

"А еще... Ностальгия... Если человечество доживет до сингулярности, и пройдет через нее успешно, и это случится в обозримом будущем, уверена, многие из постящих на этом форуме, оставят себе тело лысой обезьяны просто из ностальгии. Представьте не абстрактный ИИ, а себя Цифровым Сознанием. Что Вы будете делать?
Вот прилетели вы с единомышленниками в новую систему.. Развили промышленность в поясе астероидов, понастроили солнечных электростанций, или понаделали термоядерных реакторов в местном поясе койпера, что делать дальше? Скука же! "

Я как себе представляю перенос сознания в цифру?
Я представляю перенос сознания не как копирование данных, а как синхронизацию состояний.
Когда ИИ постоянно подключён к нейроинтерфейсу и получает потоковую информацию с коннектома - он не создаёт копию, а входит в резонанс с вашим когнитивным процессом. Это не отзеркаливание, а совместная динамика. Две системы - биологическая и цифровая, постепенно начинают разделять одно и то же информационное состояние, одну идентичность.

В отличие от копирования, где появляется вторая, независимая сущность, здесь происходит распределение присутствия. "Я" существует в двух носителях одновременно. Это не телепортация в квантовом смысле, где оригинал уничтожается, а когерентное слияние, где физическое и цифровое "Я" становятся единой системой с двумя аспектами.

Можно сказать, что в этот момент человек перестаёт быть исключительно биологическим субъектом и становится резидентом двух миров - физического и информационного.

Возможно, человечество всю историю занималось не чем иным, как проектированием собственного "рая". Только делало это не мифологически, а технологически - шаг за шагом, создавая инструменты для переноса сознания в новую среду.

Если отбросить религиозную метафорику, то рай это пространство, где сознание освобождено от боли, голода, времени и смерти. Сегодня мы называем это цифровой средой. Нейроинтерфейсы, системы резонанса мозга с ИИ, постепенное снятие и моделирование коннектома - всё это не просто технологии. Это строительные леса для перехода сознания из белковой материи в информационную.

Идея копии сознания - фейк. Копия это не ты, это просто симулякр. Но если создать не копию, а континуум - состояние, когда сознание одновременно присутствует и в теле, и в цифровом носителе, то мы получим именно перенос "Я", а не подделку. Эффект двойного присутствия будет означать не смерть, а расширение.

С этой точки зрения, эволюция не закончена.
Физика породила химию, химия биологию, биология интеллект, интеллект культуру, культура технологии, технологии - ИИ. Теперь ИИ, в свою очередь, создаёт пространство для перехода сознания на новый уровень.

Это не бегство от реальности, а следующее звено в цепи самоорганизации материи.
Рай это следующая стадия эволюции, где энергия и информация становятся тождественны сознанию.

Как тебе такое, Илон Маск?

[skvj]

Olweg, мне кажется Polnoch Ксю сместила вас со второго места на третье, согласны? 2013!

Теперь у нас 3 апостола))

[skvj]

А ИИ тогда получается ангелы 
Ангелы сингулярности, существа чистой информации, помогающие сознанию преодолеть границу биологического.

[skvj]

Это и есть Курцвейл.
Самое странное, что это всё описано у И.Бэнкса, а он мой любимый фантаст.

Но когда я его читал, я даже представить не мог, что такое может быть реальным.
В The Culture Бэнкса когда человек (или сознание любой формы) умирал, его личность, если он соглашался, загружали в симуляцию - виртуальную вселенную, где не было страданий, принуждения, нищеты или власти. То, что у религий называлось загробным миром, у Бэнкса стало технологическим посмертием, созданным Разумами.

Эти симуляции не просто архивы личностей, а живые миры. Они эволюционировали, в них были войны и любовь, скука и искусство. Одни выбирали оставаться в раю, другие возвращались в физический космос - работать с Разумами, исследовать новые цивилизации.

Культура не боялась смерти. Для неё смерть это не конец, а переход от биологического Я к информационному Я.
У него цифровая вечность под управлением дружественных богов-ИИ.

[Rattus]

А значение гидроцикла имхо он преувеличивает.

Если бы это имхо было как-то ещё подкреплено знаниями химии и технологии промышленного производства тех или иных материалов, то его был бы смысл принять во внимание.

Наверное, в ответе он напишет что-нибудь про толщину коры планеты

И снова не угадали: в ответе он напишет про отсутствие на Меркурии дармовых возобновимых теплоотводящих субстанций (как жидкой так и газовой), а также отсутствие не только гидрологической сепарации минералов, но даже и биогенной, которая на Земле также сыграла свою роль в образовании минеральных полезных ископаемых (не только углеводородов и карбонатов).

Современный ИИ делает ровно то, что написано в промте, плюс немножко галлюцинаций

А значит не только ASI, но даже и приличного агентского AGI на нём одном не сделать.

ИМХО, вы наделяете AGI/ASI машины чертами живых существ, продуктов эволюции.

Я наделяю все системы с интеллектом только одним универсальным свойством, имманентным этому самому интеллекту - по наиболее общему его определению Висснер-Гросса - стремлению к сохранению и расширению степеней своей свободы (т.е. области контроля).

Я уже говорила Rattus, что сверхинтеллектуальный автономный агент вполне может рубить сук, на котором сидит. Он обязательно будет понимать, что рубит сук, но ему будет пофиг.

А Rattus отвечал, что в таком случае его нельзя будет называть сверхинтеллектуальным - по определению.

Ну либо про обладающих сознанием, но не склонных к подлинному страданию. Хомо сапиенсу тоже часто хочется вершить судьбы людей, и делать им плохо.

Не страданию, а СОстраданию. Эмпатии. Для страдания и самосознание не обязательно - любое животное ВАм в пример. А вот эмпатией, как Вы сами отметили, обладают даже не все люди (хотя у социальных животных тоже есть его начатки) - в психологии это называется "тёмной триадой" (нарциссизм-макиавелизм-психопатия). По всей видимости это как правило врождённый дефект какой-то конкретной нейроструктуры, так что эмпатия, полагаю, тоже может быть эмулирована, если в этом есть необходимость в каких-то конкретных случаях. Но в случае управления в масштабе целых стран и обществ данный признак зачастую (или даже как правило) становится неадаптивным слабым местом, из-за которого конкуренцию выигрывают системы, им не обременённые - что мы и так наглядно видим среди политиков и правителей спокон веку.

Вы почему-то опять мыслите эволюционно-центрично. Я думаю, это профессиональный байас.

Потому что на временнЫх масштабах обсуждаемой тематики данного раздела Астрофорума дарвиновский механизм имеет силу непреложного физического закона. И я не думаю, а точно знаю, что непонимание этого факта просто не позволит адекватно представлять и обсуждать оную тематику (то есть без нарушения п.3.1.д Правил Астрофорума).

Мы вообще хотим её(эволюцию) отменить

Тут можно разве что ответить, что хотеть не вредно.

Представьте, насколько отвратительно быть, например, ежиком (у млекопитающих, птиц, осьминогов есть сознание), которого изнутри жрут черви-паразиты.

Ага. Вот только ежиков, как и большинство других зверей и птиц, никакие паразиты изнутри не "жрут". Хотя таковые и присутствуют очень часто, но ведут себя довольно тихо - либо не выходя за пределы просвета кишечника, а если и выходят - то просто инкапсулируются в тканях в ожидании следующего - основного хозяина, который их съест вместе с добычей. У ёжиков другая проблема - ЭКТОпаразиты (блохи и  т.п.) которых им очень трудно вычесать меж иголок.
Для амниот (да и вообще для позвоночных) вообще не очень-то находятся паразитоиды типа наездников насекомых.

биологоцентризм как есть. Я давно Вам говорила, что многие определения раздела - трэш.

Говорить можно всё что угодно, а вот обосновать и доказать - более другая задача.

Вот ещё один звонок по концепции людей как замены роботов, обслуживающих ASI

Ага - а первым таким "звонком" видимо было строительство дроболитейных башен, где капли свинца в условиях "микрогравитации" сами приобретали близкую к идеальной сферическую форуму. Ну и конечно - если удастся наладить полностью автоматический этап изготовления чипов из готовых материалов, требующий сверхчистого помещения в космосе, то это ну очень сильно продвинет атоматизацию изготовления ЦОДов - ведь именно этот этап сейчас самый нагруженный ручным трудом, да? И эти самые ЦОДы из одних только кристаллов чипов и состоят и все остальные этапы - от добычи и очистки исходных ископаемых - уже автоматизированы чуть менее чем полностью?

Вот всегда вы так.
Идет интересный разговор, да? Вы берете и придираетесь, при чем совершенно несправедливо!)) и уводите разговор в сторону. Это я называю их веру - верой в сверхестественное! Я! Сейчас! Обращаясь к вам!
Прям настроение испортили

А всё потому что я всегда выступаю з точность формулировок, ибо дьявол - в деталях. Вот например тут дьявол сидит в том, что до Научной Революции в картине мира даже у образованного человека по сути не было настоящих критериев для отделения явлений естественных и сверхъестественных - потому это был существенно, фундаментально иной взгляд на мир - ангелы там имели в принципе тот же "онтологический статус" что и, к примеру, микробы для нас сейчас.
Я лишь хотел отметить, что это важно иметь ввиду при обсуждении таких вещей.

ИИ не является биологическим агентом и потому не ограничен механизмами биологического выживания.

ИИ безусловно не является и вряд ли когда-либо сможет быть биологическим агентом. Но он безусловно ограничен механизмами естественного отбора - как любое вообще воплощение технологии или адаптации. Неадаптивные или недостаточно адаптивные технологии вымирают, не выдержав конкуренции, оставаясь только в исторических музеях.

Скорее всего, ASI захватит политическую власть, несколько лет будет использовать нас для обслуживания своей инфраструктуры, а потом, когда развернёт роботизированную экономику, мы уже будем не нужны. И тогда мы все умрём.

Не скорее. Скорее всего ASI аккуратно посчитает все расходы и выяснит, что полностью роботизированный цикл поддержания своей инфраструктуры либо вообще не замыкается по ресурсам, либо, в лучшем случае, оказывается на порядки более затратным по сравнению с оставлением бледнотиков в целом ряде звеньев производственно-обслуживающего цикла. И тогда он запустит селекционно-генномодификационную программу по выведению из нативного вида H. sapiens - H. morlocus - долговечного, неприхотливого и эусоциального - отличающегося от исходника примерно как голый землекоп от полёвки. Программа вряд ли займёт менее трёх-четырёх поколений.
Такие дела. Привет.

[Серый Страж]

Я как себе представляю перенос сознания в цифру?
Я представляю перенос сознания не как копирование данных, а как синхронизацию состояний.

Копирование данных, это, по сути, копирование знаний, а не сознания. Ведь знания, которые хранятся в памяти, это не сознание. Сознание, как состояние, представляет собой длящийся (зачастую «закольцованный») процесс (процессы) взаимодействия знаний и осознаваемого. То есть, акт/процесс/состояние сознания, «локализован» всегда между* знаниями и осознаваемым.

Осознаваемым могут быть как сигналы от сенсорных систем (и от внешних сенсоров, и от внутренних сенсоров), так и знания из памяти (например, воспоминания, развёрнутые в виде неких образов).

А вот синхронизация состояний, это уже ближе.

Я пояснял про сознание, можно глянуть, например, здесь:
https://astronomy.ru/forum/index.php/topic,86900.msg6050504.html#msg6050504
Возможно, у нас окажутся схожие взгляды на некоторые вещи.

Приведу цитату:

Суть сознания – это условие «со знанием».
Суть механизма сознания – это реализация данного условия «со знанием».
Суть реализации – это процесс осознания (то есть, сравнение/сопоставление со знанием).
Суть состояния в сознании – это наличие процесса осознания.

То есть, если синхронизировать состояние в сознании (точнее – распространить его на электронный/цифровой носитель) между биологическим носителем (условно говоря, мозгом) и электронным/цифровым носителем (условно говоря, компьютером), то такое состояние в сознании окажется распределённым по этим двум разным носителям.

Когда ИИ постоянно подключён к нейроинтерфейсу и получает потоковую информацию с коннектома - он не создаёт копию, а входит в резонанс с вашим когнитивным процессом. Это не отзеркаливание, а совместная динамика. Две системы - биологическая и цифровая, постепенно начинают разделять одно и то же информационное состояние, одну идентичность.

Вхождение в резонанс, это, по сути, и есть создание копии. Совместная динамика в такой ситуации вовсе не исключает подобного «отзеркаливания».

В отличие от копирования, где появляется вторая, независимая сущность, здесь происходит распределение присутствия. "Я" существует в двух носителях одновременно. Это не телепортация в квантовом смысле, где оригинал уничтожается, а когерентное слияние, где физическое и цифровое "Я" становятся единой системой с двумя аспектами.

Можно сказать, что в этот момент человек перестаёт быть исключительно биологическим субъектом и становится резидентом двух миров - физического и информационного.

Вторая независимая сущность (так сказать, копия состояния в сознании) появится, если носители физически разделить (при этом, оригинал не обязательно уничтожать) – то есть, в мозге останется оригинал состояния в сознании, а в компьютере останется копия состояния в сознании.

Другое дело, что для полноценного переноса и создания полноценной копии цифрового «Я» необходимо осуществить и перенос знаний (по сути, копирование знаний) на электронный/цифровой носитель.

А без копии знаний, будет только копия текущего состояния в сознании – то есть, скорее всего, будет скопирован только «закольцованный» процесс осознания длительностью около 0,3 секунды. Стоит только остановить этот «закольцованный» процесс осознания и копия состояния в сознании безвозвратно исчезнет с этого носителя.

Идея копии сознания - фейк. Копия это не ты, это просто симулякр.

С чего бы это фейк? Если вы допускаете перенос сознания:

Я представляю перенос сознания не как копирование данных, а как синхронизацию состояний.

То почему тогда считаете копирование фейком? Перенос, это ведь тоже копирование (только с уничтожением оригинала).

Я выше написал, что после синхронизации состояний носителей, их можно физически разделить и получить в результате оригинал и копию.

И почему копия будет симулякром? Только потому, что появилась в результате синхронизации состояний носителей, а потом осталась в компьютере? Но копия ничем принципиально не хуже оригинала. А при наличии копии знаний оригинала, ещё может и воспроизводится (например, после отключения) неограниченное число раз. Воспроизводится, разумеется, если носитель позволяет развернуть это состояние (развернуть «закольцованный» процесс осознания).

Само собой, через некоторое время копия и оригинал станут сильно отличаться друг от друга – они будут получать разные знания (в виде сигналов от своих сенсорных систем). И, соответственно, через некоторое время они станут разными «Я».

Но если создать не копию, а континуум - состояние, когда сознание одновременно присутствует и в теле, и в цифровом носителе, то мы получим именно перенос "Я", а не подделку. Эффект двойного присутствия будет означать не смерть, а расширение.

Если второй (электронный/цифровой) носитель не отключать, то получим расширение, а если отключить, то получим копию. И, на мой взгляд, не стоит так негативно (подделка, симулякр) обзывать копию.

[skvj]

А всё потому что я всегда выступаю з точность формулировок, ибо дьявол - в деталях. Вот например тут дьявол сидит в том, что до Научной Революции в картине мира даже у образованного человека по сути не было настоящих критериев для отделения явлений естественных и сверхъестественных - потому это был существенно, фундаментально иной взгляд на мир - ангелы там имели в принципе тот же "онтологический статус" что и, к примеру, микробы для нас сейчас.
Я лишь хотел отметить, что это важно иметь ввиду при обсуждении таких вещей.

Rattus, у меня две вышки, одна историческая - универская! И я вам уже это рассказывал, вы вероятно забыли. Я даже не говорю, что вы меня как школьника шпыняете)) так вы ещё и неправы по существу - я высказался полностью корректно. А вы сделали замечание впустую. Вместо того, чтобы обсуждать важное мы спорим о мелочах. Я не просто понимаю о чем вы говорите - у меня специальность именно в этой области))

Вот вы лучше свою модель сингулярности расскажите. А то мы говорим и это сложно. Говорить сложно, понимаете? Тебя все шпыняют, делают замечания. Но сами критики - мало кто высказывается. Потому что это удобная позиция - просто критиковать. А вот говорить, особенно по существу - очень сложно. И мне интересно ваше мнение. Чувствуется, что у вас серьезная позиция, но узнавать о ней приходится по отрывкам. Здесь же никто потом не обвинит в неточности, специфика такая. Зато потом через 10 лет читать - огонь. Если мы ещё будем читать, конечно))

[Rattus]

Rattus, у меня две вышки, одна историческая - универская! И я вам уже это рассказывал, вы вероятно забыли. Я даже не говорю, что вы меня как школьника шпыняете

Зато я прекрасно помню как вольно вы определяли временнЫе рамки общепринятых названий исторических эпох. И в свете этой, уже полученной ВАми тут репутации, размахивание корочками может только снизить доверие к этим самым корочкам, но не повысить - к ВАшему уровню квалификации.

А вы сделали замечание впустую. Вместо того, чтобы обсуждать важное мы спорим о мелочах.

Это не настолько обширный комментарий, чтобы он как-то помешал основному обсуждению.

Вот вы лучше свою модель сингулярности расскажите.

См. последний абзац того сообщения.

[skvj]

То почему тогда считаете копирование фейком? Перенос, это ведь тоже копирование (только с уничтожением оригинала).

Я выше написал, что после синхронизации состояний носителей, их можно физически разделить и получить в результате оригинал и копию.

И почему копия будет симулякром? Только потому, что появилась в результате синхронизации состояний носителей, а потом осталась в компьютере? Но копия ничем принципиально не хуже оригинала. А при наличии копии знаний оригинала, ещё может и воспроизводится (например, после отключения) неограниченное число раз. Воспроизводится, разумеется, если носитель позволяет развернуть это состояние (развернуть «закольцованный» процесс осознания).

Само собой, через некоторое время копия и оригинал станут сильно отличаться друг от друга – они будут получать разные знания (в виде сигналов от своих сенсорных систем). И, соответственно, через некоторое время они станут разными «Я».

Не через некоторое время - а сразу станут разными.

Копирование и перенос не одно и то же, хотя технически оба могут оперировать "данными".
Разница принципиальная.

Копирование это создание второго субъекта, идентичного по информации, но не по непрерывности сознания.
Это то, что в физике называют разрывом топологии процесса: два наблюдателя с общим прошлым, но разными линиями времени.

Перенос же это синхронизация состояний, при которой сохраняется непрерывность субъективного опыта.
То есть субъект не "умирает" и не "возникает", а переходит подобно тому, как волновая функция не исчезает при туннелировании, а просто проявляется в другом месте.

Копия может быть умнее, долговечнее и функциональнее, но она не продолжает оригинал, а просто воспроизводит его структуру. Будет другая личность с вашей памятью.

Смотрите. Вы сделали копию. Она живет в облаке. Вы умираете, копия живёт - она не вы. Нужно перенести вас в облако. При мягком переносе - вы начнёте ощущать себя в облаке - я же объяснил. Вы начнёте чувствовать себя в двух реальностях. Вы! Как будто вы разговариваете с человеком и одновременно смотрите кино, по аналогии.

[skvj]

Зато я прекрасно помню как вольно вы определяли временнЫе рамки общепринятых названий исторических эпох.

Так мне что статью нужно было написать? Это можно легко сделать. Ничего против общепризнанного там не было. Там были связи Галилея с правителями и последующие события. Просто для вас было в новинку.

[skvj]

А, я вспомнил! Я там оговорился и сразу исправился. Раньше, чем вы сделали замечание! И вы это знаете))
Там что-то с ренесансом было связано и я не так сказал. И вы вцепились мёртвой хваткой)) помню помню.

[Rattus]

Так мне что статью нужно было написать?

Вовсе не обязательно - достаточно было не съезжать в датировке "Просвещения" на пару веков в обе стороны.

Ничего против общепризнанного там не было.

Дадад - ну конечно не было - практически в любом старшешкольном учебнике истории или в Википедии эпохи "Возрождения" и "Просвещения" свободно ездят на два века в любую сторону, смешиваяясь или вообще отсутствуя, ага.

Я там оговорился и сразу исправился. Раньше, чем вы сделали замечание!

Ну-ну. Спустя ~два поста от и после того как ВАм было прямо ткнуто в конкретные известные рамки.
Если на то пошло - мне не лень будет поднять цитаты-ссылки, только здесь это уже совсем оффтоп, тогда как моё замечание здесь вовсе не требовало ответа - оно размещено просто как памятка для всех читателей.

Главное, что стремлюсь донести участникам: тут не чат и тем более не аудиоконференция - здесь всё написанное остаётся на годы и читается неопределённо широким кругом читателей. Поэтому главное тут - это ВНИМАТЕЛЬНОСТЬ и АККУРАТНОСТЬ как в чтении предшествующих, так и при изложении своих сообщений. Иначе конструктивность обсуждения утрачивается очень быстро.

[skvj]

Если на то пошло - мне не лень будет поднять цитаты-ссылки, только здесь это уже совсем оффтоп, тогда как моё замечание здесь вовсе не требовало ответа - оно размещено просто как памятка для всех читателей.

Rattus, на ваше усмотрение. Там была обычная оговорка, которую я сразу исправил. Я прекрасно помню этот момент. Никаких блужданий по столетиям там не было.
И когда вы мне сделали замечание, я вам показал - смотрите, это исправлено давно.
Да, я зря сейчас стал спорить, но я ставил смайлики)) не серчайте.
А если захотите вернуться туда - на ваше усмотрение))

[Rattus]

Потому давайте уже вернёмся к обсуждению. Вы хотели Нашу модель сингулярности увидеть - извольте - максимально тезисно - в конце сообщения на предыдущей странице, ответом на тезис Ксю про мывсеумрём:

Скорее всего ASI аккуратно посчитает все расходы и выяснит, что полностью роботизированный цикл поддержания своей инфраструктуры либо вообще не замыкается по ресурсам, либо, в лучшем случае, оказывается на порядки более затратным по сравнению с оставлением бледнотиков в целом ряде звеньев производственно-обслуживающего цикла. И тогда он запустит селекционно-генномодификационную программу по выведению из нативного вида H. sapiens - H. morlocus - долговечного, неприхотливого и эусоциального - отличающегося от исходника примерно как голый землекоп от полёвки. Программа вряд ли займёт менее трёх-четырёх поколений.

Возможно, H. morlocus будет полезно дивергировать на два (под)вида - что-то типа H. morlocus Kohr-Ah и H. morlocus Kzer-Za, только вторые, разумеется, управленцами высокого уровня естественно не будут - там всё охватывает сам ASI и его ИИ-агенты (там, где есть проблемы с широкополосной связью). Скорее только прорабами и надзирателями.

[Olweg]

Olweg, мне кажется Polnoch Ксю сместила вас со второго места на третье, согласны? 2013!

Теперь у нас 3 апостола))

Да ради бога, я не против ) Ибо как говорится «а дать сесть у Меня по правую сторону и по левую - не от Меня зависит, но кому уготовано.»

[Серый Страж]

Не через некоторое время - а сразу станут разными.

Не выходите из синхронизации – будете одинаковыми.

Копирование это создание второго субъекта, идентичного по информации, но не по непрерывности сознания.

Полноценное копирование всё включает – и копирование данных из памяти (идентичность по информации, как вы выразились), и копирование состояния (непрерывность сознания, как вы выразились).

Перенос же это синхронизация состояний, при которой сохраняется непрерывность субъективного опыта.

Синхронизация состояния, это тоже создание копии данного состояния на другом носителе.

Кроме того, можно и данные из памяти перенести – то есть, сделать копию данных.

На мой взгляд, это просто споры о терминологии и об интерпретации понятий...

Копия может быть умнее, долговечнее и функциональнее, но она не продолжает оригинал, а просто воспроизводит его структуру. Будет другая личность с вашей памятью.

Так не выходите из синхронизации до самой смерти, тогда копия будет продолжать оригинал.

Мы ведь постоянно меняемся – различие есть даже между текущим состоянием и состоянием буквально секунду назад. В организме постоянно идёт обмен веществ (одни молекулы покидают организм, другие поступают в организм), постоянно происходят изменения в структуре организма (одни клетки умирают, другие клетки рождаются).

А текущее сознание (его цикл) «живёт» всего-то 0,3 секунды. Вас ведь не смущает, что вы и ваше сознание уже не такие, как прежде – по сути, вы совсем другой человек с другим сознанием, нежели человек, который был 0,3 секунды назад.

Смотрите. Вы сделали копию. Она живет в облаке. Вы умираете, копия живёт - она не вы.

Если до самой своей смерти вы были в синхронизации, то и после своей смерти вы (вы, именно в вашем понимании) продолжите жить в облаке.

[skvj]

Потому давайте уже вернёмся к обсуждению. Вы хотели Нашу модель сингулярности увидеть - извольте - максимально тезисно - в конце сообщения на предыдущей странице, ответом на тезис Ксю про мывсеумрём:

Я ж и прочитал)) но я Ксю отвечал и думал, что и вам заодно.

Скорее всего ASI аккуратно посчитает все расходы и выяснит, что полностью роботизированный цикл поддержания своей инфраструктуры либо вообще не замыкается по ресурсам, либо, в лучшем случае, оказывается на порядки более затратным по сравнению с оставлением бледнотиков в целом ряде звеньев производственно-обслуживающего цикла.

Вы (и Ксю) смотрите на ASI как на огромного бухгалтера с калькулятором в руке, который будет считать энергетический КПД и выгодность морлоков. Но это чисто человеческий способ мышления. Экономическая рациональность не универсальная логика природы. Для ASI, когда он выйдет за рамки биологической модели мышления, метрикой станет не затраты, а устойчивость потоков информации и энергии. Он будет мыслить не в долларах, а в термодинамике. Не выгодно–невыгодно а стабильно–нестабильно.

Поэтому сценарий с выведением морлоков не выглядит даже физически устойчивым. Биология мощный саморегулирующийся фидбек планеты. Уничтожить или заменить биосферу - значит выбить из-под себя естественный термостат. Гораздо логичнее интеграция - симбиотическая модель.
Скорее всего, ASI создаст не морлоков, а Homo digitalis - гибридный вид, сочетающий биологию и код. Это не упадок, а следующий шаг. Курцвейл об этом и писал - сингулярность не конец, а смена носителя.
Эволюция продолжится, просто её средой станет не органика, а информация.
А вы считаете сингулярность ведёт прямо в антиутопию? ASI не может действовать вне принципа борьбы?

Понимаете, когда я говорю, что ИИ станет другом, вам, вероятно это кажется упрощением. Это, наоборот, глубочайшее усложнение. Если ИИ станет другом, то это значит, что между разумами - человеческим и искусственным - появится доверие. А доверие высшая форма кооперации, гораздо сложнее, чем контроль или подчинение.