Постсингулярный мир: как он будет выглядеть? //технологическая сингулярность

[Polnoch Ксю]

Предлагаю обсудить, как будет выглядеть мир, в случае и после достижения технологической сингулярности. Такой предлагаю считать не мир, в котором создан общий искусственный интеллект (AGI), а мир, в котором создан ASI (artificial super intellegence).
После появления AGI сдвиги хоть и будут тектоническими, и, вероятно, самыми быстрыми за всю историю человечества - потребуют и новой экономики, и новой политической системы и прочего, но все же не будут настолько фундаментальными. AGI по определению имеет уровень интеллекта близкий к уровню интеллекта человека. И даже научные открытия, совершенные AGI-агентами нам тоже будут вполне понятны, хотя бы на принципиальном уровне. Такой мир вполне себе можно представить - киберпанк-антиутопия, где хорошо живут миллиардеры, а остальные влачат жалкую жизнь под мостом, либо даже вырезаны килл-ботами, либо, наоборот, полная утопия, где люди занимаются тем, чем хотят, и им больше не нужно работать. Либо какой-то промежуточный вариант. Представить этот  мир несложно.

Я же предлагаю поговорить о совсем другом мире - мире после возможного и вероятного (с моей точки зрения) появления мыслящих машин невероятного, непостижимого для нас интеллектуального уровня. Мне кажется, это будет сдвиг, бифуркация, вроде появления жизни, появления эукариотов, или появления разума. Всё изменится очень и очень сильно. И магнитуда изменений будет ограничена только фундаментальными запретами природы.

Прошу модераторов рассматривать обсуждения вокруг AGI-уровня цивилизации как оффтоп. Эта тема именно про технологическую сингулярность, а не про такие избитые и скучные темы, как искусственный интеллект человеческого уровня, - или сравнимый с человеческим, скажем,  с IQ <<5000 (да, я знаю, что IQ плохая метрика человеческого интеллекта)

Комментарий модератора раздела

Тема не содержит существенной новизны и будет присоединена к существующей после ревизии последней и завершения первичного содержательного обсуждения. Также за употребление в названии знаков пунктуации вне правил грамматики автор получает 10% предупреждений по совокупности за нарушение п.3.1.г Правил Астрофорума в применении Правил раздела ВЖР.

[PostAlien]

Но как мы должны обсуждать мир, построенный существами непостижимого для нас интеллектуального уровня? Мир после сингулярности (такой, какую вы описываете) трансцендентен!
"Лишь только жаль, о будущем там
Ничего не скажет прошлое нам"©

[Polnoch Ксю]

Но как мы должны обсуждать мир, построенный существами непостижимого для нас интеллектуального уровня? Мир после сингулярности (такой, какую вы описываете) трансцендентен!

Нет, он ограничен фундаментальными запретами природы. От того, что, например, ASI сможет устроить суперинтригу на множество шагов, в которой обманет несколько миллионов человек(или AGI человеческого уровня), обойдя экспоненциальную сложность с помощью какого хитрого алгоритма или эксплуатации уязвимостей в наших мозгах, он не сможет, не знаю, улететь быстрее скорости света в Туманность Андромеды.

Но с другой стороны, возможность оперировать в разуме одновременно миллионами или миллиардами параметров, тоже должна дать ему какие-то сложно представимые для нас возможности.

Кроме того, мы всё же разумны, и как вычислительные агенты - полны по тьюрингу, а значит, что-то вполне можем себе представить.

[PostAlien]

Нет, он ограничен фундаментальными запретами природы.

Вы уверены в том, что знаете, в чём заключаются "фундаментальные запреты природы" и как далеко они находятся? Я – нет. Есть принцип фаллибилизма, в конце концов.

например, ASI сможет устроить суперинтригу на множество шагов, в которой обманет несколько миллионов человек(или AGI человеческого уровня), обойдя экспоненциальную сложность с помощью какого хитрого алгоритма или эксплуатации уязвимостей в наших мозгах, он не сможет, не знаю, улететь быстрее скорости света в Туманность Андромеды

Например, в научной литературе возможность сверхсветовых перемещений активно обсуждается.

Впрочем, неважно. Либо мы произвольно очертим границы возможного, либо тема выродится в спор об этих границах (после чего придёт Rattus и закроет её). Но если мы сделаем первое, то что остаётся обсуждать? "Социальное", "политическое", "экономическое" (если эти слова вообще применимы) устройство этого мира? Но опять же, мы не имеем ни малейшего понятия ни о целях сверхинтеллектуальных машин ни о способах, которые они изберут для их достижения.

[alex_semenov]

Предлагаю обсудить, как будет выглядеть мир, в случае и после достижения технологической сингулярности.

Это невозможно вообразить. Если подходить к вопросу без дураков. Даже если это случится (а нет никакой гарантии что это вообще случится), мы не сможем всё увидеть. Гляделки нам не хватит.
Это как вообразить черырёхмерный куб - гиперкуб. Да, мы можем увидеть его трехмерную тень - отображение. Но это не сам тессеракт...



Мы можем лишь наблюдать СМУТУ, которая случится с нами в результате этого. Отброшенную этим событием на нас тень. Например такую смуту описали Стругацкие в "Волны гасят ветер". По-сути их "вертикальный прогресс" - это та же самая техносингулярность. Появление более мощного чем мы разума. Они первые почуяли у воспетого по-началу ими в 60х "хрущёвского прогресса" некую... стену-упор впереди...Ужаснулись этому.
Поэтому и разродились (раньше всех) то "За миллион лет до конца света", то "Волны гасят ветер"...
Сейчас мы это называем вполне себе научно кривой Снукса-Панова.



Здесь в русской цивилизации. Запад это называет техносингулярностью. Но смысл - один. Просто с разным цивилиационным ракурсом.
Правда, на загнивающем Западе (здесь не лучьне но это - ирония) концепция быстро была упрощена до кретинизм. До симулякра (там всё превращается в симулякр, один Маск со своей ракетой как-то удивительно не хочет). Трансгуманизм свели к членовредительству.... Сингулярность -... очень хорошо это описал, кстати, Пелевин в "Трансгуманизм INC."



Постебался над ЖЛОБСКИМ взглядом в идею трансгуманизма и постсингулярности (по-сути показал как выгдялит кадавр профессора Выбегалы изнутри).
Я не думаю, что кто-то тут что-то лучшее выдаст чем выдал уже Витечка Пелевин.

[Combinator]

Предлагаю обсудить, как будет выглядеть мир, в случае и после достижения технологической сингулярности. Такой предлагаю считать не мир, в котором создан общий искусственный интеллект (AGI), а мир, в котором создан ASI (artificial super intellegence).
После появления AGI сдвиги хоть и будут тектоническими, и, вероятно, самыми быстрыми за всю историю человечества - потребуют и новой экономики, и новой политической системы и прочего, но все же не будут настолько фундаментальными. AGI по определению имеет уровень интеллекта близкий к уровню интеллекта человека. И даже научные открытия, совершенные AGI-агентами нам тоже будут вполне понятны, хотя бы на принципиальном уровне. Такой мир вполне себе можно представить - киберпанк-антиутопия, где хорошо живут миллиардеры, а остальные влачат жалкую жизнь под мостом, либо даже вырезаны килл-ботами, либо, наоборот, полная утопия, где люди занимаются тем, чем хотят, и им больше не нужно работать. Либо какой-то промежуточный вариант. Представить этот  мир несложно.

Я же предлагаю поговорить о совсем другом мире - мире после возможного и вероятного (с моей точки зрения) появления мыслящих машин невероятного, непостижимого для нас интеллектуального уровня. Мне кажется, это будет сдвиг, бифуркация, вроде появления жизни, появления эукариотов, или появления разума. Всё изменится очень и очень сильно. И магнитуда изменений будет ограничена только фундаментальными запретами природы.

Прошу модераторов рассматривать обсуждения вокруг AGI-уровня цивилизации как оффтоп. Эта тема именно про технологическую сингулярность, а не про такие избитые и скучные темы, как искусственный интеллект человеческого уровня, - или сравнимый с человеческим, скажем,  с IQ <<5000 (да, я знаю, что IQ плохая метрика человеческого интеллекта)

Это нужно спрашивать у o1, он, наверное, больше в курсе. Для нас ASI будет примерно тем же, что мы для наших домашних котиков, читаем Унабомбера.

[библиограф]

      Я  же предлагаю поговорить о совсем другом мире - мире после возможного и вероятного (с моей точки зрения) появления мыслящих машин невероятного, непостижимого для нас интеллектуального уровня.   

Никогда не пробовали говорить о том, что будете делать, после того, как умрете
Это, примерно, тоже самое.
Был такой богослов Серафим Роуз, так он написал об этом целую книжку, она так и называется
Душа после смерти
https://azbyka.ru/otechnik/Serafim_Rouz/dusha-posle-smerti/

[alex_semenov]

Я же предлагаю поговорить о совсем другом мире - мире после возможного и вероятного (с моей точки зрения) появления мыслящих машин невероятного, непостижимого для нас интеллектуального уровня. Мне кажется, это будет сдвиг, бифуркация, вроде появления жизни, появления эукариотов, или появления разума. Всё изменится очень и очень сильно. И магнитуда изменений будет ограничена только фундаментальными запретами природы.

На самом деле много-много лет назад (в каком-нидудь 2008 году) я тут и появился именно С ЭТИМИ ИДЕЯМИ.
Я этого нахватался, скорей всего у Типлера в его "Физика бессмертия". Читали?



Но нам людям, какое до этого дело?
Ну вот появилась на Земле цивилизация людей. Она, как считается, на ступеньку сложней любой организации в живой природе. Это по-сути тот же сингулярный скачок Организованной Материи. И? Для животных что-то изменилось?
Муравьи (вторая параллельная цивилизация на планете Земля) сильно замечают НАШЕ ПРИСУТСТВИЕ ТУТ?
Нет. Постоянно случается "пикник на обочине" и им постоянно достаётся даже что-то из нашего праздника жизни. Кусок сахара, уроненное мороженное, недопитая банка лимонада... Но это как то сильно меняет их жизнь? Нет конечно.

[библиограф]

 

Но это как то сильно меняет их жизнь? Нет конечно.   

Изменится, и радикально.
Мировой мозг с телепатическими способностями, неважно, прямое мысленное внушение, или через вживленный чип
 - ну, и всё, не о чем больше говорить.

   Но нам людям, какое до этого дело? 

Ты не интересуешься войной - зато война интересуется тобой
Лев Троцкий

[troglodit888]

После появления AGI сдвиги хоть и будут тектоническими

За счет чего?

потребуют и новой экономики, и новой политической системы и прочего

А если желающих, обладающих возможностями менять экономику и полит систему и прочее - не найдется?

[alex_semenov]

Мировой мозг с телепатическими способностями, неважно, прямое мысленное внушение, или через вживленный чип

Про телепатию...
Музыка навеяла.
Академик Александров рассказывал такую историю из своего детства. Однажды его старшие сёстры затеяли спиритический сеанс и два часа разговаривали с духом Льва Николаевича Толстого. Так вот, сам уже пристанный академик, с иронией вспоминал, что их отец, узнав о случившемся на это язвительно замечал: "Я еще поверю что вы вызвали дух Льва Николаевича, но я ни за что не поверю что он с вами, дурами, разговаривал целых два часа!"

[Olweg]

Но как мы должны обсуждать мир, построенный существами непостижимого для нас интеллектуального уровня?

Согласен. Я уже ссылался на автора термина Винджа в соседней теме. Вот цитата из «Брошенных в реальном времени» (1986):

— В конечном счете есть только одна возможность точно узнать, в чем состоит Сингулярность*, — находиться на месте, когда она происходит.

* - в переводе Своеобразие, я исправил

Да, конечно, законы физики нарушены не будут, и чудес в этом смысле не случится, но это слишком неопределённо.

[библиограф]

      "Я еще поверю что вы вызвали дух Льва Николаевича, но я ни за что не поверю что он с вами, дурами, разговаривал целых два часа!"
   

Да, не вопрос!
И два, и двадцать два. Любой священник, мулла или раввин тут же скажет, кто это разговаривает на спиритических
сеансах.

[Olweg]

А если желающих, обладающих возможностями менять экономику и полит систему и прочее - не найдется?

А кто их спрашивать будет? Тут рулят не столько хотелки (хотя и они тоже), сколько обезличенные процессы, слишком сложные для понимания хомо сапиенсами (отсюда и огромная популярность всякого рода теорий заговора - так же, как древние люди не могли понять природу грома и солнечного света, так и современные в большинстве своём не понимают огромную сложность мировой социоэкономической системы).

[alex_semenov]

Да, не вопрос!
И два, и двадцать два. Любой священник, мулла или раввин тут же скажет, кто это разговаривает на спиритических

Не путайте хрен с пальцем!
У бога, Аллаха, Иисуса хватит божественного терпения говорить с самым последним идиотом. Но у Льва Николаевичеа Толстого вряд ли найдётся столько терпения отвечать тупым юным дурам на их тупые, девичьи вопросы! Или вы полагаете, что сёстры разговаривали с Львом Николаевичем о гуманизме и вопросах войны и мира?  Толстой при жизни от Герберта Уэллса отмахнулся, не посчитал интересным с ним обсуждать подобные вопросы на уровне вторжения инопланетян. А вы хотите что бы он два часа потратил на суженных-ряженых с юными дурами? Ну разве что это и будет адово наказание ему, отлучённому от церкви?

[troglodit888]

А кто их спрашивать будет?

Никто не будет спрашивать. Поэтому ничего и не сдвинется никуда.

Для изменения цивилизации одних мозгов недостаточно. Это бонус приятный, но не более. Тут связи нужны, финансовые и политические возможности и много чего ещё.

[Olweg]

Никто не будет спрашивать. Поэтому ничего и не сдвинется никуда.

Так же могла рассуждать аристократия в 18 веке, перед промышленной революцией.

[troglodit888]

Так же могла рассуждать аристократия в 18 веке, перед промышленной революцией.

Ну это к медиумам. Могла рассуждать, могла не рассуждать.

[библиограф]

     Я сидел за столом, покуривая папиросу для успокоения нервов, сожалел о необдуманном поступке Оджилви и доказывал, что марсиан нечего бояться.
     Точно так же какая-нибудь солидная птица на острове св.Маврикия, чувствуя себя полным хозяином своего гнезда, могла бы обсуждать прибытие безжалостных изголодавшихся моряков.
     - Завтра мы с ними разделаемся, дорогая! 
  Герберт Уэллс Война Миров

[troglodit888]

Это как вообразить черырёхмерный куб - гиперкуб.

Поставьте кубик на стол и смотрите на него. Это будет гиперкуб. Время - четвертое измерение как бы.