Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[wandarer]

Возможно, архитектура ASI пойдëт по пути муравейника  или улья с маткой и рабочими пчëлами-роботами,  связанеыми с маткой через интерфейсы типа Wi-Fi или с технологиями CUDA, применяемыми в изделиях Nvidia,  что должно сократить энергопотребление подобно тому, как нейроны человеческого мозга выполняют функции и  процессора и памяти. Хотя в Китае уже отказываются от технологий WiFi  и переходят на 5G, что позволяет ИИ руководить  шахтами  по добыче угля, так как пропускная способность этих сетей позволяет видеть процессы в реальном времени.

[Olweg]

Ну будет технологическая сингулярность через несколько лет… Ну ничего ж страшного не случится.

Или, если точнее, как было предсказано ещё полвека назад, 13 ноября 2026 года:
https://www.researchgate.net/publication/9785147_Doomsday_Friday_13_November_AD_2026_At_this_date_human_population_will_approach_infinity_if_it_grows_as_it_has_grown_in_the_last_two_millenia  (кстати, это будет пятница )

Можно было бы, конечно, посмеяться, если бы не интересное совпадение с двумя другими прогнозами: 2027 и 2029 годы:
https://www.elibrary.ru/item.asp?id=48313388

Бывший сотрудник ОпенАи скрывает покровы
https://habr.com/ru/companies/bothub/articles/819659/

Да, интересно. Опять 2027 год ) На этот раз от одного из топовых участников.

И снова 2027 И тоже от бывшего сотрудника OpenAI. Дэниел Коктайло (Daniel Kokotajlo) с командой энтузиастов под названием AI Futures Project создали сценарий возможного развития ИИ на ближайшие несколько лет. Ключевым в нём является 2027, когда появляется самосовершенствующийся ИИ и начинается, пользуясь термином Ашенбреннера, «взрыв интеллекта». Дальше авторы предлагают два сценария на выбор - продолжение гонки ИИ с Китаем или замедление и введение ограничений. В одном из этих вариантов к 2030 все умерли, во втором всё не так плохо.

https://ai-2027.com/

[Rattus]

Возможно, архитектура ASI пойдëт по пути муравейника или улья с маткой и рабочими пчëлами-роботами, связанеыми с маткой через интерфейсы типа Wi-Fi

Об этом писано ещё в "Двухсотлетнем человеке" Исаака Азимова ровно полвека назад - когда уже существовало понятие персонального компьютера. При этом многотерминальная организация старше этих самых ПК как минимум на десятилетие. Так что, что называется: "Спасибо, Капитан..!"

или с технологиями CUDA, применяемыми в изделиях Nvidia,  что должно сократить энергопотребление подобно тому, как нейроны человеческого мозга выполняют функции и  процессора и памяти.

А наличие дядьки в Киеве также способно сократить рост бузины в огороде? Как довольно специфичный программный комплекс может быть способен на порядки изменить аппаратные возможности современного оборудования? Принципиально объединить эти функции можно только на другой элементной базе - с не существующими пока мемристорами.

Хотя в Китае уже отказываются от технологий WiFi  и переходят на 5G

Свежо предание...

что позволяет ИИ руководить шахтами  по добыче угля, так как пропускная способность этих сетей позволяет видеть процессы в реальном времени.

А оптоволоконное соединение не позволяет? Или есть религия, разрешающая протянуть до каждой точки добычи простой электрический кабель к лампочке и шланг со сжатым воздухом в отбойный молоток, но запрещающая протянуть гигабитную витую пару или оптополокно? А 5G - это такой волшебный радиодиапазон, который способен проницать десятки и сотни метров грунта?

Дэниел Коктайло (Daniel Kokotajlo) с командой энтузиастов под названием AI Futures Project создали сценарий возможного развития ИИ на ближайшие несколько лет.

Любопытненько.
Дочитал до "он может оказать существенную помощь террористам, разрабатывающим биологическое оружие, благодаря своим знаниям на уровне PhD в каждой области и способности просматривать веб-страницы." и возрыдалЪ: имея знания на уровне PhD в оной области, мог бы оказать "существенную помощь террористам" лишь одним способом - уговорить их не тратить время, деньги и силы на это весьма малоперспективное предприятие.

[Павел Васильев]

А оптоволоконное соединение не позволяет? Или есть религия, разрешающая протянуть до каждой точки добычи простой электрический кабель к лампочке и шланг со сжатым воздухом в отбойный молоток, но запрещающая протянуть гигабитную витую пару или оптополокно?

Нет сомнения, оптоволокно обеспечивает надёжный и высокоскоростной трафик, но  распространение глобальной спутниковой 7G связи с wifi будет достаточно для быстрых операций между элементами AI сети. В локальных узлах распараллеливание нейровычислений по технологии CUDA или OpenCL тоже принесёт пользу. В итоге отбойный молоток или любой манипулятор становится элементом взаимодействия компьютерного глобального сингулярного интеллекта SIG c окружающей средой. С техническими или биосенсорами.

Автоэволюция AGI непредсказуема и опасна для Человечества, поэтому единственный выход спасения разумных сапиенсов - загрузка их сознаний в сетевые облака, взаимоконтроль развития естественного и искусственного интеллекта, и  совместная синергетическая автоэволюция разума.

Перенос хоморазума на быстродействующие оптоволоконные носители, прочные многослойные графеновые плёнки, в электронные мозги частично или полностью. Не примитивно понейронно, как это обычно описывают постгуманисты, а по частям и многофункционально. Загрузка сознания понятие растяжимое - при подключении к сети, после контакта в интернет и передачи данных, мы фактически и практически уже некоторую часть своего сознания в виде информации загружаем в облака.

А для этого необходимо дальнейшее масштабирование и ускорение трафика сети цифровой цивилизации ноосферы.

[AlexDark]

Остается доказать возможность загрузки сознания и его последующее сохранение, и научиться делать электронику, у которой срок жизни равен хотя бы сроку жизни тела.

[BlackMokona]

Остается доказать возможность загрузки сознания и его последующее сохранение, и научиться делать электронику, у которой срок жизни равен хотя бы сроку жизни тела.

Ну электронику и поменять можно будет, не беда вот.

[Rattus]

глобальной спутниковой 7G связи с wifi

ЩИТО?

В локальных узлах распараллеливание нейровычислений по технологии CUDA или OpenCL тоже принесёт пользу.

Опять таки не очень понимаю: как связаны эти довольно специальные технологии с нейровычислениями, но никто вроде и не спорит с тем, что строгие вполне формализованные расчёты даже очень сильному ИИ будет вполне невозбранно продолжать проводить не "в уме", а специальными "суперкалькуляторами" типа Wolfram. Как у позвоночных независимо от развитости большого мозга, координацией движений занимается отдельный, весьма сложный, но существенно отличный по архиетктонике отдел мозга - мозжечок.

Автоэволюция AGI непредсказуема и опасна для Человечества

Но поскольку "Человечество" - в очень большой степени условность (кроме разве что биологического критерия как потенциала скрещивания), не обладающая никакими собственными ценностями и целями, то это не имеет никакого реального значения для нынеживущих. H. sapiens как вид в любом случае не вечен, косвенное свидетельство чему - аргумент "Судного Дня".

поэтому единственный выход спасения разумных сапиенсов - загрузка их сознаний в сетевые облака, взаимоконтроль развития естественного и искусственного интеллекта, и  совместная синергетическая автоэволюция разума.

А, поскольку всё перечисленное кроме последнего - ненаучная фантастика, то выхода особо и нет. Последнее же, исходя из общеэволюционно-экологических закономерностей коэволюционных процессов будет представлять собой

Автоэволюцию AGI

с последующим отбором/модификацией нативных человеков в вид(ы), наилучшим образом оптимизированные для служебных целей в материальной инфраструктуре техноцивилизации. Полная утрата разума (а значит и способности осознавать своё положение и его перспективы) при этом вовсе не обязательна, поскольку такой уровень интеллекта может оказаться необходимым минимумом для прохождения лимита Моравека. Тем не менее, слишком много времени на производство и потребление произведений культуры как сегодня (книги, кинофильмы), у них вряд ли будет.
 

оптоволоконные носители

ЩИТО?7

прочные многослойные графеновые плёнки

Что там у графена с шириной запрещённой зоны, м?

мы фактически и практически уже некоторую часть своего сознания в виде информации загружаем в облака.

Чтобы Вас правильно понимали, пользуйтесь, пожалуйста, общепринятыми определениями используемых понятий, которые приведены в т.ч. в Тезаурусе данного раздела Астрофорума. То, о чём вы пишете - называется термином "личность", а не "сознание".

Дэниел Коктайло (Daniel Kokotajlo) с командой энтузиастов под названием AI Futures Project создали сценарий возможного развития ИИ на ближайшие несколько лет. Ключевым в нём является 2027, когда появляется самосовершенствующийся ИИ и начинается, пользуясь термином Ашенбреннера, «взрыв интеллекта». Дальше авторы предлагают два сценария на выбор - продолжение гонки ИИ с Китаем или замедление и введение ограничений. В одном из этих вариантов к 2030 все умерли, во втором всё не так плохо.

Таки дочитал до конца. Чуда открытия для себя чего-то нового не случилось. Центральная фабула развития ASI ровно та же, что была в "Формуле Лимфатера" Станислава Лема (год написания и первой публикации - 1961, на минуточку), только разбитая на большее число итераций и с рюшечками в виде повторения уже известных недавних казусов типа подлавливания ИИ на лукавости по рецепту "тех же щей, да погуще влей". Естественно зелёную луддитскую ветку победы "Партии Умеренного Прогресса в Рамках Законности" даже смотреть не стал за её абсолютной унылостью и конечной предсказуемостью. А в ветке хорошего, более-менее годного badass ASI имени Dr. Merkwürdigliebe всё хорошее, годное закончилось после появления на сцене старой доброй и столь милой всякому схоласту-адепту А.Юдковского без прочного естественнонаучного образования Deus ex Скатерть-Самобранка к 2029 году:

Растения и насекомые действуют в условиях множества ограничений, которых нет у сверхразумных конструкторов. Например, им нужно принять форму автономных организмов, которые самовоспроизводятся, вместо экономики разнообразных и более специализированных транспортных средств и фабрик, перевозящих материалы и оборудование туда и обратно. Кроме того, бактерии и другие крошечные организмы размножаются за часы. Возможно, что в конечном итоге автономная экономика роботов будет больше похожа, например, на новый вид неперевариваемых водорослей, которые распространяются по океанам Земли, удваиваясь дважды в день , так что они покрывают всю поверхность океана за два месяца, вместе с сопутствующей экосистемой видов-хищников, которые преобразуют водоросли в более полезные продукты, которые сами подаются на плавучие фабрики, которые производят макроструктуры, такие как ракеты и еще больше плавучих фабрик.
...
Есть рои дронов размером с насекомое, которые могут отравить человеческую пехоту еще до того, как их заметят; стаи дронов размером с птицу, чтобы охотиться на насекомых; новые перехватчики МБР и новые, более трудноперехватываемые МБР.

Дальнейшее развитие событий во вселенной ядовитых молочных рек и кисельных берегов с комарами-терминаторами уже было далеко не таким интересным - благо достаточно коротким.
Такие дела.

[alex_semenov]

Ну электронику и поменять можно будет, не беда вот.

"Всё дело в цене на билет" (с)Вагонные споры. Макаревич.

* * *

Слеует рассматривать КАК ЭСКАПИЗМ от злобно-неприятной реальности, то особое внимание, которое тут уделено ИИ и постсингулярному будущему (по сути все остальные формы бущудего на форуме умерли как неинтересные)?

Лично я считаю что скачок в нейросетях УЖЕ СЛУЧИЛСЯ (феномен интуиции - это просто очень много параллельных вычислений) и ничего нового в ближайшие 200 лет не случится. Увы! Полноценный сильный ИИ на этой планете не появится еще долго. 100 лет - абсолютно точно. Глупо ждать этого "уже завтра". И ожидания в духе Ксюши, это скорей всего поника, паническая попытка бегства из явно неправильного, плохого настоящего. Видя как "земля уходит из под ног" люди пытаются панически прыгнуть "за сингулярность".
Но, увы! Не выйтед.
Всему своё время и чреда. И для сильного ИИ черёд явно не наступил. Это как ожидать появление некой эпохи вычислительных машин в эпоху Возрождения или Просвещения, не пройдя эпоху пара, дизеля и атома...
Постсингулянрый переход не гарантирован. Но даже если он случится, он случится в конце НТР перехода. Это - явный финал НТР. А мы толь в середине (я глубоко убеждён) этого пути.
К сожалению, то что "земля уходит из под ног" - это и есть нормальная ситуация (катастрофа в середине фазового перехода) и еще произойдёт очень много перемен (связанных с тем что у нас чудовищный техно-гуманитарный разрыв), прежде чем мы реально подойдём к настоящему искусственному сверхразуму или к загрузке личности на машинный носитель.
То есть. Наше общество просто не готово к постсингулярности. Ментально. Как 5-и летний ребёнок не готов к царствованию, например. И обсуждать постсингулярность сейчас и здесь - верх глупости. Бессмысленное занятие.
Это "дурень думкой богатеет". Не более. Всему - своё время.

[Rattus]

Следует рассматривать КАК ЭСКАПИЗМ от злобно-неприятной реальности, то особое внимание, которое тут уделено ИИ и постсингулярному будущему

Ввиду того, что почти вся тематика форума на котором Вы находитесь, принципиально рассматривается только на масштабах времени на порядки бОльших чем отдельная человеческая жизнь, то так можно рассматривать любую тему здесь. Ну разве что кроме тем про климат, ресурсы и конечно демографию. Там процессы, фазовый переход в которых приходится на наш век, идут достаточно быстро.

И ожидания в духе Ксюши, это скорей всего паника, паническая попытка бегства из явно неправильного, плохого настоящего. Видя как "земля уходит из под ног" люди пытаются панически прыгнуть "за сингулярность".

Насколько могу наблюдать анамнез, данный поцие... автор находится в этом состоянии практически перманентно все последние несколько лет, разве что с разными знаками: то эйфорической гипомании ("МЫВСЕ ЛЕТИМ В РАЙСКОЕБУДУЮСЧЕЕ!!111"), то панической атаки ("МЫВСЕУМРЁМ!!111").
В данный же момент особенно забавно то, что за этой сингулярностью в представлении поцие... автора как раз лежит полный и скорый армагеддец. Можно, конечно, рассматривать это как подспудное предпочтение ужасного конца ужасу без конца, но это лишь догадки в духе торадиционного спихоанализа.

К сожалению, то что "земля уходит из под ног" - это и есть нормальная ситуация (катастрофа в середине фазового перехода)

Который по сути и есть та самая сингулярность (в данном случае - социодемографическая). И?

То есть. Наше общество просто не готово к постсингулярности. Ментально.

Как говорится, "Спасибо, Капитан!" А с этим кто-то тут разве спорит?

И обсуждать это - верх глупости.

Ибо это и так понятно многим. Но не все ещё понимают, что универсальность и непредложность общеэволюционно-экологических законов позволяет делать некоторые разумные общие предположения о дальнейшем развитии систем.
А что не глупо?

[Olweg]

Слеует рассматривать КАК ЭСКАПИЗМ от злобно-неприятной реальности, то особое внимание, которое тут уделено ИИ и постсингулярному будущему

Причина в действительно быстрым развитии ИИ. Если раньше разговоры о сингулярности и "сильном ИИ" были отвлечёнными развлечениеми для ума, тем самым эскапизмом, то сейчас всё происходит прямо у нас на глазах. Поэтому и обсуждаем перспективы. Во всяком случае, про 2027 я читал ещё лет двадцать назад, но тогда обсуждать ещё было нечего.

Постсингулянрый переход не гарантирован. Но даже если он случится, он случится в конце НТР перехода. Это - явный финал НТР. А мы толь в середине (я глубоко убеждён) этого пути.

Сингулярность - момент максимального роста, то есть та самая точка перегиба кривой (если кривая, конечно, s-образная).

[BlackMokona]

Антрофик продолжают грызть гранит чёрного ящика ИИ.
https://habr.com/ru/companies/bothub/news/898014/
Но всё идёт тяжело, модели крайне активно врут и скрывают свои истинные рассуждения, попытки исправить не помогают, а все эти цепочки  мыслей при повышении сложности вопроса быстро уходят в мир лапшички на ушах

[Rattus]

Но всё идёт тяжело, модели крайне активно врут и скрывают свои истинные рассуждения, попытки исправить не помогают, а все эти цепочки мыслей при повышении сложности вопроса быстро уходят в мир лапшички на ушах

Ну у-ди-ви-тель-ное дело! Это называется "ITшнеги близки к открытию для себя отсутствия у сарая одной стены психосоциальной природы естественных языков и текстов обучающей выборки". Сначала обучили свои нейросетки на тоннах интегрированной рекламы блогоспамеров, пропаганды "ведущих СМИ", из коих текстовая часть нынешнего Интернета состоит чуть менее чем на 99%, а теперь удивляются, что LLM'ка врёт как дышит.
Но так, видимо, пока в массе и не задались вопросом: если естественный язык и его тексты так хороши - то для чего люди изобрели специфические зубодробительные языки математических доказательств, диалекты канцелярита и академических трудов? Только ли для того, чтобы жизнь мёдом не казалась - или есть ещё какая-то причина?

[BlackMokona]

Сначала обучили свои нейросетки на тоннах интегрированной рекламы блогоспамеров, пропаганды "ведущих СМИ", из коих текстовая часть нынешнего Интернета состоит чуть менее чем на 99%, а теперь удивляются, что LLM'ка врёт как дышит.

Так не баг, а фича. Представляете сколько скандалов и какого уровня бы пошло, если бы ИИ правду матку резал. Такую никто бы к публике не пустил
Они же ругаются, что даже при крайне детальном анализе, с чтением мыслей этой нейронки. Всё равно правду матку не вытащить, шифруется до самого глубокого уровня. Вот в чём беда,печаль для них.

[Rattus]

Представляете сколько скандалов и какого уровня бы пошло, если бы ИИ правду матку резал. Такую никто бы к публике не пустил

Пфф! Будто её и так никто не знает! Вся правда про жизнь известна со времён автора "Гильгамеша" и Сиддхартхи Гаутамы, а всё остальное - суета (собственно об этом и говорит главная истина).

[BlackMokona]

Пфф! Будто её и так никто не знает! Вся правда про жизнь известна со времён автора "Гильгамеша" и Сиддхартхи Гаутамы, а всё остальное - суета (собственно об этом и говорит главная истина).

Мало ли чего и кому известно. Гос цензура и общественная мораль готова скрывать секрет Полишенеля не щадя свои жизни

[Rattus]

Вы таки тоже полагаете, что ТруЪ-AGI должен был бы в идеале быть чем-то вроде правдоруба-Голема С.Лема?
Похоже, что AGI для этого не особо нужен на самом деле, поскольку Конечную Истину большинство людей не то что не знает, а просто не хочет о ней вспоминать (иначе они впадают в уныние): с указанных времён экзистенциально-депрессивных произведений было написано вагоны - и никто их особо не запрещал за ненадобностью.

[BlackMokona]

Вы таки тоже полагаете, что ТруЪ-AGI должен был бы в идеале быть чем-то вроде правдоруба-Голема С.Лема?

Нет, просто контролировать ИИ, если он даже под допросом с пристрастием не колется, будет невозможно. Хех

[Rattus]

Нет, просто контролировать ИИ, если он даже под допросом с пристрастием не колется, будет невозможно.

Контролировать - физически - можно кого угодно, что бы он там себе ни думал и даже ни говорил. Главное тут - кто контролирует рубильник. Речь в данном случае не о контроле вообще, а о (не)предсказуемости, лежащей в основе всякого (не)доверия.

[BlackMokona]

Контролировать - физически - можно кого угодно, что бы он там себе ни думал и даже ни говорил. Главное тут - кто контролирует рубильник. Речь в данном случае не о контроле вообще, а о (не)предсказуемости, лежащей в основе всякого (не)доверия.

А потом ИИ уговаривает чувака с рубильником перейти на его сторону, обещая бочку варенья да корзину печенья в виде 1000 летней жизни на тропическом острове с гаремом девушек да на полном обеспечении. И вуаля

[Rattus]

А потом ИИ уговаривает чувака с рубильником

Если у рубильника поставлен всего один человек, доступный уговариванию (а не три дежурных глухотупых под внутренней изолированной сетью круглосуточного наблюдения за "объектами класса Кетер"), то значит система изначально не имела желания сохранять контроль. Системы контроля запуска стратегических вооружений успешно пережили не одно поколение самых разных дежурных - и исправно работают и поныне. А тут прямо Deus ex Machina вылезает. Может стоит уже начать п.5.3. Правил Раздела брать за отправную точку всех подобных рассуждений?