Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[Polnoch Ксю]

Есть такой термин "trump derangement syndrome"...

Не все так плохо как кажется...

Все ещё хуже. Они всерьёз возрождают "геополитику" и "зоны влияния" из XVI-XIXго веков. Происходит примитивизация социальных структур, как на наднациональном, так и на национальном уровне. Это глобальный отказ от глобализации(что само по себе безумное, чистый луз-луз решение!), гуманизма и от правильных решений в теории игр(я про игры голуби vs ястребы, и дилемма заключенного).
Так же на полную катушку включена пропаганда ксенофобии, против мигрантов, например. Если бы не скорая технологическая сингулярность, человечество может и оправилось бы от приступа идиотократии лет через 20-30(по крайней мере, это вполне следует из того же Петра Турчина), а так всё будет максимально плохо. Это прямо идеальный шторм. Все ошибки, которые могли быть совершены, сделаны.

Не мракобесы вроде Дугина или Ярвина должны были бы определять то, как человечество войдёт в сингулярность. А гуманистически настроенные мыслители вроде Харари, Даймонда, Юдковского, Курцвейла. В конце концов, русскоязычного Аргонова.

Тут есть две версии происходящего:

1) умысел (в силу эгоистичных настроений, чтобы в одно рыло контролировать system promt у ASI) - конспирология то есть
2) тупость

Бритва Хэнлона нас учит, что скорее всего, это тупость, а конспирология вряд ли верна. Глобальное отупление от хаоса социальных сетей, в которых так легко распространяется бред. То, что в России теперь минздрав навязывает гомеопатию, а в Штатах главой минздрава назначили главного идиота планеты, у которого червяк жевал мозги и умер (кеннеди), и который отличился тем, что один из главных распространителей бредятины про вакцины на нашей планете, это аргументы за то, что мы вступили в идиотократию.

Впрочем, ни один из вариантов (умысел злодеев с деньгами и властью или просто всеобщее помешательство) не сулит нам ничего хорошего.

[Бобр-99]

Боюсь что вы правы.
А вот что принесет сингулярность.. на то она и сингулярность.

[BlackMokona]

Это глобальный отказ от глобализации

От двух миллиардеров, один из которых владеет целой кучей ТНК. Пчёлы против мёда

[Инопланетянин]

Не мракобесы вроде Дугина или Ярвина должны были бы определять то, как человечество войдёт в сингулярность. А гуманистически настроенные мыслители вроде Харари, Даймонда, Юдковского, Курцвейла. В конце концов, русскоязычного Аргонова.

А вам не кажется, что вообще никто ничего не должен определять за всё человечество? Ах да, вы же за глобализм…

Все ещё хуже. Они всерьёз возрождают "геополитику" и "зоны влияния" из XVI-XIXго веков. Происходит примитивизация социальных структур, как на наднациональном, так и на национальном уровне.

Забавно. Очень забавно.

Есть такой термин "trump derangement syndrome"...

В переводе на русский - шельмование Трампа.

Да, - дорогой технооптимист - это не ЦОД будет меньше тянуть энергии, а ты - меньше кушать, греться и одеваться. Признаки чего мы, собственно, уже наблюдаем - на примере самых изнеженных и бесполезных представителей общества - геймерах-графофилах.

Это даже немного утешает. Есть небольшая надежда, что меньше есть и греться будут такие бесполезные члены общества. А полезные наоборот.
Кстати, а что ЦОД сможет противопоставить саботажу? Ну, если совсем уж сильно зажмёт своих рабочих и им это не понравится?

Ratus, а Вы оптимист

Если только как в анекдотическом определении оптимиста и пессимиста. Где пессимист мрачно утверждает, что положение - хуже не бывает, а оптимист радостно - Бывает! Бывает!

нагеноинженерят гомункулов с высокоэффективными птичьими нейронами

Высокоэффективность птичьих мозгов во многом строится на врождённых поведенческих реакциях. Что интеллектом не является и приводит, например, к гнездовому паразитизму. А к чему это приведёт у ремонтников - страшно подумать. К неспособности справиться с нестандартной поломкой, например. Или к выполнению врождённого шаблона вопреки бьющей в глаза реальности.

[Polnoch Ксю]

Высокоэффективность птичьих мозгов во многом строится на врождённых поведенческих реакциях. Что интеллектом не является и приводит, например, к гнездовому паразитизму. А к чему это приведёт у ремонтников - страшно подумать. К неспособности справиться с нестандартной поломкой, например. Или к выполнению врождённого шаблона вопреки бьющей в глаза реальности.

им и не нужно быть слишком умными. Им нужно доверять мнению ASI, или одному из его дочерних, специализированных и более экономичных AGI. У него и машинное зрение будет, если ремонтник вдруг затупит.

Кроме того, это всё же копиум, и попытки доказать себе, что лучше человека ремонтника не вырастить(а ещё вероятнее - просто собрать). Вы обманываете себя, ребята. Простите, что говорю вам эту правду.

[Polnoch Ксю]

Кстати, а что ЦОД сможет противопоставить саботажу? Ну, если совсем уж сильно зажмёт своих рабочих и им это не понравится?

Эусоциальность. Не как у Семёнова, а настоящую. Нейролинк в голове, и 50% общих мемов с босом, и 25% с другими рабочими особями. И всё, давление отбора (на мемы, приложенное к особи) сделает так, что никакого саботажа не будет. Это никак уже человеком назвать нельзя будет. Да и не думаю, что человек вообще тут будет в качестве основы. Разве что, в качестве какого-нибудь специализированного механика для мест, где проблемы с инфраструктурой, чтобы использовать нашу специализацию марафонца (я думаю, обычный механик будет как минимум колёсный).

[Polnoch Ксю]

Только вот знаете что? Ваши эти технульи, это фантомные боли мертворожденной концепции неомальтузианства. Никакого энергетического или ресурсного кризиса не будет. ASI либо будет Paperclip maximazer'ом, и тогда он просто остановится, исполнив промт (попутно уничтожив человечество), либо нет, и тогда он выйдет в космос, и превратит в цивилизацию всю солнечную систему. Ему нет никаких причин изолировать себя на Земле. Но и уходить с неё он тоже не будет, оставив её людям: тут довольно много ресурсов.
А в космосе не нужны гомункулы даже из птиц. Разве что из гигантских тихоходок?

Мы могли бы быть в космосе в качестве, так сказать, домашних питомцев. Могли бы попробовать построить "кошачий рай" на Марсе, где бы множество умных машин работали неведомым для нас способом, просто чтобы нам было комфортно. Но нет, мы оказались слишком тупыми даже, чтобы договориться насчёт сотрудничества в тот период, когда это нужнее человечеству всего!

[Инопланетянин]

и попытки доказать себе, что лучше человека ремонтника не вырастить

У меня попытка выжить. В связи с этим вопрос - а зачем мы роботам, не лучше ли роботы для нас? И если уж идёт разговор о тупых исполнителях, то не лучше ли такими делать именно роботов?

Никакого энергетического кризиса не будет.

Если освоить термояд. Который, как показывает практика, может быть только КВС. Вся эта возня с токамаками и мишенями, которая на всём протяжении даст результат вот-вот уже через 20 лет себя не оправдывает.

[Polnoch Ксю]

У меня попытка выжить.

У меня тоже, от этого такой баттхерт от этой череды безумных решений, которые мы все напринимали. Предельно тупых, эгоистичных, саморазрушительных, и очевидных в своей ошибочности...

. В связи с этим вопрос - а зачем мы роботам, не лучше ли роботы для нас?

Конечно лучше. А я о чём? Я и говорю, что Ratus оптимист, лол.
UPD: неправильно прочитала. Думала Вы написали: "В связи с этим вопрос - а зачем мы роботам, не лучше ли роботы для роботов?"

Если освоить термояд.

И термояд он освоит. И всё остальное. А во внутренней части солнечной системы он будет солнечными панелями пользоваться - даже на расстоянии Земли от солнца EROI панелек во много раз больше, чем в солнечной Калифорнии.

[Инопланетянин]

У меня тоже, от этого такой баттхерт от этой череды безумных решений, который мы все напринимали. Предельно тупых, эгоистичных, саморазрушительных, и очевидных в своей ошибочности...

Мягко говоря, вы не в ту сторону копаете. То есть, именно что пропагандируете тут не очень умные решения. (глобализм - это плохо, например. тупые люди могут напакостить в отдельной стране, вы хотите чтобы один тупой управленец пакостил всему человечеству) Семёнов тоже (один отказ от семьи чего стоит, но это его идея фикс). Да и вообще, много кто.

[Polnoch Ксю]

Мягко говоря, вы не в ту сторону копаете.

вовсе нет

глобализм - это плохо,

во-первых, именно благодаря глобализму мы имеем взлёт науки и техники, и уровня жизни, то есть, это ОЧЕНЬ ХОРОШО, по мере сворачивания глобализма станем жить хуже (вот тут неомальтузианцы и поднимут мурло, и скажут, что во всём виноват ресурсный кризис. Это будет такая байка для чуть более умных. Для совсем тупых в этом обвинят мигрантов, которые съели котов, собак и выпили воду в кранах, и других приравненных к недолюдям), просто за счёт уменьшения размера рынка и торговли.

А во-вторых, именно для этой задачи - глобализм, а не соперничество прям очень критичны. Для выживания человечества нам нужна попытка AI Alignment. И чтобы не было попыток запуска ASI без него. Для этого нужны международные соглашения. Это возможно только в обществе высокого доверия (согласно теории игр! и дилемме заключенного!), чтобы все друг другу доверяли, водили инспекции итд.

Мы не можем себе позволить ошибиться. Нужно делать каждый шаг, тщательно всё отмеряя. Но уже поздно.

[BlackMokona]

И чтобы не было попыток запуска ASI без него. Для этого нужны международные соглашения.

И как международные соглашения заставят тот же Китай не запускать AGI без этого?

[Polnoch Ксю]

И как международные соглашения заставят тот же Китай не запускать AGI без этого?

Вот о чём и речь. Мы имеем планетарное общество низкого доверия. Мы провалили экзамен как разумный вид. Это время для конфронтации - худшее из возможных в нашей истории. Никогда ранее это не было настолько важно, не устраивать новую холодную и тем более горячую войну с килл-ботами!

[BlackMokona]

Вот о чём и речь. Мы имеем планетарное общество низкого доверия. Мы провалили экзамен как человечество. Это время для конфронтации - худшее из возможных.

Однако мы конфликтуем всю историю человечества и никогда не изменяли этому делу. Почему вы думаете, что могло быть иначе?

[Polnoch Ксю]

Однако мы конфликтуем всю историю человечества и никогда не изменяли этому делу. Почему вы думаете, что могло быть иначе?

Вообще-то были попытки построить глобализованное пространство на всю ойкумену. Например, время римской империи. Или время 1990-2007

Да и во время холодной войны уровень доверия между соперниками был выше, чем сейчас. Международные договоры заключались(например, по ядерному оружию), аннексии и угрозы аннексий, особенно крупными, развитыми державами были редкостью и нонсенсом.

Я думаю, мы должны были попытаться сделать планетарный аналог Евросоюза. Тогда был бы хороший шанс выжить (не буду врать, что слишком большой, не сто процентов...): то есть, глобализованное пространство с высоким доверием между игроками и общими правилами игры, построенное на основе ценностей гуманизма, а не ксенофобии, ура-патриотизма, итд

[BlackMokona]

Вообще-то были попытки построить глобализованное пространство на всю ойкумену. Например, время римской империи. Или время 1990-2007

1.Что то не помню экспедиций легионов для захвата Китая или обратного дела. Китай и Рим знали про друг друга. Где то-кто то есть. Но ничего делать с этим не желали
2.В 1990-2007 было время подъёма Исламского радикализма, который кушает досих пор. С противостоянием Западный мир против Исламского

[Polnoch Ксю]

Китай и Рим знали про друг друга.

Далеко не всё время

2.В 1990-2007 было время подъёма Исламского радикализма, который кушает досих пор.

Они бы не построили ASI. Нельзя быть исламистом, и иметь крутые AI-лабы и датацентры.

[BlackMokona]

Далеко не всё время

Большую часть и никак не собирались добираться до друг друга.

Они бы не построили ASI. Нельзя быть исламистом, и иметь крутые AI-лабы и датацентры.

Почему не могут? Они чертовски богатые, а для учёных они делают особые условия. Помню читал про технопарк в Аравии. Там и винишко, да прочие запретные в Исламе вещи в изобилии. Никаких ограничений для женщин, да намазов по три раза в день. Только огромные зарплаты, передовое оборудование и возможность творить во благо властей. 

[Polnoch Ксю]

Помню читал про технопарк в Аравии.

Саудовская Аравия была частью общей системы. Как и Эмираты. Вот Талибан не был, да

[BlackMokona]

Саудовская Аравия была частью общей системы. Как и Эмираты. Вот Талибан не был, да

Вот вам Иран, в конституции которого прописан мировой джихад против неверных. Власть в стране у Исламских фанатиков, во всех странах в округе действуют подконтрольные их радикальные исламские формирования и тд. Активно занимаются ИИ.

В Тегеране планируют открыть первый национальный парк искусственного интеллекта (ИИ) в течение двух лет. Об этом сообщил помощник вице-президента по науке, технологиям и экономике знаний Моджтаба Алиазаде, передает Tehran Times, партнер сети TV BRICS.

Парк станет платформой для демонстрации технологических достижений страны и предоставления ИИ-услуг исследователям и гражданам. Проект реализуется государством совместно с крупными компаниями.

В столице Ирана 29 января также пройдет международная конференция, посвященная искусственному интеллекту. На ней выступят ученые из ведущих университетов страны и мира, а технологические компании представят новейшие разработки.

Согласно базе данных Web of Science, Иран занимает первое место среди исламских стран по числу публикаций по теме технологии ИИ.

Текст скопирован с https://tvbrics.com/news/v-irane-otkroyut-pervyy-v-strane-park-iskusstvennogo-intellekta/