Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[Polnoch Ксю]

Ну разумеется непонятно - ведь процессоры, на котором он может крутиться - вечны и не подвержены деградации, а если вдруг что-то случится - то ASI, c помощью изобретенных им Скатерти-Самобранки и Философского Камня в момент синтезирует себе замену из подручного реголита!

Забавляет Ваше слепое пятно на прогресс в роботехнике

Да - это весьма показательное было обсуждение. Не в ВАшу пользу,

Так и игнорируете, что оппонент свалился в кольцевую логику

Но в массе других игр хозяйствующих субъектов цивилизации - особенно требующих больших объёмов природных ресурсов - ситуация зачастую оказывается совсем иной. И сколько бы вы ни клеймили "неомальтузианство", свинец не никогда трансмутируется в золото в промышленных масштабах, а 2-2 всегда =0.

Конечно не трансмутируется. Но Галактика большая.... А бессмертные ASI вполне могут себе позволить ждать тысячи лет поставки из других солнечных систем. Или копировать себя в новое место в уже развернутую инфраструктуру. Скорость света очень большая.

Так что Гаттака - это совершенно типичная, классическая утопия,

Но задумывалась как антиутопия. Вот ирония! Напомню, Вас я тоже считаю слишком оптимистом по поводу перспектив человечества

[Polnoch Ксю]

По поводу же ИИ - вот статья о принципиальной невозможности его создания, и с этой точкой зрения я согласен.
https://www.nature.com/articles/s41599-020-0494-4

извиняюсь, но это очередная слепота Лорда кельвина. Сам факт наличия ЕИ (у человека) доказывает возможность ИИ

[Polnoch Ксю]

А ведь мог и корм сам в миску сыпаться, и лоточек регулярно меняться
... и опять таки на случку к партнеру в клетке-переноске отнесут (к писклявому, пучеглазому и кривоногому, потому как он ПРИКОЛЬНЫЙ!)
 

Это верно подмечено про не понимание... Человек мыслящий и понимающий он актор, и счастье его точно не между миской и лотком!
Счастье всем даром - утопия. Этот конструкт неустойчив как стационарная вселенная - все неизбежно на.. придет в движение.
(вне зависимости от природы разумного существа)

Вы неправильно поняли концепцию кошачьего рая для людей. У нас как раз бы свобода воли осталась бы, потому, что это для нас ценность. Как и творчество, или экспансионизм (колонизация космоса). А ещё - справедливость, ASI её бы имплементировал. Мы были бы лишены продуктивного труда (как физического, так и интеллектуального), потому, что этим бы занялись машины.
Мы бы совсем не понимали, какие именно ASI придумал технологии, чтобы мы колонизировали Альфу Центавра B. Он бы нам объяснил, и мы бы что-то даже бы поняли, но очень верхами. Я думаю, мы бы быстро отучились пытаться понимать, как работают технологические цепочки. Наша, человеческая инженерия, оптимизирована по принципу минимальной комбинаторной сложности (мы предпочитаем простые машины при прочих равных). У ASI такого ограничения не будет.
Кто-то из нас будет заниматься интеллектуальным хобби, в том числе может быть даже связанным с созданием технологических цепочек просто по фану. Но в реальной экономике в этом сценарии они использоваться не будут.

Я писала о потенциальном сценарии AI alignment'а, а не человеческого alignment'а к AI.

[Polnoch Ксю]

Считаете, что я её проглядел? Тогда максимально терпеливо и аккуратно приведите всю цепь рассуждений и аргументации из которых она становится неотвержимой. Иначе ответ один: неубедительно и голословно.

Мой тезис: существует инструментальная ошибка человеческого мозга, в недооценке темпов прогресса. По моей гипотезе, когда мы переполняемся информацией, мы склонны считать её не имеющей ценности. Так как объём знаний человечества всё время растёт, по моей версии это и происходит с интеллегенцией, включая большинство учёных.

AlexAV в той дискуссии притащил ОТОБРАННЫЕ ВРУЧНУЮ научные достижения, для опровержения моей гипотезы. Тогда как если я права, отбирающий тоже подвержен этой систематической ошибке.
Рассматривайте человеческий мозг как вольтметр, который систематически занижает количество показываемых вольт - имеет систематическую ошибку. Нельзя доказывать то, что напряжение в цепи снижается с помощью вольтметра, который подозревается в систематическом занижении своих показателей.

 Далее, мои аргументы может быть и не самые сильные, но я принесла хоть какие-то(например, количество патентов). А аргументы AlexAV были закольцованы. ОН ВООБЩЕ НИКАКИХ НЕ ПРИНЕС

[Polnoch Ксю]

А качественное превосходство было продемонстрировано, когда АИ легко понял Зловещий и Мистический Код даВинчи ПолночКсю, что отметили даже читатели этой темы.

что? 

[Polnoch Ксю]

Это прямая дезинформация. AlexAV представил и данные и критерии их отбора

критерии были субъективными, а значит были кольцевой логикой.

 

А у ВАс разве не так было? И AlexAV сначала показал, что исходно некритично вываленный весь вал патентно-статейной макулатуры совершенно не годится для обоснования ВАших сильных тезисов про неубывающую скорость накопления практически-ценных данных и далее просто стал конструктивно предлагать свои варианты в соответствии с максимой "критикуешь - предлагай".
Содержательной контраргументации от ВАс не последовало.

Для обоснования идеи о том, что прогресс якобы замедляется, я не увидела никаких пруфов, кроме вручную отобранных списков достижений. Каковы бы ни были критерии, там в центре всё равно всегда был субъективизм. Если бы он притащил что-нибудь объективное, например связав технологии(измеренные не субъективным способом, например, подсчёт всех патентов. Или всех научных работ) с фондовым рынком или ВВП, доказав обратные корреляции. Или хотя бы связав их с, не знаю, количеством излечиваемых диагнозов. Или с производительностью труда - показал бы, что есть обратные корреляции(или хотя бы чтобы был падающий возврат через вторую производную по объективным данным, не перекрываемый чисто количественным увеличением знаний), это можно было бы обсуждать.

Моя позиция дефолтная, скептичная. Неомальтузианцы должны доказать, что прогресс замедляется, принеся что-то, кроме субъективно выбранного списка достижений. Я принесла какие-то метрики (хотя не обязана была) для обоснования своей идеи. Может быть они и не совершенные, но "аргументы на троечку" лучше никаких аргументов (ссылающихся на самих себя)

Каково значение этой ошибки (раз она "систематическая") и в каких попугаях?

неизвестно

Если ошибка постоянная - то изменение (динамику) отследить вполне можно;

нельзя, потому, что её закон неизвестен. Из общих соображений, если я права, я бы предположила, что связь нелинейная, и рост быстрее арифметической прогрессии. Но я этого не утверждаю.