Эпоха великих перемен.

[Karagy]

У Пучкова с Шемякиным отличные ролики про Южную Корею. Не плодятся там фактически из-за рабских условий жизни.

[Инопланетянин]

суверенитет, как его придумал НОД и другие сектанты

А если просто суверенитет?

Зачем Вам фертильность у людей менее чем за полвека до технологической сингулярности? Что Вы с ней будете делать? В бочках солить?

То есть, вы уже готовитесь добровольно сдохнуть, уступив место роботам?

[Polnoch Ксю]

(кликните для показа/скрытия)

А если просто суверенитет?

Я думаю, суверенитет - это просто применимость законов на какой-то территории. Например, если гражданка Канады украдёт в Швейцарии в элитном бутике бельё на несколько тысяч швейцарских франков (выше местного уголовного порога) то она не будет подсудна суду Канады, а будет подсудна властям Швейцарии.
А другое, что под этим подразумевают обычно на русском языке  плохая модель реальности, как гуманитарная теория, описывающая поведение хомо сапиенсов, не дающая хороших предсказаний, за исключением самоисполняемых пророчеств.

Раньше РАН причисляла так называемую геополитику к лженаукам. Особенно в тех её интерпретациях, которые популярны на русском языке. Я думаю, в теории это могла бы быть наука. Но само слово, к нему уже прилип бред. Ну вот как алхимия - лженаука, но некоторые её методы применимы в химии.
Или астрология - некоторые её методы работали для астрономии. Слово астрология - подразумевает не лженауку, но само слово уже испорчено. Соотвественно нужна настоящая дисциплина, очищенная от ультраправой Дугинской чуши, описывающая международную политику.

То есть, вы уже готовитесь добровольно сдохнуть, уступив место роботам?

Во-первых, я не знаю, что будет - сингулярность принципиально непрогнозируема. Таракану сложно моделировать поведение человека. Как и мне и вам сложно предсказать, что будут делать сверхИИ - да, теория игр немного помогает, но очень и очень ограничено.

Во-вторых, я считаю, что проблемы нужно решать по мере их приоритета: в ближайшие несколько сотен лет человечество при нынешних демографических тенденциях не исчезнет, а вот от действий rogue AI запросто. Соотвественно, нужно решать приоритетную проблему - AI alignment'а, делать ИИ безопасным. На это нужно тратить ресурсы.
Если у нас будет дружественный людям сверхИИ, он и решит наши фундаментальные проблемы: и с климатом, и с демографией (если после радикальных трансформаций общества после сингулярности они вообще останутся! Не забывайте про пренебрежимое старение у многих животных. Людей можно пропатчить, чтобы мы имели биологическое бессмертие...).

Я считаю, что те люди, которые ноют о демографии, работают на наше вымирание от действий злого к людям сверхИИ - отвлекают внимание от настоящей проблемы!

[Ph_user]

развитые страны, которые от голода точно не страдают.

Там тоже страдают. Но там голод сложнее устроен и больше замаскирован. Приличные нужные для размножения товары там тоже дорогие и чтобы показывать внешние понты их можно меньше покупать. При этом происходит просто обмен потенциального будущего на показ понтов в наличном времени.

[kup]

Людей можно пропатчить, чтобы мы имели биологическое бессмертие...).
-----------
Чтобы бесконечно писать чушь на форумах 

[alex_semenov]

Людей можно пропатчить, чтобы мы имели биологическое бессмертие...).
-----------
Чтобы бесконечно писать чушь на форумах 

Поправлю вас. Что бы бесконечно писать ОДНУ И ТУ ЖЕ чушь на форумах.
Как говорил, кажется, Бор? Новые идеи не побеждают. Просто носители старых постепенно умирают.
А как перестанут? Прогресс остановится.

Ксюша у нас безголовая техноптимистка. Её напористому оптимизму можно просто позавидовать.

[Инопланетянин]

плохая модель реальности

Вам бы статус иноагента, да фигура мелковата. Вы просто пропагандируете подчинение США. Только и всего.

и с климатом

Ну вот я и многие тут считают, что глобальное потепление не проблема, а наоборот благо. А вы, как я успел узнать, считаете наоборот. Ну и в какую сторону должен действовать ИИ чтобы осчастливить человечество с климатом? Оставить всё как есть и наслаждаться тёплым ровным климатом по всей Земли? А вы его за это посчитаете злобным. Или начать бороться с потеплением, уничтожая производство и вырубая реликтовые леса ради ветряков как это сделали в Германии? Это вам понравится, но не понравится разумным людям. Да и себе такой ИИ повредит, т.к. подсократит свою собственную техническую базу.

При этом происходит просто обмен потенциального будущего на показ понтов в наличном времени.

Ну это не голод, это именно отсеивание тех, у кого тщеславие перевешивает базовые потребности. Они могут всё же купить жизненно необходимые вещи. Настоящий голод, это когда еды просто нет. И даже за большие деньги на всех не хватит.

[Polnoch Ксю]

Поправлю вас. Что бы бесконечно писать ОДНУ И ТУ ЖЕ чушь на форумах.
Как говорил, кажется, Бор? Новые идеи не побеждают. Просто носители старых постепенно умирают.
А как перестанут? Прогресс остановится.

напомню, мы говорим о постсингулярном мире. В нём человек не является вершиной интеллектуальной пирамиды. Поэтому это опять же просто совсем не важно. Все инновации после техсингулярности производятся машинами.

К тому же, я думаю, это просто миф. Вся косность связана со старением мозга. Биологически молодой мозг будет генерировать новые идеи. Он биологически склонен к формированию новых соединений нейронов. Сверхинтеллектуальные машины, если будут служить нам, будут о нас заботится. Вот как люди о котиках заботятся: мы котикам даём игрушки, чтобы им было весело.
У людей будут такие же игрушки. Только совсем другого масштаба, например, межзвездные звездолёты и терраформирование планет - потому, что нам нравится эта идея! А о том, чтобы мозг человека-питомца не костенел, будет заботится его хозяин - сверхИИ.

[Polnoch Ксю]

Ксюша у нас безголовая техноптимистка. Её напористому оптимизму можно просто позавидовать.

Я считаю самым вероятным сценарием вымирание человечества от сверхИИ. Просто потому, что мы занимаемся чем угодно, но нерешением проблем безопасности ИИ.
Заранее виню в своей смерти (как и всего человечества!) всех, кто занимался такой чушью как так называемая геополитика, демография, традиционными ценностями и другой безумной чушью, абсолютно несовместимой с постсингулярным миром! Разве что в формате как в резервациях - как у Чарльса Стросса в "Небе сингулярности". Рекомендую всем почитать этот блестящий роман: когда постсингулярный Фестиваль сталкивается с местными любителями "скреп" и "традиционных ценностей".

Вам бы статус иноагента,

Правда глаза колет, понятно

[Polnoch Ксю]

Ксюша у нас безголовая техноптимистка

Только это мои прогнозы, например, по смерти закона Мура(https://astronomy.ru/forum/index.php/topic,109079.msg5525244.html#msg5525244), которую в разделе преждевременно отмечали, как и по смерти прогресса (что её не будет, и next big thing будет создано - так и получилось, появились LLM!) исполняются. Я ли безголовая, или банда неомальтузианцев, оккупировавших ВЖР и навязавшая всем идейки о застое прогресса, не сумев отфильтровать собственные когнитивные искажения от реальности?
https://astronomy.ru/forum/index.php/topic,121758.msg6366151.html#msg6366151

[kup]

Сверхинтеллектуальные машины, если будут служить нам, будут о нас заботится.
---------
Пересмотрите мультик "Вовка в тридевятом царстве!" .  А что вы за меня и есть будете? Ага!

[Инопланетянин]

Правда глаза колет, понятно

Причём вам. Вот хотя бы тот же закон Мура, неисполнение которого вы в упор не видите и видеть не хотите.

Просто потому, что мы занимаемся чем угодно, но нерешением проблем безопасности ИИ

Василиск Роко

[Ph_user]

в чём сила, брат?

В здоровых и качественых.

Людей можно пропатчить, чтобы мы имели биологическое бессмертие..

Роботов могут обучить как делать вечную жизнь виду приматов по научным правилам животноводства и они будут хранить этот вид долго.

[Polnoch Ксю]

Вот хотя бы тот же закон Мура, неисполнение которого вы в упор не видите и видеть не хотите.

Сейчас да. Но до появления архитектуры Zen, форумные неомальтузианцы всерьез выдавали застой с четыремя ядрами на десктопе у Интела за эффекты смерти закона Мура. А мои указания на то, что для серверного рынка продолжается быстрый рост числа ядер, как и наблюдается рост производительности для ARM процессоров - это игнорировали.
В итоге права оказалась я - что это просто эффекты (закончившейся через 5 лет после спора монополии Интел) - а не эти люди со странными взглядами, всё время хоронящими прогресс и ратующими за скрепы, за жизнь как у дедов.

Напомню, мой тезис: отдельные технологии действительно S-кривые. Но прогресс в целом - это экспонента. Экспоненциальный характер прогресса незаметен из-за когнитивных искажений людей. Просто на смену технологии, вышедшей на плато, приходят новые S-кривые. Например, сейчас по железу "on edge" технологии это TPU - специальные ускорители для нейронок. До выхода на плато этой технологии ещё очень далеко.
По CPU мы вот сейчас действительно видим насыщение, выход на плато технологии. Сейчас, а не 15 лет назад!

[Ph_user]

на наше вымирание от действий злого к людям сверхИИ

В програме роботу может быть задание стабилизировать вид прямоходящих приматов на рациональном и достаточном уровне порядка милиона голов и этот вид будут показывать всем пролетающим другим планетянам как доказательство отсутствия злых намерений и даже расхода ресурсов на стабилизацию числености.

отсеивание тех, у кого тщеславие перевешивает базовые потребности. Они могут всё же купить жизненно необходимые вещи.

У стайных животных многие повторяют за альфами. Это полезно когда там нету других принуждений кроме полезных биологически. Потому многие особи вообще без понятий что жизнено нужно их виду чтобы вид жил долго и вмеру стабильно.

[Wert]

Только это мои прогнозы, например, по смерти закона Мура

Так он действительно перестал работать в лучшем случае в 2010 году. Может и на 10 лет раньше. Вам это объяснили.
P.S. А как ИИ может привести к гибели челвоечества?

[Polnoch Ксю]

Экспоненциальный характер прогресса незаметен из-за когнитивных искажений людей.

Вообще меня очень расстраивает, что люди, которые признают, что мы всего лишь лысые, говорящие обезьяны, не пытаются фильтровать собственные когнитивные искажения! Да, я знаю, что неумение видеть собственные когнитивные ошибки, низкая к ним критичность - тоже описана для хомо сапиенсов. Наверняка я такая же - тоже не вижу какую-нибудь глупость.
Но блин! Тут, в ВЖР, всерьёз топят за теории заговора, и это почти не встречает противодействия!

https://astronomy.ru/forum/index.php/topic,163461.msg6366097.html#msg6366097

Нужно хоть какую-то домашнюю работу хотя бы пытаться делать, чтобы фильтровать НАСТОЛЬКО известные и описанные систематические ошибки собственных биологических нейронок внутри черепа...

Так он действительно перестал работать в лучшем случае в 2010 году. Может и на 10 лет раньше.
P.S. А как ИИ может привести к гибели челвоечества?

Смотря в каком виде его формулировать. Речь о том, что форумные неомальтузианцы лет 15 назад делали вид что 4 ядра в CPU десктопных процессоров - это вот она, смерть Закона Мура. Они говорили о ложной казуальной связи!
Напомню, что официально похоронила Нвидия Закон Мура совсем недавно.

И, в общем-то, всё более плотные техпроцессы всё ещё продолжают внедрятся. За время спора успели смениться поколения литографических машин: DUV >> EUV > NA-EUV. Но я согласна, что вот сейчас да, новые CPU уже не будут так же быстро прирастать ядрами как раньше.

Теперь аппаратный прогресс в вычислительной технике уйдёт в нейронки и TPU. Возможно, в квантовые компы. А может в другую next big thing, которая нам пока неизвестна.

[Polnoch Ксю]

P.S. А как ИИ может привести к гибели челвоечества?

https://youtu.be/Yd0yQ9yxSYY

Вам это объяснили.

AlexAV один из евангелистов неомальтузианства в ВЖР. Он один из тех, кто всех запутал. В реальности, прогресс в CPU/GPU продолжался, и новые поколения CPU/GPU были быстрее и быстрее.
Да, возможно, по некоторым формулировкам закон Мура работать перестал, и потребовалась переформулировка - но это говорит лишь о проблемах в определении, а не об остановке прогресса!
CPU 2022го года, когда наконец прогресс в CPU закончился, много быстрее, чем CPU, скажем, 2008го года, когда эти разговоры начались в ВЖР.

Он не объяснил, он запутал всех, кто прочитал его пост. Ввёл в заблуждение.

[Инопланетянин]

Смотря в каком виде его формулировать. Речь о том, что форумные неомальтузианцы лет 15 назад делали вид что 4 ядра в CPU десктопных процессоров

В приведённой ссылке речь шла не о 4 ядрах, а о графике, который вы называли подгоном, потому что он показывал то, что вам не нравилось. И вот так у вас всё.

AlexAV один из евангелистов неомальтузианства в ВЖР. Он один из тех, кто всех запутал.

И шельмование тех, кто говорит вам неприятное. Ну о чём с вами разговаривать?

[Polnoch Ксю]

В приведённой ссылке речь шла не о 4 ядрах, а о графике, который вы называли подгоном, потому что он показывал то, что вам не нравилось. И вот так у вас всё.

мой главный тезис - в том, что рост производительности CPU/GPU продолжался - с помощью технологических улучшений техпроцессов. Я оказалась права в этом. Не теряйте фокуса.

Второй тезис - что идеи неомальтузианцев основаны на когнитивных искажениях об ошибочном наблюдении реальности. Нет никакого замедления прогресса в  целом - только отдельных S-кривых