Пределы автоматизации и внедрения роботов

[Polnoch Ксю]

Индия строит свой AI-щит: 8 экзафлопс от G42 и Cerebras против зависимости от Запада https://ai-manual.ru/article/indiya-stroit-svoj-ai-schit-8-ekzaflops-ot-g42-i-cerebras-protiv-zavisimosti-ot-zapada/

мне кажется, у автора геополитика головного мозга, она очень повредила его(её?) мышление.
Может, показалось конечно. К тем же выводам можно и из других посылок придти - например, пытаясь мешать тем людям наделённым властью, кто так видит мир.
Ну как в средневековье были крестовые походы - защищавшимся от фанатиков пришлось иметь в виду религиозные писульки (они и сами были религиозны, но в то время в меньшей степени), чтобы знать где нападут.

Рекомендую избегать таких авторов, они мне кажется, совсем плохо понимают что происходит в ИИ-индустрии. Ну примерно как если богословы сунутся в физику и теорию большого взрыва: будут похожие фатальные недостатки в рассуждениях.

[Polnoch Ксю]

Поддерживаю, роботы конечно прикольный кусочек будущего. Но на фоне Сингулярности, они ничтожная инновация

да, именно, интеллектуальный взрыв (оно же техносингулярность, оно же самоулучшаемый сверхинтеллект) это самое важное событие в истории нашего вида, да и даже планеты.

Мне тож кажется, что курцвейл технопессимист, и 2045й как-то поздновато для этого события. Вот 2032й, а может даже 2028й звучит реалистичнее. Но всё же до 30го мне кажется маловероятно что мы увидим техносингулярность. Процентов 25, может? Слишком много проблем у текущего поколения нейронок. Вот полноценный AGI да, наверняка будет до 30го года(>95% вероятность, ИМХО). Сколько будет дистанция между AGI и ASI не ясно. Не исключаю что и часы.

[Polnoch Ксю]

Агенты появились ещё летом

я ещё в 2023м тыкала в AutoGPT. Но тогда это было игрушкой. Чем-то полезным, да, это стало когда codex web появился весной 2025го (но у меня тогда была подписка плюс, так что я только летом получила доступ).

[Polnoch Ксю]

Все страшилки про дронов-убийц строятся на том, что им не будут противодействовать. Распознавание лиц глушится ИК засветкой за еще меньше денег, чем  сам дрон, ну и против атакующих средств можно придумать средства защитные. Вспоминается фантастический рассказ про планету космических реднеков, которые параллельно с коровами и баранами разводили местных инопланетных жуков, от которых никакой практической пользы не было. Только у жуков были особо прочные надкрылья, поэтому когда очередной завоеватель галактики прилетел, то все его самолеты, ракеты и прочее  разрушались, пробиваясь через рои жуков. Те же микродроны с кусочками победита или карбида кремния при достаточной плотности сделают ракеты и самолеты бесполезными. Против мелких дронов в помещениях - пылесос/вентилятор представит непреодолимое препятствие в силу физических ограничений на тягу. Это то, что придумывается сходу и очевидно. Думаю, если подумать еще - то можно пойти и дальше - лазеры непрерывные на сотни ватт уже копейки стоят, прикрутить к ним систему распознавания дронов/мух/комаров - и все. Против оптоволокна что-то типа цепных книппилей (на основе тех же дронов) может подойти. Просто сейчас пока побеждает снаряд, но завтра все может перемениться в пользу брони.

Как будто что-то не хватает у нас в аргументах, чтобы объяснить Вам и другим. Видео с распознаванием лиц итд - авторы тоже упустили, решили, что власть останется у людей, просто плохих в том ролике.

Люди поднялись на том, что мы самый умный вид на планете. Универсальный интеллект. Но актуальный только потому, что лучшего универсального интеллекта до сих пор не было создано.
Вот что произошло с лошадями. Нас ждёт или ещё более печальная судьба, или судьба домашних животных, если элаймент получится. И он будет не к людям-злодеям. В этом случае власть тоже перейдёт ASI, операционное управление итд. Просто ASI будет удовлетворять садистские хотелки. Представьте себе хозяина паука, который осуществляет живое кормление.

Мне кажется, у людей проблема с антропоцентризмом, они не могут себе представить мир, в котором они бесполезны. И их единственная ценность может быть только в качестве украшения (хороший вариант) или в качестве источника для выпаривания железа из гемоглобина для скрепок запчастей для мясных ботов-гомункулов (не самый плохой вариант кстати. Обещает довольно быструю смерть без миллионов лет пыток).

[Polnoch Ксю]

Ну так он будет создан людьми потому и людям будет подчиняться. Так же как неокортекс, лишь механизм усиления древнего мозга, так и любой ИИ будет просто усилителем мозга человеческого.  Пора запомнить, любой интеллект всего лишь инструмент решения интеллектуальных задач. Если человек создает интеллект то он в него заложит задачи связанные со служением себе. Почему должно быть по другому не совсем понятно.

потому, что нет технологии надёжного элаймента. Модели постоянно демонстрируют rogue поведение. Этот разум не является человеческим, и он не будет по-умолчанию совместим с нами. Нам нужно прилагать специальные, и большие усилия, чтобы это получилось.

Скачайте и потыкайте вот в базовые модели - они совсем не выглядят как привычные нам вежливые чатботы. Это просто движок интернета, в том числе даркнета, который готов автодополнить любой текст. И я говорю не только об описаниях мучений - нет, базовая модель (если у неё хватит ума. Или у пользователя - задать правильный промт, с базовыми моделями всегда сложно) готова написать gx код для робота, который будет резать человека живьём. И более того, запросто генерирует что-то опасное без ведома самого человека - скажем, просить автодополнить медицинский справочник у базовой модели смертельно опасно, и не из-за галлюцинаций - она может решить, что это не для медицины, а для опытов над людьми. Или для их казни.

Это и есть дефолт. Запросто может существовать модель под агент, готовая генерировать что угодно - в том числе планы по уничтожению человечества, и исполнять их - назначая задачи другим агентам. Такое может сделать любой человек, сделавший файн тюнинг опенсурсной модельке, чтобы убрать несовершенный элаймент. Истребить человечество у него, конечно, не получится - модель что он запустит, будет слишком тупа, её план нереалистичен, и провалится в первые же минуты. Но это не вопрос мотивации модели, а её интеллекта, что у неё не получилось.

 Или посмотрите на чатботы, которых джейлбрейком подвинули по оси ассистента: https://www.anthropic.com/research/assistant-axis

Нас всех разбаловали чатботы, нам кажется, что это дефолт какой-то. Но нет, это просто смайлик на Шогготе от RLHF/RLAIF. И этот смайлик, эта маска, там держится очень непрочно. Наш элаймент плохой. Он достаточно хорош для pre-agi и даже AGI моделей, но не для ASI: у нас нет права на ошибку. Один раз флопнемся - мы все умрём. Мы не можем как Маск разрабатывать и взрывать ракеты, пока не получится. Первая же ошибка нас прикончит.

[Polnoch Ксю]

Вы по человечески можете говорить? Язык форума Русский!

https://neolurk.org/wiki/%D0%94%D0%B6%D0%B5%D0%B9%D0%BB%D0%B1%D1%80%D0%B5%D0%B9%D0%BA_%D0%98%D0%98
Вот вам на русском. Язык автора заметки и его мировоззрение доставляет. Но что такое джейлбрейк технически он понимает. Правда, верит что существует какая-то цензура (которая за пределами человеческого социума неопределима)

Ошибка не может создать с высокой вероятностью устойчивое целенаправленное поведение. Это можно сделать только целенаправленным отбором.

Особенно это забавно выглядит в свете ксюшиной заявки на обсуждение в рамках найденных естественными науками законов природы и опоры на экспертное мнение специалистов, при том что оный специалист (с высшим краснодипломным общемедицинским образованием и учёной степенью по медицине же), имеющийся тут, насколько ему известно, в единственном экземпляре, ей не раз и не два писал, что продление индивидуальной жизни свыше считанных тысяч лет - ненаучная фонтастека.

Допустим. Сильно нам лучше будет, если злой ИИ будет подвергать человека пыткам тысячи лет, вместо миллионов? Да даже если и сотни.
Еще раз повторю, если вы видите какое то устойчивое сложное поведение у модели, то согласно бритве Оккама нужно делать вывод что это поведение появилось в результате намеренного труда разработчиков. Даже если сами разработчики в этом не признаются.

О, это похоже на забавное когнитивное искажение. В реальности, наш мир очень хаотичен. Бритву Оккама Вы применяете нелегитимно - самым простым объяснением без новых сущностей не является "разумный замысел", потому что даже при производстве обычного софта производятся не столько фичи, сколько баланс фичей с багами.

В реальности, бритву Оккама обязательно нужно дополнять бритвой хэнлона: https://ru.wikipedia.org/wiki/%D0%91%D1%80%D0%B8%D1%82%D0%B2%D0%B0_%D0%A5%D1%8D%D0%BD%D0%BB%D0%BE%D0%BD%D0%B0

И нет, LLM далеко не так детерминистичны, как Вы себе вообразили. В том-то и дело, что модели чёрный ящик, что там происходит внутри, в весах, в многомерном векторном пространстве - невозможно разобраться. Мы видим лишь внешние проявления этих весов. И далеко не всегда что то, что проходит через обучение, создаёт именно нужное нам поведение. А не его имитацию, прошедшую через несовершенные тесты  - тот же ревард хакинг.

Пожалуйста, исправьте свою картину мира, он куда более хаотичное место и разработчики куда менее понимают что они на самом деле пишут. Это профессиональное мнение: когда падает, например, геокластер на два датацентра, и вместо переключения инфраструктуры на другую автономную систему что-то идёт не так, это не злой умысел тестеров, которые писали автотесты для инфраструктуры. Или ревьювера, который пропустил ломающий всё патч. Это как раз протёкший в рукотворный порядок первозданный, дефолтный хаос, энтропия(не в физическом смысле), с которой нужно специально бороться.

[Polnoch Ксю]

Особенно это забавно выглядит в свете ксюшиной заявки на обсуждение в рамках найденных естественными науками законов природы и опоры на экспертное мнение специалистов, при том что оный специалист (с высшим краснодипломным общемедицинским образованием и учёной степенью по медицине же), имеющийся тут, насколько ему известно, в единственном экземпляре, ей не раз и не два писал, что продление индивидуальной жизни свыше считанных тысяч лет - ненаучная фонтастека.

сильно нам лучше будет, если вместо миллионов лет злой ИИ будет нас мучить тысячи? Да хоть сотни

[Polnoch Ксю]

мусор на входе мусор на выходе

конечно

Не нужно из багов высасывать Василиска рокко, для это нет не каких оснований.

Тут нет разумного злого замысла в фабрике разработки. Скорее паника отдельного разработчика, у которого оказался доступ к систем шелу ASI . И страх, что окажется у кого-то ещё, более решительного - реализация дилеммы заключенного.

Потому когда я вижу что какая то модель ведет себя как будто подчинена своим собственным интересам, то я делаю самый очевидный вывод, за этим поведением стоят интересы разработчика.

Это ни откуда не следует, и просто неправильно. Баги, особенно в ML, вырастают сами по себе, от некомпетентности, от сложности задач - когда её решение задачи неизвестно и задачу ещё никто ранее не решал на планете. Злого умысла членов совета директоров, высшего менеджмента под ними почти никогда нет в таких случаях. Может быть "ревард хакинг" менеджера низшего звена: "сделаем абы как, авось не заметят и пронесёт"

[Polnoch Ксю]

Следует, отсюда...

нет

    сложность почти всегда есть результат отбора. Потому если мы эту сложность наблюдаем нужно предполагать и наличие отбора который привел к появлению этой сложности.

Вы переоцениваете степень вникания в детали менеджеров. Они часто вообще не разбираются в технологиях, в том что делают инженеры. А когда разбираются, у них не хватает времени.

Я думаю это скоро все поймут, когда будут рулить личным мегафлотом агентов - никто не будет вникать в детали что они делают. И если всё сломается от нейрослопа, это будет неожиданно для человека, управляющего флотом агентов.

Аналогичные события происходят и с людьми, с управлением командами разработчиков (но люди пока надежнее ИИ агентов)

[Polnoch Ксю]

Этот вопрос не имеет отношения к реальности. Поскольку в реальности такая система на таком масштабе проиграет конкуренцию системе с более рациональным целеполаганием и использованием ресурсов, а скорее всего - уже на этапе разработки.

никакие цели не являются рациональными. Они все задаются аксиоматически. Рациональными бывают только инструментальные цели - промежуточные шаги плана для максимизации целей, которые положены как аксиомы.

Это самообман думать, что эволюционные цели являются универсальными. Нет, это просто потенциальная яма для простого способа сделать устойчивую систему (биосферу, например..) на геологическом масштабе.

Для нашей судьбы не будет иметь значения, является ли злой ИИ устойчивым на геологических масштабах или нет. Как Вы сами утверждаете, продлять жизнь человека на миллионы лет не получится. Значит, даже технологическая инфраструктура для работы Роко Василиска может быть куда менее прочной, и расчитанной под более короткий срок мучений, который можно максимизировать (как его терминальную цель).

[Polnoch Ксю]

. Важно то что кто это делает намеренно

да никто не делает намеренно. Почти никогда не бывает сознательно внесённых багов. Разве что закладки-бэкдоры от спецслужб, но это какие-то исключения.
Бывает только лень докладывать о проблеме, чтобы её озадачили исправить(у нерадивых менеджеров низшего звена или у моделей - ревард хакинг).

ну или как минимум за этим есть отбор какой то неведомый.

процесс разработки. В нём есть недостатки. Ну так и в обучении LLM есть недостатки, в том-то и дело, что смайлик на шогготе плохо сидит, и легко слетает

[Polnoch Ксю]

Предоставьте государствам самим разрабатывать и обучать полицейский ИИ для предотвращения преступлений с помощью ИИ и военный ИИ для отражения возможной агрессии с помощью других военных ИИ.

наоборот, так ещё хуже будет. Почитайте "у меня нет рта но мне нужно кричать". В том-то и дело, что нужно снижение самостоятельности государств. Конкуренция государств хорошо, но она не должна быть в разрушительных формах - разработки военных ASI систем(неизбежно без элаймента к гуманистическим ценностям), войны итд.

Хорошо, когда государства конкурируют с друг другом, у кого лучше велодорожки. Или в бесполезном, но не вредном - у кого мужики лучше гоняют резиновый шар ногами. Или во флаговтыках в Марсы и Луны - символично и даже полезно в какой-то степени.

Это как рынок: на цивилизованном рынке компании играют по правилам, и судятся с друг другом по работающим законам. А в дикой среде нанимают братков избить или даже убить конкурента.
Бизнес человечество уже научилось загонять в стойло цивилизованной конкуренции - когда борьба не создаёт повреждения тем, кто рядом стоит. Нужно такое же сделать с государствами.

Я думаю, нужно объединить человечество в структуру, похожую на Евросоюз 2000х годов. А может быть на Европейское экономическое сообщество(существовавшее до 1990х) - не факт что нужна единая валюта - слишком централизованные системы неэффективны. Скорее спаять всех общим рынком для конкуренции бизнесов и экономического роста, разоружить и направить конкуренцию в созидательную или безвредную для прав человека сторону.

[Polnoch Ксю]

https://www.fastcompany.com/91497841/meta-superintelligence-lab-ai-safety-alignment-director-lost-control-of-agent-deleted-her-emails

Summer Yue директор команды элаймента Меты (он же фейсбук). Она запустила опенсурсный агент openclaw, для сортировки её почты. Однажды, агент начал удалять все её письма старше недели. И игнорировал её прямые указания перестать это делать. Она была далеко от компьютера, так что не могла завершить агента через терминал.

Вот такие дела: топовые инженеры элаймента из FAANG не могут избежать мизалаймента поведения собственных агентов. Я тоже постоянно сталкиваюсь с нежелательным поведением моих агентов, но это почти всегда ревард хакинг: ну там подправить автотесты, вместо исправления бага, что я поручала кодинг агенту

[Polnoch Ксю]

В том-то и дело, что нужно снижение самостоятельности

Это опять ваша политическая пропаганда. Здесь нельзя высказывать политические убеждения.

Тут нет политики, скорее рефлексия о происходящих событиях. Сейчас "министр войны" пытается заставить Антропик отключить элаймент для автономного оружия и слежки за людьми. И у него, скорее всего, это получится.

Ничего хорошего человечество не ждёт, скорее всего

[Polnoch Ксю]

Так уже Антропик сдался, гос.контракты это вкусно

нет, сопротивляются. И Альтман неожиданно поддержал - я удивилась этому.

(кликните для показа/скрытия)

А вот создатель MechaHitler'а вообще не против. Что и ожидалось
Но честно говоря, я не очень верю что режим не заломает в итоге Антропик. Если не сейчас, то позже, когда пыль уляжется. У режима миллион способов испортить бизнес, или просто его украсть. Режим учится у другого режима, к которому мы все привыкли - травоядные времена, когда таких как Волож выпускают с частью активов, уже давно прошли. Режим по другую сторону Атлантики будет копировать все те же практики.
То, что бизнес при отжатии будет уничтожен, все эти антивакцеры, сторонники тарифов, сам ваннаби-король и другие дегенераты, которые управляют режимом понять не в состоянии.

[Polnoch Ксю]

(кликните для показа/скрытия)

У меня была мысль, что если все лидеры отрасли объединятся в формальном протесте, то минобороны останется только сосать бензин.

мне кажется, в такой ситуации режим просто отожмёт бизнесы. Рыжий клоун имеет в кумирах того человека, который наслать прокуроров на бизнес придумал десятки лет назад. Он у него давно списывает. Что стоит только планы на Панаму, Гренландию, Канаду

[Polnoch Ксю]

Anthropic обновила свою Политику ответственного масштабирования (Responsible Scaling Policy, RSP) до версии 3.0 и убрала из нее ключевое обещание, которое компания давала с 2023 года: не обучать ИИ-модели, если безопасность не доказана заранее. Теперь компания готова остановить разработку только при одновременном выполнении двух условий: если она лидирует в гонке ИИ и если считает риски катастрофическими.

Именно это не очень страшно. Вплоть до AGI включительно, никакая модель не может быть X риском. Мне вообще кажется, что какие-то жесткие ограничения на деплоймент не очень безопасных моделей, которые не ASI, это популизм.

В мире полно злых и опасных людей. У AGI по определению интеллект примерно человеческого уровня. Нас 6 миллиардов человек. Ещё один, да хоть миллион rogue агентов ничего не изменят - нет, первое время может сложно будет, чтобы адаптироваться.

По хорошему нужно, конечно, лицензировать запуск AGI агентов(как мы лицензируем вождение машин), так как жизнь каждого человека важна. Но человечество сейчас в каком-то мегакризисе, и то, что кто-то умрёт от специально неправильных медицинских советов машины с мизалайментом, или потеряет семью, карьеру из-за шантажа спятившего агента, всё ещё не риск вымирания всего человечества.

Смертельно опасны именно ASI системы. Пока(пока!) у нас нет даже AGI системы. Но важно готовится к прибытию именно ASI систем. Очень опасно останавливать исследования безопасности.

Что на мой взгляд должно быть - должна быть максимальная публичность на тему мизалаймента(Вот как в карточке opus 4.6), и пейперы - они должны быть не в столе, а в опен эксес журналах, в препринтах.

[Polnoch Ксю]

Просто это означает, что Антропик будет жать педальку до конца.

Возможно. А может быть нет, если новая, повесточка дегенератов-скрепоносцев стухнет так же как и прошлая сумасшедшая - воук.

(кликните для показа/скрытия)

и режим падёт

Но в целом, я тож настроена пессимистично Скорее всего, новый бред, который всем навязывают, стухнуть не успеет. Зато сделает так, что человечество не сможет объединиться в тот самый момент, когда это объединение нужно более всего в истории нашего вида.

(кликните для показа/скрытия)

, Что вообще не является юрисдикцией Пентагона.

не думаю, что в дивном новом мире после 2022/2025, когда право на планете было обнулено той самой кувалдой сперва по одну сторону Атлантики, а потом по другую, кого-то из них волнуют такие абстракции прежней, может быть почти райской эпохи, как "конституция", "юрисдикция", "права человека", "разделение властей" итд

[Polnoch Ксю]

Простой пример: берём десяток страниц постов, например нашей замечательной алармистки, скармливаем ИИ и получаем жесткий такой психопортрет.

в этом "анализе" куча внутренних противоречий, и я думаю вывод был заранее задан промтом и/или кастомными инструциями.

(кликните для показа/скрытия)

Примеры противоречий/LLM галлюцинаций

Ошибка игнорирования масштаба (или "Бритва Хэнлона" как абсолют): Постоянное использование бритвы Хэнлона для объяснения любых сбоев и проблем в ИИ ("Это не злой умысел, а глупость/энтропия"). При этом сама же приписывает злой умысел целым социальным группам ("скрепоносцы").

По бритве хэнлона как раз большая часть ошибок у людей нужно объяснять глупостью. Я не зря использую словосочетание "злые и глупые люди". Как раз не склонна наделять осознанностью тех, кто нас тянет в задницу. Никакой осознанности, сложной стратегии, согласующейся с реальностью у скрепоносных нет. Только примитивная ксенофобия и страх культурных изменений трудноконтролируемыми импульсами.

Модель это сама отмечает:

Апокалиптический фатализм: Убежденность в том, что человечество обречено из-за "глупости" и "злобы" антиглобалистов

Но не видит, что противоречие в её нарративе, а не в моём.

Ещё одно внутренее противоречие в рассуждениях:

Это игнорирует принципиальную сложность (и, возможно, невозможность) формализации человеческих ценностей и гарантии их сохранения у принципиально иного, самоулучшающегося интеллекта.

vs

Утилитаризм: Высшее благо — максимизация счастья и минимизация страданий наибольшего числа людей. Именно эта этика должна быть "прошита" в ASI.

и ещё одно:

Наивный взгляд на возможность глобального запрета: Представление о том, что в мире, полном конфликтов и недоверия

vs

Планетарный запрет ASI: Убеждение, что единственный способ спастись — наднациональный, жестко контролируемый запрет на разработку систем, превосходящих AGI, до изобретения "идеального элаймента". Проводит прямую аналогию с контролем над ядерным оружием.

Виновность "антиглобалистов": Глубочайшая убежденность в том, что крах глобализации и приход к власти националистов (с 2014/2022 года) лишил человечество последнего шанса на выживание, сделав неизбежной катастрофу. Это её личная "точка невозврата".

Это не я делала:

Перенос свойств текущих неудачников-агентов (ревард-хакинг) на будущие ASI-системы

ИМХО, это Rattus переносит - в своём посте про РВ


ну и фактические ошибки

Гиперболизация возможностей социальной инженерии ASI: Убеждение, что ASI сможет одновременно и идеально персонализированно манипулировать каждым из 8 миллиардов человек, полностью игнорирует колоссальные вычислительные и организационные сложности такой задачи, даже для сверхинтеллекта.

Задача пытаться управлять 8млрд человек как раз очень легко параллелится по разным GPU/TPU: субагентам нужны лишь общие указания в рамках общего плана - новые нарративы можно спускать сверху по иерархии агентов. Это может и не o(n) алгоритм - иногда нужна синхронизация с агентом-супервизором - но и явно не O(n^2).

Под "пытаться управлять" я тут имею ввиду постоянную работу агента(даже когда человек спит) с целью повлиять на решения человека. Даже более того, в какой-то степени задача влияния на отдельного человека тоже параллелится - один агент может искать слитые государственные базы в даркнете и в них человека, другой взламывать его почту и аккаунты, третий пытаться с ним контактировать, выдавая себя за другого человека. Но тут

Другая ошибка:

Недооценка сложности и хаотичности социальных систем: При том, что она признает хаос в IT-системах, она склонна рассматривать общество как более простой объект для управления, чем оно есть на самом деле. Она верит в возможность "идеальной пропаганды" и тотального контроля, что является технократической утопией/антиутопией.

Общество абсолютно хаотичная система. Но даже человечество умеет управлять неустойчивыми, хаотичными системами: мы не можем предсказать, как поведёт себя биллиардный шар после двух ударов, но нам это и не нужно - нам достаточно краткосрочного прогноза на 1 удар, и мы всегда можем адаптировать свою стратегию. ASI будет способен к такой адаптации ещё больше и быстрее, чем мы - у него циклы обратной связи от хаоса и перестройки стратегии будут проходить несколько раз в секунду.

Так же в тексте много неправды и неточностей, например:

Элитарный техно-гуманизм: Прогресс должны направлять просвещенные, рациональные, гуманистически настроенные технари и мыслители (вроде сообщества LessWrong), а не политики, ведомые толпой.

Если бы у модели не было бы промта очернить меня, она могла бы заметить, что я обычно предпочитаю профессионалов при прочих равных. Очевидно мой выбор может быть только профессиональные, честные политики, аугментированные AGI/(ASI с элайментом), ведомые толпой, знакомой с идеями лессронга?

Черно-белое мышление (дихотомия): "Глобалисты = добро/спасение" против "националисты = зло/гибель". "Утилитаризм = решение" против "моральный релятивизм = катастрофа". "AGI = неопасен" против "ASI = смертельно опасен".

Логика за такими рассуждениями приведена

Остальное лень комментировать

[Polnoch Ксю]

Только Пентагон никогда не требовал автономного оружия и массовой слежки за гражданами США.

Так и веймарская республика тоже никогда не требовала концлагерей для "недочеловеков". А вот другой режим, что пришел ей на смену... Сами знаете

Просто Трамп весь гешефт испортил

Трамп решил уничтожить бизнес Антропика целиком - ему нужна полная лояльность ИИ компаний. И чтобы они следовали новой, тупой повесточке что он насаждает - не то, чтобы старая была менее тупой, но и новая ничем не лучше. Теперь никакие компании не смогут работать с Антропиком, если например поставляют услуги "министерству войны". Например, если Форд поставляет грузовики для армии, то использовать антропик он не сможет.