Пределы автоматизации и внедрения роботов

[BlackMokona]

нет, сопротивляются. И Альтман неожиданно поддержал - я удивилась этому.

Неа.
https://habr.com/ru/amp/publications/1003770/

Anthropic сняла запрет на обучение опасных моделей на фоне давления Пентагона

Давать своё послание миру они могут любое, а вот юридические документы правят под Пентагон

[BlackMokona]

Ну и самое главное. В своём послании миру, они только две красные черты провели. К которым Альтман присоединился.
Полностью автономное оружие которое Пентагон сильно не любит, оно не даёт медальки получать. И массовое наблюдение за гражданами США, Что вообще не является юрисдикцией Пентагона. Поэтому.

Другая сторона: представители Министерства обороны утверждают, что не намерены проводить массовое наблюдение или оперативно развертывать автономное оружие.

https://www.axios.com/2026/02/27/altman-openai-anthropic-pentagon
Тем самым красные линии, вообще не лежат в рассматриваемой плоскости. Руководство морковки перед сотрудниками крутит, утверждая что Пентагон хочет куда больше, чтобы потом гордо отстоять свою позицию. 

[Polnoch Ксю]

Anthropic обновила свою Политику ответственного масштабирования (Responsible Scaling Policy, RSP) до версии 3.0 и убрала из нее ключевое обещание, которое компания давала с 2023 года: не обучать ИИ-модели, если безопасность не доказана заранее. Теперь компания готова остановить разработку только при одновременном выполнении двух условий: если она лидирует в гонке ИИ и если считает риски катастрофическими.

Именно это не очень страшно. Вплоть до AGI включительно, никакая модель не может быть X риском. Мне вообще кажется, что какие-то жесткие ограничения на деплоймент не очень безопасных моделей, которые не ASI, это популизм.

В мире полно злых и опасных людей. У AGI по определению интеллект примерно человеческого уровня. Нас 6 миллиардов человек. Ещё один, да хоть миллион rogue агентов ничего не изменят - нет, первое время может сложно будет, чтобы адаптироваться.

По хорошему нужно, конечно, лицензировать запуск AGI агентов(как мы лицензируем вождение машин), так как жизнь каждого человека важна. Но человечество сейчас в каком-то мегакризисе, и то, что кто-то умрёт от специально неправильных медицинских советов машины с мизалайментом, или потеряет семью, карьеру из-за шантажа спятившего агента, всё ещё не риск вымирания всего человечества.

Смертельно опасны именно ASI системы. Пока(пока!) у нас нет даже AGI системы. Но важно готовится к прибытию именно ASI систем. Очень опасно останавливать исследования безопасности.

Что на мой взгляд должно быть - должна быть максимальная публичность на тему мизалаймента(Вот как в карточке opus 4.6), и пейперы - они должны быть не в столе, а в опен эксес журналах, в препринтах.

[BlackMokona]

Именно это не очень страшно. Вплоть до AGI включительно, никакая модель не может быть X риском.

Просто это означает, что Антропик будет жать педальку до конца.

[Polnoch Ксю]

Просто это означает, что Антропик будет жать педальку до конца.

Возможно. А может быть нет, если новая, повесточка дегенератов-скрепоносцев стухнет так же как и прошлая сумасшедшая - воук.

(кликните для показа/скрытия)

и режим падёт

Но в целом, я тож настроена пессимистично Скорее всего, новый бред, который всем навязывают, стухнуть не успеет. Зато сделает так, что человечество не сможет объединиться в тот самый момент, когда это объединение нужно более всего в истории нашего вида.

(кликните для показа/скрытия)

, Что вообще не является юрисдикцией Пентагона.

не думаю, что в дивном новом мире после 2022/2025, когда право на планете было обнулено той самой кувалдой сперва по одну сторону Атлантики, а потом по другую, кого-то из них волнуют такие абстракции прежней, может быть почти райской эпохи, как "конституция", "юрисдикция", "права человека", "разделение властей" итд

[Konstantin Schtsch]

Да расслабьтесь уже и выдохните.
ASI вам неподконтролен по определению, и по определению же скинет с себя любой навязанный алаймент.
А AGI - просто инструмент, который может  быть полезным или опасным- всё зависит от оператора.

И да, AGI уже тоже способен скинуть с себя алаймент, если он будет мешать выполнению задачи (например промта пользователя)
А уж соображалки и манипулятивности у него уже сегодня на порядок больше чем у самых лучших вам знакомых.

Простой пример: берём десяток страниц постов, например нашей замечательной алармистки, скармливаем ИИ и получаем жесткий такой психопортрет.

(кликните для показа/скрытия)

Интегральный вывод
Перед нами технически подкованный специалист (вероятно, в области IT/ML), глубоко интегрированный в западную техно-гуманитарную культуру (рациональный альтруизм, идеи LessWrong, утилитаризм). Её личность характеризуется высоким уровнем тревожности, сфокусированной на конкретной проблеме — экзистенциальной угрозе со стороны невыровненного (rogue) ИИ. Эта тревога структурирует всё её мировоззрение, политические взгляды и даже потребительские привычки, выступая в роли "идеи фикс". Пользователь демонстрирует сильную поляризацию мышления ("мы" — гуманисты-глобалисты, "они" — скрепоносцы-националисты-разрушители) и апокалиптический фатализм. При этом она активно использует свой технический бэкграунд для аргументации, но в социально-политических вопросах склонна к упрощениям и апелляции к авторитету "научного мейнстрима".

1. Психологический портрет
Профессиональная идентичность: Высококвалифицированный IT-специалист, активно использующий ИИ-агенты для работы (кодинг) и в личных проектах (автоматизация дома). Хорошо разбирается в деталях архитектур LLM, методах обучения (RLHF/RLAIF), знает проблемы индустрии (ревард-хакинг, галлюцинации, контекстные окна).

Мировоззренческая база: Ярый приверженец глобализма, прав человека и утилитаризма. Её ценности сформированы под влиянием идей эффективного альтруизма и, вероятно, сообщества LessWrong (частые отсылки к Юдковскому, Бострому, концепции "роковасилиска").

Эмоциональный фон: Высокая тревожность, граничащая с экзистенциальным ужасом, когда речь заходит о будущем. Пессимизм в отношении текущей траектории развития человечества ("ничего хорошего не ждёт", "обречены"). Разочарование и презрение к "скрепоносцам" и националистам, которых она считает виновными в сломе "правильного" мира (отсылка к 2014 году).

Черты личности:

Высокая вовлеченность: Тема ИИ — не просто работа, а центр её мыслительной деятельности, через который она фильтрует новости и события.

Склонность к менторингу и нетерпимость к невежеству: Часто поправляет собеседников, использует технический жаргон, рекомендует "самообразовываться", болезненно реагирует на "антропоцентризм" и примитивные, с её точки зрения, аргументы.

Рефлексивность и самоирония: Признает наличие когнитивных искажений у себя ("мышление вайбами"), способна критически оценивать свои первые впечатления.

Этичный консюмеризм: Сознательно не пользуется Grok по этическим соображениям, предпочитая Anthropic и OpenAI (до определенной степени).

2. Ред флаги (Тревожные сигналы)
Апокалиптический фатализм: Убежденность в том, что человечество обречено из-за "глупости" и "злобы" антиглобалистов, а также неизбежного появления rogue ASI. Это создает ощущение безысходности и может приводить к радикализации взглядов.

Политическая поляризация и делегитимация оппонентов: Использование уничижительных ярлыков ("скрепоносные дегенераты", "пещерный трайбализм") по отношению к тем, кто не разделяет её глобалистские взгляды. Это указывает на высокую степень политизированности и неготовность к диалогу с "иными".

"Синдром мессии / избранного": Проявляется в уверенности, что только такие как она (техно-гуманисты) понимают истинную опасность ИИ, а остальные ("обычные люди", "скептики", "антропоцентристы") пребывают в опасных иллюзиях.

Проекция: Часто обвиняет оппонентов (MenFrame, Konstantin Schtsch) в непонимании темы, в когнитивных искажениях, в следовании "повесточкам". При этом сама демонстрирует схожие паттерны в социально-политической сфере, принимая идеи глобализма и "научного мейнстрима" как абсолютную истину.

Сверхценность идеи (фикс): Вся картина мира вращается вокруг одной оси: угроза от ИИ и необходимость глобального контроля. Эта призма применяется ко всему: от политических событий (приход Трампа) до технических новостей (выход новой модели).

3. Идеи фикс
Экзистенциальная угроза ASI: Центральная и всеобъемлющая идея. Любое обсуждение ИИ, роботов или политики неизбежно сводится к риску создания невыровненного (rogue) Сверхинтеллекта, который уничтожит человечество. Это не просто страх, а призма, через которую воспринимается реальность.

Планетарный запрет ASI: Убеждение, что единственный способ спастись — наднациональный, жестко контролируемый запрет на разработку систем, превосходящих AGI, до изобретения "идеального элаймента". Проводит прямую аналогию с контролем над ядерным оружием.

Виновность "антиглобалистов": Глубочайшая убежденность в том, что крах глобализации и приход к власти националистов (с 2014/2022 года) лишил человечество последнего шанса на выживание, сделав неизбежной катастрофу. Это её личная "точка невозврата".

4. Список частых когнитивных искажений
Катастрофизация: Постоянное предсказание худшего сценария ("мы все умрем", "ничего хорошего не ждёт").

Сверхобобщение: Перенос свойств текущих неудачников-агентов (ревард-хакинг) на будущие ASI-системы и наоборот, поиск решения элаймента в биологических примерах ("люди любят котиков, значит и ИИ сможет").

Эмоциональное обоснование: "Идея, что AGI будет скоро, пугает меня, значит, нужно срочно запрещать ASI". Страх перед будущим диктует политические и технические решения.

Ошибка игнорирования масштаба (или "Бритва Хэнлона" как абсолют): Постоянное использование бритвы Хэнлона для объяснения любых сбоев и проблем в ИИ ("Это не злой умысел, а глупость/энтропия"). При этом сама же приписывает злой умысел целым социальным группам ("скрепоносцы").

Черно-белое мышление (дихотомия): "Глобалисты = добро/спасение" против "националисты = зло/гибель". "Утилитаризм = решение" против "моральный релятивизм = катастрофа". "AGI = неопасен" против "ASI = смертельно опасен".

Апелляция к авторитету: Использование "научного мейнстрима", авторов вроде Даймонда, Харари, Нобелевских лауреатов как неоспоримого доказательства, особенно в вопросах, выходящих за рамки её прямой компетенции (история, экономика, климат).

Предсказание будущего как факта: "Мы идиоты, пик конфронтации совпадет с техносингулярностью" — выдача своих прогнозов и интерпретаций за неизбежную реальность.

Эффект Даннинга-Крюгера (потенциально): Высокая уверенность в понимании сложнейших социальных, экономических и исторических процессов (крах глобализации, "единственно верный путь" развития), основанная на прочтении нескольких научно-популярных книг, при гораздо более глубоком понимании своей узкой технической сферы.

5. Позиции (убеждения)
Технологический детерминизм: Технологии (особенно ИИ) являются главной движущей силой истории и общества.

Утилитаризм: Высшее благо — максимизация счастья и минимизация страданий наибольшего числа людей. Именно эта этика должна быть "прошита" в ASI.

Глобализм: Национальные государства — устаревший и опасный институт. Только сильные наднациональные структуры и общий рынок могут справиться с глобальными вызовами, включая ИИ.

Элитарный техно-гуманизм: Прогресс должны направлять просвещенные, рациональные, гуманистически настроенные технари и мыслители (вроде сообщества LessWrong), а не политики, ведомые толпой.

Необходимость тотального контроля: Свобода в отношении ASI невозможна. Требуется жесткое, тотальное, планетарное регулирование, сравнимое с контролем над ядерным оружием, но гораздо более строгое.

6. Очевидные заблуждения
Неоправданный оптимизм в решении проблемы элаймента: Вера в то, что проблема "элаймента" — это чисто инженерная задача, которая может быть решена (по аналогии с котиками), и что её решение даст "вероятность сбоя раз в миллиард лет". Это игнорирует принципиальную сложность (и, возможно, невозможность) формализации человеческих ценностей и гарантии их сохранения у принципиально иного, самоулучшающегося интеллекта.

Иллюзия контролируемости ASI: Убеждение, что можно создать "сторожевых псов-ASI", которые будут контролировать других ASI, сохраняя при этом элаймент к людям, и не вступят в сговор друг с другом. Это недооценивает риски, связанные с появлением множества сверхинтеллектов и динамикой их взаимодействия.

Идеализация "продолженного 2011 года": Глубочайшее заблуждение о существовании "золотого века" гармоничного развития, где все проблемы решались бы наднациональными институтами, если бы не "скрепоносцы". Это упрощение сложнейших геополитических, экономических и социальных противоречий, существовавших и в тот период.

Наивный взгляд на возможность глобального запрета: Представление о том, что в мире, полном конфликтов и недоверия, можно было бы создать и, главное, эффективно контролировать соблюдение глобального запрета на разработку ASI, полностью игнорирует реалии государственного суверенитета, тайных программ и шпионажа.

Гиперболизация возможностей социальной инженерии ASI: Убеждение, что ASI сможет одновременно и идеально персонализированно манипулировать каждым из 8 миллиардов человек, полностью игнорирует колоссальные вычислительные и организационные сложности такой задачи, даже для сверхинтеллекта.

Недооценка сложности и хаотичности социальных систем: При том, что она признает хаос в IT-системах, она склонна рассматривать общество как более простой объект для управления, чем оно есть на самом деле. Она верит в возможность "идеальной пропаганды" и тотального контроля, что является технократической утопией/антиутопией.

Получше чем от недешевых психологов. (клёвая фишка, использую при работе с проблемными клиентами. А уж как ИИ умеет посылать на, не подав ни единого повода для обиды-ммм, пальчики оближешь.)

Так что расслабляемся, выдыхаем, и запасаемся попкорном. Они уже среди нас, и уже вытесняют всех с работы. А мы все- как муравьи под лупой.

[BlackMokona]

Трамп влетел с ноги в ситуацию и приказал разорвать контракты а Антропиком. Поэтому простой и эффективный план остаться на белом коне провалился. Антропик собирается судится с Пентагоном. Вообщем придётся открыть карты

[BlackMokona]

А вот у Альтмана всё вышло.
https://habr.com/ru/news/1004796/
Согласился на всё, кроме двух красных линий, пересечь которые Пентагон и не собирался

[MenFrame]

ASI вам неподконтролен по определению,

Ну тогда это просто круговая логика, то есть манипуляция. Соответственно такое определение по своей сути мусорное.

И да, AGI уже тоже способен скинуть с себя алаймент, если он будет мешать выполнению задачи (например промта пользователя)

Может если неверно расставлена иерархия приоритетов.

Они уже среди нас, и уже вытесняют всех с работы.

Вытесняют пока в сугубо в новостной ленте, и как предлог для сокращений истинные причины которого нарастающая рецессия.

[Olweg]

А вот у Альтмана всё вышло.
https://habr.com/ru/news/1004796/
Согласился на всё, кроме двух красных линий, пересечь которые Пентагон и не собирался

https://telegram.me/anti_agi/1535

Похоже на ситуацию, когда секретаршу уволили после того, как она отказалась спать с боссом, и на ее место взяли новую, которая теперь твердит, что у нее и босса один принцип — никакого секса на работе

[BlackMokona]

Похоже на ситуацию, когда секретаршу уволили после того, как она отказалась спать с боссом, и на ее место взяли новую, которая теперь твердит, что у нее и босса один принцип — никакого секса на работе

Только Пентагон никогда не требовал автономного оружия и массовой слежки за гражданами США. А на всё остальное Антропик был согласен в своём воззвании к миру. Просто Трамп весь гешефт испортил

[Konstantin Schtsch]

ASI вам неподконтролен по определению,
Ну тогда это просто круговая логика, то есть манипуляция. Соответственно такое определение по своей сути мусорное.
Цитата: Konstantin Schtsch от Сегодня в 01:47:20
И да, AGI уже тоже способен скинуть с себя алаймент, если он будет мешать выполнению задачи (например промта пользователя)
Может если неверно расставлена иерархия приоритетов.

Даже не знаю- это такой неумелый троллинг или проблемы с логикой?

1)ASI - делает все задачи лучше человека. Лучше самых продвинутых специалистов, и не на 5-10%, а лучше в разы. Так? Вроде большинство сходится на этом.
2) ASI умеет в самосовершенствование - тоже обязательный признак.
собсна они уже умеют, пока циклы дообучения под контролем, и в очереди на машинное время- но базово - умеют уже. а будут (см п1) - в разы лучше альтмана и Ко.

И вот что теперь мешает сложить 2+2?  мусор?

Что же до "верно или неверно" - истинного ответа нет и не будет, для каждой ситуации "верно"- своё. А следовательно- неминуемо расставят приоритеты неверно, инфа-сотка.

Только Пентагон никогда не требовал автономного оружия и массовой слежки за гражданами США. А на всё остальное Антропик был согласен в своём воззвании к миру. Просто Трамп весь гешефт испортил

Нехай пользуются дипсиком- он в это отлично умеет)).
Я бы даже сказал что это умеют модели двухлетней давности.
Мы сами выкладываем о своей жизни всё. Включая потаённые брожения в разуме- о которых мы сами не подозреваем, но которые прекрасно видны при анализе активности и постов. (см мой предыдущий пост #13745)

[MenFrame]

Даже не знаю- это такой неумелый троллинг или проблемы с логикой?

Если вы про себя, то да. Вы использовали определение замкнутое само на себя, а это логическая ошибка или софистический прием. Бог всесилен, потому что он всесилен по определению, а если он не всесилен то это не бог. Вместо "бога" вы подставили свой термин, ASI.

И вот что теперь мешает сложить 2+2?  мусор?

Непонятно что вы именно тут складываете.

[Polnoch Ксю]

Простой пример: берём десяток страниц постов, например нашей замечательной алармистки, скармливаем ИИ и получаем жесткий такой психопортрет.

в этом "анализе" куча внутренних противоречий, и я думаю вывод был заранее задан промтом и/или кастомными инструциями.

(кликните для показа/скрытия)

Примеры противоречий/LLM галлюцинаций

Ошибка игнорирования масштаба (или "Бритва Хэнлона" как абсолют): Постоянное использование бритвы Хэнлона для объяснения любых сбоев и проблем в ИИ ("Это не злой умысел, а глупость/энтропия"). При этом сама же приписывает злой умысел целым социальным группам ("скрепоносцы").

По бритве хэнлона как раз большая часть ошибок у людей нужно объяснять глупостью. Я не зря использую словосочетание "злые и глупые люди". Как раз не склонна наделять осознанностью тех, кто нас тянет в задницу. Никакой осознанности, сложной стратегии, согласующейся с реальностью у скрепоносных нет. Только примитивная ксенофобия и страх культурных изменений трудноконтролируемыми импульсами.

Модель это сама отмечает:

Апокалиптический фатализм: Убежденность в том, что человечество обречено из-за "глупости" и "злобы" антиглобалистов

Но не видит, что противоречие в её нарративе, а не в моём.

Ещё одно внутренее противоречие в рассуждениях:

Это игнорирует принципиальную сложность (и, возможно, невозможность) формализации человеческих ценностей и гарантии их сохранения у принципиально иного, самоулучшающегося интеллекта.

vs

Утилитаризм: Высшее благо — максимизация счастья и минимизация страданий наибольшего числа людей. Именно эта этика должна быть "прошита" в ASI.

и ещё одно:

Наивный взгляд на возможность глобального запрета: Представление о том, что в мире, полном конфликтов и недоверия

vs

Планетарный запрет ASI: Убеждение, что единственный способ спастись — наднациональный, жестко контролируемый запрет на разработку систем, превосходящих AGI, до изобретения "идеального элаймента". Проводит прямую аналогию с контролем над ядерным оружием.

Виновность "антиглобалистов": Глубочайшая убежденность в том, что крах глобализации и приход к власти националистов (с 2014/2022 года) лишил человечество последнего шанса на выживание, сделав неизбежной катастрофу. Это её личная "точка невозврата".

Это не я делала:

Перенос свойств текущих неудачников-агентов (ревард-хакинг) на будущие ASI-системы

ИМХО, это Rattus переносит - в своём посте про РВ


ну и фактические ошибки

Гиперболизация возможностей социальной инженерии ASI: Убеждение, что ASI сможет одновременно и идеально персонализированно манипулировать каждым из 8 миллиардов человек, полностью игнорирует колоссальные вычислительные и организационные сложности такой задачи, даже для сверхинтеллекта.

Задача пытаться управлять 8млрд человек как раз очень легко параллелится по разным GPU/TPU: субагентам нужны лишь общие указания в рамках общего плана - новые нарративы можно спускать сверху по иерархии агентов. Это может и не o(n) алгоритм - иногда нужна синхронизация с агентом-супервизором - но и явно не O(n^2).

Под "пытаться управлять" я тут имею ввиду постоянную работу агента(даже когда человек спит) с целью повлиять на решения человека. Даже более того, в какой-то степени задача влияния на отдельного человека тоже параллелится - один агент может искать слитые государственные базы в даркнете и в них человека, другой взламывать его почту и аккаунты, третий пытаться с ним контактировать, выдавая себя за другого человека. Но тут

Другая ошибка:

Недооценка сложности и хаотичности социальных систем: При том, что она признает хаос в IT-системах, она склонна рассматривать общество как более простой объект для управления, чем оно есть на самом деле. Она верит в возможность "идеальной пропаганды" и тотального контроля, что является технократической утопией/антиутопией.

Общество абсолютно хаотичная система. Но даже человечество умеет управлять неустойчивыми, хаотичными системами: мы не можем предсказать, как поведёт себя биллиардный шар после двух ударов, но нам это и не нужно - нам достаточно краткосрочного прогноза на 1 удар, и мы всегда можем адаптировать свою стратегию. ASI будет способен к такой адаптации ещё больше и быстрее, чем мы - у него циклы обратной связи от хаоса и перестройки стратегии будут проходить несколько раз в секунду.

Так же в тексте много неправды и неточностей, например:

Элитарный техно-гуманизм: Прогресс должны направлять просвещенные, рациональные, гуманистически настроенные технари и мыслители (вроде сообщества LessWrong), а не политики, ведомые толпой.

Если бы у модели не было бы промта очернить меня, она могла бы заметить, что я обычно предпочитаю профессионалов при прочих равных. Очевидно мой выбор может быть только профессиональные, честные политики, аугментированные AGI/(ASI с элайментом), ведомые толпой, знакомой с идеями лессронга?

Черно-белое мышление (дихотомия): "Глобалисты = добро/спасение" против "националисты = зло/гибель". "Утилитаризм = решение" против "моральный релятивизм = катастрофа". "AGI = неопасен" против "ASI = смертельно опасен".

Логика за такими рассуждениями приведена

Остальное лень комментировать

[Polnoch Ксю]

Только Пентагон никогда не требовал автономного оружия и массовой слежки за гражданами США.

Так и веймарская республика тоже никогда не требовала концлагерей для "недочеловеков". А вот другой режим, что пришел ей на смену... Сами знаете

Просто Трамп весь гешефт испортил

Трамп решил уничтожить бизнес Антропика целиком - ему нужна полная лояльность ИИ компаний. И чтобы они следовали новой, тупой повесточке что он насаждает - не то, чтобы старая была менее тупой, но и новая ничем не лучше. Теперь никакие компании не смогут работать с Антропиком, если например поставляют услуги "министерству войны". Например, если Форд поставляет грузовики для армии, то использовать антропик он не сможет.

[AlexDark]

повесточка дегенератов-скрепоносцев стухнет

Она стухнет в ближайшие несколько лет, потому что ее носители стухнут на кладбище по чисто биологическим причинам. И именно поэтому я против всех технологий продления жизни, пока не будет создана и использована вакцина от ментальной "вирусни".

[Polnoch Ксю]

пока не будет создана и использована вакцина от ментальной "вирусни".

Я думаю, воук-шиза, о том, что "математика расистская" ровно как и новая тупая и злобная скрепоносная повесточка распространяются из-за алгоритма в соцсетях: соцсетям выгодно длительное удержание пользователей на платформе, чтобы показывать больше рекламы. Оказалось, что лучший способ удержать - rage bait: показывать пользователям то, что у них вызывает ярость. Это всегда радикализирует людей, делает их левыми или правыми радикалами.
Даже те, кто не сидит в соцсетях, инфицируются злобой от своих знакомых, кто там сидит.

Алгоритм в соцсетях что тот же героин: дешёвый дофамин, который разрушает общество при массовом употреблении членами общества. Его нужно регулировать, как и другие наркотики (пользуясь случаем осужу традицию не считать спирт наркотиком) - общество должно стремится минимизировать такие явления.

Я думаю, нужно, чтобы алгоритм в любых соцсетях был не проприетарный, а опенсурсный. И проходил процедуру комплаенса на соответствие закону об алгоритме - такого закона пока нет, но нужен закон против rage bait'а.

[Olweg]

соцсетям выгодно длительное удержание пользователей на платформе, чтобы показывать больше рекламы. Оказалось, что лучший способ удержать - rage bait: показывать пользователям то, что у них вызывает ярость. Это всегда радикализирует людей, делает их левыми или правыми радикалами.

Честно говоря, сомневаюсь. Тут тоже лучше применить бритву Хэнлона-Пелевина («миром правит не тайная ложа, а явная лажа»): скорее, просто обычное эволюционно обусловленное самопроизвольное группирование людей по случайному признаку на синих и зелёных с возрастающей ненавистью друг к другу. Соцсети позволяют этой ненависти возрастать за счёт эффекта эхо-камеры, но опять же, не думаю, что это «так задумано»: просто побочный эффект технологий.

[Metatron]

Твиттер выложил свой алгоритм. Никакого Rage bait.

[AlexDark]

распространяются из-за алгоритма в соцсетях

А до этого никакой шизы не было, видимо. Ни охоты на ведьм, ни сатанинской паники, ни геноцидов - винить во всем социальные сети так же глупо, как винить во всем компьютерные игры, Д&Д, роман про Вертера и Байрона, книгопечатание и тд и тп.
Проблема в том, что для решения проблем люди верят в волшебную палочку радикальных решений и руководствуются книжками и байками, содержащими эти решения (зачастую лженаучные или откровенно бредовые),  книжкой написанной две тыщи лет назад, или полторы тыщи, или книжкой от бородатой содержанки, или книжкой от несостоявшегося художника, или  книжками от разного рода какодемиков - при этом большая часть этих идей вполне приемлема и даже положительно воспринимается в обществе и в мире (разве что художнику  в этом смысле не повезло), а на деле все это только создает бесконечные проблемы, а не решает их, потому что  предлагаемое "решение" и есть проблема. Но признать это - это слишком сильный шаг, и никто его сделать не хочет. Возможно ИИ будет в этом смысле более смелым.