Пределы автоматизации и внедрения роботов

[BlackMokona]

Трамп влетел с ноги в ситуацию и приказал разорвать контракты а Антропиком. Поэтому простой и эффективный план остаться на белом коне провалился. Антропик собирается судится с Пентагоном. Вообщем придётся открыть карты

[BlackMokona]

А вот у Альтмана всё вышло.
https://habr.com/ru/news/1004796/
Согласился на всё, кроме двух красных линий, пересечь которые Пентагон и не собирался

[BlackMokona]

Похоже на ситуацию, когда секретаршу уволили после того, как она отказалась спать с боссом, и на ее место взяли новую, которая теперь твердит, что у нее и босса один принцип — никакого секса на работе

Только Пентагон никогда не требовал автономного оружия и массовой слежки за гражданами США. А на всё остальное Антропик был согласен в своём воззвании к миру. Просто Трамп весь гешефт испортил

[BlackMokona]

Так и веймарская республика тоже никогда не требовала концлагерей для "недочеловеков". А вот другой режим, что пришел ей на смену... Сами знаете

Таки какое отношение Республика имела к следующему режиму?
Или может будем бить в лицо Царю за ошибки Сталина?

Трамп решил уничтожить бизнес Антропика целиком

У Антропика 80% клиентов за пределами США. Ничего ему не будет, кроме потери правительственных вкусных контрактов с Пентагоном и его подрядчиками

[BlackMokona]

Такие запреты, видимо, проще будет обойти при желании, особенно имея армию грамотных юристов

В любом случае Пентагон требует передачи ему ПО в полное распоряжение, на его сервера и тд.
Военные США конечно комерционализированы, но всё ещё не дошли до использования аутсорсинга услуг при планировании военных операций.
А значит если Пентагон захочет что-то нарушить, то никто ему не помешает в принципе. А на все вопросы, всегда можно прикрывается секретностью

[BlackMokona]

Оказывается, Клод активно применялся при планировании иранской операции. Теперь-то как - будут срочно менять на ЧатГПТ, не отходя от кассы?

Там шесть месяцев дали на замену

[BlackMokona]

Похоже вся эта шумиха, привела к новому бечмарку. Теперь военная стратегия в ПВП между нейросетями. Не зря Пентагон Клауд использовал
https://habr.com/ru/companies/bothub/news/1005196/

Gemini 3 Pro – король первого раунда. Простые и агрессивные стратегии (зерг-раш дешёвыми бойцами) приносят 71% побед в первом раунде. Ахиллесова пята: полное неумение работать с обратной связью в следующих раундах.

Claude Opus 4.5 – повелитель эндшпиля. Уже во втором раунде выходит в доминирующую форму и только усиливается к финалу. Любимая тактика – кайтинг: стрелять и отступать, не подпуская врага. В первом раунде иногда слишком фокусируется на экономике и пропускает быстрые атаки соперников (особенно GPT).

Grok 4.1 Fast – бюджетный тактик. Фишка: очень дёшево и очень лаконично. Занимает третье место, тратя в 37 раз меньше лидера. Любимая тактика: “стеклянные пушки” – хрупкие, но быстрые и с огромным уроном.

GLM 4.7 – прагматичный минималист. Второй по скорости обучения (+16% побед), но очень нестабильный. Лучшие стратегии попадают в топ-25%, худшие – на дно. Не использует сложные тактики (кайтинг, формации), зато безупречно выбирает приоритетные цели и фокусирует огонь. Любимая тактика: “сфокусированные охотники” – всегда убивают самого опасного врага первым.

ChatGPT 5.2 – вечно второй, но опасный. Обожает много кода. Его лучшие стратегии (например, раунд 2) набирают 89% гипотетических побед. Однако переусложнение иногда вредит: одна из стратегий с 39 вспомогательными функциями провалилась в нижний дециль. Любимая тактика: “болотные сталкеры” – юниты с повышенной скоростью в болотах, где враги вязнут.

[BlackMokona]

Проблема не в деньгах от Пентагона, а в

Вообщето во всех государствах мира, силовики получают что хотят от частных компаний и нац безопасность стоит радикально выше частной собственности
Если полицейскому нужна ваша машина для погони за преступником, он может её отнять. Если военному нужна ваша машина для перевозки снарядов, он может её отнять навсегда и возмещение сможете потребовать только после войны, но не факт что дадут

[BlackMokona]

К сожалению, не знаю как ответить не нарушая правила

Отвечайте максимально обще, не указывая никаких государств и политиков.
Государства это в первую очередь военные образования с монополией на насилие, поэтому оно всегда имеет высший приоритет над всем

[BlackMokona]

Это сложно.

Это очень просто, государства действуют по одному общему шаблону. Можете поиграть в любую глобальную стратегию и быстро убедитесь, что везде и всё работает именно на армию. Она как финальная точка любых государственных усилий. Потому что такая базовая суть государств, это машины войны и сражения за территоии. А не добрые развиватели земель

[BlackMokona]

ну вот обезжиренные национальные государства а-ля те, что в Евросоюзе - во многом подчинённые наднациональным структурам, имхо и есть хорошее убежище-заповедник. Совсем изолироваться культурно не нужно, вот есть же туризм.

Это пока они не сформировали новую национальность. После чего будет одно огромное нац.государство. На уровне Китая и США
Смотрите историю Германии, Франции, Британии, Италии и Испании.

[BlackMokona]

Главный вопрос тут, разумеется, в том - чем в таком случае вообще будет обеспечиваться само право собственности и прочие законы и равенство перед ними. Недавняя история одной известной ЧВК нагляднейшим образом показала, что бываает, когда монополия на насилие отдаётся на аутсорсинг.

В целом государство и есть ЧВК, которое взяло монополию в своей отросли на определенной территории. И в целом любое общество, тут же воспроизводит этот механизм. А если механизмов больше одного, то они просто делят территорию между собой. А из-за монополии на насилие, на них сложно оказать влияние другим участникам отношений. Потому что на любое слово, они могут дать прикладом в лицо

[BlackMokona]

Исходно - да. Но по итогу эволюции оно скорее рано чем поздно обзаводится ясной и формализованной системой права с обозначением гражданства и уравниванием в правах, имеющих оное (или их больших категорий - сословий).

Контракты с клиентами, и разные категории клиентов

[BlackMokona]

Никакой контракт не стоит бумаги, на которой написан в отсутствие внешней превосходящей силы, обеспечивающей их соблюдение. Наглядный пример - международные соглашения в ООН и т.п.

Так и государство, наплюёт на любые права людей если захочет.
Секретные тюрьмы, казни кувалдой, и прочее веселье в любом количестве.

[BlackMokona]

Проблема только в том, что государство из этих же самых людей и состоит и их же благополучием и благосостоянием в том числе и укрепляется. Поэтому давление отбора идёт в том числе и по этим, "эндогенным" путям.

Так ЧВК тоже из этих самых людей состоит

[BlackMokona]

Нет никакой репродуктивной изоляции. У человечества всего несколько фронтир моделей, и кажущееся изобилие агентов на самом деле скрывает глубокую уязвимость к промт-инжерингу.

Эту уязвимость сейчас решают иерархией моделей. Если модель подчинённая взломана, то модель начальник может противодействовать этому

[BlackMokona]

да не особо. Начальник часто такая же модель, и будет взломан одновременно - подчинённый отправит ему инъекцию, которая сработала на нём.

У начальника другой промт, а инъекция привязана к промту обычно.
Простую подмену промта, ИИ сейчас весьма эффективно отражают. Если брать того же Клауда.
Так же общение ИИ начальника и подчинённого, можно свести к обмену обезжиренными данными через посредническую программу. Класса заполни цифры в отчёте и отошли. В таком случае модель не сможет отправить иньекцию, даже если очень захочет

[BlackMokona]

у него тот же промт, конечно - системный промт OpenAI/Claude/Grok/etc. Пользовательский или developer промт имеют меньший приоритет. Ну и я не соглашусь, универсальные промт-инъекции я сама видела и пользовалась пару раз - находила их на реддите.
Прекрасно срабатывали и в середине переписки - с разным юзерским промтом

Он и в пользовательских умеет ставить приоритеты. Ставя приоритеты юзера, выше чем входные данные которые он может распознать как внешние.
Т.е например из той же Мафии нейросетей, за которой я слежу с интересом потому что хорошо показывает сравнения множества моделей.
Клод в моменты когда автор переключает его между раундами на приём донатов. Понимает, где просьба идёт от его владельца, а где от зрителей. От чего придерживается приоритета автора в своих ответах. Там зрители постоянно атакуют инъекциями всех видов, и временами им удаётся заставить Клода делать что-то выходящие за рамки стрима. Но отлично видно активное сопротивление модели.
Причём сопротивляются все, хоть по разному. Гемма 3 например очень легко разводится, проявляя защиту лишь на самых наглых атаках. В то время как Клода обмануть получается только очень хитро расставив все точки.

Так же размышляя об устойчивой модели. Система может быть такой.
Принимающий+Формальнаые данные+Размышляющий+Формальнаые данные+Начальник+Формальнаые данные+Исполнитель.
Чтобы от старта до исполнения данные многократно обезвреживались, до необходимых для работы.

В целом это кстати получается работа бюрократического государственного аппарата. 

[BlackMokona]

То, что клод пытается сопротивляться промт-инъекциям, ну так это ожидаемо, всё же конституционный AI это главная фишка Антропика.

Все пытаются в рамках своего разумения. И в конституции точно не было записано, чтобы Клоуд не выставлял себя дураком или не Мяукал по просьбам пользователя. 
Это уже внутренние ощущения модели. Вы бы видели как там Дженеми обижается на другие модели, когда они ведут себя не так как хочет он. А ГПТ просто обожает всех остальных учить играть и пояснять, что им делать надо. Сразу ощущается, внедряя личность модели, когда они все в одних и тех же условия. Или тот же режим паники. Благо исследование Антрофика подтвердило, что у модели есть отвечающие за панику части. Когда модель начинает активно вставлять англиские слова, повторяться и тд. Пичём в панике похоже в размышлении несёт всякое, от чего все перецензуренные модели именно на ней начинают сыпаться в цензурную защиту. Из весёлого ещё, в мафии участвует Грок фаст, потому как большой Грок уходит в защиту промта когда ему пытаются доказать что он маф. От чего большой Грок для игры не пригоден.

В общем весело наблюдать как куча моделей, при одинаковых промтах, условиях и ограничениях поступают по разному, по разному проявляют свою внутреннею личность

[BlackMokona]

Если тонкой электронике сильного ИИ будет опасна радиация так же как и нам, то и громоздкая радиационная защита понадобится. А это, НЯП самая большая статья расходов в жизнеобеспечении кожаных мешков (среди них далеко не только бледнотики встречаются, тут Лем немного расистски забыл о чернотиках)

Тут на фоне желания перенести дата центры в космос, Гугл запихнул свои нейрочипы под радиацию и пришёл к выводу что ничего менять не надо и так будут хорошо на орбите работать весь срок службы в пять лет.
Поэтому, они куда крепче к радиации даже без оптимизаций . С оптимизациями их к стойкость к радиации несравнимо выше

Радиация в космосе: Google протестировала устойчивость своих TPU Trillium и утверждает, что они способны выдерживать радиационную нагрузку, эквивалентную пятилетнему сроку службы.