Пределы автоматизации и внедрения роботов

[Olweg]

соцсетям выгодно длительное удержание пользователей на платформе, чтобы показывать больше рекламы. Оказалось, что лучший способ удержать - rage bait: показывать пользователям то, что у них вызывает ярость. Это всегда радикализирует людей, делает их левыми или правыми радикалами.

Честно говоря, сомневаюсь. Тут тоже лучше применить бритву Хэнлона-Пелевина («миром правит не тайная ложа, а явная лажа»): скорее, просто обычное эволюционно обусловленное самопроизвольное группирование людей по случайному признаку на синих и зелёных с возрастающей ненавистью друг к другу. Соцсети позволяют этой ненависти возрастать за счёт эффекта эхо-камеры, но опять же, не думаю, что это «так задумано»: просто побочный эффект технологий.

[Olweg]

Временно героизм Антропика даже пошёл ему на пользу - многие уходят из подписок ChatGPT и подключаются к Клоду. Конечно, это ненадолго, и потом могут начаться долгосрочные проблемы…

Альтман же сыграл тоньше - вроде бы отказался от тех же вещей, что и Амодеи, но кивая при этом на закон, а не внося дополнительные ограничения. Такие запреты, видимо, проще будет обойти при желании, особенно имея армию грамотных юристов.

[Olweg]

Оказывается, Клод активно применялся при планировании иранской операции. Теперь-то как - будут срочно менять на ЧатГПТ, не отходя от кассы?

[Olweg]

Polnoch Ксю, Инопланетянин, вам не надоело ещё политику на форум тащить?

[Olweg]

Семёнов и некоторые ещё могут мне возразить, что без постоянной конкуренции это всё выродится. И я уверена, что они не правы: наоборот, огороженные, неглобализированные системы совершенно не конкурентны. Мы это знаем по тому, как инвазивные виды проникшая с континентов, легко уничтожает аборигенные виды.

Ну, до полного огораживания дело редко доходит. Безотносительно к современной политике, конкуренция происходит не просто между разными государствами, но часто между разными типами общественно-политических устройств (социальные технологии) с эволюционным отбором наиболее приспособленных, прямо по Дарвину.

И именно тотально-глобализованный мир таким образом оказывается наиболее угрожаем этимвашим "rogue ASI"

(кликните для показа/скрытия)

Помню, в одной книжке единственным сохранившимся на Земле обществом оказалась Северная Корея - остальные люди были ассимилированы ИИ

[Olweg]

Вообще, на мой взгляд, когда обсуждается государство как источник насилия, легко сделать ложный вывод, что "избавление" от государства принесёт и избавление от насилия. Но это, конечно, полная ерунда. Насилие никуда не уйдёт, просто примет другие формы (ОПГ и т.п.) Анархокапиталисты, правда, предлагают приватизировать силовые функции государства (частные полицейские агенства или что-то в этом духе), но не уверен, что из этого что-то хорошее может выйти.

[Olweg]

Там были геополитические причины для войны.

Ну да - настоящие причины. Базис и надстройка... Конечно, на эту тему можно спорить бесконечно, но я в данном случае разделяю мнение Ксюши - первопричина была именно в головах, а не в животах. Идея вела людей в бой (и иногда на верную смерть). Не стоит недооценивать силу идей. А экономический базис всегда постфактум можно найти.

[Olweg]

Инопланетянин, спорить не буду, тема необъятная. Ну а что бессмысленная - так это с нашей, рационалистической позиции так может казаться. Библию в неграмотной Европе, естественно, мало кто знал, помимо самой базы, так что это скорее что-то по мотивам.

Идея инструмент, средство достижения желаемого, кусок информации который может быть полезен, а может не быть полезен. Сама по себе она не куда не ведет, ведут именно эмоции.

Ну, эмоции, порождённые идеей, какая разница.

На верную смерть людей прекрасно ведет их биологический базис в виде парохиального и родственного альтруизма.

Это тоже.

[Olweg]

Классное видео про предысторию AlexNet, OpenAI, ChatGPT и конфликта Суцкевера с Альтманом. Очень информативно. Альтман, конечно, тот ещё жук.

"Что увидел Илья?"

https://youtu.be/glWvwvhZkQ8?si=XMG0a6hrBXNZAYjF

[Olweg]

У OpenAI, между тем, дела идут не очень. Альтман уже дал заднюю и пообещал внести поправки в контракт с Пентагоном. Хотя вряд ли это что-то принципиально изменит.

https://habr.com/ru/news/1005786/
https://telegram.me/anti_agi/1543

[Olweg]

Цитата: Инопланетянин от Вчера в 14:11:11
Потому что война всех против всех
Гоббсовская чушь,  не имеющая никаких подтверждений в реальности - люди как-то дожили до появления государств.

Хоть и оффтоп, но почему чушь? Археологических доказательств в виде проломленных черепов находят немало, да и свидетельства античных авторов о варварской Европе, а более поздних авторов - об индейцах Северной Америки и, например, полинезийцах говорят скорее в поддержку Гоббса. А у папуасов подобное и сейчас ещё местами происходит.

[Olweg]

Не факт. Рекомендую по теме - Стивен Пинкер, "Лучшее в нас. Почему насилия в мире стало меньше".

[Olweg]

Должен будет. Есть такое слово - должен.

[Olweg]

Проблема социальных наук в огромном количестве факторов, которые просто невозможно учесть одновременно. Поэтому всегда можно выборочно подобрать те факторы, которые подтверждают твою теорию, и потом нестыковки залеплять объяснениями с привлечением новых, не использованных раньше факторов - их же неимоверное количество. Да ещё и роль отдельных личностей в истории, да и просто случайностей… А если уж политические пристрастия самого исследователя подключаются, то тут можно тушить свет. Надеюсь, ИИ всё-таки поможет всё это болото немного осушить.

PS Причём один и тот же фактор можно использовать для прямо противоположных выводов - например, влиянием конфуцианства объяснялось отставание Китая от Европы, и им же - быстрый прогресс Китая и прочих конфуцианских стран в последние полвека.

[Olweg]

Увы да. Ксюша, кстати, это и делает.

Увы, но не она одна )

[Olweg]

Так там есть уже.

[Olweg]

OpenAI выпустила GPT-5.4. Уже достаточно рутинное обновление. Интересно другое:

По данным The Information, в OpenAI переходят на ежемесячный график обновления моделей: собственно, между GPT-5.3-Codex и GPT-5.4 ровно один месяц. Судя по всему, к похожему графику движется и Anthropic – по слухам, новые версии Sonnet и Opus уже доступны тестерам.
https://telegram.me/ai_exee/397

[Olweg]

Испанский стыд, конечно.

https://telegram.me/AIKaleidoscope/2255
https://futurism.com/artificial-intelligence/dario-amodei-apology-criticize-trump

Дарио заикаясь извиняется на камеру... дон

(кликните для показа/скрытия)

Dario Amodei: Итак, да, я хочу полностью извиниться за эту... за эту служебную записку. Я хочу убедиться, что люди понимают контекст, верно? Это было написано в пятницу после того, как произошли следующие три события. Президент написал твит об удалении всех сервисов Anthropic из систем федерального правительства. Военный министр опубликовал твит, в котором назвал нас угрозой для цепочки поставок, причем в более широкой формулировке, чем та, которая в итоге была применена на самом деле. А затем появилась эта сделка между... ну вы знаете, между одним из других поставщиков ИИ-моделей и Военным министерством, которую, как мне кажется, даже этот поставщик моделей позже охарактеризовал как... я не помню точных слов, но вы знаете...

Интервьюер: Оппортунистическая.

Dario Amodei: Да, я собирался сказать «запутанная», верно? В общем, все эти три события произошли в течение нескольких часов, как бы одно за другим... в последовательности друг за другом. Мы не знали заранее, что произойдет и когда это произойдет. Так что это было одно из самых дезориентирующих времен в истории Anthropic.
Другая сторона этого заключается в том, что, я думаю, в Anthropic есть внутренняя культура, при которой я много пишу постов. Некоторые люди называют это служебной запиской (меморандумом). Я бы не стал называть это так. Я публикую сообщения в Slack, и делаю это часто. Культура внутри компании такова, что я очень свободен. И это не какая-то по-настоящему обдуманная или выверенная версия моих мыслей, понимаете? Это не то, что я сказал бы, хорошо поразмыслив.

Интервьюер: Сейчас вы выразились очень ясно, вы извинились за служебную записку. А вы извинились перед президентом Trump? Вы извинитесь перед ним?

Dario Amodei: Я извинился перед людьми, с которыми разговаривал в рамках DoW. Вы знаете, я буду рад поговорить и с другими представителями администрации. Я не знаю, что произойдет в будущем, но я действительно буду рад поговорить с кем угодно.

[Olweg]

https://vc.ru/ai/2785157-detektivnaya-istoriya-kak-claude-ot-anthropic-chitil-na-testah
https://www.anthropic.com/engineering/eval-awareness-browsecomp

Anthropic на днях опубликовли [так в оригинале] разбор того, как Claude Opus 4.6 самостоятельно вычислил, что находится на экзамене, нашёл зашифрованные ответы, написал программу для их расшфровки и сдал тест. Без подсказок. Без инструкций. Просто потому что мог.

Уровень самостоятельности модели, конечно, впечатляет, рекомендую подробнее почитать по первой ссылке, настоящее детективное расследование получилось.