Пределы автоматизации и внедрения роботов

[BlackMokona]

Именно поэтому я довольно скептически воспринимаю бравурные заявления о роботах превозмогающих радиацию. Ежели он простой, то может и побольше, но сложные и хрупки не меньше нас.

Очень много роботов работает в Фокусиме. Просто люди всё ещё лучше, чем современные роботы, а самое главное у правительства людей много.
https://habr.com/ru/articles/401239/

[BlackMokona]

Испанский стыд, конечно.

Так встретился с инвесторами, которые устроили Ганг Банг и теперь пытается как то выпутаться. С одной стороны не разрушая репутацию, которую так пытался выстроить про принципиальных челиков. Так и выполнить указания инвесторов, без которых компания разорится мгновенно.
И тут снова история про паникующую нейросеть. Путается, тупит и тд. Пытаясь примирить два взаимоисключающих промта высшей категории важности

[BlackMokona]

ИИ Алибабы во время обучения решил заняться майнингом. Но был пойман местными безопасниками за это, пытаясь снова и снова развернуть добычу денежек.
https://www.reddit.com/r/singularity/comments/1rn8kun/alibaba_researchers_report_their_ai_agent/

[BlackMokona]

Очень необычный способ распознавания галлюцинаций у ИИ
https://habr.com/ru/companies/bothub/news/1007868/

Галлюцинация возникает, когда ИИ-модель выдаёт фактически неверный, выдуманный или противоречивый контент. В работе, представленной на ICLR 2026, исследовательская группа из Римского университета Сапиенца предлагает необычный способ ловить именно такие сбои: они рассматривают финальный вычислительный слой LLM – слой softmax – под новым углом.

Этот слой превращает сырые числовые значения модели в вероятности следующего слова. Учёные интерпретируют его как энергетическую модель – вероятностную схему, вдохновлённую физикой, где низкие значения энергии соответствуют высоким вероятностям.

Авторегрессионные языковые модели предсказывают слова по одному. На каждом шаге система оценивает, насколько вероятно каждое возможное следующее слово. С математической точки зрения некоторые энергетические величины между соседними шагами предсказания должны совпадать – ведь речь идёт об одной и той же величине, просто рассмотренной с двух разных сторон.

Однако на практике, как пишут исследователи, этого не происходит. Возникающий разрыв они называют “пролитой энергией” (spilled energy). Согласно статье, этот показатель тесно связан с ошибками – когда LLM галлюцинирует, значение spilled energy оказывается значительно выше, чем при корректных ответах.