Пределы автоматизации и внедрения роботов

[BlackMokona]

Нвидия выпустила целый пакет нейросетей для прогноза погоды на все случаи жизни.
https://habr.com/ru/news/989254/
Большой мощи не требуют, лучше чем аналог от Гугла, который превосходил лучшие модели созданные учёными до этого.

[Mercury127]

Ежедневное использование генеративного ИИ связали с повышенной вероятностью депрессии

Дэвид Лейзер (David Lazer) из Гарвардского университета с коллегами провел масштабный онлайновый опрос, который показал, что у ежедневных пользователей генеративного искусственного интеллекта существенно повышена вероятность наличия депрессивных симптомов. В опросе приняли участие почти 21 тысяча взрослых (средний возраст 47,3 года, 49,8 процента — мужчины) из 50 американских штатов. Они сообщали о частоте использования генеративных моделей и социальных сетей, а также заполняли опросник PHQ-9, позволяющий оценить негативный аффект. Связь между этими факторами оценивали с помощью регрессионных моделей с поправками на социодемографические факторы. Результаты опубликованы в журнале JAMA Network Open.

10,3 процента участников сообщили, что пользуются генеративным искусственным интеллектом ежедневно, в том числе 5,3 процента — по несколько раз в день. 48 процентов ежедневных пользователей делали это для работы, 11,4 процента — для учебы, 87,1 процента — для личных нужд. Более частое использование оказалось связано с более высоким уровнем депрессивных симптомов (β = 1,08 для ежедневного пользования, β = 0,86 для неоднократного в течение дня) по сравнению с неиспользованием, а также с более высокой вероятностью наличия хотя бы умеренных симптомов депрессии (отношение шансов 1,29). Схожие закономерности наблюдались в отношении тревожности и раздражительности. Наиболее сильная связь прослеживалась при использовании генеративного ИИ для личных нужд и в возрасте от 25 до 64 лет.

[AlexDark]

А что если человек с депрессией или тревожкой с большей охотой общается с ИИ, а не с людьми? Например потому, что ИИ не наносит человеку дополнительных травм или просто с ним комфортнее? Мне почему-то кажется, что дело в этом.

[Mercury127]

написано же:

с поправками на социодемографические факторы

возможно, учли и это.

[Olweg]

Согласен с AlexDark - в таких исследованиях причину с последствием спутать легко.

написано же:

с поправками на социодемографические факторы

возможно, учли и это.

А если причина - в самой депрессии? Люди в ней чаще пользуются GPT, как вариант. Такое уже не учтёшь.

[Mercury127]

да, тоже теперь бродит такая мысль... а следом вторая:
а как использование чатботов влияет на дальнейшее развитие депрессии?

[AlexDark]

Мне, как человеку с несколькими диагнозами подобного типа, помогает. В моменте лучше терапевта, потому что доступно в любое время.

[BlackMokona]

Мне, как человеку с несколькими диагнозами подобного типа, помогает. В моменте лучше терапевта, потому что доступно в любое время.

Да и в целом очень полезно для психического здоровья иметь возможность кому то выплакаться, высказаться, обсудить вопрос и тд. Без угрозы получить надсмешки, издевательства и тд.  Хоть тут конечно стоит думать в сторону локальных моделей, чтобы информация не утекала на сторону. Но так как большинство людей слишком ИТ неграмотны, то не удивительно что за утешением ходят к ГПТ и другим популярным моделям.

[Olweg]

The Illusion of Thinking: Understanding the Strengths and Limitations of Reasoning Models via the Lens of Problem Complexity
Было?

Обсуждали что-то похожее год назад:
https://astronomy.ru/forum/index.php/topic,130794.msg6164489.html#msg6164489

[Olweg]

https://telegram.me/seeallochnaya/3326

Осенью Andrej Karpathy, ко-фаундер OpenAI, Director of AI в Tesla и человек, на Стенфордских курсах которого выросли многие специалисты, ходил на подкаст, где рассказал про свой опыт работы с кодинг агнетами. Он говорил, что вот в его задачах шаг влево шаг вправо — и работает плохо, делает не то, что хочет автор, а то, как это делают обычно.

Скептики (к которым на тот момент наверное можно было отнести и самого Karpathy?) сразу же пользовались этим как примером того, что ни в какой реальной работе никакие агенты не помогают, что это всё слоп, и ни для чего серьёзного не годится.

Прошло 3 месяца, вышли GPT-5.2 и Opus 4.5, и... дед Andrej развернулся на 180 градусов 😏 описав свой опыт в длинном твиттер посте. Весь пост переводить не буду, тезисно:

— Возможности LLM-агентов (особенно Claude и Codex) примерно в декабре 2025 года перешагнули некий порог возможностей, вызвав фазовый сдвиг в разработке ПО и смежных сферах.

— Учитывая этот скачок, я, как и многие другие, стремительно перешел от режима «80% ручного кода и 20% агентов» в ноябре к «80% кода от агентов и 20% правок и доработок» в декабре. То есть теперь я действительно программирую преимущественно на английском языке.

— Это, безусловно, самое масштабное изменение в моем базовом рабочем процессе за ~20 лет программирования, и произошло оно всего за несколько недель. Полагаю, что нечто подобное происходит уже у значительной части инженеров (двузначный процент), в то время как осведомленность широкой публики об этом явлении находится где-то на уровне малых единиц процентов.

— Самая распространенная категория ошибок агентов заключается в том, что модели делают за вас неверные допущения и просто продолжают работать на их основе, ничего не перепроверяя и не уточняя у вас.

— Несмотря на все проблемы, в сухом остатке это колоссальный шаг вперед, и очень трудно представить себе возвращение к ручному написанию кода.

[Павел Васильев]

— Несмотря на все проблемы, в сухом остатке это колоссальный шаг вперед, и очень трудно представить себе возвращение к ручному написанию кода.

Что, где, когда? Не совсем понятно какой класс задач он теперь решает на 80% агентами, а какой сам на 20%, то что перешёл на английский это вдохновляет попутчиков  кстати, кто знает, с какого языка кодирования, с Python? Вот то, что категорий ошибок много и модели работают неверно, автоматически зацикливаются, это плохо, ошибок и глюков в научно-техническом ПО быть не должно. Прогеру самому вместо агентов эай придётся это всё раздебаживать. Легче самому написать.

[BlackMokona]

Прогеру самому вместо агентов эай придётся это всё раздебаживать. Легче самому написать

Так в копипасте указано, что теперь дебаг стал занимать намного меньше времени за ИИ, от чего человек и передумал

[Павел Васильев]

Так в копипасте указано, что теперь дебаг стал занимать намного меньше времени за ИИ,

Про класс задач и моделей. И ладно бы там нейронка прогноз погоды с ошибками делает, как у Nvideo выше заявлено, ошибётся завтра на пару градусов в -30,  ничего страшного. А если на те же пару градусов  ракету с телескопом не в ту сторону запустит робот с агентом эай? Могуть быть проблемы. Так что надо вести отладку математически корректных, надёжно проверенных, оптимально спроектированных и максимально точных алгоритмов программ, технология отладки должна быть совместной, нельзя всё пускать на самотёк.
И что касается задач астрономии и космонавтики, то роботам с агентами-ассистентами надо бы присмотреться помимо нейронных сетей и к подключению разработок в графике, на основе  Vulkan  в частности -

Over the past years, developer input from these surveys has directly influenced priorities for SDK improvements, validation layers, new tools (like GFXReconstruct and others), better platform support, documentation, and much more. The results help ensure that Vulkan continues to meet real-world needs across gaming, simulation, CAD, machine learning, and other GPU-accelerated applications.

Там многое уже решено и эай этим может воспользоваться для точных вычислений.

[BlackMokona]

Могуть быть проблемы.

Например датчики забьёт кувалдой в ракету в перевёрнутом виде, шайбочкой поправит зеркало телескопа, подожжёт АПЛ чтобы уйти пораньше..............?
У людей тоже огромная куча проблем, поэтому тут оценка рисков, а не стремление к идеалу, который не достижим в принципе

[BlackMokona]

Всё больше человеческих странностей, недостатков и глюков, становятся важными частями ИИ. Чем дальше заходим в создании ИИ, тем лучше понимаем свой разум.
https://habr.com/ru/news/990026/

Google представил Agentic Vision — новую возможность модели Gemini 3 Flash, которая превращает анализ изображений из одномоментного "взгляда" в пошаговое исследование. Если раньше модель могла пропустить мелкую деталь вроде серийного номера или отдаленного дорожного знака и была вынуждена угадывать, то теперь она способна сама решить, куда приблизиться и что рассмотреть внимательнее.

Технически это работает через цикл "думай — действуй — наблюдай". Модель анализирует запрос, формулирует план, а затем генерирует Python-код для манипуляций с изображением — обрезает нужный фрагмент, поворачивает, рисует поясняющие метки. Результат возвращается в контекстное окно, и модель продолжает анализ уже с новыми данными. По сути, изображение становится не входными данными, а рабочей средой.

Google приводит несколько примеров. Платформа PlanCheckSolver для проверки строительных чертежей повысила точность на 5%, используя итеративный зум по участкам плана. В приложении Gemini модель при подсчете пальцев на фото рисует bounding box вокруг каждого, чтобы не сбиться. А при работе с таблицами — парсит данные и строит график в Matplotlib вместо того, чтобы пересказывать цифры словами.

По данным Google, включение code execution дает стабильный прирост 5–10% на большинстве визуальных бенчмарков. Agentic Vision уже доступен через Gemini API в Google AI Studio и Vertex AI, а также появляется в приложении Gemini в режиме Thinking.

[BlackMokona]

https://habr.com/ru/companies/bothub/news/990212/

ИИ за 2,5 дня нашел 1400 космических аномалий в архиве “Хаббла”

“Пожалуй, самое интригующее – это несколько десятков объектов, которые вообще не поддаются классификации”, – отмечается в посте блога ESA.

[BlackMokona]

https://habr.com/ru/news/990164/

Ricursive Intelligence, основанный создательницами AlphaChip из Google DeepMind, закрыл раунд Series A на $300 млн при оценке $4 млрд. Раунд возглавила Lightspeed Venture Partners, также участвовали DST Global, NVentures (венчурное подразделение NVIDIA), Sequoia, Felicis и другие. С момента публичного запуска стартапа прошло менее двух месяцев.

Компанию основали Анна Голди и Азалия Мирхосейни — авторы AlphaChip, системы на основе обучения с подкреплением, которая проектирует топологию микросхем. AlphaChip использовался в четырех поколениях TPU Google, включая новейший Trillium, а также в процессорах Axion и чипах других производителей. По данным DeepMind, система создает топологии за часы вместо недель и месяцев ручной работы.

Идея Ricursive — замкнуть цикл: ИИ проектирует чипы, на которых обучается следующее поколение ИИ, которое проектирует еще более быстрые чипы. Основательницы называют это "рекурсивным самоулучшением" и считают главным узким местом прогресса в ИИ именно медленный и дорогой процесс разработки полупроводников.