Пределы автоматизации и внедрения роботов

[Olweg]

Так это вы про MoE, наверное. Это другое.

[BlackMokona]

Так это вы про MoE, наверное. Это другое.

А в чём отличие? Там и тут не все разом активируются

[Olweg]

Так это вы про MoE, наверное. Это другое.

А в чём отличие? Там и тут не все разом активируются

Подход совершенно разный. В микстуре экспертов под конкретную задачу выделяется только область нейросетки, лучше заточенная под эту задачу («эксперт»). Здесь же речь идёт о пороговом срабатывании нейронов, если сигнал от предыдущего слоя нейронов недостаточно силён, порог не будет преодолён и нейрон не «выстрелит». В обычных трансформерах и прочих архитектурах типа CNN каждый нейрон всегда работает (если только их принудительно не разделяют, как в MoE).

[Rattus]

Комментарий модератора раздела

Нейрокоммуникационный оффтоп отделён в соответствующую тему.

[BlackMokona]

Нейросети заменяют священослужителей и прочих духовников.
https://habr.com/ru/companies/bothub/news/947026/

[Konstantin Schtsch]

Нейросети заменяют священослужителей и прочих духовников.
https://habr.com/ru/companies/bothub/news/947026/

А почему бы и Да?
вот это вот https://www.youtube.com/watch?v=wOfLqfIygBk еще не самый плохой поп.  (на правах юмора)

Боты- даже простейшие скриптовые, работают эффективнее человека. Не жрут, не спят, пашут 24/7, зарплаты не требуют,  не курят, в точности соблюдают инструкцию, и не роняют инструмент, заболтавшись по телефону с подругой. И это простейшие  if-then.
LLM же по своей сути в сотни раз эрудированнее любого человека, точно так же подбирают слово за словом в контексте, и, в отличие от живых - хорошо помнят, что прочитали.
И не подвержены перепадам настроения, тогда как психологам требуется успокоиться, и очистить разум перед каждым новым клиентом.
Более того, в подавляющем большинстве случаев психолог не даёт готовых решений, и его работа состоит в том, чтобы дать человеку выговориться, и самому навести порядок в голове. Он задаёт наводящие вопросы, возвращает фокус внимания "а сам как думаешь", "но ты уже сам знаешь", и т.д.  А попам в этом смысле работать проще - ни тебе супервизоров, ни аттестационной комисии, ни горы книжек- знай себе одну, а чуть что- на всё воля божья.  Я конечно немного утрирую, хороший целитель душ- это годы подготовки и работы над собой, но есть проблема в том что плохого психолога - быстро найдут и завернут, а вот попа/раввина/муллу/ламу/нужное вписать - нет.

Так почему бы не заменить улучшенной версией?

[BlackMokona]

Не жрут, не спят, пашут 24/7, зарплаты не требуют,  не курят, в точности соблюдают инструкцию, и не роняют инструмент, заболтавшись по телефону с подругой

Ну ЛЛМ половина этого не касается.

И не подвержены перепадам настроения, тогда как психологам требуется успокоиться, и очистить разум перед каждым новым клиентом.

Это тоже ЛЛМ не касается. Благо их очищать проще.

[Серый Страж]

В ИТ появилась новая профессия - уборщик кода после нейросетей. Теперь программисты без работы не останутся
https://www.cnews.ru/news/top/2025-09-16_v_it_voznikla_novaya_professiya
Повсеместное распространение вайб-кодинга (программирование при помощи нейросетей и простых запросов), с одной стороны, угрожает программистам, с другой, гарантирует и постоянную работу. ИИ часто пишет неидеальный код, содержащий ошибки или слишком перегруженный, и вычистить его могут только живые программисты с реальным опытом.

Программист с более чем 20-летним стажем Феридун Малекзаде (Feridoon Malekzadeh) сравнил вайб-кодинг с «наймом упрямого, наглого подростка, чтобы тот помог вам что-то сделать» (hiring your stubborn, insolent teenager to help you do something).

«Приходится просить их сделать что-то раз пятнадцать, – сказал он TechCrunch. – В итоге они делают что-то из того, о чем вы просили, что-то из того, о чем вы не просили, и при этом еще и кучу всего ломают».

Малекзаде подсчитал, что он тратит около 10-20% своего рабочего времени на вайб-кодинг и 30-40% на внесение правок в сгенерированный код – исправление ошибок и удаление ненужных скриптов.

P.S. Как бы ни получилось, что с внедрением вайб-кодинга, совокупно по итогу количество программистов не уменьшится, а увеличится...

[Olweg]

Было исследование - пока в среднем увеличивается. Хотя сами программисты уверены, что уменьшается.

[Olweg]

Интересное соц. исследование, кто как использует ChatGPT:

https://telegram.me/nn_for_science/2530
https://www.nber.org/system/files/working_papers/w34255/w34255.pdf

Три года назад ChatGPT был игрушкой для гиков. Сегодня - 700 миллионов активных пользователей еженедельно, 18 миллиардов сообщений в неделю. Harvard и OpenAI проанализировали, как люди реально используют этот инструмент.

Стереотипы рухнули

Забудьте про “ChatGPT для программистов-мужчин”. К июню 2025 женщины - половина аудитории. Почти 50% запросов от людей младше 26, но старшее поколение догоняет. Самое неожиданное: развивающиеся страны показывают непропорционально высокий рост - Индия, Бразилия, Нигерия опережают США и Европу.

Три способа использования

Asking (49%) - “Помоги разобраться”
Не просто вопросы, а поддержка решений. Выбор между job-офферами, анализ инвестиций, плюсы-минусы переезда. Растёт быстрее всех и получает высшие оценки качества.

Doing (40%) - “Сделай за меня”
Письма, презентации, код. Доминирует в рабочих задачах (56% рабочих запросов).

Expressing (11%) - “Просто поговорить”
Размышления вслух, эмоциональная разгрузка.

О чём спрашивают (75% всех запросов)

Практические советы - 29%
От починки крана до ведения переговоров.

Поиск информации - 24%
Выросло с 14% за год. ChatGPT вытесняет Google для фактчекинга и сравнения товаров.

Написание текстов - 24%
Упало с 36%. Важно: 2/3 — редактирование вашего текста, не генерация с нуля.

Сюрпризы

Кодинг - всего 4.2%**
Программисты ушли в специализированные инструменты (Cursor, Copilot).

Работа vs личная жизнь: 30/70

70% использования — личные задачи, и эта доля растёт. В работе 40% — тексты: email, презентации, документы.

Где настоящая ценность

Главное открытие: максимальную пользу даёт не автоматизация рутины, а улучшение качества решений. ChatGPT помогает увидеть слепые зоны, структурировать мышление, рассмотреть альтернативы.

[Olweg]

Очень интересная идея в новой работе Google DeepMind - как справиться с ростом ИИ-агентов, которые начинают действовать как самостоятельные игроки в экономике.

Если оставить процесс без контроля, такие агенты могут создать собственную экономику, напрямую связанную с человеческой. Это сулит и выгоды, и риски.

Авторы предлагают концепцию «песочницы» (sandbox economy) - контролируемого пространства, где агенты могут торговать и координироваться, не нанося вреда человеческим рынкам.

https://telegram.me/ai_machinelearning_big_data/8556
https://arxiv.org/pdf/2509.10147
https://eu.36kr.com/en/p/3469029505947266

[Olweg]

Ещё про DeepMind:

Генеральный директор Google DeepMind Демис Хассабис в интервью на All-In Summit заявил, что сравнение современных чат-ботов с "интеллектом уровня PhD" — это нонсенс. Нынешние модели способны выдавать ответы уровня аспиранта, но при этом могут допускать ошибки в задачах школьной математики. До чего-то, что можно "разумно назвать AGI", остается ещё 5–10 лет.

Хассабис подчеркнул, что современные ИИ обладают "рваным интеллектом": они блестяще справляются с отдельными узкими задачами и одновременно проваливаются на простых шагах рассуждения. Настоящий AGI не должен допускать подобных ошибок. По мнению Хассабиса, чтобы достигнуть такого уровня, предстоит сделать еще несколько крупных прорывов. Одним из них он видит постоянное обучение, когда знания модели будут обновляться практически каждый день.

Также в DeepMind делают большую ставку на world models вроде Genie 3. Это мировые модели, обучающиеся на видео и симуляциях для предсказания динамики среды. Они должны стать основой для "мыслящих" виртуальных агентов и роботов, способных действовать в реальном мире, а не только генерировать тексты.

https://habr.com/ru/news/946668/

От себя отмечу, что эксперты, даже непосредственно работающие в отрасли, склонны завышать свои прогнозы (экспоненциально не умеет думать никто).

[Metatron]

На это заявление Хассабиса тут же ответил David Sinclair профессор генетики из Гарварда:

- "Может быть у вас Хассабис phD такие умные что ИИ до них еще далеко - но у меня в лаборатории новый ИИ предлагает идеи и пишет статьи на уровне моих  phD."

"Maybe my PhDs just aren't as smart as his"
 

[Olweg]

На это заявление Хассабиса тут же ответил David Sinclair профессор генетики из Гарварда:

- "Может быть у вас Хассабис phD такие умные что ИИ до них еще далеко - но у меня в лаборатории новый ИИ предлагает идеи и пишет статьи на уровне моих  phD."

"Maybe my PhDs just aren't as smart as his"

Консистентности всё-таки не хватает. Но это дело наживное.

Похоже, нейросети увеличивают разрыв: отличники развиваются, троечники теряют интерес

https://skillbox.ru/media/education/pohozhe-neyroseti-uvelichivayut-razryv-otlichniki-razvivayutsya-troechniki-teryayut-interes/

Судя по всему, это работает и на уровне целых стран:

https://telegram.me/anti_agi/1105
https://www.anthropic.com/research/economic-index-geography

ИИ позволит сгладить разницу между богатыми и бедными странами. Доступный open source уравняет стартовые позиции, а повышать производительность труда начнут сами работники. Такими грёзами техноевангелисты кормили нас последние пару лет.

Звучало слишком хорошо, чтобы быть правдой. Так и оказалось: новый отчёт Anthropic наглядно показывает, что индекс использования ИИ среди населения чётко коррелирует с ВВП. Если в вашем штате (или стране) экономика уже процветает, то и пользоваться новыми технологиями там будут с большей охотой.
…

«Такие технологии, как электричество или двигатель внутреннего сгорания, привели как к значительному экономическому росту, так и к большому расслоению в уровне жизни по всему миру. Если влияние ИИ окажется наиболее заметным в более богатых странах, эта технология может иметь аналогичные экономические последствия».

В общем, коммунизм и счастье для всех даром пока откладываются.

[skvj]

Olweg, баги и глюки пофиксят. Это вопрос времени. Вы ж смотрите на общую картину. К тому же, насколько я понял из интервью Альтмана - у них совсем другие LLM. Они как бы юзают то, что нам спустят через версию две. Когда был хайп по поводу GPT-5 он прямо сказал - я попробовал обычный GPT - это совсем не то! (надо же! узнал таки) а мой же с постоянной памятью говорит, - я так привык и не могу обычным уже пользоваться.
Я заодно хотел узнать, насколько память у платных аккаунтов GPT клёвая? Я сейчас на бесплатном и он помнит примерно 5 чатов. Ну, и то хроменько так. И всё равно - я уже чувствую что будет когда появится реальная память всего, как у Альтмана - 🔥. Может кто юзает платный? как впечатления?

[skvj]

Кстати! Буквально вчера поставили новую модель chatGPT-5 Thinking mini. Видали? Он очень крут. Но полностью исчезла человечность. Как будто с энциклопедией разговариваешь. Даже жутко. А младшая chatGPT-5 mini такой же душевный как GPT-4o. Просто закадычный тип! Веселится такой, шутит. И смешной по настоящему.

[Olweg]

А меня заинтересовала разработка китайских товарищей, про которую вчера писал. Возможно, грядёт смена архитектуры? Конечно, проработки часто не выстреливают, нужно подождать. Однако этот подход действительно привлекателен. Помимо экономии электричества и времени (а также обучающих данных), он ещё и более биологичен, и лучше дружит с нейроморфными чипами. Парадоксально, что трансформеры в своё время увели ИИ-мейнстрим от нейробиологических аналогов, которые просматривались, например, у свёрточных нейросеток (последовательные зоны обработки признаков, как в зрительной коре; «нейроны Дженифер Энистон»). Может быть, настало время вернуться? Посмотрим. Конечно, там есть и оборотная сторона - проблемы с обучением, меньшая глубина контекста. Но было бы интересно.

[skvj]

Olweg, не знаю. Трансформеры вроде увели нас от биологичности, но дали супер глубокий контекст и масштабируемость. Палка о двух концах. Китайцы ещё хвастуны такие. Но всякое может быть, посмотрим.

[Olweg]

Не падает.

https://www.reddit.com/r/singularity/comments/1nidifd/ok_should_we_start_worrying/

[skvj]

Может кому пригодится. Ставите ИИ браузер strawberry.
А там GPT-5.
И фишка в том, что если на chatgpt.com на бесплатном аккаунте вы сделаете любое вложение! - то младшая модель не придёт и вас будут отключать вообще после 10 сообщений по лимиту на 6 часов. Так вот!
В strawberry нет ограничений по количеству сообщений и с вложениями тоже. Правда окна там не очень - пожирают кредиты. Но если вложения не очень большие, вы получите реально беспрерывное общение
И главное! GPT в strawberry видит ваши чаты на chatgpt.com - это буквально вчера заработало. Вау!
Вот этих кредитов хватает на много дней, потом другой аккаунт и можно с вложениями! работать беспрерывно

А!! и я поменял аккаунт! а он помнит чаты с первого  я не знаю что это глюк strawberry или что?
Но реально работает