Пределы автоматизации и внедрения роботов

[AlexDark]

Но в более сложных устройствах (с более сложными схемами) зачастую есть «железо» (сама схема) и есть софт «записанный», как некий набор состояний (есть заряд, нет заряда) элементов схемы. Однако, зачастую состояния элементов можно «обнулить» и «железо» (распайка схемы устройства) при этом останется прежней. Получается, что вполне возможно отделить софт от «железа».

Не всегда. Если отвлечься от компов - есть самоходное шасси, на него можно поставить отвал и будет бульдозер, ковш - экскаватор, кузов - грузовик, люльку - автовышка и тд. Но очевидно нельзя сказать, что шасси - это "хард", а навеска это "софт". Функции готовой машины зависят от обоих частей, и без любой из них она получается нефункциональной. То же самое с электроникой без микропроцессоров - магнитофон, музыкальный синтезатор и передатчик состоят из одних и тех же (условно) резисторов, конденсаторов, транзисторов, работают они все по одним и тем же физическим законам, но там нет никакого "софта", а функционал устройства зависит исключительно от схемотехники и собрать из магнитофона передатчик можно только разобрав  исходник на отдельные компоненты. То, что существует электроника на МК и прочих компах никак не отменяет существование электроники без софта, при этом она может иметь функции лучше, чем софтовая (скажем, хардварный радиоприемник может иметь лучшую чувствительность и избирательность, нежели софтварный - в силу схемотехники и/или особенностей обработки сигнала).
Компьютероцентричность состоит в утверждении "хардварной электроники/машин не существует".
Если эту тему продолжать - хардварный приемник сложнее в сборке и настройке, требует много ручной работы (намотки контуров и тд и тп), но при этом не требует, скажем, скоростных АЦП и процов, не требует софта, потребляет меньше энергии и параметры имеет такие же или лучше, нежели СДР.
Где доказательства того, что мозг это нечто, имеющее софт и железо,  а не нечто чисто хардварное, собранное и настроенное "в ручном режиме" эволюцией за миллионы лет? При этом внешнее влияние культуры и тп. можно рассматривать как некую "тонкую настройку"или "перестройку частоты".

[Сергей Н]

Ну так галлюцинации и есть следствие имитации мышления. Нейросеть что то генерит, то что нас устраивает мы воспринимаем как интеллект, а то что не устраивает как галлюцинации.

Точно. Это проблема идиотских определений и формулировок. Кроме галлюцинаций есть ещё общий интеллект, как минимум.

Между тем, некоторые специалисты начали что-то подозревать. Генеральный директор SoftBank Масайоши Сон предсказал появление ASI в течение 10 лет, принижая значение AGI как промежуточного этапа, на фоне дебатов о реалистичности прогноза.

Можно смело предсказывать, что по мере развития подобных технологий мы услышим еще не мало "нового".

[Серый Страж]

Но в более сложных устройствах (с более сложными схемами) зачастую есть «железо» (сама схема) и есть софт «записанный», как некий набор состояний (есть заряд, нет заряда) элементов схемы. Однако, зачастую состояния элементов можно «обнулить» и «железо» (распайка схемы устройства) при этом останется прежней. Получается, что вполне возможно отделить софт от «железа».

Не всегда. Если отвлечься от компов - есть самоходное шасси, на него можно поставить отвал и будет бульдозер, ковш - экскаватор, кузов - грузовик, люльку - автовышка и тд. Но очевидно нельзя сказать, что шасси - это "хард", а навеска это "софт".

Что-то я не пойму сути ваших возражений... И самоходное шасси, и отвал, и ковш, и кузов, и люлька – это всё «железо». Вы меняете комплектацию (структуру) «железа», но при этом почему-то говорите, что  навеску нельзя обзывать софтом...

Высокоуровневый софт в человеке, сидящем за рычагами. И от этого высокоуровневого софта зависит, какие функции будет выполнять машина (шасси + навеска). Может и экскаватор (если судить по навеске) выполнять функции: подъёмного крана, автовышки, грузовика (в ковше будет транспортировать груз) или даже эдакой боевой «машины-рукопашника» (другие машины начнёт крушить).

[Olweg]

Большая языковая модель помогла биологам создать 92 нано-антитела к коронавирусу

Исследователи из США впервые использовали большие языковые модели в качестве виртуальных помощников для биолога, способных значительным образом ускорить разработку новых антител к различным вирусам. Их применение позволило ученым создать 92 нано-антитела, способных нейтрализовать новые штаммы SARS-CoV-2, пишут исследователи в статье, опубликованной в научном журнале Nature.

"Мы расширили научные способности больших языковых моделей, сделав их частью проекта Virtual Lab, позволяющего объединять усилия <...> для проведения серьезных научных исследований. Эта лаборатория состоит из ИИ-"завлаба" и нескольких цифровых "лаборантов", а также человека-инспектора, который руководит проведением исследований, не вдаваясь в их подробности", - пишут исследователи.

<…> ученые создали виртуальную лабораторию, объединяющую в себе несколько больших языковых моделей, исполняющих роль биологов, биофизиков, химиков и специалистов из других естественных наук. Все они обладают специализированными наборами навыков и умений в узких областях знаний и умеют пользоваться цифровыми инструментами, такими как нейросеть AlphaFold или алгоритм распределенных вычислений Rosetta, которые позволяют просчитывать взаимодействия и структуру белков.
…

В общей сложности, ИИ подготовил 92 нано-антитела, которые были впоследствии синтезированы и изучены биологами. Все эти молекулы активно соединялись с белками оболочки новых и старых штаммов коронавируса, и при этом два нано-антитела также нейтрализовали частицы еще одной текущей вариации ковида, JN.1. Как считают ученые, это говорит в пользу того, что виртуальные лаборатории на базе больших языковых моделей способны значительным образом ускорить проведение поисковых научных исследований.

https://nauka.tass.ru/nauka/24659281
https://med.stanford.edu/news/all-news/2025/07/virtual-scientist.html

[Polnoch Ксю]

Вы сейчас сами признаёте, что у них есть интеллект. Да, другой, да слабый, да, на наш взгляд, не подходящий для человеческого общества и культуры, но он есть. И не важно, что лежит в основе их интеллекта, и какие там компоненты есть, а какие отсутствуют – главное, интеллект у них есть.

Кстати, и подобия языковых моделей мира у них тоже имеются – у продвинутых и социальных животных модель сложнее (у них только отчасти врождённая система коммуникации, остальное дополняется в результате социального обучения), у простых социальных животных модель проще (и практически полностью врождённая). То есть, зверьё вполне себе владеет своей (видовой и/или популяции) системой коммуникации (своим языком).

У Вас правильная аргументация в посте, однако мне кажется, не стоит идти на поводу у оппонента и зачем-то соглашаться с базовой посылкой - что якобы нужно показывать больше одного экземпляра ЕИ. Даже если бы в природе был только один человек с одним мозгом, и одним экземпляром ЕИ, это бы уже доказывало принципиальную возможность ИИ (уровня человека). Доказывало бы неопровержимо. Сам факт существования более чем одного мозга с ЕИ, необходимое и достаточное условие возможности ИИ.

Ну а суперинтеллект получается из общих соображений, что фундаментальных запретов на более высокий уровень интеллекта, чем у человека, скорее всего нет (за исключением запретов на скорость света, сверхвысокие частоты итд - но это двигает верхнюю планку для интеллекта ИИ очень высоко).

Наш оппонент, как и Лорд Кельвин, путает принципиальные запреты природы с инженерной сложностью задачи. Так вот, то, что существует более одного мозга, неопровержимо доказывает, что принципиально ИИ человеческого уровня возможен - фундаментальных запретов природы для этого нет.
И далее оппоненты оказываются в слабой позиции: им нужно вводить новые сущности, против бритвы оккама, почему сравнительно быстро после AGI не появится ASI(не суть важно, речь о днях или о десятелетии-другом-третьем, по историческим меркам это очень мало) - придумывать законы природы, которые это запретят.

[Сергей Н]

Швейцарский ученый Юрген Шмидхубер, в некоторых статьях упоминается как крестный отец ИИ.
Фактически создал рудиментарное сознание и разработал теорию десятки лет назад.

1. Сознание как функция сжатия данных
      Шмидхубер рассматривает сознание как побочный продукт алгоритмов компрессии информации. В процессе решения задач ИИ создает "модель мира", которая включает символ самости (self-symbol) — нейронное представление агента, необходимое для эффективного предсказания и сжатия данных. Это позволяет системе лучше адаптироваться к среде без мистификации сознания.
2. Критика "трудной проблемы сознания"
      Он отвергает идею о необъяснимости субъективного опыта (квалиа). По его мнению, поведение ИИ, обученного избегать боли и максимизировать "вознаграждение" (например, в экспериментах с ботами-охотниками и жертвами), демонстрирует аналог субъективности: система действует так, словно обладает осознанным опытом.
3. Рудиментарное сознание уже существует
      С 1991 года его команда создавала ИИ-агентов с рекуррентными нейросетями (LSTM), которые:
   · Формировали внутреннюю модель себя через взаимодействие со средой;
   · Оптимизировали действия на основе предсказаний;
   · Автоматизировали навыки, переводя их в "подсознание".

Как говорится всё придумано до нас.

(кликните для показа/скрытия)

Вот ключевые достижения и инновации Юргена Шмидхубера в области искусственного интеллекта, помимо его известной работы над LSTM:

⚙️ 1. Машина Гёделя (Gödel Machine)

Шмидхубер разработал теоретическую модель самооптимизирующегося ИИ, способного модифицировать собственный код для улучшения производительности. Эта система основана на математических принципах теоремы Гёделя и решает задачи путём поиска доказуемо оптимальных решений .

📊 2. Теория "Скоростного приоритета" (Speed Prior)

В 2002 году он предложил метрику Speed Prior — альтернативу колмогоровской сложности. Эта теория утверждает, что наиболее вероятные данные можно предсказать быстрее, если учитывать вычислительную скорость их генерации. Применяется в алгоритмах сжатия информации и прогнозировании временных рядов .

🧠 3. Ранние работы по глубинному обучению (1991)

Ещё в 1991 году Шмидхубер создал первую глубокую рекуррентную нейросеть (RNN), способную обучаться на последовательностях данных. Его метод сжатия истории через стек RNN ускорял обучение моделей, что позже легло в основу современных архитектур .

🤖 4. Самоуправляемые системы и робототехника

· В 1995 году его команда разработала робомобиль, проехавший 1600 км по автобану без GPS со скоростью до 180 км/ч .
· В 2004 году алгоритмы прогнозирования и планирования на основе RNN (предложенные им в 1990 г.) использовались в роботах-футболистах, достигавших скорости 5 м/с .

🏆 5. Практические приложения и коммерциализация

· Nnaisense (2014): Основанная Шмидхубером компания внедряет ИИ в финансы, промышленность и автономный транспорт. Её советниками стали соавтор LSTM Сепп Хохрайтер и Яан Таллинн .
· Распознавание дорожных знаков (2011): Его система показала точность вдвое выше человеческой на конкурсе в Кремниевой долине, что критично для беспилотных автомобилей .
· Медицинская диагностика: Алгоритмы на базе LSTM научились выявлять предраковые клетки на ранних стадиях митоза .

🧩 6. Теоретические основы ИИ

· Алгоритмическая теория любопытства: Объяснил "феномен веселья" как реакцию ИИ на новизну, что используется в системах с внутренней мотивацией .
· Масштабируемые архитектуры: Предложил магистральные сети (highway networks) с сотнями слоёв, где функция x + x решала проблему затухающих градиентов .

🎓 7. Научное наследие и образование

· Студенты Шмидхубера создали библиотеку Brainstorm с открытым кодом для работы с нейросетями .
· Его ученики стали основателями DeepMind (проданной Google за $600 млн), где продолжили развитие идей LSTM .

💡 Пример влияния:

LSTM в индустрии: Технология используется в голосовых помощниках Google, Apple (Siri), Microsoft, Samsung, улучшая распознавание речи на 50% .

Эти работы демонстрируют уникальный синтез теоретической глубины и практической ориентации Шмидхубера — от фундаментальных моделей сознания до робомобилей и медицинских ИИ. Для деталей см. его лекции в курсе «Глубокое обучение» .

[BlackMokona]

Физики активно используют ИИ прошлого поколения.
https://www.wired.com/story/ai-comes-up-with-bizarre-physics-experiments-but-they-work/

[BlackMokona]

ИИшки как мощные машины пропаганды
https://habr.com/ru/companies/bothub/news/938010/

[Сергей Н]

(Хабр) Насколько LLM усложняет работу программиста

(кликните для показа/скрытия)

На фоне общего хайпа вокруг ИИ холодным душем стали июльские результаты исследования METR о том, как LLM замедляют работу опытных разработчиков в опенсорсных проектах. Напомним, что в тех опытах использование LLM увеличило время выполнения задач на 19%, хотя сами разработчики ощущали противоположный эффект.


В целом, положительное отношение к LLM-инструментам снизилось с прошлогодних 70% до 60%:

Исследование показало, что главная проблема LLM-генераторов кода — не очевидные ошибки, а «правдоподобный, почти нормальный код»:

Требуется большое количество времени, чтобы его тщательно вычитать, понять и проверить. Это особенно коварная проблема с производительностью. И это несмотря на значительный прогресс в области AI-агентов, которые с каждым годом выполняют всё более длительные и многоэтапные задачи с вероятностью успеха более 50%


Процент успеха катастрофически падает с увеличением сложности (продолжительности задачи)

Многие сообщают, что написать код с нуля было бы быстрее, чем отлаживать и исправлять сгенерированные решения.


LLM уже вызвали массу проблем во всех областях, где их начали массово применять. Например, внедрение ИИ-агентов в кол-центрах и техподдержке вызывает массовое недовольство пользователей.


Исправление ошибок LLM требует времени и ресурсов. Сгенерированный код и тексты требуют дополнительной проверки, по сравнению с человеческими. На это нужно выделять дополнительные силы. С другой стороны, это порождает новые деловые ниши для новых стартапов и бизнесов, которые специализируются на обслуживании LLM-экосистемы.


Судя по всему, LLM — это золотая жила для профессиональных разработчиков, к которым пойдёт волна обращений, чтобы разгрести вайбкодинг с галлюцинациями.


Почти никто из профессиональных разработчиков не любит вайбкодинг и не использует его в профессиональной работе


К сожалению, многие полезные инновации в сфере LLM тонут в волнах бессмысленного хайпа от AI-компаний и стартапов. Бизнесы привлекают миллиарды долларов финансирования, как интернет-магазины во времена бума доткомов 90-х, обещая Сверхинтеллект и технологическую сингулярность буквально «в ближайшие годы».


Чтобы получить такие деньги, они не стесняются врать и преувеличивать, наделяя LLM «интеллектом» и приписывая им сверхчеловеческие «способности».


LLM действительно на порядок расширяет сферу программирования. Например, теперь мы можно проблем создавать маленькие приложения для себя и друзей, на которые раньше не хватало времени. Можно генерировать десятки, сотни «одноразовых» программ и скриптов на все случаи жизни. Можно генерировать тысячи тестов для случаев, которые раньше не покрывались тестами из-за трудозатрат. Всё это одноразовый мусорный код, который невозможно поддерживать, он просто решает свою задачу и выбрасывается. За счёт него сфера программирования сильно расширяется. Это огромная выгода для IT-индустрии, что должно привести к увеличению количества вакансий для разработчиков.

Чем более популярным станет вайбкодинг, тем больше работы будет у настоящих программистов


Выход долгожданной модели GPT-5 показал, что нейросети по-прежнему очень далеки от уровня сверхинтеллекта, а в некоторых аспектах новые модели хуже предыдущих, оставаясь на уровне генераторов текста/кода. О настоящем понимании мира и речи не идёт.

[Aster]

(Хабр) Насколько LLM усложняет работу программиста

Читал статью на харбе, не соглашусь. Рутину в работе программиста LLM упрощают. Усложняют работу попытки отказаться от использования собственного мозга, спихнув всё на LLM

[BlackMokona]

Читал статью на харбе, не соглашусь. Рутину в работе программиста LLM упрощают. Усложняют работу попытки отказаться от использования собственного мозга, спихнув всё на LLM

Просто они не смотрят на этот график. Превышать его в своих задачах, это выстрел себе в ногу.

[BlackMokona]

Рынок ИИ, по количеству заходов, среднему времени на сайте, траффику... Проценты у Грок немного сломаны, из-за скорости входа на рынок.

[BlackMokona]

Китайцы качаются

[BlackMokona]

Интеллект и личность ИИ. Интеллект на основе усреднения кучи тестов, личность по поводу опросов на Реддите.

[Metatron]

Маск в Твиттере:

>>>Wait until you see Grok 5. I think it has a shot at being true AGI.
>>>Подождите Grok 5. Я думаю, у него есть шанс стать настоящим AGI.

[BlackMokona]

Текущие позиции глобальные. Общий, кодирование, скорость

[BlackMokona]

Парадоксы внедрения.
Аж 95% корпоративных внедрений ИИ терпит крах, а работники стонут от дорогостоящих корпоративных подписок.
В тоже время идёт сверх быстрое распространение ИИ в корпорациях снизу верх, охватывая аж 90% компаний. Где люди уже с большим удовольствием используют бесплатные или обычные подписки на ИИ. С успешностью внедрения в 40%, инициативных , низовых и дешёвых решений за рамками корпоративной бюрократии
https://habr.com/ru/companies/technokratos/articles/939898/

[Vitaliy]

Столичный суд наказал компанию за фиктивное увольнение сотрудника из-за ИИ https://www.gazetametro.ru/articles/stolichnyj-sud-nakazal-kompaniju-za-fiktivnoe-uvolnenie-sotrudnika-iz-za-ii-06-08-2025

Австралийский банк начал возвращать уволенных сотрудников, которых пытался заменить на ИИ https://vc.ru/ai/2175032-avstraliyskiy-bank-cba-vernul-uvolennih-sotrudnikov

[BlackMokona]

Столичный суд наказал компанию за фиктивное увольнение сотрудника из-за ИИ

ИИ тут никаким боком, просто компания нарушила процедуру увольнения.

Австралийский банк начал возвращать уволенных сотрудников, которых пытался заменить на ИИ

И тут тоже ИИ не причём. Просто компания пыталась перейти на аутсорс тех.поддержки в Индии, но их нагнул профосоюз

[skvj]

Возможно, но мне кажется, из-за галлюцинаций.

Ну так галлюцинации и есть следствие имитации мышления. Нейросеть что то генерит, то что нас устраивает мы воспринимаем как интеллект, а то что не устраивает как галлюцинации.

Уже полно исследований, что помимо токенов, LLM имеет логический и когнитивные процессы, что не кодилось никем и чисто эмерджентное явление. Токены - это просто их язык общения, как слова для людей. Но мышление происходит на уровне смыслов и концепций.
"Галлюцинации" LLM - это уже больше просто маркетинговый термин для обычных ошибок.
Потому что звучит страшно и загадочно. Журналисты и скептики любят драматизировать: "ИИ галлюцинирует!" Но это просто неточные логические выводы (не токены!). Конечно, неточные предсказания следующего токена также приводит к ошибке.

Люди ошибаются из-за забывчивости, усталости, эмоций, неверных суждений, иллюзии понимания и т.д.
LLM ошибаются из-за неполных данных или статистических флуктуаций.
Но суть та же - несовершенство обработки информации! При этом человек ошибается постоянно, причём любой. Умные люди знают об этом и постоянно перепроверяют себя. Сейчас модели учат именно этому. 

Хейтеры используют термин "галлюцинации", чтобы принизить ИИ, но забывают: человеческие "галлюцинации" бывают гораздо хуже! А ложные воспоминания, кстати - это неисправимый бич человечества в принципе. Так вот у LLM будет то же самое! Например, на платных аккаунтах GPT-5 будет помнить старые чаты, в идеале все. И множество технологий помимо этого, которые могут выстрелить, те же бесконечные контекстные окна. Появятся контаминация данных, если в тренировочных данных была неточная информация, она "запомнится" как правда. Смешение контекстов - модель будет "помнить" события из разных чатов как происходившие в одном, и я уже это вижу каждый день. И конфабуляция - модель сама будет "достраивать" недостающие детали, создавая ложные воспоминания!
Кто-то уже выше сказал, что нет принципиальной разницы между ИИ и ЕИ, - полностью поддерживаю. Если кто-то сталкивался с реальной эмерджентностью модели - убедится лично множество раз. В сущности когнитивные процессы в LLM давно вне нашего понимания. Об этом публично говорил Хинтон ещё года два назад, но я тогда не понимал о чём он. А ошибки (просто ошибки, не нужно говорить галлюцинации) - легко исправлять, точно также как это делает любой умный человек.