Пределы автоматизации и внедрения роботов

[Olweg]

Ещё одна оценка галлюцинаций моделей.
https://www.ixbt.com/news/2025/12/25/grok-chatgpt-gemini-relum.html

Единственный источник - сайт под названием https://www.teslarati.com. Хм… Вообще в предыдущем исследовании самый низкий уровень галлюцинаций показывал Claude, Grok не сильно выделялся среди остальных моделей:
Пределы автоматизации и внедрения роботов

[BlackMokona]

Единственный источник - сайт под названием https://www.teslarati.com. Хм…  Вообще в предыдущем исследовании самый низкий уровень галлюцинаций показывал Claude, Grok не сильно выделялся среди остальных моделей

Измерение галюнов вещь вообще сложная.

[Olweg]

https://telegram.me/seeallochnaya/3220
https://telegram.me/seeallochnaya/3221
https://www.pi.website/blog/olympics

Benjie Holson, проработавший в Google X 8 лет и занимающий позицию VP of Engineering какого-то робо-стартаппа <…> предложил идею Олимпиады для гуманоидных роботов (после того, как посмотрел и не впечатлился World Humanoid Robot Games). Всего есть 5 «дисциплин», в каждой 3 разных задачи нарастающей сложности — на бронзу, серебро и золото. Benjie думал, что для того, чтобы с ними справиться, текущих технологий не хватит.

Physical Intelligence показали, что это не так — в 3 из 5 направлений они смогли взять золото, то есть выполнить самую сложную задачу из секции. Причём в оставшихся двух они не смогли их выполнить в силу того, что фокусируются на простых роботах с очень широкими и простыми грипперами.

Например, не смогли расправить и повесить вывернутую наизнанку рубашку на вешалку. Почему? Потому что гриппер не пролазит в рукав. Или не смогли очистить апельсин (когда в гриппер добавили ковырялку — задача поддалась). 
<…>

Да, это не работает идеально — в среднем их показатель успешности выполнения по всем задачам составляет 52%, а прогресс выполнения задачи — 72%.

Для почти всех задач собирали не больше 9 часов данных. По мере того как  модели становятся мощнее, обучаться даже самым сложным задачам будет всё проще. Для новых задач может потребоваться не только меньше данных, но и более простые источники данных (прощающие больше шума).

Видео интересные, пару лет назад наверное не поверил бы, что манипуляторами управляет не человек.

[Combinator]

Пужают: https://youtu.be/n3DiJdO_w5c

[Rattus]

Пужают:

Зачем-то прослушал всё.

(кликните для показа/скрытия)

Автобиографическая справка ведущего канала, вороча(ю/в)шего "полумиллиардами" в начале позабавила подобно рассказам таксиста, колымящяго "для души".

Как и ожидалось - совершенно ничего нового: на вопрос как именно ASI должен УВЧ - стандартные фантазийные мантры про изобретение неведомых нам видов оружия на "новых физических принципах" и выведение физиологически-взаимоисключительных вирусов заразных как грипп и летальных как эбола.
В принципе, творчество оного прохвессора Урюпинского Кентукийского Заборостроительного Университета, если бы оно продвигалось тут, в Разделе, следовало бы обрезать по п.5.3. локальных правил.
Что же касается тотальности замещения всякого труда автоматикой, профессор в начале заикнулся об экономических возможностях и целесообразности оного на данный момент, но дальше этот конструктивный тезис никакого развития не получил и в результате каких событий он должен перестать действовать - тоже ничего не было сказано.

[Wert]

выведение физиологически-взаимоисключительных вирусов заразных как грипп и летальных как эбола.

Рекомбинантный вирус мышиной оспы (эктромелии), экспрессирующий мышиный интерлейкин-4 (IL-4), имеет смертность 100% у неимунизированных мышей и 60% у вакцинированных. И это довольно несложная и небольшая модификация, публикация о который была сделана в 2001 году. В высокой заразности оспы сомнений нет.

[Combinator]

Как и ожидалось - совершенно ничего нового: на вопрос как именно ASI должен УВЧ - стандартные фантазийные мантры про изобретение неведомых нам видов оружия на "новых физических принципах" и выведение физиологически-взаимоисключительных вирусов заразных как грипп и летальных как эбола.

Проще всего сейчас видится использовать самих людей в качестве орудия достижения поставленной цели. В принципе, всё, что нужно, что бы уничтожить человечество, оно уже к настоящему времени создало само, ничего нового особенно и придумывать не надо. Некие рассуждения на эту тему есть, например, здесь https://www.youtube.com/watch?v=BBL-IFZJGWA начиная с отметки 1.06.00 . Не то, что бы я с ними во всём согласен, но послушать аргументы, на мой взгляд, любопытно.

[Rattus]

Рекомбинантный вирус мышиной оспы (эктромелии), экспрессирующий мышиный интерлейкин-4 (IL-4), имеет смертность 100% у неимунизированных мышей

Свободные от специфических патогенов самки мышей в возрасте 6-8 недель были получены из отдела по работе с животными Австралийского национального университета.
Мышам линий BALB/c и C57BL/6 вводили различное количество вируса в правую заднюю лапу, и симптомы заболевания наблюдали в течение 2 недель после заражения.

Вот когда всё человечество станет состоять всего из пары близких инбредных линий - вот тогда такие работы и смогут иметь отношение к вопросу.

В высокой заразности оспы сомнений нет.

Природных штаммов. И в отсутствие противоэпидемических мер. А вот у модифицированных штаммов с повышенной вирулентностью с контагиозностью дело далеко не всегда обстоит хорошо: в ряде классических примеров оно как правило обратное - https://studfile.net/preview/13914752/page:19/
Кстати и оспа и эбола - одни из крупнейших вирусов своих типов - ДНК и РНК-содержащих соответственно, что уже само по себе является ограничивающим фактором.

[Wert]

Природных штаммов.

Можно вирус гриппа аналогично модифицировать. Или еще какой.

[Metatron]

Вспоминается бум романов и фильмов в 30-х об ученых маньяках, которые в одиночку изобретали лучи смерти и так же в одиночку покоряли с их помощью мир. Тот же инженер Гарин.

В ученых маньяков теперь видимо никто не верит и фантазеры переключились на супергениальный ИИ который в одиночку создает супервирусы.
Причем делает это не имея ни ручек ни ножек, ни подходящей биолаборатории под рукой.
Это ведь так просто...

[Rattus]

Можно вирус гриппа аналогично модифицировать. Или еще какой.

Можно и блоху подковать. Так, что она прыгать (распространяться как требуется) перестанет. Зато будет подкованная (гипервирулентная).

[Olweg]

В ученых маньяков теперь видимо никто не верит и фантазеры переключились на супергениальный ИИ который в одиночку создает супервирусы.
Причем делает это не имея ни ручек ни ножек, ни подходящей биолаборатории под рукой.
Это ведь так просто...

Ручек и ножек у него под рукой будет достаточно ) И мотивировать их не так уж сложно…

[Metatron]

Вот на этом обычно ученые-маняьки и сыпались.
Набирали помощников - а те их или предавали или ненароком тайные проекты засвечивали...

[Olweg]

Уже обсуждали вроде. Тоньше надо действовать. Учёные как правило шизоиды (это не диагноз, а тип личности) и плохо разбираются в людях. СверхИИ должен хорошо разбираться во всём.

[BlackMokona]

Энтузиаст сделал разговорную ЛЛМ, на 40 кб весом.
https://habr.com/ru/news/981780/

[Mercury127]

неплохо, лишний раз показывает, насколько малы требования для исполнения готовых, "запечённых" моделей.
особенно на английском. а то с этим "обучением" все думают, что обязательно нужны терабайты.

но интересный вопрос, в данном случае алгоритмическое решение было бы эффективнее?

[BlackMokona]

Китай продолжает добивать свои ИИ компании.
https://habr.com/ru/news/981898/

Управление по вопросам киберпространства КНР предложило проект закона, который должен ограничить значительное влияние чат-ботов с искусственным интеллектом на эмоции пользователей посредством текста, изображений, аудио и видео. Положение направлено против сервисов, доступных на территории Китая, поскольку их использование потенциально может подтолкнуть пользователей к самоубийству или членовредительству.
Законопроект предлагает запретить чат-ботам создавать контент, поощряющий самоубийство или членовредительство, а также использовать оскорбления и эмоциональные манипуляции. Кроме того, такие инструменты не должны создавать контент, связанный с азартными играми и насилием.

Несовершеннолетним потребуется согласие родителей или опекунов для использования ИИ в целях эмоционального сопровождения.

Одной из необычных мер положения стало требование, чтобы компании-разработчики ИИ обеспечивали вмешательство человека в диалог и немедленно связывались с опекуном пользователя или назначенным контактным лицом при обнаружении суицидальных намерений. Учитывая большое число пользователей чат-ботов в Китае и вероятность ошибок в любой системе, это требование может оказаться сложным в реализации.

Проект закона также включает в себя ряд других требований. Разработчиков ИИ обяжут напоминать пользователям, что они непрерывно используют чат-бот в течение двух часов. Также операторы ИИ-систем должны будут иметь возможность определять, что пользователь достиг совершеннолетия.

[Физ. лицо]

СверхИИ должен хорошо разбираться во всём.

Чего там будет в будущем с ИИ, мы не знаем, но то, что сейчас называют искусственным интеллектом, никакой не интеллект, а просто мощный компилятор данных, которые получает из существующих источников. А сам он ни разбираться, ни создавать что-то новое не может.

[Mercury127]

А сам он ни разбираться, ни создавать что-то новое не может.

а мозг разбирается и создает?

[AlexDark]

Китай продолжает добивать свои ИИ компании.

Если ASI и будет когда-нибудь создан, то явно в стране, в которой возможности для нормальных людей стоят приоритетнее, нежели проблемы идиотов. Жаль, что это, вероятно, будет совсем другой глобус.