Пределы автоматизации и внедрения роботов

[mo]

мне кажется, пока ещё нет, пока ещё слишком много галлюцинаций

Какие модели и когда проверяли?
Я только что закончил практическое тестирование Grok-3. По результатам которого за час у меня появился рабочий проект с исследованием, кодом, описанием, тестированием, отладкой. В итоге дообученной быстро созданным датасетом нейронкой распознавания образов в видео потоке из файла или камеры. Попутно Grok создал и доработал мне сценарий youtube шорта и набросал десяток вариантов названий.

Галюцинаций не обнаружил. Контекста для решения задачи хватило. GPT снабдил ответы ссылками на внешние веб ресы, где он черпал информацию. И всё это без режима размышления, в реалтайме. С размышлением потребляется больше ресов, необходимо включать этот режим для сложных задач. Моя не являлась такой.

Повторю, всё это с моим ручным участием, заняло час. Раньше на этот цикл поиска, исследования, написания и отладки я бы потратил несколько дней.

[Polnoch Ксю]

Я только что закончил практическое тестирование Grok-3.

Только что делала практический тест grok3, а именно попросила его поискать старые гравюры с мракобесием с помощью своего аналога OpenAI'го дип ресёча. К сожалению, много ссылок битые.
Для кодинга, для работы grok3 пока не пробовала, но попробую на днях. Не то, чтобы OpenAI в этом вопросе был лучше... Но у меня плюс подписка, а не про - я не тестила ещё дип ресёч от OpenAI

Я не вижу пока никакого AGI прямо сейчас. И практически не верю, что он будет в GPT 4.5, что обещают на следующей неделе или в GPT-5, что вроде выйдет через пару месяцев.

Появится ли AGI в 2025? Не знаю. Знаю, что прогресс ускоряется, и что рассказы про AI-зиму, видимо, оказались сильным преувеличением. Кажется, пока работает даже простое добавление массива данных, не говоря о chain-of-thoughts.

Да, агентность и автономность нужны для AGI. Но мне кажется, куда важнее всё же придумать решение для галлюцинаций. У людей они тоже есть, но у нас фильтр немного лучше.

[Olweg]

Появится ли AGI в 2025? Не знаю. Знаю, что прогресс ускоряется, и что рассказы про AI-зиму, видимо, оказались сильным преувеличением. Кажется, пока работает даже простое добавление массива данных, не говоря о chain-of-thoughts.

Да, агентность и автономность нужны для AGI. Но мне кажется, куда важнее всё же придумать решение для галлюцинаций. У людей они тоже есть, но у нас фильтр немного лучше.

А чего не хватает до AGI, по вашему мнению? Помимо агентности, автономности и отсутствия галлюцинаций?

[Mercury127]

пока ещё слишком много галлюцинаций

будто у людей их нет?

[BlackMokona]

будто у людей их нет?

Причём у некоторых их просто безумное количество.

А чего не хватает до AGI, по вашему мнению? Помимо агентности, автономности и отсутствия галлюцинаций?

Ну подавляющая часть людей, тоже автономностью не обладают. А агентность уже есть, пусть и не слишком эффективная

[Rattus]

Интеллегенция начинает испытывать скетпсис, в силу когнитивного искажения, о перспективах прогресса.

Так появились технооптимисты-трансхуманисты, недоучившие в школе химию.

Доклад Римского Клуба о пределах роста. Начало волны неомальтузианства в ВЖР.

Как отражение первых реально проявляющихся пределов для цивилизации.

Интеллегенция и обыватели массово потеряли веру в прогресс.

И поэтому толпами ездят и следят в соцсетях за запусками очередных ракетных леталок, продолжают донатить миллионы вчнозелёных создателям космоаркад и т.п. Именно от потери веры в Прогресс, безусловно. Очень "убедительно".

[Polnoch Ксю]

Помимо агентности, автономности и отсутствия галлюцинаций?

Только галлюцинаций, имхо, и не хватает. Я думаю, агентность и автономность не слишком сложная задача. Агенты делают уже давно, на гитхабе есть много проектов с агентами. Самый старый, например, AutoGPT: https://github.com/Significant-Gravitas/AutoGPT - ещё несколько лет назад появился.
Они используют либо API (OpenAI и других провайдеров), либо локальную модель через ту же Ollama.

В какой-то степени шагом к агентам является и дип ресёч OpenAI/грока, но таким, специализированным. Есть разработка тулкита для управления десктопом и у Антропика.

На самом деле, такой AGI не будет, имхо, настолько полезным, как мы думаем, потому, что будет страдать от детских болезней: слишком много знает, ну и в общем одни задачи решает потрясающе легко, но на других сильно тупит. Возможно, ещё будет страдать от шаблонности мышления и с трудом придумывать что-то новое. Но это не важно, всё же AGI. Следующие будут лучше.

А вот с галлюцинациями, имхо, пока ещё беда.

будто у людей их нет?

Тоже всегда использую этот аргумент, когда говорю с AI скептиками. Но всё же мне кажется, у образованного мясного мешка их пока ещё существенно меньше. Я не знаю, получится ли их количество резко снизить в ближайшем будущем. Я практически уверена, что рано или поздно эту проблему решат, и это будет до 2030го. Будет ли в этом году - не знаю. Очень сомневаюсь, что если и будет, то в первой половине. Но может я окажусь технопессимисткой хотя бы раз в ВЖР, лол.

[Combinator]

Появится ли AGI в 2025? Не знаю. Знаю, что прогресс ускоряется, и что рассказы про AI-зиму, видимо, оказались сильным преувеличением. Кажется, пока работает даже простое добавление массива данных, не говоря о chain-of-thoughts.

Мне кажется, пока не появится более-менее общепринятый набор критических тестов, обсуждать, когда появится AGI бесполезно. Долгое время в качестве такового рассматривался тест Тьюринга, но как только программы стали его проходить, то об этом как-то резко замолчали. Примерно та же ситуация с тестами на IQ. В конце-концов, вопрос же не в формальном достижении некого рубежа, а в том, как это повлияет на нашу повседневную жизнь.

[Mercury127]

Но всё же мне кажется, у образованного мясного мешка их пока ещё существенно меньше.

я тоже так думаю (погладил себя, любимого ). но есть нюанс...

почему их меньше? это врождённое? дар богов?
или всё-таки — накопленный за годы жизни (обучения) багаж знаний, зачастую даже не осознаваемых?

[Polnoch Ксю]

Мне кажется, пока не появится более-менее общепринятый набор критических тестов, обсуждать, когда появится AGI бесполезно. Долгое время в качестве такового рассматривался тест Тьюринга, но как только программы стали его проходить, то об этом как-то резко замолчали. Примерно та же ситуация с тестами на IQ. В конце-концов, вопрос же не в формальном достижении некого рубежа, а в том, как это повлияет на нашу повседневную жизнь.

Да, это интересный аргумент, и я согласна с ним. Рано или поздно настанет момент, когда эксперты разделятся - AGI это или нет, и будут яростно спорить. Но в какой-то момент по мере прогресса, всем станет ясно, что вот теперь - точно AGI

или всё-таки — накопленный за годы жизни (обучения) багаж знаний, зачастую даже не осознаваемых?

понятия не имею. Может опыт, может хардварные (биологические) эволюционные оптимизации...

[BlackMokona]

Но всё же мне кажется, у образованного мясного мешка их пока ещё существенно меньше.

Думаю нужны объективные тесты сравнения. А то может выяснится что ситуация сильно не в пользу людей, как в случае с автопилотами. Где на каждую аварию огромного шума налетает, хоть число аварий на миллион миль намного меньше чем у людей

[BlackMokona]

Но в какой-то момент по мере прогресса, всем станет ясно, что вот теперь - точно AGI

Люди даже не могут определить нормально наличие разума у других людей. Досих пор много людей которые считают, что у людей не с тем цветом кожи, разрезом глаз или ещё какой тонкостью, никакого разума нету.

[Polnoch Ксю]

Думаю нужны объективные тесты сравнения. А то может выяснится что ситуация сильно не в пользу людей, как в случае с автопилотами. Где на каждую аварию огромного шума налетает, хоть число аварий на миллион миль намного меньше чем у людей

может быть. Может, мне кажется. Но вообще так много битых ссылок я не вставляю, когда что-то пишу.  Ещё заметила, просто пример лишь одной из проблем, что даже у o3-mini-high (grok3 ещё не проверяла, но я не оптимистка, учитывая как он косячит при формировании табличек при дип ресёчах)возникает проблема, когда пишешь с ним программу, если ему скормить другую как пример реализации чего-либо, то всё, он абсолютно всё перепутает между ними. Человек так никогда не сделает. Он понимает что такое аналогия, а тут сразу галлюцинации на тему другого приложения, использованного как пример.

[Rattus]

хоть число аварий на миллион миль намного меньше чем у людей.

Миль? Интересный критерий - один разбился два раза (при взлёте и посадке) на тысячу миль, а второй один раз на сто (при посадке) - значит первый безопаснее что ли?
Чуть менее чем все лётные происшествия происходят на взлёте или посадке и это в любом случае более сложные операции чем по сути тупой круиз-контроль в полёте на эшелоне. Может быть именно их число брать за критерий?

[BlackMokona]

Но вообще так много битых ссылок я не вставляю, когда что-то пишу.

Человек так никогда не сделает.

Вы тут допускаете туже ошибку, которую допускают при оценке автопилотов. Вы берёте не среднего человека. Берут образцового водителя, который всегда на чеку, правила не нарушает, и тд. Однако если взглянуть на дорогу.. То поискать таких водителей нужно будет днём с огнём. 

[BlackMokona]

Миль? Интересный критерий - один разбился два раза (при взлёте и посадке) на тысячу миль, а второй один раз на сто (при посадке) - значит первый безопаснее что ли?

Мы тут про автопилоты автомобилей. У них тут нету посадок и взлётов.

[Mercury127]

Человек так никогда не сделает.

начиная с какого возраста и скольких лет учёбы?

меня смешат предъявляемые вами требования к пока ещё по сути ребёнку...

ну напичкали ребёнка всем интернетом сразу... ну да, он теперь начитанный больше любого из нас. но это всё равно пока ещё ребёнок.

[Rattus]

Мы тут про автопилоты автомобилей.

Просто -пилот обычно про авиацию или спорт применялось. Так что уточняйте в след. раз.

[BlackMokona]

Просто -пилот обычно про авиацию или спорт применялось. Так что уточняйте в след. раз.

Ок. Но просто автопилот для автомобилей прижилось уже крепко, хоть и создаёт путаницу.

[Olweg]

На самом деле, такой AGI не будет, имхо, настолько полезным, как мы думаем, потому, что будет страдать от детских болезней: слишком много знает, ну и в общем одни задачи решает потрясающе легко, но на других сильно тупит.

Мне вообще всё чаще кажется, что никакого момента "явления AGI" не будет. Потому что то, о чём вы пишите, вполне применимо и к современным моделям. Они могут уже выполнять (пока ещё под надзором) вполне полезную интеллектуальную работу, но при этом могут неправильно посчитать число букв "r" в слове "strawberry".

Одно время (да и сейчас ещё иногда) были популярны такие мемы:

И ещё с проносящимся поездом AGI, не  могу сейчас найти. Если не ошибаюсь, Юдковски писал о том, что между интеллектом деревенского дурачка и Эйнштейна разница мизерна в масштабе общей шкалы интеллекта (ну, на картинке это так и показано). Но похоже, это не так. Преодоление рубежей человеческих возможностей идёт всё-таки постепенно. Есть такая очень удачная аналогия - ландшафт Моравека (того самого, в честь которого назван парадокс):

Поднимающийся уровень ИИ постепенно подтапливает человеческие компетенции. А они, как и в случае с парадоксом, очень разные в разных областях. Так что, может быть, в ретроспективе какие-нибудь из современных моделей сочтут уже прото-AGI.