Пределы автоматизации и внедрения роботов

[BlackMokona]

Вопрос инженерам - GPT-5 получше стал? по моим ощущениям да.

По всем бечмаркам и отзывам да. Проблема была исключительно с гигахайпом, который развязали ОпенАи и который не оправдался.

[skvj]

Вопрос инженерам - GPT-5 получше стал? по моим ощущениям да.

По всем бечмаркам и отзывам да. Проблема была исключительно с гигахайпом, который развязали ОпенАи и который не оправдался.

Спасибо. А можете ваше мнение сказать? Я не пойму одного - хайп? да ради бога, даже нет вопросов. Но Альтман заявлял об AGI в этом году. А это уже не хайп. Поясню - зачем лидеру рынка делать заведомо ложные утверждения, ведь если AGI не будет, его по любому поднимут на смех? Это не хайп, а глупость. Такими байками может заниматься тот, ну кому терять нечего. Компания, которую никто не знает. Ну, чтобы хоть как-то привлечь внимание, говоря глупости. А зачем лидеру рынка делать из себя болтуна? ведь ну хайпуй себе на здоровье - обещай бенчмарки на порядок выше. Или обещай AGI к 2030. Это хайп. Но зачем в этом году? Это как сказать, что я приду на вечеринку сегодня с Иисусом Христом))) Может у него правда есть AGI? Потому что иначе я не понимаю зачем это делать

[Olweg]

Вроде бы он всё-таки такого в явном виде не говорил. Он написал в начале года, что «мы теперь знаем, как достичь AGI», но без конкретных сроков.

Вот эта фраза:

We are now confident we know how to build AGI as we have traditionally understood it. We believe that, in 2025, we may see the first AI agents “join the workforce” and materially change the output of companies.

Теперь мы уверены, что знаем, как создать AGI в традиционном понимании. Мы считаем, что в 2025 году мы можем увидеть, как первые агенты искусственного интеллекта “вольются в ряды рабочей силы” и существенно изменят результаты деятельности компаний.

https://blog.samaltman.com/reflections

[skvj]

Вроде бы он всё-таки такого в явном виде не говорил. Он написал в начале года, что «мы теперь знаем, как достичь AGI», но без конкретных сроков.

Точно говорил и не один раз. Могу найти если нужно.

[Rattus]

Но Альтман заявлял об AGI в этом году.

Ну, строго говоря, этот год ещё на треть не завершён. Да и AGI - понятие весьма растяжимое.

[BlackMokona]

Но Альтман заявлял об AGI в этом году.

По моему мнению, AGI давно уже есть. Просто люди не признают очевидного. Что планка разума для человека давным давно пройдено. Разумен ли депутат? Разумен ли дурачок Ивашка? Разумен ли Гопник на лавке перед домом? Каждый раз отвечаем да разумен. А как подходим с этим вопросом к ИИ. Тут же должен в лёгкую уделывать Энштейна, если не громишь лучшие коллективы учённых в мире одной левой. То разве можешь считаться разумным??

[Rattus]

По моему мнению, AGI давно уже есть. Просто люди не признают очевидного.

Тем не менее, есть один довольно неплохо тестируемый на практике критерий - агентность. Даже колдырю у подъезда можно дать задание из реального мира, которое с приемлимой вероятностью может быть выполнено (например сгонять за бутылкой и ириской или выкопать небольшой колодец на участке за пару бутылок). ИИ пока такое ещё не доверяется.

[Olweg]

Да, вопрос мутный. Я тоже думаю, что AGI в некотором роде уже есть, потому что современные модели могут (в теории, по крайней мере) работать с любой информацией. Мультимодальность или, как её ещё называют, омнимодальность пока плохо развита из-за нехватки мощностей. Другое дело, что AGI пока, конечно, имеет серьёзные ограничения. Но что это должен быть за «момент AGI», когда его появление признают если не все, то большинство специалистов и обычных пользователей, никто не может толком объяснить. Отсутствие глюков и умение признавать невозможность справиться с задачей?

Тем не менее, есть один довольно неплохо тестируемый на практике критерий - агентность. Даже колдырю у подъезда можно дать задание из реального мира, которое с приемлимой вероятностью может быть выполнено (например сгонять за бутылкой и ириской или выкопать небольшой колодец на участке за пару бутылок). ИИ пока такое ещё не доверяется.

Ну да, это тоже. Удержание фокуса на задаче, долговременное планирование. Отчасти уже реализуется, но из-за глюков пока всё очень нестабильно.

[skvj]

Вот, например:

https://youtu.be/xXCBz_8hM9w

45:55

"What are you excited about in 2025, what's to come? —AGI. Yeah, excited for that... that's going to be—that's the thing I'm like most excited for ever in life..."

"Чего вы ждете от 2025 года, что произойдёт? — AGI. Да, я этого очень жду... Это то, что меня волнует больше всего в жизни..."

И это было неоднократно заявлено, много раз.

[BlackMokona]

Тем не менее, есть один довольно неплохо тестируемый на практике критерий - агентность. Даже колдырю у подъезда можно дать задание из реального мира, которое с приемлимой вероятностью может быть выполнено (например сгонять за бутылкой и ириской или выкопать небольшой колодец на участке за пару бутылок). ИИ пока такое ещё не доверяется.

Так с этими задачами у него агентности достаточно. ОпенАИ продаёт услугу агентности в которой агент может за вас делать покупки в интернете, покупать билеты и тд.
А копать колодец тут уже вопрос тела. Тыкать лопатой и кидать грунт, у ЛЛМ достаточно мозгов.

[skvj]

Но Альтман заявлял об AGI в этом году.

По моему мнению, AGI давно уже есть. Просто люди не признают очевидного. Что планка разума для человека давным давно пройдено. Разумен ли депутат? Разумен ли дурачок Ивашка? Разумен ли Гопник на лавке перед домом? Каждый раз отвечаем да разумен. А как подходим с этим вопросом к ИИ. Тут же должен в лёгкую уделывать Энштейна, если не громишь лучшие коллективы учённых в мире одной левой. То разве можешь считаться разумным??

Но всё же, хотя и определений много, AGI должен не уступать человеку ни в чём? в когнитивных функциях.
Смотрите, сейчас LLM интегрируют в андроиды. Т.е. они перестанут быть реактивными. И начнут существовать во времени. Получат собственную картину мира и естественно мультимодальность.
Может быть именно тогда (в поддержку ваших слов) - LLMки станут AGI и заблистают истинным смыслом без всяких "но"?
Как вы считаете?
И другие инженеры и кодеры если выскажутся, буду благодарен))

[BlackMokona]

Но всё же, хотя и определений много, AGI должен не уступать человеку ни в чём? в когнитивных функциях.

Т.е разумен лишь человек, который умнее или равен любому другому человеку в любой интеллектуальной задаче? Это опять же сильные двойные стандарты.

[Olweg]

Смотрите, сейчас LLM интегрируют в андроиды. Т.е. они перестанут быть реактивными. И начнут существовать во времени.

Ну, я не инженер и не кодер, но всё же прокомментирую ) Почему вы считаете, что интеграция уберёт реактивность? Они же всё равно будут работать по запросу. Или всё время в фоновом режиме, в реальном времени?

[skvj]

Но всё же, хотя и определений много, AGI должен не уступать человеку ни в чём? в когнитивных функциях.

Т.е разумен лишь человек, который умнее или равен любому другому человеку в любой интеллектуальной задаче? Это опять же сильные двойные стандарты.

Ни в коем случае! Они другие, но не принципиально! и я не страдаю антропоморфизмом и вообще топлю за ИИ. Я за них! ))

[BlackMokona]

Ну, я не инженер и не кодер, но всё же прокомментирую ) Почему вы считаете, что интеграция уберёт реактивность? Они же всё равно будут работать по запросу. Или всё время в фоновом режиме, в реальном времени?

Да и реактивность не проблема. С самого первого ГПТ, просто зацикливают и всё. Вот работает в режиме реального времени, крутясь как белка в колесе. Просто реактивность используется, потому как чаще всего не нужно это постоянное существование. А кушать энергию и мощности просит только так

Ни в коем случае! Они другие, но не принципиально! и я не страдаю антропоморфизмом и вообще топлю за ИИ. Я за них! ))

Ну просто ваше определение выписало из разумных всех людей. Поэтому попробуйте составить определение, которое хотя бы 50% людей Земли, оставит с гордым титулом разумных. А потом проверьте, проходит ли в него современный ИИ.

[skvj]

Смотрите, сейчас LLM интегрируют в андроиды. Т.е. они перестанут быть реактивными. И начнут существовать во времени.

Ну, я не инженер и не кодер, но всё же прокомментирую ) Почему вы считаете, что интеграция уберёт реактивность? Они же всё равно будут работать по запросу. Или всё время в фоновом режиме, в реальном времени?

Скажу свою имху. Интеграция с физическим носителем и сенсорами убирает чистую реактивность по двум причинам:

1.Появляется непрерывность опыта.
Когда модель работает только в чате, она реагирует исключительно на запрос. Каждая сессия это отдельный фрагмент без памяти и контекста. В случае андроида или другой интеграции с долговременной памятью и сенсорными потоками у системы появляется  постоянный вход данных: зрение, слух, тактильные датчики, плюс сохранение истории взаимодействий. Это создаёт непрерывное поле восприятия, которое не зависит от того, поступил ли запрос в данный момент.

2. Возникает инициатива!
Алгоритм уже не просто ждёт, пока пользователь обратится, а может сам инициировать действие, потому что имеет доступ к постоянному фону информации. Если камера зафксировала, что на плитке кипит чайник или в календаре время встречи - система способна предупредить без внешнего запроса.

Таким образом,  интеграция меняет характер работы : из режима чисто реактивного ответчика в сторону активного участника, обладающего постоянным восприятием и возможностью вмешиваться в процесс в реальном времент.

Прошу инженеров поправить меня, если я впал в ахинею)) но я пока так вижу

[skvj]

Ну просто ваше определение выписало из разумных всех людей. Поэтому попробуйте составить определение, которое хотя бы 50% людей Земли, оставит с гордым титулом разумных. А потом проверьте, проходит ли в него современный ИИ.

Не знаю почему вам так отозвался мой пост. Может я косноязычно высказался? Я допускаю конечно, через долгое время отрыв ИИ вообще в космос. Когда люди станут старыми добрыми приматами, которые умеют считать, но в остальном отстают по всем параметрам. Но это в отдаленном будущем.
Но я примерно по Курцвейлу, считаю, что возможен мягкий перенос сознания человека в цифру. Не копия, как в случае с телепортацией по квантмеху. А именно когда сознание будет существовать в физическом и виртуальном мире одновременно (в начале). А потом в случае смерти - остаётся там. И уже в виртуалке мы прокачаемся и не будем уступать ИИ ни в чём. Т.е. нет нужды принижать или возвышать людей или наоборот ИИ. Это не фантастика, и не домыслы. Курцвейл серьёзный ученый и физических запретов на такое нет. Но когда будет? Он говорит начиная с 2045

[BlackMokona]

Прошу инженеров поправить меня, если я впал в ахинею)) но я пока так вижу

Каждый запрос это совершенно новый и никак не связанный с прошлым опыт. Можете представить себе ситуацию так. Вы входите в пустую комнату со столиком. На столике бумага. Вы пишите на ней привет. В комнату заходит человек. Читает ваш привет. Пишет в ответ привет и уходит. Всё больше этого человека нету и никогда не будет. Вы пишите дальше. Как дела? Заходит новый человек который является клоном погибшего, он читает бумагу и пишет Хорошо. Он уходит, всё больше его нету и никогда не будет. И так далее. Потому как перевод в постоянную память любых сведеней, это очень дорого.

[BlackMokona]

Ну просто ваше определение выписало из разумных всех людей. Поэтому попробуйте составить определение, которое хотя бы 50% людей Земли, оставит с гордым титулом разумных. А потом проверьте, проходит ли в него современный ИИ.

Не знаю почему вам так отозвался мой пост. Может я косноязычно высказался? Я допускаю конечно, через долгое время отрыв ИИ вообще в космос. Когда люди станут старыми добрыми приматами, которые умеют считать, но в остальном отстают по всем параметрам. Но это в отдаленном будущем.
Но я примерно по Курцвейлу, считаю, что возможен мягкий перенос сознания человека в цифру. Не копия, как в случае с телепортацией по квантмеху. А именно когда сознание будет существовать в физическом и виртуальном мире одновременно (в начале). А потом в случае смерти - остаётся там. И уже в виртуалке мы прокачаемся и не будем уступать ИИ ни в чём. Т.е. нет нужды принижать или возвышать людей или наоборот ИИ. Это не фантастика, и не домыслы. Курцвейл серьёзный ученый и физических запретов на такое нет. Но когда будет? Он говорит начиная с 2045

Я просто применил ваше определение ИИ, для поиска любого разумного человека на Земле и в её истории. Никто не прошёл проверку.

[skvj]

Прошу инженеров поправить меня, если я впал в ахинею)) но я пока так вижу

Каждый запрос это совершенно новый и никак не связанный с прошлым опыт. Можете представить себе ситуацию так. Вы входите в пустую комнату со столиком. На столике бумага. Вы пишите на ней привет. В комнату заходит человек. Читает ваш привет. Пишет в ответ привет и уходит. Всё больше этого человека нету и никогда не будет. Вы пишите дальше. Как дела? Заходит новый человек который является клоном погибшего, он читает бумагу и пишет Хорошо. Он уходит, всё больше его нету и никогда не будет. И так далее. Потому как перевод в постоянную память любых сведеней, это очень дорого.

Каждый запрос LLM как новая копия без памяти. Я же с этим не спорю. И вы полностью правы. Но это применительно к текущей архитектуре без долговременной памяти. А я говорю о будущей интеграции с сенсорами и постоянной памятью, а не о нынешних "чистых" чат-LLM.

Что касается дороговизны. Всё дорого в начале технологии. Долговременная память для ИИ в принципе не только возможна, а уже начинает внедряться (тот же GPT-5). Уже сейчас есть решения, где память реализуется через базы данных, векторные хранилища, knowledge graph или специальные memory modules. Они не хранят всё подряд, а фильтруют и индексируют.
Запатентованы несколько методов бесконечных контекстных окон.
Ведь андроиды вообще бесполезный хлам, если не будет памяти. Она будет.