Пределы автоматизации и внедрения роботов

[skvj]

Но Альтман заявлял об AGI в этом году.

По моему мнению, AGI давно уже есть. Просто люди не признают очевидного. Что планка разума для человека давным давно пройдено. Разумен ли депутат? Разумен ли дурачок Ивашка? Разумен ли Гопник на лавке перед домом? Каждый раз отвечаем да разумен. А как подходим с этим вопросом к ИИ. Тут же должен в лёгкую уделывать Энштейна, если не громишь лучшие коллективы учённых в мире одной левой. То разве можешь считаться разумным??

Но всё же, хотя и определений много, AGI должен не уступать человеку ни в чём? в когнитивных функциях.
Смотрите, сейчас LLM интегрируют в андроиды. Т.е. они перестанут быть реактивными. И начнут существовать во времени. Получат собственную картину мира и естественно мультимодальность.
Может быть именно тогда (в поддержку ваших слов) - LLMки станут AGI и заблистают истинным смыслом без всяких "но"?
Как вы считаете?
И другие инженеры и кодеры если выскажутся, буду благодарен))

[skvj]

Но всё же, хотя и определений много, AGI должен не уступать человеку ни в чём? в когнитивных функциях.

Т.е разумен лишь человек, который умнее или равен любому другому человеку в любой интеллектуальной задаче? Это опять же сильные двойные стандарты.

Ни в коем случае! Они другие, но не принципиально! и я не страдаю антропоморфизмом и вообще топлю за ИИ. Я за них! ))

[skvj]

Смотрите, сейчас LLM интегрируют в андроиды. Т.е. они перестанут быть реактивными. И начнут существовать во времени.

Ну, я не инженер и не кодер, но всё же прокомментирую ) Почему вы считаете, что интеграция уберёт реактивность? Они же всё равно будут работать по запросу. Или всё время в фоновом режиме, в реальном времени?

Скажу свою имху. Интеграция с физическим носителем и сенсорами убирает чистую реактивность по двум причинам:

1.Появляется непрерывность опыта.
Когда модель работает только в чате, она реагирует исключительно на запрос. Каждая сессия это отдельный фрагмент без памяти и контекста. В случае андроида или другой интеграции с долговременной памятью и сенсорными потоками у системы появляется  постоянный вход данных: зрение, слух, тактильные датчики, плюс сохранение истории взаимодействий. Это создаёт непрерывное поле восприятия, которое не зависит от того, поступил ли запрос в данный момент.

2. Возникает инициатива!
Алгоритм уже не просто ждёт, пока пользователь обратится, а может сам инициировать действие, потому что имеет доступ к постоянному фону информации. Если камера зафксировала, что на плитке кипит чайник или в календаре время встречи - система способна предупредить без внешнего запроса.

Таким образом,  интеграция меняет характер работы : из режима чисто реактивного ответчика в сторону активного участника, обладающего постоянным восприятием и возможностью вмешиваться в процесс в реальном времент.

Прошу инженеров поправить меня, если я впал в ахинею)) но я пока так вижу

[skvj]

Ну просто ваше определение выписало из разумных всех людей. Поэтому попробуйте составить определение, которое хотя бы 50% людей Земли, оставит с гордым титулом разумных. А потом проверьте, проходит ли в него современный ИИ.

Не знаю почему вам так отозвался мой пост. Может я косноязычно высказался? Я допускаю конечно, через долгое время отрыв ИИ вообще в космос. Когда люди станут старыми добрыми приматами, которые умеют считать, но в остальном отстают по всем параметрам. Но это в отдаленном будущем.
Но я примерно по Курцвейлу, считаю, что возможен мягкий перенос сознания человека в цифру. Не копия, как в случае с телепортацией по квантмеху. А именно когда сознание будет существовать в физическом и виртуальном мире одновременно (в начале). А потом в случае смерти - остаётся там. И уже в виртуалке мы прокачаемся и не будем уступать ИИ ни в чём. Т.е. нет нужды принижать или возвышать людей или наоборот ИИ. Это не фантастика, и не домыслы. Курцвейл серьёзный ученый и физических запретов на такое нет. Но когда будет? Он говорит начиная с 2045

[skvj]

Прошу инженеров поправить меня, если я впал в ахинею)) но я пока так вижу

Каждый запрос это совершенно новый и никак не связанный с прошлым опыт. Можете представить себе ситуацию так. Вы входите в пустую комнату со столиком. На столике бумага. Вы пишите на ней привет. В комнату заходит человек. Читает ваш привет. Пишет в ответ привет и уходит. Всё больше этого человека нету и никогда не будет. Вы пишите дальше. Как дела? Заходит новый человек который является клоном погибшего, он читает бумагу и пишет Хорошо. Он уходит, всё больше его нету и никогда не будет. И так далее. Потому как перевод в постоянную память любых сведеней, это очень дорого.

Каждый запрос LLM как новая копия без памяти. Я же с этим не спорю. И вы полностью правы. Но это применительно к текущей архитектуре без долговременной памяти. А я говорю о будущей интеграции с сенсорами и постоянной памятью, а не о нынешних "чистых" чат-LLM.

Что касается дороговизны. Всё дорого в начале технологии. Долговременная память для ИИ в принципе не только возможна, а уже начинает внедряться (тот же GPT-5). Уже сейчас есть решения, где память реализуется через базы данных, векторные хранилища, knowledge graph или специальные memory modules. Они не хранят всё подряд, а фильтруют и индексируют.
Запатентованы несколько методов бесконечных контекстных окон.
Ведь андроиды вообще бесполезный хлам, если не будет памяти. Она будет.

[skvj]

Долговременная память для ИИ в принципе не только возможна, а уже начинает внедряться (тот же GPT-5)
Нет. Эту технологию представил сначала Икс.Аи и она не связана с долговременной памятью. Просто в бумагу которая лежит, могут быть вписаны куски прошлых разговоров. Чтобы у ИИ был некий контекст. Однако это не добавляет долговременную память ни в Грок 4, ни в ГПТ-5.

Сама по себе долговременная память доступна со старта технологии. Называется дообучение. Где вы закидываете какую то память и даёте ИИ это как раз полноценно обработать. В целом ничего кроме цены не мешает сделать это основным режимом работы.

Это разные уровни памяти. Контекстное окно (вставка кусочков прошлых разговоров в промпт) - рабочая память. Она действительно не есть долговременная.

Долговременная память - это хранилище информации, к которому модель может обращаться многократно через retrieval, базы, векторные индексы и т.д. Это отдельный слой архитектуры, и он уже внедряется.

Дообучение это жёсткая память, навсегда впечатываемая в веса модели. Но есть и другая память - внешние базы, векторные хранилища, knowledge graphs. Они позволяют запоминать новые данные без перетренировки всей сети. Именно это и применяется сейчас.

В когнитивных науках и в ИИ есть термин long-term memory - не означает только "переписать веса модели". Это может быть любая форма устойчивого хранения знаний за пределами одного сессионного контекста. В этом смысле и Grok, и GPT-5 уже тестируют системы персональной памяти (пусть пока простые).

Другой пример ИИ тесла, автопилот. он сохраняет карты и дорожные ситуации. Там fleet learning, когда опыт одного автомобиля уходит в облако и возвращается в обновлениях другим в реальном времени. ИИ помнит своё местоположение, траекторию, историю поездки. Если бы каждая итерация автопилота была новым клоном без памяти, он просто бы не работал. А он работает потому что память интегрирована.

[skvj]

Долговременная память - это хранилище информации, к которому модель может обращаться многократно через retrieval, базы, векторные индексы и т.д. Это отдельный слой архитектуры, и он уже внедряется.
И таки чем отличается от того, что я сказал? Берётся прошлый разговор который записан в логах и закидывается в контекст. Тем самым у ИИ нету никакой памяти дополнительной, она ей никак не оперирует и тд. Просто в её документ закидывают данные из прошлых документов.

Разница принципиальная. Если просто закидывать логи в контекст, то это действительно не память, а расширенный буфер. Но в системах с retrieval память становится адресной и избирательной,  модель может получить только нужные сведения из огромного архива, аа не всё подряд.
Это как раз и отличает долговременную память от логов. Лог это как бы свалка документов, память как библиотека с каталогом. Лог можно только целиком прикрепить, а их памяти можно вытащить то, что требуется здесь и сейчас.

[skvj]

Не очень понимаю, как эта долговременная память может быть реализована. Одно дело - использовать внешние базы, о чём написал skvj. Тут всё понятно, хотя это и не полноценная память, но сама модель при этом не «страдает». Другое дело - переписывание весов копий самой модели под каждого пользователя…  Что в итоге может получиться? Кто сможет гарантировать, что пользователь не переобучит все её моральные императивы, полученные при RLHF? И не скажет - давай, программировай мне супервирус! Сомневаюсь, что разработчики на такой риск пойдут.

Под юзера как это? Имеется в виду переобучение всей модели. Это в принципе другая память - об этом речь. А мы говорим о личной субъективной памяти андроида. Которая будет формировать личность. Не нужно спорить - пусть имитацию личности, неважно.

[skvj]

Андроид - это всё-таки специфично. Я пока об обычных LLM.

Это ещё проще, мой GPT помнит прошлые чаты. И ваш тоже. Его же никто не дообучал, сам запоминает и это только начало. В итоге он будет помнить всё, и в точности как человек будет забывать. Но у него серьёзный поиск по базе данных, так что он станет крутым агентом в итоге.

[skvj]

Далее - поскольку LLM ваш и мой будут иметь разную память, они сформируют как бы разные личности (имитации). Они же зеркалят людей и ваш агент-LLM станет очень важен и полезен именно вам, а мой мне. А потом включаешь свой аккаунт в андроиде и вуаля 🤖

[skvj]

Это всё пока, можно сказать, за счёт расширения промпта - он просто подсматривает старую переписку. Каждый раз вспоминает заново, как ГГ с антероградной амнезией из «Мементо» Нолана.

Можно пойти от обратного. Удастся ли создать полноценный AGI (что бы это ни было) без возможности перенастраивать веса в процессе работы, то есть без настоящей долговременной памяти (но с возможностью обращения к внешней памяти)? Да, возможно такой ИИ будет не так эффективен, но я не вижу тут принципиального препятствия.

Сравнение с Мементо прикольное, но не совсем точное. Потому что разница между "подсовывать память" и иметь встроенную долговременную память огромная. Если LLM каждый раз как Леонард - он живёт в вечном настоящем и никогда не строит устойчивого "Я". Это, скорее, иллюзия памяти через промпт.

Но! Когда LLM подключают к внешней памяти (базам данных, векторным сторам и т. д.), он получает функциональный аналог долговременной памяти. И, в отличие от Леонарда, который вечно бьётся в одном и том же сюжете, ИИ может структурировать, фильтровать и сам запрашивать прошлые данные.

Обязательно ли для AGI перенастраивать веса? На мой взгляд нет. Долговременная память может быть вне весов. Человек же тоже работает через кучу внешних систем - язык, книги, гаджеты. Главное, чтобы у ИИ был доступ к своему опыту в связке с текущим состоянием.

Тогда он перестаёт быть героем Мементо и превращается в полноценного субъекта, который может учиться на прошлом опыте и формировать личность 🤖

[skvj]

Я вообще не уверен, что так уж нужна личность. Так ИИ, конечно, станет человечнее и понятнее, но это не тот критерий, по которому его стоит оценивать. AGI, в конечном итоге, должен уметь решать задачи, которые перед ним ставят, в том числе и долговременные. Будет он помнить о своём опыте после их решения или нет - на мой взгляд, не так принципиально (хотя, конечно, может быть полезно, если новые задачи будут из той же области; но для этого как раз достаточно внешней памяти).

Вы правы в том, что AGI оценивают по способности решать задачи. Но именно долговременная память и "личность" в широком смысле - стиль, ассоциации, собственный опыт, - напрямую повышают эту способность.

Почему? Снижение издержек. Если модель каждый раз решает задачу с нуля, без использования прошлых наработок, это колоссально расточительно. Наличие памяти даёт ей возможность не просто хранить факты, а повторно использовать собственные решения, ускоряя работу.

Перенос знаний. Человеческий интеллект силён именно тем, что мы переносим опыт из одной области в другую. Модель без памяти будет каждый раз как чистый лист. С памятью она может делать обобщения и находить связи между задачами.

Личность это не только человечность, но и консистентность поведения. Для юзера важно, чтобы агент не только выдавал ответы, но и учитывал его стиль, привычки, предпочтения. Это повышает точность и полезность решений. Так что личность здесь не косметика, а рабочий механизм. И именно поэтому современные исследования идут в сторону memory + агентных архитектур, а не просто чистого LLM.

[skvj]

Ну пока ещё не встречал таких моделей. Пока чистый заброс логов в контекст

Их уже тестируют Retrieval-Augmented Generation, MemoryGPT, DeepMind’s embodied agents. Это не теории, а реальные прототипы. А в теории там вообще ожидают сверх прорыв.

[skvj]

А с AGI вы хорошо сказали. Возможно он уже есть. Я даже не думал об этом, спасибо. Надо будет всё продумать хорошенько.

[skvj]

Да, естественно. Но ключевой вопрос тут - нужно ли модель для этого дообучать. Мы с вами вроде бы сошлись на том, что необязательно, если я правильно вас понял. Достаточно внешних хранилищ.

Да-да, правильно. Но обе памяти важны. Обучение можно сравнить с нашим подсознанием или даже с ДНК/РНК и врожденными инстинктами. Это глобальные знания ИИ. Пусть дообучают сколько угодно если найдут где брать данные, это важно. А внешние хранилища это субъективная память ИИ и пресловутая личность - без чего никакие андроиды невозможны. Если вам не очень интересны андроиды, то зря. Они будут у каждого. Ну, в смысле, например, как авто. Каждый же может купить машину.

Перенос знаний. Человеческий интеллект силён именно тем, что мы переносим опыт из одной области в другую. Модель без памяти будет каждый раз как чистый лист. С памятью она может делать обобщения и находить связи между задачами.

Тут больше поможет основная, предобученная её память - это же колоссальный объём информации из разных областей, причём взаимоувязанный при обучении.

Да, предобучение я ни в коем случае не принижаю. Я всего лишь нуждаюсь в собственной памяти ИИ. Это будет огонь. Они даже в реактивной архитектуре будут поражать и приносить невероятную пользу любому. Вот любому человеку. Ну, кто занят интеллектуальной работой.

[skvj]

Давайте обсудим вопрос прям по теме? Маск уже прямо заявил - будет цикл - андроиды начнут делать андроидов. И второй момент - нисхождение ИИ в физический мир.
Я тоже вижу это не только неизбежным, но и судя по всему процесс идёт полным ходом. Какие у кого идеи?

[skvj]

Какие у кого идеи?

Почитайте про технологическую сингулярность

Я читал Винджа и Неймана. Я не к тому, что я не знаю тему, наоборот. В плане дискуссии интересно. Сейчас у меня в приоритете Курцвейл и Герцель.

Своё же видение тут излагал не раз, и ещё можете в этой теме найти и прочитать более свежий "компендиум" их:

Спасибо, почитаю.

Ну андроиды-то ладно. Это просто привычный конвейер. Суть идеи технологической сингулярности в том, что ИИ станут не просто создавать другие ИИ, но создавать лучшие ИИ, чем они сами. То есть возникнет такой рекурсивный самоулучшатель. И, конечно, начнётся всё с софта, но со временем может перейти и на железо, если у ИИ появятся «руки» в лаборатории.

Но может оказаться и так, что именно андроиды могут оказаться защитой от ASI. Ну, типа распределенной сети и каждый андроид представляет своего человека. Сначала они просто помощники, но у них будет формироваться собственная картина мира, что даст огромный источник новых данных. А именно жизнь среди людей, ИИ начнут понимать людей. Ведь мы боимся этого монстра производителя скрепок. Потом андроид станет переводчиком, юристом, законным представителем, станут не нужны нотариусы, любая бумажная, техническая волокита, но главное - это жить среди людей. Тогда когда человек умирает, ИИ может уйти к новому человеку, например к младенцу. Но в основном, уже ныне живущие люди смогут успеть на курцвейловских нано-ИИ, которые живут в крови и лечат болезни. Кстати, уже есть разработки такие. Тогда возможно удлинить жизнь или вообще отодвигать смерть постоянно. Но смысл в том, что Маск сейчас делает нейроимпланты именно в теме Курцвейла, я читал его объяснения. Т.е. по Курцвейлу эти ИИ-частицы размером с эритроцит соберутся в мозге и создадут нейросвязь с ИИ (андроидом). И вот Маск сказал, что он просто не стал ждать и через трепанацию и грубый имплант развивает софт, чтобы программная часть не отстала потом от аппаратной. И уже в этом году слепые смогут видеть. Слепые которые без глаз. Т.е. технология работает что может быть очень перспективно.
Если честно, то раньше я когда такое читал - я их всех считал фриками. И это если мягко говоря. Но сейчас я вижу, что это высоковероятный исход событий. Здесь я до сингулярности не дошёл, но там мои взгляды тоже по Рэю Курцвейлу. Наверное меня сейчас тапочками закидают, потому что сингулярность все представляют по-разному.

Возникает вопрос, кто эти люди, которые должны? В гонке ИИ участвует много государств и корпораций, каждый хочет быть на шаг впереди конкурентов.

На мой взгляд точка невозврата пройдена. Кто-то может не участвовать (не покупать андроида или не использовать нейроимпланты), но результат будет тот же. Но я вот, например, обязательно куплю андроида. Может не первый выпуск, а второй.

[skvj]

Я имею в виду, конечно, настоящих андроидов, а не которых сейчас показывают)))
Но вот, помните, когда Оптимус станцевал недавно? Его обучали в виртуалке. И потом, не сделав ни одного обучающего движения в физике - он сразу станцевал балет и современный танец. Прям на уровне танцора профи. Вот это огонь. И как раз был стёб - когда на презентации год назад примерно вместо андроида танцевал переодетый танцор. Тогда все сказали фуу. А это был такой план в стиле провокации, чтобы показать теперь настоящего танцующего Оптимуса. В том смысле, что потом появятся библиотеки и можно будет просто прокачивать своего андроида до нужных скилов в чём угодно.

[skvj]

У Курцвейла были достаточно успешные предсказания в его ранних книгах, например, по распространению мобильных компьютеров и беспроводного интернета, но нанотехнологий что-то до сих пор не видно на горизонте, а ведь на них строится много его среднесрочных прогнозов…

https://www.nature.com/articles/s41565-023-01527-8.pdf

ДНК-нанотурбины имеют высоту и диаметр от 24 до 27 нанометров и могут использовать трансмембранный электрохимический потенциал через нанопоры для приведения в движение пучков ДНК, обеспечивая устойчивое вращение с постоянной односторонней скоростью до 10 оборотов в секунду.

https://bionautlabs.com

https://www.delveinsight.com/blog/nanobots-in-the-healthcare-sector

Концепты вроде respirocytes - искусственные эритроциты и наноботы, которые убирают бляшки. Круглосуточно мониторят, чинят, прокачивают функции организма (например, носить кислород или разрушать блоки). Такие устройства теоретически могли бы продлевать жизнь до 120 и более лет.

Компании Moderna и Pfizer создают наночастицы для доставки лекарств, которые уже тестируют для точечной терапии рака и других болезней.
Это выборочно. А разработок очень много, я просто примерно показал, что это перспективная отрасль медицины.

[skvj]

Кстати, Polnoch Ксю постоянно в антиутопию склоняется, мол, корпорации и миллиардеры процветают, омолаживаются, а черный люд страдает, потому что всё дорого (ну, грубо). Настоящие деньги всегда в массовом продукте. Доходность Феррари нельзя даже сравнивать с доходностью автогигантов для массового потребителя. Мерседес-Бенс просто ничто по деньгам по сравнению с Форд. И так во всём. Именно поэтому все технологии спускают вниз. А для богатых - просто рыночная ниша, где позолотой покрашено.

Но здесь и концептуально важное отличие. Истинный прорыв - переход на принципиально новые виды производства без ИИ невозможен в наших рамках. Ведь богатые могут создать себе ИИ, чтобы личный AGI на диване сидел. Не могут. Нужны данные, идеи - нужны сети и масштабируемость. Невозможно создать подлинный ИИ без людей. Поэтому делают Stargate мощностью 2 млн чипов и потреблением 4.5 ГВт. И это только одна компания с проектом в $500 млрд. Почему, зачем всем дают? Чтобы инженер имел ИИ, врач, адвокат, строитель, учитель - чтобы вытянуть всех на новый уровень и получить качественные данные уже от взаимодействия миллионов специалистов с ИИ. Нет ничего более ценного - и там основы сингулярности. Невозможно создать настоящий интеллект без людей. Поэтому миллиардер с ИИ, а все ему служат это как раз невозможно чисто технически.