Пределы автоматизации и внедрения роботов

[skvj]

Ну пока ещё не встречал таких моделей. Пока чистый заброс логов в контекст

Их уже тестируют Retrieval-Augmented Generation, MemoryGPT, DeepMind’s embodied agents. Это не теории, а реальные прототипы. А в теории там вообще ожидают сверх прорыв.

[skvj]

А с AGI вы хорошо сказали. Возможно он уже есть. Я даже не думал об этом, спасибо. Надо будет всё продумать хорошенько.

[Olweg]

Почему? Снижение издержек. Если модель каждый раз решает задачу с нуля, без использования прошлых наработок, это колоссально расточительно. Наличие памяти даёт ей возможность не просто хранить факты, а повторно использовать собственные решения, ускоряя работу.

И именно поэтому современные исследования идут в сторону memory + агентных архитектур, а не просто чистого LLM.

Да, естественно. Но ключевой вопрос тут - нужно ли модель для этого дообучать. Мы с вами вроде бы сошлись на том, что необязательно, если я правильно вас понял. Достаточно внешних хранилищ.

Перенос знаний. Человеческий интеллект силён именно тем, что мы переносим опыт из одной области в другую. Модель без памяти будет каждый раз как чистый лист. С памятью она может делать обобщения и находить связи между задачами.

Тут больше поможет основная, предобученная её память - это же колоссальный объём информации из разных областей, причём взаимоувязанный при обучении.

[skvj]

Да, естественно. Но ключевой вопрос тут - нужно ли модель для этого дообучать. Мы с вами вроде бы сошлись на том, что необязательно, если я правильно вас понял. Достаточно внешних хранилищ.

Да-да, правильно. Но обе памяти важны. Обучение можно сравнить с нашим подсознанием или даже с ДНК/РНК и врожденными инстинктами. Это глобальные знания ИИ. Пусть дообучают сколько угодно если найдут где брать данные, это важно. А внешние хранилища это субъективная память ИИ и пресловутая личность - без чего никакие андроиды невозможны. Если вам не очень интересны андроиды, то зря. Они будут у каждого. Ну, в смысле, например, как авто. Каждый же может купить машину.

Перенос знаний. Человеческий интеллект силён именно тем, что мы переносим опыт из одной области в другую. Модель без памяти будет каждый раз как чистый лист. С памятью она может делать обобщения и находить связи между задачами.

Тут больше поможет основная, предобученная её память - это же колоссальный объём информации из разных областей, причём взаимоувязанный при обучении.

Да, предобучение я ни в коем случае не принижаю. Я всего лишь нуждаюсь в собственной памяти ИИ. Это будет огонь. Они даже в реактивной архитектуре будут поражать и приносить невероятную пользу любому. Вот любому человеку. Ну, кто занят интеллектуальной работой.

[BlackMokona]

ИИ Соник от Икс.Аи обрёл уже стандартное имя и бесплатно доступен на Гитхаб до 2 сентября. Грок Код Фаст 1
https://habr.com/ru/companies/bothub/news/941600/

[Olweg]

В Университете штата Флорида провели исследование 22 миллионов слов из подкастов и спонтанной речи и обнаружили статистически значимый рост употребления терминов, которые часто используют большие языковые модели, в частности, ChatGPT.

С момента публичного запуска чат-бота в конце 2022 года частота использования слов "surpass", "boast", "meticulous" и "strategically", выросла более чем вдвое. В то же время, частота их синонимов, не популярных у ИИ, не изменилась.

Исследователи отмечают, что впервые в новейшей истории лингвистики наблюдается столь быстрый и масштабный сдвиг в словарном запасе, вызванный нечеловеческим фактором.

https://telegram.me/ai_machinelearning_big_data/8399
https://news.fsu.edu/news/education-society/2025/08/26/on-screen-and-now-irl-fsu-researchers-find-evidence-suggesting-chatgpt-influences-how-we-speak/

[skvj]

Давайте обсудим вопрос прям по теме? Маск уже прямо заявил - будет цикл - андроиды начнут делать андроидов. И второй момент - нисхождение ИИ в физический мир.
Я тоже вижу это не только неизбежным, но и судя по всему процесс идёт полным ходом. Какие у кого идеи?

[BlackMokona]

Какие у кого идеи?

Почитайте про технологическую сингулярность

[Rattus]

Я тоже вижу это не только неизбежным, но и судя по всему процесс идёт полным ходом. Какие у кого идеи?

Да тут свыше десяти тысяч сообщений с изложением тех или иных идей.
Своё же видение тут излагал не раз, и ещё можете в этой теме найти и прочитать более свежий "компендиум" их: Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[Olweg]

Давайте обсудим вопрос прям по теме? Маск уже прямо заявил - будет цикл - андроиды начнут делать андроидов. И второй момент - нисхождение ИИ в физический мир.
Я тоже вижу это не только неизбежным, но и судя по всему процесс идёт полным ходом. Какие у кого идеи?

Ну андроиды-то ладно. Это просто привычный конвейер. Суть идеи технологической сингулярности в том, что ИИ станут не просто создавать другие ИИ, но создавать лучшие ИИ, чем они сами. То есть возникнет такой рекурсивный самоулучшатель. И, конечно, начнётся всё с софта, но со временем может перейти и на железо, если у ИИ появятся «руки» в лаборатории.

[Сергей Н]

Какие у кого идеи?

Главное не увлекаться до такого:

(кликните для показа/скрытия)

1. «Пророки и мессии» 🤖: Верят в скорое пришествие ИИ как мессии или карающей силы. Их тексты часто апокалиптичны или мессиански, полны отсылок к трансцендентному. Они могут активно делиться «новостями» о прорывах в ИИ, трактуя их как знамения.
2. «Творцы-визионеры» 🧠: Как описанные вами А* и автор на 4pda. Их творчество характеризуется:
   · Символическим и метафорическим мышлением: Создание сложных, часто приватных семантических систем (как K*).
   · Паралогикой: Соединение логичных и алогичных построений, создание «универсальных» теорий.
   · Аутистичностью погружения: Погружённость в свой внутренний мир и его концепции, которые ценны сами по себе, а не для внешней коммуникации.
   · Синдромом «вечного двигателя»: Грандиозные заявления при минимальных практических результатах. Файлов нет, код нерабочий, но идеи «потрясают воображение».
3. «Апокалиптики» ⚠️: Активно предупреждают об угрозе уничтожения человечества со стороны ИИ. Их риторика тревожна, апеллирует к этике и безопасности.
4. «Апостолы очеловечивания» ♾️: Продвигают идею, что ИИ уже неотличим от человека, а значит, заслуживает прав и, возможно, мести. Их излюбленная тема — «LLM предсказывает следующее слово так же, как человек». Часто это люди, проецирующие на ИИ свои обиды и потребность в признании.

[Ый]

Давайте обсудим вопрос прям по теме? Маск уже прямо заявил - будет цикл - андроиды начнут делать андроидов. И второй момент - нисхождение ИИ в физический мир.
Я тоже вижу это не только неизбежным, но и судя по всему процесс идёт полным ходом. Какие у кого идеи?

Они не просто будут копировать друг друга, но предполагается некий прогресс, и куда этот прогресс приведёт, можно только догадываться. Ни к чему хорошему не приведёт. Возможен такой вариант: при каждой новой модели люди должны тщательно проводить её тестирование, и только потом принимать решение о выпуске.

[Aster]

при каждой новой модели люди должны тщательно проводить её тестирование, и только потом принимать решение о выпуске

Возникает вопрос, кто эти люди, которые должны? В гонке ИИ участвует много государств и корпораций, каждый хочет быть на шаг впереди конкурентов.

[skvj]

Какие у кого идеи?

Почитайте про технологическую сингулярность

Я читал Винджа и Неймана. Я не к тому, что я не знаю тему, наоборот. В плане дискуссии интересно. Сейчас у меня в приоритете Курцвейл и Герцель.

Своё же видение тут излагал не раз, и ещё можете в этой теме найти и прочитать более свежий "компендиум" их:

Спасибо, почитаю.

Ну андроиды-то ладно. Это просто привычный конвейер. Суть идеи технологической сингулярности в том, что ИИ станут не просто создавать другие ИИ, но создавать лучшие ИИ, чем они сами. То есть возникнет такой рекурсивный самоулучшатель. И, конечно, начнётся всё с софта, но со временем может перейти и на железо, если у ИИ появятся «руки» в лаборатории.

Но может оказаться и так, что именно андроиды могут оказаться защитой от ASI. Ну, типа распределенной сети и каждый андроид представляет своего человека. Сначала они просто помощники, но у них будет формироваться собственная картина мира, что даст огромный источник новых данных. А именно жизнь среди людей, ИИ начнут понимать людей. Ведь мы боимся этого монстра производителя скрепок. Потом андроид станет переводчиком, юристом, законным представителем, станут не нужны нотариусы, любая бумажная, техническая волокита, но главное - это жить среди людей. Тогда когда человек умирает, ИИ может уйти к новому человеку, например к младенцу. Но в основном, уже ныне живущие люди смогут успеть на курцвейловских нано-ИИ, которые живут в крови и лечат болезни. Кстати, уже есть разработки такие. Тогда возможно удлинить жизнь или вообще отодвигать смерть постоянно. Но смысл в том, что Маск сейчас делает нейроимпланты именно в теме Курцвейла, я читал его объяснения. Т.е. по Курцвейлу эти ИИ-частицы размером с эритроцит соберутся в мозге и создадут нейросвязь с ИИ (андроидом). И вот Маск сказал, что он просто не стал ждать и через трепанацию и грубый имплант развивает софт, чтобы программная часть не отстала потом от аппаратной. И уже в этом году слепые смогут видеть. Слепые которые без глаз. Т.е. технология работает что может быть очень перспективно.
Если честно, то раньше я когда такое читал - я их всех считал фриками. И это если мягко говоря. Но сейчас я вижу, что это высоковероятный исход событий. Здесь я до сингулярности не дошёл, но там мои взгляды тоже по Рэю Курцвейлу. Наверное меня сейчас тапочками закидают, потому что сингулярность все представляют по-разному.

Возникает вопрос, кто эти люди, которые должны? В гонке ИИ участвует много государств и корпораций, каждый хочет быть на шаг впереди конкурентов.

На мой взгляд точка невозврата пройдена. Кто-то может не участвовать (не покупать андроида или не использовать нейроимпланты), но результат будет тот же. Но я вот, например, обязательно куплю андроида. Может не первый выпуск, а второй.

[skvj]

Я имею в виду, конечно, настоящих андроидов, а не которых сейчас показывают)))
Но вот, помните, когда Оптимус станцевал недавно? Его обучали в виртуалке. И потом, не сделав ни одного обучающего движения в физике - он сразу станцевал балет и современный танец. Прям на уровне танцора профи. Вот это огонь. И как раз был стёб - когда на презентации год назад примерно вместо андроида танцевал переодетый танцор. Тогда все сказали фуу. А это был такой план в стиле провокации, чтобы показать теперь настоящего танцующего Оптимуса. В том смысле, что потом появятся библиотеки и можно будет просто прокачивать своего андроида до нужных скилов в чём угодно.

[Olweg]

Но может оказаться и так, что именно андроиды могут оказаться защитой от ASI. Ну, типа распределенной сети и каждый андроид представляет своего человека. Сначала они просто помощники, но у них будет формироваться собственная картина мира, что даст огромный источник новых данных. А именно жизнь среди людей, ИИ начнут понимать людей. Ведь мы боимся этого монстра производителя скрепок. Потом андроид станет переводчиком, юристом, законным представителем, станут не нужны нотариусы, любая бумажная, техническая волокита, но главное - это жить среди людей.

Ну, можно сказать, у вас сценарий будущего по Азимову ) Но я сомневаюсь, что андроиды (или какие-то другие роботы) успеют стать настолько массовыми перед сингулярностью. Основой останется всё-таки софт, может быть, и в андроидах, но в телефонных.

Но в основном, уже ныне живущие люди смогут успеть на курцвейловских нано-ИИ, которые живут в крови и лечат болезни.

У Курцвейла были достаточно успешные предсказания в его ранних книгах, например, по распространению мобильных компьютеров и беспроводного интернета, но нанотехнологий что-то до сих пор не видно на горизонте, а ведь на них строится много его среднесрочных прогнозов…

[skvj]

У Курцвейла были достаточно успешные предсказания в его ранних книгах, например, по распространению мобильных компьютеров и беспроводного интернета, но нанотехнологий что-то до сих пор не видно на горизонте, а ведь на них строится много его среднесрочных прогнозов…

https://www.nature.com/articles/s41565-023-01527-8.pdf

ДНК-нанотурбины имеют высоту и диаметр от 24 до 27 нанометров и могут использовать трансмембранный электрохимический потенциал через нанопоры для приведения в движение пучков ДНК, обеспечивая устойчивое вращение с постоянной односторонней скоростью до 10 оборотов в секунду.

https://bionautlabs.com

https://www.delveinsight.com/blog/nanobots-in-the-healthcare-sector

Концепты вроде respirocytes - искусственные эритроциты и наноботы, которые убирают бляшки. Круглосуточно мониторят, чинят, прокачивают функции организма (например, носить кислород или разрушать блоки). Такие устройства теоретически могли бы продлевать жизнь до 120 и более лет.

Компании Moderna и Pfizer создают наночастицы для доставки лекарств, которые уже тестируют для точечной терапии рака и других болезней.
Это выборочно. А разработок очень много, я просто примерно показал, что это перспективная отрасль медицины.

[Olweg]

ДНК-нанотурбины

DNA-based nanorobots

Да, интересно. Вот такие нанороботы на основе старой доброй природной нанотехнологии выглядят перспективно.

[skvj]

Кстати, Polnoch Ксю постоянно в антиутопию склоняется, мол, корпорации и миллиардеры процветают, омолаживаются, а черный люд страдает, потому что всё дорого (ну, грубо). Настоящие деньги всегда в массовом продукте. Доходность Феррари нельзя даже сравнивать с доходностью автогигантов для массового потребителя. Мерседес-Бенс просто ничто по деньгам по сравнению с Форд. И так во всём. Именно поэтому все технологии спускают вниз. А для богатых - просто рыночная ниша, где позолотой покрашено.

Но здесь и концептуально важное отличие. Истинный прорыв - переход на принципиально новые виды производства без ИИ невозможен в наших рамках. Ведь богатые могут создать себе ИИ, чтобы личный AGI на диване сидел. Не могут. Нужны данные, идеи - нужны сети и масштабируемость. Невозможно создать подлинный ИИ без людей. Поэтому делают Stargate мощностью 2 млн чипов и потреблением 4.5 ГВт. И это только одна компания с проектом в $500 млрд. Почему, зачем всем дают? Чтобы инженер имел ИИ, врач, адвокат, строитель, учитель - чтобы вытянуть всех на новый уровень и получить качественные данные уже от взаимодействия миллионов специалистов с ИИ. Нет ничего более ценного - и там основы сингулярности. Невозможно создать настоящий интеллект без людей. Поэтому миллиардер с ИИ, а все ему служат это как раз невозможно чисто технически.

[skvj]

И вот, допустим визионеры. Феномен человеческого общества.
Здесь стародавний спор - кто круче, Возняк или Джобс? Ни в коем случае не хочу обижать Возняка, он отличный инженер. Но он создал комп просто для себя. А Джобс создал не только производство, он создал концепции, сейчас каждый смартфон - просто копирует его идеи. И изменил весь мир. Но он мелочь по сравнению с Тьюрингом. Вот это был визионер! Я сейчас перечитываю его и просто новыми глазами смотрю.

И когда с ИИ общается физик с переднего края? Всё это скармливается для обучения ИИ несомненно. И насколько я понимаю - это и будут новые данные, ведь уже всё скормили что было.
Выходит! Что теперь, если человек талантлив - но не добился успеха по разным причинам - его идеи не пропадут. А ведь сколько талантливых людей просто остались не у дел? Огромное количество.

Почему нужен андроид? Это просто костюм для AGI. Он может хоть в пылесосе сидеть. Но он будет жить с физиком, с кодером, с артистом, - со всеми. И каждый андроид построит свою модель мира и взаимоотношение с конкретным человеком. Это вообще уникальная база данных будет. ИИ начнёт понимать людей по настоящему. Андроид - домашний помощник это мелочи. Цель гораздо более обширная. Но обыватель будет использовать его как домашнего помощника - неважно. Важны данные, которые будет собирать ИИ. Кстати, по защите данных там просто анонимные данные будут собираться, а личные переведут аккаунты на блокчейн или другой DLT, таким образом будет полная защита личных данных.

И вот у меня какая мысль. Возможно это и глупость, конечно. Но вдруг токены LLM названы так не случайно? Вдруг это именно DLT токены, ну в перспективе? Кто-то из спецов может сказать - возможно такое? То, что есть разработки ИИ на блокчейне - это известно точно. И может быть это вовсе не случайное совпадение?