Пределы автоматизации и внедрения роботов

[Leonidsm99]

Другое дело, смотрите: у современных SOTA нейронок сотни миллиардов параметров, а в мозге свыше ста триллионов связей между нейронами. При этом нейроны сильно сложнее тех, что в нейронках.

Тем более удивительно, что нейронки могут хоть что-то! Я думаю, дело в том, что в нашем языке уже упаковано очень много информации - он помогает и людям и нейронкам ускорять мышление, но нейронкам особенно помогает - у нас мозг эволюционно сконструирован мыслить без языка. И языковые оптимизации очень поздние, они куда моложе неокортекса.

Да, возможно, языковая оптимизация помогает, но если это так, то число параметров/синапсов не так критично. В последнее время вообще число параметров упёрлось в плато, его особо не увеличивают уже пару с лишним лет, после выхода GPT-4. Значит, нет большой необходимости и нет быстрой отдачи от увеличения.

В LLM информация видимо упакована плотнее и оптимальнее, чем в нашей голове.

Но упакована, вероятно, по-другому.

Если захотите, есть канал "Силошная" в ТГ, там автор разбирает современные тенденции. Вот интересный пост и график (https://t.me/seeallochnaya/3134): В начале года METR представили свою работу по AI Time Horizon — оценку того, как долго агент может автономно выполнять задачи, связанные с ML и разработкой. На некотором наборе данных они эмпирически обнаружили, что с 2019 по 2025 год этот показатель рос экспоненциально, удваиваясь каждые 7 месяцев.

Про то, что всё не так идеально, как могло бы быть, он тоже рассказывает (https://t.me/seeallochnaya/3130): "Совсем недавно я рассуждал про мощности, необходимые для тренировки Agent 0 и Agent 1 из работы AI-2027, и пришёл к выводу, что немного отстаём от обозначенных таймлайнов (не успели достроить и запустить датацентры).", но в целом развитие идёт.

[Leonidsm99]

  Люди выкладывают в основном картинки и короткие коменты [примитивные]...
 ... Насколько скоро появится сверх разум [на основе всего этого] ?
 

успели достроить и запустить датацентры).", но в целом развитие идёт.

  И... Что в итоге хотят получить на основе всего этого мусора!?)

 Лучше бы Маску посчитали ноомальный Старшип, чтоб он быстрее на Марс уже отправился))) И то пользы больше было бы от всех этих компьютеров!)

Уже сейчас как минимум идёт процесс создания лекарств в том числе с помощью нейронок

[Leonidsm99]

А можно узнать название хоть одного лекарства, которое широкомасштабно производится на основе любой из этих трех веток? Не в RnD количествах, не в экспериментальных программах.

Насколько я знаю, широкомасштабного производства лекарств на основе ИИ пока нет, это и не удивительно, ведь нейронки стали сильнее совсем недавно, но Инет уже наполнен контентом про то что "ИИ помог найти лекарство" и т.п. Сама система создания лекарств требует, чтобы сначала прошло как минимум несколько лет исследований, смотрел про это интервью Дудя с Дороничевым

[Leonidsm99]

«Математический сверхинтеллект» Aristotle решил 30-летнюю задачу Эрдёша - https://habr.com/ru/news/973978/

"Впрочем, есть нюанс. Эрдёш подготовил две версии задачи #124: слабая (разрешены единицы) и сильная, оригинальная (единицы запрещены, добавлено условие на НОД оснований). Aristotle решил слабую. "Aristotle решил одну из версий задачи — олимпиадным по стилю доказательством — но не ту самую", — отметил математик Борис Алексеев, который запустил задачу на Aristotle. Впрочем, и слабая версия оставалась открытой почти 30 лет. Доказательство оказалось неожиданно простым — олимпиадного уровня — но никто из математиков его не нашел, пока задачу не скормили ИИ"

[Leonidsm99]

Нейронка так говорит: 2026–2027: Начало массового производства гуманоидных роботов, таких как Tesla Optimus, для использования на заводах . Параллельно с этим Amazon и Walmart масштабируют применение роботов в логистике, где уже работают миллионы устройств.

Я так понимаю, здесь большинство согласны с тем, что этот сценарий скорее всего реализуется в жизни? Или считаете иначе?

[Leonidsm99]

Роботы второстепенны, на мой взгляд (хотя тема формально о них, но фактически об ИИ в целом). Ключевым моментом, ведущим к просветлению, будет создание агентов, автономно пишущих код и оптимизирующих железо для агентов следующего поколения, которые будут писать код и оптимизировать железо для агентов следующего поколения и т.д.

И к какому году вы их ожидаете, если не секрет и если ожидаете? Насколько знаю, оптимисты ждут этого момента совсем скоро, в этом году или следующем, ну или до 2030

[Leonidsm99]

Я «оптимист» в этом плане. Ожидаю до конца десятилетки.

Дипсик 3.2 выдаёт такую ветку в данном случае:

2026–2027: Появление первых по-настоящему автономных ИИ-агентов, способных самостоятельно проводить научные исследования, писать код и управлять сложными многоступенчатыми задачами . В этот же период ожидается достижение уровня Общего искусственного интеллекта (AGI), способного решать задачи на уровне человека-эксперта в различных областях.

2029–2030: ИИ достигает уровня, позволяющего ему самостоятельно писать код для создания еще более совершенного ИИ, что запускает процесс ускоренной эволюции интеллекта . Половина должностей начального уровня в офисах может быть автоматизирована.

[Leonidsm99]

Роботы второстепенны, на мой взгляд (хотя тема формально о них, но фактически об ИИ в целом).

А для исследования космоса роботы могут быть совсем не второстепенны, ведь по сути, возможно, именно сейчас закладывается фундамент для роботов, которые могут заселить Луну, Марс и т.д)

[Leonidsm99]

Поддерживаю, роботы конечно прикольный кусочек будущего. Но на фоне Сингулярности, они ничтожная инновация

да, именно, интеллектуальный взрыв (оно же техносингулярность, оно же самоулучшаемый сверхинтеллект) это самое важное событие в истории нашего вида, да и даже планеты.

Мне тож кажется, что курцвейл технопессимист, и 2045й как-то поздновато для этого события. Вот 2032й, а может даже 2028й звучит реалистичнее. Но всё же до 30го мне кажется маловероятно что мы увидим техносингулярность. Процентов 25, может? Слишком много проблем у текущего поколения нейронок. Вот полноценный AGI да, наверняка будет до 30го года(>95% вероятность, ИМХО). Сколько будет дистанция между AGI и ASI не ясно. Не исключаю что и часы.

Проценты, конечно, штука субъективная, но 25% до 30-го года - наверное, справедливая оценка, учитывая текущие галлюцинации и отсутствие долгосрочного планирования у моделей. Но меня вот что цепляет: мы мыслим линейно, а развитие идет по экспоненте. Если в ближайшие пару лет выйдет архитектура, решающая проблему "контекста" и памяти (как, например, JEPA от Янна Лекуна), то график Курцвейла действительно можно сдвигать влево. 2028й - звучит как вызов, но я бы не списывал его со счетов.

2045 год от Курцвейла - это уже чуть ли не поздний Ренессанс для сингулярности, если смотреть на темпы последних двух лет. Дистанция между AGI и ASI действительно может оказаться такой короткой, что мы просто не заметим переход. Проснемся утром, а нейросеть уже не просто стихи пишет, а физический двигатель для коллайдера проектирует