Пределы автоматизации и внедрения роботов

[Olweg]

Да, конечно, было бы просто - уже бы осваивали. Тем более что прототипы в железе уже есть. Но вряд ли можно ждать этого в ближайшем будущем (то есть в ближайший год или даже два). Сейчас все будут искать оптимизаций в софте. Может, даже отказ от трансформеров в пользу какой-то новой архитектуры? Или хорошо забытой старой, например, возврат к рекуррентным сетям на новом уровне. Кто знает? Заранее это, конечно, предсказать невозможно.

[BlackMokona]

Появлению узкоспециализированным микросхем, мешает быстрый прогресс. Пока идёт очень шустрая смена моделей, улучшений архитектуры и тд. То просто не успевают железнячники за ПО. Когда успокоиться, то быстро накидают

[Baby[lone]]

Ресурсный кризис человечества может быть только в том случае, если возникнут проблемы с ресурсами, потребными для воспроизводства теплокровных макроживотных.

Пастбища?

[Combinator]

 Интересное интервью, имхо: https://www.youtube.com/watch?v=1SLvIof4-Zw

[MenFrame]

Миф о «разуме» ИИ развеян: исследование учёных показало, что LLM не способны к настоящему логическому рассуждению

[AlexDark]

Миф о «разуме» ИИ развеян: исследование учёных показало, что LLM не способны к настоящему логическому рассуждению

Какая неожиданность.  ИИ как "имитатор интеллекта", что было понятно с самого начала, но так всем хотелось верить в чудеса.

[Ый]

но так всем хотелось верить в чудеса.

Не всем.

[Polnoch Ксю]

Какая неожиданность.  ИИ как "имитатор интеллекта", что было понятно с самого начала, но так всем хотелось верить в чудеса.

Не знаю о ком Вы. LLM не AGI, а pre-AGI технология. Некоторые совсем безудержные оптимисты ожидают настоящий AGI в течение года-двух, но я бы скорее поставила на 2030й и техсингулярность в 2035м.
LLM переполнены галлюцинациями. В GPT-5 их стало меньше, но всё равно слишком много. На таком гнилом фундаменте общий интеллект не построишь, тем более сверхинтеллект


 

Не всем.

что было понятно с самого начала, но так всем хотелось верить в чудеса.

Мне кажется, вы, ребят, занимаетесь вишфул финкингом. Вы путаете ограничения текущей  технологии и возможных будущих архитектур. Мне кажется, мало кто утверждает, что мы сейчас уже имеем AGI.

Теперь по сути работы, вы ведь её не читали, я права? Я дала её почитать GPT-5 thinking и Opus 4.1, и рассказать её суть (такой и был промт: "прочитай работу и перескажи её суть").
Так же я немного полистала работу сама (гуглу не скармливала от лени, грок как обычно лежал и был недоступен).

 Я думаю, у этой работы есть два больших недостатка:

1) авторы говорят об экспериментальной среде, дают ссылку на гитхаб, но там пусто - ни моделей ни весов, ни кода чтобы повторить их измерения. Где скачать их среду DataAlchemy?
2) они говорят, что CoT имитирует мышление, и перестаёт работать, если внутри CoT пошаманить - поменять длину цепочек рассуждения, например. Но я думаю, что это очень странный аргумент: а что, если поменять нейромедиаторы в мозге человека, будет ли он в такой ситуации работать, и строить цепочки рассуждения?

Так же авторы указывают на то, что за пределами распределения производительность LLM с CoT падает до нуля.  Но тут вопрос: а если человека выдрать из привычной среды, и погрузить в ситуацию где вообще всё не знакомо, какова будет производительность его мозга?

В целом, работа основана на старой посылке: она опять борется с китайской комнатой, говоря о том, что есть имитация мышления, а есть настоящее мышление. Тогда как не даёт ответ на вопрос, а что такое настоящее мышление по версии авторов. Что, если имитация и китайская комната, как система, всё же являются мышлением? Что, если разница только в том, что человеческий мозг пока галлюционирует реже LLM, и это всё, что нас отделяет от общего ИИ?

Так же меня смущает, что авторы работы не проверяли фронтир системы - скажем, альфа пруф. Видимо, они взяли несколько устаревших опенвейт моделей, и обучали для своей среды там. Но они не назвали такие модели.

[AlexDark]

возможных будущих архитектур

А чем подкреплено утверждение о возможности этого в принципе? Я уже говорил - существование ЕИ никак не доказывает возможность создания ИИ, тем более возможность его создания в обозримое время на доступных технологиях.

А ожидание сингулярностей, ИИ и вызванных ими проблем/чудес напоминают ожидание темного мародера из комикса, только в мире не один криворукий король, а тысячи.

(кликните для показа/скрытия)

[Polnoch Ксю]

А чем подкреплено утверждение о возможности этого в принципе? Я уже говорил - существование ЕИ никак не доказывает возможность создания ИИ,

Верно обратное, потому, что на фундаментальном уровне нет разницы между естественным и искусственным. Это понятие гуманитарных наук. Как раз наличие множества определенных объектов неопровержимый пруф возможности другого подобного. Тут у Вас путаница и просто неверные посылки в рассуждениях. Та самая слепота Лорда Кельвина.... Когда он смотрел на птиц, и при этом говорил, что летательные аппараты тяжелее воздуха невозможны.

тем более возможность его создания в обозримое время на доступных технологиях.

Вполне легитимная гипотеза на основе прогресса в ИИ и количества инвестиций в отрасли, а так же множества инноваций.

Даже я постоянно ошибаюсь в сторону недооценки. Мне было бы сложно представить ещё полгода назад, что две модели возьмут золото на олимпиаде по математике сейчас. Я бы предположила, что это будет где-нибудь в 2028-2029.

[MenFrame]

Верно обратное, потому, что на фундаментальном уровне нет разницы между естественным и искусственным.

Ну базовые функции живых систем типа распознавания уже освоены. А всякая логика мышления это уже интеллект искусственный, который закладывается в естественные мозги культурой. Почему его ЛЛМки освоить не могут? Ну наверное потому что, иногда нужно поработать ручками при создании программ, к примеру при прописывании логики модели мира. Само собой, получать великое конечно удобно, но не гарантировано.

[BlackMokona]

Всё же долгосрочные задачи, как было видно из графика длинны работы всё же прогрессируют сильно.
ГПТ-5 закончил Покемон Ред, в два раза быстрее своего предшественика
https://www.reddit.com/r/singularity/comments/1mq2irv/gpt5_just_finished_pokemon_red/

[Metatron]

Галлюцинации LLM приводят как доказательство того что LLM не интеллект
- А что такое сны человека - как не те же самые галлюцинации ЕИ?

[AlexDark]

что на фундаментальном уровне нет разницы между естественным и искусственным

Мне срочно нужен двухсантиметровый слоник, ездовая верховая мышь и карманная черная дыра. Где можно купить или как сделать? Проблем не должно быть - слоны и мыши существуют, черные дыры тоже - так что я никаких проблем не вижу.

[Polnoch Ксю]

Всё же долгосрочные задачи, как было видно из графика длинны работы всё же прогрессируют сильно.

Я думаю, что из-за того, что галлюцинации всё же снизились у модели. Не так сильно, как хайпил Альтман, но, видимо, это и правда SOTA модель по редкости галлюцинаций

Почему его ЛЛМки освоить не могут? Ну наверное потому что, иногда нужно поработать ручками при создании программ, к примеру при прописывании логики модели мира. Само собой, получать великое конечно удобно, но не гарантировано.

Возможно, но мне кажется, из-за галлюцинаций. Могу ошибаться (и галлюционировать лол)

Сейчас все будут искать оптимизаций в софте. Может, даже отказ от трансформеров в пользу какой-то новой архитектуры? Или хорошо забытой старой, например, возврат к рекуррентным сетям на новом уровне. Кто знает?

Мне кажется, будет другая архитектура. Если же я не права, и дело не в галлюцинациях или если их победят на LLM (не ожидаю этого), то, имхо, сингулярность будет раньше чем в 2035м. Может даже в 2032м. См. пик - тут явная экспонента. Некоторые её уже зовут новым законом Мура

[Polnoch Ксю]

Мне срочно нужен двухсантиметровый слоник,ездовая верховая мышь

тут есть фундаментальные ограничения по закону квадрата-куба

С ИИ таких ограничений нет. Само существование общего ИИ (человеческого уровня) неопровержимо постулируется существованием 10млрд человеческих мозгов-ЕИ.

Далее цепочка рассуждений такая: достаточно наивно думать, что человеческий интеллект ограничен сверху каким-то неизвестным физическим, фундаментальным законом. А не, скажем, родовыми путями и риском умереть при родах. Придумывание нового физического закона - это чрезвычайное утверждение, которому нужно чрезвычайное доказательство.

Нет, понятно, что какие-то ограничения есть - например, лимиты на скорость света. Но я думаю, что они ограничат сверхинтеллект на уже недостижимом для людей уровне.
Я думаю, что в момент, когда у нас будет общий ИИ, совершенно очевидно будет, что появление сверхинтеллекта - вопрос времени, и нашего места по оси абцисс во время экспоненциального роста.

[MenFrame]

Возможно, но мне кажется, из-за галлюцинаций.

Ну так галлюцинации и есть следствие имитации мышления. Нейросеть что то генерит, то что нас устраивает мы воспринимаем как интеллект, а то что не устраивает как галлюцинации.

[AlexDark]

существованием 10млрд человеческих мозгов-ЕИ

Человеческий мозг - это один вариант ЕИ. Единственный. Просто раскопированый на 10млрд копий. Никаких других примеров ЕИ (условных инопланетян или иных разумных существ нечеловеческой природы) человечество на данный момент не нашло. Т.е . мы делаем индуктивное обобщение основываясь на единичном примере.

А не, скажем, родовыми путями и риском умереть при родах.

Опять же нет никаких доказательств, что уровень ЕИ  связан с размерами мозга, хотя бы потому. что есть существа глупее людей, у которых мозг больше.

Так же нет никаких доказательств того. что на существующих архитектурах можно создать ИИ, даже простой, а не какой-то сверхъестественный. Нет даже доказательств того. что выбранный путь вообще идет в нужном направлении.

количества инвестиций в отрасли

Сколько там инвестировали в поиски философского камня и всякую демонологию? Как раз пример того, что пуь может быть неверным в принципе.

И продолжая тему трансмутации веществ - мы знаем о строении вещества достаточно, чтобы сказать, сколько нейтронов и протонов с электронами надо убрать или добавить, только вот ни атомных ассемблеров  ни маттер-репликаторов не видать даже в долгосрочной перспективе. Единственный возможный вариант - трансмутация в ускорителях с кучами ограничений как по результату, так и по масштабированию. Но ведь все просто - минус 3 электрона и еще чуть нейтронов - и вот вам золото из свинца.

[Olweg]

Опять же нет никаких доказательств, что уровень ЕИ  связан с размерами мозга, хотя бы потому. что есть существа глупее людей, у которых мозг больше.

Что вы понимаете под доказательствами? Есть корреляции коэффициентов энцефализации, достаточно наглядные.

[Olweg]

Так же нет никаких доказательств того. что на существующих архитектурах можно создать ИИ, даже простой, а не какой-то сверхъестественный. Нет даже доказательств того. что выбранный путь вообще идет в нужном направлении.

Опять же, непонятно, о каких доказательствах вы пишете. Направление оказалось плохо формализуемым. В прошлом веке кто-то в шутку выделил два подхода к созданию ИИ - «чистюли» (neats) и «грязнули» (scruffies). Первые подходили к вопросу системно, пытаясь создать общую логически связанную систему правил и от неё отталкиваться, а «грязнули», понятно, наоборот - ставили практику вперёд теории: главное, чтобы работало, даже если не всегда понятно, как. Очевидно, сейчас первую скрипку играет второй подход. Доказать, что он идёт в нужном направлении, можно только экспериментально, то есть создавая всё более интеллектуальные модели.

Ну а ИИ уже создан, другое дело, что он не такой, каким мы его себе представляли, и существует много его разновидностей (LLM, модели мира, специализированные системы типа AlphaFold и т.п.)