ВНИМАНИЕ! На форуме начался конкурс - астрофотография месяца МАРТ!
0 Пользователей и 5 Гостей просматривают эту тему.
Вы верно подметили фундаментальное ограничение текущего прототипа.
Следующие 50 лет инженерия будет посвящена тому, чтобы вернуть универсальность обратно, не потеряв при этом достигнутую энергоэффективность света
Посмотрев детальнее, понял. что это - далеко не универсальное устройство (то есть не реализующее функционал машины Тьюринга вообще). Даже не уровня GPU. Это по сути - только ASIC с "запечённой" топологией под конкретную узкую задачу. О том, чтобы результаты обработки можно было снова подавать на те же входы для каких-то следующих стадий обработки, как понимаю, речи вообще не идёт.
Если это в принципе будет возможно. Но не зависимо от того в любом случае - прилаживанию их к наиболее практически важным / широко встречающимся и тяжёлым узким вычислениям.
Зато плохому не научиться в процессе работы и не взбунтуется.
гипотетический сверх ИИ же самообучаемый, как я думаю.
Наконец у кого то дотянулись руки протестировать Грок 4.2 Модернизацию Грок 4.1 Пока ждём Грок 5.Общие параметры хоть куда лучше 4.1 Но отстают от лидеров. Но вот уровень Галлюцинаций, у него самый низкий на рынке.
Когда я начала активно использовать агенты, я заметила, что галлюцинации не главная проблема, как ни странно - что важнее контекстное окно и ревард хакинг.
Ну а Ревард хакинг, можно считать частью галюнов.
не знаю. Я когда в COT своим агентам заглядываю, постоянно удивляюсь наглости как они решают тихо удалить тысячи строк кода, чтобы не фиксить баг (нет кода с багом, значит и бага нет, не так ли?) или прописать в автотестах True = True - вот не кажется, что это галлюцинация. Это активный саботаж, модель знает что делает, когда срезает углы
Так когда она не знает ответа и решает выдумать, чем отличаются то?
Тем, что во время обычной галлюцинации, не ревард хакинга, модель не понимает что сочиняет - по крайней мере в chain-of-thoughts этого нет. Она не знает, что бредит
Ну там может быть скрытое размышление, как во время попыток Антрофика наложить фильтры на негативное проведение. При котором модель просто научилась прятать все мысли о негативном, при этом продолжая саботаж без изменений
Я думаю, вероятность что полноценный общий ИИ будет создан уже в 2026м аж 25%. И почти наверняка это произойдёт до 2030го. Ну а сверхинтеллект - это просто засунуть общий ИИ в петлю рекурсивного самоулучшения - есть вероятность, что он будет достигнут куда проще и быстрее, чем общий ИИ. Возможно, даже через несколько часов после создания общего ИИ. Я очень надеюсь, что всё же через лет 10 - тогда у общества будет шанс адаптироваться.
Релизы моделей [в Anthropic] теперь разделены неделями, а не месяцами. От 70% до 90% кода, используемого при разработке будущих моделей, теперь написано Claude. Но скорость изменений такова, что соучредитель и главный научный сотрудник Anthropic Джаред Каплан, а также некоторые внешние эксперты считают, что полностью автоматизированные исследования с использованием искусственного интеллекта могут начаться уже через год. “Рекурсивное самосовершенствование, в самом широком смысле, не является явлением будущего. Это современное явление”, - говорит Эван Хабингер, руководитель группы стресс-тестирования компании Anthropic.
В общем, будем сохранять оптимизм
Да, человек пока в процессе участвует, и на ключевых позициях. Но доля его может сократиться катастрофически быстро, как поголовье лошадей к середине прошлого века. О качественном скачке уже пишут эксперты - я приводил тут мнение Андрея Карпаты.
Очевидно, он просто хочет загрузить свой разум в машину, вступив в симбиоз с сверхии, а мы для него просто абуза.
Неужели украл идею у Маска? Маск как раз давно пришёл к выводу, что ИИ остановить невозможно и вымирание неизбежно, отчего запилил нейролинк для синтеза людей с машинами
Я думаю он(Тиль) только себя хочет загрузить. А нас - в биореактор сунут килботы, разберут на запчасти для мясных ботов, пока масштабируется производство железных
С чего бы?
моя единственная надежда, что всё же всё будет происходить не так быстро. И нынешние идиоты-скрепоносцы, которые управляют могущественными странами, успеют уйти.
Автор
Тема: Пределы автоматизации и внедрения роботов (Прочитано 616210 раз)
