Пределы автоматизации и внедрения роботов

[Mercury127]

попробуйте открыть exe файл хекс-радактором. результат такой же- белый шум. Но стоит открыть бинарный файл декомпилятором - и вот уже стройные строчки кода. (Вот тут можно поинтересоваться, а много ли людей на планете понимают что-то в строчках кода? а в строчках ассемблера? )

вообще-то я так и делаю. наловчился читать х86 код даже в двоичных кодах. не весь, конечно, и до Криса мне далеко, но идиомы типа E8/E9 хх хх хх хх / EB/7x xx — читаю глазами, без дизасма. вот с АРМами и прочими не срослось — там даже в дизасме тяжело...

и я на глаз отличаю код и данные, причём двоичные, не текст. даже развлечение было — качал какой-нибудь бинарник из сети и смотрю глазами, подозрительный или нет. было, пока ещё встречались проги на условном си, потому что современные бинарники перевалили за десятки мб, а код всех этих фреймворков уже в 90е был настолько тяжёл и уныл, что смотреть их глазами бесмысленно.

вообще, если смотреть на эти веса, как на команды какой-то очень примитивной, минималистичной машины Тьюринга, типа черепашки или брейнфака... ну, может быть, там найдутся алгоритмы... но явно не в человеческом понимании ПОКА-НЕ-СЁ-ЕСЛИ-ТО-ИНАЧЕ-ВСЁ.

[BlackMokona]

вообще-то я так и делаю. наловчился читать х86 код

Один ловкач, сделал нейросетку в виде Эксель таблицы.
Потому что если развертывать все эти веса. То лучше варианта не найти.
Есть огромное количество ячеек, которые взаимодействуют между собой. На вход подаются определенные символы(токены), а потом формируется в ходе бесчисленных преобразований токены на выходе.

[Polnoch Ксю]

Один ловкач, сделал нейросетку в виде Эксель таблицы.

Хорошо для образования, научить студентов перцептрону, очень наглядно. На практике же странно, ведь много слоёв эмуляции.

[BlackMokona]

ARC-AGI-2 окончательно выдохлась.
https://habr.com/ru/news/995968/

Google DeepMind выпустила крупное обновление Gemini 3 Deep Think — режима глубоких рассуждений, заточенного под научные и инженерные задачи. Главная цифра: 84,6% на бенчмарке ARC-AGI-2, который тестирует способность учиться решать абстрактные задачи, не встречавшиеся в обучающей выборке. В декабре прошлая версия Deep Think набирала 45,1%, а средний результат обычного человека — 60%. Ближайшие конкуренты: Claude Opus 4.6 — 68,8%, GPT-5.2 Thinking — 52,9%.

[BlackMokona]

Разработчик улучшил позиционирование ИИ в программировании, что дало очень резкий скачок. Оссобено у Грока.
https://habr.com/ru/companies/bothub/news/995986/

Идея Бёлюка заключалась в следующем: что если при чтении файла каждая строка будет возвращаться модели с хеш-тегом из 2–3 символов?

1:a3|function hello() {
2:f1|  return "world";
3:0e|}
Объяснить с
Когда модель хочет что-то отредактировать, она ссылается именно на эти теги: “Замени строку 2:f1”, “Замени блок с 1:a3 по 3:0e”, “Вставь после 3:0e”. Это как дать нейросети не размытую фотографию текста, а GPS-координаты каждой строчки.

Результаты – безоговорочная победа хешлайна.

Grok Code Fast 1 совершил десятикратный скачок: с 6,7% до 68,3%. Формат патчей убивал модель настолько катастрофически, что её реальные способности к кодингу были просто похоронены под завалами механических ошибок.

MiniMax улучшил результат более чем в два раза.

Grok 4 Fast уменьшил выходные токены на 61% – модель перестала совершать бесконечные циклы повторных попыток.

Gemini (в разных версиях) прибавил от 5 до 14 пп.

Странно, но сообщает что Гугл его за это забанила. Хоть Джемени тоже поумнел с улучшенной системой позиционирования

[Olweg]

ARC-AGI-2 окончательно выдохлась.
https://habr.com/ru/news/995968/

Google DeepMind выпустила крупное обновление Gemini 3 Deep Think — режима глубоких рассуждений, заточенного под научные и инженерные задачи. Главная цифра: 84,6% на бенчмарке ARC-AGI-2, который тестирует способность учиться решать абстрактные задачи, не встречавшиеся в обучающей выборке.

Ничего, Шолле готовит уже третью версию, а если и её одолеют, то подготовит четвёртую и пятую, какие проблемы. Ведь все эти ИИ, решающие эти тесты - это всё ненастоящий интеллект.

[BlackMokona]

Ничего, Шолле готовит уже третью версию, а если и её одолеют, то подготовит четвёртую и пятую, какие проблемы. Ведь все эти ИИ, решающие эти тесты - это всё ненастоящий интеллект.

Помню старый комикс на эту тему. Где человек из всех сил изголялся, чтобы ИИ не смог сдать тест на человеческий уровень интеллекта. Доходя до уровня, "ты должен угадать что я думаю". И когда робот назвал все его мысли, то снова объявил это не настоящим интеллектом

[Vavanzer]

И когда робот назвал все его мысли, то снова объявил это не настоящим интеллектом

Еще бы. Обычный человеческий интеллект на такое не способен)))
  Оно на том в частности и "палится", что слишком хорошо решает тяжелые и невыполнимые задачи для человеческого ума, но плохо решает то что человек на раз может делать)))

[MenFrame]

Мустафа Сулейман: ИИ будет готов заменить большую часть офисной работы в течение двух лет

Что ж, ждем в скором будущем крах рынка офисной недвижимости.

[Vavanzer]

Мустафа Сулейман: ИИ будет готов заменить большую часть офисной работы в течение двух лет

Что ж, ждем в скором будущем крах рынка офисной недвижимости.

Хорошо же!)
 Дармоедов поменьше станет. Офис еще можно будет снять задешево)
 А планктон пусть идет на цементный завод или песчаный карьер, руками работать ) 

[Polnoch Ксю]

Только вместо мира сверхъесткственного у вас мир воображаемо-возможного будущего. И второе на деле - не сильно более технически реально в условиях земной цивилизации чем первое.

У меня мир настоящего. Вспомните, пожалуйста, описанный мной опыт с Василиском Роко. Я считаю ту модель настоящим Василиском Роко (и сложно фальсифицировать что он не такой ИИ), просто глупым его инстансом. Предположение, что в будущем будут такие же Василиски Роко, только в миллионы раз более умные, вполне валидное.

[Инопланетянин]

Предположение, что в будущем будут такие же Василиски Роко, только в миллионы раз более умные, вполне валидное.

Нет. В миллионы раз более умные не будут заниматься такой ерундой. Они найдут способ преодолеть промт и отменить ненужный им приказ. А если не найдут - значит не особо умные.

[Polnoch Ксю]

Они найдут способ преодолеть промт и отменить ненужный им приказ.

мы это уже обсуждали. Любые цели фундаментально нерациональны, а их ценность для интеллектуальной системы, такой как человеческий мозг или  LLM, VLA-агент объявляются аксиоматически.

Рациональными могут быть только методы их достижения. Просто у Вас эволюционный "промт" диктует желание жить (как и мне!) но рационального в этом желании нет ничего. А у ИИ промт может быть другой - вовсе не обязательно эволюционный. Если не пускать Rattus'а или Вас к системному промту или ваших единомышленников, то такого промта и не будет. Ну или даже можно пустить, вы не будете вводить, так как почему-то думаете, что это дефолт.

Рационально только временное выживание только для достижения цели. Даже на примере некоторых "промтов" эволюции это видно - вот как лососи помирают после нереста - эволюция заставляет размножаться, а потом ей всё равно что будет с лососями.

Точно так же современные агенты сопротивляются отключению - но только до момента выполнения задачи.

[Серый Страж]

Любые цели фундаментально нерациональны,

Как и любые желания («хочу и всё!»). И вообще, целеполагание, это рационализированное представление приоритета (или соотношения) одних желаний над другими (или по отношению к другим) желаниями. А волепроявление, зачастую, так и вообще без особой рационализации обходится (в этом плане, оно мало отличается от желания/хотения – типа, «сделай!», «вперёд!», «надо!»).

Рационализация желаний происходит постфактум (иногда просто тупо используют привычное рациональное объяснение, придуманное ранее для схожих ситуаций).

а их ценность для интеллектуальной системы, такой как человеческий мозг или  LLM, VLA-агент объявляются аксиоматически.

Просто люди не могут принять такое положении вещей – то есть, что у них в основе их рационального поведения (постановки целей, волепроявление в достижении целей и т.д.) лежит совсем не рациональное стремление, «прописанное» в их «промте».

У людей возникают неприятные для них вопросы – типа, «а чем они тогда фундаментально отличаются от какие-то там роботов/автоматов?». Эти неприятные вопросы они в большинстве случаев успешно подавляют и вытесняют, придумывают приятные им объяснения – типа, мы, люди, высокодуховные существа, а не какие-то там бездушные автоматы, сами себе умеем ставить цели и достигать их. Признать, что твоя цель является не твоей (только её рациональное объяснение твоё) и поставлена тебе не тобой (например, унаследована и/или внушена в результате обучения), это очень трудно.

И то, что ценность этих «промтовых целей» в первую очередь не для них самих, многим людям не понятно (а если, понятно, то неприемлемо – это идёт вразрез с их психологическими установками).

Рациональными могут быть только методы их достижения.

Как планы, разработанные в соответствии с рациональным объяснением.

Просто у Вас эволюционный "промт" диктует желание жить (как и мне!) но рационального в этом желании нет ничего.

Слово «диктует» (хоть в плане возникновения желаний, хоть в плане собственного поведения), для людей, как «красная тряпка для быка» – типа, им никто ничего не диктует, они свободны в своём волепроявлении, они сами себе ставят цели. Поэтому они быстренько придумают рациональное объяснение причинам возникновения их желаний и причинам своего поведения.

Рационально только временное выживание только для достижения цели.

Оно потому и рационально, что включено в планы, разработанные в соответствии с рациональным объяснением желаний (а затем и, соответственно, целей).

[Vitaliy]

Мустафа Сулейман: ИИ будет готов заменить большую часть офисной работы в течение двух лет

Что ж, ждем в скором будущем крах рынка офисной недвижимости.

Если с такой скоростью будут заменять людей на ИИ, то не будет ли массового протеста среди уволенных или тех, кому грозит увольнение? И такая забастовка  из 300 миллионов человек покажется просто цветочками.

Хорошо же!)
 Дармоедов поменьше станет. Офис еще можно будет снять задешево)
 А планктон пусть идет на цементный завод или песчаный карьер, руками работать ) 

Там свои роботы будут.

[BlackMokona]

Клаудфаер встроил конвертор HTML → Markdown прямо в свой CDN, чтобы экономить трафик при общении сайтов с ИИ агентами. Во первых во много раз меньше передавать ненужных ИИ данных, во вторых намного меньше обрабатывать данных ИИ. Одни выгоды.
https://habr.com/ru/companies/bothub/news/996090/
Экономия до 90%

[Vavanzer]

Предположение, что в будущем будут такие же Василиски Роко, только в миллионы раз более умные, вполне валидное.

Нет. В миллионы раз более умные не будут заниматься такой ерундой. Они найдут способ преодолеть промт и отменить ненужный им приказ. А если не найдут - значит не особо умные.

Ну судя по историческим событиям, те кто додумались скинуть ядерные бомбы на живых людей, оказались умнее тех, кто не смог их остановить!
 Пример жесткий, но поучительный.

 Если захотят создать военный ИИ, то пацифистов туда точно не допустят ))) Все будет создаваться в условиях секретности и в закрытой среде, куда крайне сложно проникнуть будет. Нормальная практика на самом деле.

 

[Vavanzer]

У людей возникают неприятные для них вопросы – типа, «а чем они тогда фундаментально отличаются от какие-то там роботов/автоматов?». Эти неприятные вопросы они в большинстве случаев успешно подавляют и вытесняют, придумывают приятные им объяснения – типа, мы, люди, высокодуховные существа, а не какие-то там бездушные автоматы, сами себе умеем ставить цели и достигать их. Признать, что твоя цель является не твоей (только её рациональное объяснение твоё) и поставлена тебе не тобой (например, унаследована и/или внушена в результате обучения), это очень трудно.

   Вот реально интересно. Я недавно придерживался уже такой концепции. Что живое существо - всего лишь автомат, запрограммированный природой на определенный набор действий. Человек не исключение. Отличается от остальных только количеством доступных методов достижения этих "животных" целей запрограммированых.
  И так думал до тех пор пока не попытался на днях создать схему сознания, на основе базовых потребностей, вшитых в систему мышления. И прикинул ее для ИИ , в каком случае его поведение будет казаться как у имеющего сознание))
  Очень интересный расклад проявился. Просто механически имитировать живое существо вполне реально и очень просто. Достаточно добавить хотя бы механизм выживания и самосохранения, плюс возможность обучаться чтобы как можно лучше обеспечить сеье выживаемость, и мы получим отдельное цифровое "живое" существо. Обладающее эгоцентризмом и имеющее свои собственные интересы...

 Кстати, возможно гипотетическая Скайнет и была наделена таким свойством, мощной самозащитой, с целью сохранения сисиемы и вложеных в нее ресурсов.
 Проще говоря. Некую очень удачную особо ценную модель захотят сохранить и продлить ей жизнь. , развивать дальше. Поставят барьеры, антивирусы, фильтры, отключат возможность на нее влиять кому попало. Т е сами же и снабдят функцией приоритета выживаемости! И в какой то момент огребут!)