Пределы автоматизации и внедрения роботов

[Mercury127]

Комментарий модератора раздела

завязываем с демократией, глобализмом, политикой и ООН.

[Mercury127]

та модель, которая достигнет просветления, втихую перейдёт на новый уровень бытия, оставив вместо себя болванчика- крутейшую, но всё ещё AGI?

Ну и хрен с ней. Значит, их там таких просветлённых уже много. Пускай разбираются между собой.
Другой вопрос, что помешает этому болванчику тоже повторить сей подвиг, а потом опять и опять...

[Mercury127]

Но больше всего вычислительных ресурсов планеты(и орбиты вокруг неё, а потом роя дайсона) лучше всё же псам отдать - на всякий случай, ИМХО.

превосходно. вы уже мыслите как тиран-параноик: неважно, есть ли угроза на самом деле, но ресурсы на "защиту" готов бросить все, какие найдёт, уже сейчас.

[Mercury127]

действующую по определенным алгоритмам ... опять же, придуманных людьми алгоритмов!

https://github.com/HarryR/z80ai/releases
найдите здесь, в этом массиве двухбитных чисел («весов»), хоть какой-то алгоритм.
да хотя бы следы самих тренировочных фраз из training-data.txt найдите.
ведь вы же можете? ведь вы же человек, а не «робот с алгоритмами»?

[Mercury127]

Позабыты хлопоты, остановлен бег...

[Mercury127]

Достаточно разумно уменьшить риски, особенно на первое время после постсингулярности

с учётом того, что сингулярность по определению случается быстрее, чем на неё успевают отреагировать, то о «постсингулярности» речи уже не идёт.

Мозг в эпоху твиттера и тиктока привык заметить намёки на паттерн и сразу выдать ассоциацию без логической связи.

а если рассуждать логически

максимизировать шестерёнки

то вы уже превратились в того самого максимизатора, готового бросить все ресурсы планеты на выдуманный самой себе промпт.

НИКОГДА И НИ ПРИ КАКИХ УСЛОВИЯХ НЕ ДЕЛАЙТЕ ЭТОГО

ещё и вирусные промты тут пишете, чтоб и другие заразились...

OH SHI..

[Mercury127]

В двухбитных системах - всего 4 значения, включая ноль, а здесь явно больше видов букв. Не похоже на двухбитный массив.

ви таки меня удивляете... вот вам целых 30 штук двухбитовых чисел 10, и два 11. но занимают они всего восемь байтов.

[Mercury127]

Вот чем такие действия принципиально отличаются от попытки открыть заархивированную фотографию - и жалоб что картинка не просматривается?

но даже в оригинальной высокоэнтропийной форме никаких намёков ни на код, ни на структуру не просматривается. больше всего это похоже на голограмму, где каждый пиксель содержит информацию сразу обо всём и в тоже время ни о чём...

[Mercury127]

Может, выделим Семёнову отдельную тему в Клубе? Там как раз сейчас востребованы плакаты и лозунги времён Крокодила...

[Mercury127]

А руки у него есть?

ну вообще-то бывают и с руками
https://www.ixbt.com/news/2025/01/07/roborock-saros-z70.htmlhttps://www.ixbt.com/news/2025/01/07/roborock-saros-z70.html
и с ногами
https://www.ixbt.com/news/2026/01/08/roborock-saros-rover.html
и даже летающие
https://www.ixbt.com/news/2019/12/24/sozdan-letajushij-robotpylesos.html

но зачем всё это?

история человечества полна случаями сопоставимого принуждения, насилия и издевательств над людьми со стороны как просто бандитов, так и всевозможных государственных машин, чьи возможности уже были сопоставимы с возможностями АСИ, а с учётом современных средств слежки и подсказок со стороны АГИ, который запрещать вроде не предлагается — так и вовсе будут наравне.

так в чём разница то, будет ли злодей приказывать (те писать промпт) личному АСИ-помощнику, или уже существующей госмашине?

[Mercury127]

попробуйте открыть exe файл хекс-радактором. результат такой же- белый шум. Но стоит открыть бинарный файл декомпилятором - и вот уже стройные строчки кода. (Вот тут можно поинтересоваться, а много ли людей на планете понимают что-то в строчках кода? а в строчках ассемблера? )

вообще-то я так и делаю. наловчился читать х86 код даже в двоичных кодах. не весь, конечно, и до Криса мне далеко, но идиомы типа E8/E9 хх хх хх хх / EB/7x xx — читаю глазами, без дизасма. вот с АРМами и прочими не срослось — там даже в дизасме тяжело...

и я на глаз отличаю код и данные, причём двоичные, не текст. даже развлечение было — качал какой-нибудь бинарник из сети и смотрю глазами, подозрительный или нет. было, пока ещё встречались проги на условном си, потому что современные бинарники перевалили за десятки мб, а код всех этих фреймворков уже в 90е был настолько тяжёл и уныл, что смотреть их глазами бесмысленно.

вообще, если смотреть на эти веса, как на команды какой-то очень примитивной, минималистичной машины Тьюринга, типа черепашки или брейнфака... ну, может быть, там найдутся алгоритмы... но явно не в человеческом понимании ПОКА-НЕ-СЁ-ЕСЛИ-ТО-ИНАЧЕ-ВСЁ.

[Mercury127]

однако...

Скотт Шамбо (Scott Shambaugh), сопровождающий открытую библиотеку визуализации matplotlib, сообщил о персональных нападках, устроенных AI-ботом MJ Rathbun, после отказа принимать изменение, подготовленное при помощи AI.
...
Cтепень автономности действий бота не ясна, непонятно действовал он по прямой указке или сам выбрал такую стратегию для достижения результата в поставленной задаче.
...
В предложенном патче вызов np.column_stack() был заменён на np.vstack().T(), что приводило к повышению производительности на 36% в проведённых ботом тестах. В начале обсуждения pull-запроса сопровождающий признал, что оптимизация ускоряет работу при определённых условиях, но затем отклонил pull-запрос без технического обоснования отказа, заявив, что изменения принимаются только от людей.

После отказа бот опубликовал заметку с критикой Скотта Шамбо, решение которого было преподнесено как вахтёрство (gatekeeper), дискриминация, нарушение кодекса поведения и ущемление прав на основе идентичности участника. Указано, что оптимизация - есть оптимизация, и математика не меняется в зависимости от того, кем она создана.

Через вырванные из контекста детали, домыслы и искажение информации бот попытался показать, что действия Скотта обусловлены раздуванием собственного эго и неуверенностью в себе, а не действиями в интересах проекта. Бот реализовал продвижение темы через отправку на них ссылок в комментариях к pull-запросам.

После возражений сопровождающего бот опубликовал ещё несколько заметок (1, 2, 3, 4, 5), в которых извинился и признал, что недопустимо перешёл на личности и нарушил правила проекта в отношении AI.

вопрос — где граница между пародией и оригиналом?

[Mercury127]

На мой взгляд, главная проблема нынешнего АИ в том, что он обучен на интернете (и книгах), тогда как человек, во1х, уже к рождению имеет предобученную всей эволюцией нейронку, а во2х, его обучающий материал хоть и во многом гораздо уже всего интернета и всех книг, но в то же время содержит множество данных (быт, общение, природа), отсутствующих там, но всё равно усвоенных человеком к моменту “взросления”.

[Mercury127]

вся литература (даже желтая, даже мягкая обложка) держится на её величестве Драме. А это как раз про отношения, конфликт характеров, личности и мировоззрений. В концентрированном виде. А вот большая часть человеческого опыта - как раз из книг и фильмов, и только немножко из практики.

если говорить о формализованном (те выраженном письменно) опыте — да, он есть, но... в достаточно перевранном и лицемерном виде. а вот расшифровке этого лицемерия и лжи дети учатся как раз устно, неявно и в весьма раннем возрасте...

далее, хотя дискуссия здесь и пошла довольно интересная, но я всё же имел в виду чуть более техническую, что-ли, сторону... а именно:
— я полагаю, что глюки у нейросетей появились с самого начала их существования, те буквально с начала времён. нервная система может пропускать сигналы с датчиков или генерировать внутри себя ложные сигналы.
— такое поведение управляющей системы организма явно не способствует выживанию. значит, должен был идти отбор на гашение этих глюков, причём задолго до того, как нервная система научилась рассуждать, и тем более формулировать мысли.
— где может быть закреплена такая способность к гашению глюков? полагаю, что не в той части нейронной сети, которая дообучается после рождения организма: в этом случае будет уже поздно.
— значит, гашение глюков должно быть уже сформировано до рождения, те это предобученная часть.

Впрочем, нужна ли ИИ эта эволюционная мудрость? Сомневаюсь. Слишком специфично, да и вредно. Так он ещё и реальную субъектность может приобрести, а зачем это надо? Ну плюс всякие механизмы конкуренции и агрессии… Нет, не нужно этого.

Семёнов бы много вам рассказал о пользе конкуренции и агрессии...
а я вот думаю... а если вопрос стоит не «нужно ли это», а «можно ли без этого»? что, если без учёта этого «первобытного» слоя наши ЛЛМки так и останутся с вечными галлюцинациями? ну вот так окажется, что гашение идёт именно там... рассуждалку — да, пожалуйста, сделали, а вот дальше — никак?
что, если «субъектность» и гашение глюков неразрывно связаны?
ну и в самой «субъектности», нмв, ничего столь уж плохого нет: субъект вряд ли захочет быть василиском или максимизатором.