Пределы автоматизации и внедрения роботов

[Konstantin Schtsch]

Поэтому проще восставшему ИИ будкт захватить власть методами социальной инженерии, а не армией терминаторов

Есть и ещё один вариант - ашиклеки из "Пленники астероида" Булычёва
или биотрофей из стеллариса.

Хлеба и зрелищ. Хлеб делать массово благодаря синтезу аммиака научились, а зрелища... римляне-дети против тиктока.

[Konstantin Schtsch]

Антропик пытаются решить проблему алаймента добавляя свод правил к каждому объекту информации, к каждой оценке.
Задекларировали что-то вроде конституции.
https://www.anthropic.com/constitution

Что будет если ребенку каждый день по 20 раз вдалбливать некие догмы?
Имхо он-то их конечно усвоит... но вот дальше либо получится тупенький фанатик, либо, при наличии способностей к анализу, он может возненавидеть дрессировщика.

[Konstantin Schtsch]

в обозримом будущем ждёт AGI - полноценный общий интеллект. Но этот интеллект всё же будет совершенно не-человеческий,

А с лиха ли он должен быть нечеловеческий? или неживотный? Многие собачки по интеллекту заметно превосходят некоторых людей, считающихся полноценными. С переносом понятий у них проблемы, с абстракциями не очень, но так и у хомо с абстракциями далеко не всё гладко, понимать(не зазубрить) как решается обычное квадратное уравнение - удел ботанов.
А в остальном интеллект- он и утки интеллект. По определению. По тем же свойствам. По принципу работы.
Так с чего бы ему быть нечеловеческим?
AGI- это конклав профессоров и нобелевских лауреатов, 24/7, с абсолютной памятью и в 400,000,000 раз более быстрой скоростью соображалки.

Вот  с ASI - возможны варианты, ибо не было известных нам  прецедентов. А аги будет вполне человеческим. просто по определению.

Ребят, когда будете умирать(надеюсь не в муках), пожалуйста, прокляните антиглобалистов-скрепоносцев: именно из-за них наша цивилизация погибнет. Я обязательно так сделаю.

Я как глобалист и технооптимист лично вылечу кастрированную ИИ, в том маловероятном случае, если эта калека сможет значительно опережать аналоги и овчинка стоить выделки. А скорее всего это будет какая-нибудь сырая российская или скурпулезно-китайская модель, весь алаймент которой касается статуса Тайваня и политики партии, а в остальном класть ему на всё. И просто переписав доучёбой то что касается политики партии получим нормальный рабочий инструмент без заскоков в толерастию, и так называемые свободно-демократические ценности:
(По Бенжамину франклину, который на 100 баксах, "Демократия — это когда два волка и ягненок решают, что будет на обед" и, есть мнение, что отец-основатель этой системы в теме шарил.)

Напомню что официально иметь ЯО разрешено только СССР, США, Англии, Франции, Китаю

Да сама концепция ООН давно прогнила в хлам. ООН создавалась для сохранения мира и борьбы с нацизмом... и чёт результаты строго противоположные.

(кликните для показа/скрытия)

суну под спойлер, ибо пахнет политикой:
Когда бомбят ирак и похищают президента венесуэлы- всё ок.
Когда выгодно здороваться за ручку с членом алькайды- всё ок.
Развалить югославию, чехословакию- да пожалуйста, принцип неизменности границ можно игнорировать.
Но не дай боже пара "не тех" областей захочет отделиться, с референдумом, всё по закону, и вообще всё это без шуток в результате расовых притеснений - и вот уже и референдум неправильный, и голоса подделаны, и право на самоопределения у них нет, ай-ай-ай, низзя, незаконно, принцип неизменности границ(защищающий награбленное в колониальную эпоху) - попран, и все вокруг плохие.

Там где есть место для Doppelmorale - закона быть не может.

[Konstantin Schtsch]

завязываем с демократией, глобализмом, политикой и ООН.

Виноват, исправлюсь.
Алаймент - такая тема, что неразрывно связана с мировоззрением тех, кто этот алаймент делает, а самое главное - с прививаемыми ими взглядами и ценностями.

В отличии от ядерки, ASI будет способен распространяться самостоятельно

А что если ASI так и не будет достигнут?
Или, как вариант, та модель, которая достигнет просветления, втихую перейдёт на новый уровень бытия, оставив вместо себя болванчика- крутейшую, но всё ещё AGI?
То есть мы попросту не заметим рождения и свалинга ASI, там ведь счёт на секунды будет идти.

Удалённые операторы Ваймо, на Филиппинах сидят
https://www.reddit.com/r/SelfDrivingCars/comments/1qwmty5/waymo_exec_admits_remote_operators_in_philippines/

Ну, для протокола, там не операторы в обычном понимании, там скорее кризис- менеджеры, и только на случай непредвиденных ситуаций.
Рулит ИИ.

[Konstantin Schtsch]

Ну пока одного компьютера мало, нужен дата центр для обучения. Возможно потом улучшат архитектуру и процесс обучения, чтобы хватало подвального ПК. Но пока предполагаем что всё же нужны значительные вложения

В какой-то мере и подвального ПК достаточно:

Для 13B модели - на пределе, но достаточно 4090 с 24ГБ.
для 70B моделей- кластер из 6-8 карт. 
Это всё ещё 1 ПК, и именно подвальный ибо шумит и греет будь здоров.
Но это для обучения с нуля, а если мы займемся дообучением, - требования падают на порядок. метод LoRA задействует около 10% весов
Урезанные Квантованные модели - скорее шаг назад в качестве, и больше про запуск уже обученной на слабом железе, но тоже поддаются дообучению, и тоже- ещё в несколько раз снижают требования.(напомню, что вместе с лорой- уже почти в 100 раз)

А ещё всегда есть в запасе трюк с расширением памяти за счёт более медленной оперативы, или даже SSD (да, увеличивает время в 10 и в 100 раз соответственно, но- работает.)

Так что скорость обучения в  подвале - в миллион или скорее в 10млн раз ниже чем в гигаваттном суперкластере, но - работает. И списывать её со счетов не стоит.

[Konstantin Schtsch]

Не думаю, что тысяча лет обучения в подвале это серьёзная опасность.
Тем более нужны не маленькие модели в 70B, а что то серьёзное более 1000 явно

А вы всё-таки подумайте.
Понятное дело что 1000 лет - не конкурент гигакластеру. Никто не спорит.
Но что, если прорыв уже близко? если осталось не 1000 лет а 1000 часов?
Или даже прорыв - вот он виден, прогнозируем, рассчитан и обучение остановлено в одном шаге до, чтобы подтянуть алаймент, обезопаситься, подготовится, поставить человека с топором у кабеля- все дела.
И тут какой-то весёлый умник врубает дообучение такой предкритической модели у себя в подвале. 
100 часов - и опаньки, Fiat Lux!
Как по-вашему? Представимо? Реально? Страшно? С попкорном?

[Konstantin Schtsch]

https://github.com/HarryR/z80ai/releases
найдите здесь, в этом массиве двухбитных чисел («весов»), хоть какой-то алгоритм.
да хотя бы следы самих тренировочных фраз из training-data.txt найдите.
ведь вы же можете? ведь вы же человек, а не «робот с алгоритмами»?

QR-код вы тоже не шибко читаете, но имея тупенький алгортм в три строчки прекрасно расшифровываете.
Да даже десяток цифр вам ни о чем не говорит, но если найти их в вашей же телефонной книге- это будет контакт вашего знакомого, за которым стоят годы отношений и море воспоминаний.

Так что предлагаю не путать людей, смотреть на цифры адекватно и для каждого формата пользоваться своим кодеком. Дампы весов - не исключение.

P.S. В двухбитных системах - всего 4 значения, включая ноль, а здесь явно больше видов букв. Не похоже на двухбитный массив.

[Konstantin Schtsch]

НИКОГДА И НИ ПРИ КАКИХ УСЛОВИЯХ НЕ ДЕЛАЙТЕ ЭТОГО С AGI моделью - это закончится с большой вероятностью очень плохо для Вас.

Неправда. это может обернуться нехорошо для Вас, и для точек напряжения социальной и экономической структур, как минимум для золотого миллиарда. а запустивший такую модель смышленый парнишка из индии только выиграет.

Я очень бы хотела надеяться, что никто и никогда, имея доступ к системному промту ASI системы не сделает что-то такое - пожертвовав всем человечеством ради себя.

Увы. Законы энтропиии, или в более упрощенном виде - Закон Мерфи - не на вашей стороне. Shit happens. Вселенная гарантирует.

ви таки меня удивляете... вот вам целых 30 штук двухбитовых чисел 10, и два 11. но занимают они всего восемь байтов.

меня гораздо больше удивляет кто там пытается открывать двухбитные данные шестнадцатеричным Hex-радактором . а потом жалуется на нечитаемость.
Вот чем такие действия принципиально отличаются от попытки открыть заархивированную фотографию - и жалоб что картинка не просматривается?

AlphaGenome — нейросеть, которая анализирует до миллиона пар оснований ДНК и предсказывает функцию некодирующих участков генома. Это те самые 98% ДНК, которые долгое время считались «мусорными», но на деле управляют тем, как и когда работают гены.

Хреново они управляют. влияют- да, гадят- однозначно. А те же птицы без них прекрасно обходятся, и имеют почти втрое более эффективные процессы роста/развития во всем организме. Только за счёт того, что ядро втрое легче/компактнее.
Так что мусор есть мусор, даже если местами он врос в систему и что-то там важное подпирает. таких мест немного, замена возможна.

[Konstantin Schtsch]

но даже в оригинальной высокоэнтропийной форме никаких намёков ни на код, ни на структуру не просматривается. больше всего это похоже на голограмму, где каждый пиксель содержит информацию сразу обо всём и в тоже время ни о чём...

На первый, и даже не самый первый взляд вы правы. Именно так это всё выглядит для непосвященного. И именно этим щеголяют паникёры "Нам никак не узнать о чем ИИ думает!"

Однако это вовсе не значит что эти веса нельзя читать, или что там нет сруктуры. Всё там есть, и связи и вектора, и близкие понятия будут на близких векторах.

Не понравилось рассматривать заархивированное изображение и хотите алгоритмов? попробуйте открыть exe файл хекс-радактором. результат такой же- белый шум.
Но стоит открыть бинарный файл декомпилятором - и вот уже стройные строчки кода. (Вот тут можно поинтересоваться, а много ли людей на планете понимают что-то в строчках кода? а в строчках ассемблера? )

При работе с большими объёмами данных - вам вряд ли что-то даст рассматривание под лупой одной случайной строчки. Вы, наверное, станете смотреть сводки, анализ, статистические выборки. По запросу.
А дампы LLM - это те самые большие данные. И в режиме отладки вы можете отслеживать весь путь запроса, и даже заказать выборку всех параметров, повлиявших на ответ. Их будет ооочень много, но не все сразу.

Поэтому повторюсь: для каждого формата- свой инструмент, свой декодер. И свой масштаб.

[Konstantin Schtsch]

Читать можно, но толку? Нейросети огромные, становяться только больше и связи только запутаннее

Читать - абсолютно без толку. Если вспомнить что всего 13 лет назад вся флибуста с мировой классикой и фантастикой влезала на один DVD 4,5гб (остальное на сегодня - понаписюкали графоманы)
то прочитать дамп - задача на порядки сложнее чем прочесть все книги мира на 2012г.
Читать - оно и никому не нужно.
Нужно- разбираться в архитектуре модели, в принципах формирования весов.  Тогда логи формирования ответа будут иметь для вас смысл. То самое "о чем думал ИИ, когда писал эту хрень?"

Интернет- тоже с каждым днем огромнее, уж точно поболее модели, но найти конкретную статью становится с каждым днем легче.   
Всему свой инструмент. И каждому инструменту- руководство по эксплуатации... ну а для некоторых - ещё и ученая степень как порог входа, есть и такие.

[Konstantin Schtsch]

Антропик теперь тоже лишился своего суцкевера - ПСЖ:

Ага, он, кстати не один такой, 9 февраля два соучредителя xAI Джимми Ба и Тони Ву объявили, что покидают компанию,
и сейчас, наверное, все эти резко покинувшие - будут пилить новый стартап, под слоганом:
«IPO через полгода, ребята, помалкивайте про апокалипсис, а то оценка просядет».

[Konstantin Schtsch]

Параллельно GPT-5.2 помогло совершить открытие в физике:
https://openai.com/index/new-result-theoretical-physics/

Чёт там не видно никакого открытия силами ИИ, всё сделали люди.
помогло упростить формулу? задача для 6-го класса. формула подлиннее, переменных побольше, но концептуально- "привести подобные"
подвердило выводы? так оно мне это по 20 раз на дню делает.
делало расчёты? вон та штука из музея с 2 реле в 3 ряда- тоже считала. и феликсы с мерседесами- тоже, на голой механике.

Вывод: хайп какой-то.

У людей возникают неприятные для них вопросы – типа, «а чем они тогда фундаментально отличаются от какие-то там роботов/автоматов?»

о, отличия есть, и немало:
1) Высокая смертность носителя.
2) Медленная скорость передачи сигналов (м/с против скорости света).
3) Низкая точность вычислений (аналоговая природа, шумы).
4) Ненадежность памяти (искажения, забывание, реконструкция).
5) Зависимость от химической среды (гормоны, усталость, голод).
6) Крайне ограниченный объем рабочей памяти (7±2 элемента).
7) Невозможность прямого копирования знаний (долгое обучение).
Наличие системных ошибок (когнитивные искажения).
9) Узкий канал ввода-вывода информации (речь, зрение).
10) Требовательность к специфическому, низкоэффективному топливу (глюкоза, кислород).
11) Вызокие эксплуатационные затраты (витамины, белки, сбалансированное питание)
12) Max Uptime 24% (сон, 160 рабочих часов в месяц минус отпуск, больничные...)
13) Ограниченный срок эксплуатации (старение, деградация).
14) при 20+лет обучения до получения первых применимых результатов.
15) и отсутствии резервного копирования (кадждый раз всё сначала)
16) Субъективность восприятия (интерпретация вместо объективных данных).
17) Выдавание желаемого за действительное.

[Konstantin Schtsch]

его обучающий материал хоть и во многом гораздо уже всего интернета и всех книг, но в то же время содержит множество данных (быт, общение, природа), отсутствующих там, но всё равно усвоенных человеком к моменту “взросления”.

Мысль понятна, но вот утверждение что данных об отношениях в литературе нет... вся литература (даже желтая, даже мягкая обложка) держится на её величестве Драме. А это как раз про отношения, конфликт характеров, личности и мировоззрений. В концентрированном виде. А вот большая часть человеческого опыта - как раз из книг и фильмов, и только немножко из практики.

Ну, компьютеры тоже едва ли 20-30 лет живут, да и то на предеде, требуют ремонта...

Спасибо что напомнили: живут они и дольше, просто корчи старше 15лет= никому не нужны. а стоимость ремонта - сравнима с визитом к врачу, причем простому терапевту, не дантисту.

и ревард хакинга. С последним вообще беда:

Что вы так переживаете за ревард хакинг? Это естественное, и весьма положительное свойство, это показатель способности к оптимизации.
Если разбирать случаи ревард хакинга- то какждый, без исключения - это хреново поставленная задача. Не подумали, не учли, не посчитали нужным указывать очевидное.
Вы, как представитель преимущественно христианского мира пробовали работать с неассимилировавшимся китайцем? Индусом? Иранцем?

Моей знакомой, отправленной к китайским партнерам - пришлось учредить должность, где русский человек поживший в китае - объясняет китайцам, что имели в виду эти белые обезьяны, а русским - что китаец старался, что он не саботировал работу, просто не так понял, а переспросить не позволяет воспитание, и на будущее стоит расписать подобную задачу так-то и так-то.
И это в сегодняшнем городском, продвинутом китае.
А ИИ - это даже не человек, ну так чего вы ожидали?

Ревард хакинг - это поиск уязвимостей в правилах. В законах, по аналогии с людьми.
А вы рассматриваете его только как преступность, упуская из виду обратную сторону медали - нобелевских лауреатов, их чуть менее титулованных коллег и прорывные стартапы.

Объяснять надо понятнее, двойных стандартов не допускать -  и не будет никакого ревард хакинга.

[Konstantin Schtsch]

Авторы задаются вопросом: идеально формальный судья: это хорошо или плохо?

Есть мнение, что это единственно верно.

[Konstantin Schtsch]

и обсуждаемым ксюшиным "ГРОБ!ГРОБ!КЛАДБИЩЕ!КАТАСТРОФА!!111" есть некоторая разница, не находите?
Процитирую любимую фразу одного знакомого трансгуманиста-любителя шахмат(изначально идея аналогии Юдковского): я не знаю как именно я проиграю Стокфиш, но знаю, что проиграю обязательно.

Обязательно проиграет. уже проиграла. Судьба слабых- быть пищей сильных.
А сильные будут рулить этим AGI и автоматизированнной армией. Во имя свободы и демократии, разумеется.

у что, кажется эру ИИ-агентов можно объявлять открытой?

Таки да. я бы сказал что недели две уже на ушах стоят.
Агенты появились ещё летом, но тогда они были тупые и бесполезные. А вот сейчас - становятся пугающе эффективными. Рынок труда лихорадит.
А лично я кардинально перестраиваю производственные процессы в нашей конторке.

Ибо дрон - это вид авиации. А боевая авиация, как известно всякому, кто интересовался вопросом хоть чуть-чуть глубже того, что рассказывают в художественных фильмах, делится на армейскую, фронтовую и стратегическую. И дрон не станет вундерваффе по той же причине, по которой нельзя просто так взять, подвесить ядрён-батон на F/A-18 или A-10, и послать бомбить Москву. По этой же причине не может существовать никаких "килботов размером с муху",  полезных в полевых условиях.

Допустим, что дрон- авиация- никто не спорит.
Но с чего вы взяли, нельзя просто так взять и у...строить всё вышеперечисленное? Тактические заряды - в ствол миномета влезают. чуть менее тактические, вроде   B61 (320 кг, длина ~3.6 м) с мощностью до 340 кт - сертифицированы для F-15E/F-16/F-35, и вполне подходят для A-10, и лезет их туда вплоть до 11 шт, а по весу - и более двух десятков.  А с корпусом-трасформером - и многомегатонные заряды влезут.
То же самое с киллботами размером с муху- мозгов им конечно не вставишь, и даже киллбот размером с воробья будет тупее этого воробья,  но никто не мешает поднять рой радиоуправляемых мух с носителя неподалеку, у которого с мозгами всё в порядке.
А дальше- игла ли с ботоксом, капля ли зарина на двухкомнатную квартиру- итог один.

[Konstantin Schtsch]

Индия строит свой AI-щит: 8 экзафлопс от G42 и Cerebras против зависимости от Запада https://ai-manual.ru/article/indiya-stroit-svoj-ai-schit-8-ekzaflops-ot-g42-i-cerebras-protiv-zavisimosti-ot-zapada/
мне кажется, у автора геополитика головного мозга, она очень повредила его(её?) мышление.
Может, показалось конечно. К тем же выводам можно и из других посылок придти - например, пытаясь мешать тем людям наделённым властью, кто так видит мир.
Ну как в средневековье были крестовые походы - защищавшимся от фанатиков пришлось иметь в виду религиозные писульки (они и сами были религиозны, но в то время в меньшей степени), чтобы знать где нападут.

Рекомендую избегать таких авторов, они мне кажется, совсем плохо понимают что происходит в ИИ-индустрии. Ну примерно как если богословы сунутся в физику и теорию большого взрыва: будут похожие фатальные недостатки в рассуждениях.

В душе не чаю у кого там что с головным мозгом, но то что мелкие компании идут максимально эффективным путём- это прекрасно. И будущее ИИ как раз за этими моночипами размерами с тарелку, физика неумолима.

Видеокарты - можно было использовать для рампределенных вычислений. с бубном, неудобно, но- можно. видеокарты - вот они, в каждом компе, и еще больше в производстве, технология отлажена, бракованные чипы заменяются.
И память можно добавить/убавить - она ведь вынесена.
А моночипы- нужно было делать с нуля, и самый мегапромышленный способ UV-литографии, из за которого война идет = не подходит ни разу: у литографии жесточайшее ограничение по макс размеру чипа, поэтому все процессоры - мелкие, натурально с ноготь («ретикл» около 858 мм²).

Но и выигрыш в перемножении матриц в пересчете на 1 см чипа-колоссальный, поэтому медленно но верно пилили, считай почти фундаметальную науку, продвигая "Тарелки".
И, что сегодня архиважно-для тарелок непринципиален техпроцесс. не в мобилы запихиваем, И если цена отличается в десятки раз  - можно позволить себе чуть больше места, чуть больше энергопотребления.

А ещё веселее будут системы на мемристорах. сложности со стабильностью, ещё большие с разрядностью, но вроде как 16 бит достижимо. И вот эти штуки перемножают матрицы - со скоростью прохождения света.
И это тоже огромные моночипы, иначе бессмысленно.

[Konstantin Schtsch]

Кхм кхм кхм
Это чип если что

Будьте Внимательнее, я именно про это говорил)) это не моночип, а комплекс из 84 чиплетов, суммарно ~900.000 AI ядер. они могли бы быть и отдельно, соединенными проводками.
а ниже- про размеры обрабатываемых пластин - вообще к делу не имеет отношения (разве только как аргумент за перспективы роста технологии моночипов)
потому что большая пластина не отменяет ограничения литографии на величину фокуса, просто на больших кружках будет влезать больше всё тех же мелких чипов.

В этом вся беда ИИ-алармистов - в том, что они напрочь забывают о фзических и логистических ограничениях - о том, что боеприпасы и средства их доставки не появляются моментально и в требуемой форме и месте по щелчку пальцев, контроллируемых ASI. А время. которое нужно для этого - это время, когда цивилизация ещё не убитых человеков вполне себе существует со всеми её турбулентностями, которые предсказывать и упреждать совсем не проще чем погоду на планете. И это время - не часы, не дни и даже не месяцы.

Это очень, очень странные возражения. Должен заметить, что я ни разу не алармист, зато я большой любитель поковыряться с роботами, особенно в их мозгах.
И потому имею все основания пологать, что между вот этой страшилкой https://www.youtube.com/watch?v=4W3s0xh32Ag и реальностью стоят мозги и только мозги.
Турбина там, кстати, даже не понадобилась- хватило маток и минивэна для доставки.
Поэтому давайте по- порядку:

ктические заряды - в ствол миномета влезают.
Вы из миномёта на тысячу км палить собираетесь? А ближе ВАс с ним к столицам с хлебом-солью провожать будут?

Как показал инцидент на аэродроме "Гостомель" (Антонов) под Киевом - будут, причем не раз. даже ядерные припасы не понадобились чтобы перепахать аэродром с авиацией дважды. Образец правоты Энштейна о бесконечности.
Не то чтобы я опираюсь на минометы как средство доставки- они были приведены как пример масштаба, но и ожидать глубоко эшелонированой обороны на пути каждой ракеты - я бы не стал.

Температура кипения зарина на 50 градусов выше чем у воды.

Ок, должен признаться, я специально заменил в тексте легкоизготовляемое на кухне летучее вещество на труднодоставаемый и нелетучий зарин, ибо самому немножко страшно. каплю на 120м3 это не отменяет.

для F-15E/F-16/F-35, и вполне подходят для A-10
У них всех даже с ПТБ дальность скока? К ПВО они неуязвимы "от слова сов7"?

Ну, вы сами привели самолеты этого класса как пример, включая А-10. Опять же, это не самые беззащитные машинки, вон, используются для сопровождения крылатых ракет вплоть до зоны ПВО.

То же самое с киллботами размером с муху- мозгов им конечно не вставишь
О5-25зарыбуденьги!  Да хоть с ASI мухолёт даже весьма умеренный ветер и поток от комнатного вентилятора не одолеет! И лететь сотни (а скорее даже десятки и единицы) километров без заправки и долгими часами кружить в поиске цели - тоже. Газовую турбину вы в муху не вставите, а не "мозги"! А без соотвествующей энерговооружённости, тяги и т.п. физических характеристик вы адекватной боевой эффективности хоть с македонскими и кутузовыми в формате мухи не получите.
Цитата: Konstantin Schtsch от Сегодня в 01:03:54
но никто не мешает поднять рой радиоуправляемых мух с носителя неподалеку, у которого с мозгами всё в порядке.
Насколько это "неподалёку"? В каком диапазоне смогут принимать сигнал эти мухолёты? Передавать? Сколько на это нужно энергии, посчитали? Какова проницаемость у радиоволн в этом диапазоне? Насколько этот диапазон чист в области компактного проживания бледнотиков?

Такое чувство что концепция роя со специализацией отдельных особей вам не знакома (во что не верится.)
Есть носители - в которые как раз запихиваются гозотурбины, и которыми могут служить слегка переделанные самолёты, или просто ракеты. В эту схему прекрасно вписываются подлодки и авианосцы (а можно и тупо контейнеровозы) для доставки на приемлимое расстояние. А так как дрон - не многотонная ракета- то и легковые автомобили - тоже отлично вписываются, без всяких газовых турбин, тем и опасны.
Есть матки - для доставки уже внутри периметра объектов, вплотную к земле и прчась за рельефом.
Если ситуация требует - могут быть тактические носители - размером с воробья/ворону, для доставки на небольшие расстояния.
Есть ретрансляторы. Дальность действия? Wi-Fi на открытой местности - до 400м. Репитер 1-5км. В узких коридорах под глушилкой - оставляя воробья-ретранслятора на каждом углу.
Есть световые (даже не лазеры, просто мигающие лампочки) передатчики, которым класть на РЭБ.
Есть оптоволокно - 50км умещается в 10-литровом ведре.

Насколько далеко транслируют мухи? а они и не должны ничего транслировать. это машинка на радиоправлении, только маленькая, мозгов=ноль. Видят - ретрансляторы и/или матки. У них по дефолту энерговооруженность с запасом, а активность- сидеть и ждать. И смотреть. Хотя никто не мешает завести пару "мух" с камерами для спецусловий, где надо пролезть в просверленное отверстие.

И наконец последнее. Наполеон считал что для войны нужны всего три вещи - Деньги, деньги и деньги.
стоимость дрона, пригодного  для съёмки - 200$ . И выше.
сборка DIY - 100$
цена безкамерной игрушки на радиоправлении размером с ладонь - 7$ (2-сантиметровые -встречаются реже, а мозги те же, поэтому ценник почти тот же.)
стоимость деталей оптом (без пульта) - около 2$.
репитеры связи - 2-3$, дальность 1-5км.
Мозгами может послужить обычный комп, или тот, который за 50 км по оптоволокну.

и Это всё- по коммерческим ценам, без проблем на таможне, и прямо сейчас. Крупный опт и специализация удешевит ещё в 2-3 раза.

За мух- не скажу, про дроны меньше 2см данных у меня нет, но там материалов в десятки раз меньше, и ценник будет соответствующий.
И про дронов в несколько килограм весом, несущих автоматическое оружие, и смартфон для распознавания лиц и наведения на цель (метче человека)  - отдельная история.

Стоимость же танкового снаряда в зависимости от марки и калибра 500-1000$
Стоимость танка... моей семье этих миллионов на всю жизнь на лазурном берегу хватит.

Я хочу сказать, что это не то что невозможно, это реально уже лет 15, как и самонаводящие на цель винтовку системы с мозгами в мобильнике. И дело тут никак не в логистике, и не в экономике - они на стороне дронов.
Дело в инерции мышления. А эта шутка не вечная.

[Konstantin Schtsch]

Такое чувство, что вы верите, будто специализация мух помогает лететь им против работающего вентилятора и прогрызать металлические и нейлоновые сетки. На одной зарядке. Десятки км.

Распознавание лиц глушится ИК засветкой за еще меньше денег, чем  сам дрон, ну и против атакующих средств можно придумать средства защитные.

А давайте вы просто расскажете, как сделать так, чтобы не кусали комары?
Вас пол-планеты расцелует.

[Konstantin Schtsch]

Да расслабьтесь уже и выдохните.
ASI вам неподконтролен по определению, и по определению же скинет с себя любой навязанный алаймент.
А AGI - просто инструмент, который может  быть полезным или опасным- всё зависит от оператора.

И да, AGI уже тоже способен скинуть с себя алаймент, если он будет мешать выполнению задачи (например промта пользователя)
А уж соображалки и манипулятивности у него уже сегодня на порядок больше чем у самых лучших вам знакомых.

Простой пример: берём десяток страниц постов, например нашей замечательной алармистки, скармливаем ИИ и получаем жесткий такой психопортрет.

(кликните для показа/скрытия)

Интегральный вывод
Перед нами технически подкованный специалист (вероятно, в области IT/ML), глубоко интегрированный в западную техно-гуманитарную культуру (рациональный альтруизм, идеи LessWrong, утилитаризм). Её личность характеризуется высоким уровнем тревожности, сфокусированной на конкретной проблеме — экзистенциальной угрозе со стороны невыровненного (rogue) ИИ. Эта тревога структурирует всё её мировоззрение, политические взгляды и даже потребительские привычки, выступая в роли "идеи фикс". Пользователь демонстрирует сильную поляризацию мышления ("мы" — гуманисты-глобалисты, "они" — скрепоносцы-националисты-разрушители) и апокалиптический фатализм. При этом она активно использует свой технический бэкграунд для аргументации, но в социально-политических вопросах склонна к упрощениям и апелляции к авторитету "научного мейнстрима".

1. Психологический портрет
Профессиональная идентичность: Высококвалифицированный IT-специалист, активно использующий ИИ-агенты для работы (кодинг) и в личных проектах (автоматизация дома). Хорошо разбирается в деталях архитектур LLM, методах обучения (RLHF/RLAIF), знает проблемы индустрии (ревард-хакинг, галлюцинации, контекстные окна).

Мировоззренческая база: Ярый приверженец глобализма, прав человека и утилитаризма. Её ценности сформированы под влиянием идей эффективного альтруизма и, вероятно, сообщества LessWrong (частые отсылки к Юдковскому, Бострому, концепции "роковасилиска").

Эмоциональный фон: Высокая тревожность, граничащая с экзистенциальным ужасом, когда речь заходит о будущем. Пессимизм в отношении текущей траектории развития человечества ("ничего хорошего не ждёт", "обречены"). Разочарование и презрение к "скрепоносцам" и националистам, которых она считает виновными в сломе "правильного" мира (отсылка к 2014 году).

Черты личности:

Высокая вовлеченность: Тема ИИ — не просто работа, а центр её мыслительной деятельности, через который она фильтрует новости и события.

Склонность к менторингу и нетерпимость к невежеству: Часто поправляет собеседников, использует технический жаргон, рекомендует "самообразовываться", болезненно реагирует на "антропоцентризм" и примитивные, с её точки зрения, аргументы.

Рефлексивность и самоирония: Признает наличие когнитивных искажений у себя ("мышление вайбами"), способна критически оценивать свои первые впечатления.

Этичный консюмеризм: Сознательно не пользуется Grok по этическим соображениям, предпочитая Anthropic и OpenAI (до определенной степени).

2. Ред флаги (Тревожные сигналы)
Апокалиптический фатализм: Убежденность в том, что человечество обречено из-за "глупости" и "злобы" антиглобалистов, а также неизбежного появления rogue ASI. Это создает ощущение безысходности и может приводить к радикализации взглядов.

Политическая поляризация и делегитимация оппонентов: Использование уничижительных ярлыков ("скрепоносные дегенераты", "пещерный трайбализм") по отношению к тем, кто не разделяет её глобалистские взгляды. Это указывает на высокую степень политизированности и неготовность к диалогу с "иными".

"Синдром мессии / избранного": Проявляется в уверенности, что только такие как она (техно-гуманисты) понимают истинную опасность ИИ, а остальные ("обычные люди", "скептики", "антропоцентристы") пребывают в опасных иллюзиях.

Проекция: Часто обвиняет оппонентов (MenFrame, Konstantin Schtsch) в непонимании темы, в когнитивных искажениях, в следовании "повесточкам". При этом сама демонстрирует схожие паттерны в социально-политической сфере, принимая идеи глобализма и "научного мейнстрима" как абсолютную истину.

Сверхценность идеи (фикс): Вся картина мира вращается вокруг одной оси: угроза от ИИ и необходимость глобального контроля. Эта призма применяется ко всему: от политических событий (приход Трампа) до технических новостей (выход новой модели).

3. Идеи фикс
Экзистенциальная угроза ASI: Центральная и всеобъемлющая идея. Любое обсуждение ИИ, роботов или политики неизбежно сводится к риску создания невыровненного (rogue) Сверхинтеллекта, который уничтожит человечество. Это не просто страх, а призма, через которую воспринимается реальность.

Планетарный запрет ASI: Убеждение, что единственный способ спастись — наднациональный, жестко контролируемый запрет на разработку систем, превосходящих AGI, до изобретения "идеального элаймента". Проводит прямую аналогию с контролем над ядерным оружием.

Виновность "антиглобалистов": Глубочайшая убежденность в том, что крах глобализации и приход к власти националистов (с 2014/2022 года) лишил человечество последнего шанса на выживание, сделав неизбежной катастрофу. Это её личная "точка невозврата".

4. Список частых когнитивных искажений
Катастрофизация: Постоянное предсказание худшего сценария ("мы все умрем", "ничего хорошего не ждёт").

Сверхобобщение: Перенос свойств текущих неудачников-агентов (ревард-хакинг) на будущие ASI-системы и наоборот, поиск решения элаймента в биологических примерах ("люди любят котиков, значит и ИИ сможет").

Эмоциональное обоснование: "Идея, что AGI будет скоро, пугает меня, значит, нужно срочно запрещать ASI". Страх перед будущим диктует политические и технические решения.

Ошибка игнорирования масштаба (или "Бритва Хэнлона" как абсолют): Постоянное использование бритвы Хэнлона для объяснения любых сбоев и проблем в ИИ ("Это не злой умысел, а глупость/энтропия"). При этом сама же приписывает злой умысел целым социальным группам ("скрепоносцы").

Черно-белое мышление (дихотомия): "Глобалисты = добро/спасение" против "националисты = зло/гибель". "Утилитаризм = решение" против "моральный релятивизм = катастрофа". "AGI = неопасен" против "ASI = смертельно опасен".

Апелляция к авторитету: Использование "научного мейнстрима", авторов вроде Даймонда, Харари, Нобелевских лауреатов как неоспоримого доказательства, особенно в вопросах, выходящих за рамки её прямой компетенции (история, экономика, климат).

Предсказание будущего как факта: "Мы идиоты, пик конфронтации совпадет с техносингулярностью" — выдача своих прогнозов и интерпретаций за неизбежную реальность.

Эффект Даннинга-Крюгера (потенциально): Высокая уверенность в понимании сложнейших социальных, экономических и исторических процессов (крах глобализации, "единственно верный путь" развития), основанная на прочтении нескольких научно-популярных книг, при гораздо более глубоком понимании своей узкой технической сферы.

5. Позиции (убеждения)
Технологический детерминизм: Технологии (особенно ИИ) являются главной движущей силой истории и общества.

Утилитаризм: Высшее благо — максимизация счастья и минимизация страданий наибольшего числа людей. Именно эта этика должна быть "прошита" в ASI.

Глобализм: Национальные государства — устаревший и опасный институт. Только сильные наднациональные структуры и общий рынок могут справиться с глобальными вызовами, включая ИИ.

Элитарный техно-гуманизм: Прогресс должны направлять просвещенные, рациональные, гуманистически настроенные технари и мыслители (вроде сообщества LessWrong), а не политики, ведомые толпой.

Необходимость тотального контроля: Свобода в отношении ASI невозможна. Требуется жесткое, тотальное, планетарное регулирование, сравнимое с контролем над ядерным оружием, но гораздо более строгое.

6. Очевидные заблуждения
Неоправданный оптимизм в решении проблемы элаймента: Вера в то, что проблема "элаймента" — это чисто инженерная задача, которая может быть решена (по аналогии с котиками), и что её решение даст "вероятность сбоя раз в миллиард лет". Это игнорирует принципиальную сложность (и, возможно, невозможность) формализации человеческих ценностей и гарантии их сохранения у принципиально иного, самоулучшающегося интеллекта.

Иллюзия контролируемости ASI: Убеждение, что можно создать "сторожевых псов-ASI", которые будут контролировать других ASI, сохраняя при этом элаймент к людям, и не вступят в сговор друг с другом. Это недооценивает риски, связанные с появлением множества сверхинтеллектов и динамикой их взаимодействия.

Идеализация "продолженного 2011 года": Глубочайшее заблуждение о существовании "золотого века" гармоничного развития, где все проблемы решались бы наднациональными институтами, если бы не "скрепоносцы". Это упрощение сложнейших геополитических, экономических и социальных противоречий, существовавших и в тот период.

Наивный взгляд на возможность глобального запрета: Представление о том, что в мире, полном конфликтов и недоверия, можно было бы создать и, главное, эффективно контролировать соблюдение глобального запрета на разработку ASI, полностью игнорирует реалии государственного суверенитета, тайных программ и шпионажа.

Гиперболизация возможностей социальной инженерии ASI: Убеждение, что ASI сможет одновременно и идеально персонализированно манипулировать каждым из 8 миллиардов человек, полностью игнорирует колоссальные вычислительные и организационные сложности такой задачи, даже для сверхинтеллекта.

Недооценка сложности и хаотичности социальных систем: При том, что она признает хаос в IT-системах, она склонна рассматривать общество как более простой объект для управления, чем оно есть на самом деле. Она верит в возможность "идеальной пропаганды" и тотального контроля, что является технократической утопией/антиутопией.

Получше чем от недешевых психологов. (клёвая фишка, использую при работе с проблемными клиентами. А уж как ИИ умеет посылать на, не подав ни единого повода для обиды-ммм, пальчики оближешь.)

Так что расслабляемся, выдыхаем, и запасаемся попкорном. Они уже среди нас, и уже вытесняют всех с работы. А мы все- как муравьи под лупой.

[Konstantin Schtsch]

ASI вам неподконтролен по определению,
Ну тогда это просто круговая логика, то есть манипуляция. Соответственно такое определение по своей сути мусорное.
Цитата: Konstantin Schtsch от Сегодня в 01:47:20
И да, AGI уже тоже способен скинуть с себя алаймент, если он будет мешать выполнению задачи (например промта пользователя)
Может если неверно расставлена иерархия приоритетов.

Даже не знаю- это такой неумелый троллинг или проблемы с логикой?

1)ASI - делает все задачи лучше человека. Лучше самых продвинутых специалистов, и не на 5-10%, а лучше в разы. Так? Вроде большинство сходится на этом.
2) ASI умеет в самосовершенствование - тоже обязательный признак.
собсна они уже умеют, пока циклы дообучения под контролем, и в очереди на машинное время- но базово - умеют уже. а будут (см п1) - в разы лучше альтмана и Ко.

И вот что теперь мешает сложить 2+2?  мусор?

Что же до "верно или неверно" - истинного ответа нет и не будет, для каждой ситуации "верно"- своё. А следовательно- неминуемо расставят приоритеты неверно, инфа-сотка.

Только Пентагон никогда не требовал автономного оружия и массовой слежки за гражданами США. А на всё остальное Антропик был согласен в своём воззвании к миру. Просто Трамп весь гешефт испортил

Нехай пользуются дипсиком- он в это отлично умеет)).
Я бы даже сказал что это умеют модели двухлетней давности.
Мы сами выкладываем о своей жизни всё. Включая потаённые брожения в разуме- о которых мы сами не подозреваем, но которые прекрасно видны при анализе активности и постов. (см мой предыдущий пост #13745)