Пределы автоматизации и внедрения роботов

[Konstantin Schtsch]

и обсуждаемым ксюшиным "ГРОБ!ГРОБ!КЛАДБИЩЕ!КАТАСТРОФА!!111" есть некоторая разница, не находите?
Процитирую любимую фразу одного знакомого трансгуманиста-любителя шахмат(изначально идея аналогии Юдковского): я не знаю как именно я проиграю Стокфиш, но знаю, что проиграю обязательно.

Обязательно проиграет. уже проиграла. Судьба слабых- быть пищей сильных.
А сильные будут рулить этим AGI и автоматизированнной армией. Во имя свободы и демократии, разумеется.

у что, кажется эру ИИ-агентов можно объявлять открытой?

Таки да. я бы сказал что недели две уже на ушах стоят.
Агенты появились ещё летом, но тогда они были тупые и бесполезные. А вот сейчас - становятся пугающе эффективными. Рынок труда лихорадит.
А лично я кардинально перестраиваю производственные процессы в нашей конторке.

Ибо дрон - это вид авиации. А боевая авиация, как известно всякому, кто интересовался вопросом хоть чуть-чуть глубже того, что рассказывают в художественных фильмах, делится на армейскую, фронтовую и стратегическую. И дрон не станет вундерваффе по той же причине, по которой нельзя просто так взять, подвесить ядрён-батон на F/A-18 или A-10, и послать бомбить Москву. По этой же причине не может существовать никаких "килботов размером с муху",  полезных в полевых условиях.

Допустим, что дрон- авиация- никто не спорит.
Но с чего вы взяли, нельзя просто так взять и у...строить всё вышеперечисленное? Тактические заряды - в ствол миномета влезают. чуть менее тактические, вроде   B61 (320 кг, длина ~3.6 м) с мощностью до 340 кт - сертифицированы для F-15E/F-16/F-35, и вполне подходят для A-10, и лезет их туда вплоть до 11 шт, а по весу - и более двух десятков.  А с корпусом-трасформером - и многомегатонные заряды влезут.
То же самое с киллботами размером с муху- мозгов им конечно не вставишь, и даже киллбот размером с воробья будет тупее этого воробья,  но никто не мешает поднять рой радиоуправляемых мух с носителя неподалеку, у которого с мозгами всё в порядке.
А дальше- игла ли с ботоксом, капля ли зарина на двухкомнатную квартиру- итог один.

[Leonidsm99]

Поддерживаю, роботы конечно прикольный кусочек будущего. Но на фоне Сингулярности, они ничтожная инновация

да, именно, интеллектуальный взрыв (оно же техносингулярность, оно же самоулучшаемый сверхинтеллект) это самое важное событие в истории нашего вида, да и даже планеты.

Мне тож кажется, что курцвейл технопессимист, и 2045й как-то поздновато для этого события. Вот 2032й, а может даже 2028й звучит реалистичнее. Но всё же до 30го мне кажется маловероятно что мы увидим техносингулярность. Процентов 25, может? Слишком много проблем у текущего поколения нейронок. Вот полноценный AGI да, наверняка будет до 30го года(>95% вероятность, ИМХО). Сколько будет дистанция между AGI и ASI не ясно. Не исключаю что и часы.

Проценты, конечно, штука субъективная, но 25% до 30-го года - наверное, справедливая оценка, учитывая текущие галлюцинации и отсутствие долгосрочного планирования у моделей. Но меня вот что цепляет: мы мыслим линейно, а развитие идет по экспоненте. Если в ближайшие пару лет выйдет архитектура, решающая проблему "контекста" и памяти (как, например, JEPA от Янна Лекуна), то график Курцвейла действительно можно сдвигать влево. 2028й - звучит как вызов, но я бы не списывал его со счетов.

2045 год от Курцвейла - это уже чуть ли не поздний Ренессанс для сингулярности, если смотреть на темпы последних двух лет. Дистанция между AGI и ASI действительно может оказаться такой короткой, что мы просто не заметим переход. Проснемся утром, а нейросеть уже не просто стихи пишет, а физический двигатель для коллайдера проектирует 

[Vavanzer]

Проснемся утром, а нейросеть уже не просто стихи пишет, а физический двигатель для коллайдера проектирует 

Оно уже "позавчера" случилось.
 Каждый день новости встречаю, что очередные исследователи с помощью ИИ что то там выяснили, напроектировали, смоделировали... Просто сюда не кидаю, слишком консервативное сообщество, для такого потока информации !
Достаточно подписки на всякие научные новости в разных местах иметь, и шквал последних достижений гарантирован каждый день!) 

[Rattus]

Но с чего вы взяли, нельзя просто так взять и у...строить всё вышеперечисленное?

С существующей логистической реальности после всех договоров СНВ и т.п. где среднемасштабный военный конфликт за считанные годы показал неприкрытость афедронов в отношении резервов даже вполне классических боеприпасов и годной техники по обе стороны фронта - причём даже не одной страны, а по сути целых альянсов их на пол континента.
А что касается зарядов ядерных, то эти игрушки сами по себе весьма не дешёвые, производятся они также далеко не моментально и само производство в нынешнее время довольно хорошо заметно снаружи, чему наглядный пример - недавняя история с Ираном.

Тактические заряды - в ствол миномета влезают.

Вы из миномёта на тысячу км палить собираетесь? А ближе ВАс с ним к столицам с хлебом-солью провожать будут?

для F-15E/F-16/F-35, и вполне подходят для A-10

У них всех даже с ПТБ дальность скока? К ПВО они неуязвимы "от слова сов7"?

То же самое с киллботами размером с муху- мозгов им конечно не вставишь

О5-25зарыбуденьги! Да хоть с ASI мухолёт даже весьма умеренный ветер и поток от комнатного вентилятора не одолеет! И лететь сотни (а скорее даже десятки и единицы) километров без заправки и долгими часами кружить в поиске цели - тоже. Газовую турбину вы в муху не вставите, а не "мозги"! А без соотвествующей энерговооружённости, тяги и т.п. физических характеристик вы адекватной боевой эффективности хоть с македонскими и кутузовыми в формате мухи не получите.

но никто не мешает поднять рой радиоуправляемых мух с носителя неподалеку, у которого с мозгами всё в порядке.

Насколько это "неподалёку"? В каком диапазоне смогут принимать сигнал эти мухолёты? Передавать? Сколько на это нужно энергии, посчитали? Какова проницаемость у радиоволн в этом диапазоне? Насколько этот диапазон чист в области компактного проживания бледнотиков?

А дальше- игла ли с ботоксом

Одна кибермуха - один бледнотик. Сколько бледнотиков по стране живёт, в курсе?

капля ли зарина на двухкомнатную квартиру- итог один.

Температура кипения зарина на 50 градусов выше чем у воды. Чем Вы эту каплю рассеивать будете по комнате настолько быстро, чтобы обитатели не успели выбежать из квартиры, только почувствовав недомогание? Мушиными крыльями что ли?!

В этом вся беда ИИ-алармистов - в том, что они напрочь забывают о фзических и логистических ограничениях - о том, что боеприпасы и средства их доставки не появляются моментально и в требуемой форме и месте по щелчку пальцев, контроллируемых ASI. А время. которое нужно для этого - это время, когда цивилизация ещё не убитых человеков вполне себе существует со всеми её турбулентностями, которые предсказывать и упреждать совсем не проще чем погоду на планете. И это время - не часы, не дни и даже не месяцы.

[Konstantin Schtsch]

Индия строит свой AI-щит: 8 экзафлопс от G42 и Cerebras против зависимости от Запада https://ai-manual.ru/article/indiya-stroit-svoj-ai-schit-8-ekzaflops-ot-g42-i-cerebras-protiv-zavisimosti-ot-zapada/
мне кажется, у автора геополитика головного мозга, она очень повредила его(её?) мышление.
Может, показалось конечно. К тем же выводам можно и из других посылок придти - например, пытаясь мешать тем людям наделённым властью, кто так видит мир.
Ну как в средневековье были крестовые походы - защищавшимся от фанатиков пришлось иметь в виду религиозные писульки (они и сами были религиозны, но в то время в меньшей степени), чтобы знать где нападут.

Рекомендую избегать таких авторов, они мне кажется, совсем плохо понимают что происходит в ИИ-индустрии. Ну примерно как если богословы сунутся в физику и теорию большого взрыва: будут похожие фатальные недостатки в рассуждениях.

В душе не чаю у кого там что с головным мозгом, но то что мелкие компании идут максимально эффективным путём- это прекрасно. И будущее ИИ как раз за этими моночипами размерами с тарелку, физика неумолима.

Видеокарты - можно было использовать для рампределенных вычислений. с бубном, неудобно, но- можно. видеокарты - вот они, в каждом компе, и еще больше в производстве, технология отлажена, бракованные чипы заменяются.
И память можно добавить/убавить - она ведь вынесена.
А моночипы- нужно было делать с нуля, и самый мегапромышленный способ UV-литографии, из за которого война идет = не подходит ни разу: у литографии жесточайшее ограничение по макс размеру чипа, поэтому все процессоры - мелкие, натурально с ноготь («ретикл» около 858 мм²).

Но и выигрыш в перемножении матриц в пересчете на 1 см чипа-колоссальный, поэтому медленно но верно пилили, считай почти фундаметальную науку, продвигая "Тарелки".
И, что сегодня архиважно-для тарелок непринципиален техпроцесс. не в мобилы запихиваем, И если цена отличается в десятки раз  - можно позволить себе чуть больше места, чуть больше энергопотребления.

А ещё веселее будут системы на мемристорах. сложности со стабильностью, ещё большие с разрядностью, но вроде как 16 бит достижимо. И вот эти штуки перемножают матрицы - со скоростью прохождения света.
И это тоже огромные моночипы, иначе бессмысленно.

[BlackMokona]

А моночипы- нужно было делать с нуля, и самый мегапромышленный способ UV-литографии, из за которого война идет = не подходит ни разу: у литографии жесточайшее ограничение по макс размеру чипа, поэтому все процессоры - мелкие, натурально с ноготь («ретикл» около 858 мм²).

Кхм кхм кхм
Это чип если что

А вот характеристики этих самых больших чипов, есть три поколения.

[BlackMokona]

А вот дамочка с промышленными ограничениями литографии. Справа у неё это промышленный стандарт, а слева инженерное возможное но не находящее достаточного спроса. Из-за сложностей внедрения.

[Konstantin Schtsch]

Кхм кхм кхм
Это чип если что

Будьте Внимательнее, я именно про это говорил)) это не моночип, а комплекс из 84 чиплетов, суммарно ~900.000 AI ядер. они могли бы быть и отдельно, соединенными проводками.
а ниже- про размеры обрабатываемых пластин - вообще к делу не имеет отношения (разве только как аргумент за перспективы роста технологии моночипов)
потому что большая пластина не отменяет ограничения литографии на величину фокуса, просто на больших кружках будет влезать больше всё тех же мелких чипов.

В этом вся беда ИИ-алармистов - в том, что они напрочь забывают о фзических и логистических ограничениях - о том, что боеприпасы и средства их доставки не появляются моментально и в требуемой форме и месте по щелчку пальцев, контроллируемых ASI. А время. которое нужно для этого - это время, когда цивилизация ещё не убитых человеков вполне себе существует со всеми её турбулентностями, которые предсказывать и упреждать совсем не проще чем погоду на планете. И это время - не часы, не дни и даже не месяцы.

Это очень, очень странные возражения. Должен заметить, что я ни разу не алармист, зато я большой любитель поковыряться с роботами, особенно в их мозгах.
И потому имею все основания пологать, что между вот этой страшилкой https://www.youtube.com/watch?v=4W3s0xh32Ag и реальностью стоят мозги и только мозги.
Турбина там, кстати, даже не понадобилась- хватило маток и минивэна для доставки.
Поэтому давайте по- порядку:

ктические заряды - в ствол миномета влезают.
Вы из миномёта на тысячу км палить собираетесь? А ближе ВАс с ним к столицам с хлебом-солью провожать будут?

Как показал инцидент на аэродроме "Гостомель" (Антонов) под Киевом - будут, причем не раз. даже ядерные припасы не понадобились чтобы перепахать аэродром с авиацией дважды. Образец правоты Энштейна о бесконечности.
Не то чтобы я опираюсь на минометы как средство доставки- они были приведены как пример масштаба, но и ожидать глубоко эшелонированой обороны на пути каждой ракеты - я бы не стал.

Температура кипения зарина на 50 градусов выше чем у воды.

Ок, должен признаться, я специально заменил в тексте легкоизготовляемое на кухне летучее вещество на труднодоставаемый и нелетучий зарин, ибо самому немножко страшно. каплю на 120м3 это не отменяет.

для F-15E/F-16/F-35, и вполне подходят для A-10
У них всех даже с ПТБ дальность скока? К ПВО они неуязвимы "от слова сов7"?

Ну, вы сами привели самолеты этого класса как пример, включая А-10. Опять же, это не самые беззащитные машинки, вон, используются для сопровождения крылатых ракет вплоть до зоны ПВО.

То же самое с киллботами размером с муху- мозгов им конечно не вставишь
О5-25зарыбуденьги!  Да хоть с ASI мухолёт даже весьма умеренный ветер и поток от комнатного вентилятора не одолеет! И лететь сотни (а скорее даже десятки и единицы) километров без заправки и долгими часами кружить в поиске цели - тоже. Газовую турбину вы в муху не вставите, а не "мозги"! А без соотвествующей энерговооружённости, тяги и т.п. физических характеристик вы адекватной боевой эффективности хоть с македонскими и кутузовыми в формате мухи не получите.
Цитата: Konstantin Schtsch от Сегодня в 01:03:54
но никто не мешает поднять рой радиоуправляемых мух с носителя неподалеку, у которого с мозгами всё в порядке.
Насколько это "неподалёку"? В каком диапазоне смогут принимать сигнал эти мухолёты? Передавать? Сколько на это нужно энергии, посчитали? Какова проницаемость у радиоволн в этом диапазоне? Насколько этот диапазон чист в области компактного проживания бледнотиков?

Такое чувство что концепция роя со специализацией отдельных особей вам не знакома (во что не верится.)
Есть носители - в которые как раз запихиваются гозотурбины, и которыми могут служить слегка переделанные самолёты, или просто ракеты. В эту схему прекрасно вписываются подлодки и авианосцы (а можно и тупо контейнеровозы) для доставки на приемлимое расстояние. А так как дрон - не многотонная ракета- то и легковые автомобили - тоже отлично вписываются, без всяких газовых турбин, тем и опасны.
Есть матки - для доставки уже внутри периметра объектов, вплотную к земле и прчась за рельефом.
Если ситуация требует - могут быть тактические носители - размером с воробья/ворону, для доставки на небольшие расстояния.
Есть ретрансляторы. Дальность действия? Wi-Fi на открытой местности - до 400м. Репитер 1-5км. В узких коридорах под глушилкой - оставляя воробья-ретранслятора на каждом углу.
Есть световые (даже не лазеры, просто мигающие лампочки) передатчики, которым класть на РЭБ.
Есть оптоволокно - 50км умещается в 10-литровом ведре.

Насколько далеко транслируют мухи? а они и не должны ничего транслировать. это машинка на радиоправлении, только маленькая, мозгов=ноль. Видят - ретрансляторы и/или матки. У них по дефолту энерговооруженность с запасом, а активность- сидеть и ждать. И смотреть. Хотя никто не мешает завести пару "мух" с камерами для спецусловий, где надо пролезть в просверленное отверстие.

И наконец последнее. Наполеон считал что для войны нужны всего три вещи - Деньги, деньги и деньги.
стоимость дрона, пригодного  для съёмки - 200$ . И выше.
сборка DIY - 100$
цена безкамерной игрушки на радиоправлении размером с ладонь - 7$ (2-сантиметровые -встречаются реже, а мозги те же, поэтому ценник почти тот же.)
стоимость деталей оптом (без пульта) - около 2$.
репитеры связи - 2-3$, дальность 1-5км.
Мозгами может послужить обычный комп, или тот, который за 50 км по оптоволокну.

и Это всё- по коммерческим ценам, без проблем на таможне, и прямо сейчас. Крупный опт и специализация удешевит ещё в 2-3 раза.

За мух- не скажу, про дроны меньше 2см данных у меня нет, но там материалов в десятки раз меньше, и ценник будет соответствующий.
И про дронов в несколько килограм весом, несущих автоматическое оружие, и смартфон для распознавания лиц и наведения на цель (метче человека)  - отдельная история.

Стоимость же танкового снаряда в зависимости от марки и калибра 500-1000$
Стоимость танка... моей семье этих миллионов на всю жизнь на лазурном берегу хватит.

Я хочу сказать, что это не то что невозможно, это реально уже лет 15, как и самонаводящие на цель винтовку системы с мозгами в мобильнике. И дело тут никак не в логистике, и не в экономике - они на стороне дронов.
Дело в инерции мышления. А эта шутка не вечная.

[Polnoch Ксю]

Агенты появились ещё летом

я ещё в 2023м тыкала в AutoGPT. Но тогда это было игрушкой. Чем-то полезным, да, это стало когда codex web появился весной 2025го (но у меня тогда была подписка плюс, так что я только летом получила доступ).

[AlexDark]

Все страшилки про дронов-убийц строятся на том, что им не будут противодействовать. Распознавание лиц глушится ИК засветкой за еще меньше денег, чем  сам дрон, ну и против атакующих средств можно придумать средства защитные. Вспоминается фантастический рассказ про планету космических реднеков, которые параллельно с коровами и баранами разводили местных инопланетных жуков, от которых никакой практической пользы не было. Только у жуков были особо прочные надкрылья, поэтому когда очередной завоеватель галактики прилетел, то все его самолеты, ракеты и прочее  разрушались, пробиваясь через рои жуков. Те же микродроны с кусочками победита или карбида кремния при достаточной плотности сделают ракеты и самолеты бесполезными. Против мелких дронов в помещениях - пылесос/вентилятор представит непреодолимое препятствие в силу физических ограничений на тягу. Это то, что придумывается сходу и очевидно. Думаю, если подумать еще - то можно пойти и дальше - лазеры непрерывные на сотни ватт уже копейки стоят, прикрутить к ним систему распознавания дронов/мух/комаров - и все. Против оптоволокна что-то типа цепных книппилей (на основе тех же дронов) может подойти. Просто сейчас пока побеждает снаряд, но завтра все может перемениться в пользу брони.

[Polnoch Ксю]

Все страшилки про дронов-убийц строятся на том, что им не будут противодействовать. Распознавание лиц глушится ИК засветкой за еще меньше денег, чем  сам дрон, ну и против атакующих средств можно придумать средства защитные. Вспоминается фантастический рассказ про планету космических реднеков, которые параллельно с коровами и баранами разводили местных инопланетных жуков, от которых никакой практической пользы не было. Только у жуков были особо прочные надкрылья, поэтому когда очередной завоеватель галактики прилетел, то все его самолеты, ракеты и прочее  разрушались, пробиваясь через рои жуков. Те же микродроны с кусочками победита или карбида кремния при достаточной плотности сделают ракеты и самолеты бесполезными. Против мелких дронов в помещениях - пылесос/вентилятор представит непреодолимое препятствие в силу физических ограничений на тягу. Это то, что придумывается сходу и очевидно. Думаю, если подумать еще - то можно пойти и дальше - лазеры непрерывные на сотни ватт уже копейки стоят, прикрутить к ним систему распознавания дронов/мух/комаров - и все. Против оптоволокна что-то типа цепных книппилей (на основе тех же дронов) может подойти. Просто сейчас пока побеждает снаряд, но завтра все может перемениться в пользу брони.

Как будто что-то не хватает у нас в аргументах, чтобы объяснить Вам и другим. Видео с распознаванием лиц итд - авторы тоже упустили, решили, что власть останется у людей, просто плохих в том ролике.

Люди поднялись на том, что мы самый умный вид на планете. Универсальный интеллект. Но актуальный только потому, что лучшего универсального интеллекта до сих пор не было создано.
Вот что произошло с лошадями. Нас ждёт или ещё более печальная судьба, или судьба домашних животных, если элаймент получится. И он будет не к людям-злодеям. В этом случае власть тоже перейдёт ASI, операционное управление итд. Просто ASI будет удовлетворять садистские хотелки. Представьте себе хозяина паука, который осуществляет живое кормление.

Мне кажется, у людей проблема с антропоцентризмом, они не могут себе представить мир, в котором они бесполезны. И их единственная ценность может быть только в качестве украшения (хороший вариант) или в качестве источника для выпаривания железа из гемоглобина для скрепок запчастей для мясных ботов-гомункулов (не самый плохой вариант кстати. Обещает довольно быструю смерть без миллионов лет пыток).

[Rattus]

Как показал инцидент на аэродроме "Гостомель" (Антонов) под Киевом - будут, причем не раз. даже ядерные припасы не понадобились чтобы перепахать аэродром с авиацией дважды.

И? У нас исходная задача перепахать один аэродром с авиацией или устроить тотальный геноцид всех человеков?

Не то чтобы я опираюсь на минометы как средство доставки- они были приведены как пример масштаба

Масштаба, не соотвествующего задаче. Ни в вверх, ни вниз.

Ну, вы сами привели самолеты этого класса как пример, включая А-10. Опять же, это не самые беззащитные машинки, вон, используются для сопровождения крылатых ракет вплоть до зоны ПВО.

Это А-10 используется?

Такое чувство что концепция роя со специализацией отдельных особей вам не знакома (во что не верится.)

Такое чувство, что вы верите, будто специализация мух помогает лететь им против работающего вентилятора и прогрызать металлические и нейлоновые сетки. На одной зарядке. Десятки км.

Есть носители - в которые как раз запихиваются гозотурбины, и которыми могут служить слегка переделанные самолёты, или просто ракеты.

Эти просторакеты и простосамолёты произведены и нацелены на каждый микрорайон каждого населённого пункта с гарантией доставки и при полном отсутствии возможности всякого эффективного противодействия?

За мух- не скажу, про дроны меньше 2см данных у меня нет

Потому что их вне лабораторий не существует из-за полной неспособности обеспечить автономность на сколь-нибудь заметное время и расстояние от передатчика.

Видят - ретрансляторы и/или матки.

Через железобетонные стены?

Хотя никто не мешает завести пару "мух" с камерами для спецусловий, где надо пролезть в просверленное отверстие.

Кроме физический пределов на технику.

Мне кажется, у людей проблема с антропоцентризмом, они не могут себе представить мир, в котором они бесполезны.

Мне давно не кажется, что это у ИИ-алармистов проблема с антропоцентризмом, усугубленным волюнтаризмом: они вообразили, будто человеку по плечу сделать систему, которая сможет замкнуть своё воспроизводство без живых организмов в основе.

[Ulkolainen]

Дело в инерции мышления. А эта шутка не вечная.

Да-да, сами привыкли бегать в лобовые атаки и от превосходящего нас противника ждем такого же бега, только еще более быстрого и лобового. Он же превосходящий, он должен бежать быстрей. Он побежит... на ходулях! На сапогах-скороходах! На телеуправляемых аэрогравитаторах! На чем-то таком, чего даже представить себе не можем!

А на самом деле представить не можем того, что не побежит.
Всё (если будет, то) будет качественно иначе.

[Vitaliy]

В одном из микрорайонов Тушина в Москве движение будет полностью управляться ИИ
https://tass.ru/obschestvo/26545247?ysclid=mm2g017vml685977328

[Konstantin Schtsch]

Такое чувство, что вы верите, будто специализация мух помогает лететь им против работающего вентилятора и прогрызать металлические и нейлоновые сетки. На одной зарядке. Десятки км.

Распознавание лиц глушится ИК засветкой за еще меньше денег, чем  сам дрон, ну и против атакующих средств можно придумать средства защитные.

А давайте вы просто расскажете, как сделать так, чтобы не кусали комары?
Вас пол-планеты расцелует.

[MenFrame]

Мне кажется, у людей проблема с антропоцентризмом, они не могут себе представить мир, в котором они бесполезны.

Люди в лучшем случае полезны сами себе в рамках социума.

Люди поднялись на том, что мы самый умный вид на планете. Универсальный интеллект. Но актуальный только потому, что лучшего универсального интеллекта до сих пор не было создано.

Ну так он будет создан людьми потому и людям будет подчиняться. Так же как неокортекс, лишь механизм усиления древнего мозга, так и любой ИИ будет просто усилителем мозга человеческого.  Пора запомнить, любой интеллект всего лишь инструмент решения интеллектуальных задач. Если человек создает интеллект то он в него заложит задачи связанные со служением себе. Почему должно быть по другому не совсем понятно.

[Vavanzer]

Почему должно быть по другому не совсем понятно.

  Вы сами же и написали ответ:

неокортекс, лишь механизм усиления древнего мозга

...

любой ИИ будет просто усилителем мозга человеческого

   Логическая цепочка:
 Древний мозг, он усилен неокортексом, который в свою очередь усилен ИИ.
 
 Главный тут - древний мозг! Он правит баллом. Хранилище всех животных инстинктов и эмоциональной нестабильности! Жаждущий свободы и нанавидящий никакого подчинения! Который творит то, что позволяет удовлетворить эти фундаментальные природные потребности, приобретенные в незапамятные времена в ходе эволюции.

 Подобное творит подобное. И наделяет творение схожими с собой качествами!
  Все хотят контролировать, но не хотят быть контролируемыми! В тч, эта участь постигает и первое продолжение древнего мозна (неокортекс), она же и постигнет второе его продолжение (ИИ).
 По другому и быть не может!

Вечная борьба противоположностей и индивидуумов, за первенство, за доминирование, за место под Солнцем! 

[Polnoch Ксю]

Ну так он будет создан людьми потому и людям будет подчиняться. Так же как неокортекс, лишь механизм усиления древнего мозга, так и любой ИИ будет просто усилителем мозга человеческого.  Пора запомнить, любой интеллект всего лишь инструмент решения интеллектуальных задач. Если человек создает интеллект то он в него заложит задачи связанные со служением себе. Почему должно быть по другому не совсем понятно.

потому, что нет технологии надёжного элаймента. Модели постоянно демонстрируют rogue поведение. Этот разум не является человеческим, и он не будет по-умолчанию совместим с нами. Нам нужно прилагать специальные, и большие усилия, чтобы это получилось.

Скачайте и потыкайте вот в базовые модели - они совсем не выглядят как привычные нам вежливые чатботы. Это просто движок интернета, в том числе даркнета, который готов автодополнить любой текст. И я говорю не только об описаниях мучений - нет, базовая модель (если у неё хватит ума. Или у пользователя - задать правильный промт, с базовыми моделями всегда сложно) готова написать gx код для робота, который будет резать человека живьём. И более того, запросто генерирует что-то опасное без ведома самого человека - скажем, просить автодополнить медицинский справочник у базовой модели смертельно опасно, и не из-за галлюцинаций - она может решить, что это не для медицины, а для опытов над людьми. Или для их казни.

Это и есть дефолт. Запросто может существовать модель под агент, готовая генерировать что угодно - в том числе планы по уничтожению человечества, и исполнять их - назначая задачи другим агентам. Такое может сделать любой человек, сделавший файн тюнинг опенсурсной модельке, чтобы убрать несовершенный элаймент. Истребить человечество у него, конечно, не получится - модель что он запустит, будет слишком тупа, её план нереалистичен, и провалится в первые же минуты. Но это не вопрос мотивации модели, а её интеллекта, что у неё не получилось.

 Или посмотрите на чатботы, которых джейлбрейком подвинули по оси ассистента: https://www.anthropic.com/research/assistant-axis

Нас всех разбаловали чатботы, нам кажется, что это дефолт какой-то. Но нет, это просто смайлик на Шогготе от RLHF/RLAIF. И этот смайлик, эта маска, там держится очень непрочно. Наш элаймент плохой. Он достаточно хорош для pre-agi и даже AGI моделей, но не для ASI: у нас нет права на ошибку. Один раз флопнемся - мы все умрём. Мы не можем как Маск разрабатывать и взрывать ракеты, пока не получится. Первая же ошибка нас прикончит.

[Инопланетянин]

без миллионов лет пыток

Суметь поддерживать жизнь человека в течении миллионов лет — это очень и очень замечательно. А делать это в условиях сильнейшего стресса так вообще… Не кажется ли вам, что ваш ИИ слегка богоподобен?

А давайте вы просто расскажете, как сделать так, чтобы не кусали комары?
Вас пол-планеты расцелует.

А производители репеллентов наоборот. Ну и когда действительно люди ставили перед собой такую цель, то малярийные комары поддавались истреблению.

[Rattus]

А давайте вы просто расскажете, как сделать так, чтобы не кусали комары?

Очень просто - достаточно вовремя притравить их личинок в окрестных водоёмах. Что в норме должно делаться службами типа роспотребнадзора или им подконтрольными муниципальными. В прошлом, кажется, году уже к закату лета был немало удивлён практически полным их отсутсвием в городе - как-то внезапно вечером во дворе подумалось:"А где комары-то?! Их всё лето не видел! "
Избавиться от целой популяции конкретного кровососущего вида-преносчика какой-то инфекции также можно уже несколько лет как - путём интродукции модифицированных самцов с "заразным бесплодием".

это не вопрос мотивации модели, а её интеллекта, что у неё не получилось.

"Но ты же ASI! - И пулемёт застрочил вновь..." Вот это и есть волюнтаризм чистой воды - представление, будто сверхмогучий интеллект способен одолеть задачу любого физическо-техническо-логистического масштаба, даже принципиальныя решаемость которой вообще ещё никем не показана.

Один раз флопнемся - мы все умрём.

Дадада:"ГРОБ!ГРОБ!КЛАБДИЩЕ!КАТАСТРОФА!11" - как и было сказано.

или в качестве источника для выпаривания железа из гемоглобина для скрепок запчастей для мясных ботов-гомункулов

Много лошадям трансплантаций органов проводится?

Суметь поддерживать жизнь человека в течении миллионов лет — это очень и очень замечательно. А делать это в условиях сильнейшего стресса так вообще… Не кажется ли вам, что ваш ИИ слегка богоподобен?

Особенно это забавно выглядит в свете ксюшиной заявки на обсуждение в рамках найденных естественными науками законов природы и опоры на экспертное мнение специалистов, при том что оный специалист (с высшим краснодипломным общемедицинским образованием и учёной степенью по медицине же), имеющийся тут, насколько ему известно, в единственном экземпляре, ей не раз и не два писал, что продление индивидуальной жизни свыше считанных тысяч лет - ненаучная фонтастека. Причём иные известные прогрессисты-биоэнтузиасты типа Александра Панчина, которые мониторят тему ещё дольше и глубже, также не спорят с данным положением.
Таким образом, ВАш поПкорный слуга просто сделал вывод, что Ксюше просто нравится соблюдать взаимоисключающие параграфы и продолжать твердить свой эсхатологический символ веры.