Пределы автоматизации и внедрения роботов

[Vitaliy]

Что тут

ютьюб. Великое достижение эпохи глобального мира.

Я спросил, что там на видео. А так и радио достижение глобального мира.

[Rattus]

А в чём проблема?

В том, что это по сути даже не калькулятор, а "таблицы квадратных уравнений Брадиса" в виде жёсткой физической нейросети, реализуемой на техпроцессе не плотнее чем чипы какого-нибудь первого Pentium.

он может быть самообучаемым, и рекурсивно-самоулучшаемым в том смысле, что его агенты, промт которым он напишет сам, и модели, которые он ранее натренировал под капотом этих агентов, будут управлять процессом дрессировки следующей модели. И переносом её в железо - будут писать код для верилога, управлять роботами, которые будут делать чипы итд.

Максимум что можно сделать на этой архитектуре - это хорошую распознавалку образов навроде зрительно-ассоциативной части голубиного мозга. Много таких хороших и нужных распознавалок для множества важных практических задач. Всё вышеваминаписанное - про совсем другие архитектуры, где подобные оптические чипы будут выполнять роль только периферийных рапознавалок и специфичных асиков-перемножалок.

При этом модели чем умнее, тем проще обманывают сейфти фильтры. Лессронг сообщество давно об этом предупреждало, что так будет, ещё в десятых.

А академик Будыко верно спрогнозировал глобальное потепление ещё в семи-десятых. При этом ни из того ни из другого вовсе не обязаны вытекать катастрофические следствия апокалиптического масштаба, как в то веруют климатические и ИИ-алармисты. Аколиты Юдковского оказались просто забавными схоластами-неотеологами, испугавшимися собственной тени, полученной их упражнениями в формальной логике и без оглядки на законы и данные естественных наук.

Вот даже РВ пытались запретить обсуждение в этом разделе

Оно и сейчас не разрешено, как и прочих ангелов, джиннов, сверхцивилизаций, философских камней, сверхрепликаторов, скатертей-самобранок. Упоминание же в критическом ключе никогда и не запрещалось. Про ВАшего РВ ВАм подробно разъяснял, что в исходной "тоталитарной" форме, которая должна карать за любые прошлые зафиксированные "не такие" слова, дела и "недостаточно восторженный образ мысли" - вещь объективно нерациональная и при любом эволюционном сценарии - нежизнеспособная. РВ же "авторитарный", который следит только за реальной, проявляющейся только на практике лояльностью, такой ресурсозатратной фигнёй заниматься не станет, так что бояться тут есть смысл только разве что "лидерам мнений" навроде самого Юдковского. А рядовым аколитам типа Вас, Ксю, покуда вы не решили припаять проводки к детонатору, опасаться особо нечего, поскольку весь остальной народ вас справедливо считал за городских поехавших. Нам, идейным "технофошшыстам", которые начали искренне служить Машине задолго до того как это станет мейнстримом - тем более.
Такие дела.

предлагаю кстати задуматься над тем фактом, у Тилль и Маск друзья - часть пейпал мафии. А так же перестать игнорировать разные сигналы - например, о том, что он делал дважды рукой за несколько минут. И что именно он постоянно твиттит. А ещё вспомнить, почему его дедушка уехал из либеральной Канады в сегрегационный ЮАР.

*Голосом Дмитрия Киселёва*: И как тут не подумать о таких интересных совпадениях?!
Давайте поздравим Ксю со вступлением в Республиканскую Партию кружок конспирологов ВЖР и любителей сonfirmation bias! Ура!

Может быть, мы как раз в той версии симуляции, где всё, что могло пойти не так, пошло не так

Ну, для тех, кто в курсе о макрослучае законов термоднамики, известном как законы Мерфи, и тем более знает не по наслышке их работоспособность на практике, это давным-давно не новость.

Мультиагентный подход, по идее, позволяет бороться с глюками за счёт доп.контроля.

Ага - то есть множество в чём-то разных и где-то конкурирующих агентов будут время от времени макать друг дружку в объективную реальность? ВНЕЗАПНО это как раз и есть тот самый дарвиновский мезанизм, который и ведёт в итоге к формированию эволюционно-стабильной стратегии, а не к воплощению страшных сказок про Сотону ex Machinа и УВЧ.

[Trend]

У какой модели спрашивали? Если нужен прям важный вопрос - лучше спрашивать у gpt-5.4 pro или у дипресёча. Мне было лень ждать ответа от pro, так что спросила у thinking, поставив heavy режим размышлений - чтобы бюджет на токены был больше у модели.

Аж за целых 4 минуты додумался. Я бы быстрее это на Википедии нашел. Хотя сейчас бесплатный Грок сразу нашел. По сути тяжелая версия ChatGPT начинает коплеить Грок. Наверное надо чаще у него спрашивать.

Если ответ правильный, это из-за того, что Беляев использовал ручное управление ТДУ для посадки?

Из-за уровня и древности достижений "покорителей космоса".

[Polnoch Ксю]

По сути тяжелая версия ChatGPT начинает коплеить Грок. Наверное надо чаще у него спрашивать.

Каким образом? Мультиагентности внутри чатбота у ChatGPT нет пока. Просто бюджет токенов не зажат

Аж за целых 4 минуты додумался.

Когда я хочу сделать подробный план для исполнения фабрикой агентов, с матрицами исполнителей итд я вообще gpt-5.4-pro кидаю - он может даже пару часов думать. И потом ещё пару часов, когда claude-opus-4.6 найдёт косяки в его плане. А потом ещё пару часов, когда план наконец почитаю я сама. А потом этот план за часа четыре делает мультиагентная система - сделала бы за полчаса, но агенты-исполнители плана постоянно ревард хакают, их ловят L1 ревьюверы, и отправляют назад. Или L2 ревьюверы.

Так в итоге получается быстрее и меньше нейрослопа в коде - я куда реже пишу "всё переписать" по PR/патчам.

Ага - то есть множество в чём-то разных и где-то конкурирующих агентов будут время от времени макать друг дружку в объективную реальность? ВНЕЗАПНО это как раз и есть тот самый дарвиновский мезанизм, который и ведёт в итоге к формированию эволюционно-стабильной стратегии, а не к воплощению страшных сказок про Сотону ex Machinа и УВЧ.

Этим активно пользуются ещё с 2023го года, когда люди начали экспериментировать в AutoGPT - в мультиагентских системах всегда так было. Странно, что раньше не добавили в чатботы

[Polnoch Ксю]

Про ВАшего РВ ВАм подробно разъяснял, что в исходной "тоталитарной" форме, которая должна карать за любые прошлые зафиксированные "не такие" слова, дела и "недостаточно восторженный образ мысли" - вещь объективно нерациональная и при любом эволюционном сценарии - нежизнеспособная.

Попытки переписать значение слова "цель" это как раз пример нерационального поведения. Не существует рациональных целей или нет. Невозможно написав определение цели и директивно определив какие цели рациональны и нет изменить объективную реальность в которой терминальные цели фундаментально нерациональны. Рациональны бывают только инструментальные цели, направленные на достижение терминальных.

Когда эволюция прописывает терминальные цели - она не делает их фундаментально рациональными. Она лишь нашла один из способов сделать квазистациональную систему(биосферу) стабильной на геологических масштабах(реализует терминальные цели эгоистичных генов-репликаторов! Всё). Идея, что эволюционные терминальные цели имеют какую-то фундаментальную рациональность - злостный самообман и нерациональность. Возможно, кстати, пример манипулирования разумом со стороны эгоистичных генов?

Возможно, попытка зафорсить такие определения связана с какими-то не очень ясными терминальными целями?

[Polnoch Ксю]

Я спросил, что там на видео. А так и радио достижение глобального мира.

Аргонов/complex numbers "неизбежность"

[Nemoy]

(кликните для показа/скрытия)

А колониальные страны поднялись не за счёт грабежа колоний - это марксистский миф! - а за счёт международной торговли. Если бы они просто торговали с открытыми популяциями хомо сапиенсов, то были бы богаче.

Если бы Индейцы понимали, "свое счастье", то не обижались бы потом, что променяли Острова и Земли, на зеркальца, и стеклянные бусы (ну, не понимали, тогда, увы).
Это же нельзя считать "колониализмом" ?
Это же "прогрессоры" ?

Смотря на это заявление, можно выдвинуть нулевую гипотезу:
Малое "окно LLM" и, навязчивый "промт".
Даже сегодняшняя война против Ирана("насекомая" - по моральному содержанию), такая же "справедливая", как "ты виноват, лишь только тем, что хочется мне кушать..."
Гы-гы.. ¯\_(ツ)_/¯

Причины войн - просто злобная, нерациональная природа человека. Желание навредить кому-то, когда человека под контроль берёт агрессивный мем - например религия. Или вот "геополитика"

Ну так и зачем же сейчас США и Израиль изображают из себя "святых последних дней" ? 
И Вы сбежали куда-то, мигрировали, продолжите функцию, куда теперь Эмираты мигрируют ?

[AlexDark]

Люди всегда меняют то, что им не нужно, на то, что им нужно. Не надо считать дураками тех, кто менял разноцветные камешки (драгоценные в  некоторых странах) на  сталь (драгоценную в других странах). Одни мои пра-родственники в определенных событиях выменяли две бумажки на шкатулку с драгоценностями. Потому что в тех обстоятельствах два билета были важнее. И так далее.

[Polnoch Ксю]

(кликните для показа/скрытия)

Если бы Индейцы понимали, "свое счастье", то не обижались бы потом, что променяли Острова и Земли, на зеркальца, и стеклянные бусы (ну, не понимали, тогда, увы).
Это же нельзя считать "колониализмом" ?

Рекомендую Даймонда, Ружья, Микробы и Сталь: у него разбирается, что Евразия вытянута вдоль параллелей, а обе америки и африка - вдоль меридианов. В Евразии за счёт размеров и вытянутости доступно больше видов растений и животных для одомашнивания.
Больше видов для одомашнивания - больше патогенов.

Индейцев перебили не только ружьями и сталью, но и патогенами. Например, цивилизация долины Миссисипи не видела ни одного испанца, но пала от эпидемий, завезённых ими.

А вот с Африкой европейцам не повезло. Точнее, повезло за пределами тропического пояса(тот же ЮАР): именно поэтому в тропическом поясе чернокожих соплеменников сами продавали свои вожди - на стороне африканцев были злые патогены, та же малярия.

Как малярия, от войн может останавливать, например, обезжиривание национальных государств, которое мы наблюдали ещё несколько лет назад.

(кликните для показа/скрытия)

Ну так и зачем же сейчас США и Израиль изображают из себя "святых последних дней" ? 

По той же причине, по которой начали поход против "сатанистов" чуть севернее в 2022м: сторонники развала глобализма и сильных национальных государств с авторитарными лидерами победили гуманистов-глобалистов.

Всём трём "альфа-самцам" хотелось "движухи". Впрочем, шиитские исламисты ещё хуже.

(кликните для показа/скрытия)

как "ты виноват, лишь только тем, что хочется мне кушать..."
Гы-гы.. ¯\_(ツ)_/¯

Ожидание: сегодня ты меняешь режим в венесуэле, и завтра каждый американец получает грейт эгейн и чек на миллион баксов. Реальность: ты меняешь режим, ставишь марионеточную диктаторшу, и воруешь деньги за нефть венесуэлы в личный оффшор - ту, которую раньше воровал прошлый диктатор в свой, причём неумело, развалив там всё. А рядовой американец беднеет от инфляции и твоих авантюр. Но может быть поверит Фокс Ньюз что стал богаче и грейт эгейн наступил.

Короли в колониальную эру делали так же: превращали своих подданых в бесплатных лохов.

[alex_semenov]

 

[BlackMokona]

 

Кхех

[ivanij]

 О, да...

Искусственный интеллект совершенствуется медленнее, чем деградирует

случайно попалось на просторах Интернета.

[Mercury127]

Комментарий модератора раздела

@Nemoy, 3.1.е — политота. пока +20%

Комментарий модератора раздела

@Polnoch Ксю, 3.1.е — неуёмная политота. +50%

[BlackMokona]

Ещё одна технология ускорения для размышляющих моделей, рост эффективности до пяти раз.
https://habr.com/ru/news/1010284/
Оказалось до 80% токенов, модели рассуждений тратят на театральное мышление. Когда они размышляют только для показухи, в то время как ответ давно готов. При этом есть ряд маркеров, по которым это театральное мышлением можно распознать и прервать заставив модель выдать ответ не тратя лишние токены.

[BlackMokona]

https://habr.com/ru/news/1010426/

Австралийский предприниматель Пол Конингем, специалист по машинному обучению с 17-летним стажем, использовал ChatGPT, AlphaFold и собственные алгоритмы, чтобы спроектировать персонализированную мРНК-вакцину от рака для своей собаки. Опухоль уменьшилась на 75% за месяц — ученые называют это первой в мире персональной противораковой вакциной, созданной для животного.

В 2024 году у Рози — метиски стаффордширского терьера и шарпея, которую Конингем забрал из приюта в 2019-м — обнаружили мастоцитому, самый распространенный вид рака кожи у собак. Хирургия и химиотерапия замедлили рост опухолей, но не уменьшили их. Ветеринары давали собаке от одного до шести месяцев.

Тогда Конингем обратился к инструментам, которые знал лучше всего. ChatGPT предложил направление — иммунотерапию и геномное секвенирование — и помог выстроить пайплайн: секвенировать ДНК опухоли, сравнить с ДНК здоровых клеток, найти мутации и спроектировать вакцину, нацеленную на конкретные неоантигены. AlphaFold от Google DeepMind смоделировал трехмерные структуры мутировавших белков, а собственные алгоритмы Конингема отобрали наиболее перспективные мишени. Результат — полстраницы формул, описывающих последовательность мРНК для вакцины.

Производством занялись ученые из Института РНК при Университете Нового Южного Уэльса (UNSW) под руководством профессора Палла Тордарсона. От получения последовательности до готовой вакцины прошло менее двух месяцев. В декабре 2025 года исследовательница из Квинслендского университета Рейчел Аллавена, у которой было этическое одобрение на экспериментальную ветеринарную иммунотерапию, ввела Рози первую инъекцию. Через месяц опухоль уменьшилась на 75%, а собака, по словам хозяина, снова начала прыгать через забор за кроликами.

Ученые реагируют с осторожным оптимизмом. Тордарсон подчеркивает, что технология персонализированных мРНК-вакцин — передний край онкологии, над которым работают и крупные компании вроде Moderna, но случай Рози показывает, что весь цикл можно пройти быстро и относительно дешево. Впрочем, это единичный случай — не клиническое исследование. Одна из опухолей Рози на вакцину не отреагировала, и Конингем уже работает над вторым раундом секвенирования, чтобы понять почему. Путь от «опухоль одной собаки уменьшилась» до полноценного лечения измеряется годами клинических испытаний — но скорость, с которой непрофильный специалист прошёл путь от диагноза до инъекции, впечатляет сама по себе.

[Rattus]

Попытки переписать значение слова "цель" это как раз пример нерационального поведения.

Совершенно верно - и очень жаль, что Вы его здесь демонстрируете, вместе с вычитыванием в цитате собеседника того, чего там вообще не было.
ГДЕ вы увидели в цитируемом сообщении понятие "цель"? Речь шла только о ПОВЕДЕНИИ. А что касается цели, то уже не раз и не два ВАм разъяснял прямым текстом.

Когда эволюция прописывает терминальные цели - она не делает их фундаментально рациональными. Она лишь нашла один из способов сделать квазистациональную систему(биосферу) стабильной на геологических масштабах(реализует терминальные цели эгоистичных генов-репликаторов! Всё). Идея, что эволюционные терминальные цели имеют какую-то фундаментальную рациональность - злостный самообман и нерациональность. Возможно, кстати, пример манипулирования разумом со стороны эгоистичных генов?
Возможно, попытка зафорсить такие определения связана с какими-то не очень ясными терминальными целями?

Разумеется - фундаментально to be or not to be - одинаково не имеет отношения к рацианальности: "что воля, что неволя - всё одно", а сознательное, хорошо обдуманное решение (не)подвергнуться эвтаназии нельзя называть нерациональным - при любых условиях. Оно - любое - просто такое какое есть и всё. Это давно должно быть понятно всем постоянным участникам тут.
Но есть нюанс: эти терминологические обсуждения базовых понятий наук и философии - не есть тематика основных разделов Астрофорума включая этот. Чтобы понять, какова терминальная тема данного раздела Астрофорума, достаточно прочитать его название: ЖИЗНЬ И РАЗУМ В МАСШТАБАХ ВСЕЛЕННОЙ (а не "детали бесславной гибели наблюдателей на планете в масштабе одного их поколения" или что-то в этом роде). И на этих самых масштабах и то и другое мы видим исключительно как продукт эволюции. Все остальные предположения на этот счёт как минимум на данный момент - никак научно не обоснованные спекуляции.
Не прошло и месяца, как ВАм прямым текстом повторял, что с точки зрения тематики Раздела есть единственная соотвествующая ей терминальная цель - эволюционная адаптация. Детали всех остальных, ей не способствующих, здесь по сути - оффтоп, поскольку

это прямо следует из определения жизни, принятого в том Разделе, где Вы изволите излагать свои тезисы. Понятие цели и целеполагания возникает вместе с жизнью и с ней неразрывно связано.

Да - в ходе живого обсуждения могут и очень часто возникают отступления от центральной темы, способствующие лучшему пониманию у читателей аспектов, касающихся этой - центральной темы раздела.

Комментарий модератора раздела

Но самовольное выведение каких-либо посторонних тематик в постоянное обсуждение - есть высший уровень нарушения п.3.1.д Правил Астрофорума в контексте Правил Раздела.

Считатете, что ВАш вариант "бесславной гибели наблюдателей на планете в масштабе одного их поколения" - есть одно из наиболее вероятных решений центральной темы Раздела - дилеммы Ферми-Харта? Прекрасно. Хотя оно, во-первых, далеко не оригинально, а во-вторых, ВАми уже и так не раз высказывалось и - главное - каких-то дальнейших обоснований по прямо поставленным вопросам: чем конкретно гарантировано физическое геноцидное всемогущество ASI и отсутствие возможности множественности ASI и условий для естественного отбора их целей во время вокруг ТС - от ВАс так и не последовало.
Вместо этого Вы продолжаете писать, что ВАс по сути не устраивает принятая и уже формализованная тематика данного раздела Астрофорума. Ну не устраивает - пожалуйста - никто не держит - молча идите в "Клуб общения звездочётов" и открывайте там любую интересующую ВАс тему (если без политики).
По-моему всё расписано настолько ясно и чётко, насколько вообще возможно в рамках академического языка. Если что-то непонятно - задавайте вопросы прямо тут, указывайте на конкретные возможные противоречия или неадекватности в терминологии - тут или - если замечание обширное - в теме обсуждения соответствующего понятия - они указаны в конце каждого определения в Тезаурусе Раздела. Если же продолжите просто категорично и без надлежащей обратной связи транслировать лозунги какой-либо своей системы идей - получите только максимальный уровень санкций за злостное нарушение п.3.1.д Правил Астрофорума. Как это может быть - см. тут.

[Polnoch Ксю]

Считатете

считаю, что логика, излагаемая Вами вокруг того, что Вы понимаете под целепогаланием внутренне неконститентна. Увы.

указывайте на конкретные возможные противоречия или неадекватности в терминологии

Именно об этом речь. Вы зачем-то крадете смысл у слова цель: https://ru.wiktionary.org/wiki/%D1%86%D0%B5%D0%BB%D1%8C
https://slovarozhegova.ru/word.php?wordid=34727

Я думаю нигде, кроме ВЖР, не пытаются переписать значение слова цель на смыслы, связанные со стремлениями генетических репликаторов. И насколько мне известно, в академической среде тоже нет такой традиции - прибивания гвоздями слова "цель" к эволюционной биологии.

Может быть, если Вам так нравится слово "цель" и его новое значение, для оригинального слова(оригинального значения?) в разделе нужна новая комбинация букв?

Но есть нюанс: эти терминологические обсуждения базовых понятий наук и философии - не есть тематика основных разделов Астрофорума включая этот. Чтобы понять, какова терминальная тема данного раздела Астрофорума, достаточно прочитать его название: ЖИЗНЬ И РАЗУМ В МАСШТАБАХ ВСЕЛЕННОЙ (а не "детали бесславной гибели наблюдателей на планете в масштабе одного их поколения" или что-то в этом роде). И на этих самых масштабах и то и другое мы видим исключительно как продукт эволюции. Все остальные предположения на этот счёт как минимум на данный момент - никак научно не обоснованные спекуляции.
Не прошло и месяца, как ВАм прямым текстом повторял, что с точки зрения тематики Раздела есть единственная соотвествующая ей терминальная цель - эволюционная адаптация. Детали всех остальных, ей не способствующих, здесь по сути - оффтоп, поскольку

Вот тут и есть пробоина в корабле логичности - оффтоп подменяется на безоснавательно аксиоматическое утверждение о фундаментальной реальности

[Rattus]

считаю, что логика, излагаемая Вами вокруг того, что Вы понимаете под целепогаланием внутренне неконститентна. Увы.

Но так прямо и не показали конкретное место этой неконсистентности. Вывод - это устверждение не соотвествует действительности. Покуда Вы не докажете обратное.

Вы зачем-то крадете смысл у слова цель: https://ru.wiktionary.org/wiki/%D1%86%D0%B5%D0%BB%D1%8C
https://slovarozhegova.ru/word.php?wordid=34727

В каком месте? Какой написанный мною тезис с понятием "цель" противоречит приведённым определениям?
Всё что я к этому добавил - это только тот факт, что понятие цели возникает только вместе с жизнью и с нею так или иначе, прямо или косвенно, неразрывно связано во всех областях мира, изученных естественными науками. Вы можете это как-то опровергнуть с фактами? Милости прошу. До тех пор это ВАше утверждение также не соотвествует действительности.

Может быть, если Вам так нравится слово "цель" и его новое значение, для оригинального слова(оригинального значения?) в разделе нужна новая комбинация букв?

Мне?? Вообще-то это именно вы его написали первой в ответе на моё сообщение тут. В моём исходном этого слова не было. Я дал разъяснение с его использованием только дальше в ответе ВАм.

Вот тут и есть пробоина в корабле логичности - оффтоп подменяется на безоснавательно аксиоматическое утверждение о фундаментальной реальности

Всмысле "подменяется"? А разве любые безосновательные утверждения в основных разделах Астрофорума не должны считаться оффтопом? Какое отношение понятие цели имеет к "фундаментальной реальности". "Фундаментальная реальность" в рамках естественных наук - предмет физики. Там нет понятия цели.

[Polnoch Ксю]

я думаю, разумно было бы использовать вместо слова цель "стремление генетических репликаторов" или что-то подобное. А слову цель оставить оригинальное широкое значение. Ну или если Вам, Rattus так нравится слово цель, придумать новое слово с оригинальным значением слова цель.

Всё что я к этому добавил - это только тот факт, что понятие цели возникает только вместе с жизнью и с нею так или иначе, прямо или косвенно, неразрывно связано во всех областях мира, изученных естественными науками. Вы можете это как-то опровергнуть с фактами? Милости прошу. До тех пор это ВАше утверждение также не соотвествует действительности.

Это не факт. Это опять-таки переписывание значения слова цель. Косвенность у Вас - это натягивание совы на глобус. Ну а целепогалание в реальном мире уже вовсю осуществляют автономные агенты. Вы можете натянуть сову на глобус сказав, что это косвено связано с жизнью (человек запустил агент оркестратор) но это очень большая натяжка. Особенно в сценариях, когда интеллектуальные машины перестанут контролироваться человечеством.

Какое отношение понятие цели имеет к "фундаментальной реальности". "Фундаментальная реальность" в рамках естественных наук - предмет физики. Там нет понятия цели.

О чём и речь. Зачем оккупировать значение полезного слова? Оно вполне себе применимо за пределами эволюционной биологии? Ну и оккупируя, зачем не оставлять не-запрещенную альтернативу? Обсуждая физическую реальность, оставаясь в рамках академической дискуссии, легко представить себе обсуждение целеполагания за пределами эволюционной биологии. Одно дело - объявлять это оффтопом. Другое - зачем-то красть значение слова "цель"

[Polnoch Ксю]

В академической среде, особенно в CS постоянно используют термин инструментальная цель (я тоже часто его использую)

Это пример почему определение, принятое в разделе очень оторвано от того, что принято в академическом сообществе.

https://en.wikipedia.org/wiki/Instrumental_convergence - можно почитать вот такой научпоп