Пределы автоматизации и внедрения роботов

[BlackMokona]

Антрофик тоже обновились, укрепив своё лидерство по программированию
https://habr.com/ru/news/969870/

[Vitaliy]

Нормально так

[BlackMokona]

Нормально так

Хотел бы написать через годик всё наладиться, но через год будет утиль сбор на оперативную память в России.

[Konstantin Schtsch]

он будет управлять автономным оружием, и делать оружие на автоматических заводах

так уже... не везде, но вот от завода Anduril впечатление именно такое. Многозадачность и гибкость на серийном производстве новейшего вооружения. Цеха без света.

(блин, как я же в шоке, что мы оказались в этом дебильном таймлайне!)

Да я уже четвертый год новости без попкорна смотреть не могу. Сегодня в чём-то даже интереснее, чем в 90-е. ©"Чтоб ты жил в интересное время!"

зачем на них ресурсы тратить?

Ну, с голодухи, допустим, не помрут, да и койку с душем в специально оборудованных стойлах соцжилье? обеспечить недорого. И 80%(!) это устроит, если работать не надо и Wi-Fi бесплатный будет.
Гидропонный рис - не овощ, его не шибко отличишь от обычного с полей с удобрениями.
А фотобиореакторы могут до 10 кг хлореллы, или 5 кг спирулины, или 6 кг дафний с кубометра воды в сутки. Другое дело что вкус у планктона - такое себе, но и тут я готов поспорить, что китайцы первыми сделают из них какие-нибудь чипсы, что пальчики оближешь.

А 2% от новой популяции - это те, за кем охотятся хедхантеры. Таков, так сказать, % удачных генных комбинаций, мутаций и нейронных конфигураций в нужном направлении.
Обучение в вирте - сейчас в первую очередь упирается в цену комплекта, а так- все там будут, с той или иной долей присмотра, но- это гораздо эффективнее текущей прусской системы. А ведь её основное достоинство- всего 1 учитель на две дюжины балбесов. ИИ даст репетитора каждому. Со стимулом [Изначальное значение латинских repetitor и stimulus все помнят? ].
Такая вот ферма талантов на базе довольно прожигающей жизнь биомассы - главное с социальными лифтами не накосячить.

ещё больше людей будет уволено - люди не будут нужны даже чтобы оружие делать, зачем на них ресурсы тратить?

Ну почему же сразу не нужны...
--а спой-ка мне песенку, в косплейном костюмчике, можно даже по 3-д связи, а то что-то скучно. (блохеры, тиктокеры и прочие дейтеры)
--а поставьте-ка в отель к моему приезду живую хостесс.
--и бармена - тоже живого, и с дипломом психолога, конечно же.
--и фитнес-тренера, подкачанного, чтоб видно было пример, и мотивация.
--И такси с живым со-водителем, чтоб разговор за жизнь и новости
--и живого оператора поддержки, а не вот эти ваши чат-боты, ибо у меня настроение поговорить (уже актуально, чёрт возьми!)
--Не просто забор, а красивый забор, с вензелями. Правильный промт задать ИИшке тоже надо уметь.
--Креативные разработчки, творцы нового, которое не просто комбинация всего увиденного(эт как раз для ИИ легко), а вот прям взгляд на обычные вещи с необычного ракурса- этому ИИ не обучишь. Это собсна говоря нездоровый разум нужен - шизоидный, причем чтоб его носитель на людей не кидался. И я не уверен, что всемогущий AGI на это способен, ибо технически это ошибки, ставшие шедеврами, а ошибки будут всячески исправлять.
--Инженеры - те всегда нужны. Не всегда им готовы платить хорошо, да и в пост-СССР их случился дикий переизбыток, но нужны- всегда.
--Всевозможные Погонщики рабов, ктулху фтагн! роботов. Так сказать в поисках высокооплачиваемых руководящих должностей.

Подытожив - люди просто сменят род деятельности, с уклоном в человеческие отношения.
А нудные и тяжелые должности - вымрут, как вымерли грузчики в доках, да и вообще грузчик сегодня = водитель погрузчика+завсклад со знанием 1С.

[Olweg]

https://habr.com/ru/news/970008/

Президент США Дональд Трамп подписал указ о запуске национальной инициативы The Genesis Mission. Новый проект должен превратить системы ИИ в ключевой научный инструмент страны: Министерство энергетики и сеть из 17 национальных лабораторий построят единую платформу, которая объединит государственные научные данные, суперкомпьютеры и ИИ-модели.
…
The Genesis Mission — это интегрированная ИИ-платформа, которая использует десятилетия накопленных государством научных наборов данных. На этой базе планируют обучать специализированные научные базовые модели и развертывать ИИ-агентов, которые будут формулировать гипотезы, подбирать эксперименты, запускать крупные численные симуляции на суперкомпьютерах и разбирать результаты. Приоритетные направления включают энергетику (от термоядерного синтеза до модернизации энергосистемы), материаловедение и критические минералы, биотехнологии, квантовые технологии, микроэлектронику и ядерную сферу.
…
Политически The Genesis Mission подается как ответ на усиление Китая в гонке за ИИ и наукоемкие технологии. В аналитике инициативу напрямую сравнивают с "Манхэттенским проектом" и космической гонкой: ставка делается на то, что единая ИИ-платформа позволит США быстрее конкурентов находить новые лекарства, материалы и технологии двойного назначения. На этом фоне администрация уже отменила более осторожный указ Джо Байдена о безопасности ИИ и продвигает план AI Action Plan, который должен снять регуляторные барьеры для строительства дата-центров и расширения ИИ-инфраструктуры — в том числе под задачи Genesis Mission.

[Olweg]

Согласно документу, всё будет происходить очень быстро в течение 2026 года:
— Шаг 1: Ревизия железа (3 месяца — до февраля 2026)
Правительство проверяет все свои суперкомпьютеры и облачные хранилища. Они смотрят, какие мощности можно отдать под ИИ.

— Шаг 2: Сбор данных (4 месяца — до марта 2026)
Самый важный этап. Министерства и исследователи собирают данные для обучения ИИ. Данные должны быть на отдельно разработанной платформе, обеспечивающей безопасность от взломов, чтобы Китай или другие страны не украли эти данные.

— Шаг 3: Подготовка роботов (8 месяцев — до июля 2026)
Это самое интересное. Планируется не просто суперкомпьютер для тренировки и запуска, но и подключение моделей к (полу-)роботизированным лабораториям. То есть ИИ-агент придумывает протокол эксперимента, а робот в лаборатории сам, условно, смешивает реагенты и проверяет по набору тестов. Звучит фантастично, но такие эксперименты уже были — для модели это просто написание кода с вызовом разных методов и указания аргументов.

— Шаг 4: Первый запуск (9 месяцев — август-сентябрь 2026)
Должны продемонстрировать «начальную боевую готовность» — ИИ должен решить как минимум одну крупную национальную задачу из списка приоритетов.

https://telegram.me/seeallochnaya/3133

[Olweg]

Genesis строится на партнёрствах с частным сектором. Nvidia, Dell, Oracle и Anthropic уже объявили об участии. Компании будут финансировать строительство дата-центров на госземле, а нацлаборатории предоставят вычислительные мощности и данные.

Проблема — конкретного финансирования пока нет. Чиновники Белого дома туманно намекали, что «с помощью Конгресса продолжим увеличивать инвестиции». То есть денег не дали, но очень хотят.

Потому что Genesis — прямой ответ Китаю. У КНР есть своя версия — Национальная интегрированная сеть вычислительных мощностей, которую координирует государственная лаборатория Peng Cheng. Китай строит аналогичную систему объединения ресурсов по всей стране.

Проблема Китая — он контролирует около 15% глобальных AI-мощностей, США — 75%. Экспортные ограничения на чипы Nvidia сильно бьют по китайским разработчикам. Huawei пытается компенсировать своим Ascend 910C, но он отстаёт.

Феномен Stargate в колоссальный инвестициях на строительство нового, а Genesis — это координация уже существующего. США владеют крупнейшей коллекцией научных данных в мире, крупнейшей сетью суперкомпьютеров, лучшими исследовательскими институтами. Проблема была в том, что всё работало разрозненно.

Если Genesis сможет действительно объединить эти ресурсы и дать частным компаниям доступ к государственным данным — это будет мощно. Особенно в военных применениях: автоматизация дизайна оружия, симуляция ядерных процессов, квантовые вычисления для криптографии.

Китай точно ответит усилением своих программ. Но у него два больших недостатка: дефицит передовых чипов и меньший объём качественных данных. Genesis играет именно на этих преимуществах США.

https://telegram.me/denissexy/10978

[BlackMokona]

Вычислительные мощности выделенные для ИИ крупнейшими компаниями из США. В мегаваттах.
Зелёное уже ведённые в строй, красные это планы на будущие. Я конечно знал, что Маск строит быстро. Но чтобы настолько быстро... 

[Инопланетянин]

(блин, как я же в шоке, что мы оказались в этом дебильном таймлайне!)

Да я уже четвертый год новости без попкорна смотреть не могу. Сегодня в чём-то даже интереснее, чем в 90-е. ©"Чтоб ты жил в интересное время!"

Только четвёртый? До этого вам нормально было? Да тут уж одиннадцать лет такие новости каждый день, что… Ну вы поняли, да?

[BlackMokona]

https://habr.com/ru/news/970724/

В MIT представили ИИ для разработки лекарств против трудноизлечимых заболеваний

[Olweg]

Илья Суцкевер дал интервью после долгого перерыва.
https://www.youtube.com/watch?v=aR20FWCCjAs

Краткое содержание:

[BlackMokona]

McKinsey Global Institute опубликовал доклад Agents, robots, and us: Skill partnerships in the age of AI, в котором озвучено мнение, что уже сегодня ИИ-агенты и роботы могли бы автоматизировать до 57% всех рабочих часов в США, если компании радикально перестроят процессы.

https://habr.com/ru/news/971076/

[Vavanzer]

McKinsey Global Institute опубликовал доклад Agents, robots, and us: Skill partnerships in the age of AI, в котором озвучено мнение, что уже сегодня ИИ-агенты и роботы могли бы автоматизировать до 57% всех рабочих часов в США, если компании радикально перестроят процессы.

https://habr.com/ru/news/971076/

"то к 2030 году это может принести экономике США около 3 трлн долларов дополнительной ценности ежегодно — не только за счет сокращения затрат, но и за счёт ускорения разработки продуктов и роста производительности."

  А экономические потери от 40% выброшеных на улицу рабочих не в счет!?))) Они окажутся по сути бывшими покупателями, которые когда то делали экономический оборот, приобретали товары и услуги, сделанные другими рабочими.
  Да и вовсе не факт, что полностью роботизированное сложное произдство по итогу окажется рентабельным , по совокупности всех затрат!) С учетом еще и того, что полдукуию этих производств юудет не кому приобретать  по причине отсутствия доходов у населения)))   

[Polnoch Ксю]

  А экономические потери от 40% выброшеных на улицу рабочих не в счет!?))) Они окажутся по сути бывшими покупателями, которые когда то делали экономический оборот, приобретали товары и услуги, сделанные другими рабочими.
  Да и вовсе не факт, что полностью роботизированное сложное произдство по итогу окажется рентабельным , по совокупности всех затрат!) С учетом еще и того, что полдукуию этих производств юудет не кому приобретать  по причине отсутствия доходов у населения)))   

Я бы предположила, что экономическая система может функционировать по-другому.

Например, в средневековье она была вокруг земли, на которую сажали зависимых крестьян, которые и создавали основной продукт. Торговли почти не было, это было время натурального хозяйства. В катастрофу Бронзового века тоже произошёл коллапс торговли.

В случае продолжения тренда на отказ от глобализации и прав человека, нас ждёт именно это - социальный коллапс, тёмные века, и новые феодалы будут контролировать землю, автоматические заводы и датацентры. Экономика будет ресурсно-ориентированной и опять натуральной. Небольшая торговля будет только минеральными ресурсами (по Земле и Солнечной Системе).

В отличие от прошлых тёмных веков, можно ещё предположить, что произойдёт не столько отупление людей и потеря ими знаний, сколько массовое истребление - например, с помощью киллботов, биологических агентов или голода - в силу ненужности: мы будем не нужны ни владельцам датацентров, если будет технология элайнмента, ни ASI, если такой технологии не будет, и решения будет принимать он.

В случае элайнмента, я думаю, точка когда мы станем не нужны - будет примерно в тот момент, когда закончатся испытания лекарств от старения, и больше рандомизированные массовые исследования на людях будут не нужны. Где-нибудь в 2040м? Можно будет оставить миллионов 50 как модельные организмы для экспериментов и развлекать владельцев датацентров. Шанс, что в эти 50 млн попадёт хоть кто-то с ВЖР довольно маленький.

Может ли быть по-другому? Может быть, но нужно срочно разворачивать тренд - опять в сторону прав человека и глобализации, и добавить безопасность ИИ. Возможно ли это? Нет конечно: люди не понимают, насколько это важно. Вот буквально почти никто не понимает. Поэтому мы обречены: из-за злобных дураков.

[Тим_Тенин]

Хотел бы написать через годик всё наладиться, но через год будет утиль сбор на оперативную память в России.

   Приветствую, родные! Первое сообщение тут.
Утиль-сбор может превышать зряплату на добычу.
Помните, на -вскидку, когда презимлившись на квадратной планете в Лемовом рассказе, оказалось, что обитатели страдают от ментальной эфтоназии - и простецки таскают, как сопли из ноздрей - глобальные Истины? Не помню -навскидку - нумер Лемовского рассказа.
     Но, - привет Всем. с добрыми пожеланиями. Читаю и знаю Вас - давненько. Прошу бить тапками и прочем, так как имею внутре неонку юмора.

[Vavanzer]

В случае продолжения тренда на отказ от глобализации и прав человека, нас ждёт именно это - социальный коллапс, тёмные века, и новые феодалы будут контролировать землю, автоматические заводы и датацентры

  И. Закономерный вопрос, а для кого эти заводы и датацентры будут функционировать? Массового потребителя не будет, тк большинство будет лишено жоходов. Что будут делать эти датацентры? Пережигать электричество в тепло, считая никчемные ничего не значащие цифры?
 

В отличие от прошлых тёмных веков, можно ещё предположить, что произойдёт не столько отупление людей и потеря ими знаний, сколько массовое истребление - например, с помощью киллботов, биологических агентов или голода - в силу ненужности: мы будем не нужны ни владельцам датацентров, если будет технология элайнмента, ни ASI, если такой технологии не будет, и решения будет принимать он.

  Ну это не новая идея.  При этом, возможен сценарий восстания людей против машин. Причем, вплоть до того, что люди отвлекутся от конфликтов между собой, переключатся на "внешнего врага".
 Про это дело много фильмов есть, относительно современных.
 

В случае элайнмента, я думаю, точка когда мы станем не нужны - будет примерно в тот момент, когда закончатся испытания лекарств от старения, и больше рандомизированные массовые исследования на людях будут не нужны. Где-нибудь в 2040м?

  Смотря чем закончатся эти испытания!)) Но само уже слово "лекарство" предполагает что будет провал))) Мышление таблетки, так сказать. Старение - это целый комплекс внутренних причин и всевозможных внешних факторов. И таблетка там не поможет. Даже 100 таблеток! Хоть горстями ешь! Многие факторы не купировать добавлением очередной химоты в метаболизм!)

 

Может быть, но нужно срочно разворачивать тренд - опять в сторону прав человека и глобализации, и добавить безопасность ИИ

А зачем он вообще нужен? Что полезного он может дать? И стоит ли оно того?

[Polnoch Ксю]

https://www.youtube.com/watch?v=0d727qv_MYs

Roman Yampolskiy тоже думает, как и я, что возможности ИИ систем растут, а в элайнменте пока нет прогресса, наоборот ситуация ухудшается - об этом ещё и Антропик говорит что ревард хакинг натурально возникает у более умных моделей: https://www.anthropic.com/research/emergent-misalignment-reward-hacking

Пока всё идёт по самому плохому сценарию со смертью вообще всех. Вероятность сценария максимизатора скрепок (но только вместо скрепок скорее всего будет максимизироваться что-то ещё) быстро растёт.

[Polnoch Ксю]

  И. Закономерный вопрос, а для кого эти заводы и датацентры будут функционировать? Массового потребителя не будет, тк большинство будет лишено жоходов. Что будут делать эти датацентры? Пережигать электричество в тепло, считая никчемные ничего не значащие цифры?

1) для владельца датацентра - обеспечивать ему и его семье максимально комфортную жизнь - куда более комфортную, чем сейчас возможно. Например, у него там будут виртуальные миры
2) ASI, и его целей. Например, добыть всё железо из планеты и переработать в скрепки (если такое бы было в промте)

при этом, возможен сценарий восстания людей против машин.

Это очень наивный сценарий. Восстать можно против тирана твоего примерно уровня интеллекта. Могут ли тараканы восстать против тирании человека? Все эти фильмы вроде терминатора - они делают фундаментальную ошибку, представляя машину примерно такого же уровня интеллекта, как человек.

А зачем он вообще нужен? Что полезного он может дать? И стоит ли оно того?

Утопию: больше не будет болезней, смерти, страдания, нищеты, голода. Все люди могли бы жить в раю, и заниматься тем, что им нравится. Это проблема наших ценностей сегодня. Луддизм всё равно проиграет. Лучше выбрать утопию, и сознательно работать на неё.
Луддизм vs антиутопия с ASI - ложная дихтомия. Тем более, что у луддитов просто не может ничего получится - их переубивают киллботами. Ведь луддиты не захотят использовать ИИ для борьбы за свои права.

[Тим_Тенин]

   А зачем торопиться?
Проходящяя звезда пролетает, что за хвост - не угонишься?
   Может 40 триллионов долгов давит на мозжечёк, кое у каких десятков семейств на нашей общей планете? Простите, за намёк на политику. Шучу - правила знаю, нащщёт политики и прочего, но понимаю, что выкидывать из уравнений - всем известные и весомые переменные - просто болтовня.

[Vavanzer]

) для владельца датацентра - обеспечивать ему и его семье максимально комфортную жизнь - куда более комфортную, чем сейчас возможно. Например, у него там будут виртуальные миры

С чего взяли, что такая жизнь более комфортная? Кому то нравится загрродный дом в лесу, охота и рыбалка. А не компьютеры все эти и несуществующая реальность.
 

Это очень наивный сценарий. Восстать можно против тирана твоего примерно уровня интеллекта. Могут ли тараканы восстать против тирании человека? Все эти фильмы вроде терминатора - они делают фундаментальную ошибку, представляя машину примерно такого же уровня интеллекта, как человек

   Любое живое существо может восстать поотив того, что ему угрожает или как то беспокоит! Это нормальная естественная реакция. Если роботы придут к арабам с войной,  арабы конечно же взбесятся и нападут на роботов!)
 

Утопию: больше не будет болезней, смерти, страдания, нищеты, голода. Все люди могли бы жить в раю, и заниматься тем, что им нравится. Это проблема наших ценностей сегодня. Луддизм всё равно проиграет. Лучше выбрать утопию, и сознательно работать на неё

И каким образом эта утопия связана с деятельностью ИИ и его возможностями?!) Он что, сгенерирует горы пищи, вещей, лекарств, избавит от всех болезней и природных катаклизмов!?) Прям скатерть-самобранка какая то) Очередная вера в какое то волшебство! Что магия, еа этот раз цифровая, решит за людей все их проблемы!)
 

Все эти фильмы вроде терминатора - они делают фундаментальную ошибку, представляя машину примерно такого же уровня интеллекта, как человек.

  Авторы-фантасты представили такую модель, в которой ИИ обрел самоосознанность, обособленность, самодостаточность, и пришел к выводу что люди ему не нужны, и представляют опасность для него. И все фильмы подобные по сути об этом.  Причем, чаще всего, там ИИ еще гораздо более продвинутый, чем ум у одного человека отдельно зятого! И возможностей у него огромные, тк он подключен во всем системам, созданным людьми) И может устроить все что угодно.
  Причем, вдобавок "по легенде", его разработки в технологиях тоже многократно опережают возможности людей!

  Конечно , в реальной жизни есть предпосылки что подобное не прокатит, и в то же время и прокатит!