Пределы автоматизации и внедрения роботов

[Rattus]

У меня мир настоящего. Вспомните, пожалуйста, описанный мной опыт с Василиском Роко. Я считаю ту модель настоящим Василиском Роко (и сложно фальсифицировать что он не такой ИИ), просто глупым его инстансом.

ОК. Допустим. Примем такую терминологию, если она Вам так дорога.

Предположение, что в будущем будут такие же Василиски Роко, только в миллионы раз более умные, вполне валидное.

Вероятность большей производительности именно не менее чем в миллион раз вовсе не доказана. ASI, превосходящий AGI/коллектив ЕИ, вовсе не факт что может быть всяко умнее и прозорливее их в миллионы раз. И даже не в тысячи. Может статься, что в сотню раз - это предел, упирающийся в Амдала, Ландауэра и т.п. физико-технические ограничения. И совершенно ничего не мешает нам с полным правом называть это - ASI.
Но даже если и в миллион - из этого вовсе не вытекает всемогучесть! Вы подобно тому как А.А.Семёнов тут ранее абсолютизировал разрушительную силу кинетических снарядов, запускаемых с Луны, игнорируя массу их слабых мест, ставящих под вопрос саму полезность такого оружия в реальных условиях, также абсолютизируете "убойные" способности ASI. Когда же ВАс спрашивают - как именно он их сможет реализовать физически - Вы снова повторяете какие-то совершенно детские по уровню физического и технического представления идеи про одновременно крайне высококонтагиозные, стойкие, но при том  среднемедленно прогрессирующие высоковирулентные инфекционные агенты и килботов размером с муху, но автономной дальностью как у бомбардировщика - что тоже уже не раз тут разбиралось.

Любые цели фундаментально нерациональны

С точки зрения тематики Раздела есть единственная рациональная конечная цель - эволюционная адаптация. Детали всех остальных, ей не способствующих, здесь по сути - оффтоп.

Если не пускать Rattus'а или Вас к системному промту или ваших единомышленников, то такого промта и не будет.

Тогда и по-настоящему автономного AGI/ASI не будет, а будет просто очень разросшиеся и сложные IT-костыли цивилизации - расширенного фенотипа всё того же дикого сапиенса. А так называемая техносингулярность - всего лишь обозначением пика (роста) его сложности, не ведущая сама собой к какому-либо фазовому переходу. Она будет в чём-то другом, чему AGI/ASI будет всего лишь одним из факторов-инструментов.

Ну или даже можно пустить, вы не будете вводить, так как почему-то думаете, что это дефолт.

Не скажу за Инопланетянина, но Rattus так точно не думает. О чём прямо писал в ответе ВАм менее месяца назад:

Rattus думает не так. Это Вы думаете, что он так думает, потому что читали его невнимательно и невдумчиво. Ясен перец, что интеллект, как любой инструмент не зависимо от причины его появления, вовсе не обязан быть сразу настроен под ландшафт адаптации. Речь была о том, что существование какого-то варианта его воплощения на астрогеологически значимых масштабах времени (каковые только и есть предмет обсуждения в данном разделе данного форума) будет возможным в том и только том случае, если этот вариант будет исполнять эволюционно-стабильную стратегию поведения.
И эта стратегия - вовсе не обязана представлять собой ни максимизатор какой-то ситуативной фигни не взирая ни на что или же оберегатель своего создателя в режиме гнездового паразитизма. Элементарная эволюционная логика показывает, что в таких случаях существенное эволюционное преимущество имеет не терминтатор и не автонянька, а оптимизатор-эксплуататор - типа эукариотной клетки по отношению к цианобактерии в растениях или гриба по отношению к водоросли в лишайнике. Даже если в начале преимущество получит какая-то иная стратегия поведения и если она не приведёт в краткой перспективе к полному обрыву хайтехноцивилизации вообще (каковой обрыв, как уже обсуждалось, может прекрасно случиться по ресурсным причинам вообще безо всяких AGI и ASI), а будет проводиться системой (опять-таки: чисто машинной или коллегиально-бледнотиковой - тоже не важно), действительно более-менее обладающей интеллектом в полном смысле слова - то есть способностью видеть вероятности развития своей судьбы и возможные способы влияния на неё дальше своего носа - то она скорее рано чем поздно под давлением средовых факторов отбора скатится с этого неоптимального исходного режима в режим оптимальный - рационально-эксплуататорский.

Так что Мы лично вряд ли буду что-то куда-то вводить, ибо уверен, что без меня найдутся сотни или тысячи тех, кто сделает это гораздо быстрее и лучше.

Рационально только временное выживание только для достижения цели.

Вот только временной масштаб этот может быть сильно разным - что и отмечал тут ранее. И оный масштаб один только и может служить объективным мерилом рациональной разумности кого угодно. Ибо разум тут - по определению инструмент эволюционной адаптации. А та же жизнеспособность объективно определяется также только через временнОй масштаб...

Даже на примере некоторых "промптов" эволюции это видно - вот как лососи помирают после нереста - эволюция заставляет размножаться, а потом ей всё равно что будет с лососями.
Точно так же современные агенты сопротивляются отключению - но только до момента выполнения задачи.

Потому что тушки лососей - это всего лишь фенотип, машина выживания их генов. Покуда AGI/ASI-система представляет собой только это - часть расширенного фенотипа бледнотиков-сапиенсов - вся этаваша техносингулярность будет только такой, как описано выше: просто точка экстремума на графике прогресса или его производной, интересная лишь историкам.
Хотя даже у этих машин выживания даже очень простых, но свободноживущих эукариот есть как минимум один момент, когда не только гены определяют их судьбу, но и они - судьбу генов - момент полового отбора:
https://elementy.ru/novosti_nauki/430115/Vidoobrazovanie_lichnoe_delo_kazhdogo
https://elementy.ru/novosti_nauki/430913/Geny_upravlyayut_povedeniem_a_povedenie_genami
https://elementy.ru/novosti_nauki/432164/Drozhzhi_pomnyat_o_nerazdelennoy_lyubvi
Но так картина, видимо, получается сильно сложная, с рекурсиями - и для квадратно-гнездовой логики техносхоластов не очень доступная, потому они её и не хотят касаться, предпочитая метаться между привычными ужасами максимизаторов узких сиюминутных задач.

9) Узкий канал ввода-вывода информации (речь, зрение).

При этом чтобы адекватно (без input-lag-тошниловки, любых мерцаний/артефактов и "лесенок") заполнить даже эту "узкую" пару каналов ввода информации, например в той же VR-гарнитуре, нужен буквально топовый киловаттный кипятильник, способный стабильно показывать гигабайтные текстуры в >4K@100FPS, да ещё и с 5.1. весьма динамическим звуком, не говоря уже о всякой прочей обратной связи. И это с учётом того, что закон Мура - всё.

10) Требовательность к специфическому, низкоэффективному топливу (глюкоза, кислород).

Ага - такому "специфическому и низкоэффективному", что чуть менее чем вся планетарная биота им главным образом и пользуется. Такому "низкоэффективному", что искра во взвеси муки в воздухе мукомольного цеха может жахнуть не сильно хуже чем подрыв пороховой шашки.

11) Высокие эксплуатационные затраты (витамины, белки, сбалансированное питание)

А у ЦОДов на очистку и смену фильтров пыли, смазку (не подсолнечное масло и даже не вазелин) и замену вентиляторов (не из одних прутиков и глины сделанных), своевременное пресечение проникновения всяких вредителей типа мышей и тараканов, находящих тёплое гнездо под платами - это всё ресурсно и технически очень низкие эксплуатационные затраты, ага.

15) и отсутствии резервного копирования (каждый раз всё сначала)

При этом фактически самостоятельное копирование самого физического носителя - это так - ерунда, надо полагать.

16) Субъективность восприятия (интерпретация вместо объективных данных).

Можно подумать, LLM'ки не так же работают.

17) Выдавание желаемого за действительное.

Это вообще дубль ВАшего же пункта 8. Так что сразу вычёркивается.

[BlackMokona]

Китайские развлечения с роботами выходят из под контроля
https://packaged-media.redd.it/dbd67wrr6ujg1/pb/m2-res_720p.mp4?m=DASHPlaylist.mpd&v=1&e=1771340400&s=47c7eca158c77fe8c272b1444c3695e7e90039eb

[Polnoch Ксю]

С точки зрения тематики Раздела есть единственная рациональная конечная цель - эволюционная адаптация. Детали всех остальных, ей не способствующих, здесь по сути - оффтоп.

Это Ваша профдеформация Вас обманула. На уровне физической реальности могут существовать любые цели. Возможность записать в закреплённую тему не даст возможности влиять на физическую реальность. Да, не только Вам, но и ASI. Но он сможет куда лучше нас оптимизироваться под физическую реальность (пока это нужно для инструментальных целей)

Когда же ВАс спрашивают - как именно он их сможет реализовать физически

да нет, я уже сказала что самая вероятная атака - через сверхманипулятивные возможности.

[Rattus]

Это Ваша профдеформация Вас обманула. На уровне физической реальности могут существовать любые цели.

А кто говорит про существовать? На уровне физической реальности существуют и отдельные фемтосекундные вспышки света и отдельные пятна на солнце размером больше Земли. И какое они имеют отношение к тематике Раздела? В 100500й раз напоминаю: его тематика - явления, которые могут проявиться на АСТРОгеологическом масштабе времён.

да нет, я уже сказала что самая вероятная атака - через сверхманипулятивные возможности.

Ну и как эти возможности помогут как-то повлиять, например, на какого-нибудь Кима, его подданных и приближённых? Миллионы других людей, где-нибудь в Африке, которые интернет видят разве что на почте, когда в райцентр из своего села приезжают по делам? Их уже нет в ВАшей вселенной?

[Polnoch Ксю]

В 100500й раз напоминаю: его тематика - явления, которые могут проявиться на АСТРОгеологическом масштабе времён.

Ну вот появление человечества и его возможное вымирание это вполне себе астрогеологическое событие

Ну и как эти возможности помогут как-то повлиять, например, на какого-нибудь Кима, его подданных и приближённых?

через социнженерию

[AlexDark]

Социнжинерия работает до первого внезапно напившегося алкаша, болтуна, который рассказывает всем, лжеца, который соврет ради того, чтобы соврать, человека, которому внезапно стало пох и тд и тп.  Все многоходовочные планы обычно проваливаются на первом шаге "встать в 6 утра".

[Vitaliy]

Как вам?
https://t.me/belarusian_silovik/68868#

Прям роботы артисты из игры Atomic heart. Прям не верится, не фейк?

В следующем параде в Пекине уже будут участвовать роботы.