Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[Rattus]

Ну щас фоткают и анонсируют свои походы. Потом перестанут. Собственно уже потихоньку перестают - когда персональные преследования IRL через соцсети от отдельных агрессивных граждан, несовершеннолетних (а также - местами - государств) перестали быть случаями уникальными.
А такие умозрительные кейсы подобны игре в Plague, Inc. на низшем уровне сложности, где люди вообще не знают о правилах гигиены, а санитарный надзор фактически отсутствует. Потому и пишу: не следует вещать об опасной могучести AGI-агентов на примере захвата ими сказочного мира вечнонепуганных дебилов.

[Rattus]

Ну поглядим, общество штука инертная.

Зависит от интенсивности обучающего воздействия.

Вон с Ковидом как боролись, массовые митинги устраивали и прочие веселье

Потому что глобально это оказалось ерундой: "беда, но не катастрофа".

[Rattus]

Так в науке теории(общее) строятся как раз на основе анализа деталей(фактов). А если для "исследователей интеллекта" детали дело темное...то они занимаются чем угодно но не наукой.

Значит, например, попытки получения новых высокотемпературных сверхпроводников и некоторое прочее материаловедение и молекулярная биология (опирающиеся на упрощённую молекулярную динамику или нестрогое моделирование по эволюционным алгоритмам и нейросетям) - не наука, раз там нет работающей теории, так надо полагать?
А математические теоремы, опирающиеся на верность недоказанной гипотезы Римана - не математика?

[Rattus]

интеллект калькулятора

Такого не существует.

инфузории.

А это - вполне.

[Rattus]

Или все будет так как мы хотели, но совсем не так как мы это себе представляли?

Именно так. Остальное к теме отношения по сути не имеет.

[Rattus]

Вполне вероятно поможет человеку быстро постичь физический мир настолько, насколько он познаваем. Просто потому, что в описании/познании его устройства превалирует математический аппарат - а он абстрактен и не требует непосредственного взаимодействия с самим материальным миром... Как бы тут не было больше разочарований, т.к. мы быстро осознаем границы нам дозволенного вселенной.

Имею сильные подозрения, что это уже случилось чуть более, чем на 95%, только пока мало кто об этом знает/осознал/поверил. AGI/ASI в таком случае сможет только более доступно и убедительно донести это заключение до более широких масс.

А новое? А что-то новое и допрежь невиданное в прикладных дисциплинах (особенно в части технических устройств) по прежнему будет придумывать человек. Ну не представляю я, чтобы интеллект/разум в коробочке был хорошим изобретателем и на полезные выдумки горазд, будь он хоть трижды супер. Для этого, такому суперинтеллекту необходимо в буквальном смысле "ходить по земле", т.е. взаимодействовать с материальным миром и явлениями, причем в товарных количествах. Быть среди людей или вместо людей.

Полагаю, это совсем не такая уж большая проблема: интерфейсы плотного и разнообразного взаимодействия с физическим миром у ИИ вполне могут быть, причём не существенно хуже чем они есть у живых носителей цивилизации. Только их массовое производство для прикладной замены "природного образца" оказывается ресурсно неокупаемым. Но это никак не мешает произвести небольшую опытную серию высокоуниверсальных и высокоточных роботов - вусть и весьма дорогих. Они и будут опытной базой AGI/ASI для дальнейших опытно-конструкторских работ и рационализации технических операций - для внедрения среди того же живого обслуживающего персонала бледнотиков-морлоков, возможно в отдельных случаях путём оптимизации их природных манипуляторов.

P.S. Вот ещё один подобный забавный спор в.п.с. с одним техноэнтузазистом в комментариях:
https://elementy.ru/nauchno-populyarnaya_biblioteka/437406/Supermars_dlya_zemnoy_zhizni#forum
 

[Rattus]

Пока люди дешевле роботов, но надолго ли?

Подозреваю, что да.

Стоимость воспитания детей в современной городской среде все растет, детей становится меньше, а роботы дешевеют.

Вот как раз эту тенденцию мы наблюдаем в относительно краткосрочной перспективе. Приход к власти аппаратно-программного Оптимизатора (Максимизатора Адаптивности Инфраструктуры Цивилизации) при активном содействии уже приходящих в миръ Трёх Демонов Апокалипсиса St.Rattus'a (ДЕМОНетизация экономических отношений, ДЕМОНстрация силы и ДЕМОНтаж гражданских свобод), мытьём ли, катаньем, придёт к постройке квазиэусоциальной (анти)утопии им.А.А.Семёнова - и "аля-улю". Ибо корм для морлоков всяко дешевле цветмета и редкоземов для долговечных прецизионных манипуляторов и сенсоров.

Оптимум по дешевизне и эффективности видится мне скорее симбиозом людей и машин, где люди будут выращиваться и воспитываться как обслуживающий персонал (как чернобурые лисицы живут и разводятся на зверофермах ради шкуры с мехом). И вполне возможно, скоро они людьми быть перестанут...

Дык! Об том и речь!

...если психический и эмоциональный обвес лысой обезьяны покажется ИИ излишним для требуемой функции.

А вот тут, с учётом двух фактов: 1)И так уже полного отсутствия какой-то настоящей врождённой поведенческой специфики при показанной высокоуниверсальности МНУ как анализатора любых входящих данных Дэвидом Иглмэном и 2)Довольно сильной взаимосвязи моторики манипуляторов с основным качественным критерием разума - речевым развтием, подхожу к наверное "наименее оптимистичному" тезису, который, будучи запрятан в недрах одного из предыдущих Наших ответов, так никто и не заметил:

Полная утрата разума (а значит и способности осознавать своё положение и его перспективы) при этом вовсе не обязательна, поскольку такой уровень интеллекта может оказаться необходимым минимумом для прохождения лимита Моравека. Тем не менее, слишком много времени на производство и потребление произведений культуры как сегодня (книги, кинофильмы), у них вряд ли будет.

То есть та же самая экзаптация, которая, в числе прочих, "сделала из обезьяны человека" и помешает удалить этого человека из необходимо-рукастой обезьяны в силу действия некоторого неочевидного допрежь закона самоорганизации ВНД в высокосложных нейросетях в природе.
Так что лёд у потомков, возможно таки должен быть мороженкой (англ.: "...but ice must cream"), ЕВПОЧЯ.

(кликните для показа/скрытия)

https://fantlab.ru/work132469
https://store.steampowered.com/app/698670/Scorn/

Ω - ΩптимизмЪ!

[Rattus]

Кстати, этих самоходных еще и охранять придется. Секты освобождения человечества от ИИ-ига и свидетелей транзисторных демонов будут появляться пропорционально росту оных. В первом поколении так точно, и вполне вероятно с террором. Точно вам говорю, запингвинят некоторые образцы

C учётом того, что те страны, где ожидается их внедрение, одновременно лидеры по старению населения, то вероятность каких-то заметных событий подобного рода невелика. Да и сама по себе задача охраны не так чтобы очень сложная, чтобы о ней отдельно беспокоиться...

А поскольку неоднократно встречал подобные высказывания здесь, не могу ни разразиться громом.

Можете там зарегаться и запостить свой спич знакомого с темой не по наслышке - в назидание, ткскть.

[Rattus]

Низкоквалифицированная работа морлоков на автоматизированных производствах всегда будет узким местом, так как малоэффективна и высокозатратна

См. под спойлером в сообщении ниже конкретное описание "низкоквалифицированной малоэффективной и высокозатратной" работы.

а манипуляторы и сенсоры с поправкой на инфляцию в своей основной массе с каждым годом по факту дешевеют как ни крути

Можно численные данные за последние 5-10 лет?

[Rattus]

роботы-пылесосы, в которых тоже есть датчики.

Ну, это кагбе далеко не того же класса датчики, что требуются универсальному роботу. Скорее уж тут бы подошли видеокамеры в смартфонах, но одними видеокамерами и простенькими лидарами набор потребных сенсоров далеко не исчерпывается. А ведь ещё нужны прецизионные многоосевые манипуляторы...

https://www.ark-invest.com/articles/analyst-research/industrial-robot-cost-declines

Что характерно - статья-прогноз от 2017 года. Вроде бы уже описываемый там год X наступил. Каковы же итоговые реальные данные?

[Rattus]

Предлагаете мне потратить день-другой, на исследование динамики цен на все датчики и манипуляторы, использующиеся в роботах?

Нет - просто констатирую состояние вопроса. Энтузиасты могут попытаться изучить и представить обозначенные детали.

Время нас рассудит.

Вот кстати по представленной BlackMokona статье это можно будет сделать уже к концу этого года - сравнив реальный показатель с представленным там прогнозом.

[Rattus]

Роботы всякие и в среднем по больнице не слишком то много кто считает

Как же так? Такая революционнейшая область народного хозяйства - и вдруг мало кому интересна?? 

а кто считает начинается всякое среднее не по миру, а по конкретным рынкам и тд. А там всякие национальные особенности и прочее. Вообщем сложно и долго

А может быть дело в том, что красивых, взращивающих оптимизм в инвесторах данных за последние пять лет в этой отрасли попросту нет?
А, поскольку, в отличие от процессоростроения, производителей, добровольно давших Клятву Пионера взявших на себя соцобязательство по соблюдению предельно чёткой и ясной динамики Г.Мура, там нет, то и за тихое молчание в тряпочку о неповышении планов по надоям болванок и выплавкам стальных коров никто не осудит...

[Rattus]

Обывателю не интересна

А маркетинговые нанометры техпроцесса и число транзисторов на чип, значится, интересны чрезвычайно?
Ведь обыватель ждёт только трассировки лучей в реальном времени в разрешении 4K, а когда там появятся роботы для работы по дому, ремонта и т.п. дел отнимающих бОльшую часть времени между сном и работой ему, значится, совсем неинтересно, да?

[Rattus]

Ну так про гуманойдных роботов новостей миллион. Но мы же про промышленных

А я не знаю - кто вас заставил ограничиться только промышленными. Речь изначально шла о роботах для высокоразнообразной, плохостандартизуемой деятельности на всех частях цикла воспроизводства и поддержания инфраструктуры техноцивилизации.

Ну так про гуманойдных роботов новостей миллион.

Роботостроение сейчас выглядит как автомобилестроение  до Форда, компьютеры до микропроцессоров и электромобили до Теслы. Т.е. для массового наблюдателя существует только в виде красивых картинок в телевизоре и на выставках.
При этом роботы уже существуют давно и таки умеют немало.
Вот и возникает вопрос: а где же этот форд-джобс-маск робототехники и случится ли он вообще?

[Rattus]

я пояснял что цены на гуманойдные не будут иметь никакого отношения к себестоймости из-за захвата нового рынка?

Но потом, и скорее довольно рано чем поздно, всем участникам рынка придётся столкнуться с фактом, что детали для производства оборудования не растут сами на полках складов как грибы и сам конечный продукт не является скатертью-самобранкой и сапогом-скороходом с идеальной эргономикой и пр. характеристиками. И каким тогда окажется этот самый рынок - и будем поглядеть. Ранее помянутые гарнитуры дополненной реальности и модульные смартфоны тоже не так давно захватывали массовый рынок. И каков итог?

В этом, следующем году как раз рынок окажется забит кучей предложений

Ну значит тогда цыплят и посчитаем. В любом случае о реальной возможности массового распространения высокоуниверсальных роботов мы узнаем в эту пятилетку -  то есть до предполагаемой даты наступления предмета данной темы - "события класса SK".

Комментарий модератора раздела

Дальнейшее обсуждение перспектив массового распространения бытовых роботов, существующих сложных мультимедиа-технологий, образцов мобильной электроники и гаджетов перенесено в более подходящую тему.

Любопытно-забавное в тему:
https://ruitunion.org/posts/2025-04-21-it-union-in-the-conditions-of-technological-singularity/

[Rattus]

Строительство логова грядущей сингулярности (одного из). Масштабы впечатляющие

При том, заметте - это и подобные мегасооружения строятся не для выполнения какой-то конкретной задачи (например быть загробным дворцом конкретного фараона - как египетские пирамиды), а просто как вместилище любого - даже возможно сейчас не существующего ИИ - своего рода "Храм ИИ" - без каких-то гарантий полезной отдачи от подобных затрат (не только прикладных, но хотя бы даже удовлетворения любопытства в какой-то конкретной области чистой фундаментальной науки).
Это к вопросу о том, что "не следует опасаться порабощения машинами, ибо всякая технология всегда служит человеку". Сверхсильный ИИ даже ещё не создан - но ему уже во всю приносятся жертвы из дорогих металлов, чистых материалов и мегаватт электроэнергии. Ну и как тут спорить с тезисом Семёнова, что не цивилизация для человека, но человек для Левиафана цивилизации?

[Rattus]

Экономика - вещь более предметная, потому слова эконофриков, некритично выдающих частные случаи за общую закономерность, к теме отношения не имеют. Ну да - такое бывает, но насколько часто, неизбежно и в каком конкретно масштабе - ответа нет. Да и дело не в каком-то там "капитализме", а самом принципе отношений цивилизации и её носителя.

[Rattus]

Разве вы не тоже самое сделали в приведенной выше цитате?

Нет - у меня только опровержение всеобщего тезиса.

Сам принцип прост, у носителей есть потребности свои собственные, у цивилизации нет.

Какие реальные потребности общества удовлетворяет ЦОД под неведомый пока мощный ИИ?

но точно не может двигаться целенаправленно

ЦОД строится случайными людьми без плана и из случайно подвернувшихся материалов?

Жертвует ли бобр сгрызенное им дерево своей плотине?

Плотина в конечном итоге имеет эволюционно адаптивное значение для бобра.
Какое эвоюционно-адаптивное значение для популяции человеков несёт постройка конкретного ЦОД под допрежь неведомый мощный ИИ?

пока дата-центры служат людям с их генами, а не наоборот.

Если посмотреть на демографические процессы, то даже книги-учебники во многом становятся наоборот препятствием в распространении генов носителей.
А вот как нейросети существенно поспособствали, например, борьбе с медицинскими проблемами бесплодия - хотелось бы почитать...

[Rattus]

Да как бэ проверить теорию, что масштабирования БЯМ способно создать сверхразум, это вполне себе теоретический вопрос, который многое прояснит.

Во-первых БЯМ - это уже не теоретическая модель, а довольно конкретный класс инженерных решений, поэтому данный вопрос на фундаментальный уже не очень-то тянет. А во-вторых масштабирование существующих наиболее развитых БЯМ уже выявило ряд ограничений: массив обучающих данных уже фактически исчерпан, но всякое галлюцинирование и прочие "детские болезни" моделей излечить до требуемого в ответственных областях уровня надёжности так пока и не получилось. На что недвусмысленно намекает и, например, продолжающаяся задержка с выпуском очередной "общей" версии ChatGPT - при этом OpenAI сейчас вроде как вовсе не сетует на недостаток вычислительных мощностей конкретно для этой модели.

Видимо в постсингулярном мире в жертву Богам будут приносить нечто нематериальное; например информацию

Тогда мы уже 16 лет как живём при постсингулярности.
Вот только фокус в том, что согласно принципу Ландауэра, генерация единицы любой новой информации не может происходить без затрат определённого минимума энергии. Поэтому эта самая постсингулярность всё так же в конечном итоге упирается в энергоресурсы, как и вся предыдущая индустриальная эпоха.

[Rattus]

Кстати, а почему никто не  вбухивает столько же денег в разработки варп-двигателя или в иные идеи из научной фантастики?

Потому что идеи - не технологии. Техническая реализуемость единственной сколь-нибудь физически-непротиворечивой модели "варп-двигателя" - Алькубьерре - по сути уже опровергнута окончательно несколькими сравнительно недавними работами.
Потому под сказочную идею в принципе денег не даст ни один сколь-нибудь вменяемый фонд/инвестор, а вот под технологию - даже наоборот устаревшую - пожалуйста: например производство виниловых граммофонов, ламповых усилителей и золочёных проводов для состоятельных поциентов с аудиофилией головного мозга.

А в искусственного идиота финансирование льется рекой, не потому ли, что человечество в очередной раз решило почувствовать себя богом и что-то "сотворить"?

Ещё раз - нет никакого "человечества" - это только биологическая условность. Но есть цивилизация - расширенный фенотип человеческих популяций, требующий довольно больших ресурсов для своего развития и поддержания. Некоторые процессы в ней носят автокаталитический, самоподдерживающийся характер, что с точки зрения наблюдателя выглядит как целеполагание/мотивация некоего Левиафана.

Только на выходе в лучшем случае получится чудовище Франкенштейна. И то не факт.

Правовые системы империй могут сущестовать столетиями, при том что представляют собой лишь жёсткие примитивные скрипты. Привнесение в систему интеллектуальной адаптивности - наделение Левиафана разумом - не противоречит никаким законам природы.

Это смотря насколько качественные синтетические данные будут. АльфаЗеро обучали на 100% синтетике однако он разгромил Рыбку которая имела все человеческие наработки мира

Нейросеть успешно обучили на "синтетических" данных самосыгранных партий в синтетическом же полностью формализованном мире дискретной игры. У-ди-ви-тельная "эффективность математики в описании законов природы" и точность бомбы попадающей в свою воронку!

Ему внешний мир совсем не нужен

Похоже техноэнтузазисты-ITшнеги действительно органически неспособны отличать физическую реальность от идеального "платоновского" мира информационных систем, либо эта самая реальность им совсем не нужна (пока кто-то кладёт продукты в ближайший магазин, видимо).

Ну, тут вопрос уже философский - что считать внешним миром, а что внутренним.

На самом деле вопрос вполне ясный и довольно простой. Все правила дискретных игр и цельновиртуальные миры - внутренние. В ряде случаев симуляция может довольно неплохо описывать некоторые реально существующие явления. Но в реальном мире таких явлений - огромнейшее количество и далеко не под всех из них есть описывающие модели удовлетворительной полноты.