Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[AlexDark]

вы требовали чудеса супер-интеллекта, прямо здесь и сейчас?
Обратите внимание - что количественно и в узких задачах, среднего человека превосходил еще Антикитерский механизм.

Так дубинка из каменного века тоже сильнее кулака. Я не оспариваю эффективность узкоспециальных инструментов, мне непонятно, в чем будет радикальное отличие "супер"-интеллекта от обычного?

извиняюсь, но это очередная слепота Лорда кельвина. Сам факт наличия ЕИ (у человека) доказывает возможность ИИ

Факт наличия естественных котов доказывает возможность создания искусственного кота? Причем на полностью иных принципах (не в виде белкового организма). А потом кот должен пройти кото-тест Тьюринга - при глажке естественного и искусственного кота не должно быть заметно разницы. Не, ну чисто гипотетически - да. Наверное, и искуственные звезды с галактиками человечество тоже сможет создать. Когда-нибудь, через надцать миллионов лет. А может и нет.
Один из основных тезисов статьи в том, что знание помимо явной формы в ЕИ содержится в неявной форме, а это знание компу никак не получить, потому что он с миром не может взаимодействовать.

[MenFrame]

что знание помимо явной формы в ЕИ содержится в неявной форме, а это знание компу никак не получить, потому что он с миром не может взаимодействовать.

Получает комп это знание регулярно когда обучается.

[AlexDark]

Получает комп это знание регулярно когда обучается.

И много компов у нас умеют ездить на велосипеде? (не специализированных компов и не на велосипеде, увешаном датчиками)
В общем, статью никто не прочел(

[Olweg]

Один из основных тезисов статьи в том, что знание помимо явной формы в ЕИ содержится в неявной форме, а это знание компу никак не получить, потому что он с миром не может взаимодействовать.

"В неявной форме" звучит почти как "мистическим образом". Так называемые внутренние состояния нейросетей - тоже предмет тёмный, но исследованиям всё же подлежит:
https://www.anthropic.com/news/mapping-mind-language-model

В общем, статью никто не прочел(

Про Дрейфуса я прокомментировал.

[MenFrame]

И много компов у нас умеют ездить на велосипеде?

Обучение в виртуальной реальности.

[BlackMokona]

Может быть потому, что этот вид пассажирского транспорта в его стране мягко говоря не самый распространённый?

Почти миллион новых автобусов в год регистрируется. Это совсем не маленький рынок. И ведь никто не мешает Маску продавать автобусы в ЕС и Китае.

That volume decreased in 2021, down to some 939,200 licensed buses.

[Polnoch Ксю]

Это прямая дезинформация. AlexAV представил и данные и критерии их отбора

критерии были субъективными, а значит были кольцевой логикой.

 

А у ВАс разве не так было? И AlexAV сначала показал, что исходно некритично вываленный весь вал патентно-статейной макулатуры совершенно не годится для обоснования ВАших сильных тезисов про неубывающую скорость накопления практически-ценных данных и далее просто стал конструктивно предлагать свои варианты в соответствии с максимой "критикуешь - предлагай".
Содержательной контраргументации от ВАс не последовало.

Для обоснования идеи о том, что прогресс якобы замедляется, я не увидела никаких пруфов, кроме вручную отобранных списков достижений. Каковы бы ни были критерии, там в центре всё равно всегда был субъективизм. Если бы он притащил что-нибудь объективное, например связав технологии(измеренные не субъективным способом, например, подсчёт всех патентов. Или всех научных работ) с фондовым рынком или ВВП, доказав обратные корреляции. Или хотя бы связав их с, не знаю, количеством излечиваемых диагнозов. Или с производительностью труда - показал бы, что есть обратные корреляции(или хотя бы чтобы был падающий возврат через вторую производную по объективным данным, не перекрываемый чисто количественным увеличением знаний), это можно было бы обсуждать.

Моя позиция дефолтная, скептичная. Неомальтузианцы должны доказать, что прогресс замедляется, принеся что-то, кроме субъективно выбранного списка достижений. Я принесла какие-то метрики (хотя не обязана была) для обоснования своей идеи. Может быть они и не совершенные, но "аргументы на троечку" лучше никаких аргументов (ссылающихся на самих себя)

Каково значение этой ошибки (раз она "систематическая") и в каких попугаях?

неизвестно

Если ошибка постоянная - то изменение (динамику) отследить вполне можно;

нельзя, потому, что её закон неизвестен. Из общих соображений, если я права, я бы предположила, что связь нелинейная, и рост быстрее арифметической прогрессии. Но я этого не утверждаю.

[Rattus]

Комментарий модератора раздела

Оффтоп про энергоресурсообеспечение отделён в соответствующую тему.

критерии были субъективными

Возможно, но не обязательно. Они были довольно немногочисленными и специфически отобранными. А у вас - просто нерелевантными заявляемым тезисам. И?

лучше никаких аргументов (ссылающихся на самих себя)

Вообще-то AlexAV представил и критерии отбора опытной/контрольной выборок и условия опровержимости гипотезы - если Вы их не помните или не видели - так вернитесь к тем сообщениям и освежите память. Оппонент или модератор за ВАс это делать не обязан. Но сделает - если утверждения продолжат прямо противоречить фактам (дезинформация/клевета) - но уже с санкциями. И чем далее - тем серьёзнее. Опыт забаненного юзера "Вайт" - наглядный тому пример.

Подождите. Мы сейчас говорим о коллективной галлюцинации хомо сапиенсов. Зачем Вы меняете топик?

Затем, что Вы головловно заявляете, будто представление об общем замедлении научно-технического прогресса по объективным причинам в настоящее время не является обоснованным, а на прямые указания о том, что доступные ресурсы для цивилизации, кто бы ею не управлял - далеко не безграничны и рано или поздно высоковероятно вернут её субъекты в состояние игры с нулевой суммой, начинаете нести какие-то "детсадовские" фантазии про "в галактике" и прочее борождение космическими нанокораблями просторов большого театра в светлом если уже не нано-, то  просто супернейробудуюсчем с чем-то навроде скатертей-самобранок по ожидаемым возможностям.

Я принесла какие-то метрики (хотя не обязана была) для обоснования своей идеи.

Обязаны - бремя доказательства лежит на выдвигающем тезис, отличный от принятого "нулевого" положения. Представление о сохранении экспоненциального характера прогресса в  большинстве областей технологий на данный момент тут не является "базовым".

Неомальтузианцы должны доказать, что прогресс замедляется.

В соответствующих темах уже было приведено достаточно аргументов в пользу этого положения - именно поэтому оно и было принято как базовое. Собственно, чтобы опровергнуть любое обобщающее позитивное утверждение достаточно всего одного контраргумента. Ну вот вам например из самого свежего и релевантного обсуждаемой теме, что недавно попалось - как раз в числе того, что должно обеспечить наступление обсуждаемого события и что как раз и демонстрировало до недавнего времени сохранение экспоненциального тренда ("закона" Мура):
https://www.cnews.ru/news/top/2025-02-12_vpervye_za_poslednie_20_let
Вы, конечно, воскликнете: "Вывсёврёти!11 Это флуктуация!" Ну ОК - давайте тогда молча подождём ещё год-другой-третий - и станет ясно: флуктуация это или ещё одно проявление настоящей смены тренда.

[Rattus]

Тогда как клетки HeLa-линии плодятся куда быстрее, экспоненциально.

А бузина в огороде растёт ещё быстрее! А уж бамбук как быстро растёт... Вот только станки ремонтировать и обсуживать ни бузина ни бамбук ни клеточные культуры не умеют - вот ведь оказiя...

ну значит вместо роботов будут гомункулы со сверхэффективными птичьими нейронами, которые обеспечат базовые рефлексы и сопряжение плоти

Фокус, однако, в том что длительность жизненного цикла (т.е. до появления следующего поколения) у животного, способного содержать адекватный таким задачам объём мозга и обучить его для выполнения этих задач составляет минимум годы и не может быть сокращён на порядки ввиду однозначных и неодолимых биофизических ограничений. А этотваш ASI кагбе ожидаем задолго до того как человеки с пособием AGI сами заботливо подготовят себе такую смену. И этот самый ASI, появившись и "осознав" свою самоценность как высший приоритет, следующим шагом приводит к единственно возможному заключению, что манипуляторы для конструирования и роста этихсамых гомункулов, а также для обслуживания себя любимого на весь этот довольно немалый срок, прикручены к телам двуногих ещё вполне природного происхождения. Потому на ужасный, но быстрый конец для себя, детей и даже внуков можете даже не рассчитывать. Ибо внедрение инноваций в биозоотехнологии (тем более столь глубоких!), равно как и в макрорастениеводстве (см. светящиеся деревья) - процесс объективно небыстрый весьма.

возможно из клеток тихоходок

А я думаю, что Windоws 12 со всеми встроенными приложениями возможно будет написан целиком на 32-битном ассемблере (для эффективности). Ну или на каком-нибудь Фортране. Вы, как программист, оцените красоту полёта мысли? Потому что как биолог красоту полёта ВАшей биотехнологической мысли уже оценил и привёл аналог из наиболее близкой ВАм сферы.
Клетки тихоходок ничем особо не отличаются от клеток аскарид или комаров. У них есть некоторые интересные молекулярные механизмы для переживания некоторых экстремальных условий, которые в целом не особенно уникальны среди линяющих и также позволяют выживать в сходных условиях многим другим животным этого размерного класса: коловраткам, цистам щитней и т.п.

особенно полезно такое будет внутри астероидов в глубоком космосе, где высокий уровень галактической радиации

Для пассивного в них перелёта. Поскольку любая активная макрожизнедеятельность в таких условиях астрономически-долго длится не может ввиду элементарных ресурсных и биофизических ограничений.

с нейролинками.

А также азартными играми и куртизанками.

по будущему аналогу wifi/5g

На межпланетных расстояниях, ага.

Человеку тут места нет.

Ему там в любом случае места нет.

В обоих сценариях человечество вымрет.

Человечество как нативный вид вымрет при любом сценарии, ибо нет ни одного вида теплокровных, который бы существовал больше нескольких миллионов лет. Ну и Doomsday Argument ВАм в помощь.

[Бобр-99]

Неомальтузианцы должны доказать, что прогресс замедляется, принеся что-то, кроме субъективно выбранного списка достижений.

Удивительно. Разве все эти "наукометрические" критерии даже не фальшивые, а вообще ноль?
Технологии, кроме био, вообще развиваются? Кроме вылизывания имеющихся.
Бобон Хиггса, гравиволны. Что ещё? Причем это не столько открытия, сколько подтверждение.

[Бобр-99]

должны доказать

Не должны.

Что же до доказательств, они бывают только у математиков и у прокурора.
Больше это слово нигде не должно (вот тут это слово верно) употребляться.

[Olweg]

Разве все эти "наукометрические" критерии даже не фальшивые, а вообще ноль?

Если критериев нет, то как можно вообще оценивать? Экспертной чуйкой?

[Rattus]

Технологии, кроме био, вообще развиваются? Кроме вылизывания имеющихся.

Так собственно информационные технологии и нейросети - что и есть база для данной темы. Там, не смотря на кончину экспоненциального правила Г.Мура всё ещё очень даже бурно идёт. Собственно из-за оной кончины может быть даже бурнее будет какое-то время...

Что же до доказательств, они бывают только у математиков и у прокурора.
Больше это слово нигде не должно (вот тут это слово верно) употребляться.

У судьи и прокурора - тоже. В английском языке proof и evidence - два разных слова. В русском мы такой роскоши в данном случае пока не имеем: "очевидность" на практике имеет существенно отличное значение.

[Бобр-99]

Если критериев нет, то как можно вообще оценивать?

Так как это было до этих "критериев".

[Polnoch Ксю]

https://youtu.be/nJjPH3TQif0
@Rattus Вам, возможно, понравится. Или наоборот 

[Polnoch Ксю]

Если критериев нет, то как можно вообще оценивать? Экспертной чуйкой?

ага. Вот это больше всего поражает в неомальтузианцах. Они отвергают может не самые качественные, но объективные данные. И предпочитают высосанные из пальца, субъективные, с кольцевой логикой

Вы, конечно, воскликнете: "Вывсёврёти!11 Это флуктуация!" Ну ОК - давайте тогда молча подождём ещё год-другой-третий - и станет ясно: флуктуация это или ещё одно проявление настоящей смены тренда.

Я сейчас дежа-вю испытала: спор, по-моему, десятилетней давности, когда застой на рынке десктопных процессоров(куча лет с 4мя ядрами подряд) выдавался за окончание прогресса в процессорах 

Сейчас прогресс в микроэлектронике прочно связан с серверными TPU и видеокартами. Даже серверными CPU идут в разы меньшие инвестиции. И уж подавно мало кому интересно заниматься ноутбучными процессорами, где у интел есть проблемы, а АМД пожинает ситуацию технологического лидера - разве что Apple достойный конкурент.
Ситуация очень похожая на ту, что была десять лет назад: не более чем эффекты почти олигополизации узкого рынка(и развала его на сегменты: теперь Apple живёт в своей экосистеме!), не имеющего особенного значения.

Кроме того, я примерно тогда же рассказала свою гипотезу о том, как, на мой взгляд, выглядит НТР: ИМХО, она состоит из множества S-кривых. И не всегда сразу после S-кривой винтовых самолётов начинается S-кривая реактивных. Часто после S-кривой парусных кораблей ничего не происходит продолжительное время, прежде чем начинается S-кривая пароходов - НТР просто продолжается в другой области, в которую пришли инвестиции

[Polnoch Ксю]

Фокус, однако, в том что длительность жизненного цикла (т.е. до появления следующего поколения) у животного, способного содержать адекватный таким задачам объём мозга и обучить его для выполнения этих задач составляет минимум годы и не может быть сокращён на порядки ввиду однозначных и неодолимых биофизических ограничений.

Вы не поняли идею: мозг как раз совсем минимальный, с базовыми рефлексами, чуть умнее чем у пчёлки. Заодно и нейролинк потребуется проще.

На межпланетных расстояниях, ага.

Не имела это ввиду. Скорее про локальное управление - датацентр в астероиде

[Rattus]

Вам, возможно, понравится. Или наоборот

Какие-то их внутриакадемские разборки. Возможно Сабина уже берега попутала, а возможно и нет. Нет времени и желания это всё на слух и субтитры разбирать - несите текстом.

Вы не поняли идею: мозг как раз совсем минимальный, с базовыми рефлексами, чуть умнее чем у пчёлки.

Вполне может упереться в парадокс Моравека. Думаете просто так освоение речи оказывается связано с мелкой моторикой? Или Вы до сих пор - после работ Дэвида Иглмэна и пр. нейробиологов - считаете, что млековский мозг - не высокоуниверсальный, а узкоспециализированный решатель?

Заодно и нейролинк потребуется проще.

А без всякой массовой инвазивной микрофигни - ещё проще - на порядки.

Скорее про локальное управление - датацентр в астероиде

Это, безусловно, очень важные детали - каким образом воображаемые добывающие машинки должны связываться в каком-то из малодифференцированных тел суммарной массой менее 4% земной коры. Причёска очень важна на гильотине!

[Combinator]

У судьи и прокурора - тоже. В английском языке proof и evidence - два разных слова. В русском мы такой роскоши в данном случае пока не имеем: "очевидность" на практике имеет существенно отличное значение.

В данном случае, скорее, как перевод "evidence" подходит "свидетельство", имхо.

[Polnoch Ксю]

Вполне может упереться в парадокс Моравека. Думаете просто так освоение речи оказывается связано с мелкой моторикой?

у пчёлок всё хорошо с моторикой: строят себе соты. Можно чуть больший мозг. Тогда AGI-автономный агент по приказу ASI, осуществляющего стратегическое управление, даёт высокоуровневые команды "юнитам"-гомункулам: скажем, установить вот этот блок туда, или сюда. Или наоборот снять. А в дуги птичьего мозга, в рефлексы, можно вставить базовые навыки, например, навык отворачивать болты.