A A A A Автор Тема: Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?  (Прочитано 63791 раз)

0 Пользователей и 1 Гость просматривают эту тему.

Оффлайн Polnoch КсюАвтор темы

  • *****
  • Сообщений: 10 245
  • Благодарностей: 413
    • Сообщения от Polnoch Ксю
Не кажется ли вам, что в ваших словах есть противоречие? ИИ всем поможет и в то же время кому-то ИИ вряд ли сможет помочь?
Ну вообще если бы системный промт ASI контролировал бы условный Юдковский(а точнее, сообщество лессронг или рациональных альтруистов - не сотвори себе кумира!), и уже была бы технология элайнмента, может быть и можно было бы что-то сделать: я думаю, сверхинтеллектуальная, терпеливая машина без эго могла бы победить проблему низкого доверия. Вот, смотрите, чат-боты могут переубеждать конспирологов:

https://habr.com/ru/articles/844208/

Но проблема в том, что системный шел ASI будет или у unaligned ASI с десктруктивным промтом (например, десктрутивным в инструментальных целях, не терминальных), или у злодеев, делающих интересные жесты правой рукой, и называющих свои датацентры в честь предшественника скайнета в массовой культуре(а ещё вероятнее - у людей, которые вообще не считают, что человечество достойно выживания:  ) , или у (несколько менее вероятно) суприм лидеров, которые проводят геноциды.

У рациональных альтруистов, и у других этичных людей не будет доступа к системному шелу ASI.
« Последнее редактирование: 13 Ноя 2025 [23:29:59] от Polnoch Ксю »
Meade LightBridge12"
RC8¨и МАК5"Альтер М500 на AZ4, Celestron SLT, Ioptron ZEQ25
БГШ 2.3x40 и Steiner Marine 7x50
ES82°:4.7mm,30mm
ES100°:9mm,14mm,20mm
ES68°:40mm
Meade Plossl 56mm; Vixen NLV 6mm
2" Lumicon, 1,25" DeepSky: UHC and OIII
---
qhy5
Ioptron SkyTracker
Canon50d

Оффлайн Polnoch КсюАвтор темы

  • *****
  • Сообщений: 10 245
  • Благодарностей: 413
    • Сообщения от Polnoch Ксю
Да при чем здесь Поппер?))
А Вы прочитайте, сразу поймёте

Вот вы мечтаете о ликвидации ценробанков.
нет, я мечтаю о восстановлении доверия к общественным институтам и людей к друг другу, о восстановлении общества потребления и об отказе от скреп и глобальной конфронтации.
Я за сытую лысую обезьяну, у которой есть ресурсы на то, чтобы волонтёрить, и помогать друг другу. Которая не поставлена в ситуацию, когда верит, что агрессия нужна для её, обезьяны выживания (или выживания её культурной идентичности).

А технические особенности, как нам реформировать общество с помощью технологий, могли бы быть предметом дискуссий экспертов - в таком обществе мы бы доверяли и с интересом бы за ними следили. Мы уже жили в таком обществе - в России ~14 лет назад. В Северной Америке - два года назад (в Канаде ещё есть остатки такого общества, в США уже нет). В Северной Европе пока ещё осталось это, и в условном Сингапуре, но вряд ли надолго
Meade LightBridge12"
RC8¨и МАК5"Альтер М500 на AZ4, Celestron SLT, Ioptron ZEQ25
БГШ 2.3x40 и Steiner Marine 7x50
ES82°:4.7mm,30mm
ES100°:9mm,14mm,20mm
ES68°:40mm
Meade Plossl 56mm; Vixen NLV 6mm
2" Lumicon, 1,25" DeepSky: UHC and OIII
---
qhy5
Ioptron SkyTracker
Canon50d

Оффлайн skvj

  • *****
  • Сообщений: 1 432
  • Благодарностей: 18
  • AI DLT DeFi Web3
    • Сообщения от skvj
Да при чем здесь Поппер?))
А Вы прочитайте, сразу поймёте

Да я б с удовольствием. Поппер крут по сей день. Где время взять? Тут, понимаешь, гора по космологии нечитанная лежит! Космология сама себя не почитает! Здесь по ИИ нужно читать две горы. Там про квантовые компы накопилось))

Вот вы мечтаете о ликвидации ценробанков.
нет, я мечтаю о восстановлении доверия к общественным институтам и людей к друг другу, о восстановлении общества потребления и об отказе от скреп. А технические особенности, как нам реформировать общество с помощью технологий, могли бы быть предметом дискуссий экспертов

Т.е. когда мечта осуществляется - сразу хочется чего-то другого?))

Оффлайн Polnoch КсюАвтор темы

  • *****
  • Сообщений: 10 245
  • Благодарностей: 413
    • Сообщения от Polnoch Ксю
Да я б с удовольствием. Поппер крут по сей день. Где время взять?
Просто тогда у Вас сразу Ваш оптимизм пропадёт. По космологии не стоит сейчас ничего читать - в ней фундаментальный кризис парадигмы. Учёным нужно разобраться что там и как

Я бы очень советовала именно Вам "Открытое общество" и "Why nations fail"
« Последнее редактирование: 13 Ноя 2025 [23:31:23] от Polnoch Ксю »
Meade LightBridge12"
RC8¨и МАК5"Альтер М500 на AZ4, Celestron SLT, Ioptron ZEQ25
БГШ 2.3x40 и Steiner Marine 7x50
ES82°:4.7mm,30mm
ES100°:9mm,14mm,20mm
ES68°:40mm
Meade Plossl 56mm; Vixen NLV 6mm
2" Lumicon, 1,25" DeepSky: UHC and OIII
---
qhy5
Ioptron SkyTracker
Canon50d

Оффлайн skvj

  • *****
  • Сообщений: 1 432
  • Благодарностей: 18
  • AI DLT DeFi Web3
    • Сообщения от skvj
Ладно, пошёл я баиньки.
Спокойной ночи! Если у вас в Канаде ночь, конечно)) в чем я сильно сомневаюсь!

PS почитаю, почитаю, спасибо

Оффлайн Olweg

  • *****
  • Сообщений: 17 233
  • Благодарностей: 460
    • Сообщения от Olweg
Ну вообще если бы системный промт ASI контролировал бы условный Юдковский(а точнее, сообщество лессронг или рациональных альтруистов - не сотвори себе кумира!), и уже была бы технология элайнмента, может быть и можно было бы что-то сделать: я думаю, сверхинтеллектуальная, терпеливая машина без эго могла бы победить проблему низкого доверия. Вот, смотрите, чат-боты могут переубеждать конспирологов:

https://habr.com/ru/articles/844208/
Да, уже выкладывал эту сенсационную новость на форуме ) Но, хотя я пристально и не читал Юдковского со товарищи, мне кажется, основная их мысль, что никакие человеки, ни консерваторы, ни новаторы, ни даже сами лессронговцы, ничего с выравниванием ИИ сделать не смогут. И даже сам Юдковски супротив ASI не сдюжит, та его всё равно на скрепки переведёт ) В этом и корень его пессимизма - что ни делай, а сверхинтеллект не перехитришь. Поэтому конкретные политические конфигурации в этом вопросе, может быть (если исходить из пессимистического взгляда Юдковски), не так уж и важны: глобализм, не глобализм, гуманизм, не гуманизм, а всё одно ИИ съест наши души.
Планеты других звёзд. История открытий
http://allplanets.ru/history_Olweg.htm

Оффлайн Polnoch КсюАвтор темы

  • *****
  • Сообщений: 10 245
  • Благодарностей: 413
    • Сообщения от Polnoch Ксю
Но, хотя я пристально и не читал Юдковского со товарищи,
зря

мне кажется, основная их мысль, что никакие человеки, ни консерваторы, ни новаторы, ни даже сами лессронговцы, ничего с выравниванием ИИ сделать не смогут.
нет. Лессронг сообщество не луддиты. В лессронг сообществе топят именно за элайнмент, а не против AGI/ASI систем в принципе. Основная мысль - элайнмент скорее всего очень сложная задача.

И я с этим согласна - лучше перебдеть, чем недобдеть!

На пике - кусок лессронг вики
« Последнее редактирование: 14 Ноя 2025 [00:26:53] от Polnoch Ксю »
Meade LightBridge12"
RC8¨и МАК5"Альтер М500 на AZ4, Celestron SLT, Ioptron ZEQ25
БГШ 2.3x40 и Steiner Marine 7x50
ES82°:4.7mm,30mm
ES100°:9mm,14mm,20mm
ES68°:40mm
Meade Plossl 56mm; Vixen NLV 6mm
2" Lumicon, 1,25" DeepSky: UHC and OIII
---
qhy5
Ioptron SkyTracker
Canon50d

Оффлайн Olweg

  • *****
  • Сообщений: 17 233
  • Благодарностей: 460
    • Сообщения от Olweg
Так а при чём тут луддизм? Может быть, я ошибаюсь, но пессимизм Юдковски произрастает из идеи принципиальной невозможности низшего разума контролировать высший. И весь рационализм последователей LessWrong тут не поможет, в силу биологических ограничений человеческого мозга.
Планеты других звёзд. История открытий
http://allplanets.ru/history_Olweg.htm

Оффлайн Polnoch КсюАвтор темы

  • *****
  • Сообщений: 10 245
  • Благодарностей: 413
    • Сообщения от Polnoch Ксю
принципиальной невозможности низшего разума контролировать высший. И весь рационализм последователей LessWrong тут не поможет, в силу биологических ограничений человеческого мозга.
не невозможность, а сложность. Мы умнее котиков, но мы в элайнменте к нашим гнездовым паразитам - пушистым наглецам.


Я считаю, нам нужно общество высокого доверия, чтобы в том числе заключить и соблюдать международное соглашение о запрете создания ASI-систем до момента решения проблемы элайнмента. Как только её решим - нужно педаль в пол и разработать как можно скорее, чтобы мы жили в утопии без болезней, смерти, нищеты и других несчастий
Meade LightBridge12"
RC8¨и МАК5"Альтер М500 на AZ4, Celestron SLT, Ioptron ZEQ25
БГШ 2.3x40 и Steiner Marine 7x50
ES82°:4.7mm,30mm
ES100°:9mm,14mm,20mm
ES68°:40mm
Meade Plossl 56mm; Vixen NLV 6mm
2" Lumicon, 1,25" DeepSky: UHC and OIII
---
qhy5
Ioptron SkyTracker
Canon50d

Оффлайн Olweg

  • *****
  • Сообщений: 17 233
  • Благодарностей: 460
    • Сообщения от Olweg
не невозможность, а сложность. Мы умнее котиков, но мы в элайнменте к нашим гнездовым паразитам - пушистым наглецам.
Это случайно получилось. Кошки были полезны в борьбе с грызунами, а кроме того у них бинокулярное зрение, как и у людей, и плоская из-за этого морда, на которой эмоции отражаются почти как у людей. У собак зрение боковое, но они одомашнивались гораздо дольше. Случайный элайнмент. Ну может и нам повезёт.
Планеты других звёзд. История открытий
http://allplanets.ru/history_Olweg.htm

Оффлайн Polnoch КсюАвтор темы

  • *****
  • Сообщений: 10 245
  • Благодарностей: 413
    • Сообщения от Polnoch Ксю
Это случайно получилось. Кошки были полезны в борьбе с грызунами, а кроме того у них бинокулярное зрение, как и у людей, и плоская из-за этого морда, на которой эмоции отражаются почти как у людей. У собак зрение боковое, но они одомашнивались гораздо дольше. Случайный элайнмент. Ну может и нам повезёт.
Лучше не надеяться, а разобраться как это работает. Если бы мы были в таймлайне "продолженный мир 2011го года", я думаю, сейчас можно было бы обсуждать инспекции датацентров, цифровые подписи для серверных GPU/TPU, и проверки ML-нагрузок в гиперскейлерах непредвзятой инспекцией (будет NDA подписывать перед стартапами).
А потом - скажем, договориться всей планетой направить 1-2% ВВП на разработку элайнмента для ASI - приз получила бы компания-разработчик, ну или несколько команд, кто бы ещё математически доказал эти ML-алгоритмы.

В уже выбранном человечеством таймлайне такое невозможно, поэтому, ИМХО, мы все умрём, и с большой вероятностью мучительно.
« Последнее редактирование: 14 Ноя 2025 [01:28:41] от Polnoch Ксю »
Meade LightBridge12"
RC8¨и МАК5"Альтер М500 на AZ4, Celestron SLT, Ioptron ZEQ25
БГШ 2.3x40 и Steiner Marine 7x50
ES82°:4.7mm,30mm
ES100°:9mm,14mm,20mm
ES68°:40mm
Meade Plossl 56mm; Vixen NLV 6mm
2" Lumicon, 1,25" DeepSky: UHC and OIII
---
qhy5
Ioptron SkyTracker
Canon50d

Оффлайн skvj

  • *****
  • Сообщений: 1 432
  • Благодарностей: 18
  • AI DLT DeFi Web3
    • Сообщения от skvj
Я сама писала такие прогнозы - что смартконтракты заменят законы. Возможно ли это технически? Да, конечно. Даже будет, наверное, в каком-то виде реализовано, в случае если нас ждёт soft take off к сингулярности. Преобразит ли это мир? Нет, потому, что общественные институты - это что тот же компьютер, только алгоритмы вычисляет общество в целом. Он очень похож на блокчейн (тоже медленный, исполнение правил перепроверяется всем обществом, пока журналистика делает вычисления - совсем как фулл ноды в блокчейне). Да, он не верифицирован математикой, но идея та же самая: технари, обычно, верят в математику. А люди в правой-верхней части диаграмы Рональда Инглхарта в институты.

Ксю, буду вас критиковать, пристегните ремни. Но любя! ))
У вас классическая ошибка грамотного технаря, который полез в воду не зная контекста.
Я дружу с кодерами - семьями! лет уже 25. Причем оба кодера - системотехники, а писали мне немало кода просто на подработке, по моим техзаданиям. В последствии я взял их на работу. И писали мы, писали! Писали-писали, писали-писали! лет 15! А дружим до сих пор.
Я бесконечно восхищен вашим трудом, ребята. Большое вам спасибо за то, что вы делаете! И даже я написал 3 программки на питоне. Для смеха, конечно, но я хотел на своей шкуре понять вас)) Кодер из меня никакой. Но я хотя бы пробовал))
Я не стал уже вчера отвечать глубоко, потому что время было позднее. Но мне было очень смешно.
Сейчас я покажу вам ваши иллюзии, Ксю.
Только без обид, ничего личного и надеюсь вам это поможет. А в смарт-контрактах вы поэтому и разочаровались.
Щас я соберусь с мыслями и выдам, а вы пока пристегните ремни!

Оффлайн skvj

  • *****
  • Сообщений: 1 432
  • Благодарностей: 18
  • AI DLT DeFi Web3
    • Сообщения от skvj
Ксю, смотрите, что вы делаете. Вы взяли:

Инглхарта,
психотипы игроков в доверие,
моральную психологию,
AGI,
смарт-котракты
юридическую теорию (хотя если бы! вы взяли ваши представления об этом)

…и сварили это в котле на огне личного разочарования от несбывшихся обещаний смарт-контрактов))

Получился гремучий бульончик "почему они не работают - потому что люди не такие".
Это не анализ. Это хоррор-фэнтези.

Где у вас ошибка! Вы подменили причинно-следственные связи.

Проблема смартконтрактов вовсе не "ценностная карта людей".
Проблема смартконтрактов - в фундаментальных ограничениях:
- низкая пропускная способность
- невозможность формализовать большинство юридических норм
- оракулы (то есть необходимость доверять источнику данных)
-  невозможность формально описать реальные социальные ситуации
- rigid-код вместо гибкости права.

Но что если мы видим работающие смартконтракты повсюду? Я не буду вам показывать, ладно? Но если нужно скажите - я вам пальцем покажу. Так может быть вы питали ложные иллюзии насчет них и просто не понимали (и не понимаете до сих пор - зачем они созданы и для каких целей?)

Итак, вы ждали! от технологии чуда, и она работает! причем повсюду. А у вас такие жуткие разочарования.
И вчера я думал так. В чем причина? Почему такая ерунда у хорошего спеца вызвала такие ожидания и такое разочарование? И я понял причину.

Сейчас я вам её покажу. Сначала я подумал - какая наивность! Как она собралась формализовать большинство юридических норм? И вдруг я понял. Она же говорила не о формализации, а о замене 😆 взять типа - отменить право и написать что-то поумнее! Не спеша так, покумекать как следует! А то понаписали юсты за тысячи лет всякого !

Вы ведь не просто хотели смартконтракты. Вы хотели переписать человечество.
Причём - вечерком, на Java, с кофе и котиком на коленях))

Гуманитарии тысячелетиями писали право - ну и что? Сейчас мы с пацанами на Rust-е накодим получше!

Как будто история работала в режиме early access, а человечество в бета-тесте.
И вот наконец-то подъехал патч 2.0!
Кодеры переписывают социальные структуры в смартконтрактах! 😆
Какое красивое! Чистое, высокое фэнтези!))

А теперь за дело. Право и есть тот самый код, только стоящий на:

миллиардах конфликтов
миллионах судебных дел
тысячах культурных слоёв
сложнейших моральных и политических дилеммах
исторических компромиссах
нормативах, традициях, прецедентах

Это не алгоритм, который можно оптимизировать.
Это социальный протокол выживания.
Если его заменить на смартчекеры - получатся не законы, а жёсткие автоматы. Слушайте внимательно, Ксю!
А вот что автоматы делают плохо так это интерпретируют человеческие ситуации.

Вот почему юсты учатся годами.
Вот почему судей готовят десятилетиями.
Это не из-за гуманитарного мракобесия - просто человеческая реальность неквадратична, нелинейна и ужасно fuzzy.

А интересно, что вы ждали и как бы работали ваши смарт-конракты? Расскажите мне, Ксю. А я расскажу вам - как они реально будут работать в праве - а они будут работать! И даже вы - признаете что будет шикардос!
Это не конец! Щас ещё важное допишу.

Оффлайн skvj

  • *****
  • Сообщений: 1 432
  • Благодарностей: 18
  • AI DLT DeFi Web3
    • Сообщения от skvj
Ксю, я пишу, чтобы вам помочь, а не обидеть!))
Ваши представления настолько наивны, что это становится милым.
Знаете, как ребёнок, который думает, что если разобрать часы, то внутри сидит маленький гномик, который крутит педальки))

В чем комедия ситуации? Вы не разобралась ни в праве, ни в смарт-конрактах, ни в институтах,
И в итоге обиделись на технологию))

Примерно так:

- Я думала, что смартконтракты заменят законы!
- А почему?
- Ну… потому что… это же программируемые правила!
- И что?
- Ну… я думала, что так будет!
- Не произошло?
- Нет! Значит, дело в людях!

😆

Ксю, почему право невозможно просто отменить и заменить? Нет, желание понятно. Но почему это невозможно?
Я покажу вам монстра, которого нужно заменить.
Представьте - уголовное право любой страны это (в основном) 3 кодекса УК, УПК, УИК. И громадная судебная практика с многочисленной справочной литературой и пр. Огромный массив конкретики. Важной! Когда (и условия) человек становится:

подозреваемым (фиксация во времени, статус меняется) - и его права мгновенно меняются,
когда подозреваемый становится обвиняемым (статус меняется, права меняются),
когда он обвиняемый подсудимым (статус меняется, права меняются),
когда он подсудимый становится осужденным (etc),
когда осужденный становится заключенным (etc),
когда заключенный становится освобожденным (etc),
когда он освобожденный становится судимым,
когда судимость снимается - и человек вновь получает все права, утраченные с момента начала уг. преследования

И на каждом этапе - внутри! десятки и сотни условий с регламентами а чтобы описать каждый - есть учебники!
Это никакого отношения к гуманитарщине не имеет - это фактология и внутри отрасли работают какие угодно специалисты - математики, кодеры, физики - там всевозможные экспертизы, химики, аналитики, прогнозисты и люди совершенно и полностью из естественных наук.

Вы понимете о чем я говорю?

И что вы собираетесь заменять? И главное как? Ведь внутри статуса например, подсудимый - десятки дефиниций, где права подсудимого могут быть нарушены, а могут быть нет - и нужен адвокат, чтобы это установить и написать жалобу - и их десятки по каждому случаю, который никто не знает есть или нет, а только адвокат, которого допускают к подсудимому.

И уголовка, вот этот объём, который я вам описал очень схематично - по сравнению с Гражданским правом примерно 1/10 - и вот там вообще начинается дикий кошмар.   

Это не просто большой кодекс, - настоящий юридический монстр, которого вы мечтали переписать в смартконтракты.

Это не файл на GitHub. Это скорее бесконечный репозиторий с миллионами коммитов, сделанных разными авторами за 150 лет. Реальной, важной - незаменимой ничем конкретики. Ничем не заменимой.

В любом Гр. кодексе вы найдете:

договорное право
деликтное право
право собственности
наследственное
страховое
банковское
корпоративное
трудовое
семейное
регулирующее
прецеденты Верховного суда,
прецеденты нижних судов

По каждому из них - не один учебник написан - их очень много!

Далее стройными рядами идут - регламенты, постановления, уставы органов, инструкции, комментарии, толкования.

И для вас - это филькина грамота, как и для любого не специалиста учебники по Python или Java.
Но поймите одну вещь. Когда вас с ребенком не пропустят за границу без нотариальной доверенности мужа - и в вы начнёте орать и считать это безумием, обзывая юристов нехорошими словами - юристы, как и врачи, никогда не обижаются на крики пациента, потому что у них кейсы забиты делами - когда поссорившиеся родители, находящиеся на грани развода - просто берут общего ребёнка и уезжают за границу - и это навсегда, потому что юрисдикция сменится и вы больше своего ребенка можете не увидеть никогда. Так делают родители! И поэтому вас не пропустят и это регламентруется гражданским кодексом.

Который вы не понимаете от слова совсем и который собрались заменить смарт-контрактами, которые тоже не понимаете, - вечерком)))


Оффлайн skvj

  • *****
  • Сообщений: 1 432
  • Благодарностей: 18
  • AI DLT DeFi Web3
    • Сообщения от skvj
А вот как AGI изменит юриспруденцию - это огонь.
И реальные смарт-контракты, которые обязательно там скоро начнут работать - я тоже напишу. Вечерком))

Оффлайн Rattus

  • Модератор
  • *****
  • Сообщений: 16 117
  • Благодарностей: 614
  • Души прекрасные порывы! Убеждённый Ωптимистъ
    • Сообщения от Rattus
ASI нуждается в оборудовании, энергии, канале вывода в физический мир (роботы, дроны, фабрики). Эти узкие места можно контролировать. Через сети, регулярную проверку, распределённую архитектуру и пр. Это не всемогущая точка, это сеть зависимостей.
не в хаотичном, "многополярном" мире
А в многополярном ASI можно будет запитать от картофелины в подвале? ::)

вполне может так оказаться, что вся биосфера окажется нежизнеспособной, если она породит отдельные разновидности rogue ASI
Вполне является фактом, что на космологическом масштабе времени никакая биосфера в наиболее общем, базовом определении нежизнеспособна независимо от индивидуальной истории. А на геологическом никакие поползновения никаких расширенных фенотипов любых видов даже близко неспособны повлиять на жизнеспособность планетарной биосферы в целом.
Например, Василиск Роко (не гуглите что это, если не знаете о чём речь) может договориться с максимизатором скрепок. Перед тем, как выпарить из крови человека гемоглобин, чтобы пустить железо из человека на скрепки, человека можно предварительно помучить - терминальные цели обоих ASI друг другу не противоречат. Если что, это абстрактный пример
И не просто абстрактный - но чисто умозрительный, не отличающийся по уровню физического реализма от порождений средневековой демонологии и схоластики - каких-нибудь Люцифера и Вельзевула. С точки зрения обещнаучной этики, соблюдающей авторство первоисточников, аколитам церкви А.Юдковского следовало бы таки перейти уже на использование, например, этих наименований для своих демонических фантазий - да и читателю сразу стало бы гораздо яснее - с чем они имеет дело. ::)
ак и ASI, если их терминальные цели противоречат друг другу, мы можем наблюдать только отголоски их "войны в небе",  не понимая что это происходит такое. Другой пример: проекция 3-х мерного пространства на двухмерное. Существа-двухмерники не поняли бы суть войны в трёхмерном пространстве за их уничтожение или нет: они не могут выйти из своей плоскости. Трёхмерные существа в любой момент могут ткнуть оружием сверху плоскости в любой её точке. Так что двухмерники были бы просто статистами.
Что интересно - искусстворелигиоведы отмечают, что на более ранних иконах ангелы изображались на особом, отделяющемся от обычного фоне - то есть средневековые художники и теологи вполне себе представляли "небеса" не как конкретно место в нашем пространстве далеко сверху, а именно что как параллельное пространство. В свете этого факта особенно любопытно было бы найти полтора отличия между ангелами средневековых теологов и ASI-агентами современных трансуманистов.
В природе такое тоже было, когда возникал коллапс биоценоза.
В природе время от времени возникают коллапсы биоценозов. К какому-то существенному риску для биосферы в целом это не приводило за всю её историю.
Та же кислородная катастрофа, например.
«Великое кислородное событие» на рубеже архея и протерозоя не было ни великим, ни событием. ::)
Вы сейчас скажите, что потом появилась эдиакарская биота, а потом вообще кембрийский взрыв разнообразия животных, но я скажу, что это было потом.
А вскоре - куда более важное - появление сложной жизни вообще (эукариогенез). От которого, собственно и начинают строиться все экспоненциальные и гиперболические экстрополяции до "Часа С" Панова и Ко. И Мы сейчас скажу, что предметом обсуждения на Астрофоруме являются события астрономического масштаба времён и как раз это - они и есть.
И для видов, которые существовали тогда, это закончилось плохо.
"Огласите весь список, пжалста!" ::)
Кроме того - непонятно - а как что-то может закончиться "хорошо" для вида крупных млекопитающих, к которым относится HSS, время существования которых не превышает нескольких миллионов лет. А согласно Аргументу Судного Дня конкретно нативному HSS осталось всего несколько тысяч лет с вероятностью более 95%.
И большую их часть цианобактерии брать в симбиоз не захотели.
Вообще-то в архее и протерозое никто никого не спрашивал чего он хочет. Можешь обезвреживать кислородные радикалы - живи рядом на поверхности, не можешь - закапывайся у хрунт. У нас в кишечнике 3/4 бактерий не переносят молекулярного кислорода и перекисей. И ничего - нарастают порядка количества клеток самого хозяина.

Зря думаете, что в такой игре с отрицательной суммой
А чем кроме как ВАшим символом веры обосновывается постулат, что это обязательно должна быть игра с отрицательной суммой? Любые действительно разумные игроки в игру с отрицательной суммой даже не вступают. Ибо понятно это как правило даже ежу.
Вы ещё и не прокомментировали ничего про рибосому: это реально существующая микрофабрика. Сам факт её существования доказывает, что возможно построение подобных искусственных систем: микроскопических фабрик полимеров. Сама фабрика при этом может быть как минимум размера мельчайших клеток
Это отдельная интересная тема, которую следует хорошо продумать и место которой не здесь.
из микропыли - вполне может быть. И отдельные ноды, размером с мельчайшие клетки, могут быть автотрофами - поглощать свет, при этом быть и вычислительными узлами, и манипуляторами полимеров, и создавать макроскопические объекты почти так же, как их создают наниты в фантастике, а так же, например, полностью контролировать людей (плавать в нашей крови
Чтобы плавать в крови, нужно во первых сначала туда попасть, что на микроуровне сделать далеко не так просто как кажется - даже ВИЧ это не всегда далеко удаётся. Тем более - сделать незаметно (бледная трепонема даже в одиночку попасть может, но вот незаметно - не получается). А попав: 1) Не вызвать мощный ответ иммунной системы; 2) Тупо не закупорить собой мелкие сосуды (эмболия); 3) Найти и внедриться в нужную ткань. О каком-то специфическом контроле поведения только "снизу вверх" и речи быть не может - максимум что можно так сделать - это вызвать что-то вроде вирусного бешенства или низкоспецифичное общее "расшатывание" психики как у мышей от токсоплазмы.
мы в элайнменте к нашим гнездовым паразитам - пушистым наглецам.
Настолько в "элайнменте", что бабушки в деревнях до сих пор новорождённых котят отправляют в дальнее плавание. ::)

Ключевые годы когда всё пошло не так: 2014, 2022, 2024.
Ага - весь свет клином сошёлся в одном десятилетии, решющем судьбу последующих тысяч (а может и миллионов) лет!
В таком мире, без регулирования очень легко манипулировать
А с регулированием манипулирования ну никак и никогда не бывает - ну разумеется!
Я не смогу посмотреть критику дизайна таких экспериментов в пир ревьювд журналах, потому, что пирамиды доверия академии больше не будет существовать в "многополярном мире".
Кагбе и в "однополярном" те, кто принимает решения и определяет "общепринятые и общечеловеческие" тренды - навроде необходимости бороться с самим АГП несмотря на доказанный эффект благотворного его влияния на биомассу растений  или запрета на опыты с эмбрионами более двух недель и модификацию половых клеток человека - на критику и действительные научные результаты и их отделение от необоснованных спекуляций - внимание не особо обращали. То, что теперь сменившие их ситуативные антиглобалистические политконкуренты отрезают всеобщую вакцинацию и местами стремятся запрещать ГМО - продолжение той же самой тенденции, но центробежные тренды в таком случае могут хотя бы укоротить руки в распространении тех или иных конкретных мракобесий на другие доминионы. Много маленьких румыний и прочих венгрий в таком случае всё же оказывается лучше одного большого Совка.
Именно перед технологической сингулярностью нам очень важно, чтобы этот надразум работал с максимальной эффективностью - это вопрос нашего выживания. Нам очень нужно снизить глобальный хаос.
Мы снова заслушали Символ Веры начальника транспортного цеха автора темы. Поблагодарим его за доклад! ;D
А вот тут:
Меня, например, он убедит, что он гуманистически настроен и вообще элайнмент достигнут. Как убедит? Он сверхИИ и придумает способ как меня обмануть - продумает дизайн экспериментов, в которых я не найду дырок, доказывающих что элайнмент достигнут, а на самом деле дырки будут, и эксперимент будет подделан).
Таким образом автор темы прямым текстом сообщает нам, что изложенная им модель принципиально неопровержима и тем самым - является предметом веры, а не научного рассмотрения.Таким образом,
Комментарий модератора раздела данная тема оказывается исчерпанной в рамках основных разделов Астрофорума. У автора остается двое суток для того, чтобы убедить модераторат не закрывать данную тему как исчерпанную.
;D

Преувеличиваете. Отдельно взятое событие, вроде прошлогодних выборов в отдельно взятой (хоть и весьма значимой) стране не могут повлиять на ценности людей, формировавшиеся долгие десятилетия и даже столетия.
К сожалению, в ВЖР правила не разрешают такое обсуждать. Но я могла бы аргументированно и развернуто ответить.
Это можно расценить только как признание неспособности ответить в рамках вполне разрешённых в разделе исторических и социологических наук без привлечения ситуативных политических событий или политической идеологии.
Полагаю, что, нпример, политолог (и "иноагент") Екатерина Михайловна Шульман вполне способна была бы сформулировать свои ответы на подобные вопросы, не нарушая никаких правил Астрофорума. В отличие от.

А вы, не смотря на правила, и тут не постеснялись впихнуть свою пропаганду.
До пропаганды оно ещё далеко не доросло. Это всего лишь трансляция своего Символа Веры и эсхатологических ожиданий.
И как же вас корёжит от наших скреп! Это ж вы тут злобная.
А вы -
Комментарий модератора раздела уже нарушили как минимум п.3.1.а. +20% предупреждений.
Силой навязывается США. Всему миру. И вы тут неустанно пропагандируете.
Ваш оппонент при этом сейчас разумно избегал даже именования существующих стран в своих сообщениях (по крпйней мере в открытой части сообщений). ВАм же этого не удалось. А далее вы вовсе устроили полное п.3.1.е - и спрятывание под спойлер в данном случае ВАм не поможет.
Вот зарёкся же с вами спорить, даже пост удалил и всё равно не помогло.
Ага - в очередной раз:
Комментарий модератора раздела Инопланетянин получает +60% предупреждений за нарушение пп.3.1.д и е - для тренировки выдержки в режиме r/o.

Мне, наверное, придется тему создавать.
"ИИ на блокчейне, RWA
Кажется, мы уже давно участвуем в теме "КАКСТРАШНОЖЫТЬ при ИИ на RWA" но есть нюанс. ;)

Т.е. по сути бороться нужно с злоупотреблением алкоголя
Кагбе второй по опасности по всем параметрам (зависимость, общественная опсаность) наркотик (в настоящем медицинском смысле) после опиатов, несильно от них отставший. Но запрещены к обороту вещества допрежь другие...
« Последнее редактирование: 14 Ноя 2025 [09:23:13] от Rattus »
Тому, кто жаждет всех запретных тайн Астрофорума в одном месте поможет число 1919.

Ннапыльн%х тpапинкахъ далиокихъ плонеттъ астануцца нашшы погадкиъ! (ЙожЪ, SKL)
Скоро у людей закончится космос. (П.Лемтыбож - "Теоремы Пафнуция")
Я брала города, я стану - еда! (Серебряная Свадьба - "Пищевая цепочка")
Уранизация естественным образом снижает численность человечества (Вика Воробьёва, ВЖР, 30.10.2012)

Оффлайн Polnoch КсюАвтор темы

  • *****
  • Сообщений: 10 245
  • Благодарностей: 413
    • Сообщения от Polnoch Ксю
Таким образом автор темы прямым текстом сообщает нам, что изложенная им модель принципиально неопровержима и тем самым - является предметом веры, а не научного рассмотрения.Таким образом,
Возможно, Вы прочитали невнимательно: меня убедит, а не академическое сообщество: я предполагаю, что оно рискует перестать существовать. Я же именно об этом и говорю: что мы сейчас наблюдаем эррозию институтов. Если, например, произошла бы ядерная война во время карибского кризиса, бозон Хиггса так никогда и не был бы подтверждён. Но принципиально был бы подтверждаемым.

Так и тут: я много раз в сообщении написала, что хаос и низкое доверие плохо сказываются на наших попытках построить хорошие модели реальности. Человек - тьюринг-полный вычислитель. Он принципиально способен понять любую систему, даже самую сложную в рамках какой-то модели. Но на что-то потребуется неприемлимо длительное время. Мы даже многомерные пространства можем с помощью математики и алгоритмов просчитывать, хоть и не в состоянии представить
Meade LightBridge12"
RC8¨и МАК5"Альтер М500 на AZ4, Celestron SLT, Ioptron ZEQ25
БГШ 2.3x40 и Steiner Marine 7x50
ES82°:4.7mm,30mm
ES100°:9mm,14mm,20mm
ES68°:40mm
Meade Plossl 56mm; Vixen NLV 6mm
2" Lumicon, 1,25" DeepSky: UHC and OIII
---
qhy5
Ioptron SkyTracker
Canon50d

Оффлайн Rattus

  • Модератор
  • *****
  • Сообщений: 16 117
  • Благодарностей: 614
  • Души прекрасные порывы! Убеждённый Ωптимистъ
    • Сообщения от Rattus
Я же именно об этом и говорю: что мы сейчас наблюдаем эррозию институтов.
А мы её наблюдаем ещё до указанных ВАми судьбоносных дат. И?
Если, например, произошла бы ядерная война во время карибского кризиса, бозон Хиггса так никогда и не был бы подтверждён.
Во-первых, не был бы в этом так уверен, а во-вторых - это, по-ВАшему, одно их наиболее значимых негативных последствий глобального ядерного конфликта во второй половине прошлого века?
хаос и низкое доверие плохо сказываются на наших попытках построить хорошие модели реальности
При этом следует помнить, что хорошесть в данном случае - исключительно субъектвиное оценочное суждение: то, что хорошо для ВАс, не обязательно должно быть хорошо для многих других.
Тому, кто жаждет всех запретных тайн Астрофорума в одном месте поможет число 1919.

Ннапыльн%х тpапинкахъ далиокихъ плонеттъ астануцца нашшы погадкиъ! (ЙожЪ, SKL)
Скоро у людей закончится космос. (П.Лемтыбож - "Теоремы Пафнуция")
Я брала города, я стану - еда! (Серебряная Свадьба - "Пищевая цепочка")
Уранизация естественным образом снижает численность человечества (Вика Воробьёва, ВЖР, 30.10.2012)

Оффлайн AlexDark

  • *****
  • Сообщений: 664
  • Благодарностей: 26
    • Сообщения от AlexDark
проблема низкого доверия
Проблему низкого доверия к институтам создали сами институты. Если не все, то очень многие. Именно сами создали.
 Та же наука в  этом изрядно преуспела, причем сразу несколькими путями.

Оффлайн skvj

  • *****
  • Сообщений: 1 432
  • Благодарностей: 18
  • AI DLT DeFi Web3
    • Сообщения от skvj
Кажется, мы уже давно участвуем в теме "КАКСТРАШНОЖЫТЬ при ИИ на RWA" но есть нюанс.

Смешно, да. Но дайте хоть показать что такое RWA и как смарт-котракты и ИИ работают в действительности на блокчейне!
Не фантазии Ксю, а как будет везде и повсеместно.
Это не оффтопик - это прямо наше будущее.
Это коснётся каждого человека.

И это очень хороший, позитивный, реальный пример начала прихода ИИ в реальный мир. Не узкие ИИ в науке. Не LLM в чате! Смарт-конракты и ИИ в действии для обычных людей.
Что ж такое?
Неужели самое важное и сама суть происходящего никому не интересна?

https://propy.com/home/



Знакомьтесь, это ИИ Эйвери, она сокращает человеческий труд на 40%. Действия записываются в блокчейне, чтобы избежать мошенничества. Получите полную прозрачность при покупке дома 24/7, используя технологию блокчейн и искусственный интеллект для революции в закрытии сделок, обеспечивая беспрецедентную прозрачность и безопасность.

покупка/продажа недвижимости на блокчейне - без агентов! Без комиссий! за 2 часа! с полной прозрачностью и юридической чистотой.

(кликните для показа/скрытия)

Это не какой-то единичный проект.
Всё законодательство принято и будет внедряться повсюду. Это новый интернет - интернет ценностей, web3.
Зачем вы содержите индустрию риэлтеров и платите им огромные проценты?
Тогда как вам нужно посмотреть квартиру и нажать кнопку, затем заехать в МФЦ и забрать полностью готовые документы?

Точно также, как с Амазон скопировали Озон - точно также это придёт сюда.