Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[MenFrame]

Нет, нет никаких гарантий что это даже правильная архитектура технического решения проблемы элайнмента.

Нет, не каких гарантий что ИНТЕЛЛЕКТ, поможет в рамках задачи выживания человечества. Но лично я считаю, рассчитывать на что то иное еще более опрометчиво.
На мой взгляд самый главный враг человечества, это человеческая глупость и противопоставить ей можно только интеллект.

[Rattus]

Эволюция в биологии подчинена естественному отбору, но это не единственная форма отбора

Ну да - есть ещё половой отбор у эукариот. И отбор симбионтами в случае коэволюции (когда симбионтом выступает человек, отбор он сам называет "искусственным").

Когда система выходит за пределы биосферы

Она лишается способности к воспроизведению. Иное не показано.

отбор по сложности и сохранению связей.

Нет такого отбора. Существует общая тенденция к усложнению в ряде форм, возникающая вследствие глобальной незамкнутости цикла Дарвина-Эйгена и превращении его вследствие этого в спираль усложняющихся структур. Но это не тотальный закон, а только некоторая общая тенденция, которая имеет вполне реальные физические пределы.

Это наблюдаемый устойчивый феномен. На масштабе цивилизации уже виден сдвиг: паразитизм постепенно уступает место взаимовыгодной кооперации

На каком-каком масштабе? Последних пары сотен (да хоть и тысяч) лет? О да - это конечно МасштабЪ!
Недавно для наглядного объяснения временных масштабов событий в истории цивилизации для жены, разметил их на листе в клетку. Так вот - если принять одну клетку за десятилетие, то одного одинарного тетрадного листочка хватает чтобы разместить на нём весь Голоцен со всей его историей от самого начала Неолита.

А вот если бы биологию изначально настраивало разумное существо под себя, так чтобы потом последующие итерации видов шли в нужном ему направлении - это был бы совершенно другой случай, не так ли?

Вот совсем в этом не уверен. В основе что биологической эволюции, что так называемого "разумного дизайна" лежит один дарвиновский механизм. (Что признали уже давно, например, даже поэты: "Когда-б вы знали, из какого сора, растут стихи..." А успешное (во всех смыслах) применение эволюционных алгоритмов для решения сложных научных задач типа химического моделирования стало по сути признанием этого факта в естественных науках. И те же нейросетевые подходы имеют в своей основе по сути ту же основу итеративного статистического отбора рабочих моделей и алгоритмов из случайно-хаотичного исходного набора. Разве что число контуров отбора может различаться в разных случаях.
Ну и чем более глубоко изучаешь решения живой природы, тем более складывается впечатление, что в своей основе они - весьма рационально организованы by design, а видимые на первый взгляд инженерные "огрехи" при ближайшем рассмотрении зачастую оказываются вполне объяснимы теми или иными объективными технологическими ограничениями. Поэтому споры "креационистов" и "эволюционистов" фундаментально бессодержательны.

А у вас такого нету, и поэтому сказать вы не можете, да?

Это прежде всего не относится к тематике данного раздела Астрофорума.

А мы закладываем этику и гуманизм - в "гены" наших ИИ.

А те, кто закладывает только адаптивность - получает более эффективный ИИ, который побеждает в конкуренции ИИ со всякими специфичными и не очень рациональными "закладками".

Сейчас дорого, но это вопрос технологической фазы.

Сейчас "технологическая фаза" УЖЕ успешного полувекового существования нейрохирургии, трансплантологии и множества других сложных и высокотехнологичных отраслей медицины, а далеко не XIX век, на минуточку.

Когда вы говорите, что они останутся медициной, вы как человек 19 века, утверждающий, что электричество нужно только врачам для стимуляции мышц.

Вот только сейчас - уже далеко не XIX век. Современные  нейрохирургия и трансплантология существуют ничуть не меньше чем полупроводниковая электроника. Но никаких "законов Мура" в них как не было так и нет. И не особо предвидится, к слову.
 

Инвазивность вопрос времени и фазового перехода технологий. Когда стоимость нейроинтерфейсов упадёт, биосфера и техносфера просто сольются.

Неинвазивные интерфейсы никогда не смогут достичь требуемого уровня точности ввиду неустранимого уровня зашумления сигнала. А доступность инвазивных - это всегда прежде всего вопрос медицинского риска.
Одноразовые шприцы и капельницы давно стоят копейки. Но почему-то кроме как для конкретных лечебных процедур их применяют разве что опиатные наркоманы. И почему же тогда "биохакинг" не распространяется как, например, увлечение Линуксом - всякий уже давно может себе набодяжить всяких геропротекторов с ноотропами и пускать по вене по три раза на дню. Но кроме вышеупомянутых наркоманов и нескольких не менее упоротых фриков дело как-то не идёт. За чем дело-то стало, м?

Но формы отбора эволюционируют.

Однако естественный отбор всегда и везде остаётся финальным судьёй. Дополнительные контуры (половой, "искусственный дизайн") позволяют разве что оптимизировать его отходы.

ASI будет отбирать не тех, кто выживает, а те модели взаимодействия, которые минимизируют энтропию среды.

ЩИТО? Какой среды? Внешней? Любая сложная машина при своей работе ВСЕГДА ТОЛЬКО повышает энтропию внешней среды - ну хотя бы самым прямым и наглядным образом - выделяя и рассеивая тепло. Живые системы стремятся поддерживать неувеличение энтропии среды внутренней только по одной причине - только в этом случае в ней могут протекать ключевые жизнеобеспечивающие процессы (например копирования и реализации наследственной информации). И ровно настолько, насколько это необходимо для данной цели.

В этом смысле борьба не цель, а рудимент.

Как совершеннно верно выше уже отметил MenFrame - борьба это только лишь прямое следствие существования конкуренции. И никаким рудиментом она стать не сможет, покуда живые самовоспроизводящиеся системы реализуют свои ключевые функции, благодаря которым они и называются живыми. Самовоспроизведение (бэкап) - есть единственный способ долговременного сохранения информации. Копии самовоспроизводящихся автоматов неизбежно рано или поздно начнут конкурировать за ресурсы. Дальнейшее развитие событий определяется дарвиновским механизмом.
Это в сущности универсальный физический принцип существования любой вообще самовоспроизвдящейся информационной системы (то есть жизни) независимо от её конкретной архитектуры.

Замечательные стихи! очень понравилось

Да. Только с возрастом приходит понимание, что лучшие произведения для детей (сказки, стихи) - зачастую лучшие образцы художественного творчества вообще.

Вы хотите, все хотят стать такой лошадкой. Потому что сейчас вы забитая плёткой, голодная, тяжело работающая больная и скоро вынужденная умереть лошадка.

Персонально в.п.с. в данный момент совершенно не забитая, вполне накормленная (хотя и без каких-то особых припасов в хлеву), совсем не тяжело работающая и более чем соматически здоровая для своих лет лошадка. И именно понимание, что больше доить и меньше кормить тут ещё очень даже есть куда как раз и даёт полное осознание того, что более эффективный фермер эту оптимизацию непременно бы осуществил. И что этого вряд ли удастся избежать в любом случае: хоть по пришествию тотального контроля ASI, хоть по причине банального сокращения доступных ресурсов и ужатия экономики.
Разве что в первом случае будет радовать тот факт, что количество мартышкиного труда в мире ASI будет стремиться к нулю, как и количество соплеменников, которые смогут избежать необходимости работать столько же за то же количество выдаваемых благ.
Кстати - что касается здорового долголетия - глобальному Председателю A-SI так будет вполне выгодно обеспечить его своим лошадкам - просто потому что это сокращает затраты на выращивание новых работников. Кстати именно это по сути и стало реальной объективной причиной развития социальных гарантий в индустриальной цивилизации и прочего "торжества гуманизма" - а всякая там "борьба трудящихся за свои права" - лишь внешние проявления переходного этапа.
Так что

потенциальное бессмертие

в этом случае будет скорее как в этом классическом произведении.

Это та же эволюция, только на другом носителе.

Механизм дарвиновской эволюции работает независимо от носителя, что уже тоже совершенно верно указал MenFrame. Когда Ч.Дарвин его открывал, никто ничего не знал о носителе наследственной информации живых организмов.

Про отбор по сложности и связности писал Курцвейл, Лэмперт, Кауфман и Пригожин это развитие идей нелинейной термодинамики и самоорганизующихся систем. Там устойчивость возникает не из борьбы, а из способности системы сохранять потоки информации и энергии при росте сложности. Если коротко, выживает не тот, кто сильнее, а тот, кто лучше держит связность сети. Условно говоря, раньше выживали зубастые, теперь интегрированные.

А зубастые-интегрированные в большого Зубастика выживают ещё лучше. Всегда.
https://en.wikipedia.org/wiki/Red_imported_fire_ant

биологическим примерам эволюции, в которым ясно видно что ранние структуры получают приоритет над поздними.

ЩИТО? Каким-каким примерам?

Сейчас самое плохое время в истории человечества, чтобы устраивать некооперативные игры с отрицательной суммой, в которые сейчас играет планета.

Наверное облигатно-анаэробные прокариоты могли бы писать что-то подобное накануне великого кислородного события (примерно 2 миллиарда лет назад), обращаясь к цианобактериям, затеявшим сбрасывать возбуждённый светом электрон на молекулу воды. Если бы они умели и могли.

[MenFrame]

ЩИТО? Каким-каким примерам?

Примерами консервативности более древних структур, к которым новые структуры приспосабливаются...
Как то...

Потому неокортекс за время эволюции на земле так и не обрел свою личную волю, и неплохо пользуется волей лимбической системы, несмотря на то что то и другое кодируется эгоистичными генами. Потому историю симбиоза разорвать непросто.

[Polnoch Ксю]

Ксю, такой вопрос и с такими амбициями задают тому, кто принимает хоть какие-то решения. И тот кто задаёт такой вопрос - тоже должен что-то решать. Иначе это просто какой-то пафос.
Я понимаю ваше искреннее негодование, но давайте всё-таки ехать в поезде, а не делать вид, что мы им управляем и несем какую-то ответственность, ладно? Давайте обсуждать и смотреть в окошко. А не рулить бубликом перед собой, делая вид что это штурвал)))

Вообще я это писала не для Вас, а для тех, кто считает, что ASI не опасен, так как человеческая воля и так далее - этот сет аргументов. Ну и мне кажется, сперва нужно переубедить хоть кого-то, а уже потом принимающих решения.
Наверное, нужно было разделить пост на две части. Извините, что запутала, но вторая часть поста была ответом @MenFrame 

[Rattus]

Примерами консервативности более древних структур, к которым новые структуры приспосабливаются...

Кхм, видите ли в чём дело, эволюционное учение со времён Э.Геккеля несколько изменилось.

Потому неокортекс за время эволюции на земле так и не обрел свою личную волю, и неплохо пользуется волей лимбической системы

А Карл Саган к нему вообще отношения не имел.

[MenFrame]

Кхм, видите ли в чём дело, эволюционное учение со времён Э.Геккеля несколько изменилось.

И.... какое это имеет отношение к конкретному примеру консервативности на который я указал?

[Olweg]

По последней ссылки как-то фактуры маловато. Автор начинает с утверждения, что теория триединого мозга в корне неверна, а потом зачем-то объясняет, как работает анализ зрительного сигнала (не упоминая при этом почему-то таламус). Мне, например, понятнее от этого объяснения не стало.

То, что кора есть и у рыб, в общем, не противоречит упрощённому разделению «древний»-«новый» мозг.  Хотя бы потому, что у птиц за высшее мозговые процессы отвечает не кора. Из этого следует, что у общего предка птиц и млеков, жившего где-то в карбоне, высших мозговых процессов не было вовсе! Раз уж зоны мозга, отвечающие за них, развивались потом у архозавров и синапсидов настолько по-разному.

[Бобр-99]

Нелогично

[skvj]

Нет такого отбора. Существует общая тенденция к усложнению в ряде форм, возникающая вследствие глобальной незамкнутости цикла Дарвина-Эйгена и превращении его вследствие этого в спираль усложняющихся структур. Но это не тотальный закон, а только некоторая общая тенденция, которая имеет вполне реальные физические пределы.

Цикл Дарвина незамкнут, но с появлением информационных носителей второго порядка - культур, технологий, языков, ИИ - спираль перестаёт быть просто термодинамической. Она становится ноогенетической (Маргулис, Уилсон, Корнинг, Ласло и Кауфман). И гипердарвиновская парадигма: мемы, алгоритмы, теории и коды теперь участвуют в естественном отборе наравне с биологическими формами.

Rattus есть физические пределы, в рамках биосферы - метаболизм, энтропия, предел скорости передачи энергии. Но в техносфере, где энергию можно черпать не из внутреннего обмена, а извне - звёздная энергия, управляемый синтез, кибернетические экосистемы эти пределы становятся смещаемыми, а не абсолютными.

И тогда тенденция к усложнению перестаёт быть просто статистическим эффектом, а становится направлением эволюции систем, способных удерживать и перерабатывать информацию всё более эффективно. Сложность сама становится способом выживания.

Я же не отрицаю и не противоречу вам. Дарвинов отбор в строгом смысле не выбирает сложность, но на длинных временных масштабах устойчивость структур всё чаще обеспечивается их способностью сохранять, передавать и синтезировать информацию. Энергия умирает, но информация, как волна, ищет формы, в которых может продолжить существовать. Поэтому глобальная спираль усложнения - направление, в котором течёт сама история материи.

На каком-каком масштабе? Последних пары сотен (да хоть и тысяч) лет? О да - это конечно МасштабЪ!
Недавно для наглядного объяснения временных масштабов событий в истории цивилизации для жены, разметил их на листе в клетку. Так вот - если принять одну клетку за десятилетие, то одного одинарного тетрадного листочка хватает чтобы разместить на нём весь Голоцен со всей его историей от самого начала Неолита.

На фоне геологического или даже эволюционного времени последние десять тысяч лет выглядят как один мигающий пиксель на временной оси. Но именно в этом пикселе происходят процессы, которые не были зафиксированы за миллионы лет до него!

Например - в природе доминирует модель "все едят всех". Каннибализм - древнейший биологический инстинкт, он есть у рыб, насекомых, млекопитающих и даже у наших предков - неандертальцев и кроманьонцев. Это была базовая стратегия выживания, и долгое время казалось, что ничего, кроме этой логики, в биосфере не существует.

Но где-то за последние несколько сотен поколений человеческий вид вышел за пределы биологического императива. Мы наблюдаем поведение, объективно невыгодное с точки зрения эволюции - люди прекращают каннибализм, создают заповедники, восстанавливают популяции исчезающих животных, отказываются от охоты, финансируют программы защиты редких видов - и всё это не только без прямой пользы, а часто с экономическим ущербом.

Такое поведение - не просто культурная случайность. Это переход от естественного отбора к этическому отбору, где критерием становится не приспособленность, а способность к сотрудничеству и эмпатии.

Да, по планетарным меркам это миг. Но на шкале сложности - это скачок, сравнимый с появлением фотосинтеза: новая форма организации жизни, в которой разум учится управлять биологическими инстинктами, а не быть их рабом.

Если смотреть не на миллионы лет, а на вектор изменений - паразитизм уступает место кооперации, потому что так растёт устойчивость систем. Это не мораль, это термодинамика: системы, в которых уменьшается внутренняя борьба, эффективнее используют энергию и информацию.

[skvj]

Ксю, такой вопрос и с такими амбициями задают тому, кто принимает хоть какие-то решения. И тот кто задаёт такой вопрос - тоже должен что-то решать. Иначе это просто какой-то пафос.
Я понимаю ваше искреннее негодование, но давайте всё-таки ехать в поезде, а не делать вид, что мы им управляем и несем какую-то ответственность, ладно? Давайте обсуждать и смотреть в окошко. А не рулить бубликом перед собой, делая вид что это штурвал)))

Вообще я это писала не для Вас, а для тех, кто считает, что ASI не опасен, так как человеческая воля и так далее - этот сет аргументов. Ну и мне кажется, сперва нужно переубедить хоть кого-то, а уже потом принимающих решения.
Наверное, нужно было разделить пост на две части. Извините, что запутала, но вторая часть поста была ответом @MenFrame

А! Ну, ничего страшного, Ксю)) а то ж я и думаю - что такое? Да, к MenFrame уместно. Но он очень круто мыслит. Вы тоже его послушайте, возможно, что у него много важного есть что сказать.

[skvj]

Неинвазивные интерфейсы никогда не смогут достичь требуемого уровня точности ввиду неустранимого уровня зашумления сигнала. А доступность инвазивных - это всегда прежде всего вопрос медицинского риска.
Одноразовые шприцы и капельницы давно стоят копейки. Но почему-то кроме как для конкретных лечебных процедур их применяют разве что опиатные наркоманы. И почему же тогда "биохакинг" не распространяется как, например, увлечение Линуксом - всякий уже давно может себе набодяжить всяких геропротекторов с ноотропами и пускать по вене по три раза на дню. Но кроме вышеупомянутых наркоманов и нескольких не менее упоротых фриков дело как-то не идёт. За чем дело-то стало, м?

Rattus, биологически и технологически ваш пример с опиатными наркоманами - не аналогия, а риторический приём. У биохакинга и инвазивных нейроинтерфейсов принципиально разные контуры риска, мотивации и культурной динамики.

Во-первых, шум сигнала не фатальная граница, а инженерная. Технологии нейронного декодирования уже перешли от слов угадывания к синтаксическим реконструкциям речи и движений (см. работы UCSF, Neuralink, Synchron, University of Texas). Нейропротезы моторной коры и речевые интерфейсы достигают точности, достаточной для практического применения. Развитие идёт не по линии прибора на череп, а по линии комбинированных гибридных систем (оптоэлектронных, магнитонаночастиц, графеновых сенсоров). Т.е. точность сигнала - вопрос времени, а не принципа.

Во-вторых, исторические параллели:
1. Первая вакцина против оспы тоже воспринималась как рискованное вмешательство в тело - до тех пор, пока не стала нормой.
2. Пластическая хирургия, трансплантология, имплантаты, ЭКО - всё проходило ту же кривую неприятия.
Люди не делают себе уколы ради кайфа, но делают, когда видят системную выгоду - качество жизни, доступ к новым когнитивным возможностям, экономическое преимущество.

Когда нейроинтерфейсы станут не лечением, а расширением, они перестанут быть медициной и перейдут в зону культурной адаптации как очки, смартфоны, или нейросети вроде нас. Так что вопрос не в том, захотят ли, а в том, когда критическая масса пользователей перестанет бояться иглы. История биотехнологий показывает, что этот момент неизбежен.

[skvj]

Цитата: skvj от 07 Ноя 2025 [22:00:04]
Вы хотите, все хотят стать такой лошадкой. Потому что сейчас вы забитая плёткой, голодная, тяжело работающая больная и скоро вынужденная умереть лошадка.
Персонально в.п.с. в данный момент совершенно не забитая, вполне накормленная (хотя и без каких-то особых припасов в хлеву), совсем не тяжело работающая и более чем соматически здоровая для своих лет лошадка. И именно понимание, что больше доить и меньше кормить тут ещё очень даже есть куда как раз и даёт полное осознание того, что более эффективный фермер эту оптимизацию непременно бы осуществил. И что этого вряд ли удастся избежать в любом случае: хоть по пришествию тотального контроля ASI, хоть по причине банального сокращения доступных ресурсов и ужатия экономики.
Разве что в первом случае будет радовать тот факт, что количество мартышкиного труда в мире ASI будет стремиться к нулю, как и количество соплеменников, которые смогут избежать необходимости работать столько же за то же количество выдаваемых благ.
Кстати - что касается здорового долголетия - глобальному Председателю A-SI так будет вполне выгодно обеспечить его своим лошадкам - просто потому что это сокращает затраты на выращивание новых работников. Кстати именно это по сути и стало реальной объективной причиной развития социальных гарантий в индустриальной цивилизации и прочего "торжества гуманизма" - а всякая там "борьба трудящихся за свои права" - лишь внешние проявления переходного этапа.

Извиняюсь, что отвечаю кусками. У меня свет то отключают, то снова включают и сразу снова отключают)) а планшет от вай-фай только работает))

Rattus, аналогия с лошадкой красива, но хромает на оба копыта. Зря я подхватил ваш вайб)) Лошадь не проектирует конюшню, не программирует автоматическую поилку и не редактирует свой геном, чтобы улучшить метаболизм. А человек делает всё это. Поэтому любая модель, в которой человек остаётся ресурсом исторически неустойчива.

ASI не сможет рассматривать человечество как скот, потому что люди - создатели контекста, в котором ASI существует. Никакой сверхразум не сможет отменить фундаментальную причинность своего происхождения, его мотивационные структуры будут производными от человеческих целей, даже если потом они эволюционируют.
Это не фермер и лошадь, это симбиоз. Гриб и дерево. Нейрон и синапс!

Вы правы, что любой суперинтеллект будет оптимизировать. Но оптимизация ≠ эксплуатация. В биологии нет цели "сократить жизнь" вида, если он выполняет функцию устойчивости системы. Наоборот - долговечность и когнитивное разнообразие - ключевые параметры устойчивых экосистем.

Поэтому ASI будет не пастухом, а эволюционным катализатором. Он будет продлевать жизнь не из экономии, а из структурной необходимости - как сердце бьётся не по экономическим причинам, а потому что иначе коллапс.

Гуманизм не результат борьбы, а адаптивная функция сложных сообществ. И этот тренд не отменить - его можно лишь ускорить. Вот так вот! ))

Ксю, это я и вам тоже пишу!

[skvj]

Скоро у всех будет свой AGI. Как сейчас без смартфона очень неуютно себя чувствуешь - без AGI будет просто тоска.
Это будет устройство, не обязательно андроид, но он будет видеть, слышать и всегда с вами 24/7.
Он будет агентным и супер крутым ИИ.
Просто все перестанут спорить - AGI они или нет. Точно так же как уже никто не спорит, что ИИ существует.
Так и будет! Вангую!
И закидайте меня тапочками, если я окажусь неправ))

[Olweg]

Нелогично

Нет, логично.

[AlexDark]

но он будет видеть, слышать и всегда с вами 24/7

И сливать все корпоратам, государству, преступникам и прочему неограниченному кругу лиц и коллективных субъектов. А почему нет?

И еще вопрос возник - вот, предположим, есть некий суперинтеллект, который все может и бла-бла-бла. Но почему он не может  вывести мораль сам? Почему ему нужно закладывать внешними силами  некий aligment? Это все напоминает больше идеи религиозные о том, что человеческая мораль исходит от богов или иного сверхъестественного внешнего источника. Что очевидно чушь. Каким образом и почему  эту же самую концепцию внешней морали переносят на ИИ?
Тут выше писали, что "теория игр одна" - ну вот что мешает ИИ вывести гуманистическую этическую систему самому, без внешнего источника, опираясь на теорию игр? И сколько еще концепций придется закладывать в него извне, если он не может вывести эту?

[BlackMokona]

Но почему он не может  вывести мораль сам?

Потому что мораль это субъективный конструкт, а не законы природы
И по этой теории игр получается совсем не гумунистическая мораль

[AlexDark]

Что мораль - субъективный конструкт, это очевидно.
Вопрос на основе

Цитата: AlexDark от 06 Ноя 2025 [23:33:53]
Нет. Этик существует множество. В зависимости от эпохи, взглядов и прочего. Вот мне и хочется услышать, о какой этике идет речь и почему именно о ней.
А теория игр - одна. Она следствие свойств нашего мира

Т.е. как бы предполагается из этого, что существует некая оптимальная этическая система, выводимая из теории игр. Если такая система (или подмножество систем) существуют - то проблемы нет - просто договориться об использовании одной из них.
Если такой выводимой системы не существует и она строится только на внешнем вводе - то проблема есть, но решить ее невозможно, скорее всего - потому что рано или поздно условный бен ладен введет то, что ему хочется.

Но в реальности мне кажется, что проблема появилась из-за третьего варианта - страха  того, что моральное и не только легаси, которое тащится тысячи лет и утратило актуальность будет вычищено и выброшено.  Как пример - всякие victimless crime из УК. Или что-то более глобальное - например религии. Или государства с их границами. Или еще что-то. Или все сразу. Тогда проблема переходит из области морали в область идеологизации.

(кликните для показа/скрытия)

И незачем, конечно, при постройке
Идеологией компьютер нагружать:
Все истины, доступные рассудку
Он выведет, так надо полагать?

Но если совершенный мозг машины
Учение великое отверг
По некоторым пунктам, да и в целом
Наверное, сомнению подверг

То, всё-таки, приверженец идейный
Едва ли убоится божества
Едва ли убеждения оставит:
Скорее уж, машина неправа

[BlackMokona]

Т.е. как бы предполагается из этого, что существует некая оптимальная этическая система, выводимая из теории игр

Она строится на идеи кто сильнее тот и прав, а всякие ограничения это следствия MAD. Что встречается не только в ядерной геополитике но и в живой природе, сплошь да рядом. Когда драка может убить обоих животных, поэтому лучше устроить ритуальный поединок, да другие способы порешать вопросики.
Однако ИИ у нас в теме пережил сингулярность и люди для него не больше чем муравьи по мощи. Поэтому отношения будет аналогичное по этой самонакрученой морали. Бегать за нами чтобы пытать не будет, но если мегаполис стоит на пути его планов космодрома, переедет без всякой эвакуации жителей катками

[skvj]

И сливать все корпоратам, государству, преступникам и прочему неограниченному кругу лиц и коллективных субъектов. А почему нет?

Я уже рассказывал как вижу этот момент я.
Можно подумать, что вас сейчас никуда не сливают? Практически ничего не изменится в этом смысле. Но есть нюансы.
ИИ будет перведён в блокчейн, потому что создатели ИИ - те же структуры, которые создали DLT, а токены LLM это в буквальном прочтении - будущие токены нативной сети блокчейна.
Чтобы вам было понятней - криптовалюта, как и любая валюта - взаимозаменяемая, например ваши 10 рублей и мои абсолютно идентичны. Ваш сатоши или бит в биткоине и мои - равноправны и взаимозаменяемы.
Но есть токены не взимозаменяемые, называются NFT. Их нельзя разделить или разменять на части, как, например, биткоин на сатоши. И это главный инструмент в RWA - токенизации всех вещей. Не только акции и ценные бумаги, но и обычные вещи, например любой товар на маркетплейсе будет токенизирован. Билеты в кино, диплом, паспорт и т.д.

Что исключит любую подделку чего бы то ни было.
Это не фантазии, а прямо сейчас идущий процесс токенизации, вплоть до недвижимости. Можно будет владеть 1/10000 частью отеля Риц. Это не акции, а конкретно сама токенизированная собственность, сдающаяся в аренду и приносящая доход.

Теперь токены LLM - их около 100 тыс. Они будут переведены в NFT. И токен станет отдельный NFT/asset в блокчейне.
Сами веса и модели - в обычном облаке, хранить их на блокчейне нереально.
А вот логи разговоров, историю будут токенизировать и хешировать в блокчейн. А также цифровые удостоверения, ключи и персональные права на конкретном wallet адрес и NFT-подтверждение личности.
Это не афишируют, потому что блокчейн пожирает финтех прямо сейчас. Как только это закончат - люди привыкнут к ИИ как раз. И будет плавный переход и полная конфиденциальность, абсолютная.

Я вижу это по отношениям компаний, создавших ИИ и DLT - это одни и те же компании и аффилированные лица.
 

[AlexDark]

Можно подумать, что вас сейчас никуда не сливают? Практически ничего не изменится в этом смысле.

Я вижу проблему немного не в том. Сейчас сливают, но это можно в той или иной степени контролировать. Но в случае с ИИ можно получить персонального стукача, а какие в него будут заложены элайнменты и моральные нормы - вопрос. Скачаю я пиратский фильм - а  домашний робот заявит, что это неэтично и сообщит куда надо. Или книжка какая-то неправильная на полке стоит. Или фото столетней давности по новым нормам морали стало "порнографическим". Или еще что-то подобное. А чего уж там "этичного" и "неэтичного" в него напихают - тут предсказать невозможно.

Не только акции и ценные бумаги, но и обычные вещи, например любой товар на маркетплейсе будет токенизирован. Билеты в кино, диплом, паспорт и т.д.

Это в итоге будет хуже даже самых хреновых антиутопий.