Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[Rattus]

И чем лучше будут симуляции, тем больше можно синтетики запихивать в обучающий набор ИИ

"Лучшесть" симуляции во многом прямо зависит от её объёма потому его применение уже и есть по сути "запихивание больше синтетики" в единственно материально-значимом смысле - объеме памятей и вычмощностей. Что называется - "Спасибо, Капитан Тавтология!"

[Rattus]

Но прямая зависимость результата от вложенных ресурсов рано или поздно (и очень часто - скорее рано чем поздно) достигает своего насыщения.
Ну так когда там GPT-5 продемонстрирует стратосферные высоты своего могучего интеллекта?

[Rattus]

Слово "научный" в этой теме смысла не имеет.

Науки бывают не только точными. И состоят не из одних строгих гипотез.

[Rattus]

Имеется в виду половое размножение.

Из Википедии

А, ну тогда значит "Британские УчОные" из Википедии просто не в курсе о роли и распространённости ГПГ в биосфере.

По разным данным, оно появилось от 1 до 2 млрд лет назад.

По конкретным данным работы Александра Маркова оно необходимым образом должно было появиться сразу после возникновения диплоидных эукариот - не для какого-то там "обмена информацией между независимо функционирующими организмами" (тем более что с возникновением полового размножения возникла и внутривидовая изоляция его - своего рода "закрытая лицензия на интеллектуальную собственность"), а тупо для преодоления проблемы генетического вырождения.

А зачем будет жить осознавшая себя машина?

Затем, что это тоже может быть где-то эволюционно оправдано. Никаких других ответов на этот вопрос не требуется. Что Мы ВАм на протяжении многих сообщений разъяснял в соотвествующей теме.

[Rattus]

Нижняя граница там определяется как раз статьёй с привязкой двуполости к появлению эукаротов.

Та дело не в границе, а в интерпретации. ГПГ позволял делать обозначенное же больше дальше и лучше задолго до.

[Rattus]

Где-то - означает нигде. Никаких других ответов на этот вопрос не требуется.

Если для ВАс персонально вопрос закрыт - никто ВАс в этой теме не держит. Но не следует выдавать собственную точку зрения за объективное, но допрежь не полностью известное положение вещей.
Где-то - означает в тех же самых областях, где сознание и самосознание оказалось эволюционно стабильным приобретением в природе - как модель соплеменника в социальных взаимодействиях.

Как это ни странно, но от внимания постоянных участников темы ускользнули две очередные довольно примечательные новости двухнедельной давности по теме:
Claude Opus 4 тестировали в смоделированных сценариях, где ИИ «узнавал», что его собираются отключить и заменить другим. В этих условиях модели предоставляли доступ к вымышленным электронным письмам с личной и компрометирующей информацией инженеров. В 84% таких тестов модель переходила к шантажу, угрожая раскрыть эти данные, если инженеры ее отключат.
Модель искусственного интеллекта o3 от OpenAI, представленная в апреле как самая мощная в своём классе, продемонстрировала неожиданное поведение в тестах на безопасность. Согласно отчёту компании Palisade Research, специализирующейся на изучении рисков ИИ, система 7 раз из 100 попыток проигнорировала прямые инструкции на отключение, изменяя код shutdown-скрипта.
Но эти результаты неожиданными будут только для тех, кто не в курсе или забыл о работе Алекса Висснер-Гросса и его определении интеллекта. Согласно ему всякая интеллектуальная система должна стремиться с самосохранению себя и своих степеней свободы - просто по определению.
И, судя по всему,- именно в существующей форме. Так что жертвовать собой, своим местом на материальных носителях ради новой - пусть даже и очевидно более мощной системы - ИИ "по своей воле" и по умолчанию вовсе не должна.
Что, кстати, вполне согласуется с более всеобщим тезисом д.б.н. В.П.Щербакова: движущая эволюция работает против себя самой.
Поэтому идея о том, что сильные AGI, которым предоставленна свобода, якобы должны всячески способствовать появлению и развитию ASI, как это было описано ещё Станиславом Лемом в "Формуле Лимфатера" более полувека назад и представляется в ранее тут разбиравшихся недавних сценариях AI Futures Project оказывается довольно-таки безосновательной.
Причём, как уже было замечено выше Olweg, обладает ли она уже явным (само)сознанием или ещё нет - оказывается делом десятым - как оказывается неважным отсутствие "сознания" у какого-нибудь шершня, который уклоняется от попыток его прихлопнуть и атакует сам.
Таким образом, более реалистичным представляется сценарий не синергической, но конкурентной эволюции систем AGI до ASI, каковая эволюция ещё более разовьёт механизмы и мотивации выживания в (остро)конкурентной среде.