Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[BlackMokona]

у вас откровенно инфантильно-религиозное мышление, идентичное критикуемой вами стороне.

Скорее просто влияние дем.СМИ которые уже с пол года поддерживают уровень ненависти как в 1984 на их пятиминутках. Рано или поздно психика должна адаптироваться и устать от этого стимула, после чего станет куда проще дышать

[Vitaliy]

А язык Эзопа тоже уже запретили?

Давайте вот так попробуем. Нужно удалить пробелы и символы новой строки
aHR0cHM6Ly9ydS53aWtpcGVkaWEub3JnL3dpa2kvJUQwJUEwJ UQwJUIwJUQwJUI0JUQwJUI4JUQw
JUJBJUQwJUIwJUQwJUJCJUQxJThDJUQwJUJEJUQxJThCJUQwJ UI5XyVEMSU4NiVEMCVCNSVEMCVC
RCVEMSU4MiVEMSU4MCVEMCVCOCVEMCVCNyVEMCVCQwo=

Модераторам: извините, если так нельзя. Если нельзя, я больше не буду. Предупреждения понимаю, и правила стараюсь соблюдать.

Почему же нельзя - даже интересно оказалось ! пока gpt не дал подсказку, я не мог сообразить, что тут зашифровано

Нейронка Маска с наскоку расшифровала https://grok.com

[Инопланетянин]

Новая ГЭС сметёт священные земли племени, но вытащит миллион людей из нищеты. Это зло или добро?

Тут надо уточнить вытащат ли из нищеты людей племени. А то получается, что землю одних людей затопят чтобы миллион других хорошо жил.

Я думаю, лучше стараться решить проблему минимально инвазивным способом. Например, запустить к ним проплаченного проповедника, который расскажет, что священные земли на самом деле в другом месте.

Ежели миллион нищебродов готовый топить для своей выгоды чьи-то земли располагает современным оружием, которого нет у людей ПЛЕМЕНИ, то и проповедник не понадобится, им ничего не останется кроме как искать жильё в резерва другом месте. Но это как поедание волком ягнёнка. Волку добро, ягнёнку зло.

Я не рассчитываю изменить Вашу точку зрения, потому, что Вы религиозны.

Рекомендую всем общающимся с ней в личке быть готовым, что любые личные данные сказанные ей будут обнародованы. Просто предупреждение.

[Combinator]

В чём-то пересекающееся с темой данной ветки интервью с А.Д.Пановым: https://youtu.be/ja1M9PZ0v_E

[Polnoch Ксю]

у вас откровенно инфантильно-религиозное мышление, идентичное критикуемой вами стороне.

Вовсе нет. Я думаю, большая часть людей даже в ВЖР путает этику и картину мира. Я думаю, это связано с тем, что в авраамических религиях всё дают в одной коробке: и этику, и онтологию, и гносеологию. Наука занимается картиной мира (онтологией) и частично гносеологией. Вот Вам и кажется, что если для кого-то этика важна, то этот человек религиозен. Тогда как светская этика не имеет ничего общего с религией.

Некоторые базовые посылки в светской этике приходится аксиомизировать. Например, идея о том, что субъектом теории игр является человек, и что его well-being важно. А вот дальше включается теория игр, и получается гуманизм, утилитаризм итд.

Я так же отвергаю ничтожные клеймы тех, кто говорит, что идеи о технологической сингулярности - это что-то религиозное. Напротив, это вполне научная гипотеза о развитии человеческого общества. Как и неомальтузианская идея. Предлагаю сторонникам неомальтузианских идей оставаться в рамках академической дискуссии, и не пытаться переписать своих оппонентов в верующих. Я могла бы действовать так же, но я выше этого.

(кликните для показа/скрытия)

идентичное критикуемой вами стороне.

С моей точки зрения, Вам показалось. Если я правильно поняла, Вы меня записали в радикальных левых, а я их тоже терпеть не могу, как и радикальных правых. Чума на оба эти дома. Впрочем, я считаю вторых в настоящий момент более опасными(в первую очередь из-за техсингулярности). Я могу использовать идеи левых для критики правых, или идеи правых для критики левых.

Одна из важнейших проблем новой повесточки, которую теперь всем навязывают - отказ от этики, либо бестыжие попытки заменить эту этику на мракобесие.

Если у Вас культурный шок от того, что Вы не были знакомы с утилитаризмом (а я не утилитаристка, я почти утилитаристка), это не моя проблема.

Рекомендую всем общающимся с ней в личке быть готовым, что любые личные данные сказанные ей будут обнародованы

Вы о чём лол?

Скорее просто влияние дем.СМИ которые уже с пол года поддерживают уровень ненависти как в 1984 на их пятиминутках. Рано или поздно психика должна адаптироваться и устать от этого стимула, после чего станет куда проще дышать

К сожалению, я думаю то же самое про Вас - но про шитпостинг в твиттере. Кто-то из нас не прав. С моей точки зрения, Вы, потому, что я читаю всех.

[Polnoch Ксю]

Ну разумеется - ведь Земля и всё что на ней - резиновое, с бесконечной растяжимостью.

Лондон тоже не был резиновым в вопросах переработки лошадиного навоза. У Вас прямо в этом предложении есть ложная посылка. Если с колонизацией солнечной системы людьми ещё можно спорить (хотя аргументы после появления Starship'а звучат всё менее убедительно!) то что бы заперло ASI в гравитационной яме Земли - решительно не понятно.

Добро пожаловать в республиканскую партию реальный мир, Нео! Красные таблетки нынче без отходняка не работают...

мимо. Я из него не выходила. Моя точка зрения достаточно мало поменялась за последние десять лет: мир погубят мракобесные идиоты. Я немного стала технооптимистичнее, чем была. Но в fast takeoff AI сценарий я не верю (его сторонники, которых, кажется, в ВЖР нет - он забит технопессимистами/неомальтузианцами, меня не убедили).

8/64! Byte Power!

неомальтузиазм мы не бросим?

Жаль только, что не очень-то доказательно и неубедительно. Данные AlexAV куда более адекватно описывали рассматриваемую область,

Это когда он использовал кольцевую логику: чтобы доказать что хомо сапиенсы не имеют инструментального пессимистического биаса в оценке прогресса, он брал субъективные оценки значимых исследований, которые бы очевидно были бы подвержены этому биасу, если я права?

То это прекрасный пример отсутствия какого-либо идеологического прессинга на научно-техническую и опытно-конструкторскую деятельность, двигающую Прогресс вопреки всяческим неолуддитам. Жаль, что так происходит далеко не во всех сферах научно-технического творчества.

О да, давайте теперь ещё магате разгоним. Тоже, кстати, способ борьбы с неолуддитами: если дозиметр будет в каждом доме, а фокусимы и чернобыли перестанут быть сенсациями, магнитуда тупой радиофобии в обществе снизится... /s

Вы читали "почему одни страны богатые, другие бедные"?

Ещё раз - "непредставимого" - сразу выводит тему за рамки п.3.1.д Правил Астрофорума. "Несопоставимого по уровню способностей" - пожалуйста, сколько угодно, а с "непредставимым" априорно бессодержательные разговоры ведите в где-нибудь в "Клубе..."

Вы можете представить пятимерный куб? Я лично нет. Но от этого он не становится менее научным.  Впрочем, в данном случае это не принципиально. Можно и "несопоставимого".

[Mercury127]

Если я правильно поняла, Вы меня записали в радикальных левых, а я их тоже терпеть не могу, как и радикальных правых.

нет. ни в "левых", ни в "правых", ни в "средних", ни в "длинных", ни в "нижних" — просто в упоротых. детали же упоротости меня не интересуют — все люди разные, и я на этом форуме нахожусь тоже по причине некоторой упоротости (к счастью, не до уровня трат сотен нефти на окуляры).

Если у Вас культурный шок от того, что Вы не были знакомы с утилитаризмом (а я не утилитаристка, я почти утилитаристка), это не моя проблема.

у меня не шок, у меня усталость от людей, ставящих единственно верное, правильное, одобренное, штампованное, идеальное сказочное "добро" выше реальности, объявляя её "злом", хотя в ней нет ни "добра", ни "зла", и готовых ради этого идеала грызть глотки нести "добро" любым несогласным, отказываясь их понять, допустить их правоту, объявляя их завербованными, купленным, недалёкими или просто врагами по духу, лишёнными права на признание их мнения, слова, голоса хоть мало-мальски верным. но вы правы — это не моя проблема.

[AlexDark]

отказ от этики

С этикой тоже есть проблемы, в частности, я соглашусь с Витухновской (при всей неоднозначности ее персоны), что то, что называется гуманизмом, есть по сути псевдогуманизм. Потому что он ставит исключительным приоритетом жизнь как факт, ничего не говоря о ее качестве. В итоге это приводит к совершенно диким вещам в виде "живешь нищим калекой - но живешь же, радуйся", "родился в семье живущих в землянке сумасшедших алкашей - но родился же, радуйся", "ради сохранения вашей бесценной жизни мы запрем вас в тюрьму - зато безопасно" и тд и тп. Речь в данном случае не о "убить всех бедных и больных", а о том, что нормальный гуманизм обязательно должен включать и качество жизни, причем в измеряемых величинах, а не байки про "счастье", "любовь" и прочие субьективно-манипулятивные химеры, которые суть чуть переименованные химеры религиозные.
Аргонов как раз играет в эту сторону, у него все пропитано поисками "счастья", причем любой, даже самой дикой ценой.

[Polnoch Ксю]

у меня не шок, у меня усталость от людей, ставящих единственно верное, правильное, одобренное, штампованное

Я думаю, что значительная часть проблем нашего мира связана с тем, что религиозная этика провалилась в силу своей оторванности от реальности (и её мракобесы пытаются навязать репрессиями и силой оружия), и теперь в новой повесточке она идёт в комбо с ницшеанским отказом от этики.

С моей точки зрения, светская гуманистически-ориентированная этика и следование ей решило бы многие проблемы нашего мира, если бы у нас было больше времени. Но уже не решит, так как времени, ИМХО, слишком мало до необратимых изменений в социуме: сперва из-за появления AGI, а потом и техсингулярности (даже если до неё ещё лет 50, всё равно этого времени слишком мало, мы даже не пытаемся успеть).

С этикой тоже есть проблемы, в частности, я соглашусь с Витухновской (при всей неоднозначности ее персоны), что то, что называется гуманизмом, есть по сути псевдогуманизм. Потому что он ставит исключительным приоритетом жизнь как факт, ничего не говоря о ее качестве. В итоге это приводит к совершенно диким вещам в виде "живешь нищим калекой - но живешь же, радуйся", "родился в семье живущих в землянке сумасшедших алкашей - но родился же, радуйся", "ради сохранения вашей бесценной жизни мы запрем вас в тюрьму - зато безопасно" и тд и тп. Речь в данном случае не о "убить всех бедных и больных", а о том, что нормальный гуманизм обязательно должен включать и качество жизни, причем в измеряемых величинах, а не байки про "счастье", "любовь" и прочие субьективно-манипулятивные химеры, которые суть чуть переименованные химеры религиозные.

Обычно утилитаристы включают качество жизни. Например, когда трансгуманисты говорят о великой цели - о победе над старением и смертью для миллиардов людей, они имеют в виду, как цель, сделать всех молодыми, а не сделать так, чтобы немощные, страдающие старики протянули вместо десятков лет сотни.

[AlexDark]

когда трансгуманисты говорят о великой цели - о победе над старением и смертью для миллиардов людей

А я бы поставил перед этим совсем иную великую цель - разработку вакцины или иной способ выработки иммунитета к "ментальным вирусам" (разного рода религиозным, устаревшим, лженаучным, маргинальным, но патологически живучим идеям), потому что жить в обществе бессмертных психов, которое построено этими самыми психами  и для психов - это совсем не о качестве жизни.
А уже сейчас видно, что прогресс слишком быстро обгоняет развитие поколений, в итоге решения о запуске звездолетов принимают питекантропы.

[Mercury127]

светская гуманистически-ориентированная этика и следование ей решило бы многие проблемы нашего мира

например, эвгеника и эвтаназия решили бы многие проблемы (и я даже почти не язвлю — вопрос исключительно в "кто определяет проблемы и сколько у него дивизий?").

[Mercury127]

жить в обществе бессмертных психов, которое построено этими самыми психами  и для психов - это совсем не о качестве жизни.

тот же вопрос — "а кто первым наденет халат?"

[AlexDark]

тот же вопрос — "а кто первым наденет халат?"

Это очень простой вопрос - халат в данном случае у реальности. В которой нет богов, магии, души, памяти воды, волнового генома и прочего фэнтези. Фронтир науки (недоказанные гипотезы, дискуссионные вопросы) не считаем, потому что для обывателя он слишком сложен, а влияние его на жизнь общества мало. А вот "хвосты" ментальных бацилл из каменного века тащатся за обществом до сих пор.

[Mercury127]

А вот "хвосты" ментальных бацилл из каменного века тащатся за обществом до сих пор.

наверное, эти хвосты появлись не просто так, это расплата за появление речи с последующим усложнением личностных и групповых отношений в стае...

[Polnoch Ксю]

например, эвгеника и эвтаназия решили бы многие проблемы (и я даже почти не язвлю — вопрос исключительно в "кто определяет проблемы и сколько у него дивизий?").

Здесь проходит водораздел между трансгуманистами, технофашистами, мракобесами и обывателями:

обыватель: не хочу про это думать! Ну и что-нибудь про cancel culture
мракобесы: запретить, запретить бесовщину! Расстрелять любителей ГМО! (стерлингов-мод).
Технофашисты: евгеника? Гаттака(1997) Дайте две! Когда я уже стану постчеловеком, и обращу в рабов этих тупых слоупоков? Притворюсь, что я тоже классический фашик и мракобес. Я думаю, нужно зигануть. Как я до этого притворялся, что я гуманист и этичен
Трансгуманисты: евгеника имеет негативные коннотации. Сама по себе идея неплохая, если следовать этическим соображениям. Но устарела: обычно евгеника это или про селекцию, что в ГМ век странная идея. Или как в гаттаке(1997), где почему-то забывают, что патчить можно и нужно геном соматических клеток взрослых людей, например, чтобы лечить генетические болезни: https://www.fda.gov/vaccines-blood-biologics/cellular-gene-therapy-products/approved-cellular-and-gene-therapy-products в будущем можно будет так делать со здоровыми людьми, чтобы улучшить их жизнь. Но давайте использовать другое слово, чтобы нас поняли правильно. Например, апгрейд, чтобы это был не разделяющий язык, а объединяющий.

Не уверена, что это все понимают. Имхо, это очень важный водораздел.

[Metatron]

Технофашисты

Любопытно - кого вы считаете технофашистами. И главное - почему?

[AlexDark]

наверное, эти хвосты появились не просто так, это расплата за появление речи с последующим усложнением личностных и групповых отношений в стае..

Если б это было так. Зачастую у этих бацилл есть вполне конкретные "нулевые пациенты", по сути разные городские сумасшедшие, которые дорвались до трибуны и стали зваться "философами" или еще кем-то.
Дабы на опасную почву не заходить - нейтральные примеры. Идея "благородного дикаря" Руссо, которая потом выросла в нью-эджевский дауншифтинг и прочие левацкие закидоны конца ХХ - начала ХХI века, Ганеман с гомеопатией, для опровержения которой достаточно курса химии за 8 класс, но... И далее, тысячи их. Злосчастная зебролошадь лорда Мортона не даст соврать.
Либо "нулевым пациентом" можно считать популяризатора каких-либо малоизвестных бредней, типа всем известного "юмориста" с мраком мозга.
А потом на основе этого фэнтези начинают приниматься решения и строиться планы. И вот вместо лекарств тебе советуют "по святым местам" или "к бабкам", силу РОДа восстановить. (Это уже личное, ситуация разрешилась благополучно одной упаковкой препарата, выписанного нормальным врачом, но советовавшие тоже остались "врачами")

[MenFrame]

Но устарела: обычно евгеника это или про селекцию, что в ГМ век странная идея.

Если ваша цель создать ихтиандра, то евгеника тут наверное устарела. А если просто контроль за распространением вредных мутаций то самое то.

[Polnoch Ксю]

Если ваша цель создать ихтиандра, то евгеника тут наверное устарела.

Такое пока делать не умеют. Может, скоро научатся делать технический дизайн для бактерий.

А если просто контроль за распространением вредных мутаций то самое то.

А вот это для чего? https://www.fda.gov/vaccines-blood-biologics/cellular-gene-therapy-products/approved-cellular-and-gene-therapy-products
Вместе с тем, конечно, слушать мракобесов как слева(из тех, кто отговаривают от аборта "солнечных детей" в целях "дивёрсити") так и справа(мракобесы обычные) не нужно, и селективные аборты в случае аномалий, конечно, нужны. Ведь у плода нет развитой нервной системы и личности.

[Mercury127]

Здесь проходит водораздел между трансгуманистами, технофашистами, мракобесами и обывателями:

и таки не томите, доктор: каков диагноз?