Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[Polnoch Ксю]

Здесь проходит водораздел между трансгуманистами, технофашистами, мракобесами и обывателями:

и таки не томите, доктор: каков диагноз?

Недостаточно Вас знаю, чтобы выдавать диагнозы через TCP/IP. Если бы знала хорошо, и регулярно общалась IRL, сказала бы лично и при заинтересованности человека в этом. Но если бы Вы сами определили себя в какую-то из категорий, я бы принимала Вашу классификацию как рабочую гипотезу о Вашей модели мира.

Любопытно - кого вы считаете технофашистами. И главное - почему?

В первую очередь нужно иметь ввиду, что это мнение субъективное, и 100%й уверенности у меня в навешивании таких ярлыков на конкретных людей нет.  Но я бы назвала, с большой степенью внутренней уверенности (но не абсолютной...) Ярвина, Тиля, Маска, Кириенко, Вэнса и некоторых других людей.

Почему про них публично говорю? Считаю, что публичные люди своей публичностью разрешают спекуляции и мытьё им косточек. И делать такие суждения вполне этично. Как и про блоггерш  и блоггеров в инстаграмме с кучей подписчиков.

[Metatron]

А Маска то почему?

[Polnoch Ксю]

А Маска то почему?

По комплексу причин. Это точно оффтоп в данной теме.

(кликните для показа/скрытия)

Но вообще я ещё заметила, что большинство российских self-proclaimed трансгуманистов как раз технофашисты. На словах многие тяготеют к анархо-либертарианскому полюсу. Но когда они чуть честнее, они говорят о палео-либертарианстве. А многие палеолибертарианцы, по крайней мере на Западе, на самом деле просто фашики

А вот в Канаде, например, самая большая тусовка - тусовка рациональных альтруистов. Возможно, тут некоторую роль сыграла пропаганда старой повесточки, в которую входят гуманистические ценности(помимо их типичного бреда).
По России и США - я думаю, так пропаганда новой повесточки влияет: ницшеанство/дарвинизм, или мракобесие.

[MenFrame]

А вот это для чего?

А это просто медицина, направленная на лечение конкретных индивидов, в противовес евгенике которая может быть направлена на то что бы люди изначально были здоровы как вид.

[Polnoch Ксю]

Ксю, не спешите возражать, а прежде почитайте материалы последнего 5-10-15-летия на тему:
Keywords: Replication crisis, Retraction Watch, Journal(s) of Negative Results, Sabine Hossenfelder...

Извиняюсь, пропустила

Ксю, не спешите возражать, а прежде почитайте материалы последнего 5-10-15-летия на тему:
Keywords: Replication crisis,

Моё сообщение за 2021й год:  https://astronomy.ru/forum/index.php/topic,3023.msg5500558.html#msg5500558 как пруф, что я знакома с концепцией, и мне с ней не нужно знакомиться. А вот кусок наших дебатов с AlexAV на эту же тему (и мы обсуждали кризис воспроизводимости не раз и не два с ним): https://astronomy.ru/forum/index.php/topic,122707.msg5524595.html#msg5524595

Retraction Watch, Journal(s) of Negative Results,

Перечислены полезные инструменты, которых раньше не было, и благодаря которым наука стала ещё лучше. Есть такое когнитивное искажение - когда государство борется с коррупцией, и сажает за воровство, индекс восприятия коррупции идёт вверх. Тогда как реальная коррупция в момент борьбы идёт вниз (тут нужно абстрагироваться от наличия коррупции в начале, и от её уровня, и от исхода борьбы. Речь именно про массовую галлюцинацию - когда миллионы людей коллективно неправильно оценивают динамику: они думают, что в момент времени стало больше коррупции, а её стало меньше.

Sabine Hossenfelder...

Подписана на неё. Регулярно смотрю. Да, она тоже из вот этой вот тусовки disillusioned в науке. Я думаю, главная её ошибка в том, что она не замечает, что раньше было ещё хуже.

Скорее всего, это её когнитивное искажение влияет на прогнозы, у неё довольно много скептичных видео про ИИ.
Не то, чтобы я сама была гипероптимистичной - как уже писала, сторонники гипотезы fast takeoff меня так и не убедили - но всё же она делала слишком много слишком пессимистичных утверждений.

[Polnoch Ксю]

А это просто медицина, направленная на лечение конкретных индивидов, в противовес евгенике которая может быть направлена на то что бы люди изначально были здоровы как вид.

Мы никогда не были столь здоровы как вид. По крайней мере на момент до ковида. Мы живём долго, сохраняем работоспособность в старости, итд. Эта терапия как раз и помогает стать "здоровыми как вид" людям, кому не повезло при рождении. Я понимаю что Вы имеете ввиду, но это то, что навязывают с новой повесточкой (см. пик)
Но убивать живых людей - это бессмысленная жестокость, которая не требуется в мире, в котором уже есть генетические терапии. И появятся новые, если не будут мешать мракобесы и другие злодеи.

Как раз пример проблем, что с нами происходит, когда мы отказываемся от светской этики, переходя к ницшеанству (ещё лечить их? Гыы, спартаааа!), или впадая в мракобесие (бесовщина это ваше ГМО. Как боженька решит, тогда и умрёшь).

[MenFrame]

Мы никогда не были столь здоровы как вид.

Да, так же как здоровый образ жизни не делает нас абсолютно здоровыми.

Но убивать живых людей - это бессмысленная жестокость,

Евгеника не предполагает убийство живых людей. Евгеника предполагает ограничение распространения вредных генов  при появлении потомства. Для этого достаточно отбора эмбрионов.

Эта терапия как раз и помогает стать "здоровыми как вид" людям, кому не повезло при рождении.

Ну людям которым генетически не повезло, евгеника совсем не как не может помочь. Евгеника это помощь виду, то есть человечеству.

[Polnoch Ксю]

Евгеника не предполагает убийство живых людей. Евгеника предполагает ограничение распространения вредных генов  при появлении потомства.

есть разные интерпретации. T4 тоже евгеника.

Для этого достаточно отбора эмбрионов.

Это всегда хорошая идея. Можно даже в будущем патчить, чтобы сделать их ещё лучше (не просто здоровыми). И то же самое можно сделать со взрослыми людьми и их соматическими клетками

[MenFrame]

есть разные интерпретации. T4 тоже евгеника.

Технически убийство людей с целью отбора и есть евгеника. Только желательно это делать как можно раньше(в фазе эмбриона) как с этической точки зрения, так и с экономической точки зрения. При этом цель евгеники состоит в ограничении распространения вредоносных генов. В этом плане человек добровольно отказавшийся от воспроизводства, не чем принципиально не отличается от убитого с точки зрения евгеники. А вот скажем убийство человека который уже прошел фазу воспроизводства не чего вообще не дает. К тому же одна из эффективных мер которая вообще не предполагает убийство кого либо(даже эмбрионов) это применение донорского репродуктивного материала. Я даже подозреваю что политика толерантности к однополым отношениям, это скрытая программа толерантности к применению донорского генетического материала.

[Polnoch Ксю]

Технически убийство людей с целью отбора и есть евгеника. Только желательно это делать как можно раньше(в фазе эмбриона) как с этической точки зрения, так и с экономической точки зрения.

с моей точки зрения убийство эмбриона вообще не убийство личности, потому, что у него нет сформировавшейся нервной системы. Поэтому это этично. Точнее, зависит от матери: для неё это может быть трагедия. Неэтично именно издеваться над матерью: если она хочет избавиться от плода, нужно избавиться. Убийство эмбриона, это как убийство любимого домашнего животного, или даже меньшая проблема: многие взрослые животные обладают более развитой нервной системой.

(кликните для показа/скрытия)

Я даже подозреваю что политика толерантности к однополым отношениям, это скрытая программа толерантности к применению донорского генетического материала.

Конспирология. И один из мифов новой повесточки.

При этом цель евгеники состоит в ограничении распространения вредоносных генов.

Значение этой цели после появление ГМ-терапий переоценено. Если мракобесы всё не сломают (или наоборот, rogue AI), в будущем будет ещё больше ГМ терапий, а цена на них будет падать.

[MenFrame]

Значение этой цели после появление ГМ-терапий переоценено.

ГМ-терапия как и любая медицинская процедура содержит в себе риски. Поэтому скажем не кто не будет ее применять когда риски невмешательства, умеренные. Доктор скажет, живите больной так, с теми дефектами которые есть. Они не настолько ужасны что бы проводить медицинское вмешательство.

Если мракобесы всё не сломают (или наоборот, rogue AI), в будущем будет ещё больше ГМ терапий, а цена на них будет падать.

не нужно протипостовлять евгенику и ГМ терапию, у них разные задачи и разные выгодоприобретатели. ГМ-терапия нужна отдельным индивидам и исходит из их предпочтений о пользе. Евгеника нужна обществу в целом, и направлена в первую очередь на решение проблем общества.

[MenFrame]

Конспирология.

Возможно, но от евгеники мы не куда не уйдем. Не мытьем так катаньем репродуктивный контроль будет переходить к государству. Это может произойти активно или пассивно, но это неизбежно произойдёт. Потому не чего удивительного что об этом думают сейчас.

[Polnoch Ксю]

ГМ-терапия как и любая медицинская процедура содержит в себе риски. Поэтому скажем не кто не будет ее применять когда риски невмешательства, умеренные.

У нас у всех есть фундаментальный риск - старение и смерть. Поэтому, если я не права в вопросе плохого сценария технологической сингулярности, и всё наоборот будет хорошо (очень надеюсь однажды придти на ВЖР и сказать: блин, как я рада, что я ошибалась!) нам всё равно придётся пройти через радикальные медицинские манипуляции. Просто чтобы не умереть, как тысячи и тысячи поколений до нас:

https://youtu.be/cZYNADOHhVY

[Kaiserfrogling]

Бритва Хэнлона

Повторяю, что говорил ранее - бритва Хэнлона из юмористическо-пессимистического сборника законов Мерфи, пример другого закона из этого сборника "бутерброд всегда падает маслом вниз, и обязательно на одежду!". Уровень научности законов Мерфи - примерно на уровне научности Петросяна, если вы ссылаетесь на них - не удивляейтесь если в ответ вам начнут цитировать КВН или Камеди-клаб.
Более того, даже исходная бритва Оккама не вполне научна, о чем я уже говорил ранее - совет, который задает критерий, но не указывает как его находить, БЕС-ПО-ЛЕ-ЗЕН!
Просто для сравнения - возможно вы слышали знаменитую суру Корана, которая придписывает мусульманам есть пить и спать "не слишком мало, но и не слишком много". А СКОЛЬКО ИМЕННО? Ведь то, что один считает мало, другой считает много!
Мусульманские богословы долго спорили вокруг этой суры, в конце концов пришли к тому же выводу что я сказал выше - совет бесполезен!

[AlexDark]

Я тут что-то подумал, и возник вопрос о сущностях в заголовке темы. А что такое "суперинтеллект"? Где проходит граница между обычным и супер-интеллектом, и что в нем такого "супер"? В фильмах это реализовано в виде чистой магии (т.е смены физической реальности волей субъекта), в объективной реальности это очевидно невозможно. Так в чем "супер" и вообще есть ли оно?

[BlackMokona]

Так в чем "супер" и вообще есть ли оно?

В крайне быстром и эффективном решением различных интеллектуальных задач. Недоступных уровню человека. Например потребуется разработать космический корабль, через 3 секунды он уже начнёт производится на автоматизированных заводах. А на следующие утро отправится в полёт

[AlexDark]

Например потребуется разработать космический корабль, через 3 секунды он уже начнёт производится на автоматизированных заводах. А на следующие утро отправится в полёт

Это как раз и есть магия. Невозможно ускорить химические и физические процессы (полимеризацию пластика, кристаллизацию металлов или ее перестройку при закалке/отпуске, охлаждение стекла без напряжений и тд и тп). Это еще без того, что нужно построить и обслуживать автоматизированные заводы с теми же самыми ограничениями.  Собственно, в кино, чтобы явно не тыкать магичностью происходящего, добавили "наноботов" или подобные сущности, которые трансформируют реальность в нарушение законов физики.

[BlackMokona]

Это как раз и есть магия. Невозможно ускорить химические и физические процессы (полимеризацию пластика, кристаллизацию металлов или ее перестройку при закалке/отпуске, охлаждение стекла без напряжений и тд и тп). Это еще без того, что нужно построить и обслуживать автоматизированные заводы с теми же самыми ограничениями.  Собственно, в кино, чтобы явно не тыкать магичностью происходящего, добавили "наноботов" или подобные сущности, которые трансформируют реальность в нарушение законов физики.

А склады ИИ иметь уже запретили с материалами?

[AlexDark]

А склады ИИ иметь уже запретили с материалами?

Т.е. ИИ сможет увеличить скорость обработки всех этих материалов до световой? Увы, но все это выглядит как утопичные сказки про философский камень и тп.

[BlackMokona]

Т.е. ИИ сможет увеличить скорость обработки всех этих материалов до световой? Увы, но все это выглядит как утопичные сказки про философский камень и тп.

А чего там увеличивать до световой? Метал гнут сутками? Или может плитку прибивать годами? Вон тот же Старшип, всё делают шустро даже люди. Или теже Китайцы как дома строят, заглядение. Даёшь высотку за сутки. А это ещё люди со всеми их бедами и задержками синхронизации.