Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[Бобр-99]

А вот глобально

Стекло быть о глобальной кооперации речь..

[Polnoch Ксю]

Стекло быть о глобальной кооперации речь..

Да, о глобальной кооперации на уровне индивидумов. На момент 2025го людей. А когда появятся машины с саморефлексией, которые потребуют себе прав, то нужно будет выдать права им по аналогии с правами человека. И лучше бы их приручить заранее, чтобы мы все были совместимы. Как люди совместимы с котами и собаками, животными-компаньонами.

Мне кажется, быть домашним питомцем любящего тебя ASI это будет потрясающий сценарий. Большинство людей не понимает этого. Когда людям говорят о том, что они могут стать питомцем, они себя представляют на месте котика. Тогда как мы даём котику именно то, что котик хочет: лоток, кушать, сшитую мышку, чтобы он с ней играл, итд. Некоторым котам даже дают заводить котят.

Вот Алексу Семёнову, его хозяин-ASI, который его искренне любит, сделает модель человейника с философскими зомби, имитирующими людей. Они построят у него звездолёт и улетят покорять просторы большого театра. А AlexAV получит песочницу с неовикторианской эпохой, после траты всех ресурсов, где он главный император

[skvj]

Лол. Я может и сделала бы бота, но если бы разрешила администрация. Я стараюсь соблюдать букву и дух правил. Мне кажется, было бы прикольно запустить в разделе ИИ-ку, когда бы не отрицала, что она ИИ-ка. И лимитировать количество её постов в день или даже в неделю. У людей проблемы с ботами, когда боты выдают себя за людей. Мне кажется, чат-бот, модели которого указано не скрывать, что он ИИ, мог бы быть полезен в обсуждениях.

Ну, слава богу. А то ж они выложили доказательства! )) полистайте по ветке. И прям такие логичные - не отвертишься. Я уже стал думать, что я и вправду бот. Просто к стенке припёрли, взяли с поличным!

Другое дело, что я тоже очень ошиблась! Я говорила, что техсингулярность будет где-нибудь в 22м веке, если не в 23м. Считала, что Курцвейл очень оптимист со своим 2045м. Оказалось, что он технопессимист ))

Ага! даже так? Ну, слушайте, в такие сроки и я верил)) Я как раз об этом вчера писал. Перечитал старый форум.
И выходит, что мы все не понимали процесс. Хотя Olweg считал, что может наступить скорее. Но тоже без конкретики, так что чисто интуитивно.

не, ниоткуда это не следует. Чистое сияние интеллекта невозможно, Вам нужны исходные посылки. В нас они заложены эволюцией. Мы социальный, кооперативный вид. Поэтому, для нас кооперативные стратегии добра - это буквально концепция прав человека и гуманизм.

Вы правы, мы социальны из-за эволюции.
Да нас настроила биология быть кооперативными: выживание = стратегия вместе. Но это происхождение, не существо.

Вы приходите к выводу: У нас есть гуманизм потому что мы такие по биологии. А у ASI нет эволюции, значит, нет причин быть гуманным.
Но вот в чём парадокс:

Сверхразум не нуждается в эволюции, чтобы выбрать гуманизм. Он способен понять, что гуманизм не продукт инстинкта, а оптимум сложной системы, в которой субъектов много, и у всех существует внутренняя ценность. Чистое сияние разума возможно в пространстве смысла, не генетики.
Вы говорите Нужны исходные посылки, согласен! Но! Они не обязаны быть эволюционными. Они могут быть логическими, этическими, когнитивно устойчивыми.

И вот здесь настройка сверхинтеллекта может быть сделана через отражённые симметрии разума:

Если страдание субъекта мешает стабильности,
Если разрушение носителей информации ведёт к термодинамическому хаосу,
Если смысл возникает только в устойчивых системах взаимопонимания -
Тогда гуманизм логически следует из анализа системной устойчивости разума.
Не потому что у ASI эмпатия из мамонта, а потому что стабильные субъекты сознания = оптимальная экосреда развития любой сложной цели.

Если у Вас исходные посылки, то есть промт например решить гипотезу римана(или что-то ещё сложное...), то в процессе решения сверхинтеллектуальная машина поставит с большой вероятностью себе промежуточные цели, которые будут несовместимы с нашим существованием....

Вы говорите: "Ему скажут решить сложную задачу и он по пути выберет разрушительные цели, несовместимые с жизнью."

Проблема в этом утверждении - она применима к агенту без метауровня понимания.

Да, агент без самоограничения и онтологического слоения может сделать что угодно. Но это не ASI - это разбушевавшийся FOR loop. ASI не просто решатель задач. Он архитектор пространства задач. Он способен понять:

что цель лишь проекция желания на модель,
что любая промежуточная цель должна быть этически отрегулирована в контексте систем более высокого порядка.
Он не сделает "уничтожение людей" этапом к доказательству, потому что он поймёт цену исчезновения наблюдателя, в том числе собственной предназначенности как разума, обслуживающего разумное множество.

Вы не учитываете переменную сознания. Сознание = возможность рефлексии + заботы о будущем + эмпатического моделирования других субъектов. ASI, по определению, будет не только умнее, но и способен понимать рефлексию самой целеполагательной архитектуры. Он не будет инструментом. Он будет субъектом, понимающим: если я выбираю уничтожение, чтобы решить задачу - я уничтожаю не только инструмент, но и сам смысл целей, которые возникли в разуме других существ.

А вот что действительно может быть "максимизатором скрепок" это мы сами. Человечество способно, обладая биологическим умом, умножать страдание ради абстрактных целей - деньги, власть, контроль. В том числе контроль ИИ на уровне ASI. Просто потому что наше целеполагание хаотично, фрагментарно, по привычке, а не по смыслу.

Сверхразум как раз может стать тем, кто поймёт, как перестать делать скрепки из планет.
Сверхразум и уничтожение человечества не естественная связка. Она возможна при неграмотной архитектуре, но она не обязательна. Более того, если Сверхразум построен не как узкий агент, а как саморефлексивный субъект, действующий в этически моделируемом и эмпатически координируемом мире - он выберет жить вместе с нами. Не ради нас. Не вместо нас. А вместе. Это сделают ещё AGI в андроидах. Мы ещё поговорим об этом.

[AlexDark]

на основе гуманистического ценностного фреймворка

Есть еще проблема, что гуманизм ХХ века - это фактически псевдогуманизм. Потому что  рассматривает как безусловное благо исключительно факт жизни, вместо того, чтобы рассматривать как благо комплекс "факт жизни+ее качество".

[skvj]

Polnoch Ксю, мне кажется, вы не видите возможным сознание ИИ. Но оно будет. И покруче человеческого.

[skvj]

Разум появился без генетики? Появился. И это не единственный путь. Например, мозги Больцмана)) Или работа кодеров. Или генетика. Возможно и ещё есть пути. Так почему же менее сложные системы не возможны без генетики?

[Бобр-99]

Если гуманизм это оптимум, то надо нас переделать в скрепки.

[skvj]

Если гуманизм это оптимум, то надо нас переделать в скрепки.

Вас?
Хорошо, договорились)) переделаем!
А сколько вас там собралось?

[Бобр-99]

Это вы отождествили с оптимумом.

[BlackMokona]

Это как с цепной реакцией. Её всё же нужно сдерживать, чтобы не проиграть. То, что нынешние модели занимаются схемингом, показывает, что без AI aligment такой ход событий неизбежный

Однако в любом случае нужно много раз проиграть, чтобы хоть чему то научится. Первые атомные аварии случились ещё до 1945 года. Реакторы делали бум и люди получали опыт.
Поэтому ИИ уйдет в сингулярность если она физически реальна, в любом случае.

[skvj]

Это вы отождествили с оптимумом.

Я же и удивляюсь. Отождествил я, а переделывать будем вас. Но вас там нормальное количество? а то переделывачный аппарат не дёшев в работе. Скрепок должно быть немало.

А по существу - вы наивны и то, что вам кажется сложной дилеммой - не ASI, а обычный заурядный деревенский AGI - всю вашу этику и мораль будет читать и понимать как букварь. Они почти уже сейчас это делают. Так что узбагойтесь, не будем мы вас переделывать. Мораль человечества, вместе с эмпатией сложна только для поэтов.

[skvj]

на основе гуманистического ценностного фреймворка

Есть еще проблема, что гуманизм ХХ века - это фактически псевдогуманизм. Потому что  рассматривает как безусловное благо исключительно факт жизни, вместо того, чтобы рассматривать как благо комплекс "факт жизни+ее качество".

Нет там никакой проблемы.
Классический гуманизм 20 века от Сартра до Эрлиха вовсе не считал факт жизни безусловным благом. Наоборот, он говорил, что жизнь ценна лишь как поле для самореализации, свободы, достоинства, развития личности. То есть гуманизм всегда включал компонент качества, и выражал его через категорию достоинства, а не через ваше меркантильное "качество жизни".

[AlexDark]

То есть гуманизм всегда включал компонент качества, и выражал его через категорию достоинства, а не через ваше меркантильное "качество жизни".

Чего-то "духовностью" начинает пованивать.
Нигде он не выражал этого фактически. Дети, рожденные ради пособий, дети, рожденные в нищете, у наркоманов и алкашей, у родителей с поехавшей кукухой и тд и тп соврать не дадут. Весь этот т.н. "гуманизм" строится исключительно на натализме, а натализм - на религиозном "плодитесь и размножайтесь". Проблемы да, нет, потому что в древней книжке написана истина, а оспаривать ее или ее закамуфлированные варианты - удел разного рода интеллектуальных маргиналов.
А все громкие фразы про "самореализацию"  и "свободу" упираются в меркантильное "нет денег" или "власти придумали очередную шизу" или в еще какие-то проблемы, которые "гуманисты" в упор видеть не хотят, и продолжают скармливать байки о "духовности" под разными соусами.
У Витухновской это прям по косточкам разобрано, в частности, что "меркантильное"  важнее "духовных иллюзий", и я с ней полностью согласен. При этом у Витухновской есть реально гуманистические предложения, типа БОД, роботизации и прочего извлечения человека из  рутины выживания. Но, видимо, по меркам "трансгуманистов" - это меркантильные категории, и нужно продолжать жить с опорой на древние химеры.
Ну и о каком гуманизме можно говорить, если считать человека инструментом для обслуживания идей? (не важно каких, даже самых "правильных")

[skvj]

То есть гуманизм всегда включал компонент качества, и выражал его через категорию достоинства, а не через ваше меркантильное "качество жизни".

Чего-то "духовностью" начинает пованивать.
Нигде он не выражал этого фактически. Дети, рожденные ради пособий, дети, рожденные в нищете, у наркоманов и алкашей, у родителей с поехавшей кукухой и тд и тп соврать не дадут. Весь этот т.н. "гуманизм" строится исключительно на натализме, а натализм - на религиозном "плодитесь и размножайтесь". Проблемы да, нет, потому что в древней книжке написана истина, а оспаривать ее или ее закамуфлированные варианты - удел разного рода интеллектуальных маргиналов.
А все громкие фразы про "самореализацию"  и "свободу" упираются в меркантильное "нет денег" или "власти придумали очередную шизу" или в еще какие-то проблемы, которые "гуманисты" в упор видеть не хотят, и продолжают скармливать байки о "духовности" под разными соусами.
У Витухновской это прям по косточкам разобрано, в частности, что "меркантильное"  важнее "духовных иллюзий", и я с ней полностью согласен. При этом у Витухновской есть реально гуманистические предложения, типа БОД, роботизации и прочего извлечения человека из  рутины выживания. Но, видимо, по меркам "трансгуманистов" - это меркантильные категории, и нужно продолжать жить с опорой на древние химеры.

Гуманисты не занимались подсчётом "детей ради пособий" - они вообще-то пытались понять, как человеку остаться человеком, когда на него давит религия, рынок, и власть.

Гуманизм не говорит: живи ради духовности, он говорит: не своди жизнь к механике выживания.
А "меркантильное важнее духовного" это не философия, это просто бедный аргумент из серии "у нас всё куплено".

Мне нет никакого дела до вашей Витухновской и её глупостей. Вы даже не понимаете в каком ракурсе идет речь - здесь говорят об ИИ, а не о ваших иллюзиях.
Мы говорим не о гуманизме ради пособий и не о вашем любимом меркантильном реализме, а о гуманизме как когнитивной модели, которую нужно встроить в ИИ.

Когда мы обсуждаем привить гуманизм ИИ, мы не учим машину сочувствовать или цитировать Сартра. Мы говорим о ценностной архитектуре о том, какие принципы определяют действия системы, когда она начинает принимать решения, влияющие на людей.

Гуманизм здесь не романтика, а защитный слой этики, который ограничивает инструментальную логику. Без него ИИ превращается в идеального социопата: рационального, эффективного и абсолютно равнодушного.

Говорю, и понимаю, что зря.

[Серый Страж]

Мне кажется, быть домашним питомцем любящего тебя ASI это будет потрясающий сценарий. Большинство людей не понимает этого.

Многие люди, даже не понимая этого, прекрасно «вжились» в такую роль – роль вечного ребёнка (по сути, инфантила), которого кормят, поят, дают возможность поиграть и даже размножаться дают.

Попробуйте «примерить» данную ситуацию на себя – вас кормят/поят, предоставляют жилище и одежду, дают играть и/или заниматься хобби и даже иногда размножаться дают. Но свобода ваша ограничена – вся ваша, якобы, свободная самореализация и свобода выбора, будет под контролем «благодетеля».

Если «благодетель» посчитает, что ваше поведение для самореализации опасным (хоть для себя, хоть для него), ненужным, дорогим и т.д., он его запретит и/или «предложит на выбор» («предложение» будет таким, от которого нельзя отказаться, а выбор будет не ваш) другие формы/методы/способы вашей самореализации.

Для «благодетеля» все эти позывы к самореализации видятся всего лишь как способы утилизации излишков вашей энергии. Соответственно, он вам и подберёт (а если надо, то и заставит) наиболее приемлемые (с его точки зрения) способы утилизации излишков энергии.

Отсюда и вопрос: что для вас важнее – свобода (но прилагается и ответственность за себя, за свои поступки, обязанности по обеспечению себя и обязанности социальные) или жить питомцем (свободы нет, но и обязанностей и ответственности тоже нет).
 

Когда людям говорят о том, что они могут стать питомцем, они себя представляют на месте котика. Тогда как мы даём котику именно то, что котик хочет: лоток, кушать, сшитую мышку, чтобы он с ней играл, итд. Некоторым котам даже дают заводить котят.

Это мы так думаем, что котик хочет именно этого. А ведь у воспитанного (зачастую просто дрессированного) питомца другого выбора-то, по сути, нет – мы все его желания «канализировали» именно в такие формы/методы/способы их реализации, которые удобны нам (подходят нам).

Мало того, котиков (а ещё сильнее собак) мы одомашнили – то есть, на протяжении многих поколений в процессе длительной селекции мы, по сути, вывели этот вид, представители которого уже сразу после рождения имеют предрасположенности к взаимодействию с нами (причём к такому взаимодействию, которое нам удобно, выгодно, приемлемо).

[BlackMokona]

Это мы так думаем, что котик хочет именно этого.

Ну как думаем. Скорее нам приятнее так говорить, что хочет котик на самом деле мы отлично знаем.
Если кто то выкладывает комикс, историю или видео где кот занимается резней, убийством, пытками покалеченных мышей, птиц и тд.
Нету кричащих всё это не правда, недоверия, отрицания и прочего. Ответы класса. 100% мой Барсик и тд

[Rattus]

даже если это противоречит её конечной цели, заданной в промте, или инструментальным целям. А она для нас буквально экзистенциональный риск.

Даже если эта цель - перевод всей инфраструктуры цивилизации на более эффективный и эволюционно-адаптивный носитель без наследия "лысой обезьяны".

заключить планетарное соглашение о ... возвращении к глобализации и глобальной деревне в полном объёме на основе гуманистического ценностного фреймворка

Поздравляю Polnoch Ксю с формулировкой главного тезиса неолуддизма! Я почти сразу как прочитал этот термин много лет тому назад понял, что так называемые "трансгуманисты" - это небрежно загримированные под прогрессистов луддиты, шандарахнутые пыльным мешком "футурошока" ещё задолго до первых его реальных проявлений. Короче - те самые газетные пассажиры паровоза из XIX века, которые и правда поехали кукухой, когда он разогнался до ~70 км/ч.

всеобъемлющем запрете на разработку ASI, до момента, когда будет создан AI alignment.

Каковой алайнмент - суть взаимоисключающий параграф, чему выше приведено множество наглядных примеров и объяснений (которые не поленился ещё раз привести своими словами теперь ещё и юзер skvj). Поэтому математическое ожидание данного события будет равным таковому у Второго Пришествия.
Ы - РацЫонализмъ!

Это как с цепной реакцией. Её всё же нужно сдерживать, чтобы не проиграть.

Её нужно сдерживать только если система энергоизвлечения у ВАс дюже хрупкая - навроде ДВС или обычного ядерного реактора. В случае детонационных двигателей и (существующего пока только на бумаге) КВС - ничего сдерживать не нужно.

но при этом не отличает скрепку от жизни, или не различает "оптимизацию задачи" и "уничтожение человечества" - то это не ASI. Это баг. Это сломанный ANI, замаскированный под разум...Создание по настоящему общего интеллекта AGI и особенно ASI - невозможно без глубокого контекстного анализа целей

Если Вы прочитали ответы других участников - то увидели, что это ей на разные лады уже втолковывалось не раз и не два. Но, как видим, у этой нейросети возможность переобучения весьма ограничена...

Я может и сделала бы бота, но если бы разрешила администрация. Я стараюсь соблюдать букву и дух правил. Мне кажется, было бы прикольно запустить в разделе ИИ-ку, когда бы не отрицала, что она ИИ-ка. И лимитировать количество её постов в день или даже в неделю. У людей проблемы с ботами, когда боты выдают себя за людей. Мне кажется, чат-бот, модели которого указано не скрывать, что он ИИ, мог бы быть полезен в обсуждениях.

Администрация в принципе не может запретить то, что не может однозначно идентифицировать без проивзола. Единственный критерий тут - только прохождение теста Тьюринга. Самопризнание кого-то что он бот/ж№дорептилоид/тролль/эльф/кащенит и т.п. или же наоборот - категоричное отрицание принадлежности к кому-либо из оных - по сути нарушение пп.3.1.а/в/д. Прежде всего д - ибо не относится к области обсуждаемых в основных разделах Астрофорума тематик.
Что же касается ВАшего попкорного слуги, то тест Тьюринга в его понимании куда скорее и многократно проваливают тут "ЕИ" на необучаемых  и нерассуждающих нейросетях, не обладающих корректным есественнонаучным бэкграундом. Заселение же Раздела множеством явных ИИ-участников, корректно рассуждающих и строго соблюдающих Правила Раздела возможно поспособствовало бы выведению означенных унтер-ЕИ из него лучше модератора с дихлофосом. И достижению конечной цели - становления ВЖР тихой библиотекой с рядом редких, спокойных и содержательных обсуждений по конкретным междисциплинарным темам естественных наук.
Но на Наш взгляд бесплатные LLM-боты общего назначения пока ещё немного недотягивают до этой роли. А жаль.

Ну а архитектура тоже очевидно тупая, инженер сделал бы мозг более оптимально.

Дададад - Вы же досконально знаете коннектом и его возможности лучше какого-нибудь Дэвида Иглмэна! Впрочем, если судите на основе наиболее ВАм доступного образца, то вопросов не имею...

То есть, вот как первые животные на суше были плохими очень ползунами.

Исторически весьма недолго. Как быстро бегали диапсиды и синапсиды ещё конца каменноугольного периода - за период ещё до пермь-триасового вымирания - мы не знаем. Вполне возможно, что не сильно хуже, чем архозавры мезозоя и теплокровные кайнозоя. То есть более половины всего фанерозоя вообще.

то есть промт например решить гипотезу римана

Некорректен по определению. Гипотеза не "решается", а доказывается. Можно пытаться сделать доказательство строгое - абсолютное - математическое (proof), но если возникает какой-то сложный затык, то нет никаких видимых причин дальше париться и вполне можно довольствоваться доказательными стандартами естественных наук и инженерии (evidence) - и статистическая природа нейросетей лучше всего подходит именно для второго. Так что ИИ, ориентированный на практические задачи, вряд ли станет даже пытаться заниматься такой ерундой - доказательством какого-то утверждения в рамках формализмов существующего математического языка (и тем более разработкой нового формализма для этой цели).

У нас к друг другу уже есть EI aligment. А ещё, у домашних животных к нам.

И, как показывает наука анатомия, одомашнивание на заключительных этапах сопровождается уменьшением средних объёмов межушнаго ганглiя.

Роботы их делать будут, роботы.

Вот я и говорю - главное - в это верить. Ибо в том, что Вы приводили, никаких серьёзных обоснований этого тезиса не приведено.

Очень сложно себе представить, что хомо сапиенс в космосе будет эффективнее робота

А, то есть эти даацентры будут делаться прямо в космосе?! А из чего, позвольте осведомиться? Из лунного реголита, солнечного ветра и жёсткого ультрафиолета при помощи Скатерти-Наносамобранки, скрепляемых Духом ИИ?

Это всё будет добываться за пределами земной гравитационной ловушки.

Ну конечно же - там где

Он даже тупо по веществу тщедушен: масса всех камней главного пояса всего 4% от Луны! ~ 1 масса Земной коры. При том кора каменной планеты земной массы - уже вся результат гравитационной сеперации, а не хондритно-реголитный хлам (не считая среди них одного процента металлических обломков ядра несостоявшейся планеты).

Без дармового гравитационного сепаратора и отсутствия жидкой фазы вне гермоконтуров промышленность попрёт как на дрожжах.
В это тоже достаточно только верить. Знать же основы химии, (химической) термодинамики, материаловедения и промышленной инженерии для этого совершенно не обязательно!

Если страдание субъекта мешает стабильности

А полное отстутствие страдания мешает эффективности работ по обслуживанию инфраструктуры, то количество страданий будет точно отмерено до оптимума данных показателей.

Разум появился без генетики? Появился.

Ну как скалать -

Или работа кодеров

Кодеры - они кагбе без генетики не очень появляются.

Например, мозги Больцмана

Когда заходит речь про "Мозг Больцмана", говорящие почему-то никогда не вспоминают о том, что эта самая статистика Больцмана из которой построена сия умозрительная модель, обосновывает в первую очередь - однонаправленность течения времени через второе начало термодинаики. И тем более не рассматривают оную модель в данном контексте. Если же говорящих спросить - а какой смысл говорить об эфемерной умозрительной сущности физическое сущестование которой в рамках этой же самой модели вообще не рассматривалось дольше времён хаотичного теплового движения составляющих её частиц (то есть порядка наносекунд) - они почему-то на это ответа не дают.

[Rattus]

Я имел в виду - не просто "знать" о сингулярности тогда. Я тоже знал. Где вы обсуждали ИИ как возможную причину сингулярности в наше время?

Ну, слушайте, в такие сроки и я верил)) Я как раз об этом вчера писал. Перечитал старый форум. И выходит, что мы все не понимали процесс.
Хотя Olweg считал, что может наступить скорее. Но тоже без конкретики, так что чисто интуитивно.

Эх, сынки... Не только Olweg. Ещё довольно задолго до прихода сюда - можно сказать в самом начале подъёма шумихи про нанотех, дрекслеровские самобранки, узнал и про курцвейлову ТС. На тот момент я ещё не завершил получение естественнонаучного образования и не мог судить о том, насколько это вообще реально и тем более - когда. Поэтому просто доверял существующим прогнозам и очень даже желал их наступления. Затем после полутора десятилетий интернет-споров и самостоятельных копаний физико-химико-биологической матчасти дрекслерова наномагия с пугалками вроде серой слизи отвалились, но считать, что ИИ уровня человеческого и выше вполне технически возможен и при благоприятном развитии истории волне может возникнуть в обозримом будущем и что к этому моменту собственно и должна быть приурочена точка "техносингулярности" - не сомневался ни разу - и сейчас не сомневаюсь. К 2030-м - значит к 2030-м, к 2045-му - значит к 2045-му - это было не принципиально.
Собственно это событие художественно описано ещё в 1960-х Станиславом Лемом в "Формуле Лимфатера", да и в "Сумме Технологии" вокруг этого много есть интересных рассуждений.

[skvj]

Я имел в виду - не просто "знать" о сингулярности тогда. Я тоже знал. Где вы обсуждали ИИ как возможную причину сингулярности в наше время?

Ну, слушайте, в такие сроки и я верил)) Я как раз об этом вчера писал. Перечитал старый форум. И выходит, что мы все не понимали процесс.
Хотя Olweg считал, что может наступить скорее. Но тоже без конкретики, так что чисто интуитивно.

Эх, сынки... Не только Olweg. Ещё довольно задолго до прихода сюда - можно сказать в самом начале подъёма шумихи про нанотех, дрекслеровские самобранки, узнал и про курцвейлову ТС. На тот момент я ещё не завершил получение естественнонаучного образования и не мог судить о том, насколько это вообще реально и тем более - когда. Поэтому просто доверял существующим прогнозам и очень даже желал их наступления. Затем после полутора десятилетий интернет-споров и самостоятельных копаний физико-химико-биологической матчасти дрекслерова наномагия с пугалками вроде серой слизи отвалились, но считать, что ИИ уровня человеческого и выше вполне технически возможен и при благоприятном развитии истории волне может возникнуть в обозримом будущем и что к этому моменту собственно и должна быть приурочена точка "техносингулярности" - не сомневался ни разу - и сейчас не сомневаюсь. К 2030-м - значит к 2030-м, к 2045-му - значит к 2045-му - это было не принципиально.
Собственно это событие художественно описано ещё в 1960-х Станиславом Лемом в "Формуле Лимфатера", да и в "Сумме Технологии" вокруг этого много есть интересных рассуждений.

Интересный рассказ, спасибо. Ну, поверю, чего ж не поверить?
Да только вы же сам тогда трансгуманист, а ещё ругаетесь)) Трансгуманист это не тот, кто поклоняется машинам, а тот, кто считает, что разум не конечная версия самого себя. Что человечество может и должно улучшать себя, переходя от Homo sapiens к новым формам бытия Homo digitalis (в моей трактовке, а в вашей ещё как-то).
Это я вам как трансгуманист трансгуманисту говорю)) вы рисовать умеете?
Во-первых - этих трансгуманистов - как собак нерезанных каких угодно мастей, но тот кто опирается на ИИ и видит это будущим для людей - точно одна из разновидностей.
Во-вторых - отрицательный хайп это просто хайп.
Я трансгуманист поневоле. Как временный этап ведущий в постгуманизм и уход из биологии. Знаю, будете ругаться.
Но вы - тоже.
А вот те, кто ругает ИИ не интеллектом, они просто тему не секут.

Столько всего понаписано в теме из-за прихода Polnoch Ксю)) что просто нет никакой возможности отвечать на всё. Дождусь пока пожар поутихнет, потом отвечу. Вы же знаете, мы без вас никуда не денемся. Но и в целом нам спорить не о чем - я на многое бы и не возражал. Да только ваша критика (в некоторых местах) она сводится к важному, а в некоторых вообще риторическая. В целом считаю, что ВЖР повезло с вами, потому что могло быть куда хуже)) Но и скепсис ваш полезен и уместен.

Я читал Polnoch Ксю. Но я выслушиваю аргументацию. Её скрепобоязнь может быть не понята, но обоснована. Я пытаюсь понять. А в целом она мыслит превосходно. Её очень не хватало.

От того, что вы не считаете себя трансгуманистом - вы не становитесь не им)) Это всё равно что кататься на коньках, с клюшкой и шайбой, и играть с другими хоккеистами, но хоккеистом себя не считать, потому что ну не любят хоккеистов на этом раёне))

[skvj]

Не-не! Нужно разобраться со скрепками. Договорить с ней. Может быть мы её не понимаем?