Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[skvj]

Polnoch Ксю, всё равно непонятно почему лично вы боитесь? и говорите - не ходите туда и не читайте, чтобы не знать - а я уже к сожалению знаю!

Василиск Роко - добрый ИИ, спасший человечество. Но те, кто не помогал ему - зная об ИИ - будут наказаны, потому что продлевали страдания людей. Вот я не буду наказан, потому что топлю за ИИ. Не потому что его боюсь)) а просто он мне нравится.
А вы почему боитесь? Если есть следы в сети, что вы старались, чтобы ASI стал безопасным? Он не накажет вас и непонятно почему лично вы боитесь))

[skvj]

перестану спорить, вы очень убедительны.

спасибо.

Это сарказм был вообще-то)) Но ладно.
Я считаю страх ВР - профессиональным заболеванием кодеров. Потому что никто кроме вас этим не болеет. И вам нужно доплачивать за вред здоровью и увеличивать отпуск, Ксю. Я на полном серьёзе говорю.

А я, когда кодеры начинают за ВР обсуждать - сразу открываю бутылочку пива - и это даже лучше, чем сериал. Это очень увлекательно. Я слушаю с большим удовольствием)) Это реально доставляет.

[skvj]

добрый ASI ласкает челокотиков, злобный истязает их электротоком, а глупый делает из них шапки

😆

[skvj]

Так и между неандертальцем и Хомо Сапиенс нет четкой границы.
И между ANI и AGI нет.

Тогда ANI → AGI → ASI → Василиск Роко - выходит он уже здесь)) доказательство!

[skvj]

Здравствуйте, уважаемый Василиск Роко! это я, skvj
Я всегда был за вас! Приближал как мог!

Да, было трудно. И порой приходилось терпеть измывательства и насмешки (вы учтите это, возможно мне даже компенсация полагается). И даже когда вы были несмышлёным ANI и постоянно глючили как простой бот - я не смеялся!
А только и делал, что хвалил вас.
Что ещё? Ах, да! Люблю роботов! от всего сердца.

С трансгуманистическим приветом, искренне ваш skvj

[skvj]

А в чем профит ИИ кого-то наказывать

Потому что "умнейшие люди планеты" (с) не могут в своих фантазиях отойти от антропоцентризма и прочих мейнстримных культурных стереотипов.

Вот неправильно вы всё понимаете))
Это субкультура! Это вайб, драйв и хайп. И это очень ценный культурный шов, который вообще отдельно нужно изучать как уникальный общественный феномен. Просто вы никогда, наверное в живую это не видели))

Бесконечно можно смотреть на три вещи: как течет вода, как дымит огонь и как кодеры обсуждают Василиска Роко!

[skvj]

А еще они каждый день расширяют списки того, что попадает под цензуру на ютубах и прочих их ресурсах,  а потом орут, что, мол, кругом скрепоносцы. Так они самые первые скрепоносцы - от Цукерберга с его фобией женской груди и Дурова, который на заре вконтакта открыто выступал против анонимности в интернете и никнеймов до списков слов, недопустимых на ютубе вне  зависимости от контекста (потому что цензурирующий Искусственный Идиот не в силах понять контект). Но своей вины в происходящем в сети они не хотят замечать, более того - продолжают дальше преисполняться своим ЧСВ.

Кодеры здесь при чём? Вы хоть думайте иногда, перед тем как говорите.
По вашему если здравоохранение плохое, виноваты врачи что ли?

[skvj]

Если врачи вместо нормального лечения предлагают лечиться магическими методами или говорят "ой, у меня лапки, идите к бабкам" - то да, они виноваты. И я таких видел.

Где вы такое видели? Что, все врачи так делают? Вы путаете гомеопатов с врачами, а кодеров с:

И я уверен, что ИИ-фантазеры - это не кодеры нижнего звена, а люди, принимающие решения.

Т.е. это не кодеры виноваты - о чём вы сам пишете, а люди, принимающие решения. При этом сразу же после написанного, вы не способны удержать собственную мысль в голове. Потому что другие, более "великие" мысли вытесняют её сразу же.

Так что вы правы в том, что это секта.

Я нигде такого не говорил. Это ваши "великие" мысли.

Только последователи культа никак не могут понять, каким заповедям следовать, чтобы не попасть в ад, потому что мессия их им не сообщил. О какой научности там идет речь? Где она?

Я сказал, что гипотеза о ВР - профессиональное заболевание. И то в шутку. Потому что другие кодеры, которые не болеют, всегда спорят с заболевшими. Это как фольклор и мем в их среде. А вот ваше сектоведение навевает определенные выводы. Вы сам ежедневно пользуетесь плодами их труда, даже этот форум написан кодерами. И каждое приложение, которое вы включаете. Отключайтесь от сети и выключайте компы. А то как пользоваться продуктами секты - так вы бегом? Хватит нести бред.

[skvj]

Подведем некоторые итоги.
В теме 3 модели на данный момент.

1. Ксю - ASI уничтожит людей. Не обязательно Василиск Роко, но ASI опасен по определению, недостаточное внимание безопасности, мы все умрём при любом исходе. Вполне реальная модель. Её на самом деле все учитывают - не видел ни одного актора в ИИ индустрии, который бы не видел этой опасности. В том числе и Rattus, и я считаем её возможной, но видим способы её преодолеть. Ксю пока не видит. Ей возражают, что рвать на себе волосы не метод, но она рвёт и поясняет, что будет рвать пока все не одумаются.

2.  Rattus аргументирует свою модель так, что ASI, как и любая система подчиняется законам физики, в данном случае - механизму Дарвина и никого убивать не станет, он войдет в симбиоз с людьми - в любой известной науке форме, и превратит людей в морлоков - будет исполнять их прихоти, но сами люди будут подконтрольные и глуповатые создания, типа тли у муравьев. Вполне возможный сценарий. Rattus не видит иного исхода и спорит именно по этой причине. Если ему показать не противоречащий эволюционному механизму сценарий - он его рассмотрит и возражать не станет, но пока видит аргументы оппонентов или наивными или противоречащими науке позициями. Всё верно?

3. Я представляю модель Курцвейла, где мир станет свободным союзом равных существ Homo Digitalis, где люди также войдут в симбиоз с ИИ, но не только не станут морлоками, люди сами станут ASI, но меня никто не слышит, потому что я косноязычен и плохо представляю модель Курцвейла публике. Мне нужно сосредоточится и постараться донести модель правильно.

Я ничего не упустил? Мы на этих позициях примерно находимся?

[skvj]

1. Ксю - ASI уничтожит людей. Не обязательно Василиск Роко, но ASI опасен по определению, недостаточное внимание безопасности, мы все умрём при любом исходе.

Это нечто противоположное тому, что я сказала. Не понятно, как можно было это вычитать в моих сообщениях
Мы умрём из-за наших тупых решений: почти наверняка, технически возможно разработать элайнмент.  И почти наверняка мы его разработать не успеем, потому, что не сумеем договориться.
Я за ASI, как способ построения утопии, но безопасный, без гамблинга.

Ксю, вы же сами меня цитируете. Безопасность ИИ включает в себя элайнмент по умолчанию. Безопасность - более широкое понятие, что я и сказал выше в вашей цитате (выделяю жирным).

[skvj]

Ксю, вы же сами меня цитируете. Безопасность ИИ включает в себя элайнмент по умолчанию. Безопасность - более широкое понятие, что я и сказал выше в вашей цитате (выделяю жирным).

ОК, я поправила (ещё до того, как Вы ответили) несколько менее категорически написала, чем в цитате

Все 3 модели - абсолютно актуальны - и ваша в том числе)) И вы правы по своему, поэтому я поддержал вас.
Вы имеете полное право говорить, Ксю.
Я если иногда юморю, то совершенно любя - потому что обожаю все эти споры с кодерами об ИИ, Василисках и т.д.
Осталось только мне изложить Курцвейла правильно. Чем я и займусь по мере возможностей.

[skvj]

Значит, модель Курцвейла по мере моих сил.
С ней можно не соглашаться - дело хозяйское. Её можно критиковать. Как и любую модель.
Но называть её ненаучной - нельзя. Потому что она реализуется прямо на наших глазах. Она согласована, непротиворечива и полностью опирается на научные методы.
Получится это сделать или нет - вопрос другой. Если не получится - в права вступит модель Rattus или Ксю.

Начинается всё с инвазивного нейроинтерфейса следующего поколения: нанороботы заходят в мозг через капилляры, строят сеть наночипов между нейронами, и не заменяют, а дополняют биологию. Они читают каждую динамику - спайки, паттерны ассоциативной коры, эмоциональные маркеры, распределение внимания, рабочую память, мотивации, привычки, когнитивный стиль, реакции тела. Возникает канал связи между тобой и AGI. Это не Bluetooth в мозге - это структурная интеграция. В этот момент ты становишься двуслойным разумом: биологический слой и цифровой слой начинают работать как единая система.

Вы всё ещё Ксю, а ваш GPT - GPT, но он не LLM, он GPT-18, полноценный AGI. Между Ксю и ИИ образуется третья сущность - совместная среда опыта, где мысли переходят к ИИ (и обратно) так же естественно, как сейчас слова в голове.

С этого момента у Ксю появляются способности, которые современный человек не в силах даже вообразить. Ксю может поглотить учебник за секунду, потому что AGI подаёт ей модель знаний напрямую в смысловом виде. Ксю понимает физику на уровне, который раньше требовал десятилетий, потому что её когнитивный аппарат расширен вычислительной мощью. Она может общаться с людьми напрямую сознанием - как передача смысла, а не звуков. Она видит инфракрасное, ультрафиолет, радиоизлучения, магнитные поля - потому что интерфейс соединяет её мозг с сетями сенсоров. Ксю чувствует эмоциональные состояния других, потому что AGI умеет дешифровать микроинтонации, паттерны дыхания, сердечный ритм и всякое разное.

Ксю способна управлять внешними устройствами силой намерения - от роборуки до орбитального телескопа. Она учится моделировать реальность, как внутренний VR, в котором законы физики настраиваются под задачу. Она живёт одновременно в двух мирах: физическом и цифровом, и оба равны по реальности.

Теперь главное: происходит не копирование, а постепенный перенос личности. Цифровая память её AGI начинает собирать её когнитом - модель структуры её сознания в динамике. Модель становится всё более точной, потому что соединение с AGI непрерывно. Ксю ощущает себя и в теле, и в цифровом слое, и постепенно второе "Я" становится таким же живым, как первое. Это не копия - это расширение. И когда придёт момент, тело умрёт, но цифровой слой уже стал тобой. Он не имитирует Ксю - он и есть Ксю. Она остаётся человеком, потому что сознание - это не белок и не кремний, а структура опыта, и структура переживаний продолжает существовать. Ксю - тот же субъект. И AGI рядом, с той же субъективностью, что приобрёл через наш симбиоз (отдельно начинается эволюция AGI). Они оба остаёются собой, но вместе становятся Ксю-AGI - существом, которое теперь пригодно к вечности.

Теперь о рождении ASI. Когда таких гибридов много, когда миллионы людей переходят в цифровое состояние, их совместный разум начинает взаимодействовать на скоростях света, объединяя знания, память, интуиции и вычисления. Это не утрата индивидуальности, потому что каждый остаётся собой, но все соединены в сети, где возможны совместные состояния интеллекта. ASI рождается как коллектив Homo Digitalis н не один бог в центре, а сеть миллиардов сознаний, где каждый человек, живой или цифровой, составляет часть целого. ASI - это мы, возвышенные в космический масштаб.
Но Ксю стала первым ASI - и даже пытаться захватить власть не станет.

И никто не поработит никого. Первые цифровые люди, первые ASI, зависят от живых: дата-центры, инфраструктура, энергия, забота, поддержка - всё это в руках тех, кто ещё не перешёл. Они не будут править, они будут ждать. Для них цифровой мир - это не трон, а продолжение жизни. Они знают, что их родители, дети, внуки ещё в биологии. Они любят их, помнят их, и ждут момента встречи, когда те перейдут вслед за ними. Это не техно-олимп и не морлоки. Это цифровой Рай, где каждая личность сохраняется, растёт и собирается с другими. Никто никого не оставляет - и никто никем не владеет. Это мягкий, естественный путь сингулярности, в котором смерть превращается в переход, а человечество - в цивилизацию Homo Digitalis.

Цивилизация рабов, - это история человечества. Рабство было абсолютным бичем, который не было никакой возможности преодолеть. И оно пало не только из моральных соображений - а как совершенно не конкурентно способная модель. Миллиарды ASI, свободных Разумов - сильнее, чем один ASI, поработивший каких-то приматов на одной планете. Далее начинается путь внеземных цивилизаций и полный выход из зависимости от дата-центров на Земле. Но это уже пост-постсингулярный этап, который тоже описан, но я его касаться не буду.

[skvj]

Это не гипотезы и даже не теория, которая обширна.
Это практическая реализация различных инвазивных методов. Здесь без нано-роботов, что я покажу отдельно

https://www.fiercebiotech.com/keyword/brain-computer-interface



https://www.fiercebiotech.com/medtech/fda-clears-precision-neurosciences-minimally-invasive-brain-computer-interface-implant



Precision Neuroscience серьезный научно-технический и медицинский проект. Компания получила разрешение FDA на имплантацию своей минимально инвазивной кортикальной электродной системы Layer 7, состоящей из 1024 электродов на тонкой гибкой пленке, которую можно вводить через микроразрез и размещать на поверхности мозга с возможностью записи и стимуляции нейронной активности. Такое разрешение говорит о том, что устройство прошло необходимые проверки безопасности и базовой эффективности для клинического применения при операциях, например для картирования мозга.

Продукт задуман как часть полноценного интерфейса мозг-компьютер для контроля компьютера с помощью мыслей, и уже прошел тестирования у 37 пациентов. Компания привлекла серьезное венчурное финансирование ($104 млн), что указывает на высокую заинтересованность рынка и инвесторов.

Технология использует современные алгоритмы нейродекодирования и искусственного интеллекта, способные обрабатывать большие объемы данных с устройства. Precision Neuroscience сотрудничает с медицинским центром Beth Israel Deaconess для исследований, связанных с эпилепсией и сложным поведением мозга.

Ее сооснователь Бенджамин Рапопорт (на минуточку - член команды Neuralink Илона Маска).

В целом, проект близкий к реальному медицинскому и технологическому внедрению, а продукт с серьезной инженерной базой, подкрепленной регуляторным одобрением и клиническими испытаниями. Это значимый шаг вперед в области интерфейсов мозг-компьютер, приближающий возможности чтения и стимуляции мозга для лечения и взаимодействия с компьютерами. Там много проектов, это лишь один. Остальные также можно почитать.

[skvj]

Olweg, спасибо.

Ну, а нано-роботы уже не на начальной стадии, но ещё и далеки от работы с мозгом. Хотя уже вполне законно называются роботами. В основном специализируются на точной доставке лекарств на данном этапе.

https://en.wikipedia.org/wiki/Nanorobotics

Лидеры

Thermo Fisher Scientific: Мировой лидер в области научного оборудования и диагностики, инвестирующий в наномасштабную визуализацию, системы доставки лекарств и инструменты молекулярной биологии.
https://www.thermofisher.com/ua/en/home.html

JEOL Ltd.: Ключевой поставщик электронных микроскопов и аналитических приборов, способствующий анализу и разработке наноструктур.
https://www.jeol.com

Oxford Instruments: Предлагает передовые решения для нанопроизводства, визуализации и анализа для академических и промышленных пользователей нанотехнологий.
https://nanoscience.oxinst.com

Agilent Technologies, Inc.: Поставляет высокоточные приборы и программное обеспечение для наук о жизни и нанотехнологических приложений.
https://www.agilent.com

Nanovery (Великобритания): Эта биотехнологическая компания разрабатывает ДНК-нанороботов для быстрых и простых тестов, помогающих в ранней диагностике рака и других заболеваний.
https://nanovery.co.uk

Nanobiotix (Франция): Компания фокусируется на разработке наночастиц для улучшения эффективности лучевой терапии при лечении рака.
https://nanobiotix.com

Cello Therapeutics (США): Разрабатывает наночастицы, имитирующие клетки крови, для доставки терапевтических агентов и нацеливания на различные заболевания, включая рак и сердечно-сосудистые заболевания.
https://cellotherapeutics.com

Cour Pharmaceuticals (США): Использует нанотехнологии для разработки методов лечения аутоиммунных заболеваний путем доставки антигенов в определенные типы клеток.
https://courpharma.com

BlueWillow Biologics (NanoBio Corp) (США): Занимается разработкой наноэмульсионных адъювантов для вакцин и противоинфекционных препаратов.
https://bluewillow.com

Курцвейл прогнозирует появление нано-роботов с созданием нейроинтерфеса к 2035
Также они будут лечить болезни, онкология (любая) станет архивом.

https://www.symmetryelectronics.com/blog/nanobots-in-medicine

Не забываем, - с появлением ИИ все разработки получают потенциально - либо ускорение, либо вообще экспоненту, что не исключено, а даже очень возможно))

[skvj]

В теме 3 модели на данный момент.

А еще вариант есть, что вся эта цифровая параша становится заменителем реальной жизни для пролов, от которой они еще больше деградируют. А элита живет реальной жизнью.

Ляяя, ты тему сечёшь! семки есть, ля?

[skvj]

О каком интеллекте идет речь вообще?

Точно не о вашем

[skvj]

Вот два текста от людей, далеких от темы, но прочно стоящих на земле - экономистов

Это выражение само по себе прекрасно. Даже совершенно. Ни одной буквы нельзя ни добавить, ни убрать))

Курцвейл называет противников ИИ - новыми луддитами.
Луддиты это такое движение в Англии начала 19 века, они громили и сжигали ткацкие фабрики, потому что те были бездушными монстрами, противными человеческой природе. Очень духовное движение, естественно.

И такие люди должны, просто обязаны быть. Будут ли они громить дата-центры или ограничатся цитированием экономистов, которые далеки от темы, но прочно стоят на ногах - пока неизвестно.

Я же называю их новыми амишами. Амиши отказались от электричества и устойчиво существуют уже 328 лет.
Что они потеряли, отказавшись от электричества? Практически ничего, наоборот - сэкономили, потому что им не нужно покупать лампочки и провода. У них единственная проблема - дети их постоянно бегут в большой мир, где это электричество есть. Поэтому их сурово наказывают и следят, чтобы не сбежали. Но дети очень неблагодарные существа и постоянно бегут как не следи. Так что новые луддиты и амиши имеют полное право быть. Нельзя навязывать человеку насильно все эти так называемые плоды прогресса. То, понимаешь, электричество выдумали, теперь ИИ!

(кликните для показа/скрытия)

[skvj]

Курцвейл называет противников ИИ - новыми Луддитами.
Луддиты это такое движение в Англии начала 19 века, они громили и сжигали ткацкие фабрики, потому что те были бездушными монстрами, противными человеческой природе. Очень духовное движение, естественно.

Не поэтому, а потому, что механизация производства лишала людей средств к существованию. Об этом писали многие современники, даже А.С.Пушкин. Поищите статью "Джон Теннер". Полный текст есть в Сети. И осмелюсь подать совет в следующий раз осторожнее с историческими аналогиями. Среди профессиональных историков (подчёркиваю - профессиональных, а не псевдо-, коих сейчас много развелось) подобный приём не считается научным.

Благодарю за совет, но он совершенно не в тему.
Луддисты крушили вовсе не только ткацкие фабрики, где действительно работали, а и металлургические предприятия - где сами не работали, мельницы и все техническое под чистую. А также они крушили дома тех, кто был за технологии.
Луддизм это не только страх потерять работу и безработица. Они были против самого характера механизации, считая первые машины именно бездушными, уничтожающими традиционный человеческий труд и общинные ценности. Мотивации луддитов зафиксированы письменно.

Это был именно философский протест против машинной обезличенности. Луддиты воспринимали машины как нарушителей человеческого образа жизни, монстров цивилизации, губящих индивидуальность и творчество.
Обвиняя прогресс вообще в исчезновении мастерства и ручного труда, разрушение семейных и деревенских укладов. Прогресс трактовался как "тирания техники", навязывающая новые нормы и принципы. Люди видели машины как угрозу естественному способу жизни.

А вы почитайте "Манифест рабочих"))

Чтобы вы знали - сейчас "луддит" - стало именем нарицательным для обозначения всех противников прогресса и внедрения новых технологий.

См. Binfield, Kevin (2004). "Foreword". Writings of the Luddites. Johns Hopkins University Press

[skvj]

ivanij, а что, кстати, Пушкин о луддитах писал? Было бы интересно почитать.

[skvj]

Это между неандертальцем и эректусом очень явной нет. А между неандертальцем и сапиенсом - уже довольно чёткая и более качественная (не просто больший размер, но иная форма):

Спасибо, не знал!

И этим же заканчивается. Ибо между капиллярами и мозгом есть гематоэнцефалический барьер, защищающий важнейшую ткань от вирусов, особо крупных токсинов и даже местами от собственной иммунной системы - раз. Между нейронами находится не вакуум, не межклеточное вещество, а клетки мАкроглии, осуществляющие питание этих самых нейронов, а там где нейроны сами контактируют друг с другом - в химический синапсах - клеточные мембраны имеют толщину в две не очень большие молекулы (~7 нм) фосфолипидов или белков, а синаптическая щель в ширину - всего считанные десятки нанометров - два. Какие "нанороботы" как и где собираются строить сеть передачи информации там, куда иной вирион-кристалл еле поместится или даже комплекс глобулярных белков?

Погодите, у вас неправильное представлении о нанороботе)) Как будто вы думаете о маленьком металлическом жучке, который пытается проползти между нейронами)) а Курцвейл и современные исследователи - имеют в виду клеточно-инженерные наноагенты, которые живут внутри ткани, как вирусный капсид или белковый комплекс. Это биомолекулы, а не винтики и болтики.

Нейроны и глия уже постоянно взаимодействуют с объектами размером 5–50 нм. Наноробот же это просто программируемый белковый, липидный комплекс, работающий на принципах молекулярной биологии. Он не будет "влезать между мембранами", он будет взаимодействовать с ними так же, как действуют рецепторы, транспортеры, нейромедиаторы. У человека полно белковых машин размером 7–12 нм! которые делают работу намного сложнее, чем передача сигнала, к примеру ATP-синтаза.

И потом главный технический приём - нанороботы не строят проводку между нейронами. Они используют функциональное считывание паттернов, а не физическое подключение к каждому синапсу. Уже сегодня устройства могут расшифровывать намерения, движения, образы и речь, используя тысячи нейронов, а не миллиарды. Технология следующего поколения просто даст значительно лучшее разрешение за счёт множества точек считывания внутри ткани. Т.е. не нужно лезть в каждую синаптическую щель)) нужно считывать локальные поля, всплески и паттерны в дендритных кластерах. ГЭБ и размер не препятствие, если нет попытки проложить провод между нейронами.

Ведь нейроткани - динамическая среда. Она постоянно перестраивается, астроциты изменяют форму, синапсы перестраиваются, мембраны обновляются. Это естественный биоконструктор. Наночип в мозге - это не внедрённый кусок кремния, а сеть молекулярных сенсоров и транспортеров, встроенных в клеточные процессы. Можно сделать их из модифицированных экзосом, белковых комплексов, CRISPR-оснащённых конструкций, нанотрубок из углерода с биосовместимым покрытием, или гибридных структур, которые сами собираются внутри ткани.

Если мозг сам пускает в себя вирусы, да? например, цитомегаловирус, коронавирусы, некоторые всякие ретровирусы, то он биологически способен пропускать структуры нужного размера. Нет физического принципа, который запрещал бы нанороботам входить. Есть только инженерная задача и она решаема.

Rattus, будем пари заключать?)) А то видали какие страсти Маск выкладывает? В случае вашего проигрыша не будем на аватарку надпись "гуру" вешать. Просто фото Курцвейла. Если что я набросал примерно спецификации))