Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[skvj]

В Эрефии теперь трудовые перевели в цифровые формы

Запустили только в Нигерии, очень серьезный проект, кстати. Цифровая валюта eNaira, запущенная Центральным банком в октябре 2021 года.
И на Багамских островах первая в мире страна - Sand Dollar ещё в 2019 году.
В РФ только стадия пилот, вместе с ЕС, Китаем, Индия, Казахстан, Турция и ещё несколько - см. трекер.
https://cbdctracker.org

После запуска - несколько лет период тестов. Только небольшая часть эмиссии будет в цифре.
Полный переход всей денежной массы на крипту будет не ранее чем через 5 лет после тестов.
В Европе дата запуска 2027 и начнется тестовый период.

[skvj]

Штаты вообще отказались от CBDC - там будут частные деньги цифровые, называется стейблкоин.
Рынок примерно 300 млрд на сегодня.
Теоретически вот он уйдёт на триллионы очень быстро. CBDC будут немного отставать во времени

[MenFrame]

Нет, заставляют референсы и рекомендательные письма приносить.

То есть наши изверги обзванивают бывших работодателей, а у вас на загнивающем, нужно самим доносящие на себя письма приносить?

без рефересов не возьмут, которые бы подтверждали опыт.

Жестко...у нас то на дурачка можно сыграть, понадеяться на авось и лень нанимателя. А у вас если пришел без челобитных что ты молодец....то на тебя и смотрят иначе...

С другой стороны, если потом выяснится, что опыт был выдуман, тебя уволят то, что в РФ называют "по статье"

То есть с письмами мухлюют?

что требуются подтверждения опыта работы в виде рефов

Зато тайна..имеет возможность сохраняться....

[Polnoch Ксю]

То есть наши изверги обзванивают бывших работодателей, а у вас на загнивающем, нужно самим доносящие на себя письма приносить?

Референс это пруф с контактами организации, коллег что ты работал в этой компании. там тебя не характеризуют как-то особенно положительно. Да, могут позвонить или письмо написать, но в рамках местной культуры, про тебя ничего плохого не скажут (иначе референс бы не дали), но и ничего хорошего (это называется уже рекомендательным письмом)

Жестко...у нас то на дурачка можно сыграть, понадеяться на авось и лень нанимателя. А у вас если пришел без челобитных что ты молодец....то на тебя и смотрят иначе...
У человека есть интерес принести референсы. Не заставляют приносить референсы с каждой работы, указанной в опыте работы, но с части да

Референс это как запись из трудовой, из которой можно вырвать ненужные листики

То есть с письмами мухлюют?

Если подаёшь резюме, и в нём длинный список работ, и принес референсы по части, а потом как-то выяснится, что ты придумал место работы (даже одно!) да, могут уволить, и потом канада не будет платить пособие. Если тебя уволят за лень, за глупость, или просто сократят (скажем, купили компанию ради патентов или клиентской базы, и купленные программисты не нужны - со мной такое было дважды), то пособие назначают.

Если же речь о мухлеже с рекомендательными письмами и референсами, это отдельная история. Я думаю, это фрод (мошенничество) и это фелони (в английском и американском праве особенная разновидность уголовных преступлений, самая плохая).
То есть, если в резюме придумать себе место работы - просто уволят то, что называется fired for cause(т.е. аналог российского "по статье"), но такое почти никогда не всплывает. Все случаи fired for cause которые я видела лично - обычно там человек в соцсетях писал что-нибудь выдавая свою позицию за позицию работодателя. Ну там человек написал патч для опенсурс проекта в федоре, и ему мантейнер-инженер отверг патч "я работаю в редхете, и у нас такие патчи никогда не проходят. Я лично сделаю, что бы тебя никогда у нас не наняли", офигев с того, какой он кривой. Проблема в данном случае была не в том, что человек в стиле Линуса Торвальдса написал (его проект на гитхабе его дело. В худшем случае, его могли бы выкинуть из списка проектов федоры, если бы придрались что плохой ToC, а не с работы), а что стал говорить, что влияет на политику найма в ред хате и натравил на человека каких-то своих друзей ещё из-за конфликта, скандал был.

Ещё в 2025м в Канаде могут уволить, если человек, например, зигует в соцсетях и рассказывает, что какая-то этническая группа не имеет морального права существовать (а ещё это уголовное преступление, хейт спич крайм). В США, видимо, уже нет, хотя зависит от компании - это тоже fired for cause будет, особенно если человек зиганул в футболке с названием работодателя.

Зато тайна..имеет возможность сохраняться....

Да, Trend прав, что тут работодатели не "пробивают" по незаконным базам. Проверяют твой кредит скор (не знаю зачем) и нет ли у тебя крайм рекорда (то есть, осудил ли тебя суд за преступление?) которое ты скрыл при найме. Ну и звонят-пишут по тобой же притащенным референсам и рекомендациям

[MenFrame]

что тут работодатели не "пробивают" по незаконным базам.

А что собственно мешает? Работодатель просто ставит условия перед кадровиком, а тот уже решает какими инструментами пользоваться.

[Polnoch Ксю]

А что собственно мешает?

(пока ещё) работающие законы и институты в Канаде?

Но я настроена пессимистично. Я думаю, тренд на развал институтов, радикализацию общества, смерть правды и замены её на постправду скорее всего продолжится, особенно с ростом конфронтации в мире. Со временем везде будет тоталитарная антиутопия с настоящим рабством(а не тем, что в нашем мире постмодерна под этим подразумевают...) под властью ASI, с элайнментом к местному диктатору. Ну или просто мы все умрём, хорошо если не в мучениях, как в "У меня нет рта, но мне нужно кричать"

Шансы что будет не так есть, наверное. Процентов 5, наверное? Что нам повезёт, и будет или вариант skvj, или вариант человекокотиков. В вариант rattus, извините, не верю: роботы слишком быстро развиваются. А если вдруг биология окажется лучше), тогда ASI просто выгрузит свои веса и промт в искусственный биологический компьютер - будет таким лесом деревьев разумным, и мы как мясные боты туда тоже не впишемся, там свои гомункулы будут.

Точнее я не верю, что биология лучший вариант. Но допускаю, что у ASI могут возникнуть временные сложности с разработкой сервисного тумана на базе машин, принтеров полимеров, размером с рибосому или чуть меньше.

[skvj]

Но я настроена пессимистично. Я думаю, тренд на развал институтов, радикализацию общества, смерть правды и замены её на постправду скорее всего продолжится, особенно с ростом конфронтации в мире.

Как я уже говорил, вы просто повзрослели. И стали вдруг видеть то, что раньше не видели. И вам кажется, что происходит что-то ужасное и весь мир рассыплется вот-вот в труху. Между тем, всё, что вы сказали в этой цитате - перманентный процесс. Но вдруг он стал заметен теперь и вам. И о горе! Пепел на наши головы! Да разверзнутся врата ада!
Но ровным счетом ничего нового и ужасного не происходит от слова совсем.
Тренд!
Развал институтов!
Радикализация общества!
Смерть правды!

Ксю, это постоянный процесс, просто вы вдруг стали его видеть. Поздравляю, вы повзрослели))

Шансы что будет не так есть, наверное. Процентов 5, наверное? Что нам повезёт, и будет или вариант skvj, или вариант человекокотиков. В вариант rattus, извините, не верю: роботы слишком быстро развиваются. А если вдруг биология окажется лучше), тогда ASI просто выгрузит свои веса и промт в искусственный биологический компьютер - будет таким лесом деревьев разумным, и мы как мясные боты туда тоже не впишемся, там свои гомункулы будут.

Как уже говорили выше - 3 модели.

Утопия Курцвейла
Ваши гомункулы или гибель
И морлоки Rattus

Мы всё увидим, присаживайтесь поудобнее. Поехали!

[Rattus]

под властью ASI, с элайнментом к местному диктатору

Вот только у диктатур, в отличие от наследных монархий, есть один маааленький недостаток - им очень редко удаётся совершить управляемый транзит власти после более или менее естественной кончины диктатора. Если же в результате конечным звеном принятия решений остаётся ASI-АСГУ (или же он выбирает нового - уже по сути подконтрольного зиц-диктатора - что чисто "шашечки" и на суть не влияет), то этот сценарий оказывается идентичным описанному Rattus (поскольку его сценарий рассматривает только достаточно длительные масштабы времён - согласно тематике Астрофорума). Разумеется, вера в то, что ASI сможет обеспечить имеющимся на момент наступления ТС диктаторам персональное бессмертие в течение отведённого им земного срока не имеет естественнонаучных обоснований и является предметом художественной фантазии или религиозной веры.
Ну и настоящий тоталитаризм при диктатуре вовсе не обязателен, как нам показывает историческая и политологическая науки: автократиям зачастую бывает достаточно чтобы население просто не возбухало и подчинялось решениям Партии и Правительства. Что оно там себе на кухнях возмущается - малозначимо.
Объективной причиной перехода авторитаризм/тоталитаризм - скорее является демографическая ситуация в стране, чем форма правления сама по себе.

В вариант rattus, извините, не верю

То есть вся аргументация и контраргументация в данной теме в итоге сводится к "верю/не верю", да?
А Мы-то грешнымъ деломъ думал, что тут предполагается обсуждение на основе принципа

В природе существуют только фундаментальные ограничения. Существуют всё ещё не открытые законы, которые могут нас ограничить.

и наивно ожидал, что оппоненты начнут бурно приводить контраргментацию к постулированной нулевой эволюционно-адаптивной гипотезе с диаграммами и цифрами, из которых даже ежу станет понятно, что пргресс способностей ИИ волшебно-эффективными механизмами своего внутреннего дизайна (не трогающими, однако гнилое нутро предзаданного промпта) настолько (на порядки в Абсолютных Попугаях Духовности, как предполагает Ксю) обгонят внешний естественный отбор конкурирующих систем (которому, в принципе, также никакие законы природы не запрещают ускоряться по мере приближения к точке фазового перехода - на чём, собственно, и стоит теория прерывистого равновесия в эволюции), что там пойдёт такой дрейф эффекта основателя во все поля, что скайнетообразное порождение сумрачных разумов Элиссона-Роко будет строго по Орвеллу "сапогом топтать лицо человека - вечно".
Но - Мы их так и не увидел.

Комментарий модератора раздела

Может уже пора таки закрывать тему как исчерпанную или же перекинуть её в Клуб - там, возможно, будет более уместна аргументация на основе личностного опыта веры?

роботы слишком быстро развиваются

И поэтому так и тянет заказать свадебные торты оптом - как звездолёты фантастам 60-х. Панемаю.

А если вдруг биология окажется лучше), тогда ASI просто выгрузит свои веса и промт в искусственный биологический компьютер - будет таким лесом деревьев разумным, и мы как мясные боты туда тоже не впишемся, там свои гомункулы будут.

Ну разумеется - ведь "нейроны" электронных нейросетей по фундаметальной архитектуре своей идентичны живым и никаких других значимых свойств и параметров кроме "весов" в них нет!
И ASI, что азимовский Двухсотлетний Человек, прямо таки возжаждет перенести себя на заведомо менее долговечный носитель! Ради пары-тройки порядков энергоэффективности.
Ксю, если Вы где-то видите слово "лучше", вы, видимо сразу by default считаете прицепленным к нему дополнение "везде"? Сочетание "лучше в своей области применения" ВАм встречать доводилось?

Точнее я не верю, что биология лучший вариант.

Да - когда недостаёт знаний многие обращаются к вере. Знания же, как правило, дают понимание не только того, что лучше/хуже - но и для чего и в какой области применения. Некоторые сообразительные ученики усваивают этот общий тезис уже к окончанию средней школы. Многие другие доходят уже учась в ВУЗе...

Как я уже говорил, вы просто повзрослели. И стали вдруг видеть то, что раньше не видели. И вам кажется, что происходит что-то ужасное и весь мир рассыплется вот-вот в труху.

Ну я бы не называл переход от детского безоблачного оптимизма к юношескому панк/думстер-максимализму полноценным взрослением. Для этого нужно пройти ещё один этап упырения мела прекрасных порывов души. Получение знаний в обсуждаемых областях также этому может немало способствовать.

[Ulkolainen]

Но ровным счетом ничего нового и ужасного не происходит от слова совсем.
Тренд!
Развал институтов!
Радикализация общества!
Смерть правды!

А между прочим, способность ко лжи можно рассмотреть как один из квалифицирующих признаков разума:
- арифметика (оперирование абстракциями)
- рекурсия (отделение наблюдателя от картины)
- ... ну и ложь (построение альтернативной реальности). Того же поля ягодами получаются и творческая фантазия и научный поиск.

Тогда в конспирологическом смысле вожделенный некоторыми блокчейн оказывается одним из этапов всеобщей дебилизации. Смерть лжи, деградация навыков её распознавания и т.д. ...

[skvj]

Тогда в конспирологическом смысле вожделенный некоторыми блокчейн

В конспирологическом смысле можно говорить что угодно)) даже не буду мешать.
А в нормальном смысле - ложь действительно признак разума, как и возможность её находить. А особенно победить для защиты своих активов, а со смарт-контрактами - вообще всего своего. Интеллектуальной собственности, в том числе. Присвоение токена любой статье, книге, публикации - навсегда устанавливает автора. Без агенств, без посредников. Также станет ненужным нотариат. Но это уже в период массовой адаптации. Здесь желание Ксю изменить право как раз сработает. И хотя нотариусы работают уже тысячи лет и были полезными, всё же это формализм и дополнительные затраты. Для обывателя сложно разобраться с нормами гражданского права, но ИИ сделает это легко, и оргомное количество формализма уйдет в прошлое.

Нотариус:

1. удостоверяют сделки, в том числе доверенности, завещания, договоры (купли-продажи, мены, залога движимого и недвижимого имущества, другие виды договоров);

2. выдают свидетельства о праве собственности на долю в общем имуществе супругов;

3. свидетельствуют верность копий документов и выписок из них;

4. свидетельствуют подлинность подписи на документах;

Список огромный - там сотни видов заверений и мы все платим деньги за эти услуги, а они реально необходимы. Вы уезжаете в командировку и оставляете сыну доверенность на продажу авто. Откуда регистратор знает, что вы дали ему такое право? А вот токен подтверждает. Токен могли выдать только вы. Но вы не будете видеть токен, вы будете показывать настоящую доверенность - документ в приложении. Который будет действовать необходимый срок. По истечении срока, обычно 3 года - срабатывает смарт-контракт и токен считается погашенным, как и ваша доверенность. Но вы можете выдать доверенность хоть соседу и указать срок - 1 месяц и не ходить к нотариусу. Это я вам красоту описал, вкратце.
Но нееет! Вы вплетаете сюда какую-то ложь, какую-то хфилософию! кого-то непонятно зачем критикуете весьма забавно)) и не понимаете о чём речь.

[Rattus]

- арифметика (оперирование абстракциями)
- рекурсия (отделение наблюдателя от картины)

Смешались в кучу кони, люди: отделение наблюдателя от картины - это абстракция. А рекурсия - это применение операции к самой себе. Без рекурсии не будет арифметики (операции умножения, возведения в степень и всех обратных им).

[Ulkolainen]

Смешались в кучу кони, люди: отделение наблюдателя от картины - это абстракция. А рекурсия - это применение операции к самой себе.

"Я считаю, что Хомский прав!" - рекурсивная фраза?

[Rattus]

Сложноподчинённые предложения - да, с рекурсией.

[skvj]

Вопрос: Раньше ты  описывал Neuralink как способ решить «узкое горлышко» ввода‑вывода между людьми и машинами.
Каков долгосрочный замысел? Это медицинская компания или первый шаг к симбиозу с ИИ?

Маск: По сути - это медицинская технология. Первые цели Neuralink - помогать  людям, скажем, с полном параличом. Тем, кто потерял управление над телом, чтобы  они могли управлять компьютером силой   мысли. Всем нашим нынешним пациентам нравится  устройство, все из них пользуются ежедневно.
Мы уже помогаем людям, и к концу года у нас будет  20 пациентов, то есть темпы растут. В следующем году будем устанавливать имплант «blind‑sight»,  чтобы полностью слепые люди, даже при утрате   глаз и зрительного нерва, снова смогли видеть  через прямой интерфейс с визуальной корой. Мы много классного делаем.
Наше первоначальное  стремление - решать серьёзные медицинские задачи, доказать безопасность и эффективность. А со  временем возможны кибернетические улучшения: существенное усиление интеллекта и сверхбыстрая  коммуникация. То есть что-то на фантастическом уровне. Возможно мы дойдём до «загрузки памяти», то  есть до сохранения версии себя. А затем, это уже предположение, - «выгрузка» в новое тело, скажем, роботизированное или клон собственного - но это я уже в дебри научной фантастики ушел.
В кино и книгах это давно описано, идеи не новые, но я верю, что подобное станет возможным. Это  даст некую форму «бессмертия» для всех желающих. И важно: такие технологии должны быть доступны  всем, кто пожелает, а не только лишь «элите» общества. Думаю, это смогут сделать все желающие.

Вопрос: Как ты видишь дальнейшую интеграцию между, например, Neuralink и Grok по мере их развития? Илон: Grok сможет понимать сигналы от Neuralink.
Маск: Интерфейс подключается к мозгу, передаёт сигналы в Grok, а Grok будет интерпретировать их  на «бинарном» уровне, без перевода в слова. Это сильно повысит эффективность использования  устройства Neuralink. Мы выходим на интересные философские вопросы. Подумайте, сколько умственных  ресурсов уходит на то, чтобы сложную мысль или образ из головы перевести в слова, и сколько  в этом переводе теряется.
Слова плохо передают образ в голове, а если вы не художник, очень  трудно перенести его на экран или бумагу. А компьютер сможет. Вы просто  даете ему желаемое изображение,   и он его воспроизводит. Или у вас комплекс  идей, которые вы хотите передать другому человеку.
Если у обоих людей Neuralink, вы сможете  передать сложную серию концепций «без сжатия», в полном виде, прямо в сознание другого, вместо  упрощения до нескольких предложений и надежды, что собеседник их у себя в  голове правильно «распакует». Я называю это «концептуальная телепатия».  Это радикально улучшит коммуникацию и взаимопонимание между людьми.

Вопрос: Ты говорил о восстановлении зрения и моторики. А запись сигналов…
Маск: прошу прощения, еще и слуха.
В принципе, любые сенсорные дефициты или травмы мозга  можно будет компенсировать через Neuralink. Это включает восстановление  зрения, запаха, осязания. Не знаю много ли людей потеряли обоняние..  Но например, вот был у человека инсульт, и он потерял возможность управлять левой  рукой. Neuralink может её вернуть.
Это по сути очень мощное универсальное  устройство «ввода‑вывода» для мозга,   которое со временем сможет решать любые  неврологические проблемы или проблемы с мозгом. Если у человека судороги, устройство  сможет их остановить. Думаю, оно способно исправлять и шизофрению.
По сути всё, что связано с мозгом, нейронами или чувствами.

Вопрос: А есть задачи, которые в этой области будет  очень трудно решить? Технически многое решаемо, но где ты видишь самые большие  препятствия в решении этих   проблем?
Маск: Прямо сейчас я не вижу препятствий. Главное -  предельная осторожность при имплантации устройств людям: чтобы не было повреждений и имплант  работал без побочных эффектов.
Пока, тьфу‑тьфу, у нас «идеальная серия»: устройства у пациентов  работают, значимых побочек нет. Да. Это здорово. Но ради безопасности процесс замедляется.  Мы тесно взаимодействуем с управлением по санитарному надзору за медикаментами, получаем  все необходимые регуляторные одобрения; Neuralink не оперирует «в вакууме». Под разные  задачи понадобятся разные версии устройства.
Например, «телепатия» у наших пациентов  взаимодействует с моторной корой: человек думает о движении рукой, Neuralink считывает  сигнал и двигает курсор на компьютере. Для зрения схема другая: нужно стимулировать визуальную  кору, она расположена в другом месте и глубже, поэтому электроды ставятся глубже.
И здесь это  уже «запись», а не «чтение», мы фактически «пишем пиксели» в зрительную кору. Это у нас работает  в обезьянах уже около трёх лет. Более того, у одной обезьяны два импланта - и «телепатия»,  и «блайндсайт». И это счастливая обезьяна. Хочу подчеркнуть, мы относимся к нашим животным  с большИм вниманием, и всегда делаем то, что сами бы хотели, окажись мы на  их месте.

https://youtu.be/ssTZBfbRYi0

[skvj]

Ещё он сказал, что в отношении безопасности ИИ - всегда нужно быть чуть-чуть параноиком.
Так что Ксю может вполне законно параноить, это не просто номально, а и верно.
Поэтому я её читаю с интересом, хотя и не со всем согласен))

[Ulkolainen]

Сложноподчинённые предложения - да, с рекурсией.

И тогда в чем проблема? На нерекурсивном языке подобная мысль прозвучала бы как "Хомский прав. Я тоже, я с ним согласен!" Куй, железо, бетон.
А рекурсия не только дает возможность скомпоновать в одной фразе *мнение А о мнении В о явлении С*. Она тренирует носителя мыслить именно так - отделяя факт от его оценки, реальность от описания и т.п. Ну и позволяет задетектировать со стороны разумность мыслящего и рассуждающего таким способом собеседника.
Тем и ценна (насколько я понимаю), а не за изящную словесность ради самой себя.
 

[AlexDark]

Допустим, идет ваш ребенок в школу, его кошелек - зависмый от вашего. И вы программируете его деньги. Вот можешь купить пирожок с рисом, ватрушку и компот. Он не сможет купить торт, сигареты или машинку.

Государство сделает то же самое - вот тебе зарплата/пенсия, но купить на нее ты сможешь только строго определенный набор вещей определенных (приближенных к трону) производителей в строго определенных магазинах.

Вы серьезно считаете, что подобный ультратоталитаризм - это что-то хорошее?

Тогда я обеими руками и ногами за батлерианский джихад и ликвидацию всей этой ИИ-чумы под корень.

[skvj]

https://youtu.be/zsVckF7RKL0

Рекомендует читать И.Бэнкса. Он всегда рекомендует его читать.
Я не пойму, я один что ли здесь фанат?

 

[Rattus]

Комментарий модератора раздела

Оффтоп про автоматизацию нотариата отделён в соответствющую тему отсюда. skvj получает 20% предупреждений за основной вклад в инициацию оффтопа, Ulkolainen - 10% предупреждений за его поддержание (п.3.1.д Правил астрофорума).

Ну а здесь, судя по тому, что мы так и не увидели новых ответов, возражений и замечаний от автора темы, присутствовавшего в Разделе несколько последних суток и уже размещающего заключения по ней внутри сообщений теперь в теме более общей:

Я бы предположила, что до AGI примерно 3 года, и не меньше полугода. Может, чуть больше чем три - вряд ли больше 4.
Отдельный вопрос, как быстро мы получим ASI систему после AGI? Если через несколько часов(и проблему элайнмента мы к тому моменту ещё не решим), нам всем конец, имхо. Если через десять лет - тогда у человечества есть шансы на то, чтобы не оказаться в аду. Какой будет take off к сингулярности? Hard или soft?
Если у нас будет софт тейкофф, то может у человечества хватит здравомыслия не тратить все ресурсы на разработку автономного оружия и ASI, а потратить большую часть ресурсов автономных ML-ресёчеров на разработку элайнмента, и на математическое его доказывание (чтобы люди могли его проверить)?
Ладно, о чём я? Конечно же не хватит

Где автор всё также не считает сколь-нибудь значимымым рассматривать спектр любых промежуточных между этими (и так не очень-то обоснованными) крайностями вариантов,

Комментарий модератора раздела

тема закрывается явочным порядком как исчерпанная.