Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[Vitaliy]

Откуда там молодежь агрессивная, когда ее уже упаковали по сигналу вживленного интерфейса. При чем упаковали заранее как только в мозгу появилась мысль (нежелательные мысли) об агрессии. И откуда возьмется опасный человек, который не воспринимает аргументы. Он уже по сигналу интерфейса давно проходит лечение в (санатории) дурке.

Во-первых, наказуемо деяние, а не агрессивность сама по себе. Никто никого упаковывать не будет
Во-вторых, нейрочипы принципиально добровольная штука. Их будут ставить те, кто этого хотят. Точно также, как смартфон сейчас. Человечество разделится на тех, кто их юзает и противников. Криминал по умолчанию будет их избегать. Вам кто-то смартфон навязывает? У меня родственник, причем инженер, который презирает смартфоны и пользуется кнопочным телефоном. Не ходит в интернет. Ну, мужик уже на пенсии. Старой закалки. Читает бумажные книги и гордится этим. Будет точно то же самое.

Паковать могут и для профилактической беседы.  Подумал не так как надо в разрез с повесточкой, говорить в слух с нейроинтерфейсом уже необязательно.
Сейчас без смарта все тяжелее и тяжелее жить. Все оцифровывается. Могут создать условия, что нероинтерфейс будет ставится в добровольно принудительном порядке всем. Иначе вообще невозможно будет жить, как говорится - не продать, ни купить и сдохнуть с голоду.

[skvj]

Мне, наверное, придется тему создавать.

"ИИ на блокчейне, RWA и web3"

И там будет инженерная и фактическая выкладка - никаких гипотез, а то, что реализовано сейчас и проекты, которые появятся в ближайшее время. Как изменится собственность и права, при чём здесь ИИ и блокчейн.
Иначе, каждый раз я выкладываю фактологию, но она замыливается в темах.

[skvj]

Паковать могут и для профилактической беседы.   Подумал не так как надо, говорить в слух с нейроинтерфейсом уже необязательно.

Наказуемо де-я-ни-е. Действие. Не ваши сны, фантазии, мысли и т.п.

Сейчас без смарта все тяжелее и тяжелее жить. Все оцифровывается. Могут создать условия, что нероинтерфейс будет ставится в добровольно принудительном порядке всем. Иначе вообще невозможно будет жить, как говорится - не продать, ни купить и сдохнуть с голоду.

Вся инраструктура будет доступна без нейроинтерфейса. Вы в сети, но не в нейро. Здесь не будет никаких неудоств даже. Только отсутствие нейро связи с AGI. У вас даже AGI будет, только без нейро-связи

[Olweg]

Паковать могут и для профилактической беседы.   Подумал не так как надо, говорить в слух с нейроинтерфейсом уже необязательно.

Наказуемо де-я-ни-е. Действие. Не ваши сны, фантазии, мысли и т.п.

Необязательно наказывать. Это будет прошлый век, устаревший неэффективный подход вроде пыток. Никаких наказаний - просто профилактическое предотвращение )

[Vitaliy]

Наказывать по УК необязательно. Есть например, профилактическая беседа. Ну там еще практика отмены, на выход с работы или еще какие неприятные последствия. Предупредить же "преступление". Сейчас рот открыл и получил, а с нейроинтерфейсом и рот открывать не надо будет.

З.Ы. Пока писал уже выше Olweg написал. Так все и будет.

[skvj]

Я никому фантазировать не запрещаю в принципе. На здоровье!

[vika vorobyeva]

Во-первых, наказуемо деяние, а не агрессивность сама по себе. Никто никого упаковывать не будет
Во-вторых, нейрочипы принципиально добровольная штука.

Это в идеале. В прекрасном совершенном мире, где ИИ любит людей, никогда не ошибается, его понимание блага совпадает с человеческим (и даже конкретно с пониманием блага вот этого конкретного пользователя, потому что у всех понимание блага разное), и его стратегические цели не подчинены всецело верхушке правящего класса.
В противном случае вы рисуете чудовищную антиутопию, где ты не свободен даже в пределах собственной головы.

Вы опять скажете про невозможность взломать блокчейн. А я скажу, что для меня это абракадабра и китайская грамота. Я не отличу "правильный" блокчейн от его имитации, сливающей все мои личные данные (и даже мысли, раз уж у нас нейро-интерфейс) людям, для которых я в лучшем случае ресурс.

По поводу добровольности. Формально у нас и с ношением смартфона полная добровольность, вот только многие сервисы привязаны к смартфону и работают только с ним. У моей мамы, например, кнопочный телефон, компьютера нет, интернету она категорически не доверяет, боится мошенников. Так что запись к врачу и на анализы, оплату коммуналки и налогов, и пр. для нее делаю я. Не будь меня, не знаю, как бы она крутилась
Что мешает максимально затруднить жизнь отказавшимся от нейро-интерфейса? Типа, раз скрывает свои мысли, значит, есть что скрывать?

Upd Как мы однако синхронно...

[skvj]

Вы опять скажете про невозможность взломать блокчейн. А я скажу, что для меня это абракадабра и китайская грамота. Я не отличу "правильный" блокчейн от его имитации, сливающей все мои личные данные (и даже мысли, раз уж у нас нейро-интерфейс) людям, для которых я в лучшем случае ресурс.

Понимаю вас.
Я же объясняю)) Вас никто не заставит подключаться. Живите как раньше - вы ничем не будете ограничены, вы останетесь тем, кем привыкли быть. Поэтому не возникнет конфликтов.
Вы останетесь собой - потому что это хорошо.
Это нормально. И вы имеете полное право на это. А такие как я сразу подключатся. В чем проблемы? Нет проблем.

[skvj]

А по поводу беспокойств о мысле-преступлениях.
Я тоже понимаю, почему это волнует участников. Потому что это тысячелетиями волновало юристов. И этот вопрос давно решён в праве. Повсеместно, кроме каких-то на голову отбитых африканских деспотий, возможно.

По этому поводу написаны сотни учебников и специальной литературы.

[vika vorobyeva]

Поговорку "Закон – что дышло" придумали не в одной из африканских деспотий, увы.
На этом прекращаю дозволенные речи.

[skvj]

Поговорку "Закон – что дышло" придумали не в одной из африканских деспотий, увы.
На этом прекращаю дозволенные речи.

Гипертрофируете.
Осуждать за мысли из той же оперы, что и сжигать ведьм или заговор с животными в античности и средневековье - обвиняли в колдовстве, если человек разговаривал с собакой или кошкой на полном серьёзе, считалось признаком связи с дьяволом.

Или, например, порча урожая взглядом.
Почему вы не боитесь быть обвиненной в этом? Закон же что дышло! Вдруг вас обвинят. На поле были? На рожь смотрели?

[AlexDark]

Помимо оруэлловских "мыслепреступлений" есть еще victimless crime - то, что считается преступлением, но при этом нет жертвы (например человек нагенерил нейросеткой запрещенной порнухи и сел, хотя никто не пострадал, и вообще других людей это никак не затронуло). Или из нескольких деяний примерно одинаковых по сути одно разрешено (бухать) а второе запрещено (курить не табак).
Я даже более скажу - в обществе есть куча запретов, имеющих под собой совершенно иррациональные, антинаучные и антибиологические постулаты, которые были  вытащены или из религий, или из чьей-то шизы. Причем эти запреты носят ранг законов, причем зачастую нарушение их считается тяжким. И наоборот - вещи, приводящие к тяжелым последствиям для людей считаются социально приемлемыми и даже одобряемыми.
Если ИИ, как я уже выше писал, демонтирует все это - это хорошо, но, имхо, этого не будет просто в силу того, что над этими бреднями чахли, как кощеи, десятки поколений, и вот так выбросить их никто не даст.

[Olweg]

Осуждать за мысли из той же оперы, что и сжигать ведьм или заговор с животными в античности и средневековье - обвиняли в колдовстве, если человек разговаривал с собакой или кошкой на полном серьёзе, считалось признаком связи с дьяволом.

Наоборот. Это уголовная ответственность за совершённые преступления будет сравниваться с охотой на ведьм. Преступное деяние будет считаться не виной человека, а недоработкой ИИ ) Кстати, такой вариант вовсе не обязательно антиутопичен - можно вспомнить этикосферу у Лема.

(кликните для показа/скрытия)

"Конечно, Каракас не делает себе поблажек со своей дурацкой приверженностью устаревшей судебной системе. Персональная ответственность? И с чем эти [ЭПИТЕТ ПОДВЕРГНУТ АВТОРЕДАКЦИИ] вылезут в следующий раз – ведьм начнут топить?"

Питер Уоттс, "Эхопраксия"

[skvj]

Помимо оруэлловских "мыслепреступлений" есть еще victimless crime - то, что считается преступлением, но при этом нет жертвы (например человек нагенерил нейросеткой запрещенной порнухи и сел, хотя никто не пострадал, и вообще других людей это никак не затронуло).

ИИ, а мы говорим об AGI, не будет генерить ничего запрещенного. Вы сейчас попробуйте это сделать и у вас не получится. А тем более потом стучать - ведь он соучастник. Он ваш юрисконсульт и адвокат. Вам не нужен другой ИИ - всё будет делать ваш. Но если вам нужно запрещенное порно и вы его юзаете без ИИ - это конкретно порно с детьми. И это запрещено в любом виде и будет запрещено. Поэтому вы СОВЕРШАЕТЕ преступное деяние и будете наказаны за него. Здесь нет никаких противоречий.

Или из нескольких деяний примерно одинаковых по сути одно разрешено (бухать) а второе запрещено (курить не табак).

Курить не табак повсюду легализуют сейчас. Но замечание верное. Например, в РФ это не легализовано, а значит запрещено. Как только легализуют (и если) значит будет разрешено. Выводы и экспертизы проводят эксперты, а не все подряд, такова жизнь. Я тоже не вижу никаких противоречий. Вопрос дискуссионный? Возможно. И кто как не AGI поможет его решить?

Если ИИ, как я уже выше писал, демонтирует все это - это хорошо, но, имхо, этого не будет просто в силу того, что над этими бреднями чахли, как кощеи, десятки поколений, и вот так выбросить их никто не даст.

Повторюсь. Вы неправы. Легалайз идет повсюду - это просто вопрос осознания обществом глупости сегодняшнего положения.
Курить и пить плохо, но запреты тут явно не помогают. Это дискуссионные вопросы, вообще не вижу проблем.
Пока в конкретной стране запрещено - это реально преступление.
Заметьте! - не употребление. А распространение и хранение в определённых размерах.

[skvj]

Наоборот. Это уголовная ответственность за совершённые преступления будет сравниваться с охотой на ведьм.

Olweg, вы говорите по аналогии. Это сравнение. А я говорю - конкретно о наказании ведьм.
vika vorobyeva боится, что за мысли её накажут, но что её накажут как ведьму - не боится. Я спрашиваю - почему?

Преступное деяние будет считаться не виной человека, а недоработкой ИИ )

Ой, вряд ли! А вы как имеете в виду? Кто вообще будет совершать преступление в присутствии своего AGI?))
Его будут отключать для это, понимаете?))

[skvj]

Он предупредит о нападении, предскажет опасную ситуацию, вызовет помощь, если ты не успеешь.

Он подготовит нападение, заманит в опасную ситуацию, запудрит мозги помощи, чтобы никто не подоспел (хотя бы сказав, что там агрессивная молодёж аргументы не воспринимает), легко же разворачивается? Но всё это благолепие будет зависить от доброй воли ИИ.

И пенсию! не забудьте!)) пенсию вашу заберет себе и поедет на Мальдивы колбаситься.

Этот человек не воспринимает аргументы, он опасен. Не спорь с ним!

Ну вот мы тут, каждый из нас не воспринимает аргументы другого, что будет делать ИИ? Вычислит оппонента по айпи-адресу? Забанит обоих? Посоветует каждому не спорить?

Он расширение вашего мозга. Как калькулятор. Как компьютер. Он не принимает решений - вы принимаете решение.

А что будет делать ИИ опасного человека? А что, если он начнёт решать кто опасен, а кто нет и его решения будут нечеловеческими?

А что если ваш калькулятор начнет обманывать вас? Ну, выбросите его тогда на помойку и купите новый.
Что если все калькуляторы войдут в заговор против вас?
Станете считать на счётах, наверное. Я не знаю что будете делать вы))
Мои калькуляторы обычно работают хорошо. Но как только ваши взбунтуются - пишите, будем думать. Мы найдем решение!
Инопланетянин, это AGI. Опасны ASI. И то - в теории. На практике там куча спецов, они знают что делать. Все пройдет хорошо. А если плохо - тогда нам кранты. Но мы обречены и без ИИ. Умрет каждый человек. Волка бояться - в лес не ходить. Хороша ложка к обеду.
Не знаю как ещё вас подбодрить))
Прилетит метеорит и похоронит нас всех вместе с ИИ. Так легче?))

[Olweg]

Olweg, вы говорите по аналогии. Это сравнение. А я говорю - конкретно о наказании ведьм.
vika vorobyeva боится, что за мысли её накажут, но что её накажут как ведьму - не боится. Я спрашиваю - почему?

Моё мнение - не накажут, о наказании речи нет. А предотвратят.

[skvj]

Olweg, вы говорите по аналогии. Это сравнение. А я говорю - конкретно о наказании ведьм.
vika vorobyeva боится, что за мысли её накажут, но что её накажут как ведьму - не боится. Я спрашиваю - почему?

Моё мнение - не накажут, о наказании речи нет. А предотвратят.

Изменится само мышление человека.
Преступность хотя и многофакторна, она изучена очень хорошо. Наукой криминологией. Всё разложено по полочкам. Как на ладони. Никаких тайн и загадок и всё просто до смешного. Всё систематизировано давным давно.
По группам, по мотивам, по видам, по умыслам, по тяжести и т.д.
И каждой группе преступлений есть объяснение. На большой статистике видны паттерны - ПОЧЕМУ это преступление совершается.
И там всё просто до примитивизма.
Если исключить законченных психопатов, где реальная патология, то все преступления делятся на несколько групп их по пальцам пересчитать.
если редкие исключить, то основные и массовые:

1. Преступления против личности
2. Преступления против собственности
3. Преступления против общественного порядка

И вот например основной массив убийств знаете какой? бытовая понажовщина в состоянии опьянения.

Т.е. по сути бороться нужно с злоупотреблением алкоголя, потому что реально преступник не совершил бы этого, если бы не пил бесперерыва. Вот направленных, целеустремленных убийств - их не так много. И там уже как правило двойной состав - либо сокрытие следов другого преступления, либо в процессе совершения другого преступления - против собственности.
Я к чему? Просто повышение благосостояния - мгновенно сказывается на падении % большинства преступлений.
Т.е. досконально известно что нужно сделать. Но нет инструментов. Нет исполнителей. Допустим, профессор по уголовному праву знает что делать - но что он пойдет повышать благосостояние людей? Возьмет лопату или кирку или что? Это как раз та сфера, где ИИ просто жизненно необходим.

[Polnoch Ксю]

AGI станут не просто безопасными - они станут системным фактором безопасности человека.

Могут. Но станут ли? Вряд ли. А так, конечно: и когнитивные искажения будут помогать находить в рассуждениях, и проч.

Их эволюция приведёт к тому, что каждый человек будет иметь своего персонального ИИ-партнёра, связанного через нейроинтерфейс. Такой AGI станет когнитивным зеркалом, расширением разума, способным компенсировать человеческие иррациональности - глупость, импульсивность, агрессию, корысть. Он будет не заменой, а софтом совести, внутренним стражем и аналитиком.

Да, если успеет - в сценарии soft take off. Если take off будет совсем soft - у нас даже есть микроскопические шансы на Вашу утопию. В hard takeoff миллиарды людей не успеют моргнуть, когда окажутся в мире, в котором существуют боги а-ля античные: не в мифах, а в реальности.

Нейроинтерфейс и AGI вместе - это не просто усовершенствование языка. Это переход в новое измерение человеческого существования. Попробую показать весь масштаб.

1. Когнитивное расширение. Сейчас человек использует мозг примерно как программист старого времени - вручную, медленно, с ошибками и ограниченным объёмом памяти. AGI, подключённый через нейроинтерфейс, даст мгновенный доступ к вычислительной мощи, знаниям и памяти, которые не убывают и не стареют. Мысль перестанет быть внутренним монологом, она станет распределённым процессом - совместным вычислением человека и ИИ.

2. Эмоциональная регуляция. Мозг человека не создан для 21 века - миллионы лет он тренировался реагировать на саблезубого тигра, а не на уведомления в мессенджере. AGI сможет балансировать эмоциональные реакции, снижать тревогу, агрессию, импульсивность. Это не подавление, а осознанное управление, своего рода когнитивный термостат.

3. Этический корректор. Личный AGI будет внутренним наблюдателем, компасом, который помогает человеку видеть последствия поступков, нейтрализуя когнитивные искажения и пороки. Это не морализатор, а зеркало - показывающее истину без искажений.

4. Коллективное сознание нового типа. Если миллиарды людей будут связаны с личными AGI, а те - между собой, то возникнет новая форма социальной ткани, где обмен идеями и переживаниями будет точным и мгновенным. Это не улей, а симфония - каждая личность сохранится, но все они будут звучать в общем аккорде.

Технически возможно, но произойдёт только в сценарии с soft take off, и только если дураки не нагадят дальнейшим снижением уровня доверия и конфронтацией.

[Polnoch Ксю]

Паковать могут и для профилактической беседы.  Подумал не так как надо в разрез с повесточкой, говорить в слух с нейроинтерфейсом уже необязательно.
Сейчас без смарта все тяжелее и тяжелее жить. Все оцифровывается. Могут создать условия, что нероинтерфейс будет ставится в добровольно принудительном порядке всем. Иначе вообще невозможно будет жить, как говорится - не продать, ни купить и сдохнуть с голоду.

вот, смотрите:  @skvj : типичные рассуждения человека с низким уровнем доверия к общественным институтам. Вы к нему с утопией, он к Вам с реальным миром, с пониманием логики <удалено самоцензурой, чтобы правила не нарушать> общества - оно на самом деле атомизировано, люди никогда не говорят что думают, многие держат фигу в кармане. Я не следила за эволюцией взглядов Виталия, но в 2014м мы с ним очень спорили о происходящем.

Вот диаграмма доверия(стремление к выживанию vs свобода самовыражения) и секулярных vs традиционных ценностей. Происходящее в мире будет двигать все страны в левый нижний угол. "Скрепы" и низкое доверие не совместимы с той картинкой, что Вы рисуете, @skvj
То, о чём Вы говорите, не противоречит фундаментальным запретам природы. Но мощность вероятности, для траектории развития, которая нас приведёт туда, крайне мала. И её просто нет для hard take off сценария техносингулярности