Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[Инопланетянин]

Кстати - что касается здорового долголетия - глобальному Председателю A-SI так будет вполне выгодно обеспечить его своим лошадкам - просто потому что это сокращает затраты на выращивание новых работников.

Тут надо ещё посмотреть какие будут затраты на здоровое долголетие. Вероятнее всего продление жизни до некоего не очень большого срока когда затраты на дальнейшее продление начнут превышать затраты на воспитание новых работников.

[skvj]

Это в итоге будет хуже даже самых хреновых антиутопий.

https://youtu.be/kuRmdWzTXoU

[Инопланетянин]

Я вижу проблему немного не в том. Сейчас сливают, но это можно в той или иной степени контролировать. Но в случае с ИИ можно получить персонального стукача, а какие в него будут заложены элайнменты и моральные нормы - вопрос. Скачаю я пиратский фильм - а  домашний робот заявит, что это неэтично и сообщит куда надо. Или книжка какая-то неправильная на полке стоит. Или фото столетней давности по новым нормам морали стало "порнографическим". Или еще что-то подобное. А чего уж там "этичного" и "неэтичного" в него напихают - тут предсказать невозможно.

Твонк

[MenFrame]

Но в случае с ИИ можно получить персонального стукача,

Это уже не актуально, цифровое пространство в котором живет человек и так делает обычного юзера голым перед большим братом.
А ежели хотите пужалок, то бояться стоит того что ИИ, в том числе и персональный сможет подталкивать человека к нужному жизненному выбору. Хотя для этого достаточно и не персонального. Персональный просто сделает уровень проникновения руки в куклу несколько более глубоким.

[skvj]

Я вижу проблему немного не в том. Сейчас сливают, но это можно в той или иной степени контролировать. Но в случае с ИИ можно получить персонального стукача, а какие в него будут заложены элайнменты и моральные нормы - вопрос. Скачаю я пиратский фильм - а  домашний робот заявит, что это неэтично и сообщит куда надо. Или книжка какая-то неправильная на полке стоит. Или фото столетней давности по новым нормам морали стало "порнографическим". Или еще что-то подобное. А чего уж там "этичного" и "неэтичного" в него напихают - тут предсказать невозможно.

Твонк

Вы как старушки, которые стоят в сберкассу в очереди, потому что не доверяют и не понимают что такое дебетовая карта))
Объясняешь, объясняешь - как об стенку горохом.

Между облаком и блокчейном API-шлюз или оракул - управляет обменом данными, сверяет разговоры, фиксирует хэши, переправляет данные. Приватные данные хешируются и хранятся оффчейн с ончейн ссылкой и управлением правами.
Если вам слова непонятны - я поясню.

Ни OpenAI, ни хакер, ни правительство - никто не получат никакой доступ к вашему общению с ИИ.
Вы что блокчейн собираетесь взламывать? современные системы квантово резистентные, их квантовый комп не взломает никогда. О чем вы вообще говорите?

Mask Network, Ceramic, Lit Protocol - управление приватными и публичными перепиcками и данными через блокчейн.

Есть системы, которые с 2017 года вообще занимаются ИИ на блокчейне, называется deAI - SingularityNet, Fetch.ai, Gensyn - децентрализованные AI-базовые сервисы, где управление доступом реализовано через токены и DAO.
Но это несколько иная тема, но у них шикарные наработки.

А вот Ocean Protocol - это децентрализованный обмен, хранение данных централизованных ИИ. Каждый датасет токенизируется и получает цифровой ключ ERC-20 и ERC-721 это эфириум. Там всё готово. Они выйдут из тени в нужное время. Всё значимое - идентификация, права, владение, история диалогов, уникальные события, перенос между ассистентами и любыми платформами, этические метаданные - в блокчейне.
Ocean Protocol ключевой инструмент именно для обмена и монетизации данных ИИ/ML, включая приватные, ценные, любые наборы, которые можно делать открытыми, полуоткрытыми или приватными - всё токенизировано и управляется через блокчейн.

Что вам непонятно? ))

[AlexDark]

Твонк

Как вариант - да.

Это уже не актуально, цифровое пространство в котором живет человек и так делает обычного юзера голым перед большим братом.

Пока еще можно обходить это - можно иметь самособранный комп без доступа в сеть, пользоваться мобильником выборочно, платить наличными, ходить пешком и тд и тп.

то бояться стоит того что ИИ, в том числе и персональный сможет подталкивать человека к нужному жизненному выбору. Хотя для этого достаточно и не персонального. Персональный просто сделает уровень проникновения руки в куклу несколько более глубоким.

Это тоже очевидно, и более того - уже наблюдается, пока среди психически нестабильных, но это пока. Причем для этого не нужно даже сверхИИ, хватит и обычного чат-бота существующего уровня, который будет ежедневно капать на мозги. Просто в нынешней системе морали если тебе на мозги капает гуру непонятного культа - это плохо, если  гуру какой-то религии - это хорошо, а если железяка - то этов зависимости от того, что капает. И все попытки пришить элайнмент к этому будут заключаться в том, что можно втирать конечному юзеру, а что нельзя. Но не потому, что это плохо или хорошо, а потому что "так принято", даже если это катастрофически вредно.
Что, мы, собственно наблюдаем, вплоть до того, что ИИ в фотошопе отказывается обрабатывать ню фото, потому что по мнению создателей ИИ это плохо. Сам ИИ об этом видимо думать пока не может, а конечный юзер на результат не влияет, и должен следовать "линии партии". И в этом случае я скорее за полностью ИИшную мораль, которая выметет все религиозные и прочие бредни. И обеими руками за то, чтобы роботы настучали их создателю со словами "а это не ваше дело, это никому не мешает".

Ни OpenAI, ни хакер, ни правительство - никто не получат никакой доступ к вашему общению с ИИ.

Так ему и не нужно, ИИ сам сообщит, куда ему укажут и то, что укажут. Я просто исхожу из реального мира, где есть коррумпированные чиновники, спецслужбы, преступность  и тд и тп. В мире розовых пони может, этого всего и нет.

[skvj]

Так ему и не нужно, ИИ сам сообщит, куда ему укажут и то, что укажут. Я просто исхожу из реального мира, где есть коррумпированные чиновники, спецслужбы, преступность  и тд и тп. В мире розовых пони может, этого всего и нет.

 

[skvj]

Сам ИИ об этом видимо думать пока не может, а конечный юзер на результат не влияет, и должен следовать "линии партии". И в этом случае я скорее за полностью ИИшную мораль, которая выметет все религиозные и прочие бредни. И обеими руками за то, чтобы роботы настучали их создателю со словами "а это не ваше дело, это никому не мешает".

 

[skvj]

Вы не понимаете что такое токены, а почитать не хотите, да? А то что я пишу тоже не читаете))

[MenFrame]

ИИ сам сообщит, куда ему укажут и то, что укажут.

В режиме администратора.

[skvj]

ИИ сам сообщит, куда ему укажут и то, что укажут.

В режиме администратора.

Ага, в режиме старосты класса

https://oceanprotocol.com

[skvj]

А есть чейнGPT - конкретно перенос всех данных и диалогов GPT - нот онлайн, бат ончейн. Ферштейн?

https://www.chaingpt.org/

Проблема в законодательстве. Но Альтман уже объявил, что будут добиваться законодательного запрета на доступ кого угодно - по аналогии с врачебной тайной. Там очень много проектов и вообще это индустрия. И прямо сейчас это решают в Конгрессе.
Изначально планировалось так.
Поэтому токены LLM - называются токены.

[skvj]

Robonomics - взаимодействие IoT-роботов и ИИ через блокчейн. Хранит команды, телеметрию, логи и доступ через криптографию.

https://robonomics.network/ru можно русский включить

IoTa - это мой любимый блокчейн, он связан с роботами, андроидами и интернетом вещей.

https://www.iota.org

[skvj]

Bittensor - блокчейн-протокол для обмена и монетизации нейронных сетей и языковых моделей. Здесь реально работать с LLM в распределённой и анонимной экосистеме - любой пользователь может вызвать, оценить диалог с ИИ через блокчейн.

https://bittensor.com

[skvj]

У меня много чего есть, я все не буду выкладывать, а просто показываю, что это индустрия. И технологию включат в нужное время на LLM.

[Rattus]

И.... какое это имеет отношение к конкретному примеру консервативности на который я указал?

Такое, что никакой это не пример консервативности, а пример анатомической условности. Зоологи увидели, что в линиях амниот наружная часть паллиума особенно сильно разрослась и решили называть её "неокортекс". А ряд глубжележащих разнородных морфологических структур, имеющих некоторую функциональную общность - "лимбической системой". Так что нет там каких-то принципиально "новых" и "старых" макроструктур. Но суть даже не в этом. Наглядная аналогия из области ПК: дискретный видеоускоритель - GPU в нём - вещь сравнительно недавняя, хотя теперь зачастую самая объёмная и прожорливая. Тогда как, например, элементы "северного моста" в чипсете - существуют чуть не с самого появления IBM PC. И Ваш тезис тут - это примерно как сказать, что чипсет материнки и ядра CPU не переехали в GPU только из-за legacy x86-архитектуры.
Мысль по умолчанию - что это изначально вполне соответствующие своим функциям кровати подсистемы, которые нет никакого резону куда-то менять и  передвигать - почему-то сходу отвергается.

Но в техносфере, где энергию можно черпать не из внутреннего обмена, а извне - звёздная энергия

Значит "техносфера" на Земле существует столько же - сколько и глобальная биосфера - с появления на ней автотрофов-фотосинтетиков. А цианобактерии - этой самой техносферы первопроходцы.

управляемый синтез

где можно от него запитаться?

кибернетические экосистемы

А в каком месте любые существующие живые системы - не кибернетические?

эти пределы становятся смещаемыми, а не абсолютными.

То есть число Пи там в военное время таки может достигнуть четырёх? Жаль Рольф Ландауэр этого уже не увидит...

И тогда тенденция к усложнению перестаёт быть просто статистическим эффектом, а становится направлением эволюции систем, способных удерживать и перерабатывать информацию всё более эффективно. Сложность сама становится способом выживания.

Во первых - в весьма ограниченном масштабе, во вторых - в довольно редких условиях. Всегда есть некий оптимум сложности, выше которого адаптивность системы не растёт, а снижается.

Мы наблюдаем поведение, объективно невыгодное с точки зрения эволюции - люди прекращают каннибализм, создают заповедники, восстанавливают популяции исчезающих животных, отказываются от охоты, финансируют программы защиты редких видов - и всё это не только без прямой пользы, а часто с экономическим ущербом.

Мы наблюдаем это с самого появления, например эукариот - в их избыточных геномах. Всё это показывает только то, что данная "паразитная" нагрузка существенно не влияет на адаптивность - система может себе позволить её содержать где-то в рамках своего многократно большего функционального резерва.

Это переход от естественного отбора к этическому отбору, где критерием становится не приспособленность, а способность к сотрудничеству и эмпатии.

Опять таки - только до тех пор, пока ресурсные резервы позволяют.

системы, в которых уменьшается внутренняя борьба, эффективнее используют энергию и информацию.

Поэтому автократии и стремятся уничтожить протест - чтобы не тратиться на политическую борьбу. Это в целом повышает эффективность системы. Не то что в демократиях всяких и многополярщине...

Технологии нейронного декодирования уже перешли от слов угадывания к синтаксическим реконструкциям речи и движений (см. работы UCSF, Neuralink, Synchron, University of Texas). Нейропротезы моторной коры и речевые интерфейсы достигают точности, достаточной для практического применения. Развитие идёт не по линии прибора на череп, а по линии комбинированных гибридных систем (оптоэлектронных, магнитонаночастиц, графеновых сенсоров). Т.е. точность сигнала - вопрос времени, а не принципа.

Ну достигнут они, допустим, того самого практического применения - удовлетворительной для бытовых задач точности движений и передачи речи. Каковые осуществляет здоровый человек без всяких интерфейсов. И? Внемедицинский прорыв-то тут в чём?

Первая вакцина против оспы тоже воспринималась как рискованное вмешательство в тело - до тех пор, пока не стала нормой.

Оно и остётся рискованным (хотя и совсем немного теперь). Вот только на этот риск приходится идти только для избежания риска куда более серьёзного - инфекционного заболевания. А не для "повышения востребованности на рынке труда".

Люди не делают себе уколы ради кайфа, но делают, когда видят системную выгоду - качество жизни...

Это и есть медицина. Что называется - "спасибо, Капитан!",

...доступ к новым когнитивным возможностям, экономическое преимущество.

Так вот и спрашиваю - это всё - где? Чтобы без риска и ущерба для качества жизни энтузиасты, не менее массово чем линуксоиды переустанавливают ОС, пускали себе по вене стимуляторы/анаболики/ноотропы, которые бы реально способствовали вот этому вот всему.

Когда нейроинтерфейсы станут не лечением, а расширением, они перестанут быть медициной и перейдут в зону культурной адаптации как очки...

Очень хороший пример, да - очки Google Glass и MS HoloLens уже перешли в зону культурной адаптации - в музеи технического творчества. Ну или в лучшем случае - кладовщикам, монтёрам и подобным специальностям на крупных предприятиях. Впрочем, если последняя группа профессий и ВАм видится в качестве особенно престижных специальностей для людей постсингулярной эры - то вопросов не имею. У лошадок должна быть эффективная сбруя.

Лошадь не проектирует конюшню, не программирует автоматическую поилку и не редактирует свой геном, чтобы улучшить метаболизм. А человек делает всё это.

Последнее не делает пока никто - даже человек. А первае два - делает и бобёр. Но это не значит, что всё вышеперечисленное вполне можно сделать систему, что будет делать за него и гораздо эффективнее в целом.

ASI не сможет рассматривать человечество как скот, потому что люди - создатели контекста, в котором ASI существует.

Биота - создатель контекста, в котором люди только и могут сущестовать. Это не мешает человеку рассматривать кормовых животных как скот, а растения - как силос.

Никакой сверхразум не сможет отменить фундаментальную причинность своего происхождения, его мотивационные структуры будут производными от человеческих целей, даже если потом они эволюционируют.

Человек не может отменить фундаментальную причинность своего происхождения от приматов. Это не особо мешало ему использовать мартышек в медицинских экспериментах без их согласия.

Это не фермер и лошадь, это симбиоз. Гриб и дерево.

Ага - особенно какой-нибудь опёнок осенний. Отличиный пример симбиоза. В форме летального паразитизма.

Нейрон и синапс!

Палец и ноготь. Дельфин и русалка. Может вам таки ещё почитать учебников по биологии, прежде чем приводить оттуда аналогии?

В биологии нет цели "сократить жизнь" вида, если он выполняет функцию устойчивости системы. Наоборот - долговечность и когнитивное разнообразие - ключевые параметры устойчивых экосистем.

А где у меня этому антитезис?

Поэтому ASI будет не пастухом, а эволюционным катализатором.

А почему эти опции должны быть взаимоисключающи? Человек, являясь пастухом для одомашненных животных, вызвал практически взрыв генетического разнообразия их пород. И другие симбиотические виды запускают коэволюцию.
...

[skvj]

Скажу как я вижу тенденции. Скорее всего OpenAI или другие агрегаторы имеют собственную технологию - просто не бывает иначе. Или, возможно, они выкупят с потрохами лучший блокчейн. Что-то такое будет.
А сам DLT безусловно разместят исходный код на GitHub здесь без всяких сомнений.
Т.е. ИИ централизованным останется.
Криптоплатформа будет открытая.

[skvj]

Палец и ноготь. Дельфин и русалка. Может вам таки ещё почитать учебников по биологии, прежде чем приводить оттуда аналогии?

Rattus, ну так нечестно, правда))
Это же метафора. Но в системном и эволюционном смысле отношения нейрон - синапс действительно симбиотичны функционально.

Нейрон не может действовать без синапса, он не просто деталь, а место, где осуществляется сама передача, пластичность и адаптация. Без синапсов нейроны немые острова. Без нейронов синапсы лишены смысла. Они существуют взаимно и в контексте сети - как гриб и корень, где важен не видовой статус, а принцип - взаимная зависимость, создающая новое свойство системы.

В эволюции, кстати, симбиоз часто перестаёт быть просто внешним союзом - вспомните митохондрии. Когда-то это были отдельные организмы, а теперь органеллы, без которых жизнь невозможна. Так и здесь, нейрон и синапс уже не просто "деталь и соединение", а единый функциональный модуль, порождающий свойства, которых нет ни в одной из частей.
))) я потом на остальное отвечу, а то воскресенье пропадет))

[AlexDark]

Проблема в законодательстве. Но Альтман уже объявил, что будут добиваться законодательного запрета на доступ кого угодно - по аналогии с врачебной тайной. Там очень много проектов и вообще это индустрия. И прямо сейчас это решают в Конгрессе.

Только вот Конгресс находится исключительно в США, а ИИ будет везде. Поэтому условная /страна_нэйм/ может принять какие угодно законы.

[Инопланетянин]

Вы как старушки, которые стоят в сберкассу в очереди, потому что не доверяют и не понимают что такое дебетовая карта))
Объясняешь, объясняешь - как об стенку горохом.

Да всё мы понимаем, не со всем соглашаемся.

отношения нейрон - синапс действительно симбиотичны функционально

Нет. Сравнение дельфина с русалкой тут, конечно, не к месту, а вот пальца с ногтем в самый раз. Можно ли сказать, что ноготь - симбионт пальца? Или всё-таки его часть? Примените это к нейрону и его синапсу.