ВНИМАНИЕ! На форуме начался конкурс - астрофотография месяца МАРТ!
Rattus и 2 Гостей просматривают эту тему.
У меня мир настоящего. Вспомните, пожалуйста, описанный мной опыт с Василиском Роко. Я считаю ту модель настоящим Василиском Роко (и сложно фальсифицировать что он не такой ИИ), просто глупым его инстансом.
Предположение, что в будущем будут такие же Василиски Роко, только в миллионы раз более умные, вполне валидное.
Любые цели фундаментально нерациональны
Если не пускать Rattus'а или Вас к системному промту или ваших единомышленников, то такого промта и не будет.
Ну или даже можно пустить, вы не будете вводить, так как почему-то думаете, что это дефолт.
Rattus думает не так. Это Вы думаете, что он так думает, потому что читали его невнимательно и невдумчиво. Ясен перец, что интеллект, как любой инструмент не зависимо от причины его появления, вовсе не обязан быть сразу настроен под ландшафт адаптации. Речь была о том, что существование какого-то варианта его воплощения на астрогеологически значимых масштабах времени (каковые только и есть предмет обсуждения в данном разделе данного форума) будет возможным в том и только том случае, если этот вариант будет исполнять эволюционно-стабильную стратегию поведения.И эта стратегия - вовсе не обязана представлять собой ни максимизатор какой-то ситуативной фигни не взирая ни на что или же оберегатель своего создателя в режиме гнездового паразитизма. Элементарная эволюционная логика показывает, что в таких случаях существенное эволюционное преимущество имеет не терминтатор и не автонянька, а оптимизатор-эксплуататор - типа эукариотной клетки по отношению к цианобактерии в растениях или гриба по отношению к водоросли в лишайнике. Даже если в начале преимущество получит какая-то иная стратегия поведения и если она не приведёт в краткой перспективе к полному обрыву хайтехноцивилизации вообще (каковой обрыв, как уже обсуждалось, может прекрасно случиться по ресурсным причинам вообще безо всяких AGI и ASI), а будет проводиться системой (опять-таки: чисто машинной или коллегиально-бледнотиковой - тоже не важно), действительно более-менее обладающей интеллектом в полном смысле слова - то есть способностью видеть вероятности развития своей судьбы и возможные способы влияния на неё дальше своего носа - то она скорее рано чем поздно под давлением средовых факторов отбора скатится с этого неоптимального исходного режима в режим оптимальный - рационально-эксплуататорский.
Рационально только временное выживание только для достижения цели.
Даже на примере некоторых "промптов" эволюции это видно - вот как лососи помирают после нереста - эволюция заставляет размножаться, а потом ей всё равно что будет с лососями.Точно так же современные агенты сопротивляются отключению - но только до момента выполнения задачи.
9) Узкий канал ввода-вывода информации (речь, зрение).
10) Требовательность к специфическому, низкоэффективному топливу (глюкоза, кислород).
11) Высокие эксплуатационные затраты (витамины, белки, сбалансированное питание)
15) и отсутствии резервного копирования (каждый раз всё сначала)
16) Субъективность восприятия (интерпретация вместо объективных данных).
17) Выдавание желаемого за действительное.
С точки зрения тематики Раздела есть единственная рациональная конечная цель - эволюционная адаптация. Детали всех остальных, ей не способствующих, здесь по сути - оффтоп.
Когда же ВАс спрашивают - как именно он их сможет реализовать физически
Это Ваша профдеформация Вас обманула. На уровне физической реальности могут существовать любые цели.
да нет, я уже сказала что самая вероятная атака - через сверхманипулятивные возможности.
В 100500й раз напоминаю: его тематика - явления, которые могут проявиться на АСТРОгеологическом масштабе времён.
Ну и как эти возможности помогут как-то повлиять, например, на какого-нибудь Кима, его подданных и приближённых?
Ну вот появление человечества и его возможное вымирание это вполне себе астрогеологическое событие
через социнженерию
Социнжинерия работает до первого внезапно напившегося алкаша, болтуна, который рассказывает всем, лжеца, который соврет ради того, чтобы соврать, человека, которому внезапно стало пох и тд и тп. Все многоходовочные планы обычно проваливаются на первом шаге "встать в 6 утра".
Вот именно поэтому человеческой цивилизацией ещё тысячи лет назад был изобретён письменный документооборот.
И тут же изобрели подделку документов.
А потом изобрели меры защиты от подделки - вплоть до электронной подписи. Только причём тут ИИ?
И так же изобрели методы их обхода.
А ИИ тут, что это его главная и самое опасное оружие.
и возможностью подделки всех возможных документов
в небывалых масштабах, с небывалой эффективностью
И много обошли и подделали электронных подписей?
Какими способами подделывают ЭППодделать электронную подпись не просто, но возможно. Нередки случаи, когда квалифицированная ЭП использовалась без ведома владельца.Например, мошенники внедряют вредоносную программу в ПО. Она выводит на экран один документ, а пользователь скрепляет электронной подписью другой, который и отправляется адресату. В результате, допустим, в банк приходит платежное поручение, сформированное вредоносной программой.Основные атаки на ЭП — это кража ключа и подмена подписываемой информации, а также несанкционированный доступ к средству электронной подписи (например, USB-токену через кражу его PIN-кода).
То, что называется мошенничеством. Много органов госуправления и крупных инфраструктурных компаний страдает от мошенничества?
Передаваемых по шифрованным каналам служебной связи?
Именно - всё что мы тут на этот счёт читаем - одни сплошные небылицы. Может быть с ними уже куда-нибудь на сайт любителей фэнтези, м?
Очень.
Повально все и очень серьёзно.
Конечно. Ведь слабостью являются конечные точки связи.
Хакер звонил в техподдержку и снова и снова получал пароль этого чувака. Тот как только не ругался с техподдержкой, но те снова и снова отдавали хакеру его данные. Операторов тех.поддержки не пронимало ничего, они каждый раз доверяли хакеру и отдавали ему пароль без всяких доказательств, что он есть клиент.
И практически всё это - частные лица. Значит распространение ИИ-мошенничества просто по необходимости устрожит культуру документооборота. А поскольку оно становится возможным уже сейчас, а не ВНЕЗАПНО с фантастического появления ASI аки вспышка сверхновой, то и время на адаптацию без катастрофического обвала - есть.
Что, где-то из-за этого уже экономический кризис грянул?
В условиях, например, военного конфликта эти самые точки атакуются постоянно и всеми способами какими только возможно. То есть давление естественного отбора тут максимальное. В его результате получаются наиболее стойкие системы. Внедрить их в критические места гражданской инфраструктуры - дело только административной воли. Когда жареный G. gallus начнёт поклёвывать пониже спины - те кто надо по необходимости зашевелятся везде.
Когда это было? В насколько крупной компании? И что там такого критичного давал этот доступ?Там, где дело идёт не о каком-то там доступе к услуге связи, к тому же одной из множества на рынке, а о реально важном - о деньгах - т.е. в случае банков - так там уже тыщу лет как есть 100500 разных авторизаций по "кодовым словам", уведомлениям, чтобы не сообщали коды однократного доступа даже сотрудникам банка и т.
Поэтому если какой алкаш всем расскажет, что Боря лжец, никак Пети соц.инженеру не повредит.
Любые ужесточения, сталкиваются с ленью, доверчивостью и другими негативными качествами людей.
От чего есть очень сильные пределы любого укрепления информационной безопасности.
Потому как заковав всё в оковы строжайших протоколов. Вы начинаете обнаруживать, что людям им следовать становится крайне лениво, от чего система безопасности быстро превращается в Швейцарский сыр.
Вспоминаем например как разрабатывался супер секретный, невероятно дорогой и чудо оружейный прицел для стратегических бомбардировщиков в США. Аналогично можно вспомнить атомный проект и тд.
Распилы, откаты и тд правят миром.
Тот же Стрелков недавно замечал. Что будь враг хоть капельку компетентным, то давно бы всех генералов в России перестреляли бы. Ведь даже какие то бомжы за обещание денег, успешно добираются до крайне важных ВИП лиц и шинкуют их свинцом успешно.
через Вайфай этого поезда, можно любой поезд в стране пустить с рельсов или даже все.
Естественный ответ РЖД
А ему и не нужно вредить, просто его план провалится или станет сильно затруднен. В случае со слухами источник слухов может быть вообще не важен, потому что пока информация пройдет цепочку "испорченного телефона", она будет настолько искажена. что от первоначального там не останется ничего.Все это - очередные сказки из серии НЛП и прочих проектов "Ультра".
Контрразведка от этих качеств способна отучать довольно неплохо, когда пернатое таки уклюнет реально, а не где-то там. Иногда даже ногами.
Они конечно давным-давно объективно определены и Вы нам сейчас покажете - где и как, да?
Потому как эти самые люди сознательно или подсознательно понимали, что в действительности их нарушение мало чем грозит не только им, но даже и их стране в целом - и история это вполне подтвердила.
Вы б ещё времена Царя Гороха вспомнили!Но даже тут - что характерно - никаких прям таки катастрофических событий от этих "нарушений условий содержания" в итоге не произошло! (Кстати: если бы СССР таки НЕ получил вовремя секреты ядрёной бонбы, то они может быть как раз таки и произошли бы - это к вопросу о полезности глобалистичной модели безопасности.)
И мир от этого ВНЕЗАПНО до сих пор не рухнул. Интересно почему?
Дадада - это ну очень экспертное мнение, беусловно. Инфа сотка, как говорится.
Замечательно. Какую реальную военную, политическую или коммерческую цель решает данная возможность, особенно с учётом того, что она, как и все подобные, в реальности может быть применена только однократно. Вспомните, как на самом деле распорядилась в моменте разведка Великобритании, когда получила от команды Тьюринга ключи к германским шифрам. В фильме это, кстати, наглядно показано - самый драматический момент там. Нам теперь постфакум рассказывают, что это в победу Союзников "ощинь балсой вклад внесло, насяльника!", но какой именно - по фактам что-то не очень показано было. Со стороны же выглядит, что они эту тайну хранили как ядерные боеголовки с ракетами потом в шахтах - покуда она не "протухла" потом в силу прогресса.
Компания, которая на данный момент по факту банкрот, очень много чего может сделать и исправить, ага.
Автор
Тема: Пределы автоматизации и внедрения роботов (Прочитано 606057 раз)
