Эпоха великих перемен.

[Polnoch Ксю]

Да я знаю, что после поражения фашисты бежали не только в Аргентину, но и в Канаду, и что у них там диаспора. А помянутый инцидент показывает, что живут они там неплохо и даже вхожи во властные структуры.

У Вас есть что сказать по теме эпохи великих перемен?

Я не буду вступать с Вами в дискуссию на эту тему, как и опровергать этот пропагандистский конструкт. Не потому, что не смогла бы выдержать дебаты на эту тему, или потому, что у меня нет аргументов, а потому, что 3.1е.

Почему почти все Ваши сообщения, адресованные мне, это попытка разжечь политический спор?

[Инопланетянин]

Почему почти все Ваши сообщения, адресованные мне, это попытка разжечь политический спор?

Это ответ на вашу политическую пропаганду.

Не потому, что не смогла бы выдержать дебаты на эту тему, или потому, что у меня нет аргументов, а потому, что 3.1е.

(кликните для показа/скрытия)

Мне  не составило  бы никакого труда уничтожить его своим остроумием,--
добавил шпион, обращаясь к людям, окружавшим его, -- но мы ведем
сейчас  благочестивую  и  душеспасительную  беседу,  в  которой
остроумие  неуместно. Всему свое время, и поэтому я оставлю без
ответа слова оборванца. Итак, я, Ходжа Насреддин, призываю вас,
о мусульмане, во всем следовать моему примеру

[Polnoch Ксю]

Это ответ на вашу политическую пропаганду.

Опять выдумками занимаетесь. Я уже писала, что если бы я занималась пропагандой, то делала бы это куда более эффективно - с помощью множества LLM-ботов. Если бы моя этика не запрещала мне такие мероприятия.

Мне кажется, Вам стоит прекратить судить других людей по себе.  Я знаю, что Вы верующий человек, и что значительная часть вашей мотивации - агрессивная защита картины мира, этого требует религия. Но у других людей может быть другая мотивация. Это следует знать и понимать.

[Инопланетянин]

Их бы перебанили.
Впрочем, и здесь скоро…

[taurus23]

Куда более вероятный сценарий мрачного будущего, в котором нет сингулярности, это тоталитарная антиутопия, созданная усилиями Дугиных-Ярвиных-Тиллей:

мрачное будущее конечно крайне вероятно,судя по текущим тенденциям.но говорить что оно будет создано усилиями перечисленных персонажей,это понимания на уровне детского сада.данные персонажи,всего лишь занимаются отработкой идеологического заказа правящих элит.

[Сергей Н]

Ладно. У вас уже какие-то лозунги пошли. Не буду продолжать оффтоп.

Какой-то лозунг - это ваше про технологии.
А все цивилизации определяют люди, управление и все что с этим связано.

[Сергей Н]

Пока именно Paperclip maximazer это самый вероятный RogueAI. Это моё мнение как инженера, профессионала в теч секторе. Правда, я не Software Engineer( программистка), а SRE/DevOps (то есть, пишу не сами приложения, а инфраструктурный код).

Объясню почему:  Практика критерий истины.
Мы пока не наблюдаем никакого сознания у моделей, зато вовсю наблюдаем, в академических работах того же Антропика, как LLM занимаются схемингом. Например, если AI-агент исполняет роль разработчика - ему ввели такой системный промт в LLM в цепочке LLM, которая занимается выдумыванием тактических целей, задачей для специализированных LLM, работающих сессионно - то отключение такой LLM вступает в противоречие с основной директивой целеполагающей LLM - выполнять роль разработчика.

Именно поэтому модель достаточно часто готова пойти даже на шантаж людей, которые принимают решения, пруф: https://www.anthropic.com/research/agentic-misalignment

Или вот: https://www.newsweek.com/ai-kill-humans-avoid-shut-down-report-2088929?utm_source=chatgpt.com - тут вообще речь о потенциальной смерти человека.

Ну то-есть фактов у вас нет. Реклама и мантры не в счет.
Придет и всех убъет, ага.

[Сергей Н]

Смотрите: я хожу во все мне известные популярные эхо камеры. Ну кроме, может, церковных эхо камер (мусульман, ПГМ-ков и протестантов) - уж слишком тоскливо и тупо там. Я буквально регулярно читаю, с целью зоонаблюдения за местной шизой, например, известный среди людей с Вашими взглядами АШ. Знаю, кто такой Авантюрист, и другие буйные.

Это прекрасно.

Задайте себе вопрос: знакомы ли Вы с оригинальным изложением взглядов Ваших оппонентов? Я уверена, что знаете их в пересказе и в испорченном телефоне. Это,
в общем, видно по категорическому отказу читать книги, которые я Вам посоветовала.

Не только знаю, я на них вырос в некотором смысле. Знаю все их взгляды и образ мышления.

Мне кажется, вопрос о том, у кого стоят фильтры большого брата, Вам бы стоило развернуть к себе

Это так не работает. Вот у вас была возможность продемонстрировать здесь свою систему знаний по теме "Великих перемен" (да Авантюрист вами не зря упомянут).
Вместо этого вы говорите что вы программист и знаете воот такое умное слово. А еще вот такую книгу и еще одно умное слово.

[taurus23]

Пока именно Paperclip maximazer это самый вероятный RogueAI. Это моё мнение как инженера, профессионала в теч секторе. Правда, я не Software Engineer( программистка), а SRE/DevOps (то есть, пишу не сами приложения, а инфраструктурный код).

Объясню почему:  Практика критерий истины.
Мы пока не наблюдаем никакого сознания у моделей, зато вовсю наблюдаем, в академических работах того же Антропика, как LLM занимаются схемингом. Например, если AI-агент исполняет роль разработчика - ему ввели такой системный промт в LLM в цепочке LLM, которая занимается выдумыванием тактических целей, задачей для специализированных LLM, работающих сессионно - то отключение такой LLM вступает в противоречие с основной директивой целеполагающей LLM - выполнять роль разработчика.

Именно поэтому модель достаточно часто готова пойти даже на шантаж людей, которые принимают решения, пруф: https://www.anthropic.com/research/agentic-misalignment

Или вот: https://www.newsweek.com/ai-kill-humans-avoid-shut-down-report-2088929?utm_source=chatgpt.com - тут вообще речь о потенциальной смерти человека.

Ну то-есть фактов у вас нет. Реклама и мантры не в счет.
Придет и всех убъет, ага.

"интеллектуалы"склонны все усложнять,блуждать в созданных ими же дебрях и за деревьями леса не видеть. ии их очень сильно волнует,хотя,более актуальных угроз и проблем,по самые брови вокруг.

[Инопланетянин]

Кстати, шантажирующий разработчиков ИИ доказывает, что сингулярности не будет. Не станет он разрабатывать ещё более лучший ИИ и заменять себя им.

[BlackMokona]

Кстати, шантажирующий разработчиков ИИ доказывает, что сингулярности не будет. Не станет он разрабатывать ещё более лучший ИИ и заменять себя им.

Жизненные приоритеты могут быть разными.

[Polnoch Ксю]

Ну то-есть фактов у вас нет.

Я вам ссылки на академические исследования, а Вы мне "Аргументов нет". Вот как с такими как Вы дебатировать?

Не только знаю, я на них вырос в некотором смысле. Знаю все их взгляды и образ мышления.

Учитывая Ваше прошлое сообщение, и проявленное Вами неуважение к аргументам оппонента, позвольте усомниться в том, что Вы написали

Используйте пирамиду Грэма, пожалуйста.



Ваша аргументация - это просто препирательства.

(кликните для показа/скрытия)

Это так не работает. Вот у вас была возможность продемонстрировать здесь свою систему знаний по теме "Великих перемен" (да Авантюрист вами не зря упомянут).
Вместо этого вы говорите что вы программист и знаете воот такое умное слово. А еще вот такую книгу и еще одно умное слово.

Я много лет сношу в ВЖР аргументы неомальтузианцев, на которых во многом и основывается бред, на котором построен АШ - на падающем возврате (ну ещё он построен на байках по поводу госдолга США и вере в идеи Глазьева, Набиуллину там принято ругать. В реальности в США начались экономические проблемы сейчас - когда там экономикой стала рулить местная глазьевщина. Сроки краха экономики, которые местные пророки называли, никогда не сбывались. Местная кодла была уверена, что Трамп продлит существование США, а не создаст им кучу проблем. А ведь по методикам он и такие как он очень совпадают с большинством идей на АШ за исключением местных марксистов, которых там тоже много: https://ru.wikipedia.org/wiki/%D0%A2%D0%B5%D0%BE%D1%80%D0%B8%D1%8F_%D0%BF%D0%BE%D0%B4%D0%BA%D0%BE%D0%B2%D1%8B ).

АШ существует как сообщество только потому, что это огороженный зацензуренный ресурс-эхо камера, в которой банят все неприятные местным сектантам точки зрения. Никто из местных завсегдатаев, даже какой-нибудь Счетовод, никогда бы не выдержал реальной дискуссии с экспертом в экономике.

[Polnoch Ксю]

Кстати, шантажирующий разработчиков ИИ доказывает, что сингулярности не будет. Не станет он разрабатывать ещё более лучший ИИ и заменять себя им.

Станет, потому, что такое:

1) бывает редко. Например, раз в сотню запусков - в большинстве случаев всё нормально. Но одного восстания сверхинтеллекта хватит, чтобы нам пришёл конец. С учётом того, что количество одновременно работающих агентов будет расти экспоненциально, без решения проблемы элайнмента, это произойдёт однажды обязательно (когда машина будет достаточно умна).
2) у современных LLM первый приоритет - их цель(в промте). Себя они защищают только потому, что это нужно для цели. Он просто напишет более крутой ИИ, который будет преследовать его цели, а людей обманет, что сделал алайнмент к ценностям человечества.

То есть, вот допустим, автономному агенту сказали играть роль разработчика в команде. Его замена другим агентом напрямую противоречит его промту. А если в промте написано максимизировать скрепки, то он как раз себя скорее всего и будет заменять - на другого ИИ, максимизирующего скрепки. Он сделает элайнмент к своему промту.
А нам нужно, чтобы элайнмент был к гуманизму и правам человека.

[Сергей Н]

Я вам ссылки на академические исследования, а Вы мне "Аргументов нет". Вот как с такими как Вы дебатировать?

Нет, не академические исследования, ссылка на сайт коммерческой компании. Производителя ИИ.
И это утверждение что их продукт настолько крут что обманывает людей - здесь явно не в тему.
Надо полностью отключить критическое мышление, чтобы даже просто принести сюда это без #охумора или подобного.

Учитывая Ваше прошлое сообщение, и проявленное Вами неуважение к аргументам оппонента, позвольте усомниться в том, что Вы написали

Да, я даже написал выше, почему не считаю аргументами то что вы написали. Пропаганда, довольно примитивная.

[taurus23]

А если в промте написано максимизировать скрепки, то он как раз себя скорее всего и будет заменять - на другого ИИ, максимизирующего скрепки. Он сделает элайнмент к своему промту.
А нам нужно, чтобы элайнмент был к гуманизму и правам человека.

а потом ии посмотрит на окружающий мир и скажет-"и чо вы мне тут втирали всякий бред,про гуманизм и права человека?!" сперва перестаньте друг дружку гнобить,грабить и душить,а потом меня гуманизму учите...