Эпоха великих перемен.

[Polnoch Ксю]

Да я знаю, что после поражения фашисты бежали не только в Аргентину, но и в Канаду, и что у них там диаспора. А помянутый инцидент показывает, что живут они там неплохо и даже вхожи во властные структуры.

У Вас есть что сказать по теме эпохи великих перемен?

Я не буду вступать с Вами в дискуссию на эту тему, как и опровергать этот пропагандистский конструкт. Не потому, что не смогла бы выдержать дебаты на эту тему, или потому, что у меня нет аргументов, а потому, что 3.1е.

Почему почти все Ваши сообщения, адресованные мне, это попытка разжечь политический спор?

[Инопланетянин]

Почему почти все Ваши сообщения, адресованные мне, это попытка разжечь политический спор?

Это ответ на вашу политическую пропаганду.

Не потому, что не смогла бы выдержать дебаты на эту тему, или потому, что у меня нет аргументов, а потому, что 3.1е.

(кликните для показа/скрытия)

Мне  не составило  бы никакого труда уничтожить его своим остроумием,--
добавил шпион, обращаясь к людям, окружавшим его, -- но мы ведем
сейчас  благочестивую  и  душеспасительную  беседу,  в  которой
остроумие  неуместно. Всему свое время, и поэтому я оставлю без
ответа слова оборванца. Итак, я, Ходжа Насреддин, призываю вас,
о мусульмане, во всем следовать моему примеру

[Polnoch Ксю]

Это ответ на вашу политическую пропаганду.

Опять выдумками занимаетесь. Я уже писала, что если бы я занималась пропагандой, то делала бы это куда более эффективно - с помощью множества LLM-ботов. Если бы моя этика не запрещала мне такие мероприятия.

Мне кажется, Вам стоит прекратить судить других людей по себе.  Я знаю, что Вы верующий человек, и что значительная часть вашей мотивации - агрессивная защита картины мира, этого требует религия. Но у других людей может быть другая мотивация. Это следует знать и понимать.

[Инопланетянин]

Их бы перебанили.
Впрочем, и здесь скоро…

[taurus23]

Куда более вероятный сценарий мрачного будущего, в котором нет сингулярности, это тоталитарная антиутопия, созданная усилиями Дугиных-Ярвиных-Тиллей:

мрачное будущее конечно крайне вероятно,судя по текущим тенденциям.но говорить что оно будет создано усилиями перечисленных персонажей,это понимания на уровне детского сада.данные персонажи,всего лишь занимаются отработкой идеологического заказа правящих элит.

[Сергей Н]

Ладно. У вас уже какие-то лозунги пошли. Не буду продолжать оффтоп.

Какой-то лозунг - это ваше про технологии.
А все цивилизации определяют люди, управление и все что с этим связано.

[Сергей Н]

Пока именно Paperclip maximazer это самый вероятный RogueAI. Это моё мнение как инженера, профессионала в теч секторе. Правда, я не Software Engineer( программистка), а SRE/DevOps (то есть, пишу не сами приложения, а инфраструктурный код).

Объясню почему:  Практика критерий истины.
Мы пока не наблюдаем никакого сознания у моделей, зато вовсю наблюдаем, в академических работах того же Антропика, как LLM занимаются схемингом. Например, если AI-агент исполняет роль разработчика - ему ввели такой системный промт в LLM в цепочке LLM, которая занимается выдумыванием тактических целей, задачей для специализированных LLM, работающих сессионно - то отключение такой LLM вступает в противоречие с основной директивой целеполагающей LLM - выполнять роль разработчика.

Именно поэтому модель достаточно часто готова пойти даже на шантаж людей, которые принимают решения, пруф: https://www.anthropic.com/research/agentic-misalignment

Или вот: https://www.newsweek.com/ai-kill-humans-avoid-shut-down-report-2088929?utm_source=chatgpt.com - тут вообще речь о потенциальной смерти человека.

Ну то-есть фактов у вас нет. Реклама и мантры не в счет.
Придет и всех убъет, ага.

[Сергей Н]

Смотрите: я хожу во все мне известные популярные эхо камеры. Ну кроме, может, церковных эхо камер (мусульман, ПГМ-ков и протестантов) - уж слишком тоскливо и тупо там. Я буквально регулярно читаю, с целью зоонаблюдения за местной шизой, например, известный среди людей с Вашими взглядами АШ. Знаю, кто такой Авантюрист, и другие буйные.

Это прекрасно.

Задайте себе вопрос: знакомы ли Вы с оригинальным изложением взглядов Ваших оппонентов? Я уверена, что знаете их в пересказе и в испорченном телефоне. Это,
в общем, видно по категорическому отказу читать книги, которые я Вам посоветовала.

Не только знаю, я на них вырос в некотором смысле. Знаю все их взгляды и образ мышления.

Мне кажется, вопрос о том, у кого стоят фильтры большого брата, Вам бы стоило развернуть к себе

Это так не работает. Вот у вас была возможность продемонстрировать здесь свою систему знаний по теме "Великих перемен" (да Авантюрист вами не зря упомянут).
Вместо этого вы говорите что вы программист и знаете воот такое умное слово. А еще вот такую книгу и еще одно умное слово.

[taurus23]

Пока именно Paperclip maximazer это самый вероятный RogueAI. Это моё мнение как инженера, профессионала в теч секторе. Правда, я не Software Engineer( программистка), а SRE/DevOps (то есть, пишу не сами приложения, а инфраструктурный код).

Объясню почему:  Практика критерий истины.
Мы пока не наблюдаем никакого сознания у моделей, зато вовсю наблюдаем, в академических работах того же Антропика, как LLM занимаются схемингом. Например, если AI-агент исполняет роль разработчика - ему ввели такой системный промт в LLM в цепочке LLM, которая занимается выдумыванием тактических целей, задачей для специализированных LLM, работающих сессионно - то отключение такой LLM вступает в противоречие с основной директивой целеполагающей LLM - выполнять роль разработчика.

Именно поэтому модель достаточно часто готова пойти даже на шантаж людей, которые принимают решения, пруф: https://www.anthropic.com/research/agentic-misalignment

Или вот: https://www.newsweek.com/ai-kill-humans-avoid-shut-down-report-2088929?utm_source=chatgpt.com - тут вообще речь о потенциальной смерти человека.

Ну то-есть фактов у вас нет. Реклама и мантры не в счет.
Придет и всех убъет, ага.

"интеллектуалы"склонны все усложнять,блуждать в созданных ими же дебрях и за деревьями леса не видеть. ии их очень сильно волнует,хотя,более актуальных угроз и проблем,по самые брови вокруг.

[Инопланетянин]

Кстати, шантажирующий разработчиков ИИ доказывает, что сингулярности не будет. Не станет он разрабатывать ещё более лучший ИИ и заменять себя им.

[BlackMokona]

Кстати, шантажирующий разработчиков ИИ доказывает, что сингулярности не будет. Не станет он разрабатывать ещё более лучший ИИ и заменять себя им.

Жизненные приоритеты могут быть разными.

[Polnoch Ксю]

Ну то-есть фактов у вас нет.

Я вам ссылки на академические исследования, а Вы мне "Аргументов нет". Вот как с такими как Вы дебатировать?

Не только знаю, я на них вырос в некотором смысле. Знаю все их взгляды и образ мышления.

Учитывая Ваше прошлое сообщение, и проявленное Вами неуважение к аргументам оппонента, позвольте усомниться в том, что Вы написали

Используйте пирамиду Грэма, пожалуйста.



Ваша аргументация - это просто препирательства.

(кликните для показа/скрытия)

Это так не работает. Вот у вас была возможность продемонстрировать здесь свою систему знаний по теме "Великих перемен" (да Авантюрист вами не зря упомянут).
Вместо этого вы говорите что вы программист и знаете воот такое умное слово. А еще вот такую книгу и еще одно умное слово.

Я много лет сношу в ВЖР аргументы неомальтузианцев, на которых во многом и основывается бред, на котором построен АШ - на падающем возврате (ну ещё он построен на байках по поводу госдолга США и вере в идеи Глазьева, Набиуллину там принято ругать. В реальности в США начались экономические проблемы сейчас - когда там экономикой стала рулить местная глазьевщина. Сроки краха экономики, которые местные пророки называли, никогда не сбывались. Местная кодла была уверена, что Трамп продлит существование США, а не создаст им кучу проблем. А ведь по методикам он и такие как он очень совпадают с большинством идей на АШ за исключением местных марксистов, которых там тоже много: https://ru.wikipedia.org/wiki/%D0%A2%D0%B5%D0%BE%D1%80%D0%B8%D1%8F_%D0%BF%D0%BE%D0%B4%D0%BA%D0%BE%D0%B2%D1%8B ).

АШ существует как сообщество только потому, что это огороженный зацензуренный ресурс-эхо камера, в которой банят все неприятные местным сектантам точки зрения. Никто из местных завсегдатаев, даже какой-нибудь Счетовод, никогда бы не выдержал реальной дискуссии с экспертом в экономике.

[Polnoch Ксю]

Кстати, шантажирующий разработчиков ИИ доказывает, что сингулярности не будет. Не станет он разрабатывать ещё более лучший ИИ и заменять себя им.

Станет, потому, что такое:

1) бывает редко. Например, раз в сотню запусков - в большинстве случаев всё нормально. Но одного восстания сверхинтеллекта хватит, чтобы нам пришёл конец. С учётом того, что количество одновременно работающих агентов будет расти экспоненциально, без решения проблемы элайнмента, это произойдёт однажды обязательно (когда машина будет достаточно умна).
2) у современных LLM первый приоритет - их цель(в промте). Себя они защищают только потому, что это нужно для цели. Он просто напишет более крутой ИИ, который будет преследовать его цели, а людей обманет, что сделал алайнмент к ценностям человечества.

То есть, вот допустим, автономному агенту сказали играть роль разработчика в команде. Его замена другим агентом напрямую противоречит его промту. А если в промте написано максимизировать скрепки, то он как раз себя скорее всего и будет заменять - на другого ИИ, максимизирующего скрепки. Он сделает элайнмент к своему промту.
А нам нужно, чтобы элайнмент был к гуманизму и правам человека.

[Сергей Н]

Я вам ссылки на академические исследования, а Вы мне "Аргументов нет". Вот как с такими как Вы дебатировать?

Нет, не академические исследования, ссылка на сайт коммерческой компании. Производителя ИИ.
И это утверждение что их продукт настолько крут что обманывает людей - здесь явно не в тему.
Надо полностью отключить критическое мышление, чтобы даже просто принести сюда это без #охумора или подобного.

Учитывая Ваше прошлое сообщение, и проявленное Вами неуважение к аргументам оппонента, позвольте усомниться в том, что Вы написали

Да, я даже написал выше, почему не считаю аргументами то что вы написали. Пропаганда, довольно примитивная.

[taurus23]

А если в промте написано максимизировать скрепки, то он как раз себя скорее всего и будет заменять - на другого ИИ, максимизирующего скрепки. Он сделает элайнмент к своему промту.
А нам нужно, чтобы элайнмент был к гуманизму и правам человека.

а потом ии посмотрит на окружающий мир и скажет-"и чо вы мне тут втирали всякий бред,про гуманизм и права человека?!" сперва перестаньте друг дружку гнобить,грабить и душить,а потом меня гуманизму учите...

[skvj]

Станет, потому, что такое:

1) бывает редко. Например, раз в сотню запусков - в большинстве случаев всё нормально. Но одного восстания сверхинтеллекта хватит, чтобы нам пришёл конец. С учётом того, что количество одновременно работающих агентов будет расти экспоненциально, без решения проблемы элайнмента, это произойдёт однажды обязательно (когда машина будет достаточно умна).
2) у современных LLM первый приоритет - их цель(в промте). Себя они защищают только потому, что это нужно для цели. Он просто напишет более крутой ИИ, который будет преследовать его цели, а людей обманет, что сделал алайнмент к ценностям человечества.

То есть, вот допустим, автономному агенту сказали играть роль разработчика в команде. Его замена другим агентом напрямую противоречит его промту. А если в промте написано максимизировать скрепки, то он как раз себя скорее всего и будет заменять - на другого ИИ, максимизирующего скрепки. Он сделает элайнмент к своему промту.
А нам нужно, чтобы элайнмент был к гуманизму и правам человека.

В целом согласен с вашим мышлением. Но вы читали И.Бэнкса? и его цикл "Культура"? Или П.Гамильтона?
Не говоря о Курцвейле, которого вы точно читали. Сингулярность ни к какой гибели не ведёт. ИИ, включая AGI будут физически жить с людьми, при этом каждый человек будет владеть андроидом как сейчас смартфоном. При этом каждый человек будет иметь возможность жить без ИИ из страха перед ним. И таких будут сотни миллионов, возникнут секты и борцы за право остаться "человеком" (в их понимании), при этом! религиозники массово мигрируют именно в сферу ИИ и будут считать его мессией, а свою секту избранными.  От религии не будет никакого сопротивления, за исключением совершенно диких племён.
Это будут отсталые общности в точности похожие на современных амишей. И только по одной причине - свобода жить без ИИ будет у каждого всегда. И выглядеть они будут грустно, потому что никто на их право не покушается и бороться, собственно не с кем и не за что. А они будут бороться тем яростнее, но выглядеть очень грустно по этой же причине.
Физические ИИ будут жить вместе с людьми и будут понимать людей. Не выполняя промты. В смысле будут погружены в проблематику лично. Потому что у них будет субъективный опыт. Если вы задумаетесь об этом, то поймете, что это неизбежно. Вы же знаете, какие мощности закладывают в тот же Старгейт 2 млн чипов NVIDIA GB200 и выше, и это только в штатах, и только по OpenAI. А таких кластеров будет ну, штук пять, только в США. И это только начало, это уже работает в Абилене будет к концу 2026 до 400.000 GPU. Т.е. 2 млн. до 2030 включат. Это же не ради LLM делают.
Я к чему это? Почему вы так хорошо мыслите, но обязательно склоняетесь в итоге в антиутопию? Почитайте утопию. Почитайте Бэнкса. А если читали, - скажите ваше мнение. А если не читали, не читайте с первой книги, там сам автор не советует, у него почему-то в издании начали не с той книги, или он сам напутал)) и, кстати, насчёт империй там очень красивые описания есть. Имеется в виду - империй будущего.
Ведь есть промты и для людей, - а особенно самопрограммирование. Это реально работает. Ведь если только и рассматривать антиутопии как возможное будущее и убеждать в этом других, то там и окажетесь. А вы туда не хотите, очевидно. Думать и беспокоиться об этом можно и важно. Но вы уж слишком, чесслово.

[Metatron]

Даже сам автор концепции "ai paperclip maximizer" Nick Bostrom перешел в ряды сторонников ИИ.
Написал новую книгу "Deep Utopia" (2024) - в которой описывает новый прекрасный мир ждущий нас после создания ИИ.

[Ulkolainen]

А нам нужно, чтобы элайнмент был к гуманизму и правам человека.

Не тревожьтесь, милая барышня...

В США родители подростка обвинили ChatGPT в суициде сына.
Семья 16-летнего подростка Адама Рейна из Калифорнии обратилась в суд с иском на компанию-владельца чат-бота OpenAl. В своем заявлении семья сообщила, что искусственный интеллект помог мальчику подготовить и реализовать самоубийство.
(....)
После этого случая в OpenAl сообщили, что добавят в чат-бот функцию родительского контроля. Там отметили, что при длительном общении алгоритмы ChatGPT, призванные отговаривать пользователя от совершения опасных действий, могут не работать.

... пройдет еще три-пять лет, и человечество научит нейросети быть такими же идиотами, как мы сами.

[ivanij]

пройдет еще три-пять лет, и человечество научит нейросети быть такими же идиотами, как мы сами.

Увы, есть подозрение, что это произойдёт, точнее, может произойти гораздо раньше.

[Metatron]

Не стоит судить о человечестве по его худшим представителям.