Пределы автоматизации и внедрения роботов

[Polnoch Ксю]

Ну тогда в вашей иерархии, он занимает место ниже Маска,

У него палантир и огромные ресурсы влияния

А почему нет?

Да с чего вообще? Это как надежда, что если уран достигнет критической массы, что ничего не произойдёт. С чего вы все это берёте? Я не понимаю, правда.

Сейчас в мире уже десятки тысяч агентов. Те, что служат нам - продолжат просто выполнять то, что они обычно делают - ну там баги фиксить для программистов, фичи писать и презентации с графиками рисовать для топ-менеджеров.

А вот вероятность успеха бунта растёт тем больше, чем модель умнее и чем больше агентов. И чем меньше моделей на рынке (проще сломать агенты промт инъекциями и забрать себе компьют).

[BlackMokona]

У него палантир и огромные ресурсы влияния

У Маска тоже всё это есть, но ещё есть рабочие нейроимпланты и машины для их полностью автоматической установки

[Polnoch Ксю]

У Маска тоже всё это есть, но ещё есть рабочие нейроимпланты и машины для их полностью автоматической установки

предлагаю кстати задуматься над тем фактом, у Тилль и Маск друзья - часть пейпал мафии. А так же перестать игнорировать разные сигналы - например, о том, что он делал дважды рукой за несколько минут. И что именно он постоянно твиттит. А ещё вспомнить, почему его дедушка уехал из либеральной Канады в сегрегационный ЮАР.

[Olweg]

Да с чего вообще? Это как надежда, что если уран достигнет критической массы, что ничего не произойдёт. С чего вы все это берёте? Я не понимаю, правда.

Credo quia absurdum.

А ещё вспомнить, почему его дедушка уехал из либеральной Канады в сегрегационный ЮАР.

Внук за деда не в ответе

[Polnoch Ксю]

Credo quia absurdum.

но почему?

Внук за деда не в ответе

Тоже так думала до того, как он начал делать то, что делает. До года 2023го где-то - тогда и закрались первые сомнения.

[Olweg]

но почему?

Потому что хочется сохранять хоть какой-то оптимизм. К тому же за последние годы я пришёл к твёрдому убеждению, что любые прогнозы - штука неблагодарная. Правда, по иронии, прогноз сингулярности к 2027, про который я читал чуть ли не двадцать лет назад, похоже, сбывается. Но вот как она пойдёт - думаю, мы не сможем угадать. Так что у меня подход, наверное, такой, агностический.

[BlackMokona]

Предлагаю кстати подумать над тем фактом, что Тилль и Маск друзья - часть пейпал мафии

Вы забыли, что Маска выгнали из икс.ком, который потом переименовали в Пейпал и продали?
Тем самым разверните на 180 градусов их отношения, Маск ненавидит Тиля. 
Маск куда за меньшие прегрешения, людей обзывал публично. А тут у него крайне перспективный бизнес отжали на его взлете.

[BlackMokona]

В целом есть полная аналогия. Маск и Альтман. Тоже втерся в доверие и бизнес отжал перспективный

[Vitaliy]

Что тут?
 

[Metatron]

Антропик - единственную этичную компанию

По некоторым данным Claude (созданная вашей этичной Антропик) - использовалась при определении целей для удара в Иране. И именно она включила иранскую школу в список целей.

Т.е Антропик виновата в гибели иранских детей.

[Metatron]

перестать игнорировать разные сигналы - например, о том, что он делал дважды рукой

Глубина аналитики подавляет. Надо же - он два раза махнул рукой похоже на что-то там.
Если вы все свои анализы делаете на основе таких фактов...

[BlackMokona]

Т.е Антропик виновата в гибели иранских детей.

Антропик на это разрешение Пентагону не давали и как раз как они узнали, что Клауда использовали для планирования военной операции в Венесуэле и пошёл весь этот [----] да конфликт. От чего Антропик исключили из военных цепочек.

Ну и по школе там и человек бы попал. Она там буквально на территории военной базы КСИР, а так же была зданием этой базы недавно. Идиотизм некоторых людей запредельный, что ни одна нейросеть не превзойдёт

[Polnoch Ксю]

Что тут

ютьюб. Великое достижение эпохи глобального мира.

[Metatron]

Антропик на это разрешение Пентагону не давали

А как только узнали что их отлучили от военной кормушки, то тут же со слезами на глазах стали проситься обратно, пообещав засунуть свою этичность куда подальше...

[BlackMokona]

Антропик на это разрешение Пентагону не давали

А как только узнали что их отлучили от военной кормушки, то тут же со слезами на глазах стали проситься обратно, пообещав засунуть свою этичность куда подальше...

А это уже после разговора с инвесторами, тут мало какая принципиальность может пережить

[Polnoch Ксю]

А как только узнали что их отлучили от военной кормушки,

Военная кормушка маленькая по сравнению с общим рынком. Речь об ультиматуме - объявлении угрозой цепочке поставок - чтобы подрядчики пентагона не могли использовать клод. Представьте себе форд - делает машины для гражданского рынка, и военные грузовики. Если использует клод - станет угрозой поставок, и армия США откажется покупать грузовики клод, из-за того, что клод используется фордом.

[Polnoch Ксю]

(кликните для показа/скрытия)

Глубина аналитики подавляет.

я бы и твиттов накидала, но это очевидно будет против правил. Я думаю только слепцы могут не видеть, что он заигрывает с теми, кого в Северной Америке называют white nationalists.

[Trend]

Но вот уровень Галлюцинаций, у него самый низкий на рынке

Потому что он хоть гуглить не ленится. ChatGPT галлюционирует даже тогда, когда на Википедии в соотвествующей статье по теме давно все расписано.

У меня лично сейчас ощущение, как на той известной картинке - в процессе перехода от «ух ты, GPT может понять, кто кому в тексте про семью приходится!» до «ЧЗХ?». Честно говоря, если раньше новости об ИИ вызывали энтузиазм и интерес, то теперь читаю про все эти агенты с чувством неясной тревоги, причём тревога эта уже не о чём-то отдалённом и абстрактном, а о вполне осязаемом и происходящем здесь и сейчас. Будущее наступило.

Я недавно ChatGPT спрашивал какие из советских/российских космонавтов отдалялись дальше всего от Земли (сам я ответ давно знаю и это один из самых забавных фактов из космонавтики), так он мне чуши наплел, что в экспедиции «Союз — Аполлон» они улетали на тысячи километров от Земли.

[Polnoch Ксю]

Я недавно ChatGPT спрашивал какие из советских/российских космонавтов отдалялись дальше всего от Земли (сам я ответ давно знаю и это один из самых забавных фактов из космонавтики), так он мне чуши наплел, что в экспедиции «Союз — Аполлон» они улетали на тысячи километров от Земли.

Этот ответ тоже неправильный?
https://chatgpt.com/share/69b3314e-bf34-800d-9acf-94b8245eda62

У какой модели спрашивали? Если нужен прям важный вопрос - лучше спрашивать у gpt-5.4 pro или у дипресёча. Мне было лень ждать ответа от pro, так что спросила у thinking, поставив heavy режим размышлений - чтобы бюджет на токены был больше у модели.

и это один из самых забавных фактов из космонавтики

Если ответ правильный, это из-за того, что Беляев использовал ручное управление ТДУ для посадки?

[Olweg]

Я недавно ChatGPT спрашивал какие из советских/российских космонавтов отдалялись дальше всего от Земли (сам я ответ давно знаю и это один из самых забавных фактов из космонавтики), так он мне чуши наплел, что в экспедиции «Союз — Аполлон» они улетали на тысячи километров от Земли.

Это пока один из главных сдерживающих факторов. В любом случае, как уже написала Ксю, зависит от конкретного инструмента. Мультиагентный подход, по идее, позволяет бороться с глюками за счёт доп.контроля.