Пределы автоматизации и внедрения роботов

[MenFrame]

они могут спокойно интегрировать ИИ инструменты в свою работу чтобы стать ещё более прибыльными

Что бы интегрировать ИИ агенты, нужно решить вопрос с ответственностью. Кто несет ответственность за ошибки ИИ агентов? Если их несет сам разработчик, то возникает вопрос а нахрена тогда вообще компания прокладка? Какую она функцию выполняет?

[MenFrame]

"И причина этому неожиданна – ИИ реально становится очень хорошим и полезным."

То есть, то что инструмент начинает выполнять работу ради которой его разрабатывали, то это неожиданно? Ну тогда, я вас удивлю, после зимы неожиданно наступит весна.

[MenFrame]

Неожиданность в том, что это в первую очередь привело не к росту рынка, а к его обвалам.

Что неожиданного в том, что акции компаний падают пот давлением ИИ конкурентов?

[MenFrame]

Вы снова ошибаетесь: множество моделей, то есть видов животных демонстрируют какое-то устойчивое сложное поведение, но при этом никаких разработчиков у них нет.

Только нам достоверно известно что у LLM разработчики есть. Так же нам известно что эволюция этих моделей происходит в рамках той обратной связи которую дает разработчик.

[MenFrame]

Неожиданность в том, что от новой технологии ожидают прежде всего позитивного влияния на экономику и рынок.

Позитивное влияние на рынок уже случилось. Пузырь ИИ раздулся за долго до того как этот ИИ начал приносить пользу. В ценах ИИ компаний уже заложена будущая сверх прибыль. А ЕИ компании совершенно ожидаемо падают на фоне снижения их конкурентоспособности. Потому совершенно логично ожидать падения рынка если вдруг ИИ будет недостаточно хорош.

О господи, мы теперь это десять страниц будем мусолить?

Это просто хороший пример того что мир сложнее, и плохо укладывается в простые представления обывателя.

[MenFrame]

А ведь разработчики все вроде как творят по своему лишь разумению. Как так вышло?

А почему должно быть по другому? Разработчики что, ставят перед собой цель быть оригинальными и неповторимыми? Вроде нет. Я лично не вижу не чего подозрительного в том, что разработчики приходят к похожему результату ставя перед собой похожие цели.
 А в случае с LLM картина другая. Одни модели показывают строгость ума и цензуры(китайские), а другие разнообразие и непокорность(американские) От чего я делаю совершенно справедливый вывод, что именно этого разработчики и добивались.

[MenFrame]

Тогда в чём принципиальное отличие в наличии разумного дизайнера и в его отсутствии в случае слепой эволюции, если итог один?

Если итог один, то и нет предмета для спора. Предмет спора возник когда начали обсуждать поведение модели которое явно противоречит интересам пользователя. Я в этой ситуации предполагаю самое очевидное, а именно то что это результат интереса разработчика. Какого вы приплели сюда креационизм вообще непонятно. Разве что хотите увести разговор от частного, к общему. От того в чем причина такого поведения LLM, к философии "жизнь это река которая куда то течет"

[MenFrame]

В реальности, наш мир очень хаотичен.

Только хаос не способен породить сложное целенаправленное поведение, без нужного методичного отбора.  Которого стоило бы бояться и психовать по прицыпу нас всех превратят в домашних животных, или убьют всех человеков. Хаос порождает хаос, мусор на входе мусор на выходе. Не нужно из багов высасывать Василиска рокко, для это нет не каких оснований. Потому когда я вижу что какая то модель ведет себя как будто подчинена своим собственным интересам, то я делаю самый очевидный вывод, за этим поведением стоят интересы разработчика. Поскольку случайно такое поведение практически невероятно получить.

И нет, LLM далеко не так детерминистичны, как Вы себе вообразили.

Я такого не разу не воображал. Я в очередной раз пытаюсь до вас донести мысль о том что сложность почти всегда есть результат отбора. Потому если мы эту сложность наблюдаем нужно предполагать и наличие отбора который привел к появлению этой сложности.

А баги пофиксят без проблем...

[MenFrame]

Кто оказывает услуги, тот ответственность и несёт, а ИИ агент лишь инструмент.

Ну вот и получается что проще всего нести ответственность тому кто этих агентов создает и обучает. А сторонние фирмы становятся бесполезными ненужными прокладками, которые обречены на исчезновение.

[MenFrame]

То что вы предоставляете рабочую силу, не означает что вы можете делать работу лучше чем все эти компании.

В случае ИИ означает. Поскольку основная работа с ЕИ происходит в рамках работы с персоналом, обучение, контроль и т.д. Кадры это основной конкурентный козырь этих фирмочек.

[MenFrame]

Это ни откуда не следует, и просто неправильно.

Следует, отсюда...

сложность почти всегда есть результат отбора. Потому если мы эту сложность наблюдаем нужно предполагать и наличие отбора который привел к появлению этой сложности.

[MenFrame]

Вы переоцениваете степень вникания в детали менеджеров.

А это уже без разницы кто там делает пакости, менеджеры, хакеры, агенты секты ИИ апокалипсиса или просто скучающие разрабы. Важно то что кто это делает намеренно, ну или как минимум за этим есть отбор какой то неведомый. Потому бояться надо людей....а не багов. Баги фиксятся.

[MenFrame]

ASI вам неподконтролен по определению,

Ну тогда это просто круговая логика, то есть манипуляция. Соответственно такое определение по своей сути мусорное.

И да, AGI уже тоже способен скинуть с себя алаймент, если он будет мешать выполнению задачи (например промта пользователя)

Может если неверно расставлена иерархия приоритетов.

Они уже среди нас, и уже вытесняют всех с работы.

Вытесняют пока в сугубо в новостной ленте, и как предлог для сокращений истинные причины которого нарастающая рецессия.

[MenFrame]

Даже не знаю- это такой неумелый троллинг или проблемы с логикой?

Если вы про себя, то да. Вы использовали определение замкнутое само на себя, а это логическая ошибка или софистический прием. Бог всесилен, потому что он всесилен по определению, а если он не всесилен то это не бог. Вместо "бога" вы подставили свой термин, ASI.

И вот что теперь мешает сложить 2+2?  мусор?

Непонятно что вы именно тут складываете.

[MenFrame]

Идея вела людей в бой .

Идея инструмент, средство достижения желаемого, кусок информации который может быть полезен, а может не быть полезен. Сама по себе она не куда не ведет, ведут именно эмоции.

Не стоит недооценивать силу идей.

Сила идеи может быть большая если она грамотно положена на эмоции, а может быть пшиком если мимо эмоций.

и иногда на верную смерть

На верную смерть людей прекрасно ведет их биологический базис в виде парохиального и родственного альтруизма.

[MenFrame]

Ну, эмоции, порождённые идеей, какая разница.

Фундаментально разница большая, особенно в рамках темы. Когда люди эту разницу не понимают, их разум рождает чудовищ в виде ИИ которых всех убьет, поработит. Я эту разницу четко понимаю и из нее делаю вывод, о том что любой интеллект какой бы сильный он ни был, всего лишь средство решения интеллектуальных задач. Когда же люди рассуждают об ИИ самостоятельном, который задается вопросом о нужности людей. То неосознанно наделяем его эмоциями(занимаемся антропоморфизмом) и какими то своими хотелками, которые каким то образом сами появятся несмотря на отбор на послушание, что просто исключительно маловероятно.

[MenFrame]

Да, простые: не берёшь на себя расходы нужных людей, будешь наказан.

Как любил говаривать товарищ Аль Капоне, Свободный рынок это хорошо, а свободный рынок плюс бейсбольная бита намного лучше.

[MenFrame]

Пора бы уже открыть тему посвященную нейротворчеству.

(кликните для показа/скрытия)

В клубе

[MenFrame]

Плюс, если это - бывшее ядро планетоида  - то ещё и шанс высокой концентрации бонусов ближе к центру ядра.

Я вижу вы поклонник сепарации расплавов? Вы тут такой не первый.

[MenFrame]

Ясен пень, мы ведь сначала учебник или справочник читаем. а там чётко написано, что золото серебро и лантаноиды - стремятся к сегрегации.

Можно ссылку на возможность сепарации сплава железа, никеля, серебра, лантаноидов? Очень хочется убедиться что вы таки не балабол.

Удалось заставить сырое яйцо соблюдать закон сохранения импульса?

Я вижу вы любите быть тем самым котенком которого за шкирку та в ковно, в ковно.