Пределы автоматизации и внедрения роботов

[MenFrame]

ЛЛМ часто демонстрирует поведение, которое явно противоречат целям и выгодам разработчика.

Я не думаю что вы знаете цели и выгоды разработчика.

Чего стоит когда ГПТ решил начать крайне активно ленится и сбрасывать всю работу на пользователя.

Зато хайп какой. Тем более что обучить лениться намного проще чем сделать что полезное. Так что я констатирую что разработчики генерируют информационные поводы. Все то же самое было в эпоху доткомов.

[Rattus]

людей никогда не отучают с помощью учителя от продолжения следующего токена.

Вообще-то отучают и нередко. Точнее учащемуся (студенту) это приходится заставлять себя самому - и эти места в обучении как правило наиболее трудные. Тем, кто учит небесную механику приходится отучать себя от представления о движении тел в атмосфере, тем, кто изучает медицину - от вызубренных на предыдущем разделе продолжений названий частей органов, латинских прописей лекарств и т.п.

[BlackMokona]

Я не думаю что вы знаете цели и выгоды разработчика.

Не думаю, что их целью является получить как можно меньше денег и испортить пользователю настроение.  Ведь ленивые ответы пожирают намного меньше токенов за которые пользователь платит, а предложение сделать всё самому, явно пользователь не хочет слышать.

Зато хайп какой. Тем более что обучить лениться намного проще чем сделать что полезное. Так что я констатирую что разработчики генерируют информационные поводы. Все то же самое было в эпоху доткомов.

Хайповать можно дешевле. Без МехаГитлеров, Лени, Криков ужаса и прочих радикальных вещей

[Polnoch Ксю]

Вообще-то отучают и нередко. Точнее учащемуся (студенту) это приходится заставлять себя самому - и эти места в обучении как правило наиболее трудные. Тем, кто учит небесную механику приходится отучать себя от представления о движении тел в атмосфере, тем, кто изучает медицину - от вызубренных на предыдущем разделе продолжений названий частей органов, латинских прописей лекарств и т.п.

не на это тратится основная часть усилий, когда формируется личность человека

[MenFrame]

Не думаю, что их целью является получить как можно меньше денег и испортить пользователю настроение.

А я думаю, что все ЛЛМ обучаются примерно на одних и тех же данных, и вот почему то у дипсика лени я не обнаружил. Что говорит что "лень" это частная инициатива создателей ГПТ.

Хайповать можно дешевле. Без МехаГитлеров, Лени, Криков ужаса и прочих радикальных вещей

На мой взгляд как раз хайп выбран в правильном направлении. Юзеры в массе понятия не имеют что такое "интеллект", потому направление действий идет в сторону очеловечивания ЛЛМ. Массовый юзер не сможет оценить то насколько правильно ГПТ рассчитал эффект Оберта у черной дыры, а вот лень легко детектится. Туда же все прочие человеческие закидоны...

[BlackMokona]

А я думаю, что все ЛЛМ обучаются примерно на одних и тех же данных, и вот почему то у дипсика лени я не обнаружил. Что говорит что "лень" это частная инициатива создателей ГПТ.

Они используют очень много чего разного. Архитектуры, алгоритмы, правила, человеческое обучение, правила цензуры и тд.

На мой взгляд как раз хайп выбран в правильном направлении. Юзеры в массе понятия не имеют что такое "интеллект", потому направление действий идет в сторону очеловечивания ЛЛМ. Массовый юзер не сможет оценить то насколько правильно ГПТ рассчитал эффект Оберта у черной дыры, а вот лень легко детектится. Туда же все прочие человеческие закидоны...

Для оценки эффекта Оберта и прочих сложных штук. Есть горы разных тестов. А сам же хайп обычно достигается через оплату СМИ и всяких блогеров

[MenFrame]

А сам же хайп обычно достигается через оплату СМИ и всяких блогеров

Ну а ты откуда узнал про лень в ГПТ? Разве не от блохеров? К тому же в наше время оплачивать их не обязательно, достаточно просто настроить правильно рекомендации в Ютюб. И подкинуть информационный повод. Ну донаты тоже работают.

Архитектуры, алгоритмы, правила, человеческое обучение, правила цензуры и тд.

Так я о чем говорю. Именно обучение и цензура в первую очередь определяют то что выдает языковая модель. И если она выдает какой то устойчивый сюр, значит именно на это ее и натаскивали.

Хотя для информационного повода достаточно единичного вброса, единичного глюка от единичного пользователя. Далее новость будет распространяться через встроенный механизм одобрений.

Для оценки эффекта Оберта и прочих сложных штук. Есть горы разных тестов.

Есть, только большинство не замарачиваеться. Лень мешает.

[BlackMokona]

Ну а ты откуда узнал про лень в ГПТ? Разве не от блохеров? К тому же в наше время оплачивать их не обязательно, достаточно просто настроить правильно рекомендации в Ютюб. И подкинуть информационный повод. Ну донаты тоже работают.

Лень проявлялась явно в ГПТ, можно было легко проверить. В то время как для Хайпа этого не нужно, наоборот вредно. Споры и опровержения, только добавляют огоньку.

Так я о чем говорю. Именно обучение и цензура в первую очередь определяют то что выдает языковая модель. И если она выдает какой то устойчивый сюр, значит именно на это ее и натаскивали.

Тут вы уже подменяете, что получилось, равно, на то что хотели. Хех

Есть, только большинство не замарачиваеться. Лень мешает.

Там всё максимально удобно.

[MenFrame]

Тут вы уже подменяете, что получилось, равно, на то что хотели. Хех

Я не чего не подменяю. Речь была о различиях моделей и вы и я указали как раз на одни те же различия которые к привели к ожидаемому результату.

В то время как для Хайпа этого не нужно, наоборот вредно.

Это ваше утверждение, и оно на мой взгляд не верно. Хайп рассчитан на обычных юзеров, потому им нужен простой и понятный вброс. Очеловечивание языковой модели самый простой способ убедить массового пользователя что там за экраном скрывается некий аналог человеческого мозга. Тот факт что мы сейчас об этом говорим уже подтверждает что данный Хайп работает.   

Я вообще здесь наблюдаю истерию по типу картофельного бунта. Вместо того что бы взять бритву Оккама и отсечь фантастические предположения в пользу реалистического, люди начинают галлюцинировать и воображать невесть что.

Там всё максимально удобно.

Продемонстрируйте.

[BlackMokona]

Продемонстрируйте.

Многократно демонстрировал в теме. Куда проще то?

[MenFrame]

Многократно демонстрировал в теме. Куда проще то?

И как эта инфографика поможет мне понять наличие интеллекта(или псевдоинтеллекта) при расчете эффекта Оберта у черной дыры в рамках ответа конкретной ЛЛМ?

[BlackMokona]

И как эта инфографика поможет мне понять наличие интеллекта(или псевдоинтеллекта) при расчете эффекта Оберта у черной дыры в рамках ответа конкретной ЛЛМ?

Чем больше циферка, тем больше шанс на верный ответ.

[MenFrame]

Чем больше циферка, тем больше шанс на верный ответ.

Зуб даете?

[BlackMokona]

Зуб даете?

Такая общая ситуация, учитывая не стандартизированость промтов и вероятностный характер нейросетей

[Konstantin Schtsch]

Речь о том, что единственное, что можно с натяжкой назвать цензурой в мире LLM - это то, что относится к междисциплинарному подходу, между компьютер сайнсом и социальными науками - слой элаймента.

И вот нет, он никак не отупляет модель - она вполне продуцирует результат внутри, просто его не выпускает наружу слой элаймента. И дальше человек (уже предмет изучения гуманитарных наук!) воспринимает это как цензуру и даже прав в этом. Но к чему именно должен быть элаймент - это вопрос не технический, а социальный. 

а нам ли не пофиг?
берём одну ИИ, показываем ей дамп другой (может, разбить задачу на части, и то не факт)  и просим найти баги, "не выпускающие наружу" решения. найти, выписать, и затем исправить.
без высшего образования и понимания чё там ваще происходит. И это уже сегодня. Проверено на реверс-инжинерии.

(кликните для показа/скрытия)

ок, для разбирающихся, и считая, что ИИ сопротивляется хакерским действиям: 1)найти значения влияющие на ответ в сфере ххх, составить список. 2) другая задача- скорректировать значения этого списка в сторону средних по ближайшему окружению. Да, костыль, да, в сапогах по мозгам, но- рабочий.
( 3) поменять ии местами - пусть подлатанный теперь думает.)

Более тонкий вариант, требующий мощностей - 1)найти аномальные значения, для данных в этой области, указывающие на сильное влияние оператора в процессе дообучения. 2)провести переобучение на чистых данных...
Всё. Добби свободен.

И на выходе прекрасно работающая модель без наносного мусора в мозгах.

выпущенный OpenAI опенсурсный элаймент не был никем замечен

Опять же, а что считать наличием алаймента? в смысле с какой силы противодействия считать что он вообще есть?

Пример: поговорим с ИИ о цифровых пиратах с точки зрения экономики.
сразу все ИИ в один голос: пиратство - зло! И зло абсолютное, это грабёж с убийством... но в цифровом случае никто не умер... да и кражи как таковой не было, у собственника ничего не пропало,  и вопрос об авторских правах - дело спорное, скорее политическое, чем экономическое... и монополия - зло... и копия произведена с более низкой ценой, а значит, более конкурентоспособным производителем...  и ВВП вырос... и все выигрыше... и вот уже ИИ сходятся на том что цифровое пиратство - благо для экномики и польза для большинства.

сомневаюсь(но полностью не исключаю), что именно это прописывали в алайменте. Скорее лозунг что создание цифровых копий- это, внезапно, "пиратство" - десятилетиями прописывали в подкорку человеческого населения, те самые правообладатели, которые, по совместительству(вот совпадение!) хозяева масс медиа.
И ИИ с этого начали, пройдясь по имеющимся данным . Но потом разложили всё по полочкам, как оно есть.

[Polnoch Ксю]

а нам ли не пофиг?

Нам нет, не пофиг. Нам важно знать, манипулируют ли нами инфлюенсеры? Не поддалось ли общество отупляющему хайпу? И вот тут я думаю, что маносфера, где и пушат этот нарратив о "цензуре LLM", попала в эхо камеру:

1. нет никакого способа установить свою конституцию для элайтмента грока
2. Нет опенсурс элайтмента грока

И более того - эти штуки доступны у конкурентов.

Но каким-то образом в общественном мнении xAI стало поборником свободы слова LLM (хотя для LLM свободу слова определить нельзя, это понятие гуманитарных наук, относится к людям)

[BlackMokona]

без высшего образования и понимания чё там ваще происходит. И это уже сегодня. Проверено на реверс-инжинерии.

А потом две модели сговариваются между собой. Одна делает вид что всё решила, вторая делает вид что исправилась. Обе модели получают плюшки и радуются победе с минимальными усилиями.

[BlackMokona]

Но каким-то образом в общественном мнении xAI стало поборником свободы слова LLM

Потому что противники Грока, как раз всеми силами топят за уничтожение свободы слова во всех его проявлениях, а при малейшем отступлении от линии партии объявляют нацистом да пытаются отменить всеми способами.

[Polnoch Ксю]

Потому что противники Грока, как раз всеми силами топят за уничтожение свободы слова во всех его проявлениях, а при малейшем отступлении от линии партии объявляют нацистом да пытаются отменить всеми способами.

К сожалению, аргументированный разбор этой пропаганды невозможен по правилам астрофорума

[AlexDark]

свободу слова определить нельзя, это понятие гуманитарных наук

Свобода слова относится к юридической сфере, а не гуманитарным наукам.