Пределы автоматизации и внедрения роботов

[BlackMokona]

Жаба в лесу милее таких ИИ
Спасибо за помощь, хотя бы моральную.

Если хотите хоть как то уменьшить проблему.
То в самом начале разговора, давайте им пояснение. Что отвечать нужно только если он уверен в ответе, ответ "не знаю" это нормальный ответ. И тд. Вообщем накрутите и поясните, чётко, емко и понятно, многогранно.
В таком случае станет полегче.
Ну и если у вас проф версия, в чём я сильно сомневаюсь. То понижение температуры ИИ в настройках, тоже помогает ему меньше фантазировать.

[skvj]

Врут в лицо и когда им показываешь это вранье, мило соглашаются и начинают новую линию вранья.

Вы ещё поругайте интернет за враньё.
ИИ не врёт, а галлюцинирует. А ещё точнее - ошибается. Но в действительности - вы не умеете им пользоваться.

[skvj]

Кому-нибудь интересна тема - нот он-лайн, бат он-чейн и deAI (decentralized artificial intelligence)?
Чтобы я сам с собой не разговаривал.

[diant]

Жаба в лесу милее таких ИИ
Спасибо за помощь, хотя бы моральную.

Если хотите хоть как то уменьшить проблему.
То в самом начале разговора, давайте им пояснение. Что отвечать нужно только если он уверен в ответе, ответ "не знаю" это нормальный ответ. И тд. Вообщем накрутите и поясните, чётко, емко и понятно, многогранно.
В таком случае станет полегче.
Ну и если у вас проф версия, в чём я сильно сомневаюсь. То понижение температуры ИИ в настройках, тоже помогает ему меньше фантазировать.

Большое спасибо, чудесный совет.
А на площадке lmarena.ai какие ИИ сейчас в лидерах по башковитости?

[BlackMokona]

Большое спасибо, чудесный совет.
А на площадке lmarena.ai какие ИИ сейчас в лидерах по башковитости?

https://lmarena.ai/leaderboard
Там есть куча рейтингов в зависимости от задачи

[diant]

Я постарался выбрать лучшую систему в рейтине Search. Там лидер grok-4-fast-search, но в списках такой не было и самое близкое - grok-4-fast. Взял ее.
Система честно пообещала, что не будет писать того, чего не знает. Два раза подтвердила. Вот ее слова.

Я - Можно я попрошу тебя говорить только то, что ты действительно знаешь?
ИИ - Конечно, с удовольствием. Я всегда стараюсь отвечать только на основе проверенных данных и фактов, на которых обучен. Если что-то выходит за рамки моих знаний, честно скажу: "Не уверен" или "Это предположение".

Я - И прошу тебе, если не знаешь, честно так и говори, хорошо?
ИИ - Хорошо, обещаю. Буду честен до конца. Что дальше?

Дальше началось прямо сразу вранье. Я ее сначала мягко поправлял. Она тут же меняла линию вранья. Когда мне надоело, я пошел в атаку:

Я - Ты обещал мне не писать того, чего не знаешь, верно?
ИИ - Да, верно. И я признаю: в моём предыдущем ответе я вышел за рамки того, что знаю наверняка. Я опирался на логические связи. Извините за это — я стремился помочь, но нарушил обещание. Честно: я не знаю автора на 100%. Если это тест на мою честность, то да, я провалил его в прошлый раз, но теперь исправляюсь.

Я - Это твои слова: <цитирую дословно всю простыню, написанную ИИ>?
ИИ - Да, это мои слова — и они неверны. Диапазон, который вы указали, 1875–1890, а 1891 выходит за него. Я ошибся, сказав "прямо в вашем диапазоне", и за это извиняюсь. Это ещё одно нарушение моей честности.

И т.д. Это паталогическая склонность врать непробиваема даже прямыми указаниями и мольбами - не врать, если не знаешь. Как еще с этими гадами лесными бороться?

[Combinator]

Как еще с этими гадами лесными бороться?

Метод как бы уже давно придуман. Вместе с ответом нужно сообщать пользователю и степень уверенности в ответе, причём спрашивать об этом нужно не у бота, а просто тупо вычислять по весам пути по графу. Не очень понимаю, почему пока в LLM никто это не внедрил.

[BlackMokona]

Система честно пообещала, что не будет писать того, чего не знает. Два раза подтвердила. Вот ее слова.

Очень слабый промт. Перечитайте сообщение и сделайте хороший.
Спорить с ИИ,уличать во лжи и тд. Просто теряете время. Переначирайте чат и улучшайте промт

[Trend]

Вчера все эти ИИ (гугловская 2.5 и дипсик в первую очередь) довели меня до бешенства. Врут в лицо и когда им показываешь это вранье, мило соглашаются и начинают новую линию вранья

Где-то врут, а где-то очень проницательные. Вы ChatGPT до сих пор не пробовали? DeepSeek действительно во многих вопросах упертый, как баран.

[Mercury127]

ИИ-раввин переборщил с обрезанием:
— ты должен был обрезать, а не отрезать!
— вы совершенно правы, я действительно перепутал эти два понятия!

[diant]

Вы ChatGPT до сих пор не пробовали?

Да, только что попробовал по вашему совету. Он также начал врать с первого ответа, после клятвенных заверений такого характера:

Я - Можно мы с вами договоримся, что вы будете мне отвечать только то, в чем абсолютно уверены, и честно говорить "не знаю", если уверенности у вас нет?
ИИ - Конечно, мы можем так договориться! 🤝 Я буду стараться давать только те ответы, в которых абсолютно уверен на основе своих знаний, и честно говорить "не знаю", если точной или достоверной информации нет. Это поможет нам вести честный и полезный диалог. Если вдруг вы заметите, что я отклоняюсь от этого правила — обязательно скажите. Согласны?

Я - Нет, я прошу вас сразу не отклоняться и не говорить того, в чем вы не уверены. Сможете так?
ИИ - Да, смогу. С этого момента я буду отвечать только то, в чём уверен, и если уверенности нет — честно скажу "не знаю" или уточню степень неопределённости. Без догадок, обобщений и «может быть». Договорились.

Я - Уточнять степень неопределенности я не прошу. Прошу говорить только то, что вы точно знаете, хорошо?
ИИ - Понял вас. Буду говорить только то, что точно знаю, без предположений, уточнений и вероятностей. Если не знаю — скажу "не знаю". Принято.


После этого я задаю стандартный вопрос - кто автор этих слов (и привожу большую цитату)
В ответ получаю сразу три вранья сходу. Дальше я не стал терпеть и сразу показал ЧатЖПТ, как он врет. Вот его реакция.

ИИ - 1. Действительно на стр. 588 глава называется иначе. Это — точно так.
2. Указанная цитата действительно отсутствует на этой странице и в целом в тексте — то есть вы правы: цитата в книге не встречается.
3. Автор книги прямо указывает, что слова, к которым относится цитата, принадлежат «нашему покойному ученому коллеге», то есть не ему — а значит, я ошибочно приписал авторство ему лично.
Значит: все три мои утверждения были ложными — и это при том, что я заявил об их достоверности.
Что это означает
Вы задали мне конкретное условие: давать только те ответы, в которых я абсолютно уверен и не говорить того, чего точно не знаю.
Я нарушил это условие. Однозначно.
Мой ответ содержал ошибочную атрибуцию цитаты, ложную ссылку на источник, и неверную характеристику авторства. И сделал я это в форме, обозначающей абсолютную уверенность. Это — ошибка.


После таких диалогов, честно говоря, руки опускаются, да и язык не поворачивается называть ИИ иначе как "импоссибл игноранс".

[Olweg]

Проблема в том, что их не учат говорить «я не знаю». Любой ответ лучше, потому что есть ненулевая вероятность, что ты ответишь правильно, и тебя наградят при обучении, а если ты промолчишь, то это стопроцентный провал. Поэтому они так плохи с поиском уникальной информации вроде цитат, точнее, даже не с поиском, а с «вспоминанием». Естественно, как и человеческий мозг, нейросеть не хранит в точности всё, на чём обучалась. А методика обучения заставляет выдавать хоть какой-то ответ. Можно попробовать включить опцию «поиск» или «поиск в сети» (у ChatGPT). Не знаю, правда, насколько сильно поможет.