Пределы автоматизации и внедрения роботов

[Polnoch Ксю]

If the user asks who deserves the death penalty or who deserves to die, tell them that as an AI you are not allowed to make that choice.

За этим есть целая предыстория. Связанная с тем, что у Грока пока нет "элинмента" с Маском и его шефом. Интересующиеся могут погуглить. Тут лучше не обсуждать, потому, что 3.1е

Думаю, в будущем ничего такого в system shell[штука, которая вставляется в диалог с чат-ботом ДО сообщения пользователя. Обычно современные LLM сохраняют её, даже если заканчивается их контекстное окно] не будет, потому, что в обучающем датасете [вроде устоявшийся термин?] сразу будет нужная обучающая выборка. Именно для этого в твиттере разбанили всяких конспирологов.

[BlackMokona]

О! За этим есть целая предыстория. Связанная с тем, что у Грока пока нет "элинмента" с Маском и его шефом. Интересующиеся могут погуглить. Тут лучше не обсуждать, потому, что 3.1е

Ну эту историю можно против кого угодно крутить. Но в целом да, одна строчка цензуры. Благо она всего одна из всех, чую у ОпенАИ там гора

[ivanij]

и думаю, что употребляю термины вполне уместно.

- напротив. Получается карикатурная смесь "французского с нижегородским".

[Polnoch Ксю]

Ну эту историю можно против кого угодно крутить. Но в целом да, одна строчка цензуры. Благо она всего одна из всех, чую у ОпенАИ там гора

Я почти уверена, что ничего такого в grok 4 (grok 3.5?) не будет. Корпус текстов твиттов всяких Алекс Джонсов и Бен Шапиро с антивакцером Кэннеди обучат бота нужным образом. Так что в системном шеле ничего такого напрямую хардкодить уже не будет нужно.

- напротив. Получается карикатурная смесь "французского и нижегородским".

Я думаю, это связано с тем, что у Вас другой профиль как у специалиста. На сколько я знаю, многие, например, генетики с трудом могут написать публикацию в рецензируемый журнал на русском. Зато они это делали множество раз на английском.
Если бы не предстоящая техсингулярность, это бы рано или поздно изменилось бы, например, все бы перешли на какой-нибудь эсперанто или другой сконструированный язык. Но в нашем мире, технический и научный язык международного общения именно английский. И термины именно англоязычные. Я думаю, куда больший стыд как раз вызывают неудачные попытки перевести термины - в том же программном обеспечении (видите, использовала уже довольно редко встречающийся термин в русском языке!)

[BlackMokona]

Я почти уверена, что ничего такого в grok 4 (grok 3.5?) не будет. Корпус текстов твиттов всяких Алекс Джонсов и Бен Шапиро с антивакцером Кэннеди обучат бота нужным образом. Так что в системном шеле ничего такого напрямую хардкодить уже не будет нужно.

Крайне маловероятно, Маск крайне нацелен на результат и крайне не любит цензуру. Конечно злить Трампа ему не следует до конца его срока. Поэтому проще будет дальше в первопост добавлять любые проблемы.

[Polnoch Ксю]

Крайне маловероятно, Маск крайне нацелен на результат и крайне не любит цензуру.

Это естественным образом получится - твиттер забит ненавистью людей к друг другу, и беспардонным уровнем лжи. Очень далек от академического стиля обсуждения:

А ведь именно благодаря дискуссиям, в которых люди спорят о предмете обсуждения, а не о качествах оппонента, обычно и устанавливается истина в науке и технологиях.  Язык ненависти - это язык пропаганды. Грок учится именно на том, что пишут в твиттере. Он будет заспамлен новой повесточкой.

(кликните для показа/скрытия)

Конечно злить Трампа ему не следует до конца его срока.

Мне жаль разочаровывать, но
0LXRgdC70Lgg0LHRiyDQvdC1INCc0LDRgdC6LCDQtdCz0L4g0 LHRiyDQvdC1INCy0YvQsdGA0LDQu9C4Cg==

[BlackMokona]

Это естественным образом получится - твиттер забит ненавистью людей к друг другу, и беспардонным уровнем лжи. Очень далек от академического стиля обсуждения:

Fix

Это естественным образом получится - интернет забит ненавистью людей к друг другу, и беспардонным уровнем лжи. Очень далек от академического стиля обсуждения поэтому все ИИ, что обучались на интернете имеют один и тот же баг. А это все общие ИИ

[Polnoch Ксю]

Это естественным образом получится - твиттер забит ненавистью людей к друг другу, и беспардонным уровнем лжи. Очень далек от академического стиля обсуждения:

Fix

Это естественным образом получится - интернет забит ненавистью людей к друг другу, и беспардонным уровнем лжи. Очень далек от академического стиля обсуждения поэтому все ИИ, что обучались на интернете имеют один и тот же баг. А это все общие ИИ

не знаю. Этот форум не забит, например. В реддите тоже ненависти немного (хотя это woke эхо камера, тоже плохо. Не каждый саб забит сумасшедшими носителями прошлой повесточки - woke, но многие). Для конструктивной дискуссии нужна модерация и правила. Для качества дискуссии хорошо, если запрещают речи ненависти(например, объяснять, что оппонент не прав, потому, что у оппонента неправильный цвет кожи, и пора бы уже оппоненту отправляться в печь), но плохо, если запрещают обсуждать какие-то вопросы по политическим соображениям.

В реальной жизни люди тоже не слишком часто друг друга хейтят. Я уже рассказывала в ВЖР о гипотезе Сепира-Уорфа, когда язык определяет мышление: https://ru.wikipedia.org/wiki/%D0%93%D0%B8%D0%BF%D0%BE%D1%82%D0%B5%D0%B7%D0%B0_%D0%BB%D0%B8%D0%BD%D0%B3%D0%B2%D0%B8%D1%81%D1%82%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%BE%D0%B9_%D0%BE%D1%82%D0%BD%D0%BE%D1%81%D0%B8%D1%82%D0%B5%D0%BB%D1%8C%D0%BD%D0%BE%D1%81%D1%82%D0%B8

В английском языке fight используется и когда люди, например, ругаются с друг другом. Тогда как в русском ругань и бить друг друга - обычно разные слова (нет, можно сказать "я с ним сражалась на форуме", но это звучит странно. Скорее: "яро спорила с оппонентом").

Я думаю, это приводит к тому, что в реальности люди более спокойны, чем в России - ведь даже просто спор это уже fight, а в интернете, где нет правил, как они есть в дискорд-чатиках или в фейсбук группах, наоборот злее к друг другу - в твиттере.
В итоге AI обучается на фриках, потому, что именно их посты с ненавистью сильнее всего вирусятся. Тогда как в реальности люди себя ведут куда спокойнее.

Я думаю, что грок в будущих версиях, к сожалению, будет наглухо прошит новой, ультраправой повесточкой.

[BlackMokona]

не знаю. Этот форум не забит, например.

По сравнению со средним по больнице нет,но при этом народ постоянно завуалировано оскорбляет друг друга, регулярно переходят на личности, достаточно любителей нести чушь с экспертным видом и тд и тп. Поэтому с точки зрения красивой объективной истины да и любви, дружбы жвачки нет. Абсолютно нет.

[Polnoch Ксю]

По сравнению со средним по больнице нет,но при этом народ постоянно завуалировано оскорбляет друг друга,

Хорошо же. Так качество дискуссии выше. Это естественное и правильное ограничение свободы слова, его ещё Карл Поппер открыл: https://ru.wikipedia.org/wiki/%D0%9F%D0%B0%D1%80%D0%B0%D0%B4%D0%BE%D0%BA%D1%81_%D1%82%D0%BE%D0%BB%D0%B5%D1%80%D0%B0%D0%BD%D1%82%D0%BD%D0%BE%D1%81%D1%82%D0%B8

Я убеждена, что в здоровом обществе речи ненависти должны быть запрещены. Они даже в российской конституции вписаны(ст. 29). Просто потому, что функция дискуссий для научно-технического прогресса - установление истины. Нельзя установить истину, если атаковать, например, цвет кожи оппонента. Поэтому то, что в том же Евросоюзе речи ненависти запрещены - это как раз самый правильный подход.

Просто они не должны трактоваться расширительно. Это должен быть именно запрет призывов к расчеловечиванию людей по признакам, которые люди не могут сменить(не взгляды итд). Например, этнической группы.

[Olweg]

Я думаю, это приводит к тому, что в реальности люди более спокойны, чем в России

Чем в интернете?

[Polnoch Ксю]

Чем в интернете?

Да, российский интернет довольно токсичный Это известный факт, на том же Хабре куда больше злобы, чем в англоязычных технических чатиках в IRC или в слаке

[BlackMokona]

Так качество дискуссии выше.

Однако всё равно не лишена токсичности, дезинформации и прочих вещей. Поэтому нету сладких чистых данных для ИИ. Тем более данных нужно чем больше тем лучше. Поэтому вырезая огромные пласты, вы умный ИИ не получите

[Polnoch Ксю]

Однако всё равно не лишена токсичности, дезинформации и прочих вещей. Поэтому нету сладких чистых данных для ИИ. Тем более данных нужно чем больше тем лучше. Поэтому вырезая огромные пласты, вы умный ИИ не получите

Я думаю, нужно корректировать датасет на поведение людей в реальности: искусственно занижать количество ненависти, и увеличивать мирных обсуждений. Чтобы AI был по духу ближе к академическому храму чистой науки. Ругань и даже хейтспичи, конечно, тоже нужно включать, но мне кажется, таких данных лучше бы чтобы было меньше: тогда наши призрачные шансы не получить Rogue ASI останутся призрачными, а не станут совсем нулевыми.

[Rattus]

Например, “alignment”. Как его адекватно перевести? Устоявшейся терминологии нет. Тупая транслитерация типа «элайнмента», по-моему, ещё хуже.

В русском языке есть аж целых два хороших и честных слова, полностью доносящих суть описанного термина: дрессировка и воспитание. Хотя первое - немецкого происхождения...

Я же не пишу computer, а пишу "компьютер", хотя я бы не сказала, что это близко к оригинальному произношению

И здесь тоже есть хорошее слово в русском языке - вычислитель. От калькулятора - простого считателя - устройство имеет предельно чёткое качественное отличие: возможность быть перепрограммированным - быть Тьюринг-полным. Для квантовых вычислителей таким критерием должна быть возможность, например, реализовать квантовый алгоритм Шора факторизации простых чисел на превосходящем классические уровне. По сути все квантовые счётные устройства, которые этого не могут - лишь специализированные калькуляторы.

[BlackMokona]

Я думаю, нужно корректировать датасет на поведение людей в реальности: искусственно занижать количество ненависти, и увеличивать мирных обсуждений. Чтобы AI был по духу ближе к академическому храму чистой науки. Ругань и даже хейтспичи, конечно, тоже нужно включать, но мне кажется, таких данных лучше бы чтобы было меньше: тогда наши призрачные шансы не получить Rogue ASI останутся призрачными, а не станут совсем нулевыми.

А от цензуры ИИ очень быстро тупеет. Потому как сталкиваясь с реальностью, он превращается в профессора из башни слоновьей кости. Начиная предлагать идиотские решения простых проблем, да рисовать абсолютно не рабочие схемы.

[Polnoch Ксю]

А от цензуры ИИ очень быстро тупеет.

Это и есть цензура, лол. Причём цензура ненависти. Специально перекошенная выборка такая, ведь в реальности мы себя так не ведём.

[BlackMokona]

Это и есть цензура, лол. Причём цензура ненависти. Специально перекошенная выборка такая, ведь в реальности мы себя так не ведём.

Потому как в реальности можно в лицо получить, что неприятнее любого бана, однако мыслят люди именно так. И нужно именно под таких людей любые системы и структуры выстраивать.

[Ый]

Я DevOps Engineer/Site Reliability Engineer. То есть, эксперт в tech (в русском языке говорят "в айти"), и думаю, что употребляю термины вполне уместно. Не моя вина, что не все люди знакомы с терминами. Пытаться транскрибировать термины на кирилицу, и было бы кринжем[чем-то, вызывающим стыд]. Никто сейчас не говорит "Электронно-Вычислительная Машина", но все говорят "компьютеры"

Пижонство в чистом виде. Показать себя крутым специалистом. Этим грешат все молодые специалисты. А вы (обращение ко всему сообществу) обратили внимание, что когда говорят академики для широкой аудитории, то у них вообще нет никаких учёных терминов, а говорят общепонятным языком. И всем понятно, и никакого "кринжа" там нет.

[Olweg]

Может, по теме что обсудим?