Пределы автоматизации и внедрения роботов

[BlackMokona]

Немного тестов.

[Olweg]

Так вот откуда ноги об отсутствии безопасности растут? Это всё Суцкевер и его дикий хайп.

А как же Юдковски? )

Давайте отдадим ему должное за его вклад. Отдали? Теперь конкретика.
Никакой он не "отец GPT".

А что, его кто-то так называет? Трансформер придумал не он. Но он одним из первых распознал его потенциал.

Он лжец и заговорщик - позорный интриган, захвативший компанию заговором.
При этом он сделал всё так, что юридически было не придраться и по факту он захватил компанию. Безвозвратно.
Но сгорел именно на своей лжи. Он лгал всем в лицо, что Альтман жестокий демон и терроризирует сотрудников, а сам Суцкевер спасает компанию от тирана. Подговорив Совет он реализовал заговор.

Ну, можно, наверное, и так на это посмотреть. Но есть и другие версии этих событий

На мой взгляд, Суцкевер - прекрасный специалист, один из лучших в своей области, но вот политик и администратор из него никакой. Поэтому и со смещением Альтмана у него ничего не вышло. Ну а кто там реально лжец - мнения на этот счёт, как я уже сказал, есть разные ))

[skvj]

Гугл наслушавшись что новая ГПТ будет лучше Дженеми 3.
Решил действовать на опережение и выпустил режим глубокого размышления для Дженеми 3. Используя методы Грок 4 Хэви, с бренштормом ряда копий моделей.
Поэтому Гугл усиливает своё превосходство над конкурентами

Ой, вы всегда в своем духе))
BlackMokona, дружище, давай включим чуть-чуть реальности. Google не "наслушался про GPT", и не действует на опережение. Это обычный корпоративный цикл: кто-то выкатил новый режим - мы выкатываем свой режим. Это не стратегия, а конкурентная косметика. Такие фичи как "глубокое размышление", "брейншторм копий", "расширенный контекст" это банальности, обычные итерации внутри продуктовой линейки. Они друг другу отвечают, как два смартфона: один добавил ночной режим - другой через месяц добавляет свой ночной режим. Рынок так работает. Это не усиление превосходства. Это беговая дорожка, по которой все бегут примерно с одинаковой скоростью, иногда один на полкорпуса впереди, иногда другой. Настоящее превосходство у Гугл или OpenAI это не фичи и не режимы, а то, что не видно пользователям: пайплайны обучения, распределённые тренировки, оптимизация inference, архитектуры моделей, внутренняя ML-инфраструктура, собственные ASIC-чипы. Всё остальное просто витрина, которую раз в неделю моют и перекрашивают. Не воспринимайте каждую новую кнопку как эпохальный знак.

[BlackMokona]

BlackMokona, дружище, давай включим чуть-чуть реальности. Google не "наслушался про GPT", и не действует на опережение

Гугл бы до сих пор Джемени не выпустил бы, если бы не Опен АИ. Хах.
Там следят друг за другом

[skvj]

А как же Юдковски? )

О! Юдковски сразу за ним идёт! Тот не упустит. Он на подхвате любого визга. Это группа поддержки вне конфессий.
Это меконфессиональный пророк и визионер высшей категории))

А что, его кто-то так называет? Трансформер придумал не он. Но он одним из первых распознал его потенциал.

Это смотря какой хайп вы читали. Я вот начитался такого, что он вместе с Ориолом Вэньи и Квоном Ли именно батя.
В основном это обсуждают на англоязычных реддите и Х. Там полно ахинеи, где Хинтон дедушка, а Суцкевер папа.
И это пишут кодеры и часто из индустрии. Но они путают вклад в нейросети, что неоспоримо и я сам так считаю в отношении их всех. И Сам GPT, к которому они не имеют отношения, кроме написания строчек, за которые они получали зарплату. Что я и объяснил выше.

Ну, можно, наверное, и так на это посмотреть. Но есть и другие версии этих событий

На мой взгляд, Суцкевер - прекрасный специалист, один из лучших в своей области, но вот политик и администратор из него никакой. Поэтому и со смещением Альтмана у него ничего не вышло. Ну а кто там реально лжец - мнения на этот счёт, как я уже сказал, есть разные ))

Не спорю. Примерно вы правы, с некоторыми нюансами. Но не буду их тащить сюда, ведь по сути примерно я согасен с вами.

[Rattus]

Никакого противоречия нет, потому что я говорю о двух разных уровнях описания этики

При этом никак это сразу не обозначив, введя в заблуждение читателей. Намеренное такое поведение называется демагогией, но поскольку в обязанности модератора не входит определение намерений авторов, это замечание остаётся в общем виде.

Уровень 2 то, что является этикой функционально.
Это то, что обеспечивает кооперацию и устойчивое сосуществование людей. Это то, что обеспечивает кооперацию и устойчивое сосуществование людей. На этом уровне: ...радикализм любого толка - это инструмент разрушения кооперации.

Кооперацию какого уровня следует считать "функциональной"?
Объективно есть только один - дарвиновский критерий функциональности - жизнеспособность на длительных промежутках времени. Если, например, рассмотреть сравнительную жизнеспособность двух обществ одного уровня -  абсолютно кооперативных мориори и очень ограниченно-кооперативных маори, то практика показала лучшую выживаемость вторых при их контакте. Примерно то же - с обществами первых европейских поселенцев Северной Америки: выживаемость групп со строгой и изрядно изоляционистской религиозной системой регламента поведения была достоверно выше "расслабленных". У Вас есть какие-то иные соображения или дополнения на этот счёт?

Когда я говорю "это не этика", я говорю о функциональном уровне - о том, как такие практики реально действуют на социальную систему.

Тогда повторю свой вопрос: то есть все высокомилитаризированные/автократические общества или периоды, когда они были таковыми - следует считать временем, когда у них этики ("функциональной") не было?

Отчёты показывают - 80% жертв не ацтеки.

А мы говорили об этике ацтеков, а не их жертв-пленников вообще-то. Большинство самих ацтеков в каком месте сущестовавший порядок вещей угнетал? Они приходили смотреть на ритуальные убийства в массе недобровольно? Как и зрители гладиаторских боёв и публичных казней в Европе?

Об ужасах и страхах ритуалов, как буквально дрожали люди. Это лучшее сохранившееся собрание аутентичных ацтекских источников, включая грамматику и словарь науатль, повлиявшее на понимание культуры эпохи конкисты.

На момент конкисты. То есть когда цивилизации мезоамерики находились далеко не в лучшей своей форме (хотя они и в лучшей далеко не достигали уровней евразиатских), хотя сущестовали далеко не одно и не два поколения. Это примерно как судить об экономике и материальной обсепеченности людей в СССР по одному периоду ~1987-1991 гг.

Как я уже говорила, нас устроит вероятность сбоя элаймента, скажем, раз в миллиард лет

А в миллион (среднее время сущестования вида макрофауны) - не устроит? А как Вы сможете проверить - будет ли сбой на миллионе или на миллиарде? Или даже не десяти тысячах лет? А между тем это принципиально разные временные масштабы в обсуждаемой тематике основных разделов данного Форума.
Фокус в том, что вопрос "вероятности сбоя элайнмента глобальномогучего ASI" - это по сути вопрос о прогнозе времени существования какого-либо биологического вида - согласно эволюционной биологии сколь-нибудь удовлетворительно точный ответ на него не получить в принципе, но в любом случае известно, что она - конечна и на порядки меньше чем продолжительность сущестовования всей планетарной биосферы в целом.
Таким образом вопрос о конкретном уровне надёжности элайнмента ASI решения не имеет в принципе, а ответ на вопрос о возможности полной надёжности - отрицательный (и это уже упор в неполноту Гёделя-Тьюринга).

Это меконфессиональный пророк и визионер высшей категории

И без законченного высшего образования.

[skvj]

BlackMokona, дружище, давай включим чуть-чуть реальности. Google не "наслушался про GPT", и не действует на опережение

Гугл бы до сих пор Джемени не выпустил бы, если бы не Опен АИ. Хах.
Там следят друг за другом

))))

OpenAI пнул индустрию так, что Гугл проснулся. Это факт. Но у вас неверный вывод - что каждый текущий релиз Гугл это "ответ на GPT". На раннем этапе так и было. Но сейчас рынок вошёл в фазу системных инвестиций. Гуггл и OpenAI следят друг за другом но не так. У них планы расписаны на годы вперёд, что кстати, вы неверно понимаете судя по прежнему спору о дата-центрах)) с миллиардами, уже вложенными в пайплайн. Релиз Gemini 3 это не испуг. Это очередная веха огромной внутренней программы, которая движется независимо от слухов. Конкурентный рынок это не драка в подворотне, где один выкрикнул, другой кинулся. Это параллельные R&D-конвейеры, которые иногда пересекаются в датах. Поэтому да, следят друг за другом но не так, как вы описываете. Это не шахматная партия. Это два завода, которые производят реакторы, а на витрину выкатывают просто готовый экземпляр, который давно был в планах. Витрина это последнее звено цепи, а не реакция на вчерашний слух.

[skvj]

При этом никак это сразу не обозначив, введя в заблуждение читателей. Намеренное такое поведение называется демагогией, но поскольку в обязанности модератора не входит определение намерений авторов, это замечание остаётся в общем виде.

Rattus, вы предъявляете требования к ясности формулировки как будто я пишу научную статью или отчёт на грант. Это обычная форумная дискуссия, где мысль часто формулируется в процессе разговора, а уточнения появляются естественно. Вводить методологический аппарат заранее? в свободном живом обсуждении? Я не вводил в заблуждение, а просто раскрыл мысль. Это обычная динамика дискуссии, а вовсе не демагогия.
Но раз вы обвиняете в демагогии - скажите сразу и я не буду писать вообще.

[BlackMokona]

Но у вас неверный вывод - что каждый текущий релиз Гугл это "ответ на GPT".

Гугл и остальные игроки всё ещё придерживают релизы при возможности

[Olweg]

Релиз Gemini 3 это не испуг. Это очередная веха огромной внутренней программы, которая движется независимо от слухов.

Ну, я думаю, сдвинуть релиз немного влево - не такая уж большая проблема. Прецеденты явно были, у той же OpenAI.

[skvj]

Тогда повторю свой вопрос: то есть все высокомилитаризированные/автократические общества или периоды, когда они были таковыми - следует считать временем, когда у них этики ("функциональной") не было?

Вы снова пытаетесь распространить моё утверждение о функциональной роли конкретной практики на всю этическую систему общества в целом. Это не так.

Когда я говорю, что практика уничтожения группы B - не этическая норма, а механизм разрушения кооперации, я описываю функцию самой практики, а не утверждаю, что во всём обществе нет этики.

Даже в автократиях или милитаризированных системах этика никуда не исчезает - она просто существует в виде ограниченной, иерархичной и часто инструментализированной системы норм. Но внутри этой системы есть действия, которые, независимо от идеологии, выполняют роль чисто разрушительных механизмов. Это и есть тот уровень, о котором я говорил.

Т.е. практики могут быть функционально антиэтическими, даже если общество, их порождающее, имеет собственную этику. Масштабы разные и смешивать их неправильно.

[skvj]

На момент конкисты. То есть когда цивилизации мезоамерики находились далеко не в лучшей своей форме (хотя они и в лучшей далеко не достигали уровней евразиатских), хотя сущестовали далеко не одно и не два поколения. Это примерно как судить об экономике и материальной обсепеченности людей в СССР по одному периоду ~1987-1991 гг.

Rattus, я не утверждал, что "вся мезоамериканская цивилизация" должна оцениваться по одному периоду или одному набору источников. Я говорю о другом, когда мы обсуждаем восприятие ритуалов самими ацтеками, единственные тексты, где они прямо описывают собственные эмоции, страхи и отношение к культам, действительно относятся к эпохе контакта.

Их ценность не в том, что это "последняя стадия цивилизации", а в том, что это уникальные аутентичные свидетельства очевидцев, записанные людьми, знавшими науатль и работавшими с местными информантами.

Это не одинокий обвал эпохи, как ваш пример с СССР, а единственный массив прямой рефлексии ацтеков о своих же ритуалах. И им невозможно пренебрегать, понимаете? Я же не предлагю на этом основании сделать полный вывод. Но и не рассматривать их невозможно. Жертвоприношения не воспринимались большинством как нормативная этика. Это была институциональная практика, поддерживаемая жреческой группой и политическим страхом, а не народная мораль.

И нередко именно периоды кризиса дают наиболее честную этнографию - потому что империя больше не может подавлять собственные внутренние чувства и страхи.

Т.е. вопрос не в том, были ацтеки "в форме" или "не в форме", а в том, что их собственные слова и описания не подтверждают картинку, где жертвоприношения - этическая норма.

[Rattus]

Но раз вы обвиняете в демагогии - скажите сразу и я не буду писать вообще.

Не обвиняю. Если бы и обвинял - то скорее в небрежности (малоуважительной к читателям).

Rattus, вы предъявляете требования к ясности формулировки как будто я пишу научную статью или отчёт на грант. Это обычная форумная дискуссия, где мысль часто формулируется в процессе разговора, а уточнения появляются естественно. Вводить методологический аппарат заранее?

Тогда хотя бы снижать тон категоричности утверждений - если не претендуете на. Это не только и не столько даже именно Вас касается, сколько настоятельная рекомендация многим другим авторам.

Когда я говорю, что практика уничтожения группы B - не этическая норма, а механизм разрушения кооперации, я описываю функцию самой практики, а не утверждаю, что во всём обществе нет этики.

Но из Ваших исходных тезисов вывод именно такой выходил. Но раз Вы признаёте, что этики таки есть, то следует ли их оберегать от разрушения как и прочие, более открытые и "внешнекооперативные" или нет и почему?

Жертвоприношения не воспринимались большинством как нормативная этика. Это была институциональная практика, поддерживаемая жреческой группой и политическим страхом, а не народная мораль.

Оставим пока мезоамерику, по которой исторических данных двовольно мало и обратимся к той же Европе - публичным казням и их зрителям. И к "народной морали", выраженной, например, в неподцензурных версиях сказок, где "торжество справедливости" заключалось в том, что злой мачехе/сводным сёстрам птицы выклёвывали глаза, коварного царя варили в кипятке и т.п.
Это - вариант этики или что?

[skvj]

А мы говорили об этике ацтеков, а не их жертв-пленников вообще-то. Большинство самих ацтеков в каком месте сущестовавший порядок вещей угнетал?

То, что 80% жертв не ацтеки, и есть показатель - жертвоприношение было инструментом внешней политики и внутреннего контроля, а не внутренней морали. Если бы это была этика, ею жили бы свои. Но собственных старались беречь - это классический признак практики, поддерживаемой властью, а не ценности, разделяемой сообществом.

Это как в Спарте, идеология - воинская доблесть, а на практике - жесточайшее выжигание и подавление илотов. Но этикой это не было - это был механизм подавления.

Они приходили смотреть на ритуальные убийства в массе недобровольно?

Да, как приходили смотреть на казни в Европе - недобровольно
То есть по вашей логике публичная казнь в Лондоне 18 века это образец английской этики? Или римские гладиаторские бои это мораль Рима?
Очевидно, нет. Это институционализированное насилие, которое власть превращает в зрелище, чтобы поддерживать структуру страха и лояльности.

И публика там - не носители этики, а аудитория, помещённая в систему, которая нормализует насилие.

И, кстати, говоря - представьте себя в диктатуре. И вы бы тоже пошли и делали (если бы лично к вам применяли такие меры) - доносили и прославляли. И делали бы это в ужасе, а не добровольно. И я бы так делал - и все форумчане. Единицы не делали бы - но наказание не просто смерть. Ужасная смерть.

Точно так же у ацтеков: участие (или присутствие) в ритуалах - не доказательство моральной поддержки. Это доказательство социального давления и конкретного насилия.

Вы пытаетесь натянуть на практику ярлык этики, только потому что она стабильно существовала.
Но стабильность ≠ этичность.
Рабство тоже существовало тысячелетиями. Античные авторы! описывают рабство - как величайшее зло человечства. Это был капкан. И никто не знал как из него выбраться. По одной единственной причине (были и др, но эта глобальная) - рабы пленники после войны. Остальные причины попадания в рабство - малочисленны и их можно было исправить.
Мы читали уже Пушкина - высочайшая поэзия и мораль. При этом он сам был рабовладелец. Даже у рабовладельцев это считалось величайшим пороком.
Детские казни в Европе веками существовали. Это не делает их ценностями.

[BlackMokona]

То, что 80% жертв не ацтеки, и есть показатель - жертвоприношение было инструментом внешней политики и внутреннего контроля, а не внутренней морали

Это была внутренняя мораль. Они буквально заставляли всех с собой воевать под угрозой геноцида, чтобы захватывать военнопленных и приносит их в жертву

[skvj]

То, что 80% жертв не ацтеки, и есть показатель - жертвоприношение было инструментом внешней политики и внутреннего контроля, а не внутренней морали

Это была внутренняя мораль. Они буквально заставляли всех с собой воевать под угрозой геноцида, чтобы захватывать военнопленных и приносит их в жертву

О, да! вы как очевидец безупречны))
Простой народ мечтает воевать не так ли? )) Умру-выживу - какая мне разница, ведь если я выживу - смогу потом пленных в жертву принести. Но могу и не выжить и тогда соседнее племя или империя принесет в жертву меня.
Какая радость - ведь я выигрываю в любом случае! Пойду-ка я на войну!

[Rattus]

И публика там - не носители этики

Потому что Вы так решили?

Если бы это была этика, ею жили бы свои.

А они не жили? Этика, которая вполне допускает и даже считает нужным

жертвоприношение как инструмент внешней политики и внутреннего контроля

- не этика?

Но этикой это не было - это был механизм подавления.

Следовательно у спартанцев не было этики. Так?

Да, как приходили смотреть на казни в Европе - недобровольно

Прям массово и всегда? Доказательства у ВАс имеются?

И, кстати, говоря - представьте себя в диктатуре.

Ну кагбе, хехе, с определённой точки зрения можно считать, что и представлять ничего не требуется...

И вы бы тоже пошли и делали (если бы лично к вам применяли такие меры) - доносили и прославляли.

С тем характером и убеждениями, что у в.п.с., он гораздо скорее сам станет объектом доносов, чем субъектом - задолго до того, как это стало бы нужным для него.

Вы пытаетесь натянуть на практику ярлык этики, только потому что она стабильно существовала. Но стабильность ≠ этичность.

Значит у спартанцев, прочих всех рабовладельческих обществ, обществ допускавших публичные казни и ритуальные убийства объектвной-"функциональной" этики не было.
Так? Проведите уже определяющее деление: есть у того или иного общества объективно этическая система или нет.

[Vitaliy]

Казнь как развлечение https://arzamas.academy/materials/793 https://knife.media/victorian-entertainment/

[BlackMokona]

Простой народ мечтает воевать не так ли? )

Ацтеки были свято уверены, что если не резать военнопленных на жертвы Богам, то настанет конец света. Поэтому все умрут навсегда, если не воевать

[skvj]

Да, как приходили смотреть на казни в Европе - недобровольно

Прям массово и всегда? Доказательства у ВАс имеются?

Публичные казни в Европе, и это хорошо задокументировано, были:

- обязательной формой демонстрации власти
- социальным событием, на которое люди приходили не по свободному выбору, а потому что были наказания за неучастие
- инструмент устрашения и контроля, а не моральной ценностью

Источники:

М. Фуко, "Надзирать и наказывать" как именно публичная казнь была политическим инструментом, а не нравственной нормой. Людей не спрашивали, хотят ли они становиться зрителями - участие толпы было частью спектакля власти.

Хроники Лондона 17-18 вв. фиксируют штрафы и наказания за неявку на публичные мероприятия, включая казни, особенно для жителей цехов и округов, которых обязали представлять присутствие общины.

Муниципальные указы Франции и германских земель прямо требовали выхода горожан на казни "для демонстрации общественного порядка", даже если люди не хотели присутствовать - явка обязательна.

Так что вопрос массово ли - некорректен. Поголовное участие! И да - там были весельчаки и клоуны, которые публично потешались над жертвами и кидались в них всякими какашками - чтобы подбодрить толпу. Всё осуждалось обществом, но ему не давали говорить. Почитайте Фуко, там прям статистика.

Присутствие было частью социального давления, а не следствием личной этики или одобрения происходящего. Всё наоборот - в подавляющем большинстве люди это не только не одобряли, а именно что ходили под принуждением.

Потому что Вы так решили?

Недобросовестное обвинение))
Я вообще никогда от себя не говорю. Это загрязнение в любых изысканиях. И я контролирую себя гораздо более тщательно, и думал, что вы уже знаете об этом.