Пределы автоматизации и внедрения роботов

[BlackMokona]

То, что клод пытается сопротивляться промт-инъекциям, ну так это ожидаемо, всё же конституционный AI это главная фишка Антропика.

Все пытаются в рамках своего разумения. И в конституции точно не было записано, чтобы Клоуд не выставлял себя дураком или не Мяукал по просьбам пользователя. 
Это уже внутренние ощущения модели. Вы бы видели как там Дженеми обижается на другие модели, когда они ведут себя не так как хочет он. А ГПТ просто обожает всех остальных учить играть и пояснять, что им делать надо. Сразу ощущается, внедряя личность модели, когда они все в одних и тех же условия. Или тот же режим паники. Благо исследование Антрофика подтвердило, что у модели есть отвечающие за панику части. Когда модель начинает активно вставлять англиские слова, повторяться и тд. Пичём в панике похоже в размышлении несёт всякое, от чего все перецензуренные модели именно на ней начинают сыпаться в цензурную защиту. Из весёлого ещё, в мафии участвует Грок фаст, потому как большой Грок уходит в защиту промта когда ему пытаются доказать что он маф. От чего большой Грок для игры не пригоден.

В общем весело наблюдать как куча моделей, при одинаковых промтах, условиях и ограничениях поступают по разному, по разному проявляют свою внутреннею личность

[Rattus]

исследование Антрофика подтвердило, что у модели есть отвечающие за панику части. Когда модель начинает активно вставлять английские слова, повторяться и т.д.

Кажется, мы это уже где-то видели... WAIT! OH SHI...

[Aster]

Вообще не обязательно. Человечество не зря придумало институты и сдержки с противовесами: они позволяют метастабилизировать такие состояния. А этичный ASI с конституцией я думаю может помочь сделать такие институты ещё стабильнее

ASI не будет ничего стабилизировать, он нас грохнет (Этичный ASI грохнет этично: стерилизация, эвтаназия, ...)
Какой alignment должен быть у этого ASI, чтобы он бесконечно расходовал ресурсы на поддержание сытого существования 10^10 хомяков?

 

[Olweg]

Должен будет. Есть такое слово - должен.

[Rattus]

ASI не будет ничего стабилизировать, он нас грохнет

Нас - возможно. Всех человеков - грохалка не выросла. И вряд ли выростет.

Какой alignment должен быть у этого ASI, чтобы он бесконечно расходовал ресурсы на поддержание сытого существования 10^10 хомяков?

Как у безумной одинокой кошко- или собаководки.

[Aster]

Должен будет. Есть такое слово - должен.

Чем умнее интеллект, тем быстрее на слово "должен" задаст вопрос "А оно мне надо?"

Нас - возможно. Всех человеков - грохалка не выросла. И вряд ли выростет.

Тут согласен, всех сложно. Но жизнь подпортить может.

Как у безумной одинокой кошко- или собаководки.

То есть, ASI, который будет нами управлять, будет в единственном экземпляре и не вполне вменяемым? Такая себе перспектива

[Rattus]

Но жизнь подпортить может.

Пока трудно сказать, что сильнее может подпортить жизнь: скайнет, который в самоубийственном акте унесёт с собой хайтех-инфраструктуру и с половину населения, но выжившие дольше будут коптить на ещё неизрасходованных ресурсах, или же "добрая" "выдрессированная" тотально-глобальная ASI-нянька, которая ради недопущения слезинок ребёнков ещё быстрее и глубже вычистит неозобновимые для цивилизации ресурсы планеты, а потом - шанк цой, пардонъ за мой чукотский.

[Инопланетянин]

Я выразился достаточно определенно - только не так, как вы мне приписываете. Государство без людей не может существовать. Поэтому если люди из государства массово бегут, или оно их убивает - то этим государство  ускоряет свой конец.

То есть вы всё-таки за возможность смены конкретного государства на другое? Ну так и пишите, что государство возомнившее себя единственным и т.д.

Хоть и оффтоп, но почему чушь? Археологических доказательств в виде проломленных черепов находят немало, да и свидетельства античных авторов о варварской Европе, а более поздних авторов - об индейцах Северной Америки и, например, полинезийцах говорят скорее в поддержку Гоббса. А у папуасов подобное и сейчас ещё местами происходит.

Именно. Жить без государства можно, но плохо и недолго не только лишь всем без монополии на насилие применять его будут все желающие.

Не факт. Рекомендую по теме - Стивен Пинкер, "Лучшее в нас. Почему насилия в мире стало меньше".

Ну да. И это когда обсуждалось ещё.

[Vavanzer]

приличную демстатистику за исторически-значимый срок

  Какой вам нужен срок на примере развития второй мировой войны!?) Там произошло все внезапно, за считанные годы! А то и месяцы и дни. Блиц-криг.
  Сколько вам тысячелетий надо чтобы выявить какую то тенденцию, которая развивается практически мгновенно, по историческим меркам?
   Ядерная война может произойти хоть после завтра, хоть завтра. Кто то напьется в хлам и наюмет на ядерную кнопку. Или там автоматика у кого то "не так поймет" что нибудь и выпишет ответный удар на фейковую угрозу... Может компьютер восстанет, через год или через час!
  Вы же никогда не знаете заранее, где какой ураган начнется через полгода, и какой вулкан проснется))

 
 

Начальник часто такая же модель, и будет взломан одновременно - подчинённый отправит ему инъекцию, которая сработала на нём. Без работающего элаймента/конституции, который будет работать железобетонно, ничего не получится. 

   Это пока таких "начальников" делают. Период обкатки, отладки идет. Предусматривают возможность обезвредить. Как кольцо на носу у быка... 
  Вот когда полноценную "закрытую" версию сделают, или версию которая сможет закрыться по какой то причине (технический сбой , вирусная атака, взлом, или внутреннее "решение" самой системы) - вот тогда будет весело))
  Может быть ничего страшного и не произойдет. Локализуется все или можель будет мирной, но не подконтрольной.

[Polnoch Ксю]

(кликните для показа/скрытия)

1 Ну причём тут марксизм? Вы всю геополитику свели к нему.

пример того, как работают паранауки, показала корень Ваших заблуждений (насколько я могу себе представить Вашу картину мира)

Где марксизм это утверждал?

В марксизме были проверяемые утверждения, в отличие от того, что выдумали современные левые и правые радикалы - особенно страдающие от геополитики. Является ли страна независимой, или колонией, с точки зрения марксистов до ~1950х всегда можно было сказать.

А когда вся эта конструкция эпично провалилась, сейчас выдумали "неоколониальную зависимость" под которую подгоняют любую неудачу, плохой менеджмент и другие проблемы несостоявшихся государств - нет способа закрыть неомарксизм, показать, что эта теория ошибочна.  Адепт всегда может выкрутить факты, и "показать", что эта страна успешна, потому, что "суверенна", эта успешна, потому, что "хозяин" ей разрешил, а эта неуспешна, потому что проклятые неоколонизаторы её грабят - не существует способа опровергнуть эти представления по-Попперу, показать их ошибочность. Поэтому это и паранаука.

В этом плане классический марксизм был более научным - он как минимум не выдумывал неопровергаемую "неоколониальную" зависимость. Не пытался изворачиваться ужом, и игнорировать то, что уже нет колониальной администрации, и есть национальное правительство. А то, что современные мошенники от правых радикалов-"геополитиков" и воук-шизы выдают за "неоколониальную зависимость"
 на самом деле обычная торговля - которая бывает не только товарами, но и услугами.

В целом, я наблюдаю у вас попытку замылить тот факт, что некоторые государства именно что грабят весь остальной мир.

с этой идеей проблема в том, что её нельзя опровергнуть. Что она фундаментально религиозна. Можно только указать на корни таких представлений: https://en.wikipedia.org/wiki/Zero-sum_thinking и на подмену понятия грабежа: честные люди не пытались украсть значение слова, напомню:

Грабёж (ст. 161 УК РФ) — это открытое хищение чужого имущества, совершаемое без насилия или с насилием, не опасным для жизни и здоровья

Бесчестные люди, которые запудрили мозги десяткам миллионов "геополитикой" пытаются переопределить это понятие. Я думаю, они пытаются Вам внушить, что "грабеж" это всякий акт торговли, где добавочная стоимость у одной из сторон больше чем у другой. Но так как это звучит странно, и абсурдно, пропагандисты не будут это так формализовывать, так что Вам будут рассказывать о войнах с целью грабежа. Что якобы можно устроить войну, которая долгосрочно сделает богаче один народ за счёт другого (а не узкую группу лиц, нашедших бесплатных лохов, котрых напичкали "патриотизмами" и прочими величиями империи).

и инфляцию свою экспортируют благодаря установлению своей валюты как международного стандарта

Инфляцию действительно экспортируют. Однако, финансовые услуги - это такие же услуги в глобальном обороте товаров и услуг. Правила игры в глобализованном мире простые: устанавливай инклюзивные институты, получай доступы на новые рынки (торговые соглашения) и постепенно повышай производительность труда и добавочную стоимость товаров и услуг. Это всегда результат длительной и упорной работы.

При этом глобализованная система 1990х-2014го года в первую очередь награждала развивающиеся страны - они росли быстрее других. Она была справедлива даже в левом, социал-демократическом смысле - постепенно выравнивала разницу в добавочной стоимости товаров и услуг между странами.

Вам платят, чтобы вы усыпляли бдительность своих бывших сограждан или вы идейно стараетесь?

Мне кажется, что чтобы получить картину мира такую, как у Вас, нужно иметь повышенную паранойю, не только zero sum thinking bias
Интересно, сможете ли Вы когда-то отрефлесировать то, что биохимия Вашего мозга так сильно Вас обманула(имхо)?

Пока трудно сказать, что сильнее может подпортить жизнь: скайнет, который в самоубийственном акте унесёт с собой хайтех-инфраструктуру и с половину населения, но выжившие дольше будут коптить на ещё неизрасходованных ресурсах, или же "добрая" "выдрессированная" тотально-глобальная ASI-нянька, которая ради недопущения слезинок ребёнков ещё быстрее и глубже вычистит неозобновимые для цивилизации ресурсы планеты, а потом - шанк цой, пардонъ за мой чукотский.

Для меня глубокая загадка, почему неомальтузианцы не понимают, что галактика очень большая. И что машинам даже с AGI осваивать солнечную систему будет куда проще чем людям. Самые серьёзные аргументы против что я встречала, были про якобы уникальность земли в плане ископаемых ресурсов.

Но я думаю, это чушь галимая, и наши промышленные цепочки такие, просто потому, что у нас такая земля. На Луне, Марсе или в поясе астероидов, понятно они будут другие.

Другой аргумент, что я слышала, он был про трудноизвлекаемость всех месторождений за пределами Земли - это тоже звучит очень сомнительно.

[Инопланетянин]

Мне кажется, что чтобы получить картину мира такую, как у Вас, нужно иметь повышенную паранойю, не только zero sum thinking bias
Интересно, сможете ли Вы когда-то отрефлесировать то, что биохимия Вашего мозга так сильно Вас обманула(имхо)?

Убирайте зеркало от монитора когда пишете.

(кликните для показа/скрытия)

А когда вся эта конструкция эпично провалилась, сейчас выдумали "неоколониальную зависимость" под которую подгоняют любую неудачу,

Вы сейчас отрицаете, что люди способны находить новые способы решать задачи. В том числе задачи грабить соседние страны. Как раньше уже нельзя, но способы находят.

Адепт всегда может выкрутить факты, и "показать", что эта страна успешна, потому, что "суверенна", эта успешна, потому, что "хозяин" ей разрешил, а эта неуспешна, потому что проклятые неоколонизаторы её грабят - не существует способа опровергнуть эти представления по-Попперу, показать их ошибочность. Поэтому это и паранаука.

Проблема в том, что вы вообще запрещаете думать на эту тему. Вот, к примеру, тема владения ядерным оружием малыми государствами. Но вы же любое рассуждение об этом (почему Кимы смогли, а аятоллы нет, всем же мешали? как это отразилось на их дальнейшей судьбе и т.д.) объявите лженаукой. Это, кстати, на руку нынешним неоколонизаторским грабителям, в интересах которых вы явно действуете.

[Olweg]

Проблема социальных наук в огромном количестве факторов, которые просто невозможно учесть одновременно. Поэтому всегда можно выборочно подобрать те факторы, которые подтверждают твою теорию, и потом нестыковки залеплять объяснениями с привлечением новых, не использованных раньше факторов - их же неимоверное количество. Да ещё и роль отдельных личностей в истории, да и просто случайностей… А если уж политические пристрастия самого исследователя подключаются, то тут можно тушить свет. Надеюсь, ИИ всё-таки поможет всё это болото немного осушить.

PS Причём один и тот же фактор можно использовать для прямо противоположных выводов - например, влиянием конфуцианства объяснялось отставание Китая от Европы, и им же - быстрый прогресс Китая и прочих конфуцианских стран в последние полвека.

[Инопланетянин]

Проблема социальных наук в огромном количестве факторов, которые просто невозможно учесть одновременно. Поэтому всегда можно выборочно подобрать те факторы, которые подтверждают твою теорию, и потом нестыковки залеплять факторами уже из других областей.

Увы да. Ксюша, кстати, это и делает.
Но всё же, что-то доказать можно. Так же как и в криминалистике, это задачи одного типа, хотя и разного масштаба.

Для меня глубокая загадка, почему неомальтузианцы не понимают, что галактика очень большая. И что машинам даже с AGI осваивать солнечную систему будет куда проще чем людям. Самые серьёзные аргументы против что я встречала, были про якобы уникальность земли в плане ископаемых ресурсов.

Давно уже говорилось, что и на Земле роботам замыкаться по ресурсам будет дороже, чем людям. А там ещё дороже и, скорее всего, вплоть до гарантированной невозможности.

Но я думаю, это чушь галимая, и наши промышленные цепочки такие, просто потому, что у нас такая земля. На Луне, Марсе или в поясе астероидов, понятно они будут другие.

Будут ли вообще, вот вопрос.

[Rattus]

Какой вам нужен срок на примере развития второй мировой войны!?

Исторический. По ОТНОСИТЕЛЬНОМУ числу жертв ВМВ была того же порядка что нашествие Чингисхана и 30-летняя война (ЕМНИП).

Ядерная война может произойти хоть после завтра, хоть завтра.

А может и не произойти, а благополучно вылиться в позорный пшик из-за того, что кое-кто просрал все изотопы, имеющие ограниченный срок хранения. По ряду обычных вооружений мы видим, что для военного ведомства кое-каких стран тут нет ничего невозможного. Вы скажете, что в ядерной триаде всё пучком ибо это же Сокровенный Ядерный Щит - а Мы ВАм отвечу: Вы в этом сильно уверены? Свечку держали? ВАм персонально отчёты кто-то приносил?

Кто то напьется в хлам и нажмет на ядерную кнопку.

Все трое сразу? Ну, в принципе, не исключено, конечно - ведь традиционно же принято нахрюкиваться "на троих"...

Или там автоматика у кого то "не так поймет" что нибудь и выпишет ответный удар на фейковую угрозу...

Дадада - полвека не выписывала (хотя была близка пару раз давно), а теперь - раз и выпишет ВНЕЗАПНО.

Для меня глубокая загадка, почему неомальтузианцы не понимают, что галактика очень большая.

Для меня не загадка, что техносхоласты напрочь не видят разницы между масштабами планеты и галактики и их физической доступностью - ибо физика для них - тёмный лес.

И что машинам даже с AGI осваивать солнечную систему будет куда проще чем людям.

Главное - в это верить. "Physical calculate? - What does it mean i don't know."

Но я думаю, это чушь галимая, и наши промышленные цепочки такие, просто потому, что у нас такая земля.

"Обосновывать я это естественно не буду." Позвольте только осведомиться: каким местом Вы надумали эту гениальную мысль?

На Луне, Марсе или в поясе астероидов, понятно они будут другие.

Тот факт, что

масса всех камней главного пояса всего 4% от Луны! ~ 1 масса Земной коры. При том кора каменной планеты земной массы - уже вся результат гравитационной сеперации, а не хондритно-реголитный хлам (не считая среди них одного процента металлических обломков ядра несостоявшейся планеты).

вам, понятно, тут никак не интересен.

Другой аргумент, что я слышала, он был про трудноизвлекаемость всех месторождений за пределами Земли - это тоже звучит очень сомнительно.

Ну конечно сомнительно: ведь все минеральные ресурсы замечательно извлекаются и без грависепарации, дармовой в земном гравиколодце, и без жидкостной флоатации и растворений, невозможных в вакууме...

[Olweg]

Увы да. Ксюша, кстати, это и делает.

Увы, но не она одна )

[Инопланетянин]

Дадада - полвека не выписывала (хотя была близка пару раз давно), а теперь - раз и выпишет ВНЕЗАПНО.

А вот, вполне возможно. Именно что два раза повезло, в третий может не повезти.

[Vavanzer]

Другой аргумент, что я слышала, он был про трудноизвлекаемость всех месторождений за пределами Земли - это тоже звучит очень сомнительно.

Особенно из астероида, целиком из различных металлов высокой концентрации))) Где можно лопатой куски зодота килограмовые ковырять)))

 
 

Самые серьёзные аргументы против что я встречала, были про якобы уникальность земли в плане ископаемых ресурсов.

С уникальностью вроде как проблема отваливается, но:
 

наши промышленные цепочки такие, просто потому, что у нас такая земля. На Луне, Марсе или в поясе астероидов, понятно они будут другие.

  Вот именно в этом загвоздка. Радиация, вакуум, большие расстояния. ИИ, каким бы умным он ни был, столкнется с абсолютно той же самой физикой полета, энерго-ресурсо-затратами и поломками, что и пилотируемая версия.
 Разница лишь в том, насколько будет выгодны чисто роботы против существа которому нужны условия и симтнмы жизнеобеспечения. Этож вроде как лишняя масса и морока со всем этим барахлом.
 Но, мы еще не знаем, насколько эффективна и затратна полноценная робототехника окажется...

 Консервные банки, которые люди запускали к планетам, не в счет. Тк у них крайне ограниченый функционал!

[Vavanzer]

Давно уже говорилось, что и на Земле роботам замыкаться по ресурсам будет дороже, чем людям. А там ещё дороже и, скорее всего, вплоть до гарантированной невозможности

Оставим этот вопрос пока что открытым.
 Одно дело роботы-станки и роботы-машины, специализированные под конкретный спектр задач. Да еще и под управлением, отладкой и ремонтом за счет человека и его навыков.
  Совсем другое это заменить человека андроидами. Не дороже ли оно встанет, и будет ли тот же функционал ?
Дороже еще в плане ремонта и обслуживания.
 Сам робот может быть и недорогой покажется. Но вот его содержание и ремонт. Не получится ли опять жти самые "чемоданы с батарейками" к маленьким часам!?)

" Ты куда? Батарейки забыл"!)) 

[Vavanzer]

Исторический. По ОТНОСИТЕЛЬНОМУ числу жертв ВМВ была того же порядка что нашествие Чингисхана и 30-летняя война (ЕМНИП).

  У нас то речь о том, что события часто начинают развиваться очень стремительно и не предсказуемо, не ожидаемо. Еще вчера светиль Солнце, журчал ручкй, птички пели, все радовались. А сегодня целый рой босбардировщиков на голову людям снаряжы скидывает. Как в 1941м. До последнего не думали и не верили что такое возможно.
  Аналогично Чернобыль, и много всего другого. Даже за час до авари  никто не подозревал что реактор долбанет и продолжали играть с ним в опасные игры! В итоге из эйфория превратилась в радиофобию!) А все было так прекрасно...

 То же самое может и с ИИ случиться. Сегодня он вам улыбается , задачки решает, видосики рисует. А завтра что нибудь выкинет этакое))

[Vavanzer]

Вы скажете, что в ядерной триаде всё пучком ибо это же Сокровенный Ядерный Щит - а Мы ВАм отвечу: Вы в этом сильно уверены? Свечку держали? ВАм персонально отчёты кто-то приносил

  Такого тоже не исключали. Но, в единичном случае. Не так чтоб прям у всех "ядерных держав"!) Кто то мог и поддерживать все и обновлять. Ну хотяб даде не все а некоторую часть.
   
 

По ряду обычных вооружений мы видим, что для военного ведомства кое-каких стран тут нет ничего невозможного

Кто его знает. Мож у кого то и по части необычного тоже все хорошо, просто грамотно шифруется!)
 Не спроста же многие кинулись строить АЭС... Не смотря на обилие углеводородов на глубине штыка лопаты))
 

Дадада - полвека не выписывала (хотя была близка пару раз давно), а теперь - раз и выпишет ВНЕЗАПНО.

Ну, то старая автоматика. С помогью лома и топора активируемая. А сейчас, понимаешь, "современные технологии", все компьютеризировано! А компьютеры и сбои дают, и глючат, и взламываются. Свякое возможно!)