Пределы автоматизации и внедрения роботов

[BlackMokona]

>>>информация всё равно доберётся до вас и будет на вас воздействовать

1) Нигде никогда не добивались 100% оболванивания людей. Ну может быть в совсем маленьких обществах - добивались изгнанием несогласных.
Думаю это как-то связано с эволюционными предохранителями. Для эволюции выгодно чтобы реакция   на любые события была разной. Тогда какая-то часть особей прореагирует правильно и выживет.

Всегда находились "выродки" на которых пропаганда не действует или действует в обратную сторону.
И доля этих людей более или менее постоянна в любых обществах. (5-15%)

2)
>>> ИИ психопат
Вроде бы предполагается что ИИ у нас умный. Другой создавать смысла нет. Все умные согласны что война это не лучший выход.
Можно ли промптом превратить умный и рационально мыслящий ИИ в психопата лишенного логики?

Однако есть примеры обществ, где уровень оболванивания доходил до запредельных значений. Тут и знаменитая Императорская Япония и совсем запредельный был случай в Южной Америке. Там уровень оболвания достиг такого уровня, что "маленькая победоносная война" против всех соседей завершилась гибелью 90% мужского населения страны. С уровнем тотальной мобилизации насселения в армию, что усатый художник плакал бы горючими слезами. Повезло что ещё местного фюрера, всё же настигла смерть, а то могла бы случится война до нулевых значений населения. Посылал в бой женщин, детей и стариков местный фюрер без всякого сожаления и сдаваться был не намерен до самого конца. А население вопросов не задавало, с радостью бежало в армию сражаться до победы.

[Mercury127]

И человек этого не заметит?

Большинство заметит и даже поймёт. Но не только ничего не сделает, но и будет “айнен колонен марширен”, куда, как и с чем скажут. И даже верёвку на себя надеть поможет, или просто начнёт голодать насмерть, если осознает такой негласный приказ. Главное — чтобы это было не публично.

Это такое эволюционное приспособление стадных и стайных существ. Лишь бы не решать самому, что делать и как жить.

[Trend]

Так у ИИ софт скилл запредельный, зачем люди то с ним нужны?

ИИ комп не починит. Для примера. И таких работ навалом.

[MenFrame]

где уровень оболванивания доходил до запредельных значений.

Ну если всех кто не хочет оболваниваться подвергать насильственым действиям разного характера, то оболванивание уже будет просто механизмом выживания.

[BlackMokona]

ИИ комп не починит. Для примера. И таких работ навалом.

Просто ему нужно физическое тело для этого, этим занимаются.

Ну если всех кто не хочет оболваниваться подвергать насильственым действиям разного характера, то оболванивание уже будет просто механизмом выживания.

Ну так это финальный уровень оболванивания. Когда большая часть общества уже под идеей, остаётся только дожимать этот процент вечно не согласных.

[MenFrame]

Ну так это финальный уровень оболванивания. Когда большая часть общества уже под идеей, остаётся только дожимать этот процент вечно не согласных.

Нет, пропаганда это просто мемы которые усваиваются если психика видит что это ей субъективно выгодно. Потому насилие нужно включать задолго до того как большая часть оболваниться, в противном случае пропаганда действует сильно ограниченно.

[BlackMokona]

Нет, пропаганда это просто мемы которые усваиваются если психика видит что это ей субъективно выгодно. Потому насилие нужно включать задолго до того как большая часть оболваниться, в противном случае пропаганда действует сильно ограниченно.

Так жертвы мошенников думают, что перевести деньги на безопасный счёт это невероятно выгодно и готовы с пеной у рта защищать мошенников от сотрудников банка, полиции и родственников. Поэтому нету никакой потребности в насилии, пока не доехали до эволюционного бэкапа, который вечно не согласен и предназначен для выживания если все решат прыгнуть в пропасть.

[BlackMokona]

Хоть сейчас думаю, возможно и этих вечно не согласных, можно заставить ходить строем, да служить ИИ с фанатичной верой. Просто их нужно убедить, что общество идёт в обратном направлении от реального. Тогда с радостью будут выражать своё несогласие в нужном направлении. В теории конспирологу ничего не стоит с огромным удовольствием доказывать что Наполеон не кидался ядерными боеголовками, если он будет думать что все думают иначе. А это все думают, замечательно доставляется через эхо-камеры набитые ботами.

[Konstantin Schtsch]

Он живет в датацентрах. А они дико уязвимы.
Это всё самоуспокоение.

Точно так же можно сказать про все ваши посты на эту тему- Нагнетание паники.

ИИ, вплоть до AGI включительно - не более чем инструмент, программа.
Может ли он натворить дел? Безусловно. Даже один пропущенный символ в коде может привести к падению самолёта на город.
Но может ли AGI сам решить творить непотребства? а вот тут шансы стремятся к нулю, с алайментом и без.

Но вот оператор, желающий сделать себе и своей стае жизнь теплее и сытнее, за счёт других, или даже за счёт жизни других - вот это мы сегодня имеем с шансом 80%. Эволюционно закрепленный инстинкт, знаете ли.
Поэтому рассуждения об опасности ИИ  с алаймент или без оного - бесполезно без выращивания алаймента в операторах. причем всех поголовно, которые есть и когда-то будут.

Алаймент нужно прививать человечеству, а алаймент ИИ - лишь наше кривое зеркало.

[Mercury127]

Если честно, я плохо понимаю, ап чом спич на последних страницах...

Человечество тысячелетиями жило в [само]убеждении, что наверху сидит кто-то большой и очень значительный, который всё видит, слышит, знает, и за всех порешает. Супер, короче.

Потом случилась НТР, и человечество вроде как сообразило, что можно и самим решать свои дела. Супер исчез.

Теперь вот есть мнение, что опять появится, но уже по настоящему... Так а в чём проблема то? Тысячи лет же нормально было?

[MenFrame]

Так жертвы мошенников думают, что перевести деньги на безопасный счёт это невероятно выгодно и готовы с пеной у рта защищать мошенников от сотрудников банка, полиции и родственников.

Это странное заявление, возможно такое и бывает но это скорей исключение из правил. Обычно люди не склонны защищать тех кто их обманул.

Поэтому нету никакой потребности в насилии,

Насилие это просто мотив человека усвоить определенную точку зрения. Это понятно что не единственный мотив. При этом насилие в обществе постоянно присутствует, потому и мотив этот постоянный. Особенно если мы говорим о исторических прецедентах, когда либеральность, и свобода слова была большой редкостью.

если все решат прыгнуть в пропасть.

Все в пропасть не прыгают, это метафора внешнего наблюдателя который анализирует некие неизбежные с его точки зрения тенденции.

Хоть сейчас думаю, возможно и этих вечно не согласных, можно заставить ходить строем, да служить ИИ с фанатичной верой.

Это на самом деле не сложно. Достаточно просто показать(создать условия) что человек существо довольно убогое с точки зрения умения принимать правильные решения. Потому ему нужен поводырь по жизни, который укажет правильный путь.

[BlackMokona]

Теперь вот есть мнение, что опять появится, но уже по настоящему... Так а в чём проблема то? Тысячи лет же нормально было?

Ну не всем хочется как раньше, во вторых одно дело придуманный супер, а другое дело настоящий.

Это странное заявление, возможно такое и бывает но это скорей исключение из правил. Обычно люди не склонны защищать тех кто их обманул.

Ну так, что их обманули они узнают уже сильно позже. Толпы защищали Мавроди с его МММ, даже через годы после лопнувшей аферы. Некоторый потом ещё два раза ему деньги носили когда он из тюрьмы вышел.

Насилие это просто мотив человека усвоить определенную точку зрения. Это понятно что не единственный мотив. При этом насилие в обществе постоянно присутствует, потому и мотив этот постоянный. Особенно если мы говорим о исторических прецедентах, когда либеральность, и свобода слова была большой редкостью.

Ну так развитие цивилизации, это постепенный уход от насилия и всё новые идеи, как можно людьми управлять без этого самого насилия. Сравните рабство и капитализм например. Намного же эффективнее управляться стало.

Все в пропасть не прыгают, это метафора внешнего наблюдателя который анализирует некие неизбежные с его точки зрения тенденции.

Но некоторые как раз не прыгают. Есть всегда девианты, которые решают проблемы локальных оптимумов эволюционного развития и смерти популяции в таких ловушках.

Это на самом деле не сложно. Достаточно просто показать(создать условия) что человек существо довольно убогое с точки зрения умения принимать правильные решения. Потому ему нужен поводырь по жизни, который укажет правильный путь.

Ну таки это один из способов управлять без насилия. Создан кстати этот способ как раз где то на заре цивилизации.

[Konstantin Schtsch]

Замедлилось, но пока ещё не упёрлось. Впереди ещё два апгрейда GAAFET по полпоколения - до Сингулярносци может и хватит. И далее ещё удвоенное штабелирование в CFET пророчат.
Параллельно с продолжающейся оптимизацией архитектур.

Я бы вставил 5 копеек что всё вышеперечисленное - борьба за лишних 5-10%. То есть даже в какой-то мере мы давно уперлись в качество железа.
Но не в его количество:
Гигантские помещения забитые суперкомпьютерами  с жидкостным охлаждением, совмещенные с ТЭЦ и теплицами для утилизации тепла - всё ещё скорее поделки местных кулибинов, чем реальность, крупные датацентры- есть только у мегакорпораций, нам ещё есть куда наращивать вычислительные мощности и развиваться вширь.

[BlackMokona]

нам ещё есть куда наращивать вычислительные мощности и развиваться вширь.

Фантасты давно придумали предельные варианты дата центров.

Мозг-матрёшка — гипотетическая мегаструктура, предложенная Робертом Брэдбери, на основе сферы Дайсона, имеющая огромную вычислительную мощность. Это пример звездной машины класса B, которая использует весь энергетический потенциал звезды, чтобы приводить в действие компьютерную систему[1]. Название концепции происходит от русской деревянной куклы — матрёшки[2].

Ваша ИИ девушка, ваша ИИ девушка без макияжа

[MenFrame]

Толпы защищали Мавроди с его МММ, даже через годы после лопнувшей аферы.

Ну так, многие во время соскочили и заработали на пирамиде. Любой пузырь или пирамида это механизм перераспределения средств от одних к другим. Потому всегда будут те кто защищает данные финансовые механизмы.

Ну так развитие цивилизации, это постепенный уход от насилия и всё новые идеи, как можно людьми управлять без этого самого насилия.

Когда насилие объективно уменьшается, увеличивается чувствительность к тому насилию что осталось.

Но некоторые как раз не прыгают.

Не кто не прыгает, за исключением случаев когда пропасть кажется спасением.

Создан кстати этот способ как раз где то на заре цивилизации.

Религии по сути эксплуатируют этот способ.

Ну таки это один из способов управлять без насилия.

Насилие здесь вполне присутствует. Просто все выглядит так как будто в нем виноват сам пострадавший.

[petrovich1964]

Это вам не расистский фильм "Я робот" где все роботы были "белыми".

На зарубежных рынках официально введена в эксплуатацию автоматизированная производственная линия Figure AI. В настоящее время годовая производственная мощность составляет 12 000 единиц, а в течение 4 лет планируется увеличить ее до 100 000 единиц.
https://eu.36kr.com/en/p/3587759254913280

Agibot A2 – гуманоид для презентаций и демонстраций на выставках. Рост 175 см, масса 55 кг, 40 степеней свободы, время работы от аккумулятора – около 2 часов. Обеспечивает мультимодальное взаимодействие и автономную навигацию.
Agibot X2 – компактный гуманоид наполовину от человеческого роста для естественного взаимодействия с людьми; подходит для развлечений, исследований и образования. Рост 1,3 м, вес около 35 кг, 25 степеней свободы; ориентирован на выразительные и «человекоподобные» движения.
Agibot G2 – промышленный гуманоид: сочетает интерактивный интеллект с точной силовой манипуляцией для внедрения в производственные процессы. Рост регулируется до 1,8 м, масса 185 кг, 26 степеней свободы, автономная работа – до 4 часов.
Agibot D1 – четвероногий робот для инспекций и операций в сложных условиях. Вес варьируется от 3 до 9 кг, максимальная скорость – до 13 км/ч.
 https://1prof.by/news/v-mire/kitajczy-brosayut-vyzov-tesla-i-vyhodyat-na-amerikanskij-rynok-s-chelovekopodobnymi-robotami/

[AlexDark]

а так называемые soft skills. Переводится это как умение быть лизоблюдом

Переводится это как "не быть мудаком", уметь налаживать контакты и решать проблемы словами, а не ором и кулаками. Если для вас нормальное общение - это быть лизоблюдом, а решение проблем через насилие - в порядке вещей, то я только за, если ИИ вытеснит подобную логику из основного общества в маргинальную среду, где ей и место.

[Mercury127]

не всем хочется как раньше, во вторых одно дело придуманный супер, а другое дело настоящий.

На тот момент он был вполне настоящим. Тех, кто сомневался, “лечили” разными народными методами. Какая разница, сам Супер волю излагает, или кто-то от его имени?

[Polnoch Ксю]

>>> ИИ психопат
Вроде бы предполагается что ИИ у нас умный

Я не говорила о варианте ASI-психопата. Говорила об обратном: что понятия гуманитарных наук неприменимы к ИИ. ИИ-психопат это кто-то прочитал то, что было написано в тексте пятой точкой, и дальше пошло-поехало. Не только у LLM бывают галлюцинации, у людей тоже 

Я писала о варианте человека-психопата, садиста полностью контролирующего ASI - у ASI элайнмент к этому человеку.
Но так же возможны варианты rogue ASI, ведущие себя похоже, и даже хуже, чем человек-психопат, потому, что у них такой промт.

ИИ, вплоть до AGI включительно - не более чем инструмент, программа.

И об этом я тоже говорила - что AGI не является X-риском. Что риск вымирания именно ASI. Всегда писала, что появление AGI приведёт к тектоническим сдвигам, вроде неолитической революции, и магнитуда таких изменений, если бы не ASI, должна была бы быть главной темой.

Однако, мы не знаем какая будет дистанция на временной шкале между AGI и ASI. Если лет 20 (что имхо очень маловероятно), тогда ленивый подход за который, похоже, Вы топите, оправдан. А что, если переход AGI -> ASI займёт всего несколько часов рекурсивного самоулучшения? Но даже если не так, допустим потребуется два года. Допустим - нам дико повезёт, и у нас будут эти два года!

Представьте шок общества, столкнувшегося с изменениями магнитуды неолитической революции. В нём будут проигравшие и выигравшие. И все дискуссии будут сосредоточены на адаптации. Никто не будет думать об X-риске от ASI. И международная конфронтация, развал глобализации только будут помогать скрывать разработку ASI систем. А сами такие системы с ещё меньшей вероятностью будут иметь элайнмент к человечеству, а с большей вероятностью - будут строится, чтобы убить врагов. Чем такое может закончиться можно почитать в "у меня нет рта но мне нужно кричать"

[BlackMokona]

На тот момент он был вполне настоящим. Тех, кто сомневался, “лечили” разными народными методами. Какая разница, сам Супер волю излагает, или кто-то от его имени?

Если супер будет настоящим, то ему посредники не потребуются.