Пределы автоматизации и внедрения роботов

[Rattus]

Я предоставила в том споре список патентов. Он воспроизводимый.

И бесполезный. В.п.с. сам автор одного и соавтор двух патентов. Патенты реальные, достаточно обычные, которых похожих по материалу в международных БД можно десятки найти. Ни один не внедрён в серию за десяток лет.
Ну а как известно, даже одного факта достаточно, чтобы теорию опровергнуть. Так что не катят ваши патенты на скруглённые углы ойфонов и волшебные палочки - несите более адекватный критерий.

[Polnoch Ксю]

Как и иерархический страх перед высшей силиконовой обезьяной.

Вот это опасная иллюзия, я согласна. Люди в восторге от ChatGPT и других LLM, потому, что они такие вежливые, обо всём знающие, умнички. Но на самом деле без AI Alighment это будет НЁХ. Разумный паук на максималках, который умеет притворяться человеком лучше человека. Почему НЁХ? А по определению AI Aligment. Мы сами создали суперхищника, который с одной стороны, совсем внутренне на нас не похож, а с другой стороны, умеет под нас идеально маскироваться.

Почему хищника? Ну с биологической тз. не хищника, он не будет нами питаться. Скорее с точки зрения фильма ужасов хищника (чужой против хищника).

Ещё и сейчас на "невойне" создадим для нёха киллботов. Что же может пойти не так, когда кто-то решит облагодетельствовать человечество, например, написав в промте "пусть люди прекратят страдать", и не-Aligned ASI просто нас всех порешит, так как это действительно прекратит страдание?

[MenFrame]

Мы сами создали суперхищника, который с одной стороны, совсем внутренне на нас не похож, а с другой стороны, умеет под нас идеально маскироваться.

Это угрожает сугубо неверифицированному общению.

[Polnoch Ксю]

И бесполезный. В.п.с. сам автор одного и соавтор двух патентов. Патенты реальные, достаточно обычные, которых похожих по материалу в международных БД можно десятки найти. Ни один не внедрён в серию за десяток лет.
Ну а как известно, даже одного факта достаточно, чтобы теорию опровергнуть. Так что не катят ваши патенты на скруглённые углы ойфонов и волшебные палочки - несите более адекватный критерий.

не опровержение, так как это не показатель перформанса прикладной науки, а  бизнеса. Экономика не растёт по экспоненте.

[незлой]

Почему хищника?

мотивацию ему кто писать будет?
без мотивации сильный ии тупо самовыпилится. пока оно весело с нами чатит - сильным ии там и не пахнет
(назовём это тест тьюринга  второго порядка)

[Olweg]

Мотивация может самозародиться в поисках оптимизации.

[незлой]

самозародиться в поисках оптимизации.

смысле - как баг? 

[Polnoch Ксю]

мотивацию ему кто писать будет?

Вы и будете. Но получите не то, что хотели. Вы про paperclip maximazer знаете?

[незлой]

Но получите не то, что хотели. Вы про paperclip maximazer знаете?

ну, т.е. - тоже как баг.
интересно получается.

[MenFrame]

ну, т.е. - тоже как баг.
интересно получается.

Эволюция систем ИИ будет отбраковывать все что заметно не соответствует потребностям создателей. Потому не какое самозарождение тут невозможно. А вот злонамеренное вполне. Поэтому системы безопасности будут в первую очередь направлены на противостоянии хакингу системы.

[Rattus]

не опровержение, так как это не показатель перформанса прикладной науки, а  бизнеса.

А разве патенты придуманы не для бизнеса прежде всего? Точнее для защиты инноваций в нём.
Какой ещё может быть более объективный показатель перворманса ПРИКЛАДНОЙ науки кроме её этого самого приложения - внедрения в производство, которым внедрением в кап.экономиках всецело заведует бизнес?

Экономика не растёт по экспоненте.

Вот вы и опровергли ВАшу собственную мантру из другой темы, что

прогресс запросто может дать человечеству ещё десятилетия, если не столетия игры с положительной суммой!

Если экономика не растёт по экспоненте, а наука (тем более "прикладная"!), как Вы утверждаете,- растёт - то чем дальше, тем больше будет возникать вопросов: "А зачем нам такая "прикладная" наука, которая всё пухнет и пухнет, но на экономике заметно положительно не отражается?" - и её закономерно начнут снимать с довольствия, причём глобально.
Надо понимать это и будет моментом наступления "технологической сингулярности", да?

[Polnoch Ксю]

Какой ещё может быть более объективный показатель перворманса ПРИКЛАДНОЙ науки кроме её этого самого приложения - внедрения в производство, которым внедрением в кап.экономиках всецело заведует бизнес?

Скорость внедрения патентов зависит от текущего перформанса экономики. Например, когда рецессия патенты будут писаться в стол.  Ну и если у тебя выбор из большего числа патентов, по которым ты делаешь продукт, то у тебя сам продукт получается лучше. Чем если у тебя выбор очень небольшой.

Вот вы и опровергли ВАшу собственную мантру из другой темы, что

Ничего я не опровергла. Есть разница, когда прогресс развивается по закону (я условно!) e^x, а экономика, скажем, линейно растёт в среднем на пару-тройку процентов в год. Всё ещё игра с положительной суммой.

Если экономика не растёт по экспоненте, а наука (тем более "прикладная"!), как Вы утверждаете,- растёт - то чем дальше, тем больше будет возникать вопросов: "А зачем нам такая "прикладная" наука, которая всё пухнет и пухнет, но на экономике заметно положительно не отражается?" - и её закономерно начнут снимать с довольствия, причём глобально.
Надо понимать это и будет моментом наступления "технологической сингулярности", да?

Если бы у нас не было экспоненциального прогресса, по нам ударили бы все эти пределы роста и падающие возвраты. Но наука может помочь нивелировать проблему. А снять с довольствия науку? Да, запросто, но это решение будет именно глупым, самоубийственным. Именно из-за иллюзии бесполезности прогресса, тогда как только он нас спасти и может.

[Rattus]

Например, когда рецессия патенты будут писаться в стол.

И сколько уже длится эта самая рецессия?

Ну и если у тебя выбор из большего числа патентов, по которым ты делаешь продукт, то у тебя сам продукт получается лучше.

Если продукт получается лучше, то это должно позитивно отражаться на экономике, или нет?

Есть разница, когда прогресс развивается по закону (я условно!) e^x, а экономика, скажем, растёт в среднем на пару-тройку процентов в год. Всё ещё игра с положительной суммой.

Что в любом случае свидетельствует о стремительно падающей отдаче и превращении такой "прикладной науки" де-факто в пузырь. Чем заканчивают все без исключения пузыри в экономике напоминать нужно?

Если бы у нас не было экспоненциального прогресса, по нам ударили бы все эти пределы роста и падающие возвраты.

А что - у нас на завтра в 9:00 GMT намечен конец истории? А вариант, что этот самый удар и будет проявлением той самой "технологической сингулярности" вы с гневом отвергаете как идеологически неблагонадёжный?

Но наука может помочь нивелировать проблему.

А если она придёт к выводу, что это нивелирование возможно только через резкое урезание потребления и режим жёсткой экономии всего и вся? Кризисное управление и теория катастроф - по-ВАшему - лженауки?

[BlackMokona]

Эволюция систем ИИ будет отбраковывать все что заметно не соответствует потребностям создателей.

Багов не существует, запишем

[Polnoch Ксю]

ну, т.е. - тоже как баг.

почему баг? Не выровненность.

И сколько уже длится эта самая рецессия?

Именно эта в Европе, Хонтии и России - сколько продлится невойна. При этом глобальный Юг, США, Канада и многие другие страны растут. Запрещённое слово даже не игра с нулевой суммой, а с отрицательной.

Если продукт получается лучше, то это должно позитивно отражаться на экономике, или нет?

Конечно. Но у нас сейчас цивилизационный кризис внутренний, культурный. Лысые говорящие обезьяны решили просто так самоубиться на пустом месте. Объективных причин, а-ля нехватки ресурсов, у него нет. Нет, я не спорю, от изменений климата такие проблемы начнут нарастать. Но лет 50, если не 150, у нас ещё есть, особенно если попытаться сдержать эмиссию CO2 (без ущерба для экономического роста), а там и термояды подоспеют, и можно будет иметь энергию откачать лишний CO2 из атмосферы.

Что в любом случае свидетельствует о стремительно падающей отдаче и превращении такой "прикладной науки" де-факто в пузырь

Наука это ресурс. Ресурс для решения назревающих проблем. Она же позволяет создавать новые рынки, без которых капитализм не растёт. Например, после глобализации планеты был создан интернет. Созвездия спутников тоже создали новый рынок. Её резать нельзя, чем бездоннее бочка знаний, тем проще справляться с вызовами вроде падающего возврата или пределов роста

  А вариант, что этот самый удар и будет проявлением той самой "технологической сингулярности" вы с гневом отвергаете как идеологически неблагонадёжный?

Ну это попытка переназначить термин, украсть его значение.

А если она придёт к выводу, что это нивелирование возможно только через урезание потребления и режим жёсткой экономии всего и вся? Кризисное управление и теория катастроф - по-ВАшему - лженауки?

У меня дома светодиодные лампочки, а у Вас? Казалось бы, по кардышеву регресс в отдельно взятом жилье: снижение энергопотребления. А в реальности прогресс. Ничего плохого в экономии ресурсов, если не ведёт к снижению уровня жизни, нет. Самое забавное, что при этом у нас дома безлимит по электричеству (нет счётчика), но других лампочек, кроме светодиодных, не бывает умных (чтобы краснели вечером), да и кто обычными пользуется - в супермаркете или на Амазоне продаются именно такие. Чтобы купить не светодиодные, нужно прикладывать специальные усилия.

[Rattus]

Объективных причин, а-ля нехватки ресурсов, у него нет. Нет, я не спорю, от изменений климата такие проблемы начнут нарастать. Но лет 50, если не 150, у нас ещё есть, особенно если попытаться сдержать эмиссию CO2 (без ущерба для экономического роста), а там и термояды подоспеют, и можно будет иметь энергию откачать лишний CO2 из атмосферы.

Главное - во всё это верить, да.

Наука это ресурс. Ресурс для решения назревающих проблем.

Песок - это тоже ресурс. Или лёд. Только не в Сахаре и не в Арктике соответственно.

Её резать нельзя

Убеждайте в этом тех, кто принимает бюджеты. И не только сегодня, но и 5, 10, 50, 100 лет вперёд.

У меня дома светодиодные лампочки, а у Вас?

У Нас тоже это замечательное изобретение конца прошлого века установлено во всех комнатах. Аргумент типа "Поглядите какая свежая полезная инновация!" кивая на самолёт или автомобиль к концу 1930-х годов.

Ничего плохого в экономии ресурсов, если не ведёт к снижению уровня жизни, нет.

А если ведёт? Это зависит от ценностных установок, которые, как известно, далеко не абсолютны.

[Серый Страж]

Эволюция систем ИИ будет отбраковывать все что заметно не соответствует потребностям создателей.

Багов не существует, запишем

Иногда баг становится фичей.

Например, баг оказался не фатальным (просто бесполезным и не особо вредным) и его перенесли (чаще ненамеренно) в следующие модификации систем ИИ. А затем, в некоторых случаях в уже изменившихся внешних условиях (типа, потребности создателей изменились), этот баг может оказаться основой для разных фичь (или сразу превратится в фичу, что маловероятно) уже в следующих поколениях систем ИИ.

Кстати, и в эволюции живого подобное тоже было не раз.

[Polnoch Ксю]

У Нас тоже это замечательное изобретение конца прошлого века установлено во всех комнатах.

Умные светодиодные лампочки, которые могут гасить свет, когда Вас нет в комнате, или менять спектр  в течение суток, чтобы помочь с циркадными ритмами - не изобретение прошлого века.

А если ведёт? Это зависит от ценностных установок, которые, как известно, далеко не абсолютны.

ну, если у кого-то ценность лично развеевать в энтропию как можно больше энергии, то у этого человека уровень жизни падает. Но объективно для типичного человека это не нужно. Если лысые, говорящие обезьяны закончат убивать друг друга, экономика быстро восстановится, и продолжит расти (с попеременными рецессиями) ещё очень долго. Если, конечно, тех сингулярность не наступит очень скоро - некоторые считают, что до неё вообще пара лет.

[Rattus]

Умные светодиодные лампочки, которые могут гасить свет, когда Вас нет в комнате

Не нужны, если не отсохли напрочь руки и мозг. Тем более когда

безлимит по электричеству

или менять спектр  в течение суток, чтобы помочь с циркадными ритмами

Бесполезно согласно последним исследованиям. Важна прежде всего общая освещённость. Под жёлтым/красным прожектором тоже засыпать не очень.

не изобретение прошлого века.

А ободряющая самочесалка спины - прошлого. Вышеуказанные "инновации" - того же порядка полезности.

[Polnoch Ксю]

Не нужны, если не отсохли напрочь руки и мозг.

640КБ хватит всем? А ещё, на человеке можно даже землю пахать! Зачем отключать свет руками, если это может делать автоматика?

Бесполезно согласно последним исследованиям.

Там вроде не совсем бесполезно, но освещённость важнее, да. Вот освещённость тоже может меняться автоматически.

"Всё уже было изобретено" - иллюзия. У нас есть всё более увеличивающая бочка знаний, и на основе неё делаются новые продукты. Иногда это что-то, изобретённое год назад. Иногда что-то, открытое тысячи лет назад. Чем бочка знаний бездоннее, тем возможностей больше.