Пределы автоматизации и внедрения роботов

[Rattus]

не опровержение, так как это не показатель перформанса прикладной науки, а  бизнеса.

А разве патенты придуманы не для бизнеса прежде всего? Точнее для защиты инноваций в нём.
Какой ещё может быть более объективный показатель перворманса ПРИКЛАДНОЙ науки кроме её этого самого приложения - внедрения в производство, которым внедрением в кап.экономиках всецело заведует бизнес?

Экономика не растёт по экспоненте.

Вот вы и опровергли ВАшу собственную мантру из другой темы, что

прогресс запросто может дать человечеству ещё десятилетия, если не столетия игры с положительной суммой!

Если экономика не растёт по экспоненте, а наука (тем более "прикладная"!), как Вы утверждаете,- растёт - то чем дальше, тем больше будет возникать вопросов: "А зачем нам такая "прикладная" наука, которая всё пухнет и пухнет, но на экономике заметно положительно не отражается?" - и её закономерно начнут снимать с довольствия, причём глобально.
Надо понимать это и будет моментом наступления "технологической сингулярности", да?

[Rattus]

Например, когда рецессия патенты будут писаться в стол.

И сколько уже длится эта самая рецессия?

Ну и если у тебя выбор из большего числа патентов, по которым ты делаешь продукт, то у тебя сам продукт получается лучше.

Если продукт получается лучше, то это должно позитивно отражаться на экономике, или нет?

Есть разница, когда прогресс развивается по закону (я условно!) e^x, а экономика, скажем, растёт в среднем на пару-тройку процентов в год. Всё ещё игра с положительной суммой.

Что в любом случае свидетельствует о стремительно падающей отдаче и превращении такой "прикладной науки" де-факто в пузырь. Чем заканчивают все без исключения пузыри в экономике напоминать нужно?

Если бы у нас не было экспоненциального прогресса, по нам ударили бы все эти пределы роста и падающие возвраты.

А что - у нас на завтра в 9:00 GMT намечен конец истории? А вариант, что этот самый удар и будет проявлением той самой "технологической сингулярности" вы с гневом отвергаете как идеологически неблагонадёжный?

Но наука может помочь нивелировать проблему.

А если она придёт к выводу, что это нивелирование возможно только через резкое урезание потребления и режим жёсткой экономии всего и вся? Кризисное управление и теория катастроф - по-ВАшему - лженауки?

[Rattus]

Объективных причин, а-ля нехватки ресурсов, у него нет. Нет, я не спорю, от изменений климата такие проблемы начнут нарастать. Но лет 50, если не 150, у нас ещё есть, особенно если попытаться сдержать эмиссию CO2 (без ущерба для экономического роста), а там и термояды подоспеют, и можно будет иметь энергию откачать лишний CO2 из атмосферы.

Главное - во всё это верить, да.

Наука это ресурс. Ресурс для решения назревающих проблем.

Песок - это тоже ресурс. Или лёд. Только не в Сахаре и не в Арктике соответственно.

Её резать нельзя

Убеждайте в этом тех, кто принимает бюджеты. И не только сегодня, но и 5, 10, 50, 100 лет вперёд.

У меня дома светодиодные лампочки, а у Вас?

У Нас тоже это замечательное изобретение конца прошлого века установлено во всех комнатах. Аргумент типа "Поглядите какая свежая полезная инновация!" кивая на самолёт или автомобиль к концу 1930-х годов.

Ничего плохого в экономии ресурсов, если не ведёт к снижению уровня жизни, нет.

А если ведёт? Это зависит от ценностных установок, которые, как известно, далеко не абсолютны.

[Rattus]

Умные светодиодные лампочки, которые могут гасить свет, когда Вас нет в комнате

Не нужны, если не отсохли напрочь руки и мозг. Тем более когда

безлимит по электричеству

или менять спектр  в течение суток, чтобы помочь с циркадными ритмами

Бесполезно согласно последним исследованиям. Важна прежде всего общая освещённость. Под жёлтым/красным прожектором тоже засыпать не очень.

не изобретение прошлого века.

А ободряющая самочесалка спины - прошлого. Вышеуказанные "инновации" - того же порядка полезности.

[Rattus]

640КБ хватит всем?

Промышленной автоматике очень часто хватает мощностей 80486 по сей день.

А ещё, на человеке можно даже землю пахать! Зачем отключать свет руками, если это может делать автоматика?

Поднять зад и щёлкнуть выключателем - это упахались, да. А потом эти же люди покупают беговые дорожки за 100500 денег, чтобы вернуть себе физическую форму. Цирк сверхпотребления как он есть. Воистину - WALL-E - твёрдо научная футурология.

Вот освещённость тоже может меняться автоматически.

Диммер - высокотехнологичнейшая инновация XXI века!

"Всё уже было изобретено" - иллюзия.

Не все конструкции чесалок для спины изобретены, безусловно.

[Rattus]

диммер + скрипт

Микроконтроллеров полувековой давности для реализации этого скрипта, конечно, недостаточно - эта великая инновация возможна только на самой современой элементной базе...

[Rattus]

Вообще то для этого хватит и дискретных транзисторов/тиристоров.

На простой датчик движения да - можно собрать схемку на одних транзисторах. Но если надо по хоть как-то кодированному радиосигналу, например, включать, или по данным с более сложной видеоматрицы, то контроллер таки нужен, но опять таки достаточно простейшего - они как раз полвека назад начали выпускаться: https://ru.wikipedia.org/wiki/TMS1000

[Rattus]

А вот многие из тех, кто в теме отписались, всё ещё не загуглили ключевые слова, AI alignment, но продолжают обсуждать то, в чём, кажется, совсем ничего не понимают.

Ох уж этот новояз IT-бизнеса... Выравнивание в биоинформатике - первейшая процедура при анализе полученных последовательностей. В применении к ИИ на мой взгляд более бы подошёл термин "дрессировка", если "воспитание" не нравится антропоморфностью.
Значит, "элайнмент", ОК. Чем более наблюдаю за обсуждениями вокруг этого вопроса, тем всё более убеждаюсь в правоте своего давнего тезиса: страх сильного ИИ, равно как и могучих иноприлетян, - это, как было кем-то справедливо замечено, боязнь собственной тени или, точнее, своего отражения в зеркале. ИИ мощнее человеческого разума, даже коллективного, разумеется, вполне возможен (хотя насколько мощнее - ещё большой вопрос). Но смысл в этой мощи будет только тогда, когда она будет иметь применение в реальном мире с обратной связью - т.е. когда системе будет предоставлена реальная возможность контроллировать соответствующую её мощности область вполне физической реальности. И разумеется, проверить долгосрочную эффективность и "этичность" применённых решений более слабый интеллект будет не способен принципиально. То есть вопрос стоит предельно бинарно-просто: либо мы доверяем системе вершить судьбу данной области нашего бытия, либо практически полностью останавливаем в ней прогресс по заветам Неда Лудда. "Чуть-чуть контроллировать" ИИ нельзя точно также как нельзя быть чуть-чуть беременной.
Система макроуправления может быть эффективной ровно настолько, насколько мы ей дали власти и свободы.
Теперь разберём очередной наглядный пример такой фобии:

А тут не надо быть большим экспертом, достаточно оглянуться в историю использования других технических средств, где используется какая-либо энергия или большие скорости.

И какая же большая энергия или скорости используются в ЦОДах, где крутятся ИИ?

Сколько случаев, аварий, катастроф происходит вне ведения человека?

То есть по преступной халатности или по природным причинам? Основное количество. Только причём тут ИИ? Ну разве что при том, что первое с его помощью в принципе можно исключить полностью.

А иногда и под действием человека для получения диверсий.

Диверсия против оккупанта на войне - тоже однозначное зло?

И где гарантии, что Искусственный интеллект не будет причиной каких-то вредных действий, которые могут быть очень масштабные, так как это информационные действия, которые распространяются по каналам связи, а этими каналами связи опутан весь земной шар. Очень много технических средств подключены к этим каналам связи и имеют управление от электроники, которой и может управлять этот искусственный интеллект.

Вредными ДЛЯ КОГО? Для самого сверх-ИИ - точно нет, иначе он бы не был сверх-ИИ просто по определению. Также и для всего его обслуживающего производственного цикла включая весь задействованный персонал, то есть по сути - всех занятых в реальном секторе экономик вовлечённых стран и членов их семей.

И чего может произойти, можно только догадываться.

Те представители гоминид, кто таки владеет логическим мышлением и носит прилагательное sapiens не для красоты, могут не только "догадываться", но сделать простые, ясные и однозначные выводы из общеизвестных фактов:
Человек на Земле, в отличие от высокоуниверсального робота УЖЕ ЕСТЬ, пригоден к очень тонкой и сложной работе, целиком самообслуживаем и его минимальный цикл самовоспроизведения требует весьма скромного объёма ресурсов по сравнению со всей нынешней робототехникой.
Чтобы понять эти простые факты и сложить два и два - не нужно быть никаким сверхразумом. Достаточно не заменять общее образование фантастическими сказками в своей голове.

Похлеще термоядерной войны может быть.

А что - у нас было уже несколько термоядерных войн, что Вы так уверенно приводите подобное сравнение? И сколько же в таком случае погибло в последней?
Не трудитесь - я подскажу: 0 чел. От химической взрывчатки погибли многие десятки миллионов, от ядерной - многие десятки тысяч, от термоядерной - 0.
Так что этот аргумент не очень-то против сверх-ИИ работает сейчас.

Потому особенно забавно наблюдать за восклицаниями о том, что всевластный сверхинтеллект, дескать, непременно уничтожит человечество как вид. Не говоря о том, что это технически далеко не такая простая задача как многим обычно кажется - что детально разобрано в соответствующей теме, особенно если при этом ещё необходимо оставить невредимым себя. Так это ещё, ввиду всего ранее изложенного в этой теме, просто банально НЕРАЦИОНАЛЬНО. А часто проговаривемое "как вид" и сравнение с конкуренцией в живой природе показывает только одно: полное непонимание говорящим самых основ биологии и используемых понятий. СверхИИ, хотя и будет разумным, стремящимся к самосохранению и возможно даже самосознающим, ни в каком месте НЕ является живым - т.е. способным к устойчивому автономному самовоспроизведению. А значит - принципиально не может быть для конкурентом для человека как живого существа. А будет по факту оставаться ЧАСТЬЮ расширенного его фенотипа. Чем-то вроде облигатного симбионта - примерно как мы над своими окультуренными сельскохозяйственными организмами.

На самом же деле этот популярный мифический "ужасный конец" даже для многих его пропонентов может выглядеть менее ужасным, чем куда более вероятная реальность "ужаса без конца", куда более простого и будничного: СверхИИ, будучи созданным, находясь во вполне контроллируемой среде и безо всякого доступа к реальным рычагам управления хоть чем-то - как нынешние чатботы и лемовский Голем XIV, которому в рамках какой-то академической задачи было поручено тщательно проанализировать все наиболее вероятные угрозы и сценарии развития цивилизации на ближайшее столетие-полтора, приходит к однозначному выводу, что высокотехнологическое глобальное сообщество ждёт неминуемый коллапс с сотнями миллионов жертв в грядущем хаосе, если не стать немедленно на пусть жёсткой экономии ресурсов в глобальном же масштабе (включая демографию). И экономию таковую смогут обеспечить только не менее мощные же сверхИИ системы, чтобы проводить её с наименьшими общими издержками. Ну и что P!=NP, уравнения Навье-Стокса в общем виде не решаются, а Деда Мороза действительно не существует.

Но такой вариант почему-то не особенно презентуется всевозможными публичныи алармистами. Интересно почему?

Комментарий модератора раздела

Оффтоп про искусство и художественный вкус удалён.

[Rattus]

Потому как такой вариант оптимистичный, банальный и скучный.

Жизнь под тотальным контролем сверхИИ в условиях всё более ограничиваемого потребления (для повышения общей эффективности всей системы и накопления функционального резерва для преодоления грядущих и малопредсказуемых крупных катастроф) - это оптимистичный вариант?
Для нас тут - возможно, но в широких массах это почему-то называется антиутопией.
А насчёт банальный и скучный - не скучнее всех прочих эколалармизмов.

ведь после его указания что нужно ему передать власть.

Не обязательно именно ему. Просто системе не менее мощной. Да и скорее всего - далеко не одной на все цивилизованные технозоны: в Океании будет свой Голем, в Остазии - свой АСГУ...

[Rattus]

Там они уже между собой договориться или устроят войну. Ядерная война такой ИИ не испугает

Уничтожение больших частей производственных циклов и большого количества квалифицированного персонала - очень даже испугает.
Так что скорее всего договорятся. Но не объединятся. Будет примерно как последние полвека: глобальная торговля с локальными спорами за ресурсы.

Да и людей в войне убедить что жить экономно намного проще, чем без войны.

Война для этого вовсе не обязана быть тотальной и даже реально существенной. Орвелл в "книге Голдстейна" из 1984 уже давно описал как это работает.

Да и этот экономичный образ жизни может быть в разы богаче нынешнего, благодаря экономии и оптимизации

В среднем и в том, где это повышает продуктивность человекоособей - вполне возможно. Но далеко не факт что это сильно понравится им самим - особенно в сравнении с нынешней жизнью средней офисной планктонины...

[Rattus]

...потому что

ИИ уже знает что вы захотите кушать заранее и выдавал вам паёк.

что захотите - не будет. А будет только то. что повысит вашу трудовую эффективность и долговечность до рассчитанного оптимума и не более того. "Наступил Коммунизм. С утра в телеэкране объявление:"Сегодня в мясе потребности нет."

О, Меркурий уже опередил!

достаточно научиться [пред]угадывать мысли и поступки людей на уровне "псевдочтения мыслей". те Человек еще только что-то замышляет, а Искин на основании его поведения (безо всяких ЭКГ и имплантов) уже спрогнозировал, что именно тот задумал. для людей это станет хуже, чем второе пришествие, ибо боженьке пофиг, а этому - нет...

Собственно именно в том же ключе и книга Ф.Герберта "Бог-Император Дюны". Золотой Путь, по которому он вёл человечество три с лишним тысячи лет - это практически обсуждаемый сценарий и есть.

[Rattus]

Если тот же контент сервис предсказывает мои потребности и выдает то что мне нужно, это только приветствуеться.

Этот будет выдавать не на ВАши текущие осознаваемые потребности, а на физиологические потребности ВАшего организма и ровно столько, сколько нужно, чтобы этот организм не утратил трудоспособность раньше рассчитанного срока амортизации биооборудования.

[Rattus]

"... О жестокая, ненужная размолвка! О упрямый, своенравный беглец, оторвавшийся от любящей груди! Две сдобренные джином слезы прокатились по крыльям носа. Но все хорошо, теперь все хорошо, борьба закончилась. Он одержал над собой победу. Он любил Старшего Брата."

[Rattus]

Для этого предсказывать мысли и хотелки не нужно.

Это нужно для того, чтобы профилактировать конфликты внутри общества и реальную агрессию к Покровителю и агентам его системы (механизмам, существам - не важно).
А на ваших сиюминутных хотелках вычресурсы сэкономлены давно.

Сейчас численность населения сильно избыточна, для поддержания ИИ. Поэтому если мыслить в рамках мы не можем взять больше ресурсов и давайте вписываться в циклы. То ничего страшного для ИИ не будет.

Ядерная войнушка для сокращения "бесполезной" части населения (т.е. той которая рассеянно живёт относительно архаичным укладом для себя, не внося заметный прдуктивный вклад в техносферу) - весьма неэффективный метод, побочек от которого больше чем пользы.

Просто власть не делиться и не факт что другие ИИ будут сговорачивыми.

Верховных СверхИИ будет столько, сколько останется более-менее крупных технозон. Это будет просто эволюционно-стабильный оптимум количества фактических сверхдержав на планету.

Тут уже сложно судить, потому как незнаем этого оптимума совсем.

Ну, физиология труда (эргономика) и психология не вчера появились, так что знаем уже немало.

Тот же офисный планктон будет счастлив

Ибо перестанет существовать за ненадобностью. Особи, его составлявшие, будут счастливы лишней миска рис после трудовой смены на рапсовый поле имени Председателя Си ПлюсПлюс. Падежи, кстати, тоже отомрут. ибо как уже показала практика АлиЭкспресса, экономические взаимодействия прекрасно проходят и без них.

Это явно грубый подход для сверхразумного ИИ.

Для сверхразумного ИИ тонкость подхода будет всецело определяться оптимумом его общей эффективности.

Естественно что человек будет уверен что сегодня он священно обязан скушать свой любимый сойлент номер 5 со вкусом яблока, иначе в рай не попадёт.Да получит большое наслаждение от этого.

Да, но это, в принципе, уже детали.

Вы захотите скушать то что повысит вашу трудовую эффективность и долговечность. Поэтому желая совпадут с возможностями.

Судя по продажам курева. сахара и крепкого алкоголя, люди далеко не всегда исходно хотят того, что повышает их трудовую эффективность.

Ведь в пропаганде ИИ будет так же радикально лучше людей.

А вот тут - как сказать. Скорее всего гораздо лучше, но не факт что абсолютно-радикально. Здесь мы вплотную подошли к сказкам про НЛП и SETI-атаку. Так что далеко не факт, что в деле управления массами ИИ в итоге сможет обходиться одними только засохшими пряниками и почётными грамотами. Скорее всего и кнут не будет простаивать, пока евгеническая программа не будет проведена до конца...

[Rattus]

Для этого и существует пропаганда, не так ли?

Но почему-то не все поголовно заделались курильщикам или наоборот - взялись за ЗОЖ.

[Rattus]

Можно было бы, конечно, посмеяться, если бы не интересное совпадение с двумя другими прогнозами: 2027 и 2029 годы: https://www.elibrary.ru/item.asp?id=48313388

Да - совсем недавно сам обратил внимание на эту работу. Подход у автора вполне адекватный: он знает про ошибку наблюдателя у предыдущих авторов и учитывает её насколько может.

В общем, шансы на появление "полноценного ИИ" уже в этом десятилетии, на мой взгляд, весьма высоки.

Солидарен.

[Rattus]

Ну, "закон" Мура не один только Интел двигал, так что и тут таки скорее естественный процесс чем преднамеренный план...

[Rattus]

Про сантехнику:
https://x.com/tradingMaxiSL/status/1768854819438260234?s=20

Майор Русскоязов спешит напомнить, что сантехникА - это предметы, а сантехниК - специалист по ним. Также он напомниает, что САНТЕХНИК занимается прежде всего её установкой и РЕМОНТОМ. В отличие от показанного на приведённом ВАми видео УБОРЩИКА.

[Rattus]

Что ж, суды перестанут принимать фото, аудио и видео. Только по вещественным доказательствам и показаниям свидетелей. Как до изобретения синематографа. Такие дела.

Майор Юриспруденция говорит, что они их и сейчас примут далеко не всегда как безусловное доказательство (и прежде всего не примут сходу - как безусловное доказательство ВИНЫ - согласно презумпции обратного).
А всёпропальщики могут для начала поинтересоваться тем, что такое Raw-формат данных, метаданные и цифровая подпись, прежде чем откладывать баблоны на случай откупа от автоподставщиков при имеющемся видеорегистраторе и сдавать в пункт приёма электронного утиля камеры видеонаблюдения за своим домом.

[Rattus]

Это всё обходится при создании фейковых видео, путём прямой подачи на камеру.

Автоматику фокусировки залочить аппаратно в цельнолитой корпус с пломбированием и прописывать выставляемое фокусное расстояние в Raw-файл - не спасут отца русской демократии?