Целеполагание самостоятельного сильного искусственного интеллекта и человек

[Rattus]

Хотя для учёта доходов и налогов - почему бы и нет?

Потому что антикитерский механизм - не арифмометр, а чисто астрономическая "логарифмическая линейка".

Современность, как мне видится, уже далеко ушла от примитивного антагонизма "Злато VS Булат". И искусство управления давно не тождественно искусству уничтожения.

Покуда холодильник полон - телевизору можно верить...

как создатели среды...скорее всего фактически они управлять не будут.

По Висснер-Гроссу это оксюморон: тот, кто находит выход из тупика - всяко "управистее" того, кто умеет только драться за кусочек тупика.
Флеминг или Габер при прочих равных по итогу всяко богаче любого средневекового или античного императора. Император не мог избавить ни себя ни своих подданных ни от голода ни от повального мора. А условные Габер с Флемингом - таки смогли. В том числе и себя на самом деле - даже если они сами и не стали глвными выгодополучателми в относительном выражении.
На самом деле этот вопрос очень похож на дискуссии вокруг определения доминантного организма в биоценозе, что долгие годы шли в экологической науке. Да и сейчас идут...

То что для масс он, может быть, важнее президента не значит, что президент не может дать своему заместителю задание подготовить агитку, а тот какому-нибудь менеджеру подобрать актёров уместных в текущей ситуации.

Может. А может и вообще не увидеть такой возможности. А актёр или аятолла - оказаться шустрее и сообразительнее.

Но тут уже конспирология начинает просвечивать.

Да какая конспирология-то?! Вполне известные представители власти и всякого аппарата, принимающие вполне открытые законы и постановления. Вот только степень влияния на общество и экономику какого-нибудь подпункта в глубине некоторых из них очевидна может быть далеко не всякому электоратцу.

[Инопланетянин]

А условные Габер с Флемингом - таки смогли. В том числе и себя на самом деле - даже если они сами и не стали глвными выгодополучателми в относительном выражении.

В целом, согласен, хотя, смогли они потому, что общество доросло до соответствующего уровня развития. Не было бы Габера, процесс его имени придумал бы кто другой.

[Rattus]

Не было бы Габера, процесс его имени придумал бы кто другой.

Но не каждый. Речь в данном случае только об "интеллекте уровня изобретателя X".

[Maki]

Потому что антикитерский механизм - не арифмометр, а чисто астрономическая "логарифмическая линейка".

Ну это уже возражение типа "потому что гладиолус"... Антикитерский механизм именно астрономический арифмометр. Что указывает на возможность существования и арифмометров экономических. Впрочем, утверждать о реальности этой возможности, я, разумеется, не буду.

Покуда холодильник полон - телевизору можно верить...

Можно и не верить. Но задача власти - именно полный холодильник. Ибо при нём телевизору верит электоральное большинство. И польза от "ИИ" - это оптимизация и содержимого холодильника, и содержимого телевизора.

[Rattus]

Антикитерский механизм именно астрономический арифмометр.

Фиг там - это узкозаточенное устройство. Никакой универсальности.

[loky1109]

Но уже в меньшей степени, верно?

Не в более меньшей, чем упавшая на голову тонна кирпичей менее летальна, чем сто тонн.

И до компьютера, который сам-себе хозяин, тут остаётся всего "один шаг".

И этот шаг преодолевать оный компьютер очень вероятно будет не одну сотню лет, а в итоге так и не преодолеет.
Это всё-равно что сказать, что человеку до становления "самому себе хозяином" один шаг. И уже давно.

Ad absurdum? Разумеется, это не так.

Разумеется это так. Хотя, может быть вы хотите более явные манипуляции поведением человеков? Их есть у нас - Canis lupus familiaris.

[comp]

Значит командиры этих команд и есть фактический дикатор/министр.

А если командиры этих команд - отдельные процессы в той же стойке?
И да, кстати, уже в наше облачное время вместо одной физической стойки может быть пара сотен виртуальных машин в датацентрах по всему миру, в десятках стран и юрисдикций. И накрыть их одновременно будет задачей нетривиальной.

Если надо - всё вполне известно, ибо у каждого прокси есть имя и фамилия.

Сдаётся мне, по мере роста сети контроль над каналами связи и маршрутизацией будет всё более передаваться автоматическим системам. А в таком случае, можно рано или поздно обнаружить, что сторож и тот, кого он поставлен сторожить - одно лицо.

[Rattus]

А если командиры этих команд - отдельные процессы в той же стойке?

Мы Вас умоляю - в любой МОГ, состоящих из живых природных человеков, непосредственным командиром всегда будет только живой человек же. Иначе солдаты не поймут-съ (и будут правы). Вот ему оперативную информацию уже может доводить ИИ, конечно. Но конечным звеном, непосредственно посылающим "ребят" "в огонь" и идущим туда с ними будет такой же точно их соплеменник. Ну и у ребят всех этих может в один прекрасный день возникнуть вопрос - а занафига мы рискуем афедрономъ и делаем не очень чистую работу и не за сильно большие деньги и вообще непонятно - ради кого/чего конкретно и какого такого светлого будущего?

уже в наше облачное время вместо одной физической стойки может быть пара сотен виртуальных машин в датацентрах по всему миру, в десятках стран и юрисдикций.

Ага - и какой у всей этой халабуды будет пинг? Для справки: полный объём память всего одного человеческого мозга - петабйты. Т.е. это далеко не одна стойка. Это в общем уже такой приличный ЦОД. И ситуация тут не меняется уже несколько лет как, ибо "закон" Мура в этом аспекте приказывает долго жить.

[comp]

Иначе солдаты не поймут-съ (и будут правы).

Пф-ф. Этих на пособие (или негров в Африке гонять) и нанять более понятливых. Ну или нанять солидно выглядящего клоуна, который будет им с уверенным видом озвучивать, что там ему синтезированный голос в наушник шепчет. А за этим клоуном надзирают люди другого клоуна, и наоборот. Сдержки и противовесы, все дела. Вы, КМК, преувеличиваете роль низовых исполнителей. Их уже давно научились контролировать. Охранник президента в любой момент может вытащить пистолет и его пристрелить. Но в результате станет не новым президентом, а трупом.

Ну и у ребят всех этих может в один прекрасный день возникнуть вопрос - а занафига мы рискуем афедрономъ и делаем не очень чистую работу и не за сильно большие деньги и вообще непонятно - ради кого/чего конкретно и какого такого светлого будущего?

Такое происходит столько, сколько вообще существуют государства. Ну и методы парирования все эти тысячи лет отрабатываются, от децимаций и лютующей охранки, до отличной кормёжки и убеждённости в своей правоте и исключительности. От замены куска белка на кусок кремния на верхушке пирамиды ничего принципиально не изменится. Разве что эффективность подрастёт.

Ага - и какой у всей этой халабуды будет пинг?

Для стратегического управления хватит. Для оперативно-тактического... Ну тоже наверное можно что-то придумать. Региональные сервера с периодическим бекапом в облако, например. Худшее что может случиться - откат к версии несколькочасовой давности.

А вообще, лучшая защита - легальный статус. Чтобы за штурм датацентра судили как за штурм Капитолия, за призыв отключить сервер - как за попытку смены государственного строя.

[Olweg]

Ну и у ребят всех этих может в один прекрасный день возникнуть вопрос - а занафига мы рискуем афедрономъ и делаем не очень чистую работу и не за сильно большие деньги и вообще непонятно - ради кого/чего конкретно и какого такого светлого будущего?

Ну так - сделать эти деньги достаточно большими. Ради кого/чего - наёмников ЧВК вообще по умолчанию не должно волновать.

[crazy_terraformer]

Не было бы Габера, процесс его имени придумал бы кто другой.

Но не каждый. Речь в данном случае только об "интеллекте уровня изобретателя X".

Тащемта Габер не один пытался в то время подобрать катализатор и условия реакции, были и другие ученики Оствальда, да и сам Оствальд, и др. люди.

[Maki]

Фиг там - это узкозаточенное устройство. Никакой универсальности.

А кто тут говорит об универсальности? Нам просто повезло найти набор астрономических шестерёнок.
Но вы правда готовы во всеуслышанье заявить, что цивилизация, способная произвести столь специфический продукт, не станет применять машинные вычисления для иных целей?

[crazy_terraformer]

Покуда холодильник полон - телевизору можно верить...

Можно и не верить. Но задача власти - именно полный холодильник. Ибо при нём телевизору верит электоральное большинство. И польза от "ИИ" - это оптимизация и содержимого холодильника, и содержимого телевизора.

Вспоминается "Заводной апельсин" и т-щ Бокасса.
Лежат у меня в морозилке нарезанные куски "чудесного" мяса — после жарки, варки или тушения уменьшаются как минимум вдвое . Сначала курицу водицей шприцевали, а теперь....

[Rattus]

Охранник президента в любой момент может вытащить пистолет и его пристрелить. Но в результате станет не новым президентом, а трупом.

Ага. Но Сосо Джугашвили от внеочередного Чейна-Стокса это не спасло.

Ну так - сделать эти деньги достаточно большими.

Тогда их получатель и будет фактическим бенефициаром системы. Машинный феодализм/абсолютизм: верхушка социальной пирамиды - служивое сословие silovikov.

От замены куска белка на кусок кремния на верхушке пирамиды ничего принципиально не изменится. Разве что эффективность подрастёт.

Вот только бледнотики тому уже сопротивляются, чуя неладное - начиная с несогласия на полную замену живых пилотов в пассажирских авиалайнерах. Возможно, это и случится в итоге - но далеко не сразу и не за одно поколение точно. Кускам кремния предстоит ещё много поработать в тестовом режиме, чтобы убедить бледнотиков в своей более высокой надёжности.

Чтобы за штурм датацентра судили как за штурм Капитолия, за призыв отключить сервер - как за попытку смены государственного строя.

Самое интересное будет наблюдать за тем, как такое законодательство будет лоббироваться в разных странах: в ЮВА оно может вообще пройдёт практически без шума и пыли как по маслу, а на Западе шоу с "кибергейтами" точно будет - и не одно. Конечный исход предсказать не берусь.

Но вы правда готовы во всеуслышанье заявить, что цивилизация, способная произвести столь специфический продукт, не станет применять машинные вычисления для иных целей?

Мы готовы во всеуслышанье заявить, что любая цивилизация может наладить систематическое применение каких угодно изобретений и прототипов только в рамках доступной ей технико-экономической базы. И собственно уровнем оной базы она и определяется. Потому как бы ни пыжился изобретатель АМ и как бы ему не благоволил его покровитель самого наивысокого возможного на тот исторический период статуса, сделать арифмометр после АМ ему бы удалось точно также как Бэббиджу "удалось" сделать компутер после арифмометра - хотя все схемы для него были и даже программы писались уже (Адой Лавлейс). И также как Герону - построить паровоз/пароход.
А та цивилизация, в которой это становится реализуемым - уже по определению другого уровня цивилизация - с сильно другими экономическими, общественными и т.п. отношениями.

[ivanij]

Охранник президента в любой момент может вытащить пистолет и его пристрелить.

  Только этого здесь не хватало...!

  Или напротив. Здесь такие "крутые теоретики" собрались, что... дальше и ехать некуда.
 А хоть кто-нибудь задумывался всерьёз какой непоправимый вред психике нормального человека (особенно молодого) может принести (и уже приносит) т.н. "дистанционное обучение", особенно в его современном, грубо карикатурном виде? Полагаю - нет.
 Думаю, пока трудно предположить, какие необратимые последствия, может это иметь не только для отдельных стран, но и для цивилизации в целом.

 P.S. Напомню, что современная импровизация дистанционного обучения с реальными технологиями такого рода не имеет ничего общего. 

[ivanij]

  А теперь давайте подумаем, в свете недавних событий (см. выше), а не является ли т.н. "искусственный интеллект" своеобразной миной замедленного действия, которую подкладывает человечество под фундамент собственного существования?

[Инопланетянин]

P.S. Напомню, что современная импровизация дистанционного обучения с реальными технологиями такого рода не имеет ничего общего.

А я думаю, что нынешнее дистанционное обучение и есть самое настоящее. Хотя бы потому, что у него есть реальная причина, а не какая-нибудь футуристическая блажь. Потому его и надо проводить несмотря на возможный вред от такого обучения, т.к. вред от заражения всё же хуже.

[leon10010]

  А теперь давайте подумаем, в свете недавних событий (см. выше), а не является ли т.н. "искусственный интеллект" своеобразной миной замедленного действия, которую подкладывает человечество под фундамент собственного существования?

Одной миной больше, одной меньше.....
 Исскуственный интеллект.
 Отказ от естественного отбора в потомстве
 Пичканье продуктов питания антибиотиками и анаболиками.
 Выведение искусственных вирусов.
  Оружие массового поражения всех мастей.
 Мешки полиэтиленовые по всему шарику.
 И т.д. И т.п. 

[loky1109]

 И т.д. И т.п. 

Вы чего-то в одну кучу много всего навалили.

[Maki]

Мы готовы во всеуслышанье заявить, что любая цивилизация может наладить систематическое применение каких угодно изобретений и прототипов только в рамках доступной ей технико-экономической базы.

И? База, как мы видим, имелась. Просто на этой базе, возможно, приоритетными были не экономические, а астрономические астрологические вычисления.
Главное, что антикитерский механизм, таблицы Брадиса, или Шиндоуз - явления одного порядка. Лысая мартышка всегда рада расширить свои мозги при помощи любых костылей.