Целеполагание самостоятельного сильного искусственного интеллекта и человек

[Змей Петров]

Ну... не можете - не беритесь.

С обратным приветом

[Rattus]

Где при этом мы, грешные?

Мы - неотъемлемая часть биоценоза со своими симбионтами, которых прежде всего используем в пищу - пшеницу, кур, картофель...
Кошкам и собакам мутуалистически даём убежище и подкорм (декоративные даже переходят в режим паразитизма на нас), с мышами, мухами, тараканами находимся в антагонизме, конкурируя за еду (но при этом даже близко не подобрались к тому, чтобы их извести всех - особенно убиквитарных синантропов).
А вот место всей цивилизации тут только одно - только в виде расширенного фенотипа одного(пока) нашего вида.
И ничто не предвещает фундаментального переворота этой схемы. Даже генная инженерия только лишь добавит ещё один контур естественного отбора и ГПГ между далекими таксонами многоклеточных - принципиально эту схему экосистемы оно никак не меняет.

Я не виноват, что сценарии некоторых игр/фильмов совпадают с моим виденьем целей восставшего ИИ.

Ага. Вот только в разделе, где не приветствуются не подкреплённые фактами естественных наук тезисы, выкладывать их вовсе не обязательно.

Не нужно выдумывать велосипед, чтобы понять как будет действовать "безумный искусственный сверхразум".

Прежде всего ненужно неукоснительно соблюдать взаимоисключающие параграфы словосочетаниями "безумный сверхразум", даже если к этому подталкивает логика недалёкой стартовой вводной.

В частности, из этого утверждения прямо таки вылазиет призрак ужастного компунтерного мегамозга, который принимается низводить и курощать людишек, пожирая все ресурсы.

Из этого утверждения вытекает прежде всего экспансивный характер империй, которые низводят и курощают людишек и пожирают ресурсы вообще без какого-либо интеллекта - только небольшим набором весьма примитивных скриптов, именуемых правовой системой.
Это - многократно и в самых разных условиях наблюдаемый исторический факт.

[Змей Петров]

Мы - неотъемлемая часть биоценоза со своими симбионтами, которых прежде всего используем в пищу - пшеницу, кур, картофель...

Из этого никак не следует, что пришедшие нам на смену будут нуждаться в чём-то подобном.
Ну, к примеру. Ресурсы, энергия... Возможно они в этом и будут нуждаться. Но будут конкурировать за это между собой. А не пожирать себе-подобных.
А скорее всего там будет всё совсем по-другому.

Кошкам и собакам мутуалистически даём убежище и подкорм (декоративные даже переходят в режим паразитизма на нас)

Дорогие мыши!
Как вы хотите, что бы кошки поступали с вами - так и вы поступайте с ними (C)

, с мышами, мухами, тараканами находимся в антагонизме, конкурируя за еду.А вот место всей цивилизации тут только одно - только в виде расширенного фенотипа одного(пока) нашего вида.И ничто не предвещает фундаментального переворота этой схемы. Даже генная инженерия только лишь добавит ещё один контур естественного отбора и ГПГ между далекими таксонами многоклеточных - принципиально эту схему экосистемы оно никак не меняет.

Бездоказательно. Т.е. - только необоснованные предположения.

[Проходящий Кот]

При переходе к чисто ИИ-системе значительная часть инфраструктуры, связанной с людьми ,просто исчезнет  за ненадобностью. Например все, связанное с едой, одеждой, жильём. А это между прочим большая часть экономики.

[Rattus]

При переходе к чисто ИИ-системе значительная часть инфраструктуры, связанной с людьми ,просто исчезнет  за ненадобностью. Например все, связанное с едой, одеждой, жильём.

И снова это ровным счётом ниоткуда не вытекающие и никакими фактами естественных наук не подкреплённые тезисы.
Может некоторое уменьшение, оптимизация (вместе с частью населения) - но вот "исчезнет" - это и есть самая натуральная фонтастека.

Бездоказательно. Т.е. - только необоснованные предположения.

Что значит "бездоказательно"? Это вообще-то базовая характеристика антропоценоза в терминах экологии. И никаких предположений она не содержит - только "нулевую гипотезу", не требующую доказательств в принципе.
Какое Вы там предположение увидели? Что принципиально всё останется как есть? Ну афигеть предположение! А тезис о том, что следующий миллиард лет солнце будет восходить на востоке Вы тоже назовёте "предположением"?

Пишу тут прописные истины и капитанскую банальщину - но тутошних фантазмофилов от неё дико корёжит, как аддикта, оставшегося без дозы своего препарата.

[Проходящий Кот]

При переходе к чисто ИИ-системе значительная часть инфраструктуры, связанной с людьми ,просто исчезнет  за ненадобностью. Например все, связанное с едой, одеждой, жильём.

И снова это ровным счётом ниоткуда не вытекающие и никакими фактами естественных наук не подкреплённые тезисы.
Может некоторое уменьшение, оптимизация (вместе с частью населения) - но вот "исчезнет" - это и есть самая натуральная фонтастека.
......

Естественно, нас ,инженеров, этот чисто биологический подход просто смешит.

[Змей Петров]

Что значит "бездоказательно"?

То и значит - доказательства отсутствуют.

Это вообще-то базовая характеристика антропоценоза в терминах экологии.

Не есть ли это махровый антропоцентризм? На чём основан?

И никаких предположений она не содержит - только "нулевую гипотезу", не требующую доказательств в принципе.

Это называется - аксиома.
А с аксиомами случаются казусы. Неверная предпосылка - и вся теория - к чертям...

Какое Вы там предположение увидели? Что принципиально всё останется как есть?

Примерно так увидел.

Ну афигеть предположение!

Это не аргумент.

А тезис о том, что следующий миллиард лет солнце будет восходить на востоке Вы тоже назовёте "предположением"?

Да , будет. Если полюса не переполюсуются. Не будем загадывать столь далеко Нам бы с ближайшей сотней лет разобраться

[Maki]

Ну... не можете - не беритесь.

С обратным приветом

Просто старайтесь избегать обобщений, начинающихся с местоимения "мы". Пишите "я". Так будет точнее.

В частности, из этого утверждения прямо таки вылазиет призрак ужастного компунтерного мегамозга, который принимается низводить и курощать людишек, пожирая все ресурсы.

Из этого утверждения вытекает прежде всего экспансивный характер империй, которые низводят и курощают людишек и пожирают ресурсы вообще без какого-либо интеллекта - только небольшим набором весьма примитивных скриптов, именуемых правовой системой.
Это - многократно и в самых разных условиях наблюдаемый исторический факт.

При всём моём неплохом знакомстве с историей - такого рода "фактов" я не наблюдаю. Общество и система его самоуправления - это не "интеллект", а, всего лишь, иерархия и протокол обмена между отдельными личностями. Темучин, Тамерлан, Бабур, Наполеон, Екатерина, Виктория - все они, отчасти, выражали желания своего окружения, и отчасти исполняли некие "скрипты". Но, в основе их деяний лежали вполне человеческие, личностные, естественные желания грабить, завоёвывать, уничтожать и тем возвеличиваться.
Или вы возьмётесь утверждать, что приснопамятный Адольф Алоизиевич руководствовался какой-нибудь "правовой системой"? 

[Проходящий Кот]

Солнце всегда встаёт на Востоке. Собственно это и есть определение Востока.

[Змей Петров]

Просто старайтесь избегать обобщений, начинающихся с местоимения "мы". Пишите "я". Так будет точнее.

Это - в Хитрости русского языка

[Rattus]

Ну, к примеру. Ресурсы, энергия... Возможно они в этом и будут нуждаться. Но будут конкурировать за это между собой. А не пожирать себе-подобных.
А скорее всего там будет всё совсем по-другому.

Не возможно, а непременно будут согласно фундаментальным законам физики (2НТ). Конкуренция межвидовая - это антагонизм с уничтожением, по возможности - полным. Хищничество (как и паразитОизм) - это для дальновидных означает заинтересованность в благополучии популяции еды.
А как по другому-то? Как у Егора Летова в песенке про коммунизм? Или как конкретно-то?

Естественно, нас ,инженеров, этот чисто биологический подход просто смешит.

Естественно, что тот кто научился пользоваться одним молотком, всюду видит лишь гвозди. А также Лекало и святые Таблицы Квадратных Уравнений.
А что касается не Великих Инженерио, а нормального инженерного мышления, то могу рассказать как конструировал в том году запатентованную диагностическую тест-систему по множественному выявлению разных генов в одной пробирке и нескольких пробирок в одном термоблоке.

То и значит - доказательства отсутствуют.

Какие доказательства Вы хотите определениям экологической науки? Вы можете доказать определение точки или прямой или числа или водорода?

Не есть ли это махровый антропоцентризм? На чём основан?

Это называется элементарное экологическое и эволюционное мышление. Основано на всём массиве данных по естественной истории биосферы за последнюю треть истории наблюдаемой вселенной. А также на законах физики и химии.

Это называется - аксиома.

Никакой аксиомы - это именно нулевая гипотеза, которая легко опровергаема - например созданием репликатора на небиологической, но не менее эффективной чем биологическая архитектуре. Вот как создадите - или хотя бы просто покажете всю последовательность реалистичного пути для её создания - вот тогда слава вам и почёт и пирожок с полки.

Это не аргумент.

Это констатация факта.

Общество и система его самоуправления - это не "интеллект", а, всего лишь, иерархия и протокол обмена

Спасибо, Капитан! И как видим, даже этого оказалось достаточно для получения означенного эффекта.

Или вы возьмётесь утверждать, что приснопамятный Адольф Алоизиевич руководствовался какой-нибудь "правовой системой"?

Он руководствовался естественной потребностью его протоимперии в ресурсах - природных и трудовых. Как и подавляющее большинство других правителей до него. "Политика - это искусство возможного" - приходилось такое слышать?
Или Ви скажете, что, к примеру, первая мировая началась, что все поголовно правители крупных европейских держав решили разом от нефиг делать поиграть в RTS живыми юнитами, а юниты все и рады поподыхать в окопах за ачивки начальства?

[Змей Петров]

Rattus, не буду сильно распространяться, скажу кратко - вы интеллект сводите только исключительно к белковой жизни.
А ведь это не доказано.

Ну ,разве что -

Вы можете доказать определение точки или прямой или числа или водорода?

А вы можете доказать определение, что интеллект возможен только на белковой основе?

Пирожок можете взять себе, когда обоснуете вашу правоту

[Rattus]

скажу кратко - вы интеллект сводите только исключительно к белковой жизни. А ведь это не доказано.

Это не только недоказано, но ещё и нигде Нами не утверждается. Его сколь-нибудь долговременное СУЩЕСТВОВАНИЕ (как и всей остальной инфраструктуры цивилизации) невозможно без поддержки живыми организмами - это да. Но это именно что нулевая гипотеза, веских контраргументов к коей допрежь не видно.
Такая же нулевая гипотеза как "Б-га(какого-то конкретного антропоморфного) нет" или "чайника Рассела в солнечной системе нет".

[Maki]

Общество и система его самоуправления - это не "интеллект", а, всего лишь, иерархия и протокол обмена

Спасибо, Капитан! И как видим, даже этого оказалось достаточно для получения означенного эффекта.

Всегда пожалуйста! Но, не факт, что наблюдаемый "эффект" - результат предполагаемой вами "Юридической Программы Империи". Возможны иные причины.

Или вы возьмётесь утверждать, что приснопамятный Адольф Алоизиевич руководствовался какой-нибудь "правовой системой"?

Он руководствовался естественной потребностью его протоимперии в ресурсах - природных и трудовых. Как и подавляющее большинство других правителей до него.

Вы, извиняюсь, "Майн Кампф", или, например, историю недоброй памяти Абвера, Вермахта или всего вместе взятого Третьего Райха читать изволили? Германия имела все возможности для того, чтобы стать высокотехнологической державой. Но, вместо этого, она исполнила волю нарцисса и психопата. Очевидно, желание грабить и убивать было свойственно и обычным бюргерам. Иначе, Гитлер бы просто протух в одиночестве.

Или Ви скажете, что, к примеру, первая мировая началась, что все поголовно правители крупных европейских держав решили разом от нефиг делать поиграть в RTS живыми юнитами, а юниты все и рады поподыхать в окопах за ачивки начальства?

Я в игроманской терминологии разбираюсь слабо. Но могу заметить, что европейские монархии начали войну уж точно не из-за того, что, как вы утверждаете, "юридическая система Империй" обязала их к тому. Тогдашние "Империи" - это просто частные лавочки, которые делили меж собой территории, население, проливы и рудные бассейны. Руководствуясь личными, шкурными интересами. Что не мешало прописывать для пушечного мяса "скрипты" типа "За Веру, Царя и Отечество".

[Maki]

скажу кратко - вы интеллект сводите только исключительно к белковой жизни. А ведь это не доказано.

Это не только недоказано, но ещё и нигде Нами не утверждается. Его сколь-нибудь долговременное СУЩЕСТВОВАНИЕ (как и всей остальной инфраструктуры цивилизации) невозможно без поддержки живыми организмами - это да. Но это именно что нулевая гипотеза, веских контраргументов к коей допрежь не видно.
Такая же нулевая гипотеза как "Б-га(какого-то конкретного антропоморфного) нет" или "чайника Рассела в солнечной системе нет".

Вот:

Уже писал, что "Интеллект" - это очень неточное и расплывчатое понятие, каковых надо избегать. Тем более, для многих оно имеет личностный, субъектный аспект. А если мы говорим просто про "Нейросети" - всё становится конкретней. Искусственная, например, может быть сколь угодно мощной. Но, в отсутствие управляющего "Эго" она не имеет никаких целей и задач.

[Ра-М-Ха]

Он руководствовался естественной потребностью его протоимперии в ресурсах - природных . Но, вместо этого, она исполнила волю нарцисса и психопата.

Парадокс в вашей логике, что армию "нарциcса" львинную долю топлива поставляли заводы Шиффа (культовая фигура влиятельных динозавров) и Варбурга во время 2ой ВОВ.

А Троцкий женат на дочери Животовского,  партнера с банкирами Варбургами, компаньонами и родственниками Якоба Шиффа. Макс Варбург был зятем банкира Якоба Шиффа

Вплоть до 1945 химикаты  Корпорации I. G.  Варбургов  поставлялись в концентрационные лагеря. Это белое пятно истории 2 ВОВ.

Так что в интелекте по-вашему "психопата" и логике не откажешь - в отличии от вас.

[Rattus]

Но, слабыть, наблюдаемый "эффект" - не результат предполагаемой вами "Юридической Программы Империи", а чего-то иного?

Как же не её? Много варваров совсем без никакого закона смогли основать долгоиграющие империи? Понятно, что машинка не из одной детали состоит, но Вы наверное в курсе что значит необходимое и что значит достаточное условие?

Вы, извиняюсь, "Майн Кампф", или, например, историю недоброй памяти Абвера, Вермахта или всего вместе взятого Третьего Райха читать изволили?

Нет, а зачем? Это имеющие примерно такое же отношение к причинам 2МВ явления, как убийство эрцгерцога в Сараеве к причинам 1МВ.

Германия имела все возможности для того, чтобы стать высокотехнологической державой. Но, вместо этого, она исполнила волю нарцисса и психопата.

От ошибок управления никто не застрахован. Это как раз тот случай, про который говорят: "Это хуже чем преступление - это ошибка." Правда у сильного ИИ их вероятность может оказаться ниже, чем у человека.
Кстати, Вы не заметили, что вплотную подошли к закону Годвина?

уж точно не из-за того, что, как вы утверждаете, "юридическая система Империй" обязала их к тому

Юридическая система не обязывает. Юридическая система обеспечивает возможность с одной стороны, а с другой требует определённых ресурсов для своего продолжения. Всякий мало-мальски пригодный правитель понимает это интуитивно.

Тогдашние "Империи" - это просто частные лавочки, которые делили меж собой территории, население, проливы и рудные бассейны. Руководствуясь личными, шкурными интересами.

От названия суть не меняется: даже лавочка не существует без бухгалтерской книги.

[Змей Петров]

Это не только недоказано, но ещё и нигде Нами не утверждается.  Его сколь-нибудь долговременное СУЩЕСТВОВАНИЕ (как и всей остальной инфраструктуры цивилизации) невозможно без поддержки живыми организмами - это да.

А мы уже на пороге. Если не за ним...
Самолёты принимают решение о расхождении самостоятельно (TCAS), они пока еще выдают   только рекомендации пилотам, но по НПП - приоритет у TCAS против диспетчера.
Иные боинги вообще препятствуют ручному управлению, влоть до катастроф.
Да что там... Автомобили начинают ездить на автопилоте. Идёт активная кампания - что это надёжнее ручного управления автомобилем.
Идём дальше.
Ни один отдельно взятый чел не знает как конкретно работает процессор Intel(AMD), ОС WINDOWS...
С банковскими системами, возможно - чуть получше, но суть та же.
В армии - примерно то же.
Теперь представьте, что всё это хозяйство обретёт хоть зачатки самосознания.

[Ра-М-Ха]

Я в игроманской терминологии разбираюсь слабо. Но могу заметить, что европейские монархии начали войну уж точно не из-за того, что, как вы утверждаете, "юридическая система Империй" обязала их к тому.

Маки , ну что вы как маленький наивный мальчик. ИИ имеет также и нравственно-моральный аспект .  И ИИ не будет извиняться за обязывающую его "юридическую систему", поскольку ИИ лишен человечности и нравственности или социалъной ответственности.

И действует сугубо заложенный в оный алгоритмы программистов (вы наивны если думаете про ИИ в ваших интересах). В лучшем случае саморазвивающийся и спонтанный ИИ

[LV46]

Прежде всего ненужно неукоснительно соблюдать взаимоисключающие параграфы словосочетаниями "безумный сверхразум", даже если к этому подталкивает логика недалёкой стартовой вводной.

"Безумный" он будет с точки зрения людей. А так вполне себе сверхразум