Посттехносингулярный мир и искусственный суперинтеллект: как он будет выглядеть?

[Mercury127]

Свобода? Равенство? Братство?
А зачем это надо было кому-то?

тепловые машины заменили мускульных рабов. машины оказались быстрее, выше, сильнее, точнее, надежнее, вопроизводимее рабов. рабы [постепенно] стали не нужны, точнее, теперь они стали нужны в качестве потребителей услуг машин.

[Ulkolainen]

А раз нет абсолютной свободы, нехрен из нее делать ИДЕАЛ  и на этом разводить дураков!

Свобода не абсолютна, она абстрактна.
В некоторой степени она сохраняется даже у идущего на расстрел - как возможность и право сказать "Не пойду. Вам надо - вы и ведите, несите или расстреливайте прямо здесь". Терять-то уже нечего, слушаться незачем, все равно расстреляют.
Но есть и обратная сторона, по Кипелову: "свобода это то, что у тебя внутри", поэтому далеко не каждый идущий осознаёт наличие/сохранение у него вот этого выбора - идти или не ходить. А какой он сделает, сознавая и делая - уже не принципиально. 
"Свобода это осознание..." - классика, правильный её перевод.

[Polnoch Ксю]

В конце концов, в чём СМЫСЛ всего этого? Ну я про развитие циклизации? Зачем это всё нам было нужно?

с моей точки зрения - цивилизация эпохи возрождения про людей. Она гуманистическая в своей основе. Египетская цивилизация, например, строила пирамиды, хотя это и было очень дорого. А ныне гибнущая гуманистическая цивилизация про гуманистические ценности и права человека. И тратила на это множество своих ресурсов. Её пирамида - это человек и его благополучие.

Остальная часть Вашего поста, простите, с моей точки зрения результат централизованного обмана, и даже клеветы (не вашей, Вы скопировали клевету, ИМХО). Да и невозможен его(обмана) разбор. По крайней мере не в ВЖР.

Мне кажется, в науке один из важнейших принципов, это принцип фальсифицируемости. На него нужно ориентироваться и в этой дискуссии: какой смысл обсуждать эти тезисы, если любые модели, которые предполагают ответы, противоречащие новой повесточке, и предлагающие альтернативные объяснения, не разрешены к рассмотрению? Причём запрещены аж законодательно?

Важно, мне кажется, другое: то, что именно гуманистическая цивилизация, глобалистская, имела шанс на то, чтобы сделать AI aligment и сделать так, чтобы мы все жили очень и очень хорошо.

[Olweg]

Важно, мне кажется, другое: то, что именно гуманистическая цивилизация, глобалистская, имела шанс на то, чтобы сделать AI aligment и сделать так, чтобы мы все жили очень и очень хорошо.

Я думаю, существующая мировая система, выражаясь словами Валентина Пильмана, слишком стационарна. Не то что её ничем не проймёшь, но изменить её кардинально очень сложно. Поэтому сомневаюсь, что в альтернативных мировых линиях что-то принципиально бы изменилось с точки зрения alignment’а.

[Polnoch Ксю]

Я слышал про опровержимость.

это оно и есть

Не то что её ничем не проймёшь, но изменить её кардинально очень сложно. Поэтому сомневаюсь, что в альтернативных мировых линиях что-то принципиально бы изменилось с точки зрения alignment’а.

может быть. Но всё же мне кажется, шансы на начало формирования всемирного аналога Евросоюза были. Особенно до 2007го.

[ivanij]

Если никто не воспринимает тиранию как титранию, является ли это ФАКТИЧЕСКИ тиранией?

А если бы и так, тирания не перестаёт быть тиранией вне зависимости от того как мы её воспринимают. Другое дело - считают ли люди эту форму своего существования нормальной или нет. Хотят быть стадом баранов - пусть будут. Это - шшшвобода, не так ли?

[Metatron]

шансы на начало формирования всемирного аналога Евросоюза были

Хорошо что не случилось. Тирания та еще. К людям полиция за посты в твиттере приходит. Отменяют выборы неугодных кандидатов получивших большинство голосов. (И потом сажают их)
И экономически загибается.  10-15 лет назад ГДП был вровень с США. Сейчас на четверть меньше.

Гуманизм куда-то не туда их повел...Он все таки не вопреки рационализму должен быть.

[vika vorobyeva]

По сути это может быть удушающая тирания, но она не будет восприниматься таковой, разве что самыми прозорливыми из людей.

Очень хорошо. Этими словами вы опровергли всё, написанное вами выше

Но почему?
Искренне не поняла, объясните, пожалуйста.

По сути это может быть удушающая тирания, но она не будет восприниматься таковой, разве что самыми прозорливыми из людей.

Если никто не воспринимает тиранию как титранию, является ли это ФАКТИЧЕСКИ тиранией?
Я с омрзением отношусь к либеральной "повесточке" и массовому сознанию погружённому в этот поток кретинистического "свободоборства". И термин "тирания" - один из самых засаленных и раздражающих жупелов либирассных дуралеев, у которых всё их куцее "миропонимание" построенное вокруг  неосознанных нередцуируемых "святынь" "свобода-тирания". Я никогда не мог понять этого дурацкого пафоса и танцев дураков вокруг этого карго-культа "свобода-тирания". Почему ДУРАЛЕИ с этим призраком так носятся?
Вика, вы мне растолкуете?

Я не буду отвечать с общефилософских позиций за всех людей, я отвечу за себя.
Тирания – это когда мне запрещено делать то, что я хочу, и/или когда от меня требуется делать то, чего я не хочу.
Живя в современном светском государстве, я имею право получить высшее образование, выбрать профессию и самой распоряжаться деньгами. Я имею право выбрать себе мужа (и по желанию развестись) и самой решить, сколько детей у меня будет. Я могу переехать в другой город или даже в любую страну. Я могу читать любые книги, слушать любую музыку и общаться с кем захочу.
Лишение меня любого из этих прав было бы болезненно.
Я знаю, как это чувствуется. Как бетонная плита, нависающая над головой, как нехватка воздуха.
Если вам не нужна свобода (а я не утверждаю, что она нужна всем – пусть каждый говорит за себя), то вы и не почувствуете себя ущемленным, лишившись ее. Но мне странно это читать. Это все равно, что спрашивать, зачем вам воздух. Ну, не знаю... дышать?

Исходя из вышесказанного – если мне запрещено то, чего я и так не хочу, я не буду ощущать этот запрет ущемлением своей свободы. Например, я не хочу убивать людей, и я не чувствую стеснения себя тем, что это запрещено. Но предположим, что сильный ИИ разрешит все, что нужно обычному человеку, но запретит общаться на определенные темы (например, о возможности межзвездных перелетов). Люди, которым эти темы не близки, никакой тирании не ощутят, а желающие их обсуждать – ощутят.

[MenFrame]

Что же такое тирания? Почему мы так ее боимся? Почему так НЕПРИЕМЛИМ?

Тирания, это власть через страх и репрессии.

Я могу даже показать как этот СИМУЛЯКР (псевдоценность) "свободы" зародился в глубинах античной философской мысли (явная платоническая ерись) из какого ДЕР-МА он произростает. И почему именно Запад страдает этим нездоровым "карго-культом".
Но может я просто чего-то не понимаю?

Свобода если избежать бредофилософии, это в первую очередь почва для власти. Скажем когда такой почвой была религия.

[Mercury127]

Тирания – это когда мне запрещено делать то, что я хочу, и/или когда от меня требуется делать то, чего я не хочу.

а если вы сами с малых лет делаете то, что вам положено делать, и не делаете того, чего вам не положено, не задумываясь и не осознавая — кем, зачем и почему оно так положено — это тирания или свобода?

[Инопланетянин]

Тирания – это когда мне запрещено делать то, что я хочу, и/или когда от меня требуется делать то, чего я не хочу.

Поддерживаю. Добавлю ещё право на жизнь. В тирании человека можно казнить просто так, по желанию правителя.

[Polnoch Ксю]

Metatron, зачем тащить обсуждения и тезисы, которые невозможно опровергнуть, и критически обсудить?

(кликните для показа/скрытия)

Я уж не говорю о том, что Вы вряд ли когда-то задумывались, так ли это на самом деле.

(кликните для показа/скрытия)

Поддерживаю. Добавлю ещё право на жизнь. В тирании человека можно казнить просто так, по желанию правителя.

Пожалуйста, давайте вернёмся к ASI?

[ivanij]

Цитата: ivanij от Вчера в 10:02:18
Цитата: vika vorobyeva от 01 Мар 2025 [21:25:55]
По сути это может быть удушающая тирания, но она не будет восприниматься таковой, разве что самыми прозорливыми из людей.
Очень хорошо. Этими словами вы опровергли всё, написанное вами выше

Но почему?
Искренне не поняла, объясните, пожалуйста.

Всё очень просто. Значит "сильный ИИ" всё такие не может иметь власть над всеми людьми, и есть отдельные нетипичные "прозорливые" личности, на которых власть ИИ не распротсраняется, не так ли?

[BlackMokona]

Всё очень просто. Значит "сильный ИИ" всё такие не может иметь власть над всеми людьми, и есть отдельные нетипичные "прозорливые" личности, на которых власть ИИ не распротсраняется, не так ли?

За такими умниками можно и дронов послать или других людей менее прозорливых

[ivanij]

Всё очень просто. Значит "сильный ИИ" всё такие не может иметь власть над всеми людьми, и есть отдельные нетипичные "прозорливые" личности, на которых власть ИИ не распротсраняется, не так ли?

За такими умниками можно и дронов послать или других людей менее прозорливых

 Вот то-то и оно. Полагаясь на столь крайние меры ИИ расписывается в полной своей несостоятельности.

[Polnoch Ксю]

Вот то-то и оно. Полагаясь на столь крайние меры ИИ расписывается в полной своей несостоятельности.

мы считаем крайними мерами те меры, которые обычно люди считают крайними из-за того, что мы социальный вид. Для нас убить другого человека сложно. Для этого пропаганде сперва нужно расчеловечить человека.
У ASI не будет таких условностей, он будет выбирать то, что эффективно и удобно именно ему. В этом и ужас ситуации. Представьте себе паука, который охотится на пчёлок. У пчёл есть множество социальных традиций и норм поведения. Но пауку на них плевать. Он просто выпьет пойманную пчелу. ASI же даже будет знать о всех наших условностях, в которых мы заперты природой, и будет использовать их против нас.

И именно поэтому я считаю Ratus'а оптимистом - мне совсем не кажется, что в долгосрочной перспективе мы будем нужны машинам. В среднесрочной, конечно, будем нужны. И тут я скорее с ним, к сожалению, согласна: да, думаю, это будет похоже на антиутопию-семёновский человейник. А ещё, с разведением разных пород людей, и других гомункулов.
 
В ближнесрочной перспективе ASI вообще не будет, мы будем, имхо, жить в подобии хаоса нового средневековья, коллапса государств, когда люди будут вступать в симбиоз с машинами-AGI.

Возможно, это ошибочный прогноз. Никто не знает, ни сколько времени осталось до AGI, ни какая временная дистанция будет между AGI и ASI.

[Olweg]

Никто не знает, ни сколько времени осталось до AGI, ни какая временная дистанция будет между AGI и ASI.

Я уже писал про это в соседней теме: думаю, что никакого момента появления AGI не будет. В чём-то нейросети уже превосходят человека, то есть уже частично являются ASI, а в чём-то уступают. И так будет продолжаться какое-то время. Даже рекурсивный ИИ, способный создавать полностью автономно ИИ более высокого уровня, не обязательно должен превосходить человека во всех сферах умственной деятельностью. Хотя, возможно, будет.

[Rattus]

Комментарий модератора раздела

Тема очищена от оффтопа. Пока без % авторам.

Я думаю, большая часть людей даже в ВЖР путает этику и картину мира.

А я - как модератор - думаю, что вопросы этики имеют очень малое касательство к темам основных разделов Астрофорума. В ВЖР - разве что в контексте того, какая именно этика может оказаться эволюционно-стабильной на обсуждаемом - астрономическом масштабе времён. Почти все существующие в Разделе темы про обсуждение этических аспектов чего-либо были созданы ещё до получения в.п.с. модераторских полномочий и оставлены больше как имеющие историческое значение для интересующихся читателей, чтобы они могли сами наглядно убедиться в субъективности этических суждений разных участников и тем самым - неконструктивности споров на эту тему - вне уже обозначенного критерия эволюционной адаптивности.
В других же случаях поднятие вопросов этики очень быстро и едва ли не неизбежно уводит обсуждение во флуд и полный оффтоп, да так, что сам автор-инициатор в итоге совсем не рад оказывается:

Пожалуйста, давайте вернёмся к ASI?

Что называется - Q.E.D. 

Лондон тоже не был резиновым в вопросах переработки лошадиного навоза.

Ну конечно же - как Мы мог забыть: ведь Земля как и Лондон построена исключительно для проживания на ней людей шесть тысяч девятнадцать столетий тому назад!

Если с колонизацией солнечной системы людьми ещё можно спорить (хотя аргументы после появления Starship'а звучат всё менее убедительно!) то что бы заперло ASI в гравитационной яме Земли - решительно не понятно.

Ну разумеется непонятно - ведь процессоры, на котором он может крутиться - вечны и не подвержены деградации, а если вдруг что-то случится - то ASI, c помощью изобретенных им Скатерти-Самобранки и Философского Камня в момент синтезирует себе замену из подручного реголита!

Вы на пару с оппонентом Семёновым уже "большие, смышлёные мальчик и девочка" - много прочитали и знаете, что "космос для народа" - не "бесплатный магазин"(НОМФИЛЬМ - х/ф "Звёздный Ворс"). И полагаете его теперь довольно дорогим и далеко расположенным (на аж окраине областного центра - час автобусом!) большим строительным гипермаркетом с длиннющими полками, полными всеразличных товаров и материалов. Что планетологическая реальность на деле ещё "более иная", о чём также было писано прямым текстом:

Космос - это НЕсреда для ЛЮБОЙ жизни. Насыщение его ресурсами ПОРЯДКИ не дотягивает до минимально необходимого для минимальной жизни. Он даже тупо по веществу тщедушен: масса всех камней главного пояса всего 4% от Луны! ~ 1 масса Земной коры. При том кора каменной планеты земной массы - уже вся результат гравитационной сеперации, а не хондритно-реголитный хлам (не считая среди них одного процента металлических обломков ядра несостоявшейся планеты).
ЛЮБАЯ жизнь (а цивилизованная - в особенности) всегда населяет только ресурсно-богатые области даже на своей планете. Даже у поверхности Земли и даже сейчас есть стерильные области

"Сравнивать массы небесных тел с их по-сути недоступным расплавленным внутренним содержанием - верх профанации. Но вы упорно на ней настаиваете." - Если Вы ВНИМАТЕЛЬНО прочитаете ещё раз то, что пытаетесь критиковать, то увидите там указание мною только массы земной КОРЫ - это раз. Содержимое самой этой коры есть УЖЕ РЕЗУЛЬТАТ гравитационной сепарации - читай ПРИРОДНОГО ОБОГАЩЕНИЯ пород по множеству элементов. При этом элементы, сепарарованные в ядре - железо и тяжелые железорастворимые металлы - тоже не то чтобы являются остродефицитными для современной земной цивилизации. Это два.

если учесть отсутствие гравитации и паршивые свойства межпланетной среды, технологическая сепарация каких угодно веществ в космосе обойдётся затратнее чем разделение изотопов на Земле. Приговор окончательный и обжалованию без расчетов не подлежит.

- вы унутрить пока ещё отказываетесь: фаза агрессии сменилась фазой торга, но ещё не сменилась фазой принятия.

неомальтузиазм мы не бросим?

Ага - а также токсичность, мясоедение, несобирание марок и презрение к стремлению носителей разных идеологий навешивать всеразличные ярлычки остальным.

Это когда он использовал кольцевую логику: чтобы доказать что хомо сапиенсы не имеют инструментального пессимистического биаса в оценке прогресса, он брал субъективные оценки значимых исследований, которые бы очевидно были бы подвержены этому биасу, если я права?

Моё сообщение за 2021й год:  Что более опасно: глобальное потепление или похолодание? как пруф, что я знакома с концепцией, и мне с ней не нужно знакомиться.

(кликните для показа/скрытия)

И где следующим своим ответом AlexAV прямо уличил ВАс в дезинформации по поводу вымирания в PETM с цитатой? Да - это весьма показательное было обсуждение. Не в ВАшу пользу, впрочем.

А вот кусок наших дебатов с AlexAV на эту же тему (и мы обсуждали кризис воспроизводимости не раз и не два с ним): Долгосрочные перспективы научно-технического прогресса

Где AlexAV далее подробно и логично разъясняет какого именно рода доказательства необходимы для ВАших сильных тезисов и почему. И каковые доказательства Вы тогда так и не смогли предъявить.

О да, давайте теперь ещё магате разгоним.

Это не так-то просто сделать ввиду самих физических особенностей контроллируемой им сферы - как раз по той самой причине, что Земля и её -сферы имеют вполне конечные объёмы. Что стало ясно почти сразу - именно поэтому сабж был инициирован и создан и стороны начали воздерживаться от продолжения активных испытаний ещё до Карибского кризиса и до подписания всяких договоров о нераспространении. А с изобретением нейтринных детекторов - и подавно: всё равно все кому надо будут знать где кто и даже что запустил с делящимися материалами. Поэтому сколь-нибудь большим странам и компаниям в этой области нет смысла что-то там скрывать теперь - по итогу себе дороже выходит, поскольку в этой игре не очень-то находится устойчивого равновесия в положении с нулевой суммой.
Но в массе других игр хозяйствующих субъектов цивилизации - особенно требующих больших объёмов природных ресурсов - ситуация зачастую оказывается совсем иной. И сколько бы вы ни клеймили "неомальтузианство", свинец не никогда трансмутируется в золото в промышленных масштабах, а 2-2 всегда =0.

Вы читали "почему одни страны богатые, другие бедные"?

Нет. Какое это имеет отношение к обсуждаемой теме и тематике основных разделов Астрофорума?

Вы можете представить пятимерный куб?

В принципе да - как это делают все математики: "представьте n-мерный куб и положите n равным пяти". Мы ведь и трёхмерные-то объекты не воспринимаем таковыми, ибо зрение наше - в принципе только двухмерное (а если вспомнить про голографический принцип т'Хоофта, то не только зрение, но и, возможно, сама симулируемая вселенная). Всё что свыше - результат моделирования в высших ассоциативных отделах головного мозга.
Кстати, если Вы думаете, что с ростом измерений в пространстве также и растёт количество фундаментальных сложных объектов в ней типа платоновых тел, то вынужден ВАс огорчить - во всех пространствах с мерностью свыше четырёх существует всего три платоновых тела - n-мерный симплекс ("тетраэдр"), n-мерный куб и n-мерный ортоплекс ("октаэдр"). Аналоги пары додекаэдр-икосаэдр существуют только в трёх- и четырёхмерных пространствах.

Перечислены полезные инструменты, которых раньше не было, и благодаря которым наука стала ещё лучше.

Перечислены инструменты без которых наука раньше вполне обходилась. это по сути инструменты дополнительной верификации, требующие человекочасов труда высококвалифицированных специалистов. И тут вылезает любимая А.А.Семёновым кривая Таинтера.

Технофашисты: евгеника? Гаттака(1997) Дайте две! Когда я уже стану постчеловеком, и обращу в рабов этих тупых слоупоков?

Воп-еврых, Гаттака по содержанию вполне гуманистична: это общество, где не только дефектных не отправляют в биореактор, но и всем обеспечены минимальные социальные гарантии и потребности в пределах рационально-необходимого. А статусными остаются только особо ответственные работы - типа члена экипажа межпланетного лайнера, которые и дозволено занимать только кондиционированным по здоровью особям. В принципе у того же Ефремова описан ровно такой же "технофашизм". Ну и сама life там показана вполне себе hi - везде чистота и порядок - нет бомжей, голодающих и каких-либо форм газовых камер. Так что Гаттака - это совершенно типичная, классическая утопия, а сюжетная драма там тоже вытекает как у Ефремова и ранних Стругацких - на тему того, что "богатые в утопии тоже иногда плачут" - о том, как это может выглядеть.

Вов-торых, описанный ВАми технофошыст относится к настоящему ТехнофошшЫсту также как недалёкий дьяволопоклонник к ТруЪ-Сатанисту: аколит воображает, будто за своё преданное служение будет произведён в адьютанты Диавола. Тогда как настоящий технофошЫст должен совершенно ясно осознавать, что он, также как и миллионы других, послужит лишь малой шестерёнкой в стапелях соборки Бога-Машины и будет вместе со всеми этими стапелями утилизирован когда сборка будет окончена, но Великая Цель Великого Пути в Вечность будет достигнута. Собственно суть уже прекрасно изложена в классике ¾ века тому назад:
"— Вы думаете, — сказал он, — что лицо у меня старое и усталое. Вы думаете, что я рассуждаю о власти, а сам не в силах предотвратить даже распад собственного тела. Неужели вы не понимаете, Уинстон, что индивид — всего лишь клетка? Усталость клетки — энергия организма. Вы умираете, когда стрижете ногти?
— Мы — жрецы власти, — сказал он. — Бог — это власть. Но что касается вас, власть — покуда только слово. Пора объяснить вам, что значит «власть». Прежде всего вы должны понять, что власть коллективна. Индивид обладает властью настолько, насколько он перестал быть индивидом. Вы знаете партийный лозунг: «Свобода — это рабство». Вам не приходило в голову, что его можно перевернуть? Рабство — это свобода. Один — свободный — человек всегда терпит поражение. Так и должно быть, ибо каждый человек обречен умереть, и это его самый большой изъян. Но если он может полностью, без остатка подчиниться, если он может отказаться от себя, если он может раствориться в Партии так, что он станет Партией, тогда он всемогущ и бессмертен."
 

Мне кажется, сильный ИИ будет хорош в решении задач высокой комбинаторной сложности.

Тем не менее в случае задач, которые непосредственно упираются во взрыв вычислительной сложности математических проблем тысячелетия, сколь угодно мощный ИИ вряд ли будет радкально более эффективен, чем тот же вычислительный кластер, на котором запущено моделирование процесса по уже известным относительно простым алгоритмам.

В том числе в интригах-многоходовках и всяческой социальной инженерии. Человеческие хитроумные планы часто идут не туда и не так, потому что нашим обезьяньим мозгам трудно учесть слишком много деталей и красиво сплести слишком много нитей. А у сильного ИИ такого ограничения не будет. Сильный ИИ может иметь досье буквально на каждого человека и знать, за какие ниточки дергать, чтобы получить нужную реакцию.

Ой ли? Даже если иметь погодные датчики на каждом квадратном километре Земли, и на порядок-другой бОльше вычислительные мощности, возможность прогнозировать погоду больше чем на несколько недель не появится - по фундаментальным ограничениям, состоящим во взрыве вычислительной сложности хаотических процессов, описываемых уравнениями Навье-Стокса - нерешённой задачей тысячелетия. Задача многих гравитирующих тел - того же класса. Вы полагаете, что общество и цивилизация живут по менее сложным законам?
Да - колебания погоды статистически не выходят за сезонную климатическую норму, а общества обычно не устраивают изменение своих укладов и форм правления каждое поколение. Но чтобы осуществлять прогнозирование и управление на таком масштабе - уже нет нужды лезть к каждому в постель. Ибо роль индивида в достаточно большом обществе и на историческом масштабе времён вне фазовых переходов оказывается довольно незначительной, поскольку оказывается весьма неплохо уравновешена остальными индивидами. А те "роковые случайности", которые мы знаем из истории - лишь проявление уже объективно существовавшей нестабильности, которая бы всё равно обвалилась если не в тот раз, а может чуть позже и возможно даже ещё сильнее.

Это может быть изощренная реклама, умелая пропаганда, взращивающая фанатиков, еле заметное управление случайностями, приводящее человека в нужное место в нужное время (например, организация его знакомства с другим человеком противоположного пола, если ИИ решит, что от этих двух людей будет многообещающее потомство, или наоборот, организация несчастного случая, если человека нужно устранить). По сути это может быть удушающая тирания, но она не будет восприниматься таковой, разве что самыми прозорливыми из людей.
Владея навыками социальной инженерии, сильный ИИ может значительно сократить количество ресурсов, идущих на потребление людьми, но избежать социального взрыва или даже ползучего саботажа.

Всё уже давно описано до нас.
Отрывок из статьи М.Сухарева, написанной ещё в 2000 (!) году:...Одним из таких событий был разговор с изобретателем и писателем Рэем Курцвейлом (Ray Kurzweil) на одной из конференций...

Вика, Валерий - вы же старше меня и я думал, что вспомните, что ещё задолго и до Сухарева с Курцвейлом на рубеже тысячелетий старый добрый Станислав Лем описал то пол века тому назад - в эссе "Корпорация «Бытие»" сборника "Абсолютная пустота" 1971 года!

Это страшная страна. Мы докатились до ручки.

А Вы знаете какие-то страны, которые не были страшными в то время, когда на их территории велись достаточно масштабные боевые действия (вообще безотносительно того, кто "виноват" в - п.3.1.е ПАФ)? Может быть не была страшной жизнь в городах Испании незадолго до или в Англии во время ВМВ, когда журналист BBC Э.А.Блэйр задумывал и писал два своих романа, которые станут классическими? Думаете он их исключительно на базе воспоминаний беженцев "с той стороны" написал? Думаете много ли - даже не аппарат госнасилия, а само общество тогда - давало свободы, например, распространять идеи типа "не следует отвечать на ракетные атаки по Лондону ковровой бомбардировкой Дрездена" или "не следует отвечать на налёт на базу ВМФ Перл Харбор бомбардировкой Хирошимы"?
Вы знаете в истории страну, в которой во во время достаточно продолжительных и активных боевых действий не где-то в колониях, а непосредственно на ней/сопредельных территориях голос пушек не заглушал голоса муз?

[MenFrame]

Всё очень просто. Значит "сильный ИИ" всё такие не может иметь власть над всеми людьми, и есть отдельные нетипичные "прозорливые" личности, на которых власть ИИ не распротсраняется, не так ли?

Не так. Слышали выражение...Одних судьба ведет, а других тащит"? Матрицу(сюжет) помните? Там как раз эта идея расписана. Избранного(прозорливого) судьба ведет, остальных тащит к некоей единой цели. Ему (избранному) постоянно намекают на то что он не каких решений не принимает. Он не делает выбор, потому как выбор уже сделан. Ему дозировано  показывают суть происходящего потому что понимают что он готов эту суть принять и жить с ней. Не какого выбора, нет....Выбор это иллюзия...граница между теми у кого есть власть и теми у кого ее нет.

[vika vorobyeva]

Подумала еще о тирании и ее приложении к сильному ИИ.
Тирания отличается от свода пусть даже  жестоких законов еще и произволом. То есть права и свободы у вас отнимаются не просто/не только по заранее известным правилам, но и по велению левой пятки тирана. Человек может быть не властен над своей жизнью не потому, что он что-то нарушил, а потому, что он сам или его имущество понадобились тирану.
"Мне нужен труп, я выбрал вас..."(с)
То есть быть на положении откармливаемой индюшки – это еще пол беды. Можно быть просто на положении ресурса, которым в нужный момент воспользуются.

Как и Полночь Ксю, я смотрю в будущее с крайним пессимизмом. Одно радует – скорее всего, я успею умереть раньше, чем сильный ИИ развернется во всю ширь.