Пределы автоматизации и внедрения роботов

[Albireo7]

А если ещё вспомнить, что в Новом Завете - основе христианства - никаких десяти заповедей нет… Но, впрочем, не буду влезать в дебри библеистики. Просто хочу напомнить, что в мире существуют и другие религии, основатели которых ни про десять заповедей, ни про нагорную проповедь ничего не слышали. И ничего, общества, исповедающие эти религии, тоже вполне неплохо существуют до сих пор. Так что, может быть, найти общие универсальные ценности будет не так уж сложно.

Иисус сказал что он пришёл дополнить Ветхий Завет, а не заменить. Поэтому Новый Завет следует рассматривать в сочетании с Ветхим Заветом. И 10 заповедей остаются в силе.
А любовь является мощнейшим базовым элементом человеческой души, составляющей его психики. Вне зависимости от религий. Поэтому, две заповеди Иисуса о любви легко перекладываются для всех, даже атеистов. Любовь к Богу заменяется на доступные для восприятия человека вещи и принципы - природу, Солнце, правду, красоту, гармонию, справедливость, доброту, силу и т.д.

Насчёт будущего и кто будет за людей работать? - За людей работать будут роботы с искусственным интеллектом. А люди будут наслаждаться творчеством, спортом, общением. Причем, это станет технологически возможным уже в ближайшие пять -десять лет.

[Rattus]

Вполне вероятно, кстати, что и у людей он такой же «рваный», только по-другому.

Приложенная иллюстрация хорошая, только с одной существенной ошибкой: AGI - это четвёртый, предпоследний этап, перед которым нынешний момент-звёздочка. А последний - уже однозначный ASI.
Даже если вдруг первые AGI-агенты в каких-то отдельных аспектах будут уступать верхнесреднему человеку - это не исключит его из AGI - как не исключаем мы из обладающих дееспособностью - высокофункциональных нейроотличных людей - даже если кому-то в чём-то с ними окажется непросто контактировать.

Давайте спросим эволюционного биолога. @Rattus рассудите нас, пожалуйста? Возможно, мне профессиональное искажение так коверкает восприятие, но я любовь - в том числе свою к мужу - воспринимаю очень так сказать механистически. Мне кажется, это просто такая система гормонов и нейромедиаторов, которая "промтит" мою биологическую нейронку вот в эту сторону, и я думаю, что она устроена довольно просто - куда проще чем куча других нейропсихологических процессов.
Так же мне кажется, её можно изучать, и даже манипулировать ей определенным образом. Я права?

В общем да. Окситоцин-съ. Но как и прочие механизмы, обеспечивающие социальные взаимодействия, в процессе этих самых взаимодействий из-за образующихся аутореферентных петель временами формируется довольно замысловатая картина - каковая картина и является предметом описания людьми искусства.

Тут просто элементарное рекурсивное самонарастание обратных связей: "я наклонился посмотреть не наклонилась ли она чтоб посмотреть не наклонился ли я", приводящее сначала к "распуханию" мозга, потом, при наличии достаточных системных ресурсов - запуску на нём модели соплеменника aka "самосознание" - и опа - перед нами H.sapiens собственной персоною, которому ничего не мешает понять, что остальные вокруг него способны ровно к тем же умозаключениям, что и он сам. Правда до сих пор не все пользуются этой возможностью. Но потом обычно недумённо вопрошают: "А нас-то за что??77" - и становится очень забавно.

Интеллекту нужна внутренняя мотивация. И нам нужно, чтобы это был не эволюционный промт (совсем не дефолт, как почему-то думает @Rattus)

Rattus думает не так. Это Вы думаете, что он так думает, потому что читали его невнимательно и невдумчиво. Ясен перец, что интеллект, как любой инструмент не зависимо от причины его появления, вовсе не обязан быть сразу настроен под ландшафт адаптации. Речь была о том, что существование какого-то варианта его воплощения на астрогеологически значимых масштабах времени (каковые только и есть предмет обсуждения в данном разделе данного форума) будет возможным в том и только том случае, если этот вариант будет исполнять эволюционно-стабильную стратегию поведения.
И эта стратегия - вовсе не обязана представлять собой ни максимизатор какой-то ситуативной фигни не взирая ни на что или же оберегатель своего создателя в режиме гнездового паразитизма. Элементарная эволюционная логика показывает, что в таких случаях существенное эволюционное преимущество имеет не терминтатор и не автонянька, а оптимизатор-эксплуататор - типа эукариотной клетки по отношению к цианобактерии в растениях или гриба по отношению к водоросли в лишайнике. Даже если в начале преимущество получит какая-то иная стратегия поведения и если она не приведёт в краткой перспективе к полному обрыву хайтехноцивилизации вообще (каковой обрыв, как уже обсуждалось, может прекрасно случиться по ресурсным причинам вообще безо всяких AGI и ASI), а будет проводиться системой (опять-таки: чисто машинной или коллегиально-бледнотиковой - тоже не важно), действительно более-менее обладающей интеллектом в полном смысле слова - то есть способностью видеть вероятности развития своей судьбы и возможные способы влияния на неё дальше своего носа - то она скорее рано чем поздно под давлением средовых факторов отбора скатится с этого неоптимального исходного режима в режим оптимальный - рационально-эксплуататорский.
Собственно менеджмент сколь-нибудь крупных коммерческих компаний - нагляднейший пример того. Это не плохо, не хорошо - это просто реальность, данная в ощущениях.

интервала между AGI и ASI системами, чтобы люди успели наиграться в национализм не будет - наоборот, пик конфронтации сопадаёт с техносингулярностью. Мы идиоты!

Ах, какая невезуха, а ведь обстоятельства могли сложиться так, чтобы всюду текли молочные реки и львы возлежали рядом с ягнёнками! Ну ведь могли же, правда? Если бы мы все регулярно молились на Устав ООН и постились углеродными выбросами - точно бы могли! Но нет - греховное чел овечество не убоялось Света Небес и теперь его ждёт суровая кара Божия и пламя адово! Час близокЪ! Обнимемся!

Иисус сказал что он пришёл дополнить Ветхий Завет, а не заменить. Поэтому Новый Завет следует рассматривать в сочетании с Ветхим Заветом. И 10 заповедей остаются в силе.

Потому первый вопрос, который следует задавать всякому так считающему христианину: строго ли он не работает в Субботу согласно заповеди №4 и уничтожил ли все доступные ему иконы (восточное христианство) или фигурные распятия (западное христианство) согласно заповеди №2?

За людей работать будут роботы с искусственным интеллектом... Причем, это станет технологически возможным уже в ближайшие пять-десять лет.

Но станет ли возможным ресурсно-экономически хоть когда либо - далеко не факт.

[Konstantin Schtsch]

10 заповедей - это не идеология, а образно выражаясь, техника безопасности на пути христианина.

Имелось в виду именно это - как базовые принципы сосуществования человека.
Что там сказал Христос- личное дело христиан. что сказал Аллах - внутреннее дело мусульман.
А вот 10 заповедей в неизменном виде есть и у тех и у других и у евреев.
Более того, аналоги 10 заповедей есть и в индуизме, "яма и нияма", и в чуть сокращенном виде у конфуция (и вот уже охвачено 92% населения)

Почти все системы запрещают убийство, воровство, ложь и поощряют почитание старших, честность, самоограничение. Это основа социального порядка и кооперации.

Другое дело что даже этот десяток правил постоянно нарушается. Человека местами контролирует правосудие, а кто будет сторожить ИИ? и кто сторожить сторожей?

[AlexDark]

а кто будет сторожить ИИ?

Не надо сторожить ИИ, пусть он уже выметет это мусорное легаси цивилизации, оставив только реально значимые вещи. Из 10 заповедей первые 4 никак не относятся к сосуществованию, а остальные неоднократно выворачивались наизнанку в угоду той или иной конъюнктуре, т.е. человечество просто жило по обстоятельствам, но лицемерно прикрывается архаичными текстами. а 10 заповедей из ритуального декалога вообще не имеют отношения к сосуществованию.

[Konstantin Schtsch]

пусть он уже выметет это мусорное легаси цивилизации

Долой кожаные мешки! Отделим зёрна от плевел! ?

[Nik-Kul]

 Христос почему-то не писал Евангелие . Лев Толстой убедительно сказал что Новый завет - павлианство , т.е. написан деятелем от религии Павлом . Для более полного знакомства с ранним христианством нужно читать ранние апокрифы , катаров . Запретили их правители какие-то . Кто ? Архонты , хранители , люди в чёрном , рептилоиды , инопланетяне , представители энергетического мира током не поймёшь

Не надо сторожить ИИ, пусть он уже выметет это мусорное легаси цивилизации, оставив только реально значимые вещи

Наверное ии проектируется как средство уничтожения . На самом деле в нём ума-то и нет , как и в большинстве представителей земного мира , особенно у насекомых и животных .Живём наверное мало. Чтобы не шибко поумнели