Пределы автоматизации и внедрения роботов

[Albireo7]

А если ещё вспомнить, что в Новом Завете - основе христианства - никаких десяти заповедей нет… Но, впрочем, не буду влезать в дебри библеистики. Просто хочу напомнить, что в мире существуют и другие религии, основатели которых ни про десять заповедей, ни про нагорную проповедь ничего не слышали. И ничего, общества, исповедающие эти религии, тоже вполне неплохо существуют до сих пор. Так что, может быть, найти общие универсальные ценности будет не так уж сложно.

Иисус сказал что он пришёл дополнить Ветхий Завет, а не заменить. Поэтому Новый Завет следует рассматривать в сочетании с Ветхим Заветом. И 10 заповедей остаются в силе.
А любовь является мощнейшим базовым элементом человеческой души, составляющей его психики. Вне зависимости от религий. Поэтому, две заповеди Иисуса о любви легко перекладываются для всех, даже атеистов. Любовь к Богу заменяется на доступные для восприятия человека вещи и принципы - природу, Солнце, правду, красоту, гармонию, справедливость, доброту, силу и т.д.

Насчёт будущего и кто будет за людей работать? - За людей работать будут роботы с искусственным интеллектом. А люди будут наслаждаться творчеством, спортом, общением. Причем, это станет технологически возможным уже в ближайшие пять -десять лет.

[Rattus]

Вполне вероятно, кстати, что и у людей он такой же «рваный», только по-другому.

Приложенная иллюстрация хорошая, только с одной существенной ошибкой: AGI - это четвёртый, предпоследний этап, перед которым нынешний момент-звёздочка. А последний - уже однозначный ASI.
Даже если вдруг первые AGI-агенты в каких-то отдельных аспектах будут уступать верхнесреднему человеку - это не исключит его из AGI - как не исключаем мы из обладающих дееспособностью - высокофункциональных нейроотличных людей - даже если кому-то в чём-то с ними окажется непросто контактировать.

Давайте спросим эволюционного биолога. @Rattus рассудите нас, пожалуйста? Возможно, мне профессиональное искажение так коверкает восприятие, но я любовь - в том числе свою к мужу - воспринимаю очень так сказать механистически. Мне кажется, это просто такая система гормонов и нейромедиаторов, которая "промтит" мою биологическую нейронку вот в эту сторону, и я думаю, что она устроена довольно просто - куда проще чем куча других нейропсихологических процессов.
Так же мне кажется, её можно изучать, и даже манипулировать ей определенным образом. Я права?

В общем да. Окситоцин-съ. Но как и прочие механизмы, обеспечивающие социальные взаимодействия, в процессе этих самых взаимодействий из-за образующихся аутореферентных петель временами формируется довольно замысловатая картина - каковая картина и является предметом описания людьми искусства.

Тут просто элементарное рекурсивное самонарастание обратных связей: "я наклонился посмотреть не наклонилась ли она чтоб посмотреть не наклонился ли я", приводящее сначала к "распуханию" мозга, потом, при наличии достаточных системных ресурсов - запуску на нём модели соплеменника aka "самосознание" - и опа - перед нами H.sapiens собственной персоною, которому ничего не мешает понять, что остальные вокруг него способны ровно к тем же умозаключениям, что и он сам. Правда до сих пор не все пользуются этой возможностью. Но потом обычно недумённо вопрошают: "А нас-то за что??77" - и становится очень забавно.

Интеллекту нужна внутренняя мотивация. И нам нужно, чтобы это был не эволюционный промт (совсем не дефолт, как почему-то думает @Rattus)

Rattus думает не так. Это Вы думаете, что он так думает, потому что читали его невнимательно и невдумчиво. Ясен перец, что интеллект, как любой инструмент не зависимо от причины его появления, вовсе не обязан быть сразу настроен под ландшафт адаптации. Речь была о том, что существование какого-то варианта его воплощения на астрогеологически значимых масштабах времени (каковые только и есть предмет обсуждения в данном разделе данного форума) будет возможным в том и только том случае, если этот вариант будет исполнять эволюционно-стабильную стратегию поведения.
И эта стратегия - вовсе не обязана представлять собой ни максимизатор какой-то ситуативной фигни не взирая ни на что или же оберегатель своего создателя в режиме гнездового паразитизма. Элементарная эволюционная логика показывает, что в таких случаях существенное эволюционное преимущество имеет не терминтатор и не автонянька, а оптимизатор-эксплуататор - типа эукариотной клетки по отношению к цианобактерии в растениях или гриба по отношению к водоросли в лишайнике. Даже если в начале преимущество получит какая-то иная стратегия поведения и если она не приведёт в краткой перспективе к полному обрыву хайтехноцивилизации вообще (каковой обрыв, как уже обсуждалось, может прекрасно случиться по ресурсным причинам вообще безо всяких AGI и ASI), а будет проводиться системой (опять-таки: чисто машинной или коллегиально-бледнотиковой - тоже не важно), действительно более-менее обладающей интеллектом в полном смысле слова - то есть способностью видеть вероятности развития своей судьбы и возможные способы влияния на неё дальше своего носа - то она скорее рано чем поздно под давлением средовых факторов отбора скатится с этого неоптимального исходного режима в режим оптимальный - рационально-эксплуататорский.
Собственно менеджмент сколь-нибудь крупных коммерческих компаний - нагляднейший пример того. Это не плохо, не хорошо - это просто реальность, данная в ощущениях.

интервала между AGI и ASI системами, чтобы люди успели наиграться в национализм не будет - наоборот, пик конфронтации сопадаёт с техносингулярностью. Мы идиоты!

Ах, какая невезуха, а ведь обстоятельства могли сложиться так, чтобы всюду текли молочные реки и львы возлежали рядом с ягнёнками! Ну ведь могли же, правда? Если бы мы все регулярно молились на Устав ООН и постились углеродными выбросами - точно бы могли! Но нет - греховное чел овечество не убоялось Света Небес и теперь его ждёт суровая кара Божия и пламя адово! Час близокЪ! Обнимемся!

Иисус сказал что он пришёл дополнить Ветхий Завет, а не заменить. Поэтому Новый Завет следует рассматривать в сочетании с Ветхим Заветом. И 10 заповедей остаются в силе.

Потому первый вопрос, который следует задавать всякому так считающему христианину: строго ли он не работает в Субботу согласно заповеди №4 и уничтожил ли все доступные ему иконы (восточное христианство) или фигурные распятия (западное христианство) согласно заповеди №2?

За людей работать будут роботы с искусственным интеллектом... Причем, это станет технологически возможным уже в ближайшие пять-десять лет.

Но станет ли возможным ресурсно-экономически хоть когда либо - далеко не факт.

[Konstantin Schtsch]

10 заповедей - это не идеология, а образно выражаясь, техника безопасности на пути христианина.

Имелось в виду именно это - как базовые принципы сосуществования человека.
Что там сказал Христос- личное дело христиан. что сказал Аллах - внутреннее дело мусульман.
А вот 10 заповедей в неизменном виде есть и у тех и у других и у евреев.
Более того, аналоги 10 заповедей есть и в индуизме, "яма и нияма", и в чуть сокращенном виде у конфуция (и вот уже охвачено 92% населения)

Почти все системы запрещают убийство, воровство, ложь и поощряют почитание старших, честность, самоограничение. Это основа социального порядка и кооперации.

Другое дело что даже этот десяток правил постоянно нарушается. Человека местами контролирует правосудие, а кто будет сторожить ИИ? и кто сторожить сторожей?

[AlexDark]

а кто будет сторожить ИИ?

Не надо сторожить ИИ, пусть он уже выметет это мусорное легаси цивилизации, оставив только реально значимые вещи. Из 10 заповедей первые 4 никак не относятся к сосуществованию, а остальные неоднократно выворачивались наизнанку в угоду той или иной конъюнктуре, т.е. человечество просто жило по обстоятельствам, но лицемерно прикрывается архаичными текстами. а 10 заповедей из ритуального декалога вообще не имеют отношения к сосуществованию.

[Konstantin Schtsch]

пусть он уже выметет это мусорное легаси цивилизации

Долой кожаные мешки! Отделим зёрна от плевел! ?

[Nik-Kul]

 Христос почему-то не писал Евангелие . Лев Толстой убедительно сказал что Новый завет - павлианство , т.е. написан деятелем от религии Павлом . Для более полного знакомства с ранним христианством нужно читать ранние апокрифы , катаров . Запретили их правители какие-то . Кто ? Архонты , хранители , люди в чёрном , рептилоиды , инопланетяне , представители энергетического мира током не поймёшь

Не надо сторожить ИИ, пусть он уже выметет это мусорное легаси цивилизации, оставив только реально значимые вещи

Наверное ии проектируется как средство уничтожения . На самом деле в нём ума-то и нет , как и в большинстве представителей земного мира , особенно у насекомых и животных .Живём наверное мало. Чтобы не шибко поумнели
 

[Mercury127]

Почти все системы запрещают убийство, воровство, ложь и поощряют почитание старших, честность, самоограничение. Это основа социального порядка и кооперации.

это основа власти: низам — нельзя (с них есть кому спросить и есть кому их наказать), верхам — можно (а с них спрашивать-то и некому, кроме взаимных разборок). в результате холопы сидят спокойно, тк думают, что вообще-то нельзя; а баре даже не заморачиваются раздумьями: надо ограбить — грабят, надо прикончить — кончают, хоть одного, хоть миллион человек. а уж как конкретно всё это оформлено и записано в отдельном сообществе — дело десятое.

[Olweg]

10 заповедей - это не идеология, а образно выражаясь, техника безопасности на пути христианина.

Не моя цитата

[Ulkolainen]

Иисус сказал что он пришёл дополнить Ветхий Завет, а не заменить.

Сорри за продолженный  оффтоп, но исполнить, т.е., в каноне употреблено слово с несколько иным смыслом.
Или у Вас ПНМ?

Христос почему-то не писал Евангелие . Лев Толстой убедительно сказал что Новый завет - павлианство , т.е. написан деятелем от религии Павлом .

И еще раз сорри, но Павел тоже не писал Евангелия. Возможно Вы удивитесь, узнав сейчас, что Новый Завет ими не исчерпывается: там есть еще Деяния, Послания и Откровение.

А вот 10 заповедей в неизменном виде есть и у тех и у других и у евреев.

Прямо в неизменном, начиная со "Шма, Израэль ..." 
Угу.
***
Вот интересно: хоть кто-нибудь из успевших порассуждать здесь о 10-и Заповедях - сможет перечислить штук 6-7 из них наизусть по-честному, без обращения к первоисточникам? Albireo7 вычеркиваю - он сразу вызывает подозрение, что таки да.

[Инопланетянин]

любители кошек не сбрасывают своих кошек ни на улицу, ни даже в приют в большинстве случаев

Загляните в тему "Эй, природа, хватит шутить", там @Звёздочка вам расскажет как относятся к собакам в большинстве случаев. Т.е. серьёзно рассчитывать на некую навязанную модель поведения не стоило бы.

[Nik-Kul]

 

но Павел тоже не писал Евангелия. Возможно Вы удивитесь, узнав сейчас, что Новый Завет ими не исчерпывается: там есть еще Деяния, Послания и Откровение.

Я их читал много раз ещё в 1990 г

Вот интересно: хоть кто-нибудь из успевших порассуждать здесь о 10-и Заповедях - сможет перечислить штук 6-7 из них наизусть по-честному, без обращения к первоисточникам? Albireo7 вычеркиваю - он сразу вызывает подозрение, что таки да.

 

[Ulkolainen]

Я их читал много раз ещё в 1990 г

Оно и видно. Зачем тогда Павла как автора поминали? Запамятовали с той поры, где там чьё?

[Nik-Kul]

 Евангелий как и апостолов должно быть больше 4 , их не включили в новый завет , который много написан Павлом .
Лев Толстой : https://tolstoy.ru/creativity/journalismguide/227.php

[Инопланетянин]

Потому первый вопрос, который следует задавать всякому так считающему христианину: строго ли он не работает в Субботу согласно заповеди №4 и уничтожил ли все доступные ему иконы (восточное христианство) или фигурные распятия (западное христианство) согласно заповеди №2?

Да, в целом правильная постановка вопросов.

[Albireo7]

Иисус сказал что он пришёл дополнить Ветхий Завет, а не заменить.

Сорри за продолженный  оффтоп, но исполнить, т.е., в каноне употреблено слово с несколько иным смыслом.
Или у Вас ПНМ?

Не всё так однозначно с переводом. См. скрин.

[Albireo7]

Потому первый вопрос, который следует задавать всякому так считающему христианину: строго ли он не работает в Субботу согласно заповеди №4 и уничтожил ли все доступные ему иконы (восточное христианство) или фигурные распятия (западное христианство) согласно заповеди №2?

За людей работать будут роботы с искусственным интеллектом... Причем, это станет технологически возможным уже в ближайшие пять-десять лет.

Но станет ли возможным ресурсно-экономически хоть когда либо - далеко не факт.

Ресурсно возможно это уже сейчас. Такой робот по ресурсам не сильно отличается от электромобиля. "По данным CAAM, в 2025 году в Китае было произведено 16,6 млн автомобилей на новых источниках энергии, включая полностью электрические и заряжаемые от сети автомобили." Половину автомобильных заводов перевести на выпуск роботов - и будет почти десяток миллионов в год. А если ещё заводов понастроить (быстренько с помощью тех же роботов), так вообще завалить всех можно будет.
В общем-то некоторые роботы работают уже сейчас. Например беспилотные автобусы, грузовые автомобили и т.д.
И сторожить никаких роботов не надо будет. Вы же сейчас не сторожите стиральную машинку или робот-пылесос? Такой робот будет таким же инструментом. Кроме того, для роботов с ИИ нужно разработать систему нравственности аналогичную человеческой. Которой он должен будет неукоснительно следовать, в отличие от человека.

Не надо задавать христианину никаких вопросов. Самое главное в христианстве, как я уже писал выше, это взращивание любви в своем сердце через добрые дела и слова. Серафим Саровский определил главный смысл жизни человеческой как стяжание благодати Духа Святого. Когда человек делает искренние бескорыстные добрые дела, то он получает эту благодать Святого Духа. Которая трансформируется в любовь в его сердце. Эта любовь подталкивает человека снова делать добрые дела. Вот это и есть путь христианства. У христианина-главный судья - это Бог, а не тот, кто будет задавать ему каверзные вопросы. По поводу субботы и икон - не будем превращать форум про роботов в богословский диспут. Ответы на эти ваши вопросы уже 100500 раз были даны на просторах инета.)

[Albireo7]

А вот Илон Маск обещает всё гораздо круче и быстрее, чем тут на форуме. См. скрин.
И он же заявил ещё, что скоро мы будем производить больше микросхем, чем сможем включить. В том смысле, что рост производства микросхем растёт огромными темпами, в то время как прирост производства электроэнергии очень слабыми темпами. Вот тут нам бы и пригодилась сверхмощная Пенжинская приливная электростанция в основании Камчатки. Которую не хотят строить, потому что некуда девать огромное количество энергии (87 ГигаВатт), которое там вырабатывалось бы. А так можно было бы там создать сверхмощный кластер серверов искусственного интеллекта.

[BlackMokona]

Новые успехи ИИ в химии.
https://habr.com/ru/companies/bothub/news/989260/

[Rattus]

The Illusion of Thinking: Understanding the Strengths and Limitations of Reasoning Models via the Lens of Problem Complexity
Было?

[BlackMokona]

The Illusion of Thinking: Understanding the Strengths and Limitations of Reasoning Models via the Lens of Problem Complexity
Было?

Нет, но уже вдрызг устарело. Всё же статье целых пол года. Фактически они там открыли идею ARC-AGI теста, только вот незадача. С тех пор выпустили уже два таких теста ARC-AGI и ARC-AGI 2, а модельки успели в обоих тестах превзойти людей.
Академические исследования в сфере AI даже в момент выхода, уже обычно на три шага отстают от прогресса и открывают проблемы, которые не просто были обнаружены до них, но уже были решены до них. Что уж говорить когда эти исследования имеют уже немалый по нынешним меркам возраст. Академической среде нужно перестраиваться на куда более быстрые процессы публикации и создания исследований. Иначе будут не актуальны весь этот ИИ прыжок.