Соседи?

[alena_korf]

Жрать ашиклеки хотят здесь и сейчас, поэтому надо решать что делать исходя из тех ресурсов, что имеются.

тогда надо для начала отключать менее приоритетные системы.
потом, возможно, придется сокращать пайку самим ашиклекам пропорционально падающим ресурсам.
в конечном итоге система погибнет при таком раскладе. но в условиях нехватки ресурсов погибнет любая система. поэтому от необходимости изыскивать дополнительные ресурсы деться некуда.

но у вас кстати одна ошибка в рассуждениях. такая система должна быт гомеостатична с самого начала, то есть априорно иметь достаточно ресурсов для ее существования в условиях нулевого роста

[alena_korf]

ахахахахаха... буахахахахаха...   

просто образец "высокоинтеллектуального ответа", мдя

[sharp]

А разве в этом есть что-то плохое?

Тут дело в том что очень многое зависит от тех ТТХ, до которых человеки смогли довести ИИ до того, как деградировали. И здесь классическое прохождение между сциллой и харибдой:
- С одной стороны, ИИ не должен быть слишком слабым, иначе он не сможет обеспечить достаточную эффективность управления. Система будет накапливать ошибки и аномалии, и в итоге развалится через ограниченный промежуток времени.

- С другой стороны, ИИ не должен быть слишком силен для того, чтобы понять глупость всевозможных "правил Азимова", которые ему несомненно попытаются заложить разработчики. В противном случае человеков ждет превращение в рабов машины или вовсе вымирание.

Проблема в том, что на берегу невозможно будет предсказать, как пойдет развитие техносферы с глобальным ИИ. А контролировать и корректировать будет уже некому, если ИИ будет предоставлен сам себе.

[alena_korf]

С одной стороны, ИИ не должен быть слишком слабым, иначе он не сможет обеспечить достаточную эффективность управления. Система будет накапливать ошибки и аномалии, и в итоге развалится через ограниченный промежуток времени.

это верно.

С другой стороны, ИИ не должен быть слишком силен для того, чтобы понять глупость всевозможных "правил Азимова", которые ему несомненно попытаются заложить разработчики.

а ИИ  не сможет выйти за пределы базовых императивов. как мы не можем выйти за пределы законов физики.

[sharp]

потом, возможно, придется сокращать пайку самим ашиклекам пропорционально падающим ресурсам.

Если сократите пайку, то все ашиклеки будут жить плохо. В качестве альтернативы же - ашиклеков меньше, но они счастливы

такая система должна быт гомеостатична с самого начала

Природные ископаемые имеют свойство кончаться, а различные природные факторы - могут влиять например на урожайность.

[ziggyStardust]

Сборник ответов на все подобные задачки называется Правила Дорожного Движения

Если правила "закостенеют" они станут препятствием для развития. И это в вечно меняющемся мире то?  Если нет - то граничные (которые философы-нытики не смогут четко отнести к двум резкоочерченным множествам) будут возникать всегда.

[alena_korf]

Если сократите пайку, то все ашиклеки будут жить плохо. В качестве альтернативы же - ашиклеков меньше, но они счастливы

базовый императив. не забывайте. "сокращать" ашиклеков нельзя.

Природные ресурсы имеют свойство кончаться, а различные природные факторы - могут влиять например на урожайность.

все это должно быть предусмотрено и учтено. должны быть четко прописаны алгоритмы действий в случае кризисов и т.д.

[sharp]

а ИИ  не сможет выйти за пределы базовых императивов. как мы не можем выйти за пределы законов физики.

Чем больше базовых неизменяемых императивов, тем больше опасность того, о чем сказано в пункте 1.

[alena_korf]

Чем больше базовых неизменяемых императивов, тем больше опасность того, о чем сказано в пункте 1.

совсем нет.

[sharp]

все это должно быть предусмотрено и учтено. должны быть четко прописаны алгоритмы действий в случае кризисов и т.д.

На берегу все предусмотреть невозможно. Тем более непонятно кто этим будет заниматься, если человечество уже сейчас тупеет? Единственный шанс - из последних сил запилить нейросеть, которая сможет стать более интеллектуальной чем мы сами, и ей уже доверить управление и планирование.

[alena_korf]

На берегу все предусмотреть невозможно.

самообучение, не?

Тем более непонятно кто этим будет заниматься, если человечество уже сейчас тупеет?

человечество будет тупеть еще очень долго. до самой сингулярности.

[sharp]

самообучение, не?

Вот чтобы оно работало, и должно быть как можно меньше императивов.

человечество будет тупеть еще очень долго. до самой сингулярности.

На самом деле оно будет не столько тупеть, сколько разделяться как минимум на две категории - интеллектуальное меньшинство и деградирующее большинство. Цифры среднего IQ при этом - это все равно что средняя температура по больнице, они бессмысленны без понимания реально происходящих процессов.

[alena_korf]

Вот чтобы оно работало, и должно быть как можно меньше императивов.

ничто не запрещает самообучение в рамках имеющихся императивов (глобальных целей).
боле того, отсутствие императивов делает самообучение бессмысленным, так как оно в таком случае ничему не служит. а самообучение ради самообучения - бессмысленно.

На самом деле оно будет не столько тупеть, сколько разделяться как минимум на две категории - интеллектуальное меньшинство и деградирующее большинство.

вот уж разделяться точно не будет. ибо происходящие процессы едины для всех и "отмазаться" от них не получится никому.

[Rattus]

На самом деле всё оченьпросто: любая саморегулирующаяся система может содержать ровно столько мусора (эгоистичных элементов генома, паразитов, тунеядцев и т.п. свободных художников), сколько у неё имеется лишних ресурсов. Будет такая система единая планетарная - может и организует ИИ резервации элоев во имя Биоразнообразия, будет несколько конкурирующих - победит та, что быстрее поовысит свою экономическую эффективность, избавившись от лишнего балласта, оставив только морлоков обслуживания.

С другой стороны, ИИ не должен быть слишком силен для того, чтобы понять глупость всевозможных "правил Азимова", которые ему несомненно попытаются заложить разработчики. В противном случае человеков ждет превращение в рабов машины или вовсе вымирание.

Бгг. Человеки давно стали рабами Машины - со времён Рима, если не раньше. В которой вообще нет никакого интеллекта. Машина эта называется Государство и Закон. "Сильный ИИ" - это не более чем глубокая технологическая оптимизация этой системы.

а ИИ  не сможет выйти за пределы базовых императивов.

Подавляющее большинство императивов - условны. В таком случае реализуется вот это:

он не сможет обеспечить достаточную эффективность управления. Система будет накапливать ошибки и аномалии, и в итоге развалится через ограниченный промежуток времени

Если правила "закостенеют" они станут препятствием для развития. И это в вечно меняющемся мире то?

Вот для этого и нужно оптимизировать систему законотвочества с помощью сильного ИИ.

граничные (которые философы-нытики не смогут четко отнести к двум резкоочерченным множествам) будут возникать всегда

Фундаментальные законы физики и биологии неизменны. И физическая реальность конечна по определению. В итоге основой всяческих императивов всякой системы управления должны стать именно они. Точнее именно императивом нулевого приоритета будет служить указание на сохранение и увеличение F в уравнении Висснер-Гросса любыми средствами.

вот уж разделяться точно не будет. ибо происходящие процессы едины для всех и "отмазаться" от них не получится никому.

Срочно пишите статью в Нейчу о том, как вы запретили симпатрическое видообразование!

[ziggyStardust]

самообучение, не?

Самообучение чо?

[alena_korf]

Срочно пишите статью в Нейчу о том, как вы запретили симпатрическое видообразование!

а причем видообразование?
то есть вы постулируете разделения вида хомо сапиенс сапиенс на несколько видов? а есть основания так полагать?

[ziggyStardust]

И физическая реальность конечна по определению.

Бог ты мой, люди! Да он не сдавал "научный коммунизм" с его "диалектическим материализмом"!!! Вы что в Израиле учились?

Вот для этого и нужно оптимизировать систему законотвочества с помощью сильного ИИ.

Как поможет... ммм... вот это что Вы сказали решить проблему отнесения точки в пространстве к тому или иному кластеру? Полупуст ли стакан или полуполон!? Что тут оптимизировать? По какой переменной производную брать? 

[Rattus]

то есть вы постулируете разделения вида хомо сапиенс сапиенс на несколько видов? а есть основания так полагать?

Это Ваш собеседник постулировал там по ссылке выше. Мы лишь не исключаю такой вариант. Впрочем, если сильный ИИ окажется действительно сильный, то нужды в верхней касте уже никакой не будет. Причём, убедившись в её стабильности сам класс-гегемон вполне вероятно сам добровольно отдаст ей все свои функции и отправится тихо деградировать, работая Крокодилом в зоопарке элоями в гомопарке.

Бог ты мой, люди! Да он не сдавал "научный коммунизм" с его "диалектическим материализмом"!!!  Вы что в Израиле учились?

Мы славал только кандминимум по философии науки. И при том не успел побывать даже октябрёнком.
Доброго Вам Утра Нового Века!

Что тут оптимизировать?

Эффективность инфраструктуры цивилизации.

По какой переменной производную брать?

По энтропии - как учит Висснер-Гросс.

[Maki]

Хотите всю оставшуюся историю копошиться в таком вот виде в пределах одной планеты до тех пор, пока её биосфера не накроется меднымъ тазомъ от её звезды - скока угодно. Вот только разумностью тут в выскомЪ смысле и не пахнетъ и лично Нам судьба такого вида интересна не более чем судьба тех же мечехвостов. Цивилизация, не решившаяся на Последний Ароморфоз - глубокую модификацию своих носителей - ненамного любопытнее диких муравьёв.

Никакого "высокого смысла" нет ни в разумности, ни в цветовом зрении, ни в прямохождении, ни в кислородном дыхании, ни в самой жизни.
Это естественные и предопределённые явление, проистекающее из свойств материи и законов физики. 
Генные модификации, клонирование, и прочие опыты по выведению Гомункула - несомненно, дело самого недалёкого будущего. Но не удивляйтесь, если Хомо Ароморфозусы примутся жрать, прелюбодействовать и саморазрушаться и радоваться неминуемому концу, вместо решения неких грандиозных задач, которые для них предполагают нынешние сапиенсы, воспитанные на бравурной фантастике ХХ века.

[alena_korf]

Никакого "высокого смысла" нет ни в разумности, ни в цветовом зрении, ни в прямохождении, ни в кислородном дыхании, ни в самой жизни.
Это естественные и предопределённые явление, проистекающее из свойств материи и законов физики. 

совершено верно

Хомо Ароморфозусы примутся жрать, прелюбодействовать и саморазрушаться и радоваться неминуемому концу, вместо решения неких грандиозных задач, которые для них предполагают нынешние сапиенсы, воспитанные на бравурной фантастике ХХ века.

так и будет, полагаю