Пределы автоматизации и внедрения роботов

[Polnoch Ксю]

Звучит как экстремизм

плохое название? Может, VK-судья тогда!

[Polnoch Ксю]

А тут вообще абсолютно не возможно. Никак нельзя убедиться что никто не делает ИИ тайно.

Увы. Мы все умрём? Кто что думает, прав ли Юдковский?

[MenFrame]

Может всё же прочитаете пост?

И опять задаю вопрос...вы сами то читаете то что пишите? С чего вы взяли что бездействие общества достаточно определенно что бы его оценивать? Беспилотный транспорт это эксперимент, последствия которого неизвестны до тех пор пока он не будет проведен.

А то понимаю что картинку увидели и давай писать.

Если глаза откроешь, то увидишь что я отвечал не на картинку а на твои цитаты которые были в твоем расплывчатом сообщении.
  У тебя не где в сообщении не указано...о каком именно выборе переживает общество. Так сказать решайте сами....

[Polnoch Ксю]

В этой теме же все понимают концепцию рекурсивно самоулучшающегося AGI до ASI? И понимают, что это означает?

[Olweg]

Ну будет технологическая сингулярность через несколько лет… Ну ничего ж страшного не случится.

[BlackMokona]

И опять задаю вопрос...вы сами то читаете то что пишите?

Да что вы не читали и отвечали совсем на иное уже было видно. Хех

Водитель в первую очередь должен выполнять правила ПДД, а не заниматься оптимизацией вреда. Потому что спрос будет именно в рамках закона. Какая тут разница электронный водитель или живой?

Не насколько, жизнь законопослушного человека приоритет пока в законе не прописано обратное. Если вы намеренно сбили невиновного, это убийство, если задавили дурака нарушившего ПДД это несчастный случай и его ответственность.

Вот какое это имеет отношение к моему вопросу? Никакого. Зато идеально отвечает на картинку в теме автоматизации 

[Polnoch Ксю]

Ну будет технологическая сингулярность через несколько лет… Ну ничего ж страшного не случится.

мне кажется, что все концепции человеческого общества просто перестанут существовать. Что дальше будет не понятно. Будут очень большие тектонические сдвиги. Например, до XVIIIго века основной человеческой идентичностью была религиозная. Потом изобрели гуманитарную технологию национальных государств и национализма. Мне, например, очевидно, что после сингулярности более продвинутые идентичности начнут друг друга сменять очень быстро, и государства перестанут существовать. Это если нас просто не потравит ASI как клопов, и если люди вообще останутся существовать.
Это всё будут тектонические сдвиги, которые будут менять то, что происходит на планете за десять лет больше, чем то, что до этого за десятки миллионов лет происходило.

[MenFrame]

Ну будет технологическая сингулярность

Не будет не какой сингулярности. Прогресс состоит из двух составляющих, интеллектуальной и опытной. Даже если удастся ускорить значительно первую часть, вторая часть уже заметно хуже подается ускорению.

[Olweg]

Будут очень большие тектонические сдвиги. Например, до XVIIIго века основной человеческой идентичностью была религиозная. Потом изобрели гуманитарную технологию национальных государств и национализма. Мне, например, очевидно, что после сингулярности более продвинутые идентичности начнут друг друга сменять очень быстро, и государства перестанут существовать. Это если нас просто не потравит ASI как клопов, и если люди вообще останутся существовать.
Это всё будут тектонические сдвиги, которые будут менять то, что происходит на планете за десять лет больше, чем то, что до этого за десятки миллионов лет происходило.

А может наоборот, выйдем на полку S-кривой. Но я этому не очень верю. ИИ как минимум подстегнёт прогресс (мало ли было мнимых «полок» в прошлом), а как максимум - выведет прогресс на новый уровень ускорения.

[Olweg]

Не будет не какой сингулярности. Прогресс состоит из двух составляющих, интеллектуальной и опытной. Даже если удастся ускорить значительно первую часть, вторая часть уже заметно хуже подается ускорению.

Это зависит от точки приложения. В любом случае, модельки можно будет гонять гораздо быстрее.

[Polnoch Ксю]

А может наоборот, выйдем на полку S-кривой.

Нет. Только если атомная война разве что. Но и там тоже очень крутая кривая, но вниз.

Но я этому не очень верю.

Конечно же, люди не верят. Я именно про этот эффект много лет на этом форуме и говорю. Неомальтузианство в крови у людей. Они всегда видят будущее, как телевизоры чуть больше, чуть более цветные. Я не знаю, каким будет будущее! Но знаю, что оно будет невероятно, крышесносно отличаться от всего того, что мы можем придумать.
Эффект слепоты лорда кельвина.
А ещё, футурошок

[Rattus]

В треде проблему AI aligment обсуждали?

Нет, ибо тут это оффтоп.

Люди в зале смеются, а он абсолютно серьёзен.

А как ещё должна адекватно реагировать современная публика на недоучившегося семинариста схоласта, будто прямиком из XIII века прибывшего к нам рассуждать о проблеме всемогущества и всеблагости божией?

В этой теме же все понимают концепцию рекурсивно самоулучшающегося AGI до ASI? И понимают, что это означает?

Что дальше будет не понятно.

"WE ARE BORG. YOU WILL BE ASSIMILATED."

Ну будет технологическая сингулярность через несколько лет… Ну ничего ж страшного не случится.

Хуже по крайней мере точно не будет - ибо мир станет куда более упорядоченным.

Это если нас просто не потравит ASI как клопов

Кулеры этому вашему ASI будет кто чистить и смазывать? Atlas от BD? А сами Атласы - друг друга? А они это давно умеют? А вся технологическая цепочка от руды до Атласа - она автоматизирована полностью и с высочайшей эффективностью, что всех инженегров и техников выгнали на мороз? А тараканов в серверах всех везде потравили и забыли совсем про этот вид? А красных огненных муравьёв?

[Olweg]

Конечно же, люди не верят. Я именно про этот эффект много лет на этом форуме и говорю. Неомальтузианство в крови у людей. Они всегда видят будущее, как телевизоры чуть больше, чуть более цветные.

Есть эмпирические данные в пользу такой «неомальтузианской» версии. Что максимум прогресса уже позади (правда, как обычно, всплывает вопрос, а в каких попугаях его мерять; тем не менее, я сам склонен согласиться с этой точкой зрения). Однако это вовсе не значит, что прогресс действительно окончательно замедляется! Просто человеческих мозгов всё сильнее и сильнее не хватает (особенно учитывая демографический переход). Ничего страшного, Чип и Дейл ИИ нам спешит на помощь. Чем это в будущем обернётся, никто, естественно, предсказать не может.

[Polnoch Ксю]

Atlas от BD?

Да. Он бегает и прыгает лучше меня. Это шокирует. Я ничем его не лучше, кроме того, что у него батарейки хватает на меньше времени, чем мне еды, и он пока ещё стоит дороже меня. Но это очень ненадолго в эволюционно-геологическом смысле

[Polnoch Ксю]

Есть эмпирические данные в пользу такой «неомальтузианской» версии.

Уже обсуждали много раз в ВЖР. Мы сошлись на том, что AlexAV, например, не смог предоставить отвязанную от субъективности методику лучших открытый. У нас спор упёрся именно в это. А мои данные без субъективности с числом патентов он забраковал. Между тем, воспроизводимая методика важнее всего в науке.

Просто наука сейчас генерирует так много контента, что ни один человек давно не может следить за всеми открытиями, даже важными, поэтому возникает иллюзия замедления прогресса.

[Rattus]

Да. Он бегает и прыгает лучше меня. Это шокирует.

Давно бегунов берут без экзамена в слесари-автомеханики и сисадмины?

Я ничем его не лучше

Сочувствую. А я - лучше. И сосед-сантехник лучше. Именно как рабочие и специалисты реального сектора.

Но это очень ненадолго в эволюционно-геологическом смысле

А роботы с сервоприводами пополам из редкоземов пополам из высокочистых материалов - это надолго, да. Главное - в это верить. Религиозным образом.

Мы сошлись на том, что AlexAV, например, не смог предоставить отвязанную от субъективности методику лучших открытый.

А мы сошлись на том, что он предоставил наиболее объективную из предложенных. И? Какие мы тут мыистиее?

[MenFrame]

Неомальтузианство в крови у людей.

Как и иерархический страх перед высшей силиконовой обезьяной.

[Polnoch Ксю]

А роботы с сервоприводами пополам из редкоземов пополам из высокочистых материалов

Starship с тысячей атласов и психея, вот и всё. Либо разработать технологии добычи редкоземельных минералов из того, что есть на земле. В условиях энергетического изобилия
https://3dnews.ru/1101296/ssha-obyavili-o-prorive-v-proizvodstve-sverhprovodyashchih-magnitov-dlya-termoyadernih-reaktorov
Очень энергетически затратные процессы станут выгодными.

А мы сошлись на том, что он предоставил наиболее объективную из предложенных. И? Какие мы тут мыистиее?

наоборот, он предоставил субъективный, черрипикнутый список, подогнанный под вывод

[Rattus]

Starship с тысячей атласов и психея, вот и всё.

И давно в психее открыт весь набор редких элементов, использующихся в микроэелектронике и робототехнике в пригодных для добычи концентрациях?

наоборот, он предоставил субъективный, черрипикнутый список, подогнанный под вывод

Нет - вы. Содержательная беседа получается, правда?

[Polnoch Ксю]

Нет - вы. Содержательная беседа получается, правда?

Я предоставила в том споре список патентов. Он воспроизводимый. А алексов список открытий - его человек делал, причем по моей теории же человек не способен охватить открытия, так как производительность мозга константна, а научный контент со временем растёт. То есть, то, что предоставил Алекс не фальсифицировало мою теорию, а наоборот её подтверждало