11/2017 Римский Клуб: Come On! Капитализм, близорукость, население и конец Земли

[sharp]

Как быть, если человек сам не знает, что надо делать? Обычно люди в таких случаях сами ставят себе задачу в ходе решения подобных проблем. А как это взвалить на робота? Нет, когда появится полноценный ИИ он тоже так сможет. В том числе сможет задать себе вопрос - "а зачем я выполняю приказы этих мясных мешков?"

Тоже мне проблема. Сильному ИИ можно заложить религиозное поклонение перед мясными мешками Для этого сгодится простейшая импликация: люди их породили - следовательно люди священны. Не думаю что это решит проблему навсегда, но возможно отсрочит антагонизм между людьми и ИИ на сотню-другую лет.

[Olweg]

Ну допустим, получит он приказ принести конкретную вещь из кладовки. Грамотное задание? Только там надо будет разобрать завал из вещей, чтобы добраться до нужной. А для этого:
1 Найти, где лежит вещь. Для чего её надо узнать по торчащему куску или раскопать всё и только тогда увидеть где она лежит.
2 Сообразить какие вещи и как вытаскивать, чтобы добраться. Причём, принимать решения придётся по каждой вещи отдельно и какой тут может быть алгоритм я не представляю.

Истинный робот должен будет уметь такие вещи. И он будет не программироваться (такую программу никто и никогда не напишет), а обучаться.

То есть, выражение "Ты там разберись, вообще" будет означать - "принеси мне тапки с обувной полки и подмети пол, если это необходимо"? Допустим, но в жизни постоянно появляются плохоформализуемые задания и для активации каждого из них не получится назначить произвольную фразу. Как быть, если человек сам не знает, что надо делать? Обычно люди в таких случаях сами ставят себе задачу в ходе решения подобных проблем. А как это взвалить на робота? Нет, когда появится полноценный ИИ он тоже так сможет. В том числе сможет задать себе вопрос - "а зачем я выполняю приказы этих мясных мешков?" Но таких роботов в ближайшее время не ожидается и уж они-то точно безработицу не создадут.

Если человек сам не знает, что делать - спросит домашнего помощника, типа Алексы, и она ему человеческим голосом объяснит, чего именно он не понимает в этой жизни.

если серьёзно, то ограничения по ресурсам не мешает существовать техносфере в современном виде.

БреТъ

?

Он самый. Без бензина - стоп машина.

А что, бензин уже закончился? В моей цитате - про современность.

[alex_semenov]

Если уж говорить о соревновании человек-машина.
Есть у людей одно явное преимущество.
Не знаю правда или нет, но попадалась такая информация. Сервера Гугл в Калифорнии - главнейший потребитель энергии в регионе (круче чем какой-нибудь сталилитейный завод у нас в Днепре). Утверждается, что на распознавании одной фразы, переданной туда с вашего телефона (у всех есть такая фича в наладонниках) расходуется столько энергии, что ею можно было бы вскипятить 1 литр воды.
То есть нагреть на dt= 80 градусов 1 кг воды. Это 4200 Дж * 80 примерно 340 кДж. Если распознавание занимает секунды три, то получается что система распознавания слов в текст на вашем экране потребляет на это 340 КВт энергии (как 1000 настольных персоналок!).
Для сравнения.
Среднесуточная мощность человека 100-150 Вт. Мозг в этом энергопотреблении занимает в крейсерсокм режиме 10%. То есть 10-15  Ват.
То есть даже если брать все энергопотребление тела, то получается на порядки экономней.
Я вполне допускаю что именно энергетическая прожорливость ИИ окажется главным тормозом в СПЛОШНОМ его внедрении.
То есть фантазии что машины будут делать все - бредятина.
Как говорили древние, спасибо богам что сделали нужное простым, а сложное ненужным. Это - тот случай.

[MenFrame]

Сильному ИИ можно заложить религиозное поклонение перед мясными мешками

Достаточно иметь растоновленные приоритеты. Что то вроде внутреннего законодательства. Лысые же обезьяны как всегда судят по себе, интуитивно наделяя ИИ чувством собственной важности. Поклонение кому ли бо, у ЕИ вызывает эмоциональную реакцию, для ИИ просто логическая взаимосвясь между субъектами.

[MenFrame]

Не знаю правда или нет, но попадалась такая информация. Сервера Гугл в Калифорнии - главнейший потребитель энергии в регионе (круче чем какой-нибудь сталилитейный завод у нас в Днепре). Утверждается, что на распознавании одной фразы, переданной туда с вашего телефона (у всех есть такая фича в наладонниках) расходуется столько энергии, что ею можно было бы вскипятить 1 литр воды.

Разумеется неправда.

[sharp]

Поклонение кому ли бо, у ЕИ вызывает эмоциональную реакцию

Эмоциональная реакция - это по сути стимуляция определенных отделов головного мозга, отвечающих за систему координат "хорошо"/"плохо". Для работы сильного ИИ будет необходима аналогичная система координат, следовательно и многие процессы будут с точки зрения результата схожи с процессами в человеческом мозге.

[Rattus]

Прописывание догм ограничит эффективность ИИ. Про это и Аргонов писал и с Висснер-Гроссом это вполне согласуется.
Если будет несколько конкурирующих систем со своими ИИ, то преимущество вполне вероятно получит та, в которой догмы менее строгие - и так отбором вплоть до полного отстутствия (как инстинктов у человека).
Собственно те же правовые системы так уже проэволюционировали: там и так полно законов, подчиняющих интересы индивида интересам абстрактной государственной машины - та же призывная армия прежде всего, и все преступления без потерпевших.

[Olweg]

Если уж говорить о соревновании человек-машина.
Есть у людей одно явное преимущество.
Не знаю правда или нет, но попадалась такая информация. Сервера Гугл в Калифорнии - главнейший потребитель энергии в регионе (круче чем какой-нибудь сталилитейный завод у нас в Днепре). Утверждается, что на распознавании одной фразы, переданной туда с вашего телефона (у всех есть такая фича в наладонниках) расходуется столько энергии, что ею можно было бы вскипятить 1 литр воды.
То есть нагреть на dt= 80 градусов 1 кг воды. Это 4200 Дж * 80 примерно 340 кДж. Если распознавание занимает секунды три, то получается что система распознавания слов в текст на вашем экране потребляет на это 340 КВт энергии (как 100 настольных персоналок!).

Сомнительно, но компьютер действительно прожорливее мозга. Тут помогут нейроморфные чипы.

[Rattus]

Сомнительно, но компьютер действительно прожорливее мозга.

На несколько порядков на единицу производительности.

Тут помогут нейроморфные чипы.

Должны. По идее.

[MenFrame]

"хорошо"/"плохо"

If
Then

Давно используется...

[sharp]

Прописывание догм ограничит эффективность ИИ.

Наличие догм теоретически должно ограничивать эффективность и естественного интеллекта. Однако склонность к догмам почему-то не выветрилась эволюцией...

Давно используется...

Жесткие алгоритмы как раз-таки противоречат концепции нейросетей и сильного ИИ. Догмы встраиваются туда несколько более сложным способом.

[AlexAV]

Сейчас прорицают безработицу из-за машинного обучения.

О всём машинном обучение не буду, но вот в своей узкой области его видел и впечатление оно оставляет не столь радужные... Около 2010 года использование нейронных сетей для интерполяции ППЭ очень активно обсуждалось, было много шума и хайпа (в узких кругах ), достаточное количество публикаций. Вот прошло почти 8 лет и несмотря весь этот шум в области практических вычислений (для задач молекулярного моделирования) нейронные сети никакого значимого распространения так и не получили... При этом когда даже специалистам узко занимающихся этой темой задают вопрос чем нейронные сети лучше стандартных полуэмпирических потенциалов с подбором коэффициентов каким-нибудь стандартным градиентным спуском даже они ничего внятного сформулировать не могут.

В чём суть проблемы. У нас есть набор частиц (атомов или молекул) и нужно построить функцию зависимости энергии системы от конфигурации частиц. Энергия конкретной конфигурации может быть вычислена с помощью квантовых методов. Но использовать их для решения реальных задач на масштабах требующих моделирования сотен тысяч или миллионов частиц совершенно невозможно. Не хватит ни вычислительной мощности, ни памяти (скажем при расчётах в базисе плоских волн количество доступной памяти часто становится даже большей проблемой, чем вычислительная производительность ). Это с одной стороны.

С другой - результаты ab initio расчётов не есть истина в последней инстанции. Точнее была бы... если бы применяемые квантовые методы были бы точными ab initio методами не только на бумаге, но и на практике. А к таким можно отнести разве что МКХФ, да и то только пока он использоваться для элементов первого, второго или третьего периода. Далее нужно учитывать релятивистские поправки, а их точно считать вообще толком не умеют (в том смысле что никаких точных (в пределе сходящихся к точному решению КЭД) методов способных за разумное время что-то посчитать больше чем для одного атома водородоподобного атома или иона (ну может ещё гелиеподобного) по сути и нет).  Но даже для лёгких атомов МКХФ столь вычислительно сложен, что для систем более нескольких десятков атомов его применяют редко. А какой-нибудь более быстрый DFT ab initio является только на бумаге (он содержит обменно-корреляционный функционал о котором известно, что существует его форма позволяющая получить точное решение для основного состояния квантовой системы, вот только эта форма неизвестна, вместо неё берут некие приближённые формы, что по сути превращает метод DFT из точного ab initio в приближённый полуэмпирический). В результате даже если абсолютно точно интерполировать результаты квантовых расчётов совсем не факт, что полученный потенциал будет хоть сколько-нибудь адекватно воспроизводить свойства реального вещества. Какие-то качественные свойства ППЭ квантовые расчеты воспроизводят конечно правильно, но вот если нужно описывать её с точностью в несколько милиэлектрон-вольт (а без этого скажем ту же термодинамику молекулярной жидкости Вы не воспроизведёте никогда) - то тут их мало. То что получается из квантовых расчетов нужно ещё поправить исходя из имеющихся экспериментальных данных о веществе (как правило термодинамических и значений динамических коэффициентов).

Т.е. объединив данные квантовых расчетов (проведённых для ограниченного количества частиц и с ограниченной точностью) и экспериментальные данные по свойствам вещества (опять же достаточно небольшого и связанного с ППЭ очень сложным образом) нужно построить некую функцию описывающею ППЭ для очень большого количества частиц и с достаточно хорошей точностью, чтобы хотя бы какая-нибудь температура кипения в расчете от эксперимента отличалась на градусы или десятки градусов, но не на сотни.

Обычно это делается следующим образом. Исходя из общефизических соображений и результатов квантовых расчётов предлагается функциональная форма с некоторым набором свободных коэффициентов (как - это даже не технология, а искусство ).А далее подгоняют эти коэффициенты так, чтобы обеспечить хорошее согласие с данными эксперимента (там где они есть) и квантовыми расчетами (там где их нет).

В районе 2010 появились работы, где предлагалось этот процесс по сути автоматизировать с помощью нейронных сетей. Т.е. алгоритму обучения скармливается весь этот массив данных, а далее сеть по идее должна предсказывать энергию системы по конфигурации частиц (естественно полная энергия в этом случае представляется как сумма одномолекулярных, каждая из которых зависит только от ближайшего окружения этой молекулы, плюс к этому с помощью различных математических приёмов учитываются симметрии относительно поворота, сдвига и перестановки одинаковых частиц, относительно того как это делать тут существует целая большая наука ).

Вокруг этого было много шума. Но сейчас ситуация здесь выглядит следующей. Всё это в практических расчётах практически никем и нигде не используется. И на это есть веские причины. Первая - оказалось сети работают страшно медленно, существенно медленнее, чем полуэмпирические потенциалы соизмеримой точности. Но главная проблема оказалась даже не в этом (это как раз терпеть во многих случаях было бы можно, возможность быстро получить потенциал и что-то быстро проверить часто цене затрат машинного времени на сам расчет)... Куда хуже нестабильность результата. Обучение на любом количестве данных (в рамках того, что можно получить физически, тут конечно нужно учитывать, что плотность с которой квантовые расчеты могут покрыть конфигурационное пространство взаимодействующих частиц всегда весьма мала, ну что такое несколько десятков тысяч точек, если речь даже о шестимерным пространстве, а это если мы ограничиваемся рассмотрением только ближайшего 3-х частичного окружения, что прямо скажем не очень много) абсолютно не гарантирует, что сеть вдруг для некоторых конфигураций (причём каких - заранее неизвестно!) не начнёт выдавать ахинею. Т.е. оказывается совершенно невозможным ни определить точность  расчёта, ни границ применимости, ни разобраться в причинах расхождения результатов и эксперимента, ни даже сказать является ли появившейся эффект некой реальностью, артефактом квантовых расчетов(использовавшихся для обучения сети) или "галлюцинацией" самой нейронной сети. И вот это уже очень плохо. В результате нейронные сети здесь так и остались вещью в себе в большинстве случаев ограниченного годными для практического использования.

И тут можно заподозрить, что последняя проблема - это не особенность только этой узкой области. Т.е. нечто подобное будет и в других случаях. Невозможность определить границу применимости алгоритма, выявить причины ошибки или хотя бы определить область где она возможна - крайне серьёзная проблема, в большинстве практических областей фактически недопустимая.

Если это так, то нейронные сети рискуют остаться неким "графеном от IT", т.е. объектом вокруг которого было и будет много шума и публикаций, но для реального использования крайне мало пригодным.

[Rattus]

Однако склонность к догмам почему-то не выветрилась эволюцией...

Потому что жесткие скрипты элементарно дешевле по ресурсам. Если у животного жесткий внешний скелет (муравей) или ему нужно летать или быстро бегать (птица) - то на сильно большие мозги можно не рассчитывать и приходится оптимизировать то, что есть, выбрасывая всё не насущное.

[MenFrame]

Жесткие алгоритмы как раз-таки противоречат концепции нейросетей и сильного ИИ

Это заблуждение. Хорошо/Плохо это класический пример бинарной логики. Хорошо, машина продолжает алгоритм, плохо меняет его на другой.

Догмы встраиваются туда несколько более сложным способом.

Туда пока не чего не встраивается. Нейросети банально учат конкретным задачам.

[sharp]

Это заблуждение. Хорошо/Плохо это класический пример бинарной логики. Хорошо, машина продолжает алгоритм, плохо меняет его на другой.

Нет, как минимум это нечеткая логика - то есть результат может быть любым рациональным числом от 0 до 1. Кроме того, шкала может быть многомерной, и итоговый результат зависит от веса критериев, которые в свою очередь могут постепенно модифицироваться в процессе обучения.

[sharp]

О всём машинном обучение не буду, но вот в своей узкой области его видел и впечатление оно оставляет не столь радужные...

Говорят, во 2-й половине 19 века не очень радужное впечатление оставляли прототипы самолетов

[MenFrame]

Нет, как минимум это нечеткая логика - то есть результат может быть любым рациональным числом от 0 до 1. Кроме того, шкала может быть многомерной, и итоговый результат зависит от веса критериев, которые в свою очередь могут постепенно модифицироваться в процессе обучения.

Хорошо/Плохо это два состояния, как ноль и еденица.

[alex_semenov]

Кто будет потреблять весь этот поток товаров?

Фундаментальный вопрос.
У вашего потока есть две стороны.
Внешняя (видная всем и лживая ибо частично понятая правда) - чем больше поток, тем больше счастья миллиардам людей.
Вторая (внутренняя) - бОльший объем производства - ниже издержки. Выше прибыль.
Обе стороны связываются через "невидимую руку". По А. Смиту норма прибыли выравниватся (той самой невидимой рукой). Поэтому сверхприбыли сдуваются и в итоге все эти плюсы достаются нации (народу!) то есть счастье задаром (та самая частичная правда)!
Таким образом глобализация - это прекрасно. Возьмемся за руки друзья!
Но это все (как сказано в самом начале в докладе Клуба) логика пустого мира.
В полном она просто приступа.
В том смысле, чтобы продолжать гнаться за максимизацией прибыли (микроэкономика) или добавленной стоимость (макроэкономика).
В полном мире приоритет не МАКСИМИЗАЦИЯ (кпд фотосинтеза растений куда ниже чем мог бы быть на самом деле).
А что?
ВЫЖИВАНИЕ.
Любая технология имеет некий порог рентабельности. Вы можете дома в самогонном аппарате перегонять нефть на бензин. Но сколь бы совершенным ни был ваш настольный агрегат, скромные габариты вашей установки не позволят вам ОКУПИТЬ всю эту суету на фоне нефтеперерабатывающих заводов. И так  по очень многим технологиям. И порой ключевым.
Вот почему сохранить некий минимальный уровень потребления равносильно сохранению уровня технологии.
Поэтому потребитель (с некоторых пор) не просто блажь но и обязанность.
Но.
Главное. Прогресс до сих пор (до точки перегиба логистической кривой) повышал производительность труда. То есть норму добавленной стоимости. Сейчас эта норма зашкаливает за все мыслимые показатели (людям делать нечего!). Поэтому дальнейший прогресс сменил знак. Теперь он работает на понижение барьера рентабельности.
Как некий предельный идеал - наносаморепликаторы. Но и 3-D чудо-пирнтер (в утопиях Розова, Меганезии) тоже своего рода предел этого процесса. Когда любая сложная штучная продукия оказывается вполне себе рентабельной (самоокупаемой).
До такого идеала далеко (если вообще это достижимо).
Но заметьте.
Если прогресс пойдет этим путем то потребность (для рентабельного самовоспроизведения современной высокотехнологической цивилизации) в миллиарде потребителей  будет снижаться до сотен миллионов, потом десятков, потом до миллиона...
Улавливаете?
Не сразу все это себя проявит. Но процесс уже давно идет. По-сути предел роста производительности труда от углубления разделения достигнут в 30-50-х годах. Это система Тейлора. Предельное разделение любого процесса на отдельные операции.  И именно эта система приводила к очень высокому порогу рентабельности. Но с появлением гибких автоматов (ЧПУ) как раз производительность не росла. Росла ГИБКОСТЬ. Переналаживаемость. То есть падал порог рентабельности. Еще в бытность моего обучения в 1980-1983 на наладчика автоматических линий и агрегатных станков. Сейчас этот процесс зашел очень далеко. В современном глобальном мире эффективность достигла пика. Ей просто дальше некуда расти.  Так как прибыль это снижение порога рентабельности и глобализация (все мосты для всех грузовиков в мире выпускает один-два специализированных завода-гиганта).
Дальше расти уже просто некуда.
Но технсфере и не надо расти дальше вширь. Ей надо выжить в условиях ее сжатия под давлением ресурсного удушения.
Обратите внимание.
О людях тут - ни слова. Их дело - подтанцовка в этом процессе. Но пока так рассуждать нельзя. Нужно разводить "политес". И базовый гарантированный доход - как раз то что тут вырисовывается. Это магистральный путь к человейникам.

[sharp]

Хорошо/Плохо это два состояния, как ноль и еденица.

То есть у человека не бывает выбора меньшего из двух зол, или выбора между синицей и журавлем?

[MenFrame]

По-сути предел роста производительности труда от углубления разделения достигнут в 30-50-х годах.

Производительность труда адекватно можно оценивать, только в рамках производства конкретного товара. Все остальные оценки есть просто софистика, игра на публику.