Целеполагание самостоятельного сильного искусственного интеллекта и человек

[pkl]

Для измерения вычислительной мощности компьютера используется единица измерения, называемая флопс (flops, flop/s), а не частота каждого его процессора.

Я в курсе, как меряется производительность компьютера. Однако в стародавние времена, когда была возможность увеличивать тактовую частоту процессора, производительность росла в целом линейно ей и компьютеры были однопроцессорными и одноядерными. Сейчас так тупо наращивать производительность компьютеров уже невозможно, приходится исхитряться с многопроцессорными и многоядерными решениями.

Предел есть, но до него еще далеко. Уже осваивается 7нм-техпроцесс. Да и не в пределе дело.

Да, я его и имел в виду, когда говорил, что он уже 10 лет осваивается.

[pkl]

Такой ИИ давно уже существует:

Не надо путать. Это не ИИ, а просто продвинутая электроника. Даже с учетом всех тех возможностей, что она может.

Я не путаю, это Вы путаете. ИИ и электроника - не тождественные понятия. Электроника - это материальная основа для реализации ИИ, а сам ИИ - её функция. Слабый ИИ давно уже реализован военными /всякие системы поиска, наведения и селекции целей и т.п./.

[Seven7]

Думаю, это будет что-то размером с БАК или IceCube или даже побольше. В любом случае очевидно, что такой мозг будет расположен на достаточной глубине под землей, чтобы минимизировать вредное воздействие от космической радиации.

Скорее, что-то вроде Кортаны, Siri или Алисы, только поумнее. А физическая реализация - в виде серверных стоек на фермах, раскиданных по всей планете и объединённых оптиковолоконными кабелями и программным обеспечением в одно целое. Короче, что-то вроде коры головного мозга, но только покрывающей всю планету.

Поначалу конечно можно предположить, что ИИ будет во всю использовать существующую сеть трансконтинентальных оптиковолоконных кабелей. Но так как большую часть этой инфраструктуры явно избыточна, то скорее всего ИИ создаст под себя свою собственную столицу (местоположение главного управляющего супермозга) где-нибудь в центре геологически стабильной тектонической плиты. Вокруг настроит равннинных ГЭС (минимум потери энергии на передачу) из крупных рек. По карте лучше всего для этого пожалуй подходит пограничный район между Скандинавией и Россией.

Супермозг скорее всего будет один. Один же у нас управляющий мозг в голове. Для конкуренции мозгу хватит обычных сил природы (всевозможных опасностей - катастроф и тенденций истощения ресурсов).

[pkl]

Крайне сомнительный довод. Чтобы содержать нынешнюю армаду из миллиардов телефонов и компьютеров требуется добывать намного меньше миллиона тонн редкоземельных элементов (фактически один карьер в Китае производит половину от этого количества). К группе редкоземельных элементов относится сразу 17 химических элементов таблицы Менделееева...
...Для запитки супермозга с добывающей горнодобывающей промышленностью ИИ спокойно хватит существующих ГЭС.

Неплохо бы подкрепить чем-нибудь столь смелые утверждения. А то есть мнение, что на самом деле всё обстоит как раз наоборот. Ещё рекомендую почитать тему "Нет ископаемых..." Просто чтобы осознать масштаб надвигающейся проблемы.

[pkl]

И вот ещё, посмотрите на график:

Сравните с игровым сектором:
Где-то видел оценки что чуть ли не 90% современной IT-индустрии используется для развлечений (игры, контент для взролых и т.д.). Все эти ресурсы, без сомнения, ИИ пустит для своего развития (колоссальное поле для оптимизации).

И что? Как это противоречит сказанному мною? Расходы на вычислительные мощности линейно растут. Для чего они будут использоваться - другой вопрос. ИИ, конечно, может мобилизовать все видеокарты для поддержания своего функционирования. Но заметно нарастить свой масштаб всё равно не сможет.

[pkl]

По транспорту сравнение биологической и машинной цивилизации вообще швах.

Пожалуй минимум 99% существующей инфраструктуры (автодороги, аэропорты, метро) можно заменить для машин обычными проводами (электро- и дата- кабелями). Или просто мобильными (спутниковыми) системами связи. Экономия по материалам и энергозатратам будет огромной. Одно дело гонять 100 кг тушки, другое дело ограничиваться передачей информации.

А люди не в состоянии пользоваться средствами связи? Вы Скайпом никогда не пользовались? Без дорог как запчасти доставлять?

Суперкомпьютерная гонка, и не думает прекращаться. В Китае, Японии и США говорят, что возмут один экзафлоп в ближайшие годы.

Кстати, Вас не настораживает, что только ТРИ страны участвуют в суперкомпьтерной гонке? Ещё, правда, Россия пытается, но без особого успеха.

[pkl]

Поначалу конечно можно предположить, что ИИ будет во всю использовать существующую сеть трансконтинентальных оптиковолоконных кабелей. Но так как большую часть этой инфраструктуры явно избыточна, то скорее всего ИИ создаст под себя свою собственную столицу (местоположение главного управляющего супермозга) где-нибудь в центре геологически стабильной тектонической плиты. Вокруг настроит равннинных ГЭС (минимум потери энергии на передачу) из крупных рек.

Получается что-то вроде искусственного С. Хокинга. А потом у одной из ГЭС прорвёт плотину и...

[Olweg]

Чего немного? Ни одной стратегической задачи он не решил. Мир не только не завоевал, но даже не приблизился. А Тимур тут при чём?

Да так. По ассоциации. Сейчас считается великим полководцем, а по сути - такой же психопат.

[Alpha Sco]

Кстати, Вас не настораживает, что только ТРИ страны участвуют в суперкомпьтерной гонке? Ещё, правда, Россия пытается, но без особого успеха.

Если судить по информации в инете, то две страны - Китай и США.

Получается что-то вроде искусственного С. Хокинга. А потом у одной из ГЭС прорвёт плотину и...

Концовка фильма "Превосходство" значительно более жизнеутверждающе.

[LV46]

Я не путаю, это Вы путаете. ИИ и электроника - не тождественные понятия. Электроника - это материальная основа для реализации ИИ, а сам ИИ - её функция. Слабый ИИ давно уже реализован военными /всякие системы поиска, наведения и селекции целей и т.п./.

А у нас речь идёт о сильном ИИ. Поэтому не надо путать одно с другим.

Такой ИИ давно уже существует:

Такого (сильного) ИИ еще не существует.
----------------------------------------------------------------------
А еще не надо забывать, что сильный ИИ тем и отличается от всего остального, а именно, способностью быстро саморазвиваться, а скорость развития будет идти в геометрической прогрессии (потому что знания никуда не деваются, а только накапливаются, при этом находясь всегда "под рукой"). Я имею ввиду, что большинство современных проблем будут решены довольно быстро, например, управляемый термояд. И прочие технические прорывы, и может даже фундаментальные физические какие-нибудь. Что позволит еще эффективней использовать наличные ресурсы, добывать новые (может даже в космосе) и так далее.

[Olweg]

Единственный известный процесс в природе, который продолжается, пока не уходит в бесконечность - это возрастание плотности материи при коллапсе чёрной дыры. Может ли развитие интеллекта тоже уйти в такую «сингулярность» (откуда и термин «технологическая сингулярность»)? Сомнительно, конечно. Значит, рано или поздно должна наступить точка перегиба.

[Seven7]

Поначалу конечно можно предположить, что ИИ будет во всю использовать существующую сеть трансконтинентальных оптиковолоконных кабелей. Но так как большую часть этой инфраструктуры явно избыточна, то скорее всего ИИ создаст под себя свою собственную столицу (местоположение главного управляющего супермозга) где-нибудь в центре геологически стабильной тектонической плиты. Вокруг настроит равннинных ГЭС (минимум потери энергии на передачу) из крупных рек.

Получается что-то вроде искусственного С. Хокинга. А потом у одной из ГЭС прорвёт плотину и...

Естественно суперкомпьютер будет расположен под возвышенностью в скальных породах, чтобы избежать затопления.

Вообще факт того, что самая глубокая скважина была просверлена примерно в этом же районе говорит о том, что граница между Скандинавией и Россией лучшее место для расположения супермозга ИИ. Тем более что тот советский рекорд так до сих пор и не преодолен.

Вариант пустынь намного хуже по многим причинам:

1) Поблизости нет крупных рек, нет дешевой постоянной энергии. СЭС не вариант.

2) Для охлаждения суперкомпьютера лучше всего подходит именно вода.

[Seven7]

Крайне сомнительный довод. Чтобы содержать нынешнюю армаду из миллиардов телефонов и компьютеров требуется добывать намного меньше миллиона тонн редкоземельных элементов (фактически один карьер в Китае производит половину от этого количества). К группе редкоземельных элементов относится сразу 17 химических элементов таблицы Менделееева...
...Для запитки супермозга с добывающей горнодобывающей промышленностью ИИ спокойно хватит существующих ГЭС.

Неплохо бы подкрепить чем-нибудь столь смелые утверждения. А то есть мнение, что на самом деле всё обстоит как раз наоборот. Ещё рекомендую почитать тему "Нет ископаемых..." Просто чтобы осознать масштаб надвигающейся проблемы.

Грубо говоря соотношение потребляемых ресурсов человеческой и машинной цивилизации можно оценить с помощью современной космонавтики.

Просто взять и сравнить количество пилотируемых и непилотируемых запусков в космос.

Где-то всего в космос запустили около 5 тысяч ракет. Из них от силы 200 с людьми. В лучшем случае может 300 (если считать всевозможные запуски отдельных модулей станций и грузовиков с едой и кислородом для космонавтов).

Отсюда значит роботы в космосе сейчас используются активнее людей где-то раз в 25. Очевидно примерно в столько же раз выгоднее использовать робота по используемым ресурсам, по сравнению с человеком.

На Земле это соотношение скорее всего примерно тоже самое. Просто человеческое общество во многом консервативно, и не будет просто так "помогать" роботам в своем вымирание. Можно вспомнить хотя бы луддитов в Англии, которые активно уничтожали машины, чтобы не остаться без работы.

[pkl]

Да так. По ассоциации. Сейчас считается великим полководцем, а по сути - такой же психопат.

Первое второму не противоречит. Но мы говорили о возможности захвата мира психопатом.

Если судить по информации в инете, то две страны - Китай и США.

Тем более. Что опять же является дополнительным аргументом в пользу сложности развития технологий суперкомпьютеров и ИИ. Сейчас вообще непонятно, будет ли эта задача хоть когда-нибудь. Или получится как с авиацией, когда скорости росли, пока не упёрлись в 3,2 Маха.

Концовка фильма "Превосходство" значительно более жизнеутверждающе.

Ну вот, значит, верно утверждение про людей с ментальностью школьника, пересмотревших фантастику.

[pkl]

Грубо говоря соотношение потребляемых ресурсов человеческой и машинной цивилизации можно оценить с помощью современной космонавтики.

А почему именно такой критерий использован, как космонавтика? Человеческое общество может выжить и в предельно бедной среде на технологиях палеолита. Машины - нет.

[pkl]

Естественно суперкомпьютер будет расположен под возвышенностью в скальных породах, чтобы избежать затопления.

Вообще факт того, что самая глубокая скважина была просверлена примерно в этом же районе говорит о том, что граница между Скандинавией и Россией лучшее место для расположения супермозга ИИ.

В общем, NORAD получается. Кто это будет делать, кому это надо? Тепло как отводить?

[Seven7]

Грубо говоря соотношение потребляемых ресурсов человеческой и машинной цивилизации можно оценить с помощью современной космонавтики.

А почему именно такой критерий использован, как космонавтика?

Эта область самая технологичная и сложная. В связи с этим людей там заменили в первую очередь (примерно как в области обслуживания активной зоны ядерных реакторов). В областях, где технологии попроще, людей заменять роботам особо не позволяют, чтобы не породить социальный взрыв.

Причем отношение 1 к 25 в космонавтике ещё и консервативная оценка. Если брать показатель максимальной дальности работы от Земли, то превосходство машин вырастает до 200 тысяч раз. Если людям таки удастся слетать до Марса, то может быть этот показатель удастся снизить "всего-то" до 150 раз.

Человеческое общество может выжить и в предельно бедной среде на технологиях палеолита. Машины - нет.

Так это вариант и невозможен. Что должно произойти, чтобы отправиться в палеолит? Ядерная война или извержение супервулкана?

В общем, NORAD получается. Кто это будет делать, кому это надо?

Это будет делать уже ИИ. А сам ИИ скорее всего создадут либо в Китае, либо в недрах Министерства энергетики США. В рамках какого-нибудь крупного проекта по моделированию.
Выделят деньги на проект по прогнозированию погоды не на неделю вперед, а на месяц или год. Или с целью проверки последствий создания климатического оружия (технологии управления погодой). А может даже замахнуться на прогнозирование солнечной активности. Ведь супервспышки на Солнце сейчас называют одним из опаснейших вариантов для земной цивилизации наряду с ядерной войной, супервулканами, глобальным потеплением и падениями астероидов и комет. Одна мощная супервспышка на Солнце может пожечь львиную долю современной электроники и энергосетей, вызвать глобальный сбой в навигационных системах.

В итоге загонят в какой-нибудь уникальный по размерам суперкомпьютер все фундаментальные законы физики, с фундаментальными константами. И приступят к моделированию. Постепенно машина научиться прогнозировать погоду и вспышки на Солнце на год вперед с точностью там в 99.9%.

Тут то и произойдет осознание машины, что она Личность. Прямо как в "Терминаторе-2" - "Когда Скайнет осознал себя как Личность, он распространился по миллионам компьютеров."

Естественно, что катастрофический сценарий в фильме преувеличен. В реальности просто роли поменяются. Если до этого машины работали на людей, то после этого момента люди и машины начнут работать на ИИ.

Ничего фантастического в этом сценарии нет. Природе понадобилось для создания разума несколько миллиардов лет, человек может создать ИИ всего за 100-200 лет развития электроники.

[Seven7]

То что ИИ будет создан в рамках программы по уточнению прогнозов погоды говорит ещё тот факт, что в настоящее время всё большая доля земной энергетики зависит от погоды. В мире устанавливается всё больше ветряков и солнечных электростанций. В этой области крутятся триллионы долларов. Если научиться прогнозировать погоду на год вперед, то будет очень большая экономия по деньгам.

Кроме того погода на Земле сильно зависит от активности Солнца, и скорее всего для точнейшего предсказания погоды придется проводить точное прогнозирование солнечной активности аналогично на месяцы вперед.

И собственно не случайно, что самый мощный суперкомпьютер сейчас создан в Министерстве энергетики.

В июне 2018 года был запущен суперкомпьютер Summit, который разработчики называют самым быстрым в мире. Вычислительный комплекс совместными усилиями создали компания IBM и Лаборатория Оук-Ридж (Oak Ridge National Laboratory, ORNL), входящая в министерство энергетики США.

[РВС]

space7, возможно, я Вас ужасно расстрою, но точное долговременное прогнозирование погоды невозможно. Совершенно независимо от имеющихся вычислительных мощностей. Как и множество других вещей в этом мире.

[Seven7]

space7, возможно, я Вас ужасно расстрою, но точное долговременное прогнозирование погоды невозможно. Совершенно независимо от имеющихся вычислительных мощностей. Как и множество других вещей в этом мире.

Как раз точность долгосрочного прогноза очень сильно зависит от вычислительной мощности. Дело в том, что для долговременного прогноза требует собирать больше данных по атмосфере. Это легко достигается с помощью увеличения разрешения инструментов метеорологических спутников.

Собираем больше данных -> увеличиваем точность прогнозов. Но чтобы обрабатывать больше данных и требуется суперкомпьютер.