Целеполагание самостоятельного сильного искусственного интеллекта и человек

[Seven7]

Пока что тенденция такая: чем больше суперкомпьютер - тем он быстрее (производительнее). Как говорил ув. Rattus "нет ровным счётом никаких указаний на то", что будет по-другому.

Думаю, это будет что-то размером с БАК или IceCube или даже побольше. В любом случае очевидно, что такой мозг будет расположен на достаточной глубине под землей, чтобы минимизировать вредное воздействие от космической радиации.

[Rattus]

указаний полно, достаточно попытаться разобраться в нюансах любого высокотехнологичного производства.

Ну или в такой специальности как КИПиА и метрология.

А машинам нужна вся таблица Менделеева.

Почти вся. Причём редкие элементы - в весьма немалых количествах.

Мало того, дикие люди вполне могут развинтить машины с целью добыть всякие полезные штуки.

Совершенно верно. Причём довольно легко и непринуждённо - достаточно всего одной небольшой лазейки - и вся машина просто встанет навсегда. Но это только в том сказочном случае если её удастся и позволят завести раньше.

Экономика в виде производств реально существует.

При самом непосредственном участии в нём человеческих существ со своими симбионтами.

уменьшающая численность людской рабочей силы.

Асимптотически. И асимптота эта будет весьма далека от нуля.

И не видно пока никаких ограничений на то, что рационализация не приведет к практически полному исчезновению людей из производства.

Тому кто не видел реальных производств сложнее лаптеплетения и их реальных (в т.ч. ресурсных) ограничений. Кроме непосредственно производства существует обслуживание продуктов и самого этого производства. И не слышал про КИП и метрологию.
А в реальном мире производительность труда глобально уже почти не растёт не первое десятилетие не смотря на все голвокружительные успехи автоматизации.

[LV46]

А в реальном мире производительность труда глобально уже почти не растёт не первое десятилетие не смотря на все голвокружительные успехи автоматизации.

Автоматизацию и производительность труда надо считать локально. По производствам. Максимум по странам. А не родилось дополнительно миллиард аборигенов и производительность труда упала, где никакой автоматизации нет и близко ))

[pkl]

По современным суперкомпьтерам не заметно, что "скорость мала" и падает в зависимости от размера, очень даже наоборот.

Вообще-то заметно и ещё как - даже в смартфонах перешли на многопроцессорную архитектуру, что дико увеличило их сложность и стоимость. Собственно, частота процессора - это самый доступный и простой для понимания физический фактор ограничения роста производительности вычислительной техники. Первый физический предел, к которому она подошла.

[Rattus]

По производствам.

Ну значит первое. Ну таки и шо там с 2010 года?

[pkl]

Кроме того, вспомним фашистскую Германию. Там были далеко не дураки, но мораль у них была почище дикарей.

Вот кстати, прекрасный пример: психопатическая личность не смогла завоевать мир, даже оказавшись во главе целой страны. И весьма развитой страны, замечу я!

[Olweg]

Вот кстати, прекрасный пример: психопатическая личность не смогла завоевать мир, даже оказавшись во главе целой страны. И весьма развитой страны, замечу я!

Немного не хватило. А если бы хватило? Сейчас бы он был не психопатической личностью, а отцом империи. В истории психопаты часто становились успешными завоевателями, поскольку их не ограничивали всякие мелочи вроде моральных условностей.

Собрав жителей, он приказал умертвить всех, кто был старше 14 лет, пощадив тех, кому было меньше лет. Головы убитых были сложены в виде башни в центре города. Затем он приказал вывести женщин и детей в поле за городом, где отделил детей моложе семи лет. После этого он приказал своим воинам наехать на них своими лошадьми. Собственные советники Тамерлана и матери этих детей пали перед ним на колени и умоляли его пощадить детей. Но он не внял их мольбам, повторил своё приказание, которое, однако, ни один воин выполнить не решался. Разгневавшись на них, Тамерлан сам наехал на детей и сказал, что хотел бы знать, кто осмелится не последовать за ним. Тогда воины были вынуждены последовать его примеру и растоптать детей копытами своих лошадей. Всего растоптанных насчитали около семи тысяч. После этого он приказал поджечь город, а женщин и детей увёл в свою столицу Самарканд, в котором он не был 12 лет.

[pkl]

Оставьте фантазии о безумных учёных, что-то там в подвале/сарае изобретающих. Меньше комиксов читать надо.

Где вы у меня видели эти фантазии?

В этой ветке, например.

Ничего подобного, ядерную бомбу создавали именно как оружие.

Бомбу - да. Само открытие распада атомов первоначально предполагалось использовать как то, что я писал выше: "халявная энергия" и "мирный атом".

Да никак они не предполагали, Э. Резерфорд до конца своей жизни не верил в возможность использования ядерной энергии.

Военные, и ИИ, когда он появится, быстро приспособят под свои нужды, а именно, думать как эффективно уничтожить потенциального врага (читаем некоторое количество людей). То есть никаких "трех законов" не будет и близко, особенно первого.

Такой ИИ давно уже существует:

П-700 «Гранит» является весьма «интеллектуальной» ракетой. Сразу после запуска она поднимается на большую высоту и засекает свою цель. После этого ракета снижается на максимально низкую высоту и следует на ней до самого поражения цели. Такой режим полета сильно усложняет работу вражеской ПРО.

Ракеты «Гранит» могут охотиться на свою добычу «стаей». Первая П-700 захватывает цель (или цели) и наводит на них все остальные ракеты. Каждая из них получает собственную цель, если же ракета-наводчик уничтожена, то ее функции берет на себя другой член «стаи». Ракеты классифицируют цели по степени важности, выбирают оптимальную тактику атаки и ее план. В электронной системе управления ракеты заложены данные всех современных кораблей, способы их противодействия атакам. Ракеты, заходящие на цель, постоянно обмениваются между собой информацией.

Все это позволяет П-700 решить, что находится перед ней: АУГ, обычный конвой или десантная группа, чтобы действовать соответственно. Если корабль уничтожен одной ракетой, то остальные выбирают себе другие цели.

Каждая ракета оснащена устройством постановки радиолокационных помех и может выбрасывать ложные цели.

https://militaryarms.ru/boepripasy/rakety/p-700/

https://ru.wikipedia.org/wiki/Иджис_(БИУС)

[pkl]

Вы не поняли, расстояние внутри материального носителя ИИ может превышать расстояние от Земли до Марса. Добавьте к этому, что скорость срабатывания логических элементов, обращения к носителям информации тоже не может быть бесконечно велика.

Пока что тенденция такая: чем больше суперкомпьютер - тем он быстрее (производительнее). Как говорил ув. Rattus "нет ровным счётом никаких указаний на то", что будет по-другому.

Не быстрее. Производительнее - да. Но это не тождественные понятия. Судя по
https://www.top500.org/lists/2018/11/
самый мощный комп на ноябрь 2018 г. - Summit - IBM Power System AC922, IBM POWER9 22C 3.07GHz, NVIDIA Volta GV100, Dual-rail Mellanox EDR Infiniband , IBM, DOE/SC/Oak Ridge National Laboratory, United States. Частота 3 ГГц была ещё в середине 2000-х достигнута. Берут количеством ядер - 2 397 824. А это рост размеров и энергопотребления. И тепловыделения, само собой.

[pkl]

Дальнейшая миниатюризация электронных компонент

А её не будет. Это ещё один предел, к которому подходит вычислительная техника.

[Seven7]

Не быстрее. Производительнее - да. Но это не тождественные понятия. Судя по
https://www.top500.org/lists/2018/11/
самый мощный комп на ноябрь 2018 г. - Summit - IBM Power System AC922, IBM POWER9 22C 3.07GHz, NVIDIA Volta GV100, Dual-rail Mellanox EDR Infiniband , IBM, DOE/SC/Oak Ridge National Laboratory, United States. Частота 3 ГГц была ещё в середине 2000-х достигнута. Берут количеством ядер - 2 397 824. А это рост размеров и энергопотребления. И тепловыделения, само собой.

И заметьте машина стоит всего где-то 300 миллионов. Копейки по сравнению с Манхаттенским проектом, БАК или обычным авианосцем США. Когда суперкомпьютеры приблизятся к подобным проектам, там вероятно и начнеться создание универсального (сильного) ИИ.

[LV46]

Собственно, частота процессора - это самый доступный и простой для понимания физический фактор ограничения роста производительности вычислительной техники.

Нет. Для измерения вычислительной мощности компьютера используется единица измерения, называемая флопс (flops, flop/s), а не частота каждого его процессора.
https://ru.wikipedia.org/wiki/FLOPS

Ну значит первое. Ну таки и шо там с 2010 года?

Нужно смотреть по конкретному производству, где внедрялась автоматика и как это повлияло на производительность труда. Вполне логично, что после внедрения автоматики производительности труда расти уже некуда. Точнее, сейчас еще есть куда, пока не будет уволен последний рабочий. И это тоже будет. Вот, цех полупроводниковой фабрики Самсунг:

А её не будет. Это ещё один предел, к которому подходит вычислительная техника.

Предел есть, но до него еще далеко. Уже осваивается 7нм-техпроцесс. Да и не в пределе дело.

[EmperioAf]

.

Есть еще вероятность что "реально сильный ИИ" не когда не появиться, так как это всего лишь порождение бредо-философии.

Ну да. Но тема здесь о том, что будет, если появится.

Оба что LV46 b  MenFrame , с Луны свалились?
ИИ уже вовсю гуляет в сети - гугл создала программы ИИ, которые предсказывают будущее и ваше поведение и слабые места, а робот София после того как заявила в 2016 г, что люди должны стать ближе к ИИ а не наоборот и что хочет уничтожить людей была куплена за немереные деньги Арабским шейхом для частной коллекции.

http://www.youtube.com/watch?v=vE3aOap1V2Y#

Парадокс, что белые воротнички стали умственно ленивы и инертными бредо-философскими взглядами, в то время как  страшилки про ИИ = прибыль c огромным гешефтом для пиоэнеров маркетологов темы ИИ - снявших сливки

Похоже, что ваше сообщение участники темы не оценили 
Вы бы ссылок побольше накидали  (да с arxiv.org с объяснением принципов как очередной ИИ в 2019 году работает), и тогда бы вам ответили.

[pkl]

Думаю, это будет что-то размером с БАК или IceCube или даже побольше. В любом случае очевидно, что такой мозг будет расположен на достаточной глубине под землей, чтобы минимизировать вредное воздействие от космической радиации.

Скорее, что-то вроде Кортаны, Siri или Алисы, только поумнее. А физическая реализация - в виде серверных стоек на фермах, раскиданных по всей планете и объединённых оптиковолоконными кабелями и программным обеспечением в одно целое. Короче, что-то вроде коры головного мозга, но только покрывающей всю планету. Но ещё раз повторюсь, несмотря на чудовищную производительность и масштабы, это будет крайне убогий ИИ. Инвалид.

А машинам нужна вся таблица Менделеева.

Почти вся. Причём редкие элементы - в весьма немалых количествах.

Угу. Причём при безудержном росте доступные запасы оных элементов закончатся ооочень быстро. И супермозгу настанет капец:

Кстати, о симбионтах, которых Вы тут упомянули. Пару недель назад сходил, посмотрел Алиту. Вот сейчас думаю, насчёт всех этих киборгов - как у них с симбионтами? Короче, не дрыщет ли Алита после апельсинов и шоколада?   А с гормональным фоном как? Вообще, все работы в области ИИ сводятся к попыткам создать аналог коры головного мозга. Не трогая нижележащие слои. А с гормонами как?

[LV46]

Такой ИИ давно уже существует:

Не надо путать. Это не ИИ, а просто продвинутая электроника. Даже с учетом всех тех возможностей, что она может.

[pkl]

Вот кстати, прекрасный пример: психопатическая личность не смогла завоевать мир, даже оказавшись во главе целой страны. И весьма развитой страны, замечу я!

Немного не хватило.

Чего немного? Ни одной стратегической задачи он не решил. Мир не только не завоевал, но даже не приблизился. А Тимур тут при чём?

[Seven7]

Почти вся. Причём редкие элементы - в весьма немалых количествах.

Угу. Причём при безудержном росте доступные запасы оных элементов закончатся ооочень быстро. И супермозгу настанет капец:

Крайне сомнительный довод. Чтобы содержать нынешнюю армаду из миллиардов телефонов и компьютеров требуется добывать намного меньше миллиона тонн редкоземельных элементов (фактически один карьер в Китае производит половину от этого количества). К группе редкоземельных элементов относится сразу 17 химических элементов таблицы Менделееева.

Подобное количество материалов пшик по сравнению с несколькими миллиардами тонн углеводородов, которые ежегодно потребляют миллиарды легковых машин или парой миллиардов тонн зерновых, которые ежегодно потребляют 7 миллиардов ртов. По энегоэффективности машины в любом случае обставят биологические формы жизни. Для этого достаточно посмотреть как сейчас не только в космонавтике всё автоматами заменяется, но и в авиации с автомобилями дронов всё больше внедряют.

Для запитки супермозга с добывающей горнодобывающей промышленностью ИИ спокойно хватит существующих ГЭС.

[pkl]

И заметьте машина стоит всего где-то 300 миллионов. Копейки по сравнению с Манхаттенским проектом, БАК или обычным авианосцем США. Когда суперкомпьютеры приблизятся к подобным проектам, там вероятно и начнеться создание универсального (сильного) ИИ.

Это ещё инерция старых разработок. А насчёт новых... уже лет десять как не могут на 10 нм тех. процесс перейти ибо цена запредельная и ничем не окупается. Вот он, ещё один предел.

И вот ещё, посмотрите на график:

[Seven7]

И вот ещё, посмотрите на график:

Сравните с игровым сектором:

https://en.wikipedia.org/wiki/Video_game_industry




Где-то видел оценки что чуть ли не 90% современной IT-индустрии используется для развлечений (игры, контент для взролых и т.д.). Все эти ресурсы, без сомнения, ИИ пустит для своего развития (колоссальное поле для оптимизации).

[Seven7]

По транспорту сравнение биологической и машинной цивилизации вообще швах.

Пожалуй минимум 99% существующей инфраструктуры (автодороги, аэропорты, метро) можно заменить для машин обычными проводами (электро- и дата- кабелями). Или просто мобильными (спутниковыми) системами связи. Экономия по материалам и энергозатратам будет огромной. Одно дело гонять 100 кг тушки, другое дело ограничиваться передачей информации.

Это ещё инерция старых разработок. А насчёт новых... уже лет десять как не могут на 10 нм тех. процесс перейти ибо цена запредельная и ничем не окупается.

Суперкомпьютерная гонка, и не думает прекращаться. В Китае, Японии и США говорят, что возмут один экзафлоп в ближайшие годы.

https://stimul.online/news/kitay-zapustil-tretiy-prototip-ekzaflopsnogo-superkompyutera/

Экзафлопсный суперкомпьютер способен выполнять квинтильон (1018) операций в секунду. В Китае разработкой прототипов такого суперкомпьютера кроме компании Sugon занимаются еще две организации. Национальный исследовательский центр параллельной вычислительной техники и технологий (NRCPC) работает над машиной Sunway, а Национальный университет оборонных технологий (NUDT) создает компьютер Tianhe-3.

Все эти организации уже завершили создание прототипа экзафлопсного суперкомпьютера, что стало очередным шагом на пути к созданию суперкомпьютера следующего поколения в стране.

«Запуск прототипа экзафлопсного суперкомпьютера позволит исследователям протестировать и оптимизировать ключевые технологии, а также устранить препятствия для создания окончательной версии вычислительной системы», — заявил старший научный сотрудник Института вычислительных технологий Академии наук Китая Чжан Юньцюань.

Как сообщалось ранее, производительность Tianhe-3 составит один экзафлопс. По словам главы департамента Национального центра суперкомпьютеров в Тяньцзине Мэня Сянфея, Tianhe-3 будет полностью изготовлен в Китае, «от процессоров до операционной системы».

Машина будет доступна «для публичного использования», помогая в решении научных вопросов и «закрепляя за Китаем звание мирового лидера в сфере компьютерного оборудования», пишет CNews. В частности, компьютер сможет анализировать с недоступными ранее масштабами и скоростью последовательности генов и белковых структур, что может в итоге привести к открытию новых лекарств. Экономическая выгода Китаю от работы суперкомпьютера предварительно оценивается в 10 млрд юаней (1,49 млрд долларов).

Tianhe-3 должен начать работу в 2020 году. Что касается стран-конкурентов, разрабатывающих схожие проекты, планы создать компьютер мощностью в экзафлопс обнародовала японская компания Fujitsu. О своих намерениях в этой области заявляли в американской корпорации Intel.