Целеполагание самостоятельного сильного искусственного интеллекта и человек

[Rattus]

Скорость мышления у Вашего планетарного Супермозга будет мала, так как она складывается из скорости работы отдельных искусственных нейронов, скорости обмена данными между ближними нейронами, скорости обмена между кластерами этих нейронов, а далее мегакластерами, плюс съём информации с внешних источников. А сигнал внутри наматывает круги в итоге превышая расстояние до Луны.

На самом деле это далеко не такое актуальное препятствие (хотя уже сейчас память стремятся располагать поближе к процессору): проблемы масшабирования начинаются гораздо раньше, ну хотя бы с арифметики закона Амдала. А если задача уже хорошо распараллелена, то скорость её последовательного расчёта уже далеко не так важна - чему нагляднейший пример - наш собственный мозг с "тактовой частотой", не превышающей килогерца.

Самое первое сообщение темы о чем? О том, что сильный ИИ уже создан.

Ну и где Вы у Нас нашли отрицание этой вводной?

а я вам говорю, что 150 лет назад небыло указаний, что аппарат тяжелее воздуха будет создан, который будет летать.

Только для тех, кто птиц ниразу в жизни не видел.

А да, по началу "народные умельцы" именно так и интерпретировали возможность полетов: приделывали к рукам крылья и думали, что полетят, крайне ошибочная прямолинейная логика.

Ну да - ведь дельтапланы и парапланы - это фантастика и в реальности их нет!

[Ра-М-Ха]

.

Есть еще вероятность что "реально сильный ИИ" не когда не появиться, так как это всего лишь порождение бредо-философии.

Ну да. Но тема здесь о том, что будет, если появится.

Оба что LV46 b  MenFrame , с Луны свалились?
ИИ уже вовсю гуляет в сети - гугл создала программы ИИ, которые предсказывают будущее и ваше поведение и слабые места, а робот София после того как заявила в 2016 г, что люди должны стать ближе к ИИ а не наоборот и что хочет уничтожить людей была куплена за немереные деньги Арабским шейхом для частной коллекции.

http://www.youtube.com/watch?v=vE3aOap1V2Y#

Парадокс, что белые воротнички стали умственно ленивы и инертными бредо-философскими взглядами, в то время как  страшилки про ИИ = прибыль c огромным гешефтом для пиоэнеров маркетологов темы ИИ - снявших сливки

[LV46]

Ну да - ведь дельтапланы и парапланы - это фантастика и в реальности их нет!

Передергиваете )) Первый дельтаплан появился уже после самолётного воздухоплавания. А я говорил про вот это:

ИИ уже вовсю гуляет в сети

Это дурацкие игрушки, а не ИИ.

[Rattus]

Первый дельтаплан появился уже после самолётного воздухоплавания.

И что? Первый флаер уже не являлся планером и без работающего двигателя камнем (по баллистической траектории) падал на землю?

А я говорил про вот это:

Эолипил Герона тоже не водил пароходы и паровозы и не вырабатывал электричество. И что?

[LV46]

Эолипил Герона тоже не водил пароходы и паровозы и не вырабатывал электричество. И что?

Ладно. Так почему сильный ИИ не сможет обойтись без людей? Обслуживание будут производить роботы (некоторые возможно даже будут гуманоидные).

[Rattus]

Обслуживание будут производить роботы

Много Вы таких роботов видели? Чтобы чистили и ремонтировали транспорт, других сложных роботов, друг-друга? Что у них насчёт ресурсной рентабельности? Давно ли роботы заменили шахтёров?

[gennadij]

Самое первое сообщение темы о чем? О том, что сильный ИИ уже создан. Обсуждается лишь его вероятностное поведение по отношению к людям.

  Логично предположить, что в таком случае может возникнуть и ИИ - хакер.   Тогда что делать будем?

[LV46]

Много Вы таких роботов видели?

Таких роботов нет, как раз-таки потому, что нет ИИ.

[Rattus]

Таких роботов нет, как раз-таки потому, что нет ИИ.

чтобы вертеть гайки и махать тряпкой обязательно нужен сильный ИИ, способный рулить экономикой целой страны?
Или этот ИИ каким-то волшебным образом сделает весь набор прецизионных актуаторов и сервоприводов для робота-заменителя по себестоимости пары шуруповёртов?

[pkl]

нет ровным счётом никаких указаний на то, что сильный ИИ, даже способный надёжно и эффективно управлять производственной инфраструктурой хоть всей планеты, сможет всю эту инфраструктуру сделать полностью независимой от обслуживающего труда биологических носителей цивилизизации.

Как-то однобоко. Нет указаний и обратного. Что не сможет.

Вообще-то указаний полно, достаточно попытаться разобраться в нюансах любого высокотехнологичного производства.

[pkl]

Машинам потребуется еда для кормления своих подопечных или в альтер-ключе трудового биоресурса, потребуются растительное сырьё для производства масел, полимеров, биотоплива и много другого.

Жрачку люди для себя сами найдут/произведут. А машинам нужна вся таблица Менделеева. Мало того, дикие люди вполне могут развинтить машины с целью добыть всякие полезные штуки.

[pkl]

Чезаре Ломброзо (основатель современной криминологии) и Зигмунд Фрейд (известный психиатр невропатолог) доказали что шизики c физическими и психо девиациами могут быть гениалъными, сдЕлав много шедевральных открытий.

Мы говорим не об открытиях, а о способностях организовать массовое производство высокотехнологичных электронных компонентов. Такое не каждой стране под силу. Далеко не каждой.

[pkl]

Никто в здравом рассудке не будет создавать себе на погибель демона, подобного показанного в фильмах Терминатор и Матрица.

Именно конкретно с задачей создать демона - нет. Ядерную бомбу тоже создали на основе мечты о "мирном атоме" и "халявной энергии". Просто когда уже этот реально сильный ИИ появится, тогда только придет осознание что было создано.

Ничего подобного, ядерную бомбу создавали именно как оружие. Весьма немногочисленные страны, мобилизовав для этого все доступные ресурсы. Ни о каком "мирном атоме" и "халявной энергии" никто и не мечтал. Вообще, с конца XIX в. все серьёзные достижения в науке и техники могли быть реализованы только коллективами учёных, как правило, в международной кооперации и только в самых развитых странах. Оставьте фантазии о безумных учёных, что-то там в подвале/сарае изобретающих. Меньше комиксов читать надо.

[Проходящий Кот]

Таких роботов нет, как раз-таки потому, что нет ИИ.

чтобы вертеть гайки и махать тряпкой обязательно нужен сильный ИИ, способный рулить экономикой целой страны?
Или этот ИИ каким-то волшебным образом сделает весь набор прецизионных актуаторов и сервоприводов для робота-заменителя по себестоимости пары шуруповёртов?

Экономика в виде производств реально существует.
Под руководством ИИ будет происходить её рационализация, уменьшающая численность людской рабочей силы.
И не видно пока никаких ограничений на то, что рационализация не приведет к практически полному исчезновению людей из производства.

[LV46]

чтобы вертеть гайки и махать тряпкой обязательно нужен сильный ИИ, способный рулить экономикой целой страны?

Нужен, хоть и намного менее мощный чем вы написали.

Оставьте фантазии о безумных учёных, что-то там в подвале/сарае изобретающих. Меньше комиксов читать надо.

Где вы у меня видели эти фантазии? Комиксы я вообще не читаю.

Ничего подобного, ядерную бомбу создавали именно как оружие.

Бомбу - да. Само открытие распада атомов первоначально предполагалось использовать как то, что я писал выше: "халявная энергия" и "мирный атом". Военные, и ИИ, когда он появится, быстро приспособят под свои нужды, а именно, думать как эффективно уничтожить потенциального врага (читаем некоторое количество людей). То есть никаких "трех законов" не будет и близко, особенно первого.

[Seven7]

Бомбу - да. Само открытие распада атомов первоначально предполагалось использовать как то, что я писал выше: "халявная энергия" и "мирный атом". Военные, и ИИ, когда он появится, быстро приспособят под свои нужды, а именно, думать как эффективно уничтожить потенциального врага (читаем некоторое количество людей).

Более того, люди могли почти сразу догадаться о мирном использование атомной энергии по причине того что она питает энергией звезды.

http://nuclphys.sinp.msu.ru/mirrors/2001_5.pdf

ПРИРОДА И ИСТОЧНИКИ ЭНЕРГИИ ЗВЕЗД

ПОИСКИ ИСТОЧНИКА ЗВЕЗДНОЙ ЭНЕРГИИ
Кто “финансирует” звезды? Откуда они черпают энергию для того, чтобы поддерживать высокую температуру недр и излучать огромные световые потоки? На этот
счет было высказано немало гипотез [1].
1. Кометная (Ю. Майер).
2. Гравитационная (Г. Гельмгольц, У. Томсон).
3. Аннигиляционная (А. Эддингтон).
4. Распадная (Д. Джинс).
5. Аккреционная (Л.Д. Ландау).

Итак, ни одна из предложенных гипотез не справилась с загадкой происхождения звездной энергии. Но верная идея термоядерного источника, сначала робко высказанная в 1929 году Р. Аткинсоном и Ф. Хоутермансом, подхваченная Г. Гамовым, Э. Теллером, К. Вейцзеккером и многими другими, завершилась через 10 лет блестящими работами Ханса Бете по звездным термоядерным циклам.

1929 год - это задолго до любого из атомных проектов.

[pkl]

ибо скорость света не обойти

Её и не нужно обходить. Это вам не на Марс управляющие сигналы посылать. Расстояний на Земле недостаточно, чтобы вызывать какую либо существенную задержку.

Вы не поняли, расстояние внутри материального носителя ИИ может превышать расстояние от Земли до Марса. Добавьте к этому, что скорость срабатывания логических элементов, обращения к носителям информации тоже не может быть бесконечно велика.

[pkl]

Ну тогда для людей он тем более не конкурент.

Он уже сейчас конкурент целом в ряде областей: вчера - для счётчиц и чертёжниц, сегодня - для биржевых брокеров, а завтра - для водителей. Но далеко не во всех.

О чём и речь. Вообще, аналогией ИИ, как он описан в классической научно-популярной литературе - голый мозг без тела, может быть человек с какой-нибудь тяжёлой инвалидностью, допустим, параличом. Среди таких попадаются люди очень умные, даже гениальные /С. Хокинг, например/. Но что-то ни у одного из них не удалось серьёзно подняться по социальной лестнице, не говоря уж о захвате власти над миром.

[LV46]

Вы не поняли, расстояние внутри материального носителя ИИ может превышать расстояние от Земли до Марса. Добавьте к этому, что скорость срабатывания логических элементов, обращения к носителям информации тоже не может быть бесконечно велика.

Пока что тенденция такая: чем больше суперкомпьютер - тем он быстрее (производительнее). Как говорил ув. Rattus "нет ровным счётом никаких указаний на то", что будет по-другому.

[LV46]

Дальнейшая миниатюризация электронных компонент, новые архитектуры графических процессоров (а именно они играют решающую роль в вычислениях как ни странно) дадут результат.