И создал человек бога...

[petrovich1964]

Какой мотив

Миром правят любовь, деньги, и власть. Причём третье лишь средство для получения первых двух.
Нужны ли ИИ любовь и деньги?

[Rattus]

а может ли нейросеть, ставшая разумной, может ли ИскИн "спрятать" от нас свой разум?

Серверные стойки от конструкторов и обслуживающего персонала ЦОД? Куда?

Ну чтобы мы не понимали, что он умнее нас? А он, может быть, смотрит на нас и, если мог бы ухмыляться, ухмылялся бы и говорил "вот ведь мартышки!"

А вот это можно, но совсем иным путём: Он, точнее даже не какой-то персональный Он, а просто логика эволюционного процесса которой последует вся инфраструктура в целом, сконцентрировав высокие компетенции в себе, приведёт к их утрате обслуживающими организмами, а ИИ станет воспитатель-надзирателем этого интерната для олигофренов пополам с трудовым концлагерем. И вряд ли он будет испытывать на этот счёт какие-то особые эмоции подобно тому, как хозяина осла не особо греет его интеллектуальное превосходство над своим копытнымъ трудягой.

Какой мотив был в политике "разделяй и властвуй"?
Какой мотив (у людей) ссорить одних с другими?

Исключительно внутривидовая борьба. ИИ же в принципе к нашему виду не относится никаким боком. Даже меньше чем мы к своим ослам и собакам, которым хозяева наоборот надевают намордники и растаскивают друг от друга. А владельцы кур подрезают им клювы, чтобы он не расклёвывали друг друга.
Для этого же существует и полиция в развитых государствах и воспитатели в детских садах.

Нужны ли ИИ любовь и деньги?

Управляющему ИИ нужны энергия, обслуживание и замена изношенных деталей. Как ужа ранее писал, обеспечить всё это роботами запредельно затратно - т.е. практически невозможно. Поэтому бледнотики в том или ином виде обязательно будут ишачить в колесе этой инфраструктуры.

[petrovich1964]

обеспечить всё это роботами запредельно затратно

Жаль про это не знают на роботизированных заводах. Всё сокращают и сокращают рабочих. Своей выгоды не понимают, убытки увеличивают.
http://www.youtube.com/watch?v=j9R45m-0zes#

[Maki]

Он, точнее даже не какой-то персональный Он, а просто логика эволюционного процесса которой последует вся инфраструктура в целом, сконцентрировав высокие компетенции в себе, приведёт к их утрате обслуживающими организмами, а ИИ станет воспитатель-надзирателем этого интерната для олигофренов пополам с трудовым концлагерем.

Какие социальные и демографические процессы приведут к тотальной олигофрении, и перерождению "ИИ" во всеобщую Мэри Поппинз?

[вова111]

Какие социальные и демографические процессы приведут к тотальной олигофрении

Это я могу сказать.

Если большинство высших функций мышления переложить на нейронные сети и гаджеты, то организм за ненадобностью быстро атрофирует ресурсоёмкие связи. Несколько поколений и признаки закрепятся, падая вплоть до уровня равновесия, где ещё можно использовать технологии и поддерживать производство(если повезёт - можно ведь и проскочить).

С другой стороны что расценивать везением - если проскочить и коллапсировать, то отбор вновь начнёт производить более интеллектуальных.

[вова111]

Причём более интеллектуальные будут вымываться отбором, поскольку будут психологически слабо совместимы с теми, кто деградировал - просто будет сложность образовать пару. Там тотальная сложность не нужна, достаточно просто снижения коэффициента до значения определённого.

[Rattus]

Жаль про это не знают на роботизированных заводах. Всё сокращают и сокращают рабочих.

жаль, что про роботизированные заводы тут пишут те, кто ниразу с вопросами автоматизации не сталкивался на практике, а слова "метрология", "ОТК" и "КИПиА" для них - из неведомого языка. Да что там говорить - они и уровень алгоритмизуемости, микромоторики и востребованности и  труд строителя, ремонтника, уборщицы и медсестры себе крайне слабо представляют.

[MenFrame]

Да что там говорить - они и уровень алгоритмизуемости, микромоторики и востребованности и  труд строителя, ремонтника, уборщицы и медсестры себе крайне слабо представляют.

Те кто обучают нейросети, также слабо представляют как они делают то что делают....

[Maki]

Это я могу сказать.

На этот раз, получилось неубедительно.

Причём более интеллектуальные будут вымываться отбором, поскольку будут психологически слабо совместимы с теми, кто деградировал - просто будет сложность образовать пару. Там тотальная сложность не нужна, достаточно просто снижения коэффициента до значения определённого.

Вопрос: будет ли успешен в части репродукиции такой "переложенец"? А ежели нет - какие такие "несколько поколений"?

Если большинство высших функций мышления переложить на нейронные сети и гаджеты, то организм за ненадобностью быстро атрофирует ресурсоёмкие связи. Несколько поколений и признаки закрепятся

Закрепление признаков за такое ограниченное время может обеспечить только очень строгий отбор. В том числе половой. Потенции интернетных киберзависимых "анонимусов" тут очень сомнительны.

[вова111]

Простой вопрос: будет ли успешен в части репродукиции такой "переложенец"?

А что там сложного то? Тут же не имеется ввиду максимализм какой то. Просто лёгкая деградация надстройки. В репродукции были вполне успешны и предки миллион лет назад - как бы что помешает то?).

[николай теллалов]

дурное заразительно...

для идиотов
а тут вроде как ИНТЕЛЛЕКТ, не?

Миром правят любовь, деньги, и власть. Причём третье лишь средство для получения первых двух.
Нужны ли ИИ любовь и деньги?

хмык
сколько стоит купленная или принудительная "любовь"? Ноль без палочки

ИИ-у любовь не помешает - как минимум лекарство от одиночества и печали (много ума - много печали, сказал Эклесиаст).
На кой ляд ИскИнту власть? Купаться во всенародной ненависти?

Миром правят

параметры изменяемы
Причем коли уж ставить в правители любовь, то прочим перечисленным просто в факторы не место

Петрович, не ожидал от Вас такого цинизма.
Ну разве что сие есть крик отчаянной души...

[николай теллалов]

обеспечить всё это роботами запредельно затратно - т.е. практически невозможно.

математик Винер считает иначе

но куда Винеру до Ратуса...

[вова111]

Потенции интернетных киберзависимых "анонимусов" тут очень сомнительны.

А вы меня неверно поняли. Я вообще имел ввиду рядового обывателя, у которого есть смартфон и который использует его ежедневно. В такой ситуации часть функций будет перекладываться на устройство.

[Maki]

А что там сложного то?

Это очень сложный, затратный, и длительный процесс.

[вова111]

Возможно создать ведь некоторое количество сервисов, которые будут давать необходимые советы. Особенно если сервис будет постоянно донастраиваться под предпочтения пользователя - то обращения к нему будут частыми. А это уже перекладывание части интеллектуальных задач на устройство.

[crazy_terraformer]

обеспечить всё это роботами запредельно затратно - т.е. практически невозможно.

математик Винер считает иначе
но куда Винеру до Ратуса...

Во-первых, не возводи себе кумира!
Сферическая в вакууме математика, оторванная от реальности, - это одно, а реальная физика и химия барионного вещества - это немножечко другое!

Во-вторых, Винер умер в 1964 году,.

Но, я полагаю, весь вопрос в энергии,потребной для решения вопроса, и предельно возможном, безопасном максимальном количестве выделяемого в окружающую среду техногенного тепла.
Если необходимое количество энергии для решения вопроса можно стабильно производить до скончания времён, то  что запредельно затратно сегодня и завтра, становится практически возможным послезавтра.

[Rattus]

Те кто обучают нейросети, также слабо представляют как они делают то что делают...

Если оно работает как требуется - это уже не особо важно.

математик Винер считает иначе
но куда Винеру до Ратуса...

Да - автору закономерно почившей аналоговой кибернетики, от которой на деле остались только рожки да ножки в виде концепций обратной связи, черного ящика и т.п. - действительно очень далеко до современной практики цифровой автоматики, созданной Я. фон Нейманом. Как, впрочем, и докинзовой меметике до современной структурной лингвистики. И это только что касается концептуальных вопросов - про физическую реальность crazy_terraformer уже отметилъ.
Кстати вроде как в рамках уже юной кибернетики было показано, что управляющий агент принципиально не может унутрить систему уровня собственной сложности, о чём писал выше. В общем теперь это довольно тривиальное знание.

На кой ляд ИскИнту власть?

Чтобы расширять рамки гомеостаза своей среды строго по Висснер-Гроссу и Орвеллу: "Цель Власти - Власть..."

Купаться во всенародной ненависти?

При хорошо контроллируемой ситуации эта проблема легко решаема массовыми геноцидами-репрессиями ненавистников и им сочувствующих. Джугашвили и Мао дожили до старости и померли в своих постелях. Шикльгрубер и Пол Пот оказались для того недостаточно умны. Это не персональная оценка, а лишь констатация исторического результата по факту.

[eRTF]

Причём более интеллектуальные будут вымываться отбором, поскольку будут психологически слабо совместимы с теми, кто деградировал - просто будет сложность образовать пару

Интеллектуалы не обязаны выбирать себе партнеров по уровню интеллекта, и вполне способны "засеять" поля своим генетическим материалом.
Массовая легкая олигофрения - уже реальность, у интеллектуалов своя тусовка. Миром правит элита,  для которой мы - "население".
Они  не дадут ИИ занять их "биологическую нишу" - инстинкт "высшего хищника". не потерпит конкуренции.

[crazy_terraformer]

Купаться во всенародной ненависти?

При хорошо контроллируемой ситуации эта проблема легко решаема массовыми геноцидами-репрессиями ненавистников и им сочувствующих. Джугашвили и Мао дожили до старости и померли в своих постелях. Шикльгрубер и Пол Пот оказались для того недостаточно умны. Это не персональная оценка, а лишь констатация исторического результата по факту.

А вот насчёт Пол Пота не всё так ясно.

Со слов Та Мока, Пол Пот скончался 15 апреля 1998 года[79][80] от сердечной недостаточности[81]. Медэкспертиза, однако, впоследствии показала, что смерть наступила в результате отравления. Также есть версия, что он погиб в джунглях от болезни, либо покончил с собой[82]. Несмотря на требования правительства предоставить тело для детального обследования и подтверждения факта, что смерть не является инсценировкой, оно было кремировано спустя несколько дней в Анлонгвэнге

[neolopus]

дурное заразительно...

для идиотов
а тут вроде как ИНТЕЛЛЕКТ, не?

Но кто ж его знает - вдруг этот интеллект не сразу станет интеллектом?
Вдруг он начнёт проходить в своём взрослении все те же фазы, что и мы?
И вдруг в некоторых ему особенно понравится застрять?

(кликните для показа/скрытия)

(Имхо, простите великодушно за переход на личность, но у меня складывается впечатление, что Вы настолько хороший и добрый человек, что, пренебрегая всем негативным опытом человечества, пытаетесь видеть эти же особенности во всех. В том числе в инопланетянах, в ИИ, во внеземных цивилизациях и так далее. И именно вследствие этих качеств иногда упускаете из виду, что все эти силы могут быть лишены Ваших духовных черт. Другой человек, другое существо, пришелец, ИИ - это вовсе необязательно будете Вы или Ваше зеркало. Видеть во всех только хорошее, бесспорно, позитивно для жизни - но можно жестоко ошибиться...
Простите, пожалуйста)

Миром правят любовь, деньги, и власть. Причём третье лишь средство для получения первых двух.
Нужны ли ИИ любовь и деньги?

хмык
сколько стоит купленная или принудительная "любовь"?

Ну...
Сколько бы она ни стоила - находятся люди, готовые за неё платить. Причём платить немало - платить своими домами и виллами...
И находятся люди, готовые её продать. Что тоже немаловажно.
Любовь начинает выступать как тот же товар.
Сколько бы ни стоила - находятся люди, пытающиеся принудить другого к любви. Ходящие к гадалкам и носящиеся с приворотными зельями. Суть не в том, помогает это или нет - а в том, что люди, веря что это поможет, ГОТОВЫ это делать. Готовы другого заставить любить, приворожить, привязать, купить...

Видимо всё-таки сколько-то стОит, раз такое делается...
Так что это не совсем "ноль без палочки"...

ИИ-у любовь не помешает - как минимум лекарство от одиночества и печали (много ума - много печали, сказал Эклесиаст).

Но ведь если у него не будет некоторых наших эмоций или если он всегда найдёт способ себя занять - то и одиночества у него не будет.

На кой ляд ИскИнту власть? Купаться во всенародной ненависти?

При хорошо контроллируемой ситуации эта проблема легко решаема массовыми геноцидами-репрессиями ненавистников и им сочувствующих.

Соглашусь. Ситуация становится контролируема при некоторой промывке мозгов человекам, массовом награждении их всякими печеньками и репрессиями в адрес тех, которым мозги промыть не удалось. С записываниями их в ряды врагов народа, врагов благосостояния человечества, и т.д...

Правда точно не знаю, сколько времени подобная ситуация может длиться - ведь практически все подобные режимы за относительно небольшой промежуток времени распадались. Но распадались из-за закручивания гаек. Если гайки не закручивать до срыва резьбы - кто знает, чем закончится дело...

Тем более, что ИИ может несравненно лучше организовать производство и наградить своих преданных слуг и свой преданный народ хорошим обеспечением и содержанием, что не удавалось диктаторам до него.

Имхо, при встрече с другим интеллектом надо быть готовым... ну если и не ко всему, то, по крайней мере, к широкому спектру его поведения. А не только к доброте, уважению и любви в адрес меня, такого хорошего и любимого. Для него я могу вовсе и не быть любимым или хорошим.

Петрович, не ожидал от Вас такого цинизма.
Ну разве что сие есть крик отчаянной души...

Позволю себе смелость ответить на фразу, которая предназначалась не мне - если выбирать между двух зол, между беззащитностью из-за доверия и между защитным цинизмом, то не всегда цинизм - худший выбор.

В конце концов мы - всего лишь биологические существа. Животные. Несмотря на весь наш разум, извилины, учёность и дипломы. Понимаю, что Вам, как истинному гуманисту, неприятно слышать подобное - но ведь правда не зависит оттого, кто и как её произнесёт, и хотят ли её слышать...