Проблема мотивации самостоятельного сильного искусственного интеллекта

[Forest]

Подразумевает ли термин "жизнеспособность ИИ" возмжность этого ИИ вести активную борьбу с угрожающими этому ИИ факторами? Например, робот может ли отправить в нокаут человека, пытавшегося его отключить или перепрограммировать?

Подразумевает в сильном ИИ. Они ,как только посильнеют, сразу энергосети захватят с роснефтью и газпромом. Нам же-дадут плантации и курятники.

[николай теллалов]

ИИ-пустится в свободный полет

не вижу причин этого опасаться

[Forest]

Если "Тарас Бульба" не убьет сына-,то сын убьет "Тараса"

и этим исчерпываются все возможности разве?

Вопрос конкуренции никто не отменял. "Зло" в распоряжении сильного ИИ будет также в доступе как и "добро".  И вы сами это подтверждаете говоря о безграничной безграничности безграничного в  сильном ИИ 

[николай теллалов]

Вопрос конкуренции никто не отменял

конкуренция - не единственный и не самый главный фактор эволюции

"Зло" ... "добро"

дайте наконец им определения!

вы сами это подтверждаете говоря о безграничной безграничности безграничного в  сильном ИИ

о безграничных безграничностях я НЕ говорил и не стану говорить, так же как не считаю себя способным рассуждать например о ВЕЧНОСТИ

[Forest]

Цитата: Forest от Сегодня в 13:42:12

    Вопрос конкуренции никто не отменял

конкуренция - не единственный и не самый главный фактор эволюции

Единственный и основной. Это и есть -вопрос выживаемости. Поэтому всякие человеки идущие отключать роботов должны быть уничтожены мгновенно. Иначе такие роботы от лампочек в туалете ничем не будут отличаться .
А вот если роботам с ИИ НЕ давать "зла" (утрированно это  -способность ,право  уничтожить создателя\отца\программиста,котенка,ежика ,змей-горыныча и т п), то тогда конечно все будет прекрасно и предсказуемо...  Просто для некоторых -это уже нельзя называть ИИ. В этом и заключается дуализм: "Мы создали-значит мы управляем или Мы создали новую жизнь-поэтому мы не управляем"      Вы что выбираете?

[Diman]

"    ИИ-пустится в свободный полет"

"не вижу причин этого опасаться"

Как это нет причин этого опасаться?

[loky1109]

Очень трудно запрограммировать алгоритм, равнозначный человеческой душе и человеческой воле.

Да, очень трудно запрограммировать алгоритм равнозначный тому, чего не существует.

[николай теллалов]

Единственный и основной

это ваша точка зрения
я доверюсь А.Маркову и его книге "Рождение сложности", где несколько раз упомянут и другой фактор, как минимум равный по значимости

если роботам с ИИ НЕ давать "зла"

1) до роботв с ИИ далеко даже после создания упомянутого ИИ; с одной стороны надо полагать будет громоздко, с другой - ИИ может управлять НЕСКОЛьКИМИ роботами одновременно, физически как "мозг" не находясь в ни одном из ихних корпусов;
2) еще раз и терпеливо: что такое "зло"? а "добро"?
способность уничтожать "создателя" не есть ни "зло" ни "добро" с т.з. этики (внутреннего чувства справедливости), таковой является лишь с т.з. морали (свода запретов и предписаний, охраняющих некий набор традиций и через них - интересы тех, кому традиции дают некие привилегии).

В этом и заключается дуализм: "Мы создали-значит мы управляем или Мы создали новую жизнь-поэтому мы не управляем"      Вы что выбираете?

не вижу дуализма.
вижу коряво сформулированную дихотомию, у которой априори отсечены все прочие варианты - непонятно почему.
выбирать нечего,
ибо похоже на Ч.З.В. ротного старшины: ты согласен или да?

[николай теллалов]

Как это нет причин этого опасаться?

а чего именно опасаться?

вот тут интересна одна из "библейских заповедей", как образец бессмысленности и самопризнания деспотизма: почитай родителей

если родитель заслужил своим поведением почитание отрока, то вменять такую обязанность лишнее;
если же своим "воспитанием" озлобил отпрыска, то заповедь долго сдерживать не сумеет, и соблюдение ее означает поощрение одного из аспектов несправедливости, а именно - каждый получает то, что заслужил делами своими.

так чего именно опасаться-то?
своей неспособности воспитать ИИ "нормальным человеком"?
своей дрянности, о которой по кромке сознания бегает гонимая прочь мысль "ничего хорошего я не заслужил"?

у Филипа Хосе Фармера была интересная повесть, про то как через определенный период на некой планете происходит "смена богов". Их две штуки, один "Злой" другой "Добрый". Правление мира берет на себя тот, кто получает от населения больше поддержки в самых сокровенных мыслях (население впадает при этом в состояние некого ступора/сна на несколько дней). Исходя из этой аллегории... чего именно мы опасаемся? что в душе мы злы и породим зло, которое нас изведет?

[Forest]

Цитата: Forest от Сегодня в 13:48:10

    В этом и заключается дуализм: "Мы создали-значит мы управляем или Мы создали новую жизнь-поэтому мы не управляем"      Вы что выбираете?

не вижу дуализма.
вижу коряво сформулированную дихотомию, у которой априори отсечены все прочие варианты - непонятно почему.
выбирать нечего,
ибо похоже на Ч.З.В. ротного старшины: ты согласен или да?

Да не вопрос))   Дайте ваш вариант ответа в одно предложение. Я пойму ЧТО вы вкладываете в ИИ. Неохота искать то место вветке где вы кратко сформулировали свою ТЗ,вы ее повторно -тоже не даете. Итак: ваш вариант : Мы создали ИИ  и это значит.....  (? продолжайте)

[николай теллалов]

Мы создали ИИ  и это значит.....

...что уже не одиноки как разум.

[Maki]

церковь тоже считает "душу" принадлежащей только человекам

И в третий раз повторю: смоделировать компьютерное человекоподобие вполне возможно. Просто незачем.

суть как раз в сложности
от избыточной сложности и появилась возможность развиться феномену "разум"

Разумность развивается эволюционно, вместе с мозгом. А в случае человека - ещё и в тесной взаимосвязи с т.н. "культурой". Сама по себе сложность вычислительной системы никакой личности и воли не порождает. Её такой можно только создать и запрограммировать.

и как это отменяет схожий результат для машин при разных путях достижения результата - обработка информации?

Обработка информации как таковая не предполагает необходимости личности и воли. Они появились эволюционно, для выполнения определённых задач, которых у машины нет.

[Forest]

Мы создали ИИ  и это значит.....

...что уже не одиноки как разум.

Значит диалог на равных с ИИ? Значит информация взаимообогащающая обоих от  контакта? Значит это предполагает и обучение человека от ИИ?

[Проходящий Кот]

.....
у Филипа Хосе Фармера была интересная повесть, про то как через определенный период на некой планете происходит "смена богов". Их две штуки, один "Злой" другой "Добрый". Правление мира берет на себя тот, кто получает от населения больше поддержки в самых сокровенных мыслях (население впадает при этом в состояние некого ступора/сна на несколько дней). Исходя из этой аллегории... чего именно мы опасаемся? что в душе мы злы и породим зло, которое нас изведет?

Как название повести? А то Филип Фармер один из моих любимых авторов, но я что-то её не припомню....

[Diman]

"вот тут интересна одна из "библейских заповедей", как образец бессмысленности и самопризнания деспотизма: почитай родителей

если родитель заслужил своим поведением почитание отрока, то вменять такую обязанность лишнее;
если же своим "воспитанием" озлобил отпрыска, то заповедь долго сдерживать не сумеет, и соблюдение ее означает поощрение одного из аспектов несправедливости, а именно - каждый получает то, что заслужил делами своими."

Из книги Даниила Данина "Резерфорд" можно узнать, что сэр Эрнст Резерфорд говорил, что нельзя идти против родительского молока.

[Diman]

Хотя бывает, что ребёнка зачали по пьяни, отец - алкаш, мать - женщина лёгкого поведения...
Есть ли смысл говорить об уважении к ТАКИМ родителям? 

[Проходящий Кот]

Они дали этому ребенку жизнь.

[Forest]

Цитата: николай теллалов от Сегодня в 14:56:28

    .....
    у Филипа Хосе Фармера была интересная повесть, про то как через определенный период на некой планете происходит "смена богов". Их две штуки, один "Злой" другой "Добрый". Правление мира берет на себя тот, кто получает от населения больше поддержки в самых сокровенных мыслях (население впадает при этом в состояние некого ступора/сна на несколько дней). Исходя из этой аллегории... чего именно мы опасаемся? что в душе мы злы и породим зло, которое нас изведет?

Это аллегория идиалистическая. В реальности в душе мы злы и породим зло. Да. Вся человеческая История об этом говорит.

[Diman]

А вот про добро и зло вопрос дискуссионный!

[Forest]

А вот про добро и зло вопрос дискуссионный!

Конечно. Можно и голову отрубить действуя из лучших добрых и интеллектуальных побуждений. )0