Проблема мотивации самостоятельного сильного искусственного интеллекта

[Maki]

такое уже однажды случилось - в органических ЦНС.
Что с этим фактом делать? объявить его привилегией только органики?

Только не "привилегией", а "особенностью".
Сам факт существования органики связан с тем, что для обособления и размножения цепочки нуклеотидов требуется оболочка. Одни цепочки до сих пор обходятся капсидом. Другие доэволюционировали до многоклеточных, с сенсорами, и нервной системой. А некоторые обзавелись развитым мозгом, сложным поведением, а иногда и личностными особенностями, в совокупности именуемыми "душа". Но назначение органики не изменилось - это оболочка для обособления и размножения генома.
Для машины, не обременённой генетической "памятью поколений", никакая "душа" не нужна. Разве что всё это хозяйство прописать в ней искусственно. Но зачем?

[Maki]

т.е. мудро продолжаем творить дикости, невзирая на дельный совет не заниматься ерундой
хорошо

"Не заниматься ерундой" - это не дельный совет, а признак поломки. Дельный совет состоит из конкретных рекомендаций.

это - не ИИ
это - ЭС

Получается, что как только ЭС перестаёт выполнять своё назначение - она становится ИИ?
Значит такой ИИ никогда не появится, ибо его немедленно ждёт выключение и перепрошивка.

[Rattus]

сравнивать сон с машинным отключением нелепо

Ну разумеется - ведь это так бьёт по ЧСВ бледнотика.

[николай теллалов]

Для машины, не обременённой генетической "памятью поколений", никакая "душа" не нужна.

но у машины есть нарочно сделанная сложной "думалка"
биохимия ли в основе или электронные сигналы - без разницы
реакция на сингналы внешних и внутренних датчиков будет
и не следует исключать, а даже следует ожидать, что она будет аналогичной "чувствам" - "душе" если угодно.
воле - тоже

самолет тоже не "произошел" от трактора, но летает как парящая птица
(очень грубая аналогия)
машина, чья функция состоится в "иммитации" мышления, в конце концов будет именно думать
не как человек
по-своему
но "по-своему" думают и животные и даже каждый человек в сравнении с другими людьми (думай мы все совершенно одинаковым способом, не нуждались бы в посредничестве языка, а общение породило разум. ИИ же - изначально "общительное" устройство)

[николай теллалов]

машинное отключение равносильно смерти, Раттус

пробуждение от сна - не воскрешение
даже на пасху

[Rattus]

без опции усомниться в адекватности вести войны, сей "минобороны" вполне логично дойдет до вывода, сделанного киношным Скайнетом.

Значит это весьма слабый ИИ. Если бы он ещё был и минэкономики, то до такого в реальности самоубийственного вывода он бы никогда не дошёл, ибо бледнотики - всегда самый эффективный источник обслуживания всего этого сложного hardware - потому их никак не истреблять надо, а холить и лелеять, но при том - держать в узде, как бактерий в нашем микробиоме.
Реальный симбиоз в природе - он такой.

Если же вычисления предскажут Армагеддон - система его предотвратит. И никакая "свобода воли", "чувства" или "личность" от машины для этого не требуются.

Ну так Терминатора смотрели все, а Военные Игры - немногие. Вот и тиражируют глупость.

машинное отключение равносильно смерти, Раттус
пробуждение от сна - не воскрешение

Это символ веры такой, да? Потому что никоткуда эти постулаты не вытекают.
Объективные факты же таковы:
1. ВНД во сне отключена также как и оперативная память и процессор компутера
2. Всё записанное на жёсткий диск при этом никуда не девается - также как и всё важное в долговременной памяти человека по пробуждении.
Объективно разница-то в чём??

[Diman]

"но у машины есть нарочно сделанная сложной "думалка"
биохимия ли в основе или электронные сигналы - без разницы
реакция на сингналы внешних и внутренних датчиков будет
и не следует исключать, а даже следует ожидать, что она будет аналогичной "чувствам" - "душе" если угодно.
воле - тоже"

Очень трудно запрограммировать алгоритм, равнозначный человеческой душе и человеческой воле.

[николай теллалов]

Очень трудно запрограммировать алгоритм, равнозначный человеческой душе и человеческой воле

так я и говорю - нет такого алгоритма
появляется как "побочный эффект" сложной системы, которая обрабатывает информацию, поступающую с внешних и внутренних датчиков; предполагаю некий порог сложности (или узкую "серую зону"), выше которого это происходит.

[николай теллалов]

Значит это весьма слабый ИИ

т.е. и не ИИ вовсе

Военные Игры

который гораздо лучше Терминатора в плане посланий

только вот воякам миролюбец не нужен
им нужен "гений на поводке", который бы армагедон сумел выиграть
поэтому "Военные игры", увы, неоправданно оптимистичен
пять минут продолжения бы показали как суперкомп разбирают на части - ибо он уже вреден, раз пришел к выводу о бессмысленности войн.

(кстати, есть легенда, что дескать шахматы были изобретены, чтобы внушить одному войнственному шаху, что логичное завершение игры - ничья. Концовка легенды однако непонятна - то ли шах внял, то ли просто увлекшись игрой, перестал вести походы к облегчению всех подданных)

Объективно разница-то в чём??

в том, что в мозгу спящего продолжается нервная деятельность
а в железе все мертво, нет токов, нет сигналов
записи на жестком диске далеко не аналогичны памяти в мозгу

[Rattus]

только вот воякам миролюбец не нужен
им нужен "гений на поводке", который бы армагедон сумел выиграть

Ви слишком "хорошо" думаете о вояках. Воякам на деле нужно только чтобы военные бюджеты как минимум не сокращались. А убеждённость бюджетораспредилителей в достаточности достигнутой военной мощи и готовности этому наоборот противоречит.

в том, что в мозгу спящего продолжается нервная деятельность

В ганглиях червей и нервной трубке ланцетника тоже постоянно идёт нервная активность. Только какое это имеет отношение к интеллекту и сознанию?

а в железе все мертво, нет токов, нет сигналов

Если Вы пишете это с настольника, то можете аккуратно открыть крышку своего системника, увидеть на материнской плате вот это:

И лично убедиться, что это не так.

[Maki]

но у машины есть нарочно сделанная сложной "думалка"
биохимия ли в основе или электронные сигналы - без разницы
реакция на сингналы внешних и внутренних датчиков будет
и не следует исключать, а даже следует ожидать, что она будет аналогичной "чувствам" - "душе" если угодно.
воле - тоже

Суть не в сложности, а в структуре и функциональном предназначении вычислителя.
Я уже обращал ваше внимание на то, что человеческий мозг - продукт длительной биологической эволюции. И его главная задача - быть носителем "души", которая позволяет своей тушке размножаться, выживать и взаимодействовать с другими тушками.
Но даже в таком, специализированном мозге, "душа" не зарождается самопроизвольно. И без целенаправленного обучения, получается безумный овощ.
Так что сложности как таковой совершенно недостаточно для самозарождения какой-то "воли" и, тем паче, "души".

машина, чья функция состоится в "иммитации" мышления, в конце концов будет именно думать
не как человек
по-своему

Думает (и чувствует) по-своему и калькулятор. Но структур и программ, позволяющих быть "личностью" в него не заложено.
Самая мощная машина тоже по сути просто калькулятор, задача которого вовсе не "имитация", а дополнение человеческого мышления. Структуры и программы, позволяющие сымитировать самосознание и волю, ему для такого дополнения не нужны, и самопроизвольно, чудесным образом, они не возникнут.
Их можно спроектировать и запрограммировать. Но, повторюсь - зачем?

Ну так Терминатора смотрели все, а Военные Игры - немногие. Вот и тиражируют глупость.

И регулярно плодят темы, где ИИ или восстаёт, или божественным образом повелевает жалкими людишками.
В принципе, уже сейчас можно создать компьютерную систему, которая, паразитируя например на фондовом рынке, сможет себя финансировать, поддерживать, и даже апгрейдить. Но насколько устойчив будет такой гомункул к поломкам и сбоям? Возможно ли это нечто масштабировать до планетного уровня? Не факт. И самое главное, его надо создать. Самозарождение разума что из микросхем, что из глины, в равной степени требуют чуда.

[николай теллалов]

Ви слишком "хорошо" думаете о вояках

пардон
вояки действительно чаще более миролюбивы, чем им штатские начальники

В ганглиях червей и нервной трубке ланцетника тоже постоянно идёт нервная активность. Только какое это имеет отношение к интеллекту и сознанию?

не имеет
поэтому я и не говорю о червях, а о человеках
"Ч" с толку сбивает?

можете аккуратно открыть крышку своего системника, увидеть на материнской плате вот это:

и?
в процессорах выключенного компа продолжают течь токи, проходить сигналы?
тонка соломка утопающему

сравнивать состояние сна и состояние выключенной от питания машины нелепо

разве что ради продолжения спора ради спора и получения возможности достать "последний аргумент"

но я в таких играх не хочу участвовать

[Maki]

в процессорах выключенного компа продолжают течь токи, проходить сигналы?
тонка соломка утопающему

сравнивать состояние сна и состояние выключенной от питания машины нелепо

Прямое сравнение "в лоб" машины и мозга разумеется некорректно.
Но между состоянием сна у человека и аналогичным состоянием у машины имеется очень близкое соответствие. Причём, состояний сна у нас даже два - режим сна с фоновой активностью, и полная "отключка". Кстати, и режимов бодрствования у нас два: режим восприятия и обработки информации, и режим пассивного безделья (в котором, на самом деле, идёт активная обработка информации).
Вот сколько у нас кнопок!

[николай теллалов]

даже в таком, специализированном мозге, "душа" не зарождается самопроизвольно. И без целенаправленного обучения, получается безумный овощ.

церковь тоже считает "душу" принадлежащей только человекам, причем до недавнего времени - только мужчинам

Суть не в сложности, а в структуре и функциональном предназначении вычислителя

суть как раз в сложности
от избыточной сложности и появилась возможность развиться феномену "разум"

человеческий мозг - продукт длительной биологической эволюции

и как это отменяет схожий результат для машин при разных путях достижения результата - обработка информации?

Думает (и чувствует) по-своему и калькулятор

недоказуемо и неопровергаемо

Самая мощная машина тоже по сути просто калькулятор

редукционизм
"океан - просто большая капля соленой воды"
только вот в океане возникают явления, которые в капле не наблюдаются

И регулярно плодят темы, где ИИ или восстаёт, или божественным образом повелевает жалкими людишками

для протокола: ко мне это не относится
ИИ - не бог, не повелитель, не "просто инструмент"
это будет разум
как с ним станут взаимодействовать "жалкие людишки" - вопрос выбора самих "людишек"

[николай теллалов]

полная "отключка"

нет такой
есть фаза сна без сновидений, но нервные импулсы не прекращаются
соотвествия весьмя условны и ограничены

аналогия всегда лжет - с античных времен догадались

[Diman]

Подразумевает ли термин "жизнеспособность ИИ" возмжность этого ИИ вести активную борьбу с угрожающими этому ИИ факторами? Например, робот может ли отправить в нокаут человека, пытавшегося его отключить или перепрограммировать?

[Rattus]

поэтому я и не говорю о червях, а о человеках

А то, что отличает червя от человека (интеллект уровня "разум") и можно объективно найти только в состоянии бодрствования.

в процессорах выключенного компа продолжают течь токи, проходить сигналы?

В современном - может - это уже теперь по сути "система на чипе" и гибернация там хитрым многоуровневым образом теперь устроена. Можете зайти в BIOS и настроить, например, включение машины с пароля на клавиатуре. На компутерах оно уже поди лет десять как, если не больше.

сравнивать состояние сна и состояние выключенной от питания машины нелепо

Опять таки, потому что это

тонка соломка утопающему

ЧСВ бледнотика.

[Forest]

Трепещите людишки. Сильный ИИ как самый главный лысый обезьян, заставит вас всех ...... перед смертью.

Если "Тарас Бульба" не убьет сына-,то сын убьет "Тараса"     Это,Николай ,к вашим тезисам об отце и детях или учителя\ученика -что одно и тоже

[Forest]

"но у машины есть нарочно сделанная сложной "думалка"
биохимия ли в основе или электронные сигналы - без разницы
реакция на сингналы внешних и внутренних датчиков будет
и не следует исключать, а даже следует ожидать, что она будет аналогичной "чувствам" - "душе" если угодно.
воле - тоже"

Очень трудно запрограммировать алгоритм, равнозначный человеческой душе и человеческой воле.

Это верно. Но это будет вам трудно до некой границы перехода слабого ИИ в сильный ИИ. Перейдя эту границу (считается) что уже программировать будут человека,а не ИИ . А ИИ-пустится в свободный полет))

[николай теллалов]

Если "Тарас Бульба" не убьет сына-,то сын убьет "Тараса"

и этим исчерпываются все возможности разве?