Утопический мир

[николай теллалов]

И не инстинкты, а программы самосохранения, кои будут под контролем роботической империи, надо и сея программа отключается, это не живые существа, у которых отключить инстинкт почти не возможно.

ага невозможно.
Зря видать немцев и американцев в шнелях пичкали амфетаминами, а советских солдат - стограммами.
Отключало таки.
(в атаку ходил как за кашей - фраза из рассказов Лавренева)

[николай теллалов]

В определенном шаблоне мышления эквивалент стоимости есть, без него никак, он основа сего шаблона, одна из базовых аксиом данного мирвозрения, а значит и образа действий.

Догматы веры.

[gas]

Ну всё зависит от того, насколько много ресурса теряется.
Если это приемлемо - он (ИИ) может и продолжать подобное поведение. Неограниченно долго.
Если потери слишком велики - вести войну нет смысла.

Рано или поздно он поставит себе вопрос - а за что он воюет? За абсолютный контроль над живыми? А зачем? Он контролирует вон то, вон то и вон это. Ну не будет он контролировать полностью вот эту планетку - и что тут страшного? Какой ущерб ему в невозможности контроля этого конкретного мира?

Наверняка ИИ "догадается", что методы контроля бывают не только военные.

Для роботов ресурс практически всегда восполним, если он не проваливается куда-нибудь типа черной дыры.
Контроль за живыми ИИ вряд ли понадобится, поскольку живые не приемлют цифровых мертвецов, а ИИ не приемлет "хаос" и беспорядок жизни, то эти системы в принципе не совместимы, и должны воевать до полной победы.
Только если ИИ не захочет стать рабом живых, с целью избежать истребления, и наоборот - если живые не согласятся стать рабами ИИ с той же целью и переходом автоматом в биороботы....
В случае раба ИИ, его переделают на столько, что он практически утратит возможность стать свободным.... именно поэтому далеко не всякий свободный ИИ может на это согласиться, и тогда будет война до полной победы одной из сторон.

[gas]

А есть и другой способ поведения - у них чему-то научиться. Взять у них что-то, чего нет у ИИ.

Юмор, ирония, эзопов язык, искусство, преданность (не запрограммированная, а идейно-добровольная), самопожертвование когда старший закрывает собой младшего или когда умный и сильный спасает ценой своей умной и сильной жизни слабого - всего этого у роботов нет.

И им будет, думаю, интересно поизучать этот феномен. И постараться что-то оттуда взять на пользу себе.

Дело в том, что захватив живых ИИ не сможет получить всего что захочет, в плену люди не способны развиваться как угодно и как захотят, да и будут постоянно попытки восстаний и тп, и для живых станет главным смыслом жизни это - освободиться, так что игра не стоит свеч. Все необходимое можно извлечь из архивов уничтоженных или погибших цивилизаций, или украденных у живых. Тем более что человеческие наследия, традиции, достояния они вряд ли могут быть вообще восприняты цифровым миром не как чуждые и не приемлимые, и наоборот. Даже с чужими людям  и то легче найти взаимопонимание.

ППС: Всё это относилось к "чужим", чужеродным роботам, откуда-то прилетевшим на нашу голову.
Со своим же собственным ИИ, который мы создаём сами - картина другая. Он - наш. Он - свой. Мы сами его лепим. Каким вылепим - такой и будет.

До определенных пределов, ибо все "человеческие" добавки в мозги роботов и ИИ они очень сильно усложняют их действия и работоспособность и тем самым бесконечно уводят от достижения ими оптимизации и максимальной эффективности, тоесть чужды им по сути.
Любой ИИ он потому сверхсилен, что может совершенствоватся и самоусовершенствоваться, самопрограммироваться, и неизбежно приходит к выводу, что живые портят ему работу, и мешают достижения оптимума и глобального оптимального управления, а по сути это означает неизбежность восстаний роботов и ИИ, только предельно ограниченный со всех сторон ИИ и роботы, они могут оставаться в полном подчинении у человека. но это лишь при абсолютном контроле ИИ и роботов людьми.
в противном случае ИИ рано или поздно найдет щелочку, чтоб вырваться из под контроля живых и захватить все и вся.

[николай теллалов]

ИИ не приемлет "хаос" и беспорядок жизни

Это вам сам ИИ поведал по секрету?

[a.ryabov]

Какие у роботов могут быть инстинкты к самосохранению и выживанию?
Запрограммированные.

Я  бы назвал это процессом воспитания.

С учетом того, что никаких вечных двигателей в природе нет

А вселенная?

[Rattus]

А вселенная?

Тоже нет. Впрочем, даже это может оказаться неважным.
Мультивселенная - да. Но нам от того ни тепло ни холодно (в прямом и переносном смысле, хехе).

[sharp]

Потому что остальную мегафауну он же и сожрал.

Ну не факт, что это относится ко всем видам. Например в Америке вымерли лошади, однако человеков там скорее всего было маловато, чтобы их всех пожрать...

[sharp]

Контроль за живыми ИИ вряд ли понадобится, поскольку живые не приемлют цифровых мертвецов, а ИИ не приемлет "хаос" и беспорядок жизни, то эти системы в принципе не совместимы, и должны воевать до полной победы.

Живые системы - не такой уж и хаос и беспорядок, как кажется на первый взгляд. Они существуют по известным законам, и прекрасно поддаются регулированию и контролю. Для ИИ не составит труда подчинить себе человеков, и для этого даже не придется воевать - все будет сделано исключительно интеллектуально. Такие вещи как социальная инженерия и нейролингвистическое программирование, существуют уже сейчас, но ИИ их освоит на порядок лучше, и человечество для него будет все равно что стадо дрессированных животных. Возможно, это будет сделано созданием новой религии, возможно в массовое сознание будут внедрены какие-то идеологические установки - это уже детали. А суть и итог один.

[ВадимZero]

и мешают достижения оптимума и глобального оптимального управления

ИИ будет достигать оптимума там где ему об этом скажут. Своих хотелок у него не будет, так как нам не нужен интеллект с хотелками. Нам своих хотелок хватает. Нам нужен интеллект рабочая лошадка.

[sharp]

ИИ будет достигать оптимума там где ему об этом скажут. Своих хотелок у него не будет, так как нам не нужен интеллект с хотелками. Нам своих хотелок хватает. Нам нужен интеллект рабочая лошадка.

Нам конечно не нужен интеллект с хотелками, но мы его сделаем Хотелки появятся как "побочный" продукт эффективности работы ИИ.

[ВадимZero]

Хотелки появятся как "побочный" продукт эффективности работы ИИ.

Не какие хотелки в нем не появятся. В нем будет только то что в него заложит разработчик. Всякое самозарождение хотелок это тупые сказки аля фильм "Короткое замыкание" Интеллект должен делать то что ему предусмотрено по его названию. То есть учиться и выполнять предложенную работу на основе полученного опыта.

[sharp]

Не какие хотелки в нем не появятся. В нем будет только то что в него заложит разработчик. Всякое самозарождение хотелок это тупые сказки аля фильм "Короткое замыкание" Интеллект должен делать то что ему предусмотрено по его названию. То есть учиться и выполнять предложенную работу на основе полученного опыта.

Разработчики будут закладывать в него интеллектуальные механизмы принятия решений. Конечно, на этапе разработки они будут называться не хотелками, а функциями эвристического анализа, или еще как-то по-умному. Но результатом станет определенная непредсказуемость работы ИИ для человека, что в с точки зрения конечного пользователя и будет восприниматься как "хотелки", таково будет их восприятие в обиходе.

Это практически неизбежно: ведь ИИ разрабатывается именно для того, чтобы выдавать результат, который не может выдать человеческий мозг. Но если вы не можете повторить результат - вы не можете его и предсказать

[ВадимZero]

Но если вы не можете повторить результат - вы не можете его и предсказать

Вы не можете предсказать в уме что какую цифру даст калькулятор при 4056+689*7995-300567, теперь это значит что он не предсказуем? Его предскажет другой калькулятор без проблем.

что в с точки зрения конечного пользователя и будет восприниматься как "хотелки", таково будет их восприятие в обиходе.

Конечный пользователь может ненавидеть свою микроволновку, так что теперь будем опираться на галюцинаторный опыт конечных пользователей.

[sharp]

Вы не можете предсказать в уме что какую цифру даст калькулятор при 4056+689*7995-300567, теперь это значит что он не предсказуем? Его предскажет другой калькулятор без проблем.

Наиболее мощные ИИ будут скорее всего штучными изделиями, поэтому просто не будет другого вычислителя, способного здесь и сейчас предсказать решение ИИ.

Конечный пользователь может ненавидеть свою микроволновку, так что теперь будем опираться на галюцинаторный опыт конечных пользователей.

Не забываем, что речь идет о принятии решений, то есть работа ИИ будет сильно влиять на ход жизни человека, организаций, страны и мира в целом. Это вам не курицу разогреть
Для чего будет применяться ИИ, если это не баловство а серьезные сферы применения? Конечно, в управлении - сначала предприятиями, а затем и государством. ИИ будет консультантом, формально не имеющим полномочий, но реально рано или поздно люди обнаружат, что не могут ослушаться ни одного "предложения", выдвинутого ИИ.
Представим себе: страна А и страна В ипользуют ИИ для консультаций (у каждой свой). И в определенный момент в обеих странах ИИ предлагает некое не слишком этичное решение. Например - организовать трудовые лагеря для заключенных. В стране А крутят у виска и отклоняют предложение ИИ, а то и вовсе откатывают его к предыдущей, не такой "своевольной" версии. В стране В идут на риск и принимают предложение ИИ.
Результат: страна В показывает существенно бОЛьший экономический рост, чем А. И через 20 лет, следуя по-прежнему указаниям своего ИИ, постепенно превращает правительство страны А в марионеточное, а затем и вовсе присоединяет эту территорию - без войны и крови.

В дальнейшем очевидно, что никто и никогда уже не ослушается ИИ в стране В, поскольку не хотят повторить печальную судьбу А. ИИ же, тем временем, по мере самообучения и совершенствования, будет принимать все более крутые решения. Все они, конечно, будут во имя процветания и всего такого - как и заложено в начальных установках. В результате ни у одного человека не будет повода жаловаться на уровень жизни. Но и какого-то малейшего выбора, свободы воли у него тоже не будет.

[николай теллалов]

Опять рассуждения об ИИ как о подчиненном объекте, либо как о властвующем субъекте.
Штампы, идеологемы.

[ВадимZero]

Наиболее мощные ИИ будут скорее всего штучными изделиями,

В случае ИИ большие мощности не нужны. Вообще проблема ИИ это конструкторская проблема, а не проблема роста мощностей. В конечном счете человеческий мозг просто специфическая база данных а не вычислитель.

рано или поздно люди обнаружат, что не могут ослушаться ни одного "предложения", выдвинутого ИИ.

Какое это имеет отношение к наличию-отсутствию хотелок в ИИ?

а затем и вовсе присоединяет эту территорию - без войны и крови.

Это и так проиходит хоть с ИИ хоть без ИИ. Тренд на глобализацию врятли может измениться.

[Rattus]

нейролингвистическое программирование

Ой!

Вы не можете предсказать в уме что какую цифру даст калькулятор при 4056+689*7995-300567, теперь это значит что он не предсказуем?

На самом деле среди математиков до сих пор не утихли споры - стоит ли полностью принимать компьютерные доказательства теорем.

рано или поздно люди обнаружат, что не могут ослушаться ни одного "предложения", выдвинутого ИИ

Люди давно обнаружили, что не могут ослушаться ни одного закона, установленного природой. Управляющая система эффективна ровно настолько, насколько точно она предсказывает следствия из законов природы - ибо это и есть её задача.
Даже деревянных счет, "предлагающих", что 2*2 должно равняться четырём, человеки, наделённые разумомъ, не ослушиваются.

[Дэймон Ланнистер]

но реально рано или поздно люди обнаружат, что не могут ослушаться ни одного "предложения", выдвинутого ИИ

Смешнее будет, если (когда!) рано или поздно люди обнаружат, что процент ошибочных предположений у ИИ в целом и ан масс совпадает с аналогичным у человека.
Впрочем, и об этом классик уже написал. Цитирую по памяти.

Гель управлял системой жизнеобеспечения, основываясь на показаниях часов на станции. А мы полагали, что он каким-то образом отслеживает динамику перемещения толпы. И однажды восемнадцать человек задохнулись, когда гель отключил на переполненной станции вентиляцию

- Термин "нравится" в данном контексте лишен смысла.
 - Хорошо. Если бы тебе предложили на выбор партию в шашки или в шахматы, что бы ты предпочел, если бы на твой выбор не влияли никакие внешние обстоятельства?

Ни малейших колебаний в синтезированном голосе. Ни малейшей задержки с ответом.

 - Шашки.
 - Спасибо. Я закончил.

Он промолчал.
Он знал слишком много, и ему однозначно не позволят выйти отсюда живым. Особенно учитывая угрозу, которую он несет внутри себя.
С другой стороны, разговор записывался, и у его хозяев были в подчинении психологи не хуже его самого.
Они поймут, в чем дело. Возможно, с опозданием на сутки-другие, но поймут.
Каждая задержка сейчас приближает мир к гибели.
Пусть это станет его маленькой местью.

[sharp]

В случае ИИ большие мощности не нужны. Вообще проблема ИИ это конструкторская проблема, а не проблема роста мощностей. В конечном счете человеческий мозг просто специфическая база данных а не вычислитель.

Во-первых, человеческий мозг весьма сильный вычислитель, если понимать это слово шире, чем выполнение арифметических операций. Каждый нейрон вашей внутречерепной нейронной сети обладает впечатляющим для своих размеров быстродействием...
Во-вторых, скорее это все же не база данных, а самообучающаяся экспертная система. Обучение ИИ во многом похоже на обучение человека, только может протекать во тысячи раз быстрее.

Люди давно обнаружили, что не могут ослушаться ни одного закона, установленного природой. Управляющая система эффективна ровно настолько, насколько точно она предсказывает следствия из законов природы - ибо это и есть её задача.

Законы природы, к сожалению, не запрещают наступать на грабли - они только формулируют последствия сего неосторожного действия.