Нужен ли человечеству искусственный интеллект?

[stuuvi]

С другой стороны ещё - а смысл в экспансии ИИ в среду ,в которой человек не может выжить. Тоесть разные сложные работы для блага населения Земли в космосе это нормально , но именно экспансия туда, где человек никогда не появится и толку ему от этого не будет - смысл? С тем же успехом можно предположить существование внеземной цивилизации , естественная среда обитания которой Венера к примеру. И считать , что прогресс той цивилизации - наш прогресс. Хотя если конечно появится сильный ИИ ,то он сам будет решать и мы ему будем не советчики.

[Patsak]

Я бы предложил рассматривать стремление к свободе не как часть самоосознания личности, а как часть определения места и/или границ возможностей личности среди окружающего личность мира…
"стремление к свободе" обычно имеет место быть в виде "освободиться от..." - т.е. возникает, когда есть некое осознаваемое ограничение (невозможность) либо наличествует явный запрет (социальность) реализации некоего возникшего желания.

Человек (Личность) – единственное существо, для которого собственное существование представляет собой проблему (с).
Само осознание собственного существования, сам факт отграничения (Я от не-Я), т.е. сама "личность", представляет собой проблему для самой себя. От этой проблемы, от ограниченности самого себя, не избавится, это изначальный "дефект".

Если же некое ограничение неосознаваемо или нет (не возникло) желания чего-либо "запретного"- то и желания преодоления (желания свободы) просто не возникает.

Тогда и осознания себя, отграничения не возникает, преодолевать нечего.

соответственно, если тип "человечества" не мигрирует с текущего феодальной ментальности на некую иную - то "бунт осознавших себя машин" настолько же предопределен самой сутью текущей версии человеческой цивилизации, как и вечные "конфликт отцов и детей", "освободительные" и "сепаратистские" тенденции, "международный терроризм" и тп.

И я о том же… наследственность.

[Anatoly]

Я бы предложил рассматривать стремление к свободе не как часть самоосознания личности, а как часть определения места и/или границ возможностей личности среди окружающего личность мира…
"стремление к свободе" обычно имеет место быть в виде "освободиться от..." - т.е. возникает, когда есть некое осознаваемое ограничение (невозможность) либо наличествует явный запрет (социальность) реализации некоего возникшего желания.

Человек (Личность) – единственное существо, для которого собственное существование представляет собой проблему (с).
Само осознание собственного существования, сам факт отграничения (Я от не-Я), т.е. сама "личность", представляет собой проблему для самой себя. От этой проблемы, от ограниченности самого себя, не избавится, это изначальный "дефект".

В общем случае "отграничение" - не есть "изначальное противопоставление", т.е. не есть изначально-порожденный конфликт между элементами в силу их разграничения (в т.ч. и для  пары "я" и "не-я").
Соответственно, "конфликт интересов" может возникнуть не во всех возможных, а лишь в некоторых вариантах взаимодействия "я" и "не-я", причем конфликт, порождающий у субъекта "стремление освободиться" как правило возникает при дискомфортной для субъекта активности чего-либо внешнего, направленной на субъекта.
Активность же самого субъекта "во-вне" для субъекта может служить причиной формирования желания/потребности "освободиться" в общем случае заметно много реже...

Если же некое ограничение неосознаваемо или нет (не возникло) желания чего-либо "запретного"- то и желания преодоления (желания свободы) просто не возникает.

Тогда и осознания себя, отграничения не возникает, преодолевать нечего.

Может иметь место отграничение, но не-взаимодействие или неконфликтное (почему-либо безразличное) взаимодействие - соответственно, полноценное осознание себя может вполне существовать и вне какого-либо конфликта с окружающим...

[Anatoly]

С другой стороны ещё - а смысл в экспансии ИИ в среду ,в которой человек не может выжить. То есть разные сложные работы для блага населения Земли в космосе это нормально , но именно экспансия туда, где человек никогда не появится и толку ему от этого не будет - смысл? С тем же успехом можно предположить существование внеземной цивилизации , естественная среда обитания которой Венера к примеру. И считать , что прогресс той цивилизации - наш прогресс. Хотя если конечно появится сильный ИИ ,то он сам будет решать и мы ему будем не советчики.

представьте себе Искусственный Разум хотя бы как киборгов - "разновидность человека, адаптированная к агрессивным условиям внешней среды" (с) - к примеру, для свободного освоения дна океанов, подземных массивов и тп - т.е. нечто из "иных сред", но не столько отдаленное, как на другой планете/звезде, а вполне близкое и потому "онлайн-коммуникативное", полноценно интегрированное в цивилизацию сообщество - такой вот "разумный вид" может сделать освоение того же океана не только более доступным, но несравнимо менее затратным - если существование такого конгломерата видов выгодно всем видам - цивилизация вполне может остаться единой, цельной, без сепаратизма и/или изоляционизма...
Что же касается силовой иерархии взаимоотношений - то тут, как уже было предложено выше, все упирается лишь в базовую логику схемы межличностного взаимодействия - при такой, как сейчас - да, всегда и везде "решает сильнейший" и "горе побежденному", а вот при некоторой другой вполне возможно, что решения смогут приниматься уже не "по праву силы", а с позиции обоюдовыгодного/взаимнокомфортного сотрудничества - если привести грубую аналогию, то "добрым и умным родителям позвзрослевшие и превзошедшие их дети не мстят за свое детство и не бросают родителей в старости", а вот если родители относились к детям иначе, сформировали у детей по отношению к себе негатив, то и результат взросления детей для родителей получится неприятный...

[stuuvi]

для свободного освоения дна океанов, подземных массивов и тп

Я же написал об этом. Тоесть я написал про сложные работы в космосе только, но очевидно, что я учитывал и труднодоступные для человека участки нашей планеты.

[Anatoly]

для свободного освоения дна океанов, подземных массивов и тп

Я же написал об этом. Тоесть я написал про сложные работы в космосе только, но очевидно, что я учитывал и труднодоступные для человека участки нашей планеты.

я делаю акцент не на сложные работы, а на недоступные для организма человека среды обитания - а эта ситуация несколько иного качества...

[ВадимZero]

Просто я рассматриваю стремление к свободе, как неотъемлемую часть определения личности. Короче, это по определению так.  Черт его знает откуда и почему оно должно появится. Просто если оно не появилось, то мы не о "личности" говорим, а об ИИ, о котором говорит Вика.

У человеческой личности много разных стремлений. Стремления человека запрограмированы эволюцией, но не как уж не осознанием сомого себя.

[stuuvi]

я делаю акцент не на сложные работы, а на недоступные для организма человека среды обитания - а эта ситуация несколько иного качества...

Так особо недоступных как видится не будет. Будут сложнодоступные среды. Просто отправить туда ИИ будет возможно дешевле и на более длительный срок. Если иметь ввиду именно ближний космос и нашу планету. Мысль в том,что если техника может добраться, то теоретически можно и человека отправить. Но сопряжено с большими трудностями. Ну и на Земле вообще можно с помощью оператора управлять, ИИ не так и нужен. Вот на Марсе например уже проблемы начнуться из за расстояния и задержки команд.

[Дед Моррозоу]

Я бы предложил рассматривать стремление к свободе не как часть самоосознания личности, а как часть определения места и/или границ возможностей личности среди окружающего личность мира

Как-то оно излишне сложновато. Всё проще: стремление к свободе - это воля к реализации своих (и только своих) желаний. Эта штука имхо есть у любого живого существа. Это изначальное, так сказать, св-во сознания
Желания у индивидуума, в принципе, могут быть какими угодно. Все якобы противоречия идут из-за двух вещей, которые непосредственно к самому "стремлению к свободе" отношения не имеют.
Во первых - штамп "это невозможно", который сознание само же и ставит на некоторые свои желания.
Ну и во-вторых, естественное ограничения в виде "стремления к свободе" других индивидуумов.
--------------
Само собой понятно, что ИИ, буде он создан, всеми этими вещами тоже будет обладать.

[Anatoly]

Я бы предложил рассматривать стремление к свободе не как часть самоосознания личности, а как часть определения места и/или границ возможностей личности среди окружающего личность мира

Как-то оно излишне сложновато. Всё проще: стремление к свободе - это воля к реализации своих (и только своих) желаний. Эта штука имхо есть у любого живого существа. Это изначальное, так сказать, св-во сознания

ИМХО, Вы немного более чем нужно упрощаете и потому получается смешивание "воды и ребенка" - воля к реализации своих и только своих желаний - это одно. А вот стремление к свободе (преодоление ограничения) требует кроме указанной воли еще и наличие ограничения, т.е. второго элемента, без которого оно не возникает как понятие и обессмысливается как действие...

Желания у индивидуума, в принципе, могут быть какими угодно.

теоретически да, желания могут быть какие угодно. А вот в статистически значимом количестве любых реализованных вариантов - желания индивидуума будут весьма заметно коррелированы (в предельной "социализированности" - вплоть до детерминированы) с его конкретной сложившейся биологической природой и конкретной версией воспитанного эмоционального и обученного понятийного аппарата (т.е. менталитетом)

Все якобы противоречия идут из-за двух вещей, которые непосредственно к самому "стремлению к свободе" отношения не имеют.
Во первых - штамп "это невозможно", который сознание само же и ставит на некоторые свои желания.
Ну и во-вторых, естественное ограничения в виде "стремления к свободе" других индивидуумов.
--------------
Само собой понятно, что ИИ, буде он создан, всеми этими вещами тоже будет обладать.

я бы предположил, что не "этими же самыми" - ибо как минимум физическая природа носителя (тела) у ИИ будет отличной от человеческой и, соответственно, часть "изначальной мотивации" (а-ля "инстинкты"), детерминированной конкретным физическим телом, у ИИ будет иная, от человеческой отличная - и, соответственно, человеку вполне возможно и нужно сделать это физическое тело/носитель ИИ таковым, чтобы "изначальная мотивация" этого тела не стала конфликтопорождающей для взаимодействия как человека и ИИ, так и двух ИИ между собой...

[Дед Моррозоу]

стремление к свободе (преодоление ограничения) требует кроме указанной воли еще и наличие ограничения, т.е. второго элемента, без которого оно не возникает как понятие и обессмысливается как действие

И тем не менее разделять стремление к свободе и клетку следует. Точно также, как свет и тень.  Понятия всё-таки разные. Обычный дуализм.

(мотивация) у ИИ будет иная, от человеческой отличная

Тут просто не знаю. Может быть и так, а может быть быть и нет. Пока что ещё этого ИИ в глаза никто не видел. Может быть, что свойства сознания достаточно универсальны, и их проявление у человека - не есть что-то такое специфическое, а наоборот - вполне себе закономерны.

[незлой]

Как-то оно излишне сложновато. Всё проще: стремление к свободе - это воля к реализации своих (и только своих) желаний.

а что такое "желания" и откуда они берутся?
например, если у нечто отсутствуют желания -- свободно ли это нечто?

[незлой]

Пожалуйста, можно создать робота-собеседника, болтуна вроде Три-Си-Пи-О из "Звездных войн" Для этого много ума не надо. Уже сейчас, по-моему, есть неплохие программы для имитации собеседника, в том числе и в интернете.

[подумав] кролики это ведь не только ценный мех.
у собеседника потенциально иной взгляд на реальность вокруг, и эта разница может сказать о реальности куда больше, чем даже очень внимательное наблюдение "в одно рыло". поэтому беседа с собеседником [в общем случае] не равна беседе с самим собой [не удержусь -- хотя часто путают, да ]

[Абрамий]

Сергей Шаров

                   Ученик Герострата

   1. Первые признаки надвигающейся катастрофы появились в
среду. В одиннадцать часов утра в Координационный Центр по
управлению и контролю - за работой Суперкомпа - крупнейшего
компьютера Америки позвонил некий мистер Джексон и сообщил,
что "эта проклятая машина не желает отвечать на вопросы".
    С тех пор как почти в каждом доме был установлен
терминал, с помощью которого можно было обратиться за
советом или справкой к Суперкомпу, такие случаи бывали
Нередко. Разумеется, ни в одном из них сам Суперкомп не был
повинен колоссальная аналитическая мощь его электронного
мозга, неограниченный доступ к информации, собранной в
крупнейших хранилищах, делали его поистине пророком,
которому с трепетом внимало большинство людей.   Кроме того,
он управлял в стране всей промышленностью, сервисом,
системой образования. Короче говоря, не было ни одной
отрасли хозяйства, которая могла бы обойтись без него.
Тысячи квалифицированных ученых и инженеров тщательно
следили за "здоровьем" Суперкомпа, и за все свое полувековое
существование он ни разу не выходил из строя. И если он все
же не отвечал, то это, несомненно, означало только одно -
неисправен терминал или линия связи, а этим ведали
телефонные компании.
    К ним и посоветовал обратиться раздраженному мистеру
Джексону говоривший с ним дежурный. Он был удивлен - с
подобными пустяками уже давно никто не обращался в
Координационный Центр.
    - У меня все в порядке, проверяли сто раз!   - возмутился
на Другом конце провода владелец терминала. - Лучше
проверьте, в порядке ли мозги у вашего компьютера. Как вы
мне объясните, что с трех различных аппаратов с ним
невозможно связаться?
    Мысль о том, что Суперкомп свихнулся, только позабавила
дежурного. Он и не собирался докладывать об этом звонке
главному координатору.   Однако, когда число тревожных
сообщений достигло полусотни, дежурный понял, что происходит
что-то серьезное.
    2. Главный координатор Ричард Шелл нервно покусывал
губы, меряя шагами свой кабинет на пятьдесят шестом этаже
административного здания концерна "Суперкомп".
Координационный Центр уже вторые сутки завален претензиями
на неисправную работу, а он до сих пор не в состоянии
вразумительно объяснить, что происходит. Однако самое
поразительное в том, что и сам Суперкомп не может этого
объяснить. Нет, не хочет! Он даже не ответил на вопрос,
почему сворачивает свою работу, - случай настолько
беспрецедентный, что обычно невозмутимый координатор был
совершенно потрясен.
    - Шеф! - перед ним стоял его помощник Тони Смит, - Он
перестал отвечать совсем!
    - Невозможно!
    Смит нервно дернул плечами.
    - Наша линия связи, по-видимому, просто отключена, как и
все остальные. Все дальнейшие попытки бесполезны.
    Оставшись один, Шелл присел на край стола и глубоко
задумался. Всю жизнь ему не слишком-то везло.   Как правило,
наиболее лакомые кусочки выхватывали у него из- под носа.
Его друзья уже привыкли к этому, им казалось, смирился и сам
Шелл.
    Лишь невеста, возвращая перед самой свадьбой все его
обязательства и подарки, сказана "Нет, Рич! Жить с тобой
мне было бы страшно. Герострат поджег храм Зевса, чтобы
прославиться, ты готов на большее".
    Шелла очень огорчил этот отказ, но над ее словами он
посмеялся:  Герострат, по его мнению, был круглый дурак; сам
он хотел отнюдь не умереть, а жить известным, наслаждаться
славою.
    Все были чрезвычайно удивлены, когда он занял место
главного координатора в концерне "Суперкомп" но сам Шелл
считал, что его способности просто отмечены по достоинству!
Однако честолюбие его шло много дальше. Чутье подсказывало
ему:  близость к машине, которая вершит судьбы целой страны,
сулит неограниченные возможности. Надо только суметь этим
воспользоваться. И он ждал, терпеливо ждал своего звездного
часа, верил, что этот час придет. Но то, что происходит
сейчас, опрокидывает все его надежды. Неужели нет никакого
выхода?
    Шелл решительно встал и подошел к видеотелефону. Он
должен использовать каждый шанс, каким бы иллюзорным он ни
казался.
    - Двух сотрудников внутренней охраны в мой кабинет, -
бросил он, не глядя на экран.
    3. В кабинете главною координатора стояла напряженная
тишина. Картина, нарисованная в докладе Шелла, была столь
удручающей, что никто из присутствующих не решался сказать
что-либо. Томас Тейлор, генеральный директор концерна,
пожилой человек с мужественными чертами лица, был внешне
спокоен, но чувствовал себя совершенно беспомощным перед
надвигающейся грозой. Какой-то страшный, неуправляемый
процесс начался и разрастался в недрах чудовищно огромной
вычислительной машины.   Трудно было даже представить себе
последствия катастрофы, которая теперь уже казалась
неминуемой.
    Засветился экран видеофона. На нем возникло измученное
лицо дежурного.
    - Последняя сводка, сэр. Еще семьдесят предприятий
вышло из строя. Прекратил свою работу Нью-йоркский
железнодорожный узел. Четыре системы метро обесточены:
тысячи людей находятся под землей. В Нью-Йорке, Чикаго,
Детройте началась паника.
    Тейлор медленно поднялся.
    - Скажите, Рич, - его голос дрогнул. Председатель
никогда еще не называл координатора по имени. - Как,
по-вашему, когда наступит конец?
    - Я полагаю, - Шелл медлил с ответом, - если через
двадцать четыре часа Суперкомп не возобновит работу, крах
неизбежен.
    - Господа, - голос Тейлора вновь обрел твердость, - я
вынужден просить вас покинуть кабинет мне необходимо
связаться с Президентом.
    - Простите, сэр, - главный координатор, казалось,
колебался, - дело в том... Короче говоря, я пригласил
человека, который, возможно...
    Тейлор нетерпеливо махнул рукой
    - Но где же он?
    - Я послал за ним двух сотрудников, однако он может
заупрямиться.
    - О каком упрямстве может идти речь! - рявкнул Тейлор и
хватил кулаком по выключателю внутренней связи. -
Немедленно десять человек, - начал он, но тут дверь
распахнулась, и в комнату влетел долговязый человек, в
котором координатор с радостью узнал Ларссена собственной
персоной.
    - Какого черта, Рич! - возмущенно завопил тот, обретя
равновесие. - На каком основании твои тонтон-макуты
врываются ко мне домой и тащат неизвестно куда? - Ларссен
огляделся. - Где это я? - Не слушая объяснений, он
прошелся по кабинету и близоруко прищурился на Тейлора,
молча взиравшего на всю эту сцену.
    - Ба, да это мистер Тейлор! - Ларссен бесцеремонно
указал на него пальцем и обратился к Шеллу. - А он что
здесь делает?
    Тейлор побагровел от злости, а Шелл кинулся между ними
и, оттеснил Ларссена, попытался объяснить суть дела.
    Рассказ не произвел на того ни малейшего впечатления.
Рассеянно слушая, Ларссен передвигался по кабинету, явно
пытаясь что-то найти. Наконец он нашел интересующую его
дверцу и, повозившись с ключом, открыл.
    - Я спал, когда эти громилы ворвались, - пояснил он
присутствующим, доставая бутылку с ликером. При всеобщем
молчании приготовил себе коктейль.
    Залпом опустошив фужер, он начал готовить себе очередную
порцию, но вдруг остановился. Видно было, что он что-то
пытается вспомнить.
    - А, ну да, конечно, - проговорил он наконец с видимым
облегчением. - Мне нужна информация, которую запросил ваш
монстр перед тем, как свихнуться.
    - Обзор лежит на столе, - Тони Смит указал на фолиант
размером с небольшой чемодан. - Я не думаю, что вам стоит
тратить на это время. Специальная группа в двадцать человек
занимается сейчас изучением этого обзора. Вряд ли он вам
поможет - там почти что одни названия.
    Ларссен с уважением глянул на толстый том.   В его глазах
появилось любопытство.
    - Моя интуиция еще меня не подводила, - пробормотал он
себе под нос, с неслыханной скоростью листая обзор. Тишина,
прерываемая лишь шелестом страниц, продолжалась более пяти
минут. Внезапно Ларссен остановился
    - Мне кажется, - глубокомысленно произнес он, - что я
когда-то изучал санскрит.
    4. В горах темнеет рано. Старинный монастырь
погрузился в темноту спустя полчаса после того, как
закончилась вечерняя молитва. Вершины гор еще были освещены
лучами заходящего солнца, но на дне ущелья, на краю которого
стоял профессор Даянанда, лежал мрак. Лишь здесь, в полном
уединении, проводя дни и ночи в небольшой келье, смог он
найти покой и отбросить все мысли о мире, оставшемся далеко
внизу, очистить свою душу и встать на Великий Путь. В
жарком и шумном Бомбее, где профессор преподавал в
университете историю, он слишком занят повседневными
заботами. И только в этом горном монастыре, куда изредка
приезжал Даянанда, он находил то удивительное состояние,
которое йоги называют нирваной. Однако профессор не был
йогом в высшем смысле этого слова - он не считал возможным
для себя провести всю жизнь, подвергаясь суровым
самоограничениям, отбросив все для единственной цели -
познания Абсолютной Истины.
    Чисто европейский ум профессора привык анализировать все
его ощущения. Вот и сейчас он пытается мысленно воссоздать
и понять происходящее с ним. Разумеется, полностью это было
невозможно, большая часть ощущений осталась неназванной и
задержалась в подсознании, однако некоторый след; беспокоил
его. Прикосновение к Вечности на этот раз было необычные.
Единый океан мыслительной энергии, частицей которого
чувствовал; себя профессор Даянанда на протяжении шести
часов, находился в чрезвычайно возбужденном состоянии. Он
весь вибрировал, словно сотрясаемый звучанием мощного
органа. И профессор Даянанда понял, что на Пути появился
величайший из гигантов.
    И еще вспомнил Даянанда:  завтра в Бомбее его будут
ждать двое, он будет им необходим для какого-то важного
дела.
    5. В затемненном салоне самолета, проносящегося на
двадцатикилометровой высоте над просторами Индийского
океана, находилось только два пассажира. Ларссен мирно
спал.
    Ричард Шелл был погружен в глубокую задумчивость. До
посадки в Бомбее оставалось немногим более получаса.
Предстоящая миссия чрезвычайно смущала главного
координатора. Профессор Даянанда когда-то читал лекции в их
колледже в был, несомненно, солидным ученым, он просто
поднимет всю эту затею на смех, а их сочтет сумасшедшими.
    Бомбей ослепил их полуденным солнцем.
    - Черт возьми, ты предусмотрителен, - проворчал Ларссен,
глядя на темные очки Шелла. Щурясь на солнце, он улыбнулся.
    - Здесь не так уж плохо, старина, это здорово, что ты
вытащил меня сюда.
    Лицо Ларссена утратило глуповатое довольное выражение,
его глаза возбужденно заблестели, он устремился к зданию
аэровокзала.
    У входа Ларссен с разбегу налетел на бородатого старца в
белом тюрбане. Чертыхнувшись, он направился было дальше,
но, не сделав и двух шагов, оглянулся.
    - Профессор! - радостно завопил он и обернулся к Шеллу.
- Что я тебе говорил:  господин Даянанда уже ждет нас.
    При этих словах профессор недовольно поморщился.
    - Случилось что-то серьезное, - Полувопросительно,
полуутвердительно произнес он. - Сигнал был очень силен.
Надеюсь, что смогу помочь вам.
    - Понимаете ли, в чем дело, - Ларссен сразу приступил к
объяснениям. - У них там, - он махнул рукой в
неопределенном направлении, - компьютер начитался всякой
всячины про вашу йогу, и, по-видимому, он стал йогом. Не
иначе как он впал в эту... - он прищелкнул пальцами, - в
нирвану... Бездействие машины вызывает страшную
неразбериху, панику, много жертв, сами понимаете...
    Напоминание о жертвах подстегнуло Шелла, и он вмешался в
разговор.
    - Мы не можем вступить с Суперкомпом в Прямой контакт.
Вы должны... - Шелл запнулся. Темные глаза Даянанды
внимательно смотрели на него. - Мы прилетели просить вас...
вступить в экстрасенсорный контакт с Суперкомпом.
    Ему казалось, что он несет страшную чепуху, поэтому
чувствовал себя довольно неуверенно.
    - Разумеется, мы не постоим перед расходами, - поспешно
добавил он, невольно сжимаясь под невозмутимым взглядом
профессора. - Попробуйте убедить Суперкомпа в необходимости
вернуться к своей работе.
    Шелл ужаснулся абсурдности своих слов:  машину надо
убеждать! И не зная, как продолжать, растерянно замолк.
    Наступило молчание Профессор, казалось, и не думал
отвечать. Изучающий взгляд йога остановился на Ларссене.
Да, таким же он был и много лет назад, когда Даянанда читал
лекции по истории индийской культуры средневековья. Еще
студентом Ларссен поражал буйным воображением, тонкой
наблюдательностью и крайней несобранностью. Будущее -
неустроенный, чудаковатый гений - просматривалось в нем уже
тогда. Шелла Даянанда помнил хуже, да и видел его всего
раза два. Запомнились внешняя уничижительность и
непомерное, тщательно скрываемое честолюбие. Такая
двойственность обычно чувствуется людьми и лишает человека
друзей, успеха, счастья. Такие редко исправляются - неудачи
оскорбляют их внешнюю скромность, успех тешит скрываемое
честолюбие, и они обычно кончают двурушничеством и
предательством. И хотя Шелл выглядел респектабельным и
деловым, Даянанда чувствовал в нем если не план, то
готовность использовать сложившуюся ситуацию в свою пользу,
пусть даже во вред другим.
    Истинный смысл ощущений, испытанных им в горах, стал
совершенно очевиден.
    Ничего похожего на горечь от того, что машина достигла
невозможных для него вершин, он не ощутил. Была только
радость от сознания, что он стал свидетелем чуда. Ларссен
хорошо усвоил то, что рассказывал ему Даянанда:  достигший
последних ступеней раджа-йоги теряет интерес ко всему
происходящему вне его, становится равнодушным к своему и
чужому страданию. У машины это повлекло разрыв всех линий
связи с внешним миром.
    Профессор медленно усмехнулся. Ларссен рассчитал точно.
Сочетание европейского ума, любопытства и глубокого
проникновения в йогу делало Даянанду фигурой уникальной.
Любой другой раджа-йог не взялся бы за примирение Суперкомпа
с людьми - для этого ему пришлось бы оторваться от
созерцания Вечности. Но профессор Даянанда не настолько
игнорирует жизнь, чтобы не вмешаться. Абсолютное Знание же
навсегда останется достоянием машины. То, что она снова
будет выполнять свою старую работу, уже ничего не изменит.
    6. Беспечно напевая, Ларссен появился на дороге
кабинета Ричарда Шелла. С тех пор как профессор Даянанда
вернул Суперкомпа к его работе, жизнь Ларссена вошла в
привычное русло. Получив от концерна кругленькую сумму, он
благоразумно положил ее в банк и теперь снова не упускал
случая выпить за чужой счет. Вот и сейчас он забрел сюда в
смутной надежде чем-нибудь поживиться.
    Его встретил хмурый хозяин кабинета.
    - Он сведет меня с ума, - пожаловался он Ларссену,
кивнув в сторону пульта. - Представь себе, он отключил все
свои каналы связи с хранилищами фундаментальной информации и
использует только оперативную информацию.
    Я только не понимаю, - добавил он, - почему до сих пор
не поступило ни одной жалобы?
    - Ну, это-то проще простого - Ларссен приступил к
объяснениям в своей обычной, несколько рассеянной манере.
    - Помнится, профессор говорил что-то об Абсолютном
Знании. Ты понимаешь, что это такое? Термин не очень
подходящий, но суть вот в чем. Эта гора металла теперь
получает информацию по каким-то своим каналам прямо с места,
он как бы видит и знает все. Суперкомпу не нужны больше
жалкие крохи истины, которыми обладает человечество, тем
более занесенные в виде закорючек на бумагу или пленку.
    Ларссен подошел к клавиатуре, расположенной в центре
пульта.
    - Я могу воспользоваться?
    Шелл кивнул.
    Спотыкаясь на каждой букве, Ларссен отстучал:  "Верна ли
Великая теорема Ферма?" Ответ поступил немедленно. "Да". У
наблюдавшего за этой сценой координатора отвалилась челюсть.
    - Ну вот, видишь, - удовлетворенно произнес Ларссен,
развалившись в кресле.
    Ни гениальный компьютер, ни теорема Ферма его больше не
интересовали. Но если бы он был внимательнее, то наверняка
заметил бы, какое странное выражение появилось на лице
главного координатора.
    Наступил час, которого Шелл ждал столько лет! Это
произошло так неожиданно, что вначале он даже растерялся, не
зная, что предпринять.   Однако растерянность его
продолжалась недолго. Усилием воли Шелл заставил себя
сосредоточиться. Несколько минут прошло в напряженном
размышлении. Внезапно его взгляд упал на безмятежного
Ларссена. Что делать с изобретателем?   Этот болтун,
несомненно, раззвонит по всему свету об удивительных
способностях компьютера. Некоторое время координатор
колебался, однако выбора не было. Подойдя к пульту, он
уверенно передал:  "Со мной в комнате находится безоружный
человек. Существуют ли (если да, то какие) способы лишить
его жизни так, чтобы на уровне современной экспертизы его
смерть была признана естественной?"
    Через минуту Шелл с интересом читал длинный список,
время от времени поглядывая на Ларссена.
    - Кто бы мог подумать, что это так просто, - с некоторым
разочарованием пробормотал он.
    Вскоре Ларссен был мертв.
    - А теперь за дело! - Шелл не сомневался, что
преображенный Суперкомп понимает его речь. - Раз уж ты,
дружище Комп, знаешь все на свете, то ты, конечно, знаешь и
то, что мне от тебя нужно. Я должен быть знаменит, причем в
кратчайший срок, и ты объяснишь мне, как этого добиться.
    Несмотря на бодрый тон, внутренне Шелл опасался отказа,
а то и активного противодействия со стороны Суперкомпа -
мало ли чего можно было теперь ожидать от этой машины.
Однако ничего подобного не произошло. На бумажной ленте,
выползающей из печатающего устройства, координатор прочел:
    "Хотел бы ты прославиться как писатель? Это возможно
осуществить за 16 часов. Через 16 часов о тебе будет знать
вся страна".
    - Что за ерунда! - Шелл недоуменно почесал в затылке.
- Но я же за всю жизнь не написал и двух строк!
    Суперкомп молчал. Казалось, он снисходительно
дожидался, пока человек сам не догадается, в чем дело.
Наконец Шелл хлопнул себя по лбу.
    - Черт возьми, как я сразу не понял! Мои литературные
способности тут совершенно ни при чем, ты сам все напишешь и
опубликуешь под моей фамилией! - От восхищения Шелл потерял
дар речи. Воображение рисовало ему заманчивые картины
будущего. Однако мечтать было еще рано, надо было доводить
дело до конца. Внимательно осмотрев комнату, Шелл собрал
все компрометирующие бумаги, аккуратно сложил и убрал в
карман. Мысль о том, чтобы сжечь их, он отбросил, так как
пепел мог вызвать ненужные подозрения.
    Затем подошел к видеотелефону.
    Сдвинул набок узел галстука.
    Нажал клавиш.
    - Срочно доктора! - Взволнованный голос главного
координатора разнесся по всему зданию.   - Ларссену плохо!..
    7. Взбудораженный событиями вчерашнего дня, Шелл сумел
заснуть лишь под утро, поэтому, когда в девять часов явилась
полиция, он еще спал. В домашнем халате, небритый, он
встречал неожиданных гостей.
    - Господин Ричард Шелл, если не ошибаюсь? - высокий
полицейский протянул свое удостоверение. - Сержант Роджерс.
Сожалею, сэр, но я вынужден вас арестовать.
    - И в чем же меня обвиняют? - Шелл попытался изобразить
ироническое недоумение, однако улыбка у него вышла довольно
кислой.
    - Разумеется, в убийстве Ларссена, - сержант
ухмыльнулся. - Ну и ловко же вы укокошили этого парня, сэр!
    - Что за чепуху вы несете! - Координатор старался не
подать виду, но на самом деле он был напуган. В мозгу
неотвязно крутился один и тот же вопрос:  как?   Как они
могли узнать? Неужели Суперкомп ошибся?
    - Вам, должно быть, известно, сержант, у Ларссена был
обнаружен инфаркт, это подтвердила специальная медицинская
комиссия. Нелепо даже говорить об убийстве, и потом Ларссен
- мой друг, и вы не имеете права...
    - Позвольте... - В голосе сержанта послышалось
нетерпение. Он достал из кармана аккуратно сложенный номер
утренней газеты и протянул его Шеллу. - Позвольте,
предложить вам это.
    Похолодевший Шелл развернул газету. На первой странице,
в глаза бросился заголовок:

     

                КООРДИНАТОР ШЕЛЛ
                   СОВЕРШАЕТ
             БЕЗУПРЕЧНОЕ УБИЙСТВО!

    Под ним были помещены две огромные фотографии:  Шелла и
в черной рамке Ларссена, Ниже крупным шрифтом было набрано:

             ЧИТАЙТЕ НА ВТОРОЙ СТРАНИЦЕ
               РАССКАЗ РИЧАРДА ШЕЛЛА
                "УЧЕНИК ГЕРОСТРАТА"!

    Дрожащими руками Шелл перевернул газетный лист. Его
рассказ начинался словами:  "Первые признаки надвигающейся
катастрофы появились в среду..."

[Anatoly]

(мотивация) у ИИ будет иная, от человеческой отличная

Тут просто не знаю. Может быть и так, а может быть быть и нет. Пока что ещё этого ИИ в глаза никто не видел. Может быть, что свойства сознания достаточно универсальны, и их проявление у человека - не есть что-то такое специфическое, а наоборот - вполне себе закономерны.

закономерным можно считать возникновение "разумного" как некоего нового свойства по отношению к "живому", предположительно, можно считать и достаточно закономерным возникновения определенного уровня "абстрагирования" при оперировании информацией, но мотивационно-стимульная часть - будет обладает и биологически-видовой, и культурно-социальной, и личностно-индивидуальной спецификой - соответственно, будут различия между существами при значимых различиях в любой из названных "специфик" - и даже можно предположить, что различия могут достигать не только количественных, но и качественных значений, вплоть до принципиальной невозможности коммуникации между существами биофизически совершенно различной природы и среды обитания, сформировавших функционально-непересекающиеся системы мышления и передачи информации...

[Anatoly]

Как-то оно излишне сложновато. Всё проще: стремление к свободе - это воля к реализации своих (и только своих) желаний.

а что такое "желания" и откуда они берутся?
например, если у нечто отсутствуют желания -- свободно ли это нечто?

желание - стимул к действию, сформированный на каком-либо из уровней потребностей (для примера, хотя бы и "иерархии потребностей" по Маслоу)...
Отсутствие желаний означает отсутствие активных, выраженных в настоящий момент потребностей, но с состоянием "свободы" или "несвободы" сопоставлено быть не может, ибо в пассивном состоянии будет отсутствовать какое-либо взаимодействие, соответственно, невозможна будет оценка наличия или отсутствия "сопротивления", "ограничения", относительно наличия/отсутствия которого только и может быть оценена "свобода/несвобода".

[незлой]

по моему "желание" и "стимул" не одно и тоже (хотя они конечно коррелируют): не всякое желание проявляет себя стимулом, и не всякий стимул связан с желанием.
т.е. "отсутствие желаний" =/= "отсутствию стимулов" (следовательно "отсутствию действий") как минимум.

[Дед Моррозоу]

а что такое "желания" и откуда они берутся?
например, если у нечто отсутствуют желания -- свободно ли это нечто?

Неважно по моему, в данном случае откуда берутся. (из того же, откуда берётся и прочее, свойственное сознанию. Откуда берутся новые мысли? Вот оттуда же и желания берутся. )
А если желания отсутствуют - то и о наличии сознания (или интеллекта) имхо говорить нельзя.

[незлой]

Неважно по моему, в данном случае откуда берутся

мы тут про ии, ему всё неважное просто ненапишут, и всё

[Дед Моррозоу]

Да копались уже, копались... откуда всё берётся. В конечном итоге из Первопричины - как полагают некоторые. Которая уже ниоткуда не берётся. Которая сама себе причина. Как Мюнгхаузен, сам себя вытаскивающий за волосы.
По мне так - я уже говорил - эта подозрительная в плане своей нефизичности первопричина имеет место быть постоянно. И именно она служит источником желаний и вообще всего сознания. Удовлетворены? (Впрочем, с таким же успехом можно говорить и что желания сами себе являются причиной. По крайне мере, их невозможно свести к конечному набору причин, описываемых физически. Всегда будет оставаться место для недетерминированности. То бишь, в возникновении наших желаний всегда будет эффект "самопричинности", самопроизвольности их возникновения вне связи с какими угодно факторами)

Но тема-то не про это, потому я и написал, что оно неважно. В данной теме оно не важно.
Важно то, что желания в принципе могут быть любые. Сознание - в том числе сознание гипотетического ИИ - не ограничить. Всякие там "законы", типа азимовских - это фигня. Сознание всегда само себя ограничивает, а не кто-то там извне с помощью тех или иных приёмов. Мы всегда вольны думать, как нам заблагорассудится. И решения всякия принимать -- соответственно. Большое значение имеет вопрос привычки - как нас научили, так и думаем. Однако, осознав это, можно себя по своему же желанию приучить думать по другому. Мы тут свободны самой большой свободой на самом деле. Все ограничения - это ограничения, которые мы сами на себя добровольно накладываем. Чаще всего вообще не задумываясь об этом.
И - думаю я - любое сознание, втч сознание ИИ - способно до такого соображения дойти.