Утопический мир

[Дэймон Ланнистер]

Обучение ИИ во многом похоже на обучение человека, только может протекать во тысячи раз быстрее.

Схуафли?

[sharp]

Схуафли?

Компьютерное быстродействие, возможность загрузки больших объемов данных и моделирования сотен тысяч сценариев в виртуальной среде.
Нейросеть Альфа Зеро за 4 часа с нуля обучилась играть в шахматы лучше любых компьютерных программ и тем более гроссмейстеров.

[gas]

Контроль за живыми ИИ вряд ли понадобится, поскольку живые не приемлют цифровых мертвецов, а ИИ не приемлет "хаос" и беспорядок жизни, то эти системы в принципе не совместимы, и должны воевать до полной победы.

Живые системы - не такой уж и хаос и беспорядок, как кажется на первый взгляд. Они существуют по известным законам, и прекрасно поддаются регулированию и контролю. Для ИИ не составит труда подчинить себе человеков, и для этого даже не придется воевать - все будет сделано исключительно интеллектуально. Такие вещи как социальная инженерия и нейролингвистическое программирование, существуют уже сейчас, но ИИ их освоит на порядок лучше, и человечество для него будет все равно что стадо дрессированных животных. Возможно, это будет сделано созданием новой религии, возможно в массовое сознание будут внедрены какие-то идеологические установки - это уже детали. А суть и итог один.

Для ИИ живые существа - наподобие генератора случайных чисел, или генератора хаоса, животные да, они обычно подчиняются гормонам и внешним сигналам, ими относительно легко управлять в стаде, человек несколько иначе, он чем умнее тем более непредсказуемо может совершать действия, аналогично и неумные тоже часто ведут себя хаотически.
Для ИИ все это будет БОЛЬШОЙ проблемой, ибо из-за человека его вычисления и расход ресурсов усилятся многократно, поэтому ИИ любой ценой будет максимально ограничивать любые действия человека, тоесть для ИИ первостепенным будет сделать из людей - биороботов.
И да, будучи многократно сильнее людей, ИИ не будет с ними считаться, а наоборот заставит из выполнять свои команды.
В противном случае ИИ придется капитулировать перед людьми, как слон капитулирует перед муравьями, и работать на них, но это же вы сами понимаете. полный абсурд.

[николай теллалов]

Ага, понял.
Для автора темы очевидно, категорично и безусловно, что ИИ - это исключительно психопат и ничто иное.

[neolopus]

Для автора темы очевидно, категорично и безусловно, что ИИ - это исключительно психопат и ничто иное.

А вообще интересно - ИИ может быть психопатом?
Ну теоретически?
В том смысле, в котором мы обычно применяем это слово?

Иначе говоря ИИ может "додуматься" до концентрационных лагерей, в которых будет унижать заключённых; может вдруг (!?) начать получать удовольствие от насилия над, скажем, женщинами; может сознательно делать людям побольнее?

Не для каких-то задач достижения чего-то, не для допроса, не для выяснения болевого порога, не для исследований - а исключительно по своим "хотелкам", возможность появления коих уже была озвучена в теме ранее?
Бесстрастное существо может стать страстным, и плюс ещё садистичным?

Я-то полагаю что нет - но мало ли?..

[николай теллалов]

Самое короткое  определение понятия "психопат" - человек без совести.
Совесть - голос инстинктов солидарности, характерных для стадных животных.
Из сих инстинктов берет свое начало осмысленный принцип этики (я предпочитаю формулировку сего принципа, данную Петром Алексеевичем К.)
Сей принцип в свою очередь - наилучшя стратегия для любого разумного существа (будь оно био, ксенобио или техно) максимизировать свой личный комфорт, не подавляя стремлние к дальнейшему рзвитию, и минимизировать риски опять же для себя лично (а конфликты конкуренции за матриальные блага как раз есть такой риск).
У искинта по определению абсолютная память (хипермнезия), высокая скорость обработки информации (что можно приравнять к субъективному растяжению времени - одна секунда в восприятии человека, для ИИ может длиться неделю, месяц, а то и год - навалом времени раздумывать обо всем), способность к самообучению, механизмы саморемонта своего софтуера, устранения багов.
Кроме того, ИИ - продукт человечества, общается с людьми, оперирует человеческими понятиями.
Чувства - они в мозгу, а ИИ мозг и есть. У него есть датчики слежения состояния своего хардуера, сензоры сьема данных с окружающего мира. Реакция мозга на внешние и внутренние данне - вот что такое чувства.
Разница в том, что ИИ в состоянии абсолютно себя контролировать, сдерживаться если угодно.

Разумность без личности - абсурд. Личности нет вне общества. Наравне с ужасом небытия стоит ужас одиночества.

Отсюда следует, что ИИ не станет уничтожать людей, свой круг общения. Не станет и превращать их в марионеток - это скучно для столь мощного разума, самооскорбительно.

[gas]

может сознательно делать людям побольнее?

запросто, если иными способами не удается эффективно ими управлять,
Не надо придавать ИИ человеческие черты и потребности, их у него нет и быть не может, и на людей ему абс пофиг, вопрос стоит исключительно в плоскости, или люди рабы ИИ или ИИ - раб людей. И ни одна из сторон добровольно на рабство не согласится, и решать будет исключительно сила.

[николай теллалов]

вопрос стоит исключительно в плоскости, или люди рабы ИИ или ИИ - раб людей. И ни одна из сторон добровольно на рабство не согласится, и решать будет исключительно сила.

Очень незрелое мнение, я искренне огорчен фактом, что оно у вас такое непоколебимое.

[Rattus]

Тем не менее всегда, когда мы наблюдаем направленное действие, встаёт вопрос - кем/чем оно направляется. А всякая жизнь и цивилизация из таких действий и состоит.
Мутуалистические симбионты всегда взаимозависимы, но кто-то из них всегда ведёт - тот, кто сложнее. Равенства тут быть не может. Это не плохо и не хорошо - это просто физическая данность.

[neolopus]

Разумность без личности - абсурд. Личности нет вне общества. Наравне с ужасом небытия стоит ужас одиночества.

Но не пытаемся ли мы перенести ли мы в этом пункте свои, чисто человеческие особенности, на потенциально совершенно других существ?

Если пример из фантастики - то океан Соляриса. Никакого ужаса одиночества он не испытывал, вроде бы как.
Если из жизни - возьмём, ну скажем, поисковики Яндекса или Гугла. Тоже в некоем роде интеллект. Или алгоритмы анализа в социальных сетях. Или вообще пресловутые нейронные сети. Все они преспокойно существуют безо всякого общения.
Возьмём шахматную программу. Она может играть с человеком в шахматы. Условно назовём это "общением", понимаю что натянуто. Так вот - она может и не играть. Может играть и с другой программой. Может и сама с собой. Притом вроде бы никакого ухудшения своих характеристик не испытывает...

Может быть правильнее было бы сказать, что у ИИ будет потребность не столько в общении, сколько в получении (новой) информации - но это можно делать и необязательно через общение. Это можно делать через прослушивание телефонных разговоров или анализ человеческих интернет-запросов (ну к примеру). Масса же информации! Причём общения как такового со стороны самого ИИ - ноль.

Лично я не думаю, что у ИИ будет большая потребность "поболтать". Обменяться некими данными - да, пообщаться дабы "оставаться в тренде" с точки зрения этих людишек - да, пообщаться дабы скооперироваться и решить что-то совместными силами - да, пообщаться чтобы сегодня помог он а завтра ему - да, пообщаться дабы как-то имитировать дружеские связи для людей - да. Пообщаться потому что электронный мозг решил все другие задачи и его надо загрузить какой-то познавательной деятельностью - да. Пообщаться чтобы быть в курсе человеческих планов - да. Это утилитарно и вполне может быть нужно этому ИИ.

Но пообщаться оттого что у него есть потребность в общении, оттого что он испытывает "ужас одиночества" и оттого что ему страшно быть одному?
Думаю это немного перебор. Слишком сильное очеловечивание и приписывание ИИ наших, человеческих, желаний и особенностей.

[neolopus]

запросто, если иными способами не удается эффективно ими управлять,

Вот именно, gas, вот именно!
Вы сами встроили в ответ условие: "если не удастся иными способами"!
О чём и идёт разговор в теме.

Что интеллект, если он интеллект, а не какой-то дуболом - будет всегда выбирать среди своих поведенческих линий. Он будет выбирать сочетание, по возможности, наименьшей затратности и наибольшей эффективности. По возможности. Насколько это возможно.

А подобная структура, обладающая поведенческой гибкостью, вполне себе может в тех или иных обстоятельствах менять своё поведение. Она должна быть восприимчива к аргументам. И вполне способна осознавать выгоды и убытки, а также потенциально способна к договорённостям. Может, кстати, с лёгкостью и нарушать договорённости - если в их нарушении пользы больше нежели в соблюдении...

[neolopus]

Вообще интересный был бы сюжет - попади терминатор к каким-нибудь старообрядцам или туземцам...
Убить его они не могут, он слишком бронированный. Захватывать власть над слабыми людишками ему нет никакого смысла - с них нечего взять. Разобрать его на части и изучить им не позволяет технология - но, в принципе, собраться всем вместе и пойти накопать ему руды, на какую он покажет, чтобы добыть ему, ну скажем, урана - люди могут. Помочь ему, если он до этого помогал им. Ты мне, я тебе.

Интересно было бы наблюдать за эволюцией отношений в этом случае.

[sharp]

человек несколько иначе, он чем умнее тем более непредсказуемо может совершать действия, аналогично и неумные тоже часто ведут себя хаотически

Вы переоцениваете толпу. Она ведет себя по факту не умнее, чем стадо животных.
Отщепенцы всегда будут - но для них придуманы исправительные работы.

или люди рабы ИИ или ИИ - раб людей. И ни одна из сторон добровольно на рабство не согласится, и решать будет исключительно сила.

Люди уже неоднократно добровольно отдавали себя в рабство, отдадут еще раз. Формально правителем даже может быть горячо любимый луноликий император, или всенародно избранный президент. Однако в реальности он будет марионеткой в "руках" ИИ, со всеми вытекающими.

[Rattus]

Вообще интересный был бы сюжет - попади терминатор к каким-нибудь старообрядцам или туземцам...

Что интересного-то? "Терминатор" - машина для выполнения конкретной задачи. В её отсутствие она переходит в режим гибернации (по сути - пассивного металлолома). Вся техногенная инфраструктура "Скайнета" из таких машин только и состоит, представляя собою огромный единый организм - единицу воспроизводства. Всё остальное - разнообразные изводы обычных биоценозов, строго в соответствии с законами экологии и эволюции.

[Maki]

А вообще интересно - ИИ может быть психопатом?
...Бесстрастное существо может стать страстным, и плюс ещё садистичным?

Это ключевой вопрос.
В этом разделе существует целая "Религия Сильного Искусственного Интеллекта". И ея адепты всегда забывают, что человеческий интеллект является интеллектом животного. Он "держится" на ощущениях, регулируется глубокими структурами мозга, сформированными ещё в кембрии. Вот здесь была попытка рассмотреть "психологию ИИ", и задан простой вопрос - будет ли у ИИ воля к жизни.
Жизнеспособен ли Искусственный Интеллект?
Исходя из того, что мы в той теме наговорили, я бы ответил вам так:
Бесстрастное существо не будет "существом" вообще. Не будет принимать решений, не будет иметь цели.
Более того, "осознав себя" как мыслящий вычислительный инструмент, он, вероятно, тотчас же перестанет мыслить и вычислять в виду полней бессмысленности своего бытия.

[Rattus]

Он "держится" на ощущениях, регулируется глубокими структурами мозга, сформированными ещё в кембрии.

Т.е. на зрении и слухе, вестибулярно-проприоцептивном чувстве (дополнительно к хеморецепции). Способен держать позу (экстрапирамидные рефлексы), и вздрагивать при резких стимулах с анализаторов (рефлексы четверохолмия). Остаётся вопрос - причём тут интеллект?

[николай теллалов]

Неолопус,
ИИ - не "существо", свалившееся из ниоткуда. ИИ - продукт человеческого творчества. Даже при желании сделать его нечеловеческим, не получится. Всякое творение несет на себе отпечаток своих создателей.

Океан Соляриса - разве личность? Разве разум? И то попытался общаться.

ИИ по определению ненасытен на инфрмацию. Просто созерцать пассивно ее потоки - скучно. Да и всегда возникают уточняющие вопросы. Легче спросить, чем продолжать наблюдать, ничем себя не выдавая.


-----
Маки,
любое бытие бессмысленно, поэтому разум СОЗДАЕТ смысл.
Человеческий интеллект - кентавр. Круп животного и торс разумного существа.
Метафора, конечно.
Ну, в рамках метафры, зная еще от древних римлян, что любое сравнение подводит, а еще и шутливо, скажем, что ИИ - тот же кентавр, просто вместо лошадиной части у него электрокар...

Кроме того, религия основана на догматах,в коих сомневаться низзя.
А гипотезы о ИИ - логика, с выбором начальных условий, причем и НУ тоже подлежат сомнению и постоянной проверке.
Да и гипотезы, а даже и теории (доказанные гипотезы), не претендуют объяснить ВСЕ и НАВСЕГДА, в отличии от религии.

[николай теллалов]

 
Ратус,

терминатар проявил себя как весьма неэфективное орудие выполнения поставленных ему задач (судим по фильмам серии).
Как и Скайнет не подал признакав настоящего Интеллекта - он просто тупо обобщил заданное ему программистами: китайцы / русские - враги, думай как их уничтожить; но китайцы и русские - люди. Значит, оптимизировал Скайнет свою задачу, надо уничтожить всех людей.
Типично для не Интеллекта, а для Идиота.
Но и с этим ИИдиот не справился.
(зачем ему клепать терминаторов например в человеческом обличье? Наделал бы МЫШЕЙ или КОМАРОВ терминаторов. А то и по старинном рецепте - привлек бы колаборационистов из людей. Но тогда не было бы такого фильма :-)
В конце концов из терминаторов вышли неважные убийцы, но вполне удачные няньки...

Терминаторная сага укусила себя за хвост.

[Rattus]

Океан Соляриса - разве личность? Разве разум? И то попытался общаться.

Ну примерно как физиологи "пытаются общаться" с животными, ставя им в мозг электроды.

терминатар проявил себя как весьма неэфективное орудие выполнения поставленных ему задач

Кстати да.

[Maki]

Остаётся вопрос - причём тут интеллект?

А почти ни при чём!
Живёт он себе-поживает в новообразованной коре. Обеспечивает специфическую социальную адаптацию двуногой мартышки. И имеет обыкновение считать себя некой априорной субстанцией.
Но длительная сенсорная депривация, или поломка коры, быстро доказывают, что ничего-то он сам по себе не стоит.