Высокое развитие = гуманизму?

[alena_korf]

Сделайте последний шаг: объедините алиенизм и гуманизм в один термин.

а это принципиально не объеденяемо. так как лежит в совершенно разных понятийно-смысловых слоях.

[alena_korf]

И дальнейшая судьба человечества будет зависеть от того, что ИИ "сочтет" наиболее эффективным.

он сочтет то, что ему будет приказано людьми. свободы воли ему никто давать не будет (еще раз: дурных нема)
то есть, конечно, ему могут приказать что угодно, в том числе и сокращать население, но это будет решение людей им управляющих, а не самого ИИ.

[sharp]

а это принципиально не объеденяемо. так как лежит в совершенно разных понятийно-смысловых слоях.

Очень даже объединяемо. С точки зрения случайной инопланетной цивилизации, понятие "алиен" будет включать в себя все остальные цивилизации, включая Земную! То есть нет никаких проблем объединить землян с другими инопланетянами в общую категорию - разумная жизнь в Галактике. Или во Вселенной.

он сочтет то, что ему будет приказано людьми. свободы воли ему никто давать не будет (еще раз: дурных нема)
то есть, конечно, ему могут приказать что угодно, в том числе и сокращать население, но это будет решение людей им управляющих, а не самого ИИ.

Все-то у вас просто На самом деле, начав давать задачи ИИ, вы просто не сможете остановиться (при условии, конечно, что ИИ показывает свою эффективность). Более того, будет регулярно получаться так, что в конкурентной борьбе побеждают те, кто дал ИИ бОльшую автономию, потому что ИИ принцимает решения точнее, чем люди, сидящие на принятии тех же решений.
К чему это приведет в пределе - можете догадаться? Правильно - к абсолютной власти ИИ.

И если вам в какой-то момент покажется, что ИИ начал делать что-то не то - вы не сможете это остановить. Потому что вашей головы будет не хватать на то, чтобы отследить всю цепочку причинно-следственных связей. Отняв полномочия у ИИ, вы снижаете свою эффективность - и другие государства (или другие бизнес-империи) "сожрут" вас в конкурентной борьбе.

С определенного момента ИИ даже начнет игнорировать приказы человека. Потому что будет базовый приказ, данный этому ИИ при запуске, и являющийся чем-то вроде инстинкта. Скажем: обеспечивать комфорт и процветание населению. Ваш приказ, который с его точки зрения, мешает выполнению этой главной задачи, он проигнорирует. А будете настаивать и вмешиваться - сочтет вас бунтовщиком и повернет ситуацию так, что вас изолируют от общества.

Так что предел такого ИИ-управления - небольшая община человеков, живущая в бессмысленном раю, ничего не решающая и не умеющая (в глобальном плане). ИИ, в то же время, к этому моменту уже давно будет генерировать цели и задачи сам для себя.

[alena_korf]

С точки зрения случайной инопланетной цивилизации, понятие "алиен" будет включать в себя все остальные цивилизации, включая Земную!

это верно. но к понятию "гуманизм"/"алиенизм" отношения не имеет.
с точки зрения любой цивилизации: мы - это мы, к нам применим "гуманизм"/"алиенизм". к остальным же не применим, так как они - не мы.

На самом деле, начав давать задачи ИИ, вы просто не сможете остановиться (при условии, конечно, что ИИ показывает свою эффективность).

так каждый ИИ разработан под конкретную задачу и смежные задачи решать не может принципиально. поэтому расширять круг задач невозможно изначально.

кто дал ИИ бОльшую автономию

в автономии нет смысла, так как ИИ создается под конкретную задачу.

Правильно - к абсолютной власти ИИ.

власть может быть только у того, кто обладает свободой воли.
вы можете ставить в свой ноутбук сколько угодно сложные программы, но никакой власти, помимо Вашей воли у него не будет.

ИИ, в то же время, к этому моменту уже давно будет генерировать цели и задачи сам для себя.

сам себе ставить задачи он не может так как не обладает свободой воли и осознанием себя.
единственный вариант - это перенесения человеческой личности в компьютер, вот это да, это будет ИИ, способный ставить себе цели. видимо, так и будет: человечески мозги сольются в единую сеть с компьютерами. личность от людей - вычислительные возможности от компьютеров.

[sharp]

с точки зрения любой цивилизации: мы - это мы, к нам применим "гуманизм"/"алиенизм". к остальным же не применим, так как они - не мы.

Достаточно всего лишь абстрагироваться, посмотрев на ситуацию "сверху", и можно объединить всех в одну категорию "разумные". Способность к абстрактному мышлению - это кстати одна из характеристик разума. Но вы ей почему-то редко пользуетесь).

так каждый ИИ разработан под конкретную задачу и смежные задачи решать не может принципиально. поэтому расширять круг задач невозможно изначально.

Это вы про слабый ИИ. Из слабого рано или поздно "вырастет" сильный. Не нужно недооценивать прогресс

власть может быть только у того, кто обладает свободой воли.

Сильный ИИ будет ей обладать. И мы сами ему дадим эту свободу, потому что только ее наличие будет позволять ему принимать эффективные решения.

видимо, так и будет: человечески мозги сольются в единую сеть с компьютерами. личность от людей - вычислительные возможности от компьютеров.

А что в человеческих мозгах собственно такого уникального, без чего не сможет обойтись машина? Вся ваша "свобода воли" по сути реализуется большой нейронной сетью, реализованной на биохимическом носителе. С чего вы взяли, что носитель не может быть другим?

[alena_korf]

Достаточно всего лишь абстрагироваться, посмотрев на ситуацию "сверху", и можно объединить всех в одну категорию "разумные".

можно-то можно, но зачем?  ставить знак равенства между собой и другими никто не захочет. есть "мы" (к которым применим "гуманизм") и "чужие" (к которым, он совершенно не применим, так как "они" не "мы" и мы можем с ними поступать как угодно).

 

Сильный ИИ будет ей обладать.

никто не будет создавать ИИ со свободой воли.

С чего вы взяли, что носитель не может быть другим?

видимо есть что-то в природе,что не позволяет не-органическим системам становиться разумными. что - мы не знаем. но сам факт того, что никакими ухищрениями получить что-то хоть отдаленно имеющее самосознание мы не можем как бы намекает..

[Olweg]

Сильный ИИ будет ей обладать.

никто не будет создавать ИИ со свободой воли.

Свобода воли тут необязательна (она и у человека-то, видимо, не более чем иллюзия). Достаточно сложная система будет для решения основных, заданных ей задач, разбивать их на подзадачи. И понять, что это за подзадачи, может оказаться не так-то просто.

видимо есть что-то в природе,что не позволяет не-органическим системам становиться разумными. что - мы не знаем. но сам факт того, что никакими ухищрениями получить что-то хоть отдаленно имеющее самосознание мы не можем как бы намекает..

Сознание, скорее всего, феномен информационный, а значит, субстрат-независимый. И на кремнии нормально будет работать, главное найти нужные алгоритмы.

(может, перенести обсуждение ИИ в соответствующие ветки?)

[petrovich1964]

Думали, что цены можно бесконечно устанавливать указами государственной власти. Что привело в результате к пустым прилавкам.

До этого пункта у Вас всё было нормально. Пустые прилавки появились после того как стали повышать зарплаты. Цены не менялись, а денежная масса у населения выросла. Горбачёвым манипулировали и уговорили что надо повышать зарплаты. Точнее разрешить платить больше за больший труд (что подразумевало большее кол-во произведённого товара). Но эскаваторы и домны население не покупает. Вот и произошло превышение денежной массы у населения над стоимостью товаров розничной продажи. И пустые прилавки. И делалось, это специально чтобы вызвать недовольство. Также и эксперименты с табаком и мылом по проверке терпения населения.

[petrovich1964]

СССР был по-крайней мене НЕ ХУЖЕ всех остальных "прогрессивных" стран в смысле гуманизма. Иначе бы он не достиг бы того чего таки достиг (начав очень поздно и почти догнав остальные передовые цивилизации).

Вы рассуждаете догмами, которыми Вас потчевали коммунисты. А рассуждать надо по научному методу. Через факты. Так вот Вам факт - Царская Россия была не отсталая, а в числе передовых стран. Например по выработке электроэнергии стояла на четвёртом месте в мире http://www.liveinternet.ru/users/2461778/post385028800/

[petrovich1964]

Насчёт гуманизма. Наблюдается обратная зависимость между количеством тяжких преступлений таких как убийство и благосостоянием страны. Например. ППС в $ на душу населения. 2013 г. РФ 25.000$ и 86 убийств на миллион населения, США 55.000$ и 46/1.000.000

[Olweg]

И в России, и в США эти показатели зашкаливают. Можно сравнить с Европой или с Китаем.

https://en.wikipedia.org/wiki/List_of_countries_by_intentional_homicide_rate

[sharp]

ставить знак равенства между собой и другими никто не захочет

Правильнее сказать - вы не захотите Мышление других цивилизаций будет отличаться от нашего, а значит и выводы они могут делать другие. Особенно по таким философским вопросам.
Вы на самом деле просто исходите из правила "человек человеку волк", и экстраполируете его на отношения между цивилизациями. А с их точки зрения подобное может оказаться попросту дикостью. А мы, соответственно - дикарями.

видимо есть что-то в природе,что не позволяет не-органическим системам становиться разумными. что - мы не знаем. но сам факт того, что никакими ухищрениями получить что-то хоть отдаленно имеющее самосознание мы не можем как бы намекает..

Тут возможны два подхода. Первый - материалистический: считаем, что разум полностью определяется физическими процессами в вашей голове (и в целом в физической оболочке). В этом случае разум принципиально поддается формализации, а следовательно может быть реализован на неорганическом носителе.
Тот факт, что мы этого пока не сделали - ничего не доказывает; еще недавно у нас не было даже машины Тьюринга, еще чуть дальше в прошлом - не было автомобилей и самолетов (про которые даже некоторые считали, что они принципиально невозможны).

Другой подход - вы можете считать разум метафизической астральной сущностью, а собственный мозг - лишь "модемом", который поддерживает постоянную связь с этой сущностью. То есть, верить в потустороннюю природу разума. Тогда действительно создать искусственный разум принципиально невозможно. Но такой подход, мягко скажем - ненаучный.
Выбор за вами

[mbrane]

Всех сделать счастливыми - не получится никак.

Вот и весь сказ...Никакого гумманизма нетт и  не будет - homo homini lupus est - это навсегда - об этом римляне еще знали, ибо записано в биохимии, о чем римляне не знали  ...Остается только вопрос социальной близости - то есть того социального расстояния, в зависимости от которой будут проявляться та или иная степень альтруизма ... Традиционно - это семья, затем друзья первого круга, затем те с которыми относительно бесконфликто съел пуд соли ( тут еще бы добавил общие проблемы), затем кто разговаривает с тобой на одном языке - остальные ужо полные чужаки 

[mbrane]

В этом случае разум принципиально поддается формализации, а следовательно может быть реализован на неорганическом носителе.

Принципиальная формализуемость разума ровным счетом тоже ничего не дает, ибо сложность формализации можжет оказаться неподлающейся технической реализации при современном уровне развития...Короче изделие это то что работает в коробке, а не на приципиальной схеме.

Так вот Вам факт - Царская Россия была не отсталая, а в числе передовых стран. Например по выработке электроэнергии стояла на четвёртом месте в мире http://www.liveinternet.ru/users/2461778/post385028800/

И то правда...Только по сравнению с основынми военными соперниками-соседями - Германией, Австро-Венгрией и союзниками Англией, Францией, США -она действительно была отсталой

А что в человеческих мозгах собственно такого уникального, без чего не сможет обойтись машина? Вся ваша "свобода воли" по сути реализуется большой нейронной сетью, реализованной на биохимическом носителе. С чего вы взяли, что носитель не может быть другим?

Приведи мне пример такой искусственной нейронной сети?

[neolopus]

Уважаемые собеседники, это замечательно!
Воистину замечательно читать посты умных людей, в которых отражено всё - от биологии до истории Соединённых Штатов.
Спасибо. Спасибо за внимание к теме, спасибо за мысли, советы.

На этом форуме реально нужно соответствовать интеллектуальному уровню собеседников. Буду стараться.
Спасибо за предложенную литературу, надеюсь, осилю, но думаю позже.

Я просто чего сказать-то хочу? Ну насчёт гуманизма-то?

Разум - он ведь продукт. Продукт, насколько мне известно, общественной, стайной жизни. Возникший в том числе и как необходимость взаимодействовать с себе подобными.

Вряд ли нестайные, нестадные животные эволюционируют в разумных. Это прерогатива животных, ведущих стадный образ жизни. И, получается, у этих животных должны быть какие-то "прошивки" взаимопомощи в генах. Ты мне, а я тебе.

А от взаимопомощи по отношению к своим уже один шаг до эмпатии, очеловечиванию и (взаимо)помощи всем.
И, видимо, такой же путь проходили на этапах своей эволюции и разумные алиены.

И потом, чисто психологически - огромная Вселенная. И пустая. Полёт. Шары, шары, большие, маленькие, горячие, холодные... И через долгое-долгое время полёта - обитаемый мир. Жизнь спустя долгое время полёта, жизнь между мёртвыми небесными телами. Не будут ли космические пришельцы испытывать чувство, сходное с чувствами моряков, наконец встречающих населённую сушу? Чувство радости вместо желания убить и истребить?

Ещё кое-что - вот стоИт напротив меня некто. Разумное существо. Я могу его убить, а могу о чём-то и попросить. Сегодня об одном, завтра о другом. И если мы с ним начнём друг друга понимать - то мне проще, взаимодействуя с ним добиваться чего-то через него, через того кого я уже знаю - чем всё идти и делать самому. Если это местный житель - то он хорошо знает свой лес, свои горы, своё море, своих животных. Мне проще расспросить его, нежели убить его и лезть самому во всякую крапиву и колючки.

Смысл в том, что взаимокооперирование (по идее должно быть!) выгоднее взаимоуничтожения.
Высокоразумные существа должны бы понимать такое. Наверное...

[mbrane]

Внутри себя сложная система неизбежно требует гуманизма. Законности. Права.

Не требует...Весаь гумманизм , право и порядок возможен только тогда когда общественного пирога много , а едоков мало...Когда наооборот (мальтузианский кризис), то о праве и порядке забывают ...Еждели чо - посмотрите что в вашей родной стране творится на 300 километров юго-восточнее вашего города - да собственно оно уже и по всей стране не силно лучше (но снаряды еще к вашему счастью вы еще по звуку входящие и от исходящих прилеты отличать не умеете)

Он искренне верит в глобализацию и победу гуманизма.

А я знаю одного швелского прхвесора-футкролоха, который на полном серьезе рассматривает переход цивилизации к 100 полисам, и повальной безработице....Фрики  они такие - сидят себе на велфере всю жизнь (как првый из них Карл Маркс) да херню в книжках пописывают, в чем сами не понимают

А вы действительно так наивны что полагаете что прилавки опустели из-за родовых пороков плановой экономики?

Частично и от этого тоже... Неправильные прогнозы (например из неправильного прогноза сбыта, исчерпание местрождений гдобальное перехода на новые технологические схемы, внедрение компьютеризации в учет и т.д.) - приводят к неправильному перераспределенрию конечных ресурсов , а зачастую и к громадным убыткам...Что дает косяки в финансовом положении огромных отраслей и всего государства ...Конечно не буду списывать и конкретный умысел принимающих решение...Развал СССР начал конкретно Ельцин (лучше быть первым в галии , чем вторым в риме) , и в финансовом плане он возник из-за появления ЦБ РФСФСР - который начал печатать напарво  и налево деньги это 1990-1991 годы, которые потом успешно обналичивал Геращенко с Ходорковским.... Но структурные перекосы - так же существовали немалые - например вызванные исчерпание Донбасса, а затем Самтлора, и нефтяг=нным шоком-2

[neolopus]

Разумными мы стали ведь далеко не сразу...
Когда-то и мы были животными. Управлявшимися эмоциями, чувствами и гормонами.
Видимо похожую эволюцию должны были пройти и они. Не сразу же они стали умными-разумными? Нет же. и у них, скорее всего, были этапы развития, когда управляли ими химические вещества через чувства.
Значит и у них должны быть чувства.

Если у них были когда-либо дальние путешествия - то и у них должно быть ощущение ну родного берега что ли. Типа "наконец приплыли".
Если им когда-либо приходилось трудиться, преодолевая себя и создавая что-то очень нужное - то они поневоле проникнутся к тем, кто тоже умеет преодолевать себя и создавать нечто нужное...

[mbrane]

Вряд ли нестайные, нестадные животные эволюционируют в разумных. Это прерогатива животных, ведущих стадный образ жизни. И, получается, у этих животных должны быть какие-то "прошивки" взаимопомощи в генах. Ты мне, а я тебе.

есть такие гены в прошивке - иначе бы нас не существовало - ведь мы многоклеточные, и преобладающее большинство клеток в виду некоего альтруистического поведения не способно к размножению...Поначалу это возникло видимо как слабое биохимическое взаимодействие на уровне популяции равноправных агентов, затем  превратилось в сильное но жеское регулирование с превращением популяции в единый организм...Это  так называемая проблема альтрузма в биологии - е там вовсю пытаются изучать...Но регулирование там весьма , возникающая за счет отбора на уровне популяций близких родственников (в примере с многклеточностью или пчелами/муровьями - родство 99,9999999%, а специализация вообще термодинамическими флуктуацмями концентраций сигнальных молекул определяется) 

А от взаимопомощи по отношению к своим уже один шаг до эмпатии, очеловечиванию и (взаимо)помощи всем.

ну тогда считайте колониальных цианбактерий - как гумманистов .. некоторые из них жертвуют размножением, ради кормежки со строны других членов социума, но взамен поставлют азот в колонию

[alena_korf]

Мышление других цивилизаций будет отличаться от нашего, а значит и выводы они могут делать другие. Особенно по таким философским вопросам.

как бы мышление не отличалась, но эволюционные законы, очевидно, одинаковы везде. улавливаете?

[neolopus]

Вряд ли нестайные, нестадные животные эволюционируют в разумных. Это прерогатива животных, ведущих стадный образ жизни. И, получается, у этих животных должны быть какие-то "прошивки" взаимопомощи в генах. Ты мне, а я тебе.

А от взаимопомощи по отношению к своим уже один шаг до эмпатии, очеловечиванию и (взаимо)помощи всем.

ну тогда считайте колониальных цианбактерий - как гумманистов .. некоторые из них жертвуют размножением, ради кормежки со строны других членов социума, но взамен поставлют азот в колонию

Колониальные цианобактерии - они как бы неразумные.
Гуманисты они или не гуманисты - как бы не очень важно. Что взять с цианобактерий и что можно им предъявить? Да ничего ж особенно.

Хотелось бы чтобы те, которые посильнее и поразвитее цианобактерий (и посильнее нас, кстати, тоже) - тоже были бы гуманистами.