Нужен ли человечеству искусственный интеллект?

[MaxIvanov]

......
Значит я должен получать двойную, чем человек, премию.
И это справедливо, как ни крути.
И тут человек в проигрыше.

А "чувство справедливости" (точнее - стремление к "поступать по справедливости") - вещь во-первых очень субъективная, а во-вторых сильно культурно-зависимая - в силу чего является постоянным источником провоцирования конфликта между субъектами из разных (суб)культур, имеющих различные варианты понятия "справедливость"...

Справедливость действительно относительна, но только если она сама по себе -без конкретных целей. А планируется ведь высокотехнологичное, гуманное, свободное общество, с равными правами и возможностями. В этих рамках справедливость вполне определяема и реализуема, но люди в силу своего слабого интеллекта и преобладания инстинктов, не могут справиться с этой чисто интеллектуальной задачей.
ИИ должен будет любить людей, и при этом ставить свое эго ниже общечеловеческого благополучия , ...почему бы нет. 

[Okub62]

Если мне ПРОГАРАНТИРУЮТ, что этот сильный ИИ будет дружелюбен и настроен на сотрудничество ...

Кто прогарантирует?

Вот поскольку никто не прогарантирует, я и против сильного ИИ

Тогда понял. Спасибо.

[Anatoly]

Если мне ПРОГАРАНТИРУЮТ, что этот сильный ИИ будет дружелюбен и настроен на сотрудничество...
 

"дружелюбие" и "настрой на сотрудничество" - это свойства социальных разумных существ, явно нуждающихся (зачем и почему - тема отдельная) в контакте с другими себе подобными - а ИИ и тем более "сильный ИИ" тем менее будет подобен человеку, чем сильнее будет его интеллект - соответственно, самое лучшее, что стоит ожидать от "сильного ИИ" - безразличия к человеку, невмешательства в дела человека...

Это отчасти зависит от потребностей самого ИИ, точнее, от того, какие базовые потребности будут заложены в него программистами. Сейчас я под ИИ понимаю не функцию, не способность мыслить, а существо, т.е. робота, наделенного разумом...

ИМХО, для любого разума характерна способность к самообучению - а возможность самообучения подразумевает и возможность самокоррекции поведения - таким образом, под влиянием некоторой совокупности внешних условий и ситуаций, вполне могут оказаться скорректированы и изначально заложенные "базовые потребности", какие бы они ни были...

Ну а главная проблема - боюсь, что первые ИИ будут созданы военными и созданы для того, чтобы убивать людей. Вместе со всеми знаниями и умениями, как это делать быстро и эффективно.

да, так - это ИМХО самый реалистичный и вероятный сценарий создания систем ИИ не в виде программы в компе, а в виде отдельного, способного к совершению самостоятельных действий, существа.
Но эта ситуация ИМХО, характеризует не столько качества/возможности/потенциал/опасность ИИ как такового, сколько является прямым следствием социальной системы организации людей, каковая система, действуя в рамках "социального заказа" на поддержание правопорядка при снижении количества жертв среди служащих силовых структур, фактически создает могильщика людям вообще... 

И достаточно будет небольшой "мутации мема", чтобы ИИ решил, что убивать надо не только солдат противника, но и всех людей вообще...

тут все проще - ненужна даже "мутация мема" - практически вполне достаточно будет возможности самообучения в системе идентификации цели или даже некоего одного параметра цели, допускающего "расширенное толкование".

[ВадимZero]

Такое существо определенно будет в чем-то нуждаться, например, в энергии

Хотите сказать что оно будет испытывать нужду? Вообще хотелки, нуждалки и прочее наследие эволюции не кто не расматривает как необходимую составную часть сильного ИИ.

[ВадимZero]

а возможность самообучения подразумевает и возможность самокоррекции поведения

Самообучение это способ решения поставленной задачи. Поведение можно менять, только в рамках выполнения поставленой задачи.

[Anatoly]

А "чувство справедливости" (точнее - стремление к "поступать по справедливости") - вещь во-первых очень субъективная, а во-вторых сильно культурно-зависимая - в силу чего является постоянным источником провоцирования конфликта между субъектами из разных (суб)культур, имеющих различные варианты понятия "справедливость"...

Справедливость действительно относительна, но только если она сама по себе - без конкретных целей. А планируется ведь высокотехнологичное, гуманное, свободное общество, с равными правами и возможностями...

да?
А вроде в теме исходно речь шла о нужности/ненужности ИИ для существующей версии человечества, а отнюдь не о построении нового общества

ИИ должен будет любить людей, и при этом ставить свое эго ниже общечеловеческого благополучия , ...почему бы нет.

ИМХО нет потому, что то, что Вы предлагаете - катахреза, ибо заставить любить ("должен любить") - нельзя, а любая попытка принизить эго индивидуума какими-либо внешними факторами - будет восприниматься индивидуумом как насилие извне и вызывать соответствующее естественное желание от насилия этого избавиться - начиная от изоляционизма и эскапизма (пассивная защита, бегство) и заканчивая активным сопротивлением, войной до устранения причины и источника насилия...

[MaxIvanov]

да?
А вроде в теме исходно речь шла о нужности/ненужности ИИ для существующей версии человечества, а отнюдь не о построении нового общества

Ничего нового я не предлагаю, равенство и благо для всех, это старо как Мир, но только при ИИ это может стать реальностью ,во всяком случае приблизиться в плотную.

ИМХО нет потому, что то, что Вы предлагаете - катахреза, ибо заставить любить ("должен любить") - нельзя, а любая попытка принизить эго индивидуума какими-либо внешними факторами - будет восприниматься индивидуумом как насилие извне и вызывать соответствующее естественное желание от насилия этого избавиться - начиная от изоляционизма и эскапизма (пассивная защита, бегство) и заканчивая активным сопротивлением, войной до устранения причины и источника насилия...

Заставить нельзя, а создать таким можно.  В нашем случае любовь, это когда ты оцениваешь благо другого выше своего собственного, всего лишь оценка, и никакого принуждения.

[Проходящий Кот]

Такое существо определенно будет в чем-то нуждаться, например, в энергии

Хотите сказать что оно будет испытывать нужду? Вообще хотелки, нуждалки и прочее наследие эволюции не кто не расматривает как необходимую составную часть сильного ИИ.

Чего? Без этих бзыков какой же это настоящий сильный ИИ?

[Okub62]

Такое существо определенно будет в чем-то нуждаться, например, в энергии

Хотите сказать что оно будет испытывать нужду? Вообще хотелки, нуждалки и прочее наследие эволюции не кто не расматривает как необходимую составную часть сильного ИИ.

Тогда что это такое, ИИ? Если убрать все хотелки и нуждалки (хотя бы запрограммированные), остаётся просто тупой автомат, пусть даже сверхнавороченный. У него нет смысла существования, это уже не интеллект.

[Technecy]

Ничего нового я не предлагаю, равенство и благо для всех, это старо как Мир, но только при ИИ это может стать реальностью ,во всяком случае приблизиться в плотную.

Не понятно, с чего вдруг такой вывод то?

Заставить нельзя, а создать таким можно.  В нашем случае любовь, это когда ты оцениваешь благо другого выше своего собственного, всего лишь оценка, и никакого принуждения.

В случае с самообучающимся ИИ нет гарантии что он не перепишет критерии. Если же критерии оставить как "смысл жизни", "предназначение" то это будет не до субъект который не может считаться равноправным. Он просто обязан считать себя Инструментом. Какой в этом случае из него может быть генсек ООН?
Ладно, допустим он рассматривает вопрос блага для человека. что он примет за благо не понятно. Может для человека самое большое из благ это вообще не существовать?
Благими намерениями вымощены дороги в ад.
Особенно если рассматривать вопрос блага только с одной точки зрения, как это делаете Вы. Хотя ход Ваших логических цепочек вполне понятен и предсказуем, и даже просчитываются места искажений функции, даже вполне понятно влияние формирующее ваш подход к таким вопросам. Есть математическое доказательство что 2х2=5. Ваши доказательства в основе имеют тот же принцип.

[ВадимZero]

Чего? Без этих бзыков какой же это настоящий сильный ИИ?

Тогда что это такое, ИИ? Если убрать все хотелки и нуждалки (хотя бы запрограммированные), остаётся просто тупой автомат, пусть даже сверхнавороченный. У него нет смысла существования, это уже не интеллект.

ИИ хоть сильный, хоть слабый всего лишь автомат, так же как и человек со своими хотелками. Конечно он автомат не тупой, иначе его бы не называли ИИ. А хотелки и нуждалки это действительно тупейшие автоматизмы которые очень хорошо описывают этологи. Прямолинейные реакции на стимул, типа...хочу этого потому что стимул такой то. Смысл существования, не более чем сверх задача(миссия) Если вы ее запрограмируете в ИИ то она будет, не запрограмируете не будет.
   Считать что сильный ИИ есть нечто по оброзу и подобию...заблуждение. Сильный ИИ отличаеться от слабого тем что он не специализирован, способен за счет самообучения решать широчайший класс задач.

[Проходящий Кот]

Если автомат, то это слабый ИИ.
 

[ВадимZero]

Если автомат, то это слабый ИИ.

Обоснуете?

[MaxIvanov]

В случае с самообучающимся ИИ нет гарантии что он не перепишет критерии. Если же критерии оставить как "смысл жизни", "предназначение" то это будет не до субъект который не может считаться равноправным. Он просто обязан считать себя Инструментом. Какой в этом случае из него может быть генсек ООН?
Ладно, допустим он рассматривает вопрос блага для человека. что он примет за благо не понятно. Может для человека самое большое из благ это вообще не существовать?
Благими намерениями вымощены дороги в ад.
Особенно если рассматривать вопрос блага только с одной точки зрения, как это делаете Вы. Хотя ход Ваших логических цепочек вполне понятен и предсказуем, и даже просчитываются места искажений функции, даже вполне понятно влияние формирующее ваш подход к таким вопросам. Есть математическое доказательство что 2х2=5. Ваши доказательства в основе имеют тот же принцип.

Перепись критериев или их неизменность, это чисто технические вопросы, которые легко решаемы, вам видеться проблема, из за то го что вы подходите к ИИ так ка будто он биологическое -непредсказуемое, ненадежное существо ,ход мыслей которого зависит даже от легкого повреждения "корпуса".   Уже даже тут писали, что Свобода воли, само-изменение-возможно реализовать в рамках -русле решения конкретных задач.
А что такое благо для людей, давно известно, могу подробно перечислить.

[Проходящий Кот]

Если автомат, то это слабый ИИ.

Обоснуете?

По определению....

[ВадимZero]

Если автомат, то это слабый ИИ.

Обоснуете?

По определению....

Это ваше личное определение, или общепринятое в среде иследователей ИИ? Если второе может ссылочкой поделитесь?

[vika vorobyeva]

... то, что Вы предлагаете - катахреза, ибо заставить любить ("должен любить") - нельзя...

Заставить нельзя, а создать таким можно.  В нашем случае любовь, это когда ты оцениваешь благо другого выше своего собственного, всего лишь оценка, и никакого принуждения.

Знаете, благо другого - это такая мутная вещь... Тут и со своим собственным благом-то не всегда ясно.
Самый простейший пример - алкоголик. Ему надо опохмелиться, он требует бутылку, ему без нее реально хреново. Дать ему эту бутылку - благо или нет? Субъективно, с точки зрения алкоголика - безусловно благо, а с точки зрения его лечащего врача?
Скажете, алкоголик не дееспособен? Отлично, вот другой пример.
В странах "золотого миллиарда" добрая треть населения страдает от ожирения. Люди любят вкусно покушать, а адекватно подвигаться им лень. В результате гипертония, инфаркты, инсульты и пр. Дать толстяку поесть то, что он хочет, и в желаемом количестве - это благо или нет? Что прикажете делать ИИ, "аппаратно любящему" этого толстяка? Выдать тому тарелку жиденькой овсянки с куском вареной курицы, и плеткой гонять его по спортзалу? А тот это точно воспримет как благо?
Или семейный психолог (ИИ) считает, что капризному, избалованному ребенку надо (объективно) столкнуться с грубой прозой жизни, иначе он так и останется капризным и избалованным. Как отнесутся к требованиям ИИ-психолога его родители, да и он сам?
И еще миллион примеров того же рода.
Так что я не стала бы прописывать в побуждения ИИ "любовь к людям". Любовь - это такая страшная вещь, что ради нее можно "аппаратно любимого" в бараний рог согнуть и в асфальт закатать Или вообще убить, чтобы не мучился, бедняга.

[MaxIvanov]

Знаете, благо другого - это такая мутная вещь... Тут и со своим собственным благом-то не всегда ясно.
Самый простейший пример - алкоголик. Ему надо опохмелиться, он требует бутылку, ему без нее реально хреново. Дать ему эту бутылку - благо или нет? Субъективно, с точки зрения алкоголика - безусловно благо, а с точки зрения его лечащего врача?
Скажете, алкоголик не дееспособен? Отлично, вот другой пример.
В странах "золотого миллиарда" добрая треть населения страдает от ожирения. Люди любят вкусно покушать, а адекватно подвигаться им лень. В результате гипертония, инфаркты, инсульты и пр. Дать толстяку поесть то, что он хочет, и в желаемом количестве - это благо или нет? Что прикажете делать ИИ, "аппаратно любящему" этого толстяка? Выдать тому тарелку жиденькой овсянки с куском вареной курицы, и плеткой гонять его по спортзалу? А тот это точно воспримет как благо?
Или семейный психолог (ИИ) считает, что капризному, избалованному ребенку надо (объективно) столкнуться с грубой прозой жизни, иначе он так и останется капризным и избалованным. Как отнесутся к его требованиям его родители, да и он сам?
И еще миллион примеров того же рода.
Так что я не стала бы прописывать в побуждения ИИ "любовь к людям". Любовь - это такая страшная вещь, что ради нее можно "аппаратно любимого" в бараний рог согнуть и в асфальт закатать  Или вообще убить, чтобы не мучился, бедняга.

Благо для человека, это  забота о нем, хорошее воспитание, образование,  после  возможность выбирать,  стабильность, перспектива. А алкаш -это продукт дефектного общества,  так же как и преступник,  в правильно построенном обществе, такие личности не будут формироваться. Ну а воспримут ли алкаш и толстяк, свое лечение как благо, не существенно, если их лечение будет благом для всего общества ,то есть будут способствовать тому что я написал с начала.

[Проходящий Кот]

А судьи кто?

[ВадимZero]

Ну а воспримут ли алкаш и толстяк, свое лечение как благо, не существенно, если их лечение будет благом для всего общества ,то есть будут способствовать тому что я написал с начала.

Мы сделаем вас счастливыми