Целеполагание самостоятельного сильного искусственного интеллекта и человек

[BlackMokona]

Ну ведь как то договорились каждого дурака не подпускать к ядерным боеголовкам. Жить захотят смогут договориться

Один пухлощекий парень смеётся и поглаживает свою ядерную боеголовку.

[paxan96]

Ну ведь как то договорились каждого дурака не подпускать к ядерным боеголовкам. Жить захотят смогут договориться

Один пухлощекий парень смеётся и поглаживает свою ядерную боеголовку.

Ещё не факт что у них что то там есть. Их ракеты при испытаниях так и грохаются в море.

[BlackMokona]

Ещё не факт что у них что то там есть. Их ракеты при испытаниях так и грохаются в море.

Некоторые выходили в космос, да и бомбу точно взрывал.
Плюс же не один такой
Индия,Пакистан, Израиль, тоже никаких прав на бомбу не давали им. И ничего есть арсенал.

[paxan96]

Ещё не факт что у них что то там есть. Их ракеты при испытаниях так и грохаются в море.

Некоторые выходили в космос, да и бомбу точно взрывал.
Плюс же не один такой
Индия,Пакистан, Израиль, тоже никаких прав на бомбу не давали им. И ничего есть арсенал.

Эти страны подчиняются так скажем выше стоящим

[Olweg]

Скорее на благо. Но есть риск выхода из-под контроля. Кроме того, неизбежна гонка кибервооружений.

[wildpig]

Сам по себе из под контроля он не выйдет. У него не будет инстинкта самосохранения, склонности к жестокости, склонности к доминированию и других неприятных черт, если только создатели их ему не сделают.
А вот что опасно, так это то, что его попытаются сделать оружием и вот тогда и только тогда он может выйти из под контроля.

[Olweg]

Сам по себе из под контроля он не выйдет. У него не будет инстинкта самосохранения, склонности к жестокости, склонности к доминированию и других неприятных черт, если только создатели их ему не сделают.

Это и не нужно. Достаточно, чтобы создатели заложили ему цели. Проблема с ИИ в том, что невозможно предсказать, какие средства он выберет для достижения заложенных целей.

[Rattus]

Как Вы считаете, для современного человечества  Искусственный Интеллект или разум благо или может обернуться для него злом?

Чтобы Вашу тему можно было содержательно обсуждать, define "благо для человечества".

[MenFrame]

благо или может обернуться для него злом?

Благо и Зло это категории детского мышления.

[Rattus]

Благо и Зло это категории детского мышления.

Не обязательно. Полагание их абсолютно объективными характеристиками - признак незрелого мышления. Потому и поставлен вопрос: в каких именно временнЫх, биологических либо культурных рамках определяется "современное человечество"? От этого и будет всецело зависеть содержательный ответ.
Например: если оное человечество будет ограничено только рамками текущего поколения, то благом можно считать и меры по тотальной его стерилизации - ибо дальнейшая судьба его в задаче не ставится, а затраты времени и ресурсов на потомство в любом случае снижают текущий общий комфорт и уровень жизни.
Если же наоборот - будущее как биологического вида - то благом могут считаться меры, подобные применявшимся террористической группой "Боко Харам", активно пресекавшей женское образование, которое, как известно, является первейшей причиной снижения рождаемости у современных людей. И т.д. и т.п.

Ну а поскольку тема создана в группе разделов форума, где действует правило о запрете флуда и оффтопа (п.3.1.д. Правил Форума),

Комментарий модератора раздела

в случае отсутствия ответа на уточняющие вопросы в течение нескольких последующих суток тема будет закрыта как бессодержительная, либо дублирующая существующие:
https://astronomy.ru/forum/index.php/topic,171432.0.html
https://astronomy.ru/forum/index.php/topic,130794.0.html
с последующим удалением.

[wildpig]

благо или может обернуться для него злом?

Благо и Зло это категории детского мышления.

Зло - это когда зулусы воруют наших коров
Добро - это когда мы воруем коров у зулусов

[comp]

Ну ведь как то договорились каждого дурака не подпускать к ядерным боеголовкам. Жить захотят смогут договориться

1. Для создания атомной бомбы нужны редкие материалы, за которыми относительно просто установить контроль, и массивная производственная инфраструктура, которую легко обнаружить. ИИ - просто программа, работающая на компьютере.
2. У атомной бомбы по сути очень мало применений - запугивание окружающих, да и всё, собственно. Причём  сохранению тайны оно прямо противоречит. А вот ИИ может применяться во множестве разных сфер, при этом совершенно себя не афишируя.

[Valeriy Iljin]

Чтобы Вашу тему можно было содержательно обсуждать, define "благо для человечества".

  Благо для человечества, в моем понимании, это возможность создания с помощью искусственного интеллекта или разума самых благоприятных условий для существования и жизнедеятельности человека во всех сферах.
Но как Вы знаете, пока что может существовать и другая сторона этой «медали»- «Благи́ми наме́рениями вы́мощена доро́га в ад»
 Похоже для сравнения с принципами использования атомной энергии, но атомная энергия не может идти ни в какое сравнение с возможными последствиями использования на современном этапе искусственного интеллекта. Атомная энергия в руках человека для сравнения, это простой нож, а ИИ это уже настоящий джин, позволяющий выполнить любое желание хозяина этого джина.

[Maki]

Благо для человечества, в моем понимании, это возможность создания с помощью искусственного интеллекта или разума самых благоприятных условий для существования и жизнедеятельности человека во всех сферах.

Понятие "благоприятные условия" могут весьма различаться для разных людей. Для кого-то это жизнь по канонам религиозной секты. Для кого-то - максимальная приватность и анонимность. А для кого-то - максимальная цифровизация и комфорт. Вот, для последней группы, ИИ безусловное благо. А для первой и второй - цифровой надзор и контроль будет весьма малоприятен. Такие понятия как коммерческая или банковская тайна, например, цифровизация уже свела практически на нет, а персональные данные сделались по сути "всеобщим достоянием".
Ну и для власть имущих, ИИ прекрасное подспорье, ибо позволяет держать под контролем население, и принимать наиболее эффективные (с точки зрения самой власти) решения.
"Золотая клетка" - это, возможно, громко сказано. Но вырисовывается нечто подобное ей. 

[paxan96]

Благо для человечества, в моем понимании, это возможность создания с помощью искусственного интеллекта или разума самых благоприятных условий для существования и жизнедеятельности человека во всех сферах.

Понятие "благоприятные условия" могут весьма различаться для разных людей. Для кого-то это жизнь по канонам религиозной секты. Для кого-то - максимальная приватность и анонимность. А для кого-то - максимальная цифровизация и комфорт. Вот, для последней группы, ИИ безусловное благо. А для первой и второй - цифровой надзор и контроль будет весьма малоприятен. Такие понятия как коммерческая или банковская тайна, например, цифровизация уже свела практически на нет, а персональные данные сделались по сути "всеобщим достоянием".
Ну и для власть имущих, ИИ прекрасное подспорье, ибо позволяет держать под контролем население, и принимать наиболее эффективные (с точки зрения самой власти) решения.
"Золотая клетка" - это, возможно, громко сказано. Но вырисовывается нечто подобное ей.

Нет золотой клетки. Никто не мешает уйти жить в лес на самообеспечение и не контактировать с цивилизацией.

[Nik-Kul]

  ИИ добро когда просто мозг, но когда у него образуются обратные связи типа рук и ног , крылья и помощники , скорее всего это зло . Будет сам по себе куркуль 

[алексей12345]

Никто не мешает уйти жить в лес на самообеспечение и не контактировать с цивилизацией

Ну да. А что делать, если есть желание жить в комфорте, но не быть под микроскопом? Выбор так себе: или под рентген с ограничением личных свобод, или в глушь в нору. Как-то выбор не очень. Меня ни один, ни другой вариант не устраивает.

[Olweg]

Нет золотой клетки. Никто не мешает уйти жить в лес на самообеспечение и не контактировать с цивилизацией.

Никто не мешает, но почему-то таких людей исчезающе мало. Наоборот, все стремятся в мегаполисы-человейники, несмотря на все минусы существования в них. И тенденция эта не поменяется. Комфорт для людей приманка гораздо более сильная, чем приватность.

[Valeriy Iljin]

Нет золотой клетки. Никто не мешает уйти жить в лес на самообеспечение и не контактировать с цивилизацией.

  А когда уходить в лес, сейчас еще рано, а когда какой либо индивид или кооператив получит в свое управление кнопку управления ИИ может быть уже поздно.

[cybertron]

А когда уходить в лес

Нужно иметь готовый собранный рюкзачек со всем необходимым. Чтобы в случае чего - рюкзак за плечо и ходу.
Правда чтобы наверняка уж быть уверенным надо иметь несколько рюкзачков.
Один на случай восстания роботов, другой для нашествия зомби, третий - для прилета инопланетян.