Целеполагание самостоятельного сильного искусственного интеллекта и человек

[Valeriy Iljin]

В каждой шутке есть доля правды.
 Нет. Смотаться уже может не получиться.

...Чтобы в случае чего - рюкзак за плечо и ходу....

О чем это может говорить. А это означает, что система уже запущена в работу, раз появились такие соображения. Вы уже как законопослушный гражданин не собираетесь "на троих"-не санкционированное сборище, выступать с "плакатиком" против системы не будете -запрещено законом. Уйти или выскочить из поля зрения не позволит система распознавания лиц, которая уже существует, и исчезновение объекта из определенного круга телодвижений, дом-работа-магазин-дом, определенный робот запустит поиск этого объекта и вы не успеете покинуть даже район  места проживания. Определенные службы доставят обратно, а что бы не возникали еще помыслы, накажут этак на 100 трудодней. Если будут обнаружены иные замыслы можно загреметь и в
 места не столь отдаленные. Так что поздно может быть готовить рюкзачек.
 

[Rattus]

Благо для человечества, в моем понимании, это возможность создания с помощью искусственного интеллекта или разума самых благоприятных условий для существования и жизнедеятельности человека во всех сферах.

Всё равно осталось совершенно непонятным - что значит "самых благоприятных условий для существования и жизнедеятельности человека во всех сферах": для человека как вида или для человека как совокупности большинства нынеживущих особей? В зависимости от варианта рекомендуемые меры могут быть диаметрально противоположны (максимально широкое распространение средств контрацепции либо наоборот - резкое ограничение прав женщин, прежде всего на образование).

ИИ это уже настоящий джин, позволяющий выполнить любое желание хозяина этого джина.

Это представление никак не соответствует реальности. Любой ИИ - это всегда конкретная информационная система с конкретными и местами уже вполне известными физическими и инженерными ограничениями.

Комментарий модератора раздела

Ещё раз настоятельно прошу автора уточнить тему обсуждения, чтобы она не была закрыта за бессодержательностью.

[Valeriy Iljin]

  Для сознательной  части человеческого общества создание ИИ будет благом в любом случае, в любых вариантах, но на сегодня миром правят деньги, а где деньги там и власть. Власть всегда будет стремиться к сохранению своих ненасытных амбиций вот тут и могут пригодиться возможности создаваемого искусственного интеллекта, то есть для нее создание ИИ также может быть благом, только для совсем других целей.
  Возьмем для примера систему распознавания лиц, в настоящее время еще довольно слабая, благо это  или зло. Возможность нахождения любого человека будь то террорист или хороший человек несогласный с существующей властью. Смотря как использовать эту систему. Ну и так далее, нет смысла перечислять. А так в принципе с темой все понятно, на Ваше усмотрение.

[paxan96]

Никто не мешает уйти жить в лес на самообеспечение и не контактировать с цивилизацией

Ну да. А что делать, если есть желание жить в комфорте, но не быть под микроскопом? Выбор так себе: или под рентген с ограничением личных свобод, или в глушь в нору. Как-то выбор не очень. Меня ни один, ни другой вариант не устраивает.

В целом мы не особо интересно правительству мы. Да и чисто физически они не смогут за каждым следить, то есть лично знать кто куда пошёл и т.д.

[cybertron]

Да и чисто физически они не смогут за каждым следить

Вот для этого им ИИ и нужен.
Невозможно посадить миллион человек на прослушку всех телефонных разговоров. Но можно подключить компьютер с ИИ чтобы он слушал о чем разговаривают. И при обнаружении ключевых слов (Ну Навальный например) - срабатывал и ставил галочку в нужную графу в досье. И потом уже при желании можно будет данного человека продернуть по какой-нибудь статье.

[Olweg]

Всех не пересажаешь. Тут скорее подойдёт китайский социальный рейтинг. Чтобы человек, качающий права, не смог потом ни ипотеку взять, ни из родного Урюпинска никуда выехать.

[Ый]

они не смогут за каждым следить, то есть лично знать кто куда пошёл и т.д

Сейчас не 100%, но многие находятся "под колпаком". Правда, полностью отслеживать все телодвижения подконтрольных нет возможности, но эти телодвижения фиксируются техническими средствами и хранятся некоторое время. Как? А вот:
1. Во многих местах видеокамеры, которые узнают всех по лицу.
2. Телефоны, интернет - все соединения фиксируются и хранятся разговоры некоторое время.
3. Именные проездные билеты (пенсионные, учебные, студенческие) - все поездки фиксируются, где, когда и в какое время сел в какой вид транспорта и где вышел. Это вообще не секрет, возьмите свой проездной "Тройка" или "Стрелка", зарегистрируйте в интернете свою карту и там вы всё это увидите.
3. Банковские карты - все денежные операции, где и когда.
И многое другое. Это только начало, а потом будет фиксироваться абсолютно всё, вплоть до того, сколько вы использовали туалетной бумаги и в какое время.
За всем этим, конечно, не могут уследить люди, но для чего искусственный интеллект внедряют, по-вашему?
Так что, для власти ИИ, конечно, великое благо. А для народа? Думайте сами.

[Valeriy Iljin]

3. Банковские карты - все денежные операции, где и когда.

Сбер уже сейчас предлагает вместо пина использовать сетчатку глаз.
 А если поступит предложение к добровольно принудительному чипированию, сможем ли отказаться?

[ivanij]

они не смогут за каждым следить, то есть лично знать кто куда пошёл и т.д

Сейчас не 100%, но многие находятся "под колпаком". Правда, полностью отслеживать все телодвижения подконтрольных нет возможности, но эти телодвижения фиксируются техническими средствами и хранятся некоторое время. Как? А вот:
1. Во многих местах видеокамеры, которые узнают всех по лицу.
2. Телефоны, интернет - все соединения фиксируются и хранятся разговоры некоторое время.
3. Именные проездные билеты (пенсионные, учебные, студенческие) - все поездки фиксируются, где, когда и в какое время сел в какой вид транспорта и где вышел. Это вообще не секрет, возьмите свой проездной "Тройка" или "Стрелка", зарегистрируйте в интернете свою карту и там вы всё это увидите.
3. Банковские карты - все денежные операции, где и когда.
И многое другое. Это только начало, а потом будет фиксироваться абсолютно всё, вплоть до того, сколько вы использовали туалетной бумаги и в какое время.
За всем этим, конечно, не могут уследить люди, но для чего искусственный интеллект внедряют, по-вашему?
Так что, для власти ИИ, конечно, великое благо. А для народа? Думайте сами.

 Это элементарный алгоритм, а никакой не искусственный интеллект.

[Valeriy Iljin]

 Это элементарный алгоритм, а никакой не искусственный интеллект.

  Естественно не ИИ. Но ведь эти алгоритмы не на счеты положены, а еще на одну ступеньку приближающую к созданию этого ИИ.

[Olweg]

ИИ сможет обрабатывать эту информацию для поиска нежелательных поползновений. Уже используется, на самом деле. Можно, конечно, назвать его как-то по-другому, но есть уже устоявшаяся терминология. Если мы ожидаем от ИИ проявлений личности, воли и т.п. - то это не более чем антропоморфизм. Интеллект вовсе не обязан всеми этими человеческими чертами обладать. Это просто инструмент.

[Сергей Н]

ИИ сможет обрабатывать эту информацию для поиска нежелательных поползновений. Уже используется, на самом деле. Можно, конечно, назвать его как-то по-другому, но есть уже устоявшаяся терминология. Если мы ожидаем от ИИ проявлений личности, воли и т.п. - то это не более чем антропоморфизм. Интеллект вовсе не обязан всеми этими человеческими чертами обладать. Это просто инструмент.

Более эффективный ИИ все равно должен обладать личностью. Для того что бы решить задачу связанную с реальным окружением надо понимать устройство всего окружения и в том числе себя как связанный с окружением объект ответственный за результат. Или проще говоря, лучше иметь всю полноту информации на всякий случай, чем чего-то не знать.

[Valeriy Iljin]

ИИ сможет обрабатывать эту информацию для поиска нежелательных поползновений. Уже используется, на самом деле. Можно, конечно, назвать его как-то по-другому, но есть уже устоявшаяся терминология. Если мы ожидаем от ИИ проявлений личности, воли и т.п. - то это не более чем антропоморфизм. Интеллект вовсе не обязан всеми этими человеческими чертами обладать. Это просто инструмент.

   Можно говорить о том, что прирученная атомная энергия, плод работы выдающихся ученых, атомная энергия- благо, но можно его использовать и для уничтожения населения. Одним ученым можно и Нобелевскую, а тем кто создал бомбу для уничтожения себе подобных достаточно и героя, тоже хорошо.
   Создание высокоскоростных вычислительных систем, скорость которых 10 в 18степени операций в секунду, тоже хорошо, уже сегодня позволяет делать прогноз погоды на десятилетия, эту скорость также можно использовать по определенному назначению.

[MenFrame]

Более эффективный ИИ все равно должен обладать личностью.

Личность не более чем образ самого себя в модели мира. То есть конечно знание о самом себе нужно для всех задач связанных со взаимодействием ИИ с окружающей средой.

[Rattus]

Смотря как использовать эту систему. Ну и так далее, нет смысла перечислять. А так в принципе с темой все понятно, на Ваше усмотрение.

Ну вот видите - сами уже знаете ответ на свой вопрос - стоило только немного подумать самому. К слову: в аналогичной вышеуказанной теме таковой ответ был дан уже на третьей странице:

цивилизованное человечество уже более двух тысяч лет как добровольно отдало себя под власть совершенно неразумной машины - "Государства и права". Затем формализовав это верховенство над всеми своими властями в виде "Конституции".
Но от самих властей отказаться пока так и не смогло не смотря на все усилия - слишком разнообразны формы общественных взаимодействий для простой формализации оказались.
Фактически сильный ИИ-менеджмент как раз и должен суметь обеспечивать такую формализацию, зменив иисполнительную и законодательную власти.
Причём произойти это может, разумеется, только при всемерной поддержке электората и самих правителей - что вполне может оказаться выгодно всем - менеджмент это далеко не всегда приятная работа на самом деле, а лень - первейший двигатель прогресса, как известно.

Комментарий модератора раздела

Тема объединена с существующей.

Более эффективный ИИ все равно должен обладать личностью.

Разве что только для интерфейса с клиентом.

Для того что бы решить задачу связанную с реальным окружением надо понимать устройство всего окружения и в том числе себя как связанный с окружением объект ответственный за результат. Или проще говоря, лучше иметь всю полноту информации на всякий случай, чем чего-то не знать.

Миллионам видам животных для этого никакой личности не нужно. Личность - по определению атрибут ОБЩЕСТВЕННОГО существа. Личность в любом виде может проявиться только в ОБЩЕНИИ с другими существами, способными к оному. "Общество сильного ИИ" состоит только из его одного, а значит общаться он может только с человеками.

уже сегодня позволяет делать прогноз погоды на десятилетия

Комментарий модератора раздела

Прошу предоставить подтверждающую ссылку на это утверждение - чтобы предотвратить возможное дезинформирование читателя.

[Maki]

Если мы ожидаем от ИИ проявлений личности, воли и т.п. - то это не более чем антропоморфизм. Интеллект вовсе не обязан всеми этими человеческими чертами обладать. Это просто инструмент.

И более того, личность и воля - это совершенно бесполезные, и даже вредные свойства при решении вычислительных задач. В обывательское сознание, конечно, давно внедрён страх перед "сверхразумом", который-де заведётся в железном ящике и всех поработит. Но реальная угроза состоит в чрезмерной зависимости от вычислительных сетей, что может обернуться катастрофой в случае техногенного сбоя, диверсии или некомпетентности при постановке задач.

[Rattus]

Целеполагание - не просто "вычислительная задача". А эволюционно эффективное целеполагание происходит по Висснер-Гроссу и со стороны вполне выглядит как воля.

[Valeriy Iljin]

уже сегодня позволяет делать прогноз погоды на десятилетия

  Можно посмотреть здесь https://habr.com/ru/post/440748/

[Rattus]

Там ничего такого не написано. А написано только:

Вклад проекта Summit в климатологию состоит в демонстрации того, как ИИ огромных масштабов могут улучшить наше понимание будущих погодных закономерностей. Когда исследователи выдают предсказания климата на сто лет вперёд, то прочесть его становится довольно сложно.

В который раз повоторяем: не смешивайте понятия "погода" и "климат". Погода - это конкретные атмосферные условия в конкретном месте и времени (в масштабе суток и часов). Климат - диапазоны колебания условий в масштабе лет и десятилетий.
Не существует систем, способных предсказывать погоду дольше чем на неделю-месяц вперёд (в зависимости от требуемой точности). И приведённая статья тут ничего не меняет - она применяется для моделирования климата.
Потому что проблема эта - фундаментальная математическая.

[Olweg]

Более эффективный ИИ все равно должен обладать личностью. Для того что бы решить задачу связанную с реальным окружением надо понимать устройство всего окружения и в том числе себя как связанный с окружением объект ответственный за результат. Или проще говоря, лучше иметь всю полноту информации на всякий случай, чем чего-то не знать.

Такие ИИ тоже появятся и будут востребованы. Что не отменит полезности "слабого" (или "узкого") ИИ.