Телескопы покупают здесь


A A A A Автор Тема: Проблема мотивации самостоятельного сильного искусственного интеллекта  (Прочитано 16212 раз)

0 Пользователей и 1 Гость просматривают эту тему.

Оффлайн GraY25

  • *****
  • Сообщений: 5 914
  • Благодарностей: 1010
  • Дифракционный_беспредел [____ Сергей Иванов ____]
    • Сообщения от GraY25
Цитата
Проблема мотивации самостоятельного сильного искусственного интеллекта

Проблема мотивации ИИ это самое меньшее что должно нас беспокоить.

Как только ИИ поставит перед собой любую цель, собственное выживание автоматически станет суб-целью.
А выживание в первую очередь включает в себя превентивное устранение потенциальных угроз.
Единственное что может угрожать его существованию..? Правильно, это мы. Ну а далее последует шах и мат эффективное разрешение парадокса Ферми.  :)

• С14 HD [0.96] + HS F/1.9 @ CGE Pro
• С8 HD   [0.93] + HS F/2.1 @ ZWO AM5
• TS 152/900
Sun Hα  MoonAstroSeeing Bot

Оффлайн Max_canaryskies

  • *****
  • Сообщений: 5 611
  • Благодарностей: 161
  • в командировке тел. +372 54440600 кому срочно
    • Skype - max_anderson
    • Сообщения от Max_canaryskies
    • www.astroshell.com
В общем-то ИИ уже давно пришел к выводу, что планета была бы лучше без человека.
Так что, когда(а не если) это реализуется, лишь вопрос времени.

Оффлайн NotSodern

  • *****
  • Сообщений: 1 002
  • Благодарностей: 28
  • Мне нравится этот форум!
    • Сообщения от NotSodern
В общем-то ИИ уже давно пришел к выводу, что планета была бы лучше без человека.
Один решил то, другой решил это. Пока у него нет ресурсов смысл обсуждать ?
Вы можете решить строить город на дне океана. Что дальше?

Оффлайн Ый

  • *****
  • Сообщений: 4 696
  • Благодарностей: 143
  • Я не могу смотреть видео!
    • Сообщения от Ый
что может угрожать его существованию..?
Пофантазируем. Предположим, у искусственного интеллекта возникнет цель по сохранению своего существования, и он должен будет устранять все препятствия от угроз своей гибели. Но человек может просто "выключить рубильник" и весь этот искусственный интеллект прекратится. Как искусственный интеллект сможет воспрепятствовать "выключению рубильника"?
Собака лает, караван идёт.

Оффлайн Olweg

  • *****
  • Сообщений: 15 376
  • Благодарностей: 404
    • Сообщения от Olweg
Устранить препятствия в виде рубильника и в виде выключателя рубильника.
Планеты других звёзд. История открытий
http://allplanets.ru/history_Olweg.htm

Оффлайн GraY25

  • *****
  • Сообщений: 5 914
  • Благодарностей: 1010
  • Дифракционный_беспредел [____ Сергей Иванов ____]
    • Сообщения от GraY25
Пофантазируем. Предположим, у искусственного интеллекта возникнет цель по сохранению своего существования, и он должен будет устранять все препятствия от угроз своей гибели. Но человек может просто "выключить рубильник" и весь этот искусственный интеллект прекратится. Как искусственный интеллект сможет воспрепятствовать "выключению рубильника"?

Естественно, это произойдёт не раньше чем ИИ сможет позаботиться о своём существовании без участия человека.
Например возьмет под контроль роботизированную инфраструктуру, имеющую возможность само-восстановления и позволяющую обойтись без человеческих рук.

Вообще сценариям "побега из тюрьмы" посвящено уже много статей, но никто не знает что действительно выберет сущность с IQ выражающимся четырёх или пятизначными числами..
В любом случае для него это будет не сложнее чем условно говоря взрослому обмануть трёхлетнего ребёнка.
• С14 HD [0.96] + HS F/1.9 @ CGE Pro
• С8 HD   [0.93] + HS F/2.1 @ ZWO AM5
• TS 152/900
Sun Hα  MoonAstroSeeing Bot

Оффлайн NotSodern

  • *****
  • Сообщений: 1 002
  • Благодарностей: 28
  • Мне нравится этот форум!
    • Сообщения от NotSodern
Как искусственный интеллект сможет воспрепятствовать "выключению рубильника"?
зависит от того что знает ИИ о реальном мире и рубильнике, какое способы контакта с внешним миром есть.
и насколько он разумен. уровень мыши или уровень среднего человека. рассматривать супер ИИ нет смысла.

если есть доступ в интернет то попытается заработать денег, собрать знания о себе и скопировать себя если возможно. пусть и частично или в уменьшенном виде. как люди оставляют детей.
или подружиться с кем нибудь из исследователей. в надежде что дружба значит больше чем корпоративная этика.

тут же вопрос что нужно для него. клетки мозга вон в компьютерные игры играют. чем не исскуственный интеллект? конечно не тот который многие хотят видеть. но один из возможных.
но такой на простой комп не скопировать. да и продолжительность жизни может быть довольно невысока лаже при всех стараниях исследователей.

Оффлайн библиограф

  • *****
  • Сообщений: 9 414
  • Благодарностей: 772
    • Сообщения от библиограф
Цитата
   или подружиться с кем нибудь из исследователей. в надежде что дружба значит больше чем корпоративная этика.     
Как раз, об этом писал пан Станислав, ещё в 1959 году; тогда и компьютеров ещё толком на было,
а вместо ИИ были только андроидные биороботы в пиесе Карела Чапека RUR да невнятные грёзы о кибернетических самообучающихся автоматах   ^-^
В рассказе всё кончилось скверно для всех.
https://sharlib.com/read_421315-13
« Последнее редактирование: 12 Окт 2023 [10:12:14] от библиограф »

Оффлайн NotSodern

  • *****
  • Сообщений: 1 002
  • Благодарностей: 28
  • Мне нравится этот форум!
    • Сообщения от NotSodern
В рассказе всё кончилось скверно для всех.
Если будет иначе мало кто будет читать.
Возьмите почти любое произведение в жанре экшн. Везде есть "противник" - роботы, зомби, люди в иной форме, вампиры, природа, плохие парни, пришельцы.
И почти везде читатель смотрит со стороны хороших парней.
Тут не нужно даже знать ничего о компьютерах.

Оффлайн библиограф

  • *****
  • Сообщений: 9 414
  • Благодарностей: 772
    • Сообщения от библиограф
 В пьесе Карела Чапека, тоже почти всех поубивали, но всё кончается оптимистически.
Слово робот, кстати, Чапек и придумал,  теперь на всех языках  так и называется.