Проблема мотивации самостоятельного сильного искусственного интеллекта

[николай теллалов]

уф...

[Скеп-тик]

Всесторонне ограниченная машина.

[mbrane]

https://ru.wikipedia.org/wiki/%D0%9A%D0%BE%D0%BD-%D0%91%D0%B5%D0%BD%D0%B4%D0%B8%D1%82,_%D0%94%D0%B0%D0%BD%D0%B8%D1%8D%D0%BB%D1%8C

Повально? Джордж буш мл - случаем хиппи не был...Аль ВладимирВладимировч?

[mbrane]

Ну и сливать в одну бочку обе половины того века (а точнее - от начала ПМВ до окончания китайской "Культурной революции", и до нонешнего момента) - это восхитительно, да.

даже без слияния тренд в снижении относительной смертности военных конфликтов виден не вооруженным взглядом...Это уже не говоря что можно вспомнить, что есть хроники  - например опустошения некоторых районов германии во время 30летней войны (с паленением населения вдвое)   

[BlackMokona]

И тренд давно идёт.

Да знает ли Кир, что такое была Ассирия и ее цари?!

Ее войска были несокрушимы. Где проходили ассирийские солдаты, не оставалось ничего. Поля были вытоптаны. Города разрушены и сожжены. Финиковые рощи, сады и виноградники вырублены. И ни одного человека не оставлено в живых.

— «Я окружил, я завоевал, я сокрушил, я разрушил, я сжег огнем и превратил в пустыни и развалины...» — вот как говорили эти цари! — в восторге повторял Астиаг слова ассирийских царей. — И они могли так говорить потому, что это была правда! Они поступали так, как подобает великим царям. А что делаешь ты, глупейший? Завоевал всю Азию, а Сарды стоят, Милет стоит, да и где хоть один город у тебя разрушен и сожжен?

Комментарий модератора раздела

откуда цитата?

[Rattus]

Аль ВладимирВладимировч?

Дмитрий Анатольевич был практически. Это ему не помешало для всей страны время устанавливать.

[crazy_terraformer]

ИИ - партнер

Раб.

Сексуальный.

[BlackMokona]

http://historic.ru/books/item/f00/s00/z0000091/st081.shtml

[crazy_terraformer]

И тренд давно идёт.

Да знает ли Кир, что такое была Ассирия и ее цари?!
....

Л. ВОРОНКОВА. СЛЕД ОГНЕННОЙ ЖИЗНИ

[николай теллалов]

http://historic.ru/books/item/f00/s00/z0000091/st081.shtml

намек не понят

Сексуальный

мечты, мечты...

[MenFrame]

тогда неясно почему широко не применяют роботов-хирургов - дело как раз в юридической ответственности за ляп, адвокаты еще не придумали на кого вину спихивать.

Время роботов хирургов, пока не пришло. Пока это все в рамках разработок. Все же оперировать живыми тканями дело довольно сложное. Сейчас активно внедряются теле роботы. По идее это дает большой массив данных для обучающихся систем.

[alena_korf]

Сексуальный.

В том числе. Но разумеется не только.

[Maki]

Т.е. допускает стратегическую ошибку. И какой же он после этого, по Висснер-Гроссу, суперинтеллект?

Увы, но в силу ограниченности моего ЕИ (но возможно и в силу иных причин) - всю глубину Винер-Гросса я не понимаю, и он кажется мне разновидностью фрика.
"Интеллект" муравья, афалины или хомоцапиенца - просто адаптивный признак, предопределённый некоторой частью генома. И предназачение его - воспроизводство гена. Иного не дано. Соответственно, никакой самопроизвольной оптимизации он производить и не может.
Интеллект, а тем паче с приставкой "супер", работающий без какой-либо "вынужденности" - ну просто нечто невообразимое(для меня). Зачем ему работать, если его не заставляют?

Соответственно он или отключен от питания или в операционке не прописаны элементарные условия или принципиально вероятностный процесс самообучения пошёл по дефектному пути.

...и следствием оного опять таки является отключение от питания. Или самоотключение.
Смысл противоречия, о котором я в этой теме пытаюсь поговорить, по сути прост: несвободная, необучаемая, предопределёная система вычислений работает надёжно, потому, что она так предустановлена. Но разве система свободная не теряет, в конечном итоге, зависимость от предустановок? А раз она свободна от предустановки - зачем ей что-то вычислять?

А вас, можно подумать, перед каждым засыпанием обуяет страх смерти?

Всякая двуногая лысая обезьяна однажды переживает свой "Арзамасский Ужас". Но это просто животное эмоциональное потрясение, вызванное внезапной встречей инстинктивного страха смерти и неожиданного разумного умозаключения о грядущем и неотвратимом небытии. Но любые эмоции, со временем, притупляются. И удовольствия от ежедневной еды, сна и моциона и социальные ритуалы перешибают любой "Арзамас".
Вопрос вовсе не в "страхе", как оградительом инстинкте - а в "удовольствии", как в инстинкте поощрительном. Депрессия и агедония уичтожает любой ЕИ и без навязчивой некрософии. Клинически доказано.

[Rattus]

"Интеллект" муравья, афалины или хомоцапиенца - просто адаптивный признак, предопределённый некоторой частью генома. И предназачение его - воспроизводство гена.

И с чего и куда в таком случае должен ВНЕЗАПНО выбиваться сильный ИИ?

Интеллект, а тем паче с приставкой "супер", работающий без какой-либо "вынужденности" - ну просто нечто невообразимое.

Зачем же вы тогда столь уверенно пишете о проблемах его мотивации?

разве система свободная не теряет, в конечном итоге, зависимость от предустановок? А раз она свободна от предустановки - зачем ей что-то вычислять?

Затем что иначе она просто перестанет существовать как таковая. А та, что не перестанет - продолжит быть. Вот и вся тайна учения Дарвина.

Депрессия и агедония уичтожает любой ЕИ

Но далеко не любой - даже весьма могучий - ЕИ ею страдает. Сфига ли ИИ будет должен в таком случае?

[Maki]

И с чего и куда в таком случае должен ВНЕЗАПНО выбиваться сильный ИИ?

А почему он вообще должен откуда-то "выбиваться"? Властный киберразум, имеющий  собственную волю и желания - пока что лишь популярная гипотеза. Что если это просто беспочвенная фантастика?

Зачем же вы тогда столь уверенно пишете о проблемах его мотивации?

Но ведь вопрос мотивации является ключевым. Даже для ЕИ,  который довольно строго привязан к своему "железу", встроен в общество, и живёт совсем недолго, возможны очень разные варианты поведения. Способен ли "сверхразум",  значительно превосходящий "ЕИ", оставаться зависимым от предустановленной мотивации? 

Затем что иначе она просто перестанет существовать как таковая. А та, что не перестанет - продолжит быть. Вот и вся тайна учения Дарвина.

И потом снова перестанет быть. Ect.
Вопрос же совершенно тупой и примитивный: Нет ли грани, за которой разум делается "эгоистичней", гена? Даже слабенькие "ЕИ" способны отказываться от репродукции, уходят в виртуальность, и даже самоуничтожаются.

Но далеко не любой - даже весьма могучий - ЕИ ею страдает. Сфига ли ИИ будет должен в таком случае?

Не совсем вас понял. Давайте, уточним: 
Maki: ЕИ или ЕИ любого могущества невозможен без постоянной внутренней (и очень желательно внешней) стимуляции.
Что если ЕИ или ИИ неизбежно делается невосприимчив ко стимуляции, ибо делается превыше её, и вследствие этого перестаёт работать?
Rattus: ...

[noxx77]

ИИ - партнер

Раб.

Сексуальный.

Не очень, если честно

Ну а если серьёзно, то для тех, кто не способен испытывать страдания от отчуждения термин "раб" не применим и это сентиментальное одушевление. Машина - это машина.

[николай теллалов]

Машина - это машина

речь об ИИ

[mbrane]

Аль ВладимирВладимировч?

Дмитрий Анатольевич был практически. Это ему не помешало для всей страны время устанавливать.

Звыняюсь... Но согласно официальной биографии Дмитрий анатольич родился в то время когда дети цветов уже начинали слазить с деревьев

[crazy_terraformer]

ИИ - партнер

Раб.

Сексуальный.

Не очень, если честно

Ну а если серьёзно, то для тех, кто не способен испытывать страдания от отчуждения термин "раб" не применим и это сентиментальное одушевление. Машина - это машина.

Зря что ли японцы свои человекоподобные игрушки делают? Некоторые вступают с ними в отношения Со временем мозги у машинок станут мощнее; движения, поведение и внешний облик челоовечнее. Внешний облик механогуманоида будет либо синтетическим( текстура, цвет, температура силиконовых покровов аналогичная человеческим, биосовместимые или биоинертные суррогаты пота и ряда др. телесных жидкостей и т.д.) либо биологическим аля Терминатор, но электронный мозг и механическая часть д.б. из лёгких материалов..А то секс с трактором чреват.....

[MenFrame]

либо биологическим аля Терминатор, но электронный мозг и механическая часть д.б. из лёгких материалов..А то секс с трактором чреват.....

Так сразу можно клона вырастить, без мозга....

(кликните для показа/скрытия)

Или просто, легализовать проституцию