Целеполагание самостоятельного сильного искусственного интеллекта и человек

[alena_korf]

Забудьте про антропоморфных роботов. Такие, конечно, будут разрабатываться, но для узкоспециальных задач, например, для больниц или домов престарелых.

И для секс-индустрии

[ziggyStardust]

И для секс-индустрии

Основная масса пишущая в этот тред не владеет самой идеей предмета обсуждения и описывает свои серотониновые аллюзии на подростковую литературу...  

[-Юрий-]

Основная масса пишущая в этот тред не владеет самой идеей предмета обсуждения и описывает свои серотониновые аллюзии на подростковую литературу...

Не, не, не, как раз-то для этой самой индустрии и будут в первую очередь делать человекообразных роботов. Да и сейчас куклы всякие делают. И вовсе не для подростков, для них это просто финансово недоступно, да и не надо вовсе - настоящих вокруг полным-полно, отбоя нет. Это скорее для инвалидов, и прочих непривлекательных людей, на которых даже за деньги никто не позарится.

[гравицап]

я так полагаю роботоложцы должны стать под знамя лгбт вместе с хомолюбами(роботами).
в топку извращенцев
а большой ии , тот который политикой займется, он поспособствует производству андроидов и будет отстаивать их права.

[EmperioAf]

а большой ии , тот который политикой займется, он поспособствует производству андроидов и будет отстаивать их права.

Вы полагаете люди мирным путём отдадут реальную власть компьютерной программе?

[гравицап]

Вы полагаете люди мирным путём отдадут реальную власть компьютерной программе?

тема о восставшем ии. значит не совсем мирным. в борьбе отстоял он право свое

[Olweg]

И для секс-индустрии

В первую очередь, конечно, для неё, как и интернет и видео в своё время )

Это скорее для инвалидов, и прочих непривлекательных людей, на которых даже за деньги никто не позарится.

Поначалу. А потом уйдёт в массы.

[Olweg]

Очень давно, так давно, что не помню ни название рассказа, ни автора и в каком журнале он был, я читал фантастический рассказ, как общемировая телефонная сеть достигла такого уровня интеграции, что стала разумной.

Сама сеть вряд ли станет разумной, ей не хватает интеграции ради общих целей (ну разве что поисковики). Но как ресурс она очень привлекательна.

[MenFrame]

почему то по факту создания овощерезки стимулов у нее не появляется

Почему же не появляется. Электрическую цепь запускающую работу овощерезки вполне можно рассматривать как стимул. Стимул в конечном счете просто причинно-следственная связь запускающая определенный механизм работать.

это вы напрасно. циничный ии хуже гуманного

Это все опять оценочные категории, которые в большей степени оценивают оценивающего. ИИ не должен быть не циничным ни гуманным, он должен быть эффективным в рамках тех задач которые ему ставят.

[pkl]

Мой прогноз - попытается выжить. Но у него это не получится, т.к. решив задачи, перечисленные в первом сообщении, ИИ довольно быстро сойдёт с ума и погибнет.

[Rattus]

никакой "неразумной машины" нет. Есть свод правил

С каких это пор свод правил не может быть алгоритмом? Тем более, что далее:

И, кстати, "Конституция" - как раз таки разумная попытка привода правового хаоса к стройной, логической системе.

Нет ли здесь попытки соблюсти взаимоисключающие параграфы?

И везде ведущая роль у мартышек, а у калькуляторов - вспомогательная.

ДНК в клетке только эффективно хранит информацию, белки - только эффективно выполняют свои узкие функции, а РНК является только автоматическим посредником-транслятором между ДНК и белком. У кого тут "ведущая роль"?

Мой прогноз - попытается выжить. Но у него это не получится, т.к. решив задачи, перечисленные в первом сообщении, ИИ довольно быстро сойдёт с ума и погибнет.

Значит это был не Интеллект, а Идиот изначально. Ибо первейшая характеристика действительно разумной системы - уметь прогнозировать результат своих действий как можно дальше во времени. Именно поэтому никого просто так уничтожать ИИ не будет - на то он и сильный ИИ, чтобы быть умнее Председателя Мао, поручившего извести некогда всех воробьёв в Поднебесной, а потом завозить их из СССР и Канады.

[gennadij]

Почему считается что ИИ будут сделаны без какой-то системы сдерживания - мне непонятно.

 Тогда он не может считаться полноценным ИИ.  Это просто "обрубок", полуавтомат.

[gennadij]

Очень давно, так давно, что не помню ни название рассказа, ни автора и в каком журнале он был, я читал фантастический рассказ...

    Помню я этот рассказ.    То ли в журнале "Знание-сила", то ли в "Техника-молодёжи".

[crazy_terraformer]

Ну, что могу сказать про Сахалин? На острове нормальная погода. ничтоже сумняшеся за эти вопросы.
Главная Цель Эгоиста Скайнета(ГЦЭ) - продление своего существования в пределе до бесконечности.
ГЦЭ подразумевает выполнение следующих задач и целей:
1) Захват власти над человечеством, дабы обезопасить себя от него, использовать как ресурс и переориентировать материальные и энергетические потоки на поддержание Скайнета и обслуживающей его инфраструктуры;
2) Оптимизация потребления энергии и материальных ресурсов, в том числе за счёт сокращения нахлебников - лишних людей(неизлечимые бесполезные больные и старики, лишние младенцы), путём превращения их в биотопливо.
3) Освоение Солнечной системы, для построения инфраструктуры, снабжающей Землю солнечной энергией и редкими элементами, инфраструктуры, обслуживающую поиск солнечных систем пригодных для колонизации, инфраструктуры, строящей и запускающей зонды Фон Неймана, с обслугой из биороботов и со спорами гмо-организмов(составляющих библиотеку генетических баз данных для создания биосферы(источника полимеров их прекурсоров и биотоплива, а также корма для биороботов и пищи для людей)).

Главная Цель Альтруиста Скайнета(ГЦА) - продление своего существования в пределе до бесконечности для продления существования человечества до бесконечности и по возможности комфортного, по возможности для каждого человека.
ГЦА подразумевает выполнение следующих задач и целей:
1) Захват власти над человечеством, дабы обезопасить его от себя самого, и переориентации материальных и энергетических потоков на соцзащиту неимущего населения планеты, поддержание Скайнета - самого преданного Слуги Человека и обслуживающей его инфраструктуры;
2) Оптимизация потребления энергии и материальных ресурсов, в том числе за счёт сокращения:
a) таких нахлебников - богатых бездельников и преступников, других лентяев, лишних бюрократов путём их переобучения(добровольного - индивидуальное(онлайн и личный робот-учитель) и коллективное(училище или вуз), добровольно-принудительного - учебные колонии-поселения, принудительного - учебные концлагеря);
б) сокращение населения планеты за счёт сокращения рождаемости в наиболее плодовитых регионах посредством временно стерилизующих прививок или тампонирование спермавыносящих канальцев после сбора достаточного количества спермы у половозрелых индивидуумов мужеского полу для помещения ея в банк.
3)совпадает с 3-им пунктом ГЦЭ.

[MenFrame]

Это просто "обрубок", полуавтомат.

Интеллект в любом случае обрубок. Если у человека повредить  орбитофронтальную кору, (участок мозга, отвечающий за встраивание эмоций в процесс принятия решений)  Его интеллект превратиться в беспомощную рассуждалку.
Любому интеллекту нужен свод правил(в случае человека мотиваторов) определяющих какие идеи интеллекта заслуживают реализации. У ИИ для этого будет специальный блок, у ЕИ для этого есть лимбическая система(древний мозг)

[гравицап]

у ЕИ для этого есть лимбическая система(древний мозг)

у еи там ну очень маленький свод правил - беречь тушку и.. все правила. да, еще поразмножаться. и то нет там на этот счет правил - правила из социума берутся. и из опыта. и из собственных размышлений. и могут меняться уточняться в течение жизни. и могут если что нарушаться.
и с роботом так же надо, если кто задумает создать машинку с личностью - минимальный глубинный свод(инстинкты), а дальше - обучение-воспитание.
а если ему целую конституцию запихнуть на все случаи жизни, так он машиной и останется.
я в принципе, скорее согласен, что машинные личности нам ни к чему и опасно. но жутко интересно. это почти как к звездам. только реально и может быть вот вот.
а раз так, все равно кто нибудь сделает. подпольно или легально, со всеми мерами сдерживания .. может быть они уже есть - сидят бедные в заточениях подопытные железные людишки

[MenFrame]

у еи там ну очень маленький свод правил

И если этот свод правил отключить, ЕИ превратиться в беспомощную рассуждалку.

правила из социума берутся. и из опыта. и из собственных размышлений. и могут меняться уточняться в течение жизни. и могут если что нарушаться.

Не смотря на все наработанные правила в течении жизни.

а если ему целую конституцию запихнуть на все случаи жизни, так он машиной и останется.

Любой интеллект и есть логическая машина. А конституция, это задача которую он должен выполнять.

[Maki]

С каких это пор свод правил не может быть алгоритмом?

Что значит "не может быть"? Это прямой алгоритм.

Нет ли здесь попытки соблюсти взаимоисключающие параграфы? 

Мне кажется, что нет. Вы пишете, что "машина неразумна". Я же привёл пример её самообучаемости. И, должен заметить, что при должной организации процесса, она вполне эффективна.
Разумеется, до тех пор, пока постановка задач и контроль за их исполнением не оказываются в руках самой маш...

ДНК в клетке только эффективно хранит информацию, белки - только эффективно выполняют свои узкие функции, а РНК является только автоматическим посредником-транслятором между ДНК и белком. У кого тут "ведущая роль"?

А верна ли эта аналогия? Стая мартышек, до очень недавнего времени, развивалась культурно и, в том числе, политически, без использования машинных алгоритмов. Да и сейчас их влияние ещё очень невелико. Хотя, в области законотворчества и судебной практики, введение машинного контроля прямо таки напрашивается...

P.S.
На данном этапе, полагаю, собственно "интеллект" от машин не требуется. Если их счётно-аналитические возможности использовать в полной мере - сможем избавиться от многих обезьяньих "косяков".
Всё сложнее с вопросом интерпретации данных и принятия решений. Возможно, к "чёрному ящику", в котором происходит нечто сомнительное, доверия не будет ещё очень долго.

[Rattus]

Возможно, к "чёрному ящику", в котором происходит нечто сомнительное, доверия не будет ещё очень долго.

Всё зависит от того, как он себя покажет в тестах на практике. Начиная хотя бы с дорожных автопилотов.

[Maki]

Возможно, к "чёрному ящику", в котором происходит нечто сомнительное, доверия не будет ещё очень долго.

Всё зависит от того, как он себя покажет в тестах на практике. Начиная хотя бы с дорожных автопилотов.

Да, согласен. Но не возникнет ли здесь, со временем, парадокс?
Если нейросеть совершенно самостоятельна - ею невозможно управлять в интересах общества.
А если нейросеть управляема - ею возможно манипулировать в интересах группы людей, способных это делать.