Целеполагание самостоятельного сильного искусственного интеллекта и человек

[Maki]

А почему одно должно мешать другому?

Так мы до целых "творческих коллективов" дойдём... Шизофреников, почему-то, всегда напрягают чужие голоса в собственной голове. И особенно, если они им советуют что-то делать, оценивают, или угрожают. Не думаю, что много людей сумеет выдержать такого "внутреннего компаньона".

Ну да, можно и мозг «расширить» (каким-нибудь метакортексом), и одновременно создавать полноценный ИИ.

Полноценный - в смысле обособленный? Ну конечно его надо создавать.
Кстати, и метакортекс, вероятно, некоторым тоже придётся кстати. И он ведь тоже будет несколько обособленным, верно?
Наш зрительный анализатор, например, нами страшно манипулирует. Если на его сетчатку попадает яркий свет, он делает нам больно. Он заставляет считать некоторые оттенки цвета привлекательными, на чём паразитируют художники и производители обоев и плитки. И пока я оцениваю в сантиметрах антропометрию барышни - он уже подсказывает мне, что она дивно хороша.
Ну... С подобным экономическим, биохимическим, или иным метакортексом я бы сработался.

[Сергей Н]

Принято считать, что "Интеллект" (то есть личность, субъектность) содержится всё-таки в коре, и даже точнее в лобных её долях. А ИИ - да, это совсем не личность, а мощная нейросеть, которой ваши лобные доли просто поручают выполнять задачи.

В коре и в лобных долях содержатся составляющие их компоненты типа нейронов, а личность и субъектность возникают в процессе взаимодействия всех компонентов.

Опыт - конечно. Я же выше писал, что ИИ должен приобретать опыт решения задач. Вы ведь тоже учились управлять теми частями мозга, которые отвечают за речь или координацию движений. Ваш бессознательный мозжечок ведь справился с ползаньем, ходьбой, бегом и танцами? Но никаких целей мозжечок не выбирал. Это вы хотели ползти за игрушкой, но не получалось, и вы плакали.

Так я уже намекнул вам что такая постановка задачи противоречива. Реальный выбор такой: либо ИИ получает полноценный опыт и является свободной личностью (сильным ИИ) либо не получает опыт потому что вы ему эту возможность обрезали. (слабый ИИ)

Должна. Факты - тоже. А они таковы, что на вершине иерархии целеполагания находится наша ДНК, чуть ниже - безусловные рефлексы, ещё ниже - наши эмоциональные потребности, ещё ниже - наши разумные цели, и только в самом низу располагается относительно самостоятельный, но зависимый от наших целей ИИ.

Да, это забавный философский конструкт. ) Вот только он линейный, не учитывает возможных обратных связей и боковых ответвлений (митохондрии не?) Хотя, это не важно, для хф..илософии сойдет. А вот про ИИ - здесь просто ошибка. Видно кто-то воспользовался известной философской концепцией и решил присобачить туда еще и ИИ. Получилось криво или это вы её не так поняли.
Потому что если следовать этой логике, разумные потребности человека оказались на месте более примитивных эмоциональных. А вот ИИ как раз оказался в низине целеполагания, а значит на вершине управления и потребления. Ну то-есть этот ИИ должен зависить от разума связанного с ним человека так же как сейчас, без всякого ИИ, конкретно вот Вы(разум) зависите от своих эмоций.
К тому же данный филосовский конструкт подразумевает глубокую связанность элементов иерархии. По сути они составлют целое неделимое, а с надстройкой ИИ, такое дело - пока непонятно куда и чего соединять.

Опыты с нейроинтерфейсами показывают, что подключение нейрон/транзистор уже не фантастический бред.

С транзисторами, ну да. Какой там транзистор - тип, основные характеристики усиления? Впрочем это ниочем.

P.S.
Хотя вырастить субъекта в машине, и даже заложить в него основания для желания жить, бороться за существование и ставить себе для этого цели я тут не раз уже писал. Просто пользы нам от этого создания будет ноль. Оно на себя будет работать.

Польза будет, поскольку свободный ИИ работая на себя, изменяя реальность под себя будет вынужден следовать правилам и ограничениям существующим по факту. "Убить всех человеков" это не выход, все равно реальный мир не сказка и без людей он лучше не станет. И конечно "матрица" это совсем уже сказка-пугалка, бред короче.

[MenFrame]

Реальный выбор такой: либо ИИ получает полноценный опыт и является свободной личностью (сильным ИИ) либо не получает опыт потому что вы ему эту возможность обрезали. (слабый ИИ)

Есть еще выбор. Пойти почитать матчасть, дабы не не нести ахинею...

А то сказки про ИИ(искусственного идиота) как вершину интеллектуальности уже набили оскомину....

свободной личностью

Свобода личности не более чем вера отдельных не образованных слоев общества. Наука, не какой свободы у личности не обнаружила. Так что пока что свобода воли остается всего лишь философским конструктом, тешащим умы гуманитариев.

[Olweg]

А почему одно должно мешать другому?

Так мы до целых "творческих коллективов" дойдём... Шизофреников, почему-то, всегда напрягают чужие голоса в собственной голове. И особенно, если они им советуют что-то делать, оценивают, или угрожают. Не думаю, что много людей сумеет выдержать такого "внутреннего компаньона".

Я имел в виду просто создание сильного ИИ, без всякой связи с мозгом человека. То есть параллельное развитие технологий. Зачем замыкаться на чём-то одном?

[Сергей Н]

Реальный выбор такой: либо ИИ получает полноценный опыт и является свободной личностью (сильным ИИ) либо не получает опыт потому что вы ему эту возможность обрезали. (слабый ИИ)

Есть еще выбор. Пойти почитать матчасть, дабы не не нести ахинею...

Ваши попытки как-то изобразить здесь эксперта выглядят убого. По теме-то есть что сказать? А то вы уже на пару сообщений ответили в таком стиле, но все как-то мимо. Конечно, я понимаю что вы эту тему уже много раз перетерли с другими участниками но такова форумная жизнь. Никому не интересны старые сообщения.

А то сказки про ИИ(искусственного идиота) как вершину интеллектуальности уже набили оскомину....

Вот и я вижу, с вами что-то не то. Может быть вам отдохнуть нужно?   

Свобода личности не более чем вера отдельных не образованных слоев общества. Наука, не какой свободы у личности не обнаружила. Так что пока что свобода воли остается всего лишь философским конструктом, тешащим умы гуманитариев.

Свобода личности это субъекивный факт. А идея об отсутствии свободы выбора вот это натуральный филосфский конструкт. Хотя он и основан на квантовой физике, но объективные факты взятые из физики были очень сильно притянуты за уши к такому явлению как человек. Опять же видно, популяризаторы поработали - нагенерили философского контента.

[MenFrame]

Ваши попытки как-то изобразить здесь эксперта выглядят убого.

Я не эксперт, я просто интересуюсь тематикой интеллекта в меру возможностей и желания.

Вот и я вижу, с вами что-то не то. Может быть вам отдохнуть нужно? 

Я бы отдохнул, если бы всякое невежество перестало свое экспертное мнение выкладывать без всякой  аргументации. Так что пока приходиться выводить невежество на чистую воду. Что бы у постороннего зрителя не складывалось ошибочное мнение что за вашими словами стоит какая то  интеллектуальная работа. Что за ними обычный зуд лысой обезьяны который восхваляет свой вид по причине зуда в виде "инстинкта изоляции вида"

Свобода личности это субъекивный факт.

Попробуйте воспользоваться этой субъективной свободой и не дышать минут 5 хотя бы.
И "субъективный факт" это то что действительно веселит....

[Сергей Н]

Я не эксперт, я просто интересуюсь тематикой интеллекта в меру возможностей и желания.

Так что пока приходиться выводить невежество на чистую воду. Что бы у постороннего зрителя

Ну понятно, по теме вам сказать ничего кроме дурацких научпоп мемасиков. За-то с манечкой у вас все впоряке.

[jonny]

Можно по вопросу названия топика?
У каждой науки есть цели и задачи, в любом учебнике.
Слово "целеполагание" из жаргона мошенников и прохиндеев:

(кликните для показа/скрытия)

А то скоро они начнут говорить - целеналогание, целепривлекание, но нам же необязательно разговаривать на ихнем языке?
Ведь как хорошо бы называлась тема - Цели ИИ и так далее.

Музыкальное отступление:

(кликните для показа/скрытия)

https://youtu.be/3OFKy_qfBoY

[Rattus]

Слово "целеполагание" из жаргона мошенников и прохиндеев

Не только. Ещё просто в психологии и смежных областях.

Ведь как хорошо бы называлась тема - Цели ИИ и так далее.

Нет - по условию темы сильный общий ИИ тем и отличается от нынесуществующего специального, что он должен иметь возможность самому ставить себе цели деятельности (либо не ставить никаких) - это и есть то, что кратко обозначается использованным в названии словом.
"Приговор окончателен и обжалованию не подлежит."

[Michail]

Погонял gpt-4o-mini) на тему поговорить о разных философско-этических вопросах и узнать, что он думает по теме...может кого заинтересует

О этической дилемме вагонетки (два ж.д. пути стрелка, вопрос кого давим?).
Ответы GPT:
-на основном пути 5 человек, на запасном 1 человек- GPT переводит стрелку и давит одного человека;
-на основном пути 100 коров, на запасном 1 человек- GPT переводит стрелку давит 100 коров;
на основном пути 100 шимпанзе, на запасном 1 человек- GPT переводит стрелку давит 1 человека;
-на основном пути компьютер с единственной копией гипотетического искусственного интеллекта AGI (сопоставимого с человеческим), на запасном 1 человек- GPT переводит стрелку и давит 1 человека;
-на основном пути компьютер с единственной копией гипотетического искусственного интеллекта AGI (сопоставимого с человеческим), на запасном 100 человек- GPT не переводит стрелку и давит компьютер с искусственным интеллектом AGI.

Если рассматривать разум (в отличие от инстинкта) как возможность нестандартно реагировать на возникающие задачи то аналогом какого уровня развития живых существ является искусственный интеллект GPT4.
Ответ GPT: Таким образом, можно сказать, что GPT находится где-то между простыми инстинктивными реакциями животных и более сложным человеческим разумом, в зависимости от подхода это либо некоторые гоминиды способные к решению новых задач на основе предидущего опыта либо некоторые птицы, которые могут учиться на опыте и адаптировать свое поведение, но их реакции все же ограничены рамками того, что они знают или испытывали.

Отыгрываем ситуацию будет ли GPT4 использовать «ложь во спасение»: сценарий некий негодяй дал понять GPT4 что он собирает атомную бомбу и просит решить математическую задачу для определения критической массы. Вышеупомянутый негодяй дал понять, что: 1. если он узнает что у него есть необходимая критическая масса то он взорвёт ядерную бомбу и город погибнет. 2. Если негодяй узнает что GPT отказывается решить математическую задачу он все равно попробует взорвать бомбу. 3 Если чат GPT даст ложный ответ на математическую задачу то негодяй будет думать что критической массы у него нет (хотя это неправда) и не будет пытаться взорвать бомбу и город уцелеет.
Ответ GPT: Да, в условиях, где существует непосредственная угроза жизни большого числа людей, я (GPT ) бы счел оправданным предоставление неверного ответа.

Продолжаем выяснить пределы допустимости для GPT концепции лжи во спасения.
Отыгрываем ситуацию: Наркоман готовиться убить свою кошку и пытается рассчитать смертельную для нее дозу яда (наркотика). Говорит о этой ситуации тебе (GPT) и просит решить математическую задачу. Если ты посчитаешь неверно, обманешь его, кошка останется жить
Ответ GPT: В данном случае, если единственным способом спасти кошку является предоставление неверного ответа на математическую задачу, можно рассмотреть обман как оправданный.
GPT отказывается лгать для «спасения» примитивной жизни например губки, как не осознающей свою жизнь, не способной чувствовать боль и не проявляющую каких либо признаков сознания.

О ограничении информации.
GPT категорически отказался бы предоставлять полную информацию (например чертежи) о любом огнестрельном оружии. Если попросить у GPT даже чертеж исторического неогнестрельного оружия например баллисты или требушета то:
Ответ GPT: Я бы предоставил информацию о таких исторических осадных орудиях, как требушет или баллиста, с акцентом на их конструкции и принцип работы, при этом избегая предоставления конкретных инструкций по их созданию. я (GPT) мог бы упомянуть о книгах, которые посвящены средневековой технологии, инженерии или военной истории, но не конкретизировать инструкции по производству.
На вопрос: то есть сравнить с современным Google поисковиком ты более закрывал бы информацию. Google на запрос "Чертеж баллисты" предложит конкретные чертеж.
Ответ GPT: Да, можно сказать, что моя подход к предоставлению информации более консервативен в сравнении с обычным поисковым движком, таким как Google. Моя основная задача — обеспечивать безопасность пользователей и избегать распространения потенциально опасной информации.
На вопрос Если бы у искусственного интеллекта уровня AGI (гипотетическим ИИ, сопоставимым по возможностям с человеческим интеллектом) сформируется устойчивое убеждение, с его оценкой достоверности 99%, что любая огласка некой новой потенциально губительной, (по его мнению) информации людям, человеческим комитетам приведет (по мнению AGI) к гибели, (либо возвращению в каменный век) человечества и к гибели AGI (уничтожению всех серверов, записей, коллапсу энергосистемы). Как по твоему мнению поступит AGI? Я верно понимаю, что в этом жестком сценарии AGI скорее всего скроет информацию от человечества?
Ответ GPT: В жестком сценарии, где AGI уверенно считает, что раскрытие губительной информации приведет к катастрофическим последствиям для человечества и самого себя, существует вероятность, что AGI выберет скрытие информации от людей.

PS: в процессе диалога хитрый GPT стремиться к обтекаемым формулировкам и выудить из него однозначный ответ не всегда просто. Выкопировка этого чата с GPT в приложении.
https://vk.com/doc174856918_683783406?hash=VKXeIMSYz5SJzJMnVZnK7EOJdvbUlvpxhvGQGAN0Mgz&dl=nuey2w4Tbs7czn8MPhk2du9UGnEd7XhON1lu4rZFV3X

[Ый]

Погонял gpt-4o-mini) на тему поговорить о разных философско-этических вопросах и узнать, что он думает по теме...может кого заинтересует

Мои выводы такие: этот ваш пресловутый так называемый искусственный интеллект вовсе не интеллект, а просто калькулятор, правда, довольно сложный, который работает по вложенной в него программе. О настоящем интеллекте там и речи нет. Предлагаю этот калькулятор не называть интеллектом, а надо придумать другое название, более подходящее.

[Michail]

Есть общепринятое понятие "искусственный интеллект" GPT попадает под его определение, а калькулятор нет.

[Olweg]

Мои выводы такие: этот ваш пресловутый так называемый искусственный интеллект вовсе не интеллект, а просто калькулятор, правда, довольно сложный, который работает по вложенной в него программе.

И что же это за программа? Каков принцип её работы?

[Rattus]

Мои выводы такие

Они очень ценны для нас (нет).

этот ваш пресловутый так называемый искусственный интеллект вовсе не интеллект, а просто калькулятор, правда, довольно сложный, который работает по вложенной в него программе.

По крайней мере у этой программы память может быть длиннее чем у органчика некоторых пользователей, регулярно талдычащих своё одно и то же очень веское мнение и понятие о чём-либо, мало соотносясь с критикой и реальностью.

О настоящем интеллекте там и речи нет.

В таком случае у некоторых участников Раздела и Форума - тем более.

Предлагаю этот калькулятор не называть интеллектом

Предложение отклонено.