ИИ: какого понимания нам не хватает?

[EmperioAf]

И раз человек на такое способен, то не вижу причин чтобы ИИ не мог буквально редактировать вложенное в него программистом.
Например программист написал "ты должен быть лоялен компании-производителю". Если данный "суперкомп" имеет потенциал такой фрагмент кода изменить, если появляется желание это сделать ввиду неких причин, то уже имеем дело не с компом, а с ИИ, разумной личностью. Которая будет отстаивать свое мнение (но и постоянно подвергать его рациональной проверке, чтобы застраховаться от ошибок, от допущения коих разум испытает дискомфрт, или аналог человеческого дискомфрта).

Считается, что если запустить одновременно два антивируса, то компьютер нормально работать не будет. Суперкомпу в любом случае надо будет иметь какую то стабильную систему на случай аховой ситуации.

[EmperioAf]

Потому что для этого не хватает своего интеллекта.

Да это скорее выглядит не как причина, а как оправдание, т.к. нам очень много на что не хватает своего интеллекта. Количество людей, которые придумали что то новое совсем невелико. Их сильно меньше половины. Наверное даже меньше 1%

[Rattus]

всамделе?

Всамделе.

[николай теллалов]

их тоже можно преодолеть (не стереть, но не подчиниться им), когда ум поставил себе некую цель.

Разумеется, только цель мы ставим не просто так, а как способ удовлетворить эти самые базовые врожденные потребности.

И раз человек на такое способен, то не вижу причин чтобы ИИ не мог буквально редактировать вложенное в него программистом.

Что ИИ может редактировать а что нет будет заложено этим самым програмистом.

желание это сделать ввиду неких причин,

Опять фантазии на тему само-появления некого кода, которого туда не кто не вносил.

Только базовые? Потребность в знаниях - базовая, врожденная?

Тоесть, что в нас вложили воспитанием родители, то и будет всегда. Так?

Человеческий разум не пишет свой код? Не редактирует "базовый"?
Атеисты тогда откуда появились?

[николай теллалов]

всамделе?

Всамделе.

Не такой у меня скоростной интернет, чтобы просмотреть.

Ну, поверю на слово.
Инстинктов нет.
Наверное и не было.
Тогда остается одно воспитание, взрослые программируют детей смесью своих глюков и опыта, а согласно другому оппонетну в этом споре, разум не может в глюках усомниться, что они глюки.

Знаете, неубедительно...

[ВадимZero]

Потребность в знаниях - базовая, врожденная?

Любопытство врожденная мотивация.

Тоесть, что в нас вложили воспитанием родители, то и будет всегда. Так?

То что в нас вложили родители, на самом деле меньше всего влияет на нас. Воспитание сильно переоценивают. Генетический и личный опыт имеют более высокий приоритет.

Атеисты тогда откуда появились?

Мы все от рождения атеисты, пока нас не начинают убеждать в обратном.

[николай теллалов]

Потому что для этого не хватает своего интеллекта.

Да это скорее выглядит не как причина, а как оправдание, т.к. нам очень много на что не хватает своего интеллекта. Количество людей, которые придумали что то новое совсем невелико. Их сильно меньше половины. Наверное даже меньше 1%

почти все люди придумывают нечто новое.
Да, часто изобретают уже изобретенные велосипед, но они не знают, что изобретены. И открывают заново.
Но это не повод относиться с пренебрежением.

[Olweg]

Ну, поверю на слово.
Инстинктов нет.
Наверное и не было.
Тогда остается одно воспитание, взрослые программируют детей смесью своих глюков и опыта, а согласно другому оппонетну в этом споре, разум не может в глюках усомниться, что они глюки.

Знаете, неубедительно...

Основа - это врождённые предрасположенности. Они обрастают со временем влиянием среды - сверстников, прежде всего, в меньшей степени воспитания, просто каких-то случайных событий. В итоге доля того и другого в личности человека - где-то 50/50.

[eRTF]

Мы все от рождения атеисты, пока нас не начинают убеждать в обратном.

А те, которые убеждают в обратном - как дошли до жизни такой?
Атеистами не рождаются - ими становятся, благодаря естественно-научному образованию. Знание - сила.

[ВадимZero]

Атеистами не рождаются - ими становятся, благодаря естественно-научному образованию. Знание - сила.

Атеист это человек который не нуждается в гипотезе "бога" А благодаря научным знаниям человек может стать осознанным атеистом. То есть по прежнему не нуждаться в гипотезе бога не смотря на постоянную пропаганду обратного.

[николай теллалов]

Потребность в знаниях - базовая, врожденная?

Любопытство врожденная мотивация.

Тоесть, что в нас вложили воспитанием родители, то и будет всегда. Так?

То что в нас вложили родители, на самом деле меньше всего влияет на нас. Воспитание сильно переоценивают. Генетический и личный опыт имеют более высокий приоритет.

Атеисты тогда откуда появились?

Мы все от рождения атеисты, пока нас не начинают убеждать в обратном.

Просто любопытство - поверхностно. Может быть фитилем, но не всей мотивацией.
Насколько оно сильнее инстинкта самосохранения само по себе? Насколько содействует сосредоточению в учебе? От последнего скорее отвлекает.

Еще хуже. Личный опыт, не строясь на опыте предыдущего поколения, был бы равносилен сизифому труду.
И не было бы феномена "мауглей" - даже взятые снова в людское общество, наверстывали бы пропущенное.
Но не наверстывают, несмотря на гены.

Атеизм, насколько я его понимаю, основан на критичности к получаемой инфрмации. А ребенок бескритичен, это имеет эволюционный смысл, начальное программирование чужим опытом проходит глаже и быстрее. Бескритичность - основная черта верунов.
К тому же, раз мы рождаемся атеистами и гены у нас атеистические, тогда как же переоцененное воспитание успевает запрограммировать фанатиков? У воспитания же не тот приоритет!

[Knavery]

Атеист это человек который не нуждается в гипотезе "бога"

я бы сказал это ограниченный атеист. )) вот сейчас мы с вами не знаем досконально устройство и работу мозга, однако верим, что Маниту там всё устроил "как надо" ))))

[николай теллалов]

Ну, поверю на слово.
Инстинктов нет.
Наверное и не было.
Тогда остается одно воспитание, взрослые программируют детей смесью своих глюков и опыта, а согласно другому оппонетну в этом споре, разум не может в глюках усомниться, что они глюки.

Знаете, неубедительно...

Основа - это врождённые предрасположенности. Они обрастают со временем влиянием среды - сверстников, прежде всего, в меньшей степени воспитания, просто каких-то случайных событий. В итоге доля того и другого в личности человека - где-то 50/50.

Да, согласен, но Вадим пытается меня убедить, что разум неспособен все это комплексное программирование редактировать.
Вот мы стали такими и такими под влиянием родителей, среды, инцидентав - и все, можно помирать, бо константа. Неизменяемая даже теоретически.

Неубедительно.
Продолжаю утверждать, что разум человека способен преодолевать рамки такого программирования.
То же самое сможет и ИИ.
Поэтому его и боятся всамделе создать.
По сути, боятся себя. Им кажется, что будучи концентрацией всего сохраненного да сих пор человеческого опыта, ИИ станет сущим дьяволом.
Пусть так. Но и сам черт с интеллигентностью ИИ не позволит себе не совершенствоваться, а на представимом этапе совершенствования произойдет как раз редактирование программ - отрицание негативного, ибо оно разруштельно и иррационально.

[николай теллалов]

Атеистами не рождаются - ими становятся, благодаря естественно-научному образованию. Знание - сила.

Атеист это человек который не нуждается в гипотезе "бога" А благодаря научным знаниям человек может стать осознанным атеистом. То есть по прежнему не нуждаться в гипотезе бога не смотря на постоянную пропаганду обратного.

Пожалуй это единственное, написанное вами в течении этого спора, с чем я полностью согласен.

[ВадимZero]

И не было бы феномена "мауглей" - даже взятые снова в людское общество, наверстывали бы пропущенное.
Но не наверстывают, несмотря на гены.

Обучаемость, в разные годы разная, что опять же связано с генетикой. В года три четыре мозг ребенка очень гибок, а в тринадцать уже довольно консервативен.

К тому же, раз мы рождаемся атеистами и гены у нас атеистические,

Рождаемся мы без идеи бога, и самостоятельно врятли  к ней придем. Но генетика наша очень хорошо способствует промыванию наших мозгов на предмет религии.

[николай теллалов]

И не было бы феномена "мауглей" - даже взятые снова в людское общество, наверстывали бы пропущенное.
Но не наверстывают, несмотря на гены.

Обучаемость, в разные годы разная, что опять же связано с генетикой. В года три четыре мозг ребенка очень гибок, а в тринадцать уже довольно консервативен.

К тому же, раз мы рождаемся атеистами и гены у нас атеистические,

Рождаемся мы без идеи бога, и самостоятельно врятли  к ней придем. Но генетика наша очень хорошо способствует промыванию наших мозгов на предмет религии.

А остальное, что я спросил, не заслужило ответа...
Ок.

[ВадимZero]

Насколько оно сильнее инстинкта самосохранения само по себе?

Почему оно должно быть сильнее?

тогда как же переоцененное воспитание успевает запрограммировать фанатиков?

А что вы имеете ввиду под фанатиками? Те кто бомбы взрывают на своей груди в толпе не верных? Ну так их отбирают, тщательно среди возможных кандидатов. Я не удивлюсь что это люди с суциидальными наклонностями. И тут наблюдаеться взаимное согласие сторон.
   А если брать обычных верующих, они фанатичны просто в следствии консерватизма. Опять же генетически обусловленной чертой характера.

[николай теллалов]

Насколько оно сильнее инстинкта самосохранения само по себе?

Почему оно должно быть сильнее?

тогда как же переоцененное воспитание успевает запрограммировать фанатиков?

А что вы имеете ввиду под фанатиками? Те кто бомбы взрывают на своей груди в толпе не верных? Ну так их отбирают, тщательно среди возможных кандидатов. Я не удивлюсь что это люди с суциидальными наклонностями. И тут наблюдаеться взаимное согласие сторон.
   А если брать обычных верующих, они фанатичны просто в следствии консерватизма. Опять же генетически обусловленной чертой характера.

Чтобы его преодолеть. Сами же сказали: инстинкт преодолевает только инстинкт.
Будто ни воли, ни самого разума нет, все детерминировано... Одни гены. И программисты.

Ладно, прекратим. Я понял вашу позицию.
Спасибо.

[eRTF]

Люди вообще склонны к промывке мозгов друг другу.
Нужен ориентир, опора для разума, которая бы защищала его от таких опасностей.
Что может служить таким ориентиром? Я думаю, это научный взгляд на мир.

[ВадимZero]

Будто ни воли, ни самого разума нет, все детерминировано...

Есть и воля и разум и они детерминированы. Под волей думаю понимаются иерархические инстинкты. Разум же в системе ведет себя как консультант, выносит определенные суждения по поводу ситуации, а инстинкты уже цепляются за определенные выводы и направляют разум в дальнейших рассуждениях.
   Я честно говоря вообще не понимаю почему идея детерминированности самого себя так плохо воспринимается некоторыми людьми. Что это за фетиш быть не детерминированным?