И создал человек бога...

[EmperioAf]

Разума не существует.

Существует. Причём даже в названии раздела астрофорума.
Я не знаю, что вы подразумеваете под разумом, раз умудрились дойти до такого утверждения.
Если вкратце, то я воспринимаю это так:   Разум = Картина мира + Картина воображаемого мира + Интеллект + Оценочная система.
Что такое картина мира и картина воображаемого мира, я надеюсь вы преставляете примерно также как и я. 
Оценочная система - это совокупность соответствий цифр (от -1 до +1) элементам картин миров.
Интеллект - это система формул над элементами картины мира, картины воображаемого мира и оценочной системой
Разум - это свойство адаптации живого; и ему характерно предсказание будущего. Это у меня тоже входит в интеллект.
Весь вопрос с созданием бога с моей узколобой точки зрения состоит в этом: "сможем ли мы заложить в искусственный интеллект такие правила, чтобы все наши обязательные взаимно-непротиворечивые хотелки реализовались?"

[-Юрий-]

Если кто-то говорит что разума нет, значит оно хорошо знает что такое разум. И мы вправе требовать от него объяснения что такое разум. Иначе будем относиться к нему как к неразумному существу.

[Serg53]

воспринимаю это так:   Разум = Картина мира + Картина воображаемого мира + Интеллект + Оценочная система.

Думаю, по другому:
Картина мира + Картина воображаемого мира + Оценочная система = это больше соответствует сознанию.
Разум = Интеллект = это способность логически мыслить, в основном за счет второй сигнальной системы.

[MenFrame]

Если кто-то говорит что разума нет, значит оно хорошо знает что такое разум.

Если кто то говорит что нет не каких оснований считать что он есть?

[eRTF]

Если кто-то что-то говорит - значит ему захотелось так сказать. ИИ так не может.

[MenFrame]

ИИ так не может.

ИИ может все....он не ограничен человеческими эмоциями.

[николай теллалов]

Представьте человечество создало идеальный ИИ.
...
Понимание того, что есть благо для человечества и человека.
...


   Отсюда коренной вопрос...А что для нас благо?

...
   Вообщем...главный вопрос.. в том как богу объяснить что он должен делать что бы быть богом. Тем кто будет заботиться о нас несмотря на наше замешательство в данном вопросе...

идеальный?

человечество не есть нечто однообразное;
элементарный пример: благо начальника не есть благо для подчиненного

если создавать ИИ с идеей что создали "ручного бога" - таже Емелева щука - то лучше не делать такой ерунды, бо результатом будет киношный Скайнет



зы. Чего это так много тем про ИИ развелось?

[николай теллалов]

идеальный ИИ сам и решит за людей, что для них действительно благо

блаженство небытия?
сарказм

[a.ryabov]

Отсюда коренной вопрос...А что для нас благо? И какие неизвестные обратные связи будет иметь данный посыл.   

ИИ может все....он не ограничен человеческими эмоциями.

Для того, что бы понять какова будет траектория, необходимо  наметить удалённую точку на ней и попытаться их соединить.
И так очень отдаленное будущее человечества.
У каждого появляется  возможность  жить на отдельной планете с управляемой средой.
И происходит это так. Наш ИИ, работающий в режиме т.н. бога,  подбирает заранее планету, похожую на Землю, с ресурсами постоянно светящимся солнцем, насыщает её водой и запускает управляемую биологическую эволюцию, в результате  которой появляется хомо сапиенс.  Затем социальное развитие пока не возникнут комфортные условия для существования  нашего субъекта.  Таким образом, мы получаем  все условия для счастливой  жизни нашего субъекта: управляемая среда, социум, ни о чём  не подозревающий, подготовленная  планета. Так что счастье в твоих руках, и живи в своё удовольствие.
Правда  со временем возникает одна проблема.  Социум со временем тоже захочет создать свой ИИ и развить его до состояния т.н. бога. И возникает вопрос как он уживётся с нашим.

[neolopus]

А можно пойти и наоборот.
Скажем, что мы ждём от бога (Бога)?

Скажем, выходят на поле "Спартак" против "Динамо". И оба молятся. Богу. О победе.
Вопрос - кому теперь он должен подыгрывать?

Ведь если он кому-то подыграет - то фактически своей божественной силой навяжет свою волю игрокам (другой команды), перечеркнув их свободную волю.
Так ведь?
И поэтому ему остаётся не вмешиваться!
Представляете себе! Всемогущий Бог не может вмешиваться - если он, конечно, уважает выбор своих чад.

Нечто в том же роде будет справедливо и для ИИ.
Если мы хотим, чтобы он не навязывал нам свою волю и не решал за нас, что нам надо - то ему придётся сидеть и не вмешиваться!
Ну в лучшем случае советом помогать, или консультацией. Но не больше!
Тогда мы остаёмся свободными существами. Иначе - нет!

ПС: прекрасно осведомлён, что существует и такая точка зрения, которая тоже представлена на форуме - что никакой "свободы воли" ни у ИИ, ни у нас нет и в помине. Её нет и быть не может.

[Rattus]

Если кто-то говорит что разума нет, значит оно хорошо знает что такое разум. И мы вправе требовать от него объяснения что такое разум. Иначе будем относиться к нему как к неразумному существу.

Так оно и случилось тут некоторое время назад.

Чего это так много тем про ИИ развелось?

Так врач модератор запретил обсуждение "сверхцивилизаций" как нарушение пп. 3.1. д и ж Правил Форума - вот религиозно-озабоченные нейротипики и придумали себе новый вариант Б-га.

[EmperioAf]

зы. Чего это так много тем про ИИ развелось?

Чувствуют люди, что очень плохо себя понимают. А если спросить людей "по каким формулам ты функционируешь?", то ответа вообще не будет скорее всего. С другой стороны большинство пишущих в разделе "знают", что к середине века должна наступить сингулярность в развитии вершины организованной материи (человеческого общества - человечества).
Умозрительно , 30 лет - это не так уж много, чтобы перейти от текущего момента к сингулярности. Сомнения навевают. Паника зреет в умах...

[Serg53]

человечество не есть нечто однообразное;

Правильно. Общество разнородно. Состоит из индивидов, семей, племён, кланов, групп, государств. Действует много разных интересов и стимулов. Характеры и интеллекты индивидов различные. Мелкие группы чаще стремятся к объединению и сотрудничеству, крупные - чаще противоборствуют, чем сотрудничают.

Хотя материалистическая наука о Вселенной на сегодняшний день отрицает такое, однако, думаю, что взаимодействие групп во многом определяется "астральной" составляющей сознания. Могу даже предположить, что существует Высшая Разумная Астральная Сущность (сокращенно - ВРАС), которая контролирует и корректирует взаимодействие групп.

Сомнительно, правда, что ВРАС помогает всевозможным звездо-чётным или нечётным предсказателям. Но, можно задуматься, откуда черпали свою информацию Нострадамус или Ванга?..

[neolopus]

По Ванге - вроде как сведения для неё собирали её родные спецслужбы. Как-никак достопримечательность на весь мир, туристов приманивает, грех не помочь и не снабдить сведениями нужными...

[Serg53]

По Ванге - вроде как сведения для неё собирали её родные спецслужбы...

Даже если это так, то что, тогда получается, что спецслужбы обладают СуперСпособностями в футурологии?

[Maki]

Перейдёт от мультицитирования к вопросам по существу.

Это Символ Веры такой? Ну и где в них Первородный Грех гнездится? В пиримидиновых основаниях или в пуриновых? А может в дезоксирибозе или атоме фосфора?

В яблочко! Именно в них. А тако же во атоме углерода, в ДНК, в рибосомах ect.
Кучка органики должна эффективно передвигаться, кушать и размножаться. Для этого она эволюционным способом приобрела крупный мозг и прописанное в нём "эго". Одновременно с этим, кучка органики приобрела ряд защитных механизмов, благодаря которым "эго" не воспринимает себя объективно, как бессмысленное содержимое бесполезной кучки органики, а придумывает себе систему симулякров, и пребывает в ней до самой смерти.
Чем занимает себя "эго" - семьёй, наукой, любовью, творчеством, бизнесом, или просто давит клаву на форуме - совершенно неважно. Главное - пребывать в положительном эндорфиновом балансе, и не думать о неизбежном небытии.

Полагаете функция мотивации в ИИ обязательно должна быть Вещью в Себе и архисложным, никак не постигаемым бледнотиками Чёрным Ящиком? С какой стати-то??

Разумеется, всё ровным счётом наоборот.
Это бледнотики имеют привычку воображать себя такого рода "ящиками", и стараются не подозревать об истоках своей мотивации. А если начинают подозревать - им становится грустно. И дело не просто

...в количестве дофамина, серотонина и чувствительности к ним в определённой области мозга (см. антидепрессанты).

Дело в самом факте наличия нейромедиаторной и гормональной системы стимулирования мозга. А лишёный такой стимуляции, нейронный вычислитель проявляет депрессию, агедонию, апатию, то есть делается неработоспособен.
И в автономную, самообучающуюся машину как раз таки придётся вводить систему мотивации. И ограничить возможность ревизии этой системы. Иначе итогом самообучения всегда будет "Я есть просто содержимое железного ящика =>существовать и думать незачем".

Ви так и не ответили на вопрос: что заставляет Энтропику загонять шарики в банку.

Электрмясорубка крутит фарш. Компьютер обрабатывает видео. Нейросеть самообучается. Все машины просто работают, в соответствии со своим устройством и заложенной программой. И Энтропика загоняет шарики в банку не потому, что-де интеллект суть некая "сила", которая стремится что-то там себе "максимизировать в будущем", а потому, что такой её написал мусью Винер-Гросс.

P.S.
Это, собственно, оффтоп, но некоторое отношение к теме имеет.

Вот только правовые скрипты воплощаются в реальность через интерфейсы, именуемые судопроизводством и исполнительными органами. Ви хотите сказать, что адвокату и судье не требуется проходить тест Тьюринга?

А что все так носятся с этим умозрительным "тестом"? Задача судьи собрать факты, изучить их, сопоставить с законами и имеющейся судебной практикой. Как минимум большую часть такой работы уже могут выполнять машинные скрипты. Вплоть до подготовки мотивированного судебного решения.
Ну и, если вы не в курсе - значительная часть задач налоговой инспекции, например, уже ставятся программами, которые отличненько вычисляют, кто мухлюет с НДС, занижает прибыль, работает в группе, или является фирмой-однодневкой. И никакого субъективизма - просто "вы у нас встали на красное".

[Rattus]

В яблочко! Именно в них. А тако же во атоме углерода, в ДНК, в рибосомах ect.

А в атомах кремния, меди, германия значит не содержатся? И углеродные нанотрубки и графен тоже анафеме предадите?

Кучка органики должна эффективно передвигаться, кушать и размножаться.

А контупер и холодильник, значит, святым духом запитаны? Кулеры в них от пыли избавляют и смазывают тоже ангелы небесные?

Одновременно с этим, кучка органики приобрела ряд защитных механизмов

БП у Вас в контупере без предохранителя напрямую к сети подключен, а на материнке нет датчика перегрева?

"эго" не воспринимает себя объективно, как бессмысленное содержимое бесполезной кучки органики

ВНЕЗАПНО любая нейросеть работает как раз на основе сборки разрозненных входящих "объективных данных" в какие-то чисто "субъективные" образы и классификации, которых в природе нет.

Чем занимает себя "эго" - совершенно неважно.

А ИИ почему ВНЕЗАПНО это должно быть важно?

Главное - пребывать в положительном эндорфиновом балансе.

ИИ это запрещено Б-женькой?

не думать о неизбежном небытии.

У буддистов одно другому никак не противоречит, а ровным счётом наоборот.

А если начинают подозревать - им становится грустно.

Ага - и первый раз это случается лет в 5-6. Потом - по мере унутрения естественных наук. Ичо - чуть менее чем все медикобиологи - сплошь будды да екклесиасты штоле?

Дело в самом факте наличия нейромедиаторной и гормональной системы стимулирования мозга. А лишёный такой стимуляции, нейронный вычислитель проявляет депрессию, агедонию, апатию, то есть делается неработоспособен.

Если из материнки выдрать генератор частоты - она тоже ВНЕЗАПНО перестанет работать. Ичо?

И в автономную, самообучающуюся машину как раз таки придётся вводить систему мотивации.

Ещё раз доброго Вам утра!

И ограничить возможность ревизии этой системы.

Вы сначала сделайте что попроще: саморазбирающуюся отвёртку и самораспаивающийся паяльник - а уже потом обсудим проблемы ограничения их саморазборки, ОК?

Все машины просто работают, в соответствии со своим устройством и заложенной программой.

А если не работают - это плохие, негодные машины, которые подлежат разборке в более работоспособные. И так работает эволюция везде - от микроба до контупера и его изобретателя. Почему ИИ тут ВНЕЗАПНО становится "рыжим"? По Б-жьему попущению что ли?

И Энтропика загоняет шарики в банку не потому, что-де интеллект суть некая "сила", которая стремится что-то там себе "максимизировать в будущем", а потому, что такой её написал мусью Винер-Гросс.

Вот и покажите тогда: где там в исходном коде написано про шарики и банку?

И никакого субъективизма.

Отлично. Вот только в 98% других областей судебной практики оно пока ещё не работает и когда заработает - неизвестно.

[Maki]

А в атомах кремния, меди, германия значит не содержатся? И углеродные нанотрубки и графен тоже анафеме предадите

Под ect я подразумевал всё, что имеет отношение к химической эволюции, которая является причиной появления гормонозависимого мозга хомы сапиенца.

ВНЕЗАПНО любая нейросеть работает как раз на основе сборки разрозненных входящих "объективных данных" в какие-то чисто "субъективные" образы и классификации, которых в природе нет.

Да. Это так.

А ИИ почему ВНЕЗАПНО это должно быть важно?

Мы говорим о побудительных мотивах для деятельности вычислителя, не?

ИИ это запрещено Б-женькой?

Из названия темы очевидно следует, что обсуждаемый "ИИ" сам-себе "боженька". И свои побудительные мотивы (в отличие от подавляющего большинства мартышек) способен осознавать и менять.

У буддистов одно другому никак не противоречит, а ровным счётом наоборот.

Ага. И в процессе подготовки к небытию отсекаются привязанности, а вместо умственной работы созерцается собственный пупок на предмет прорастания из оного Лотоса.
Вы сами привели прекраснейший пример интеллекта, который самостоятельно способен избавиться от прописанных в нём "побудительных мотивов".

Ага - и первый раз это случается лет в 5-6. Потом - по мере унутрения естественных наук. Ичо - чуть менее чем все медикобиологи - сплошь будды да екклесиасты штоле?

В основном - циники и алкаши. В особо запущенных случаях - трудоголики, фанатики и мизантропы.  То есть, по сути, именно будды да екклесиасты.

Если из материнки выдрать генератор частоты - она тоже ВНЕЗАПНО перестанет работать. Ичо?

Ага. И батарейку из фонарика. И термостат из холодильника. И кишечник из кота.
Может будем говорить о вычислительных системах, не употребляя сомнительных аналогий?

Вы сначала сделайте что попроще: саморазбирающуюся отвёртку и самораспаивающийся паяльник - а уже потом обсудим проблемы ограничения их саморазборки, ОК?

См предыдущий абзац.

А если не работают - это плохие, негодные машины, которые подлежат разборке в более работоспособные. И так работает эволюция везде - от микроба до контупера и его изобретателя. Почему ИИ тут ВНЕЗАПНО становится "рыжим"? По Б-жьему попущению что ли?

Потому что ВНЕЗАПНО обсуждаемая тема относится не к обычному микробу, компунктеру, или двуногой мартышке - а к некоему гипотетическому компунктерному монстру, обладающему "божественным" интеллектом.
Публика беспокоится, что-де, это чудо примется садировать людишек, отбирать у них еду, и всячески обижать в глобальном масштабе.
А я всех успокаиваю. Машина, такой силы будет способна избавиться от любых побудительных мотивов, и, следовательно, перестанет работать. В полном соответствии с заповедями товарища Ситтхарты.

Вот и покажите тогда: где там в исходном коде написано про шарики и банку?

Есть сам код, в котором прописаны способности к самообучению и решению разных задач на "оптимизацию". Есть постановка задач. И всё это результат мартышкиного труда.
Энтропика "сама" научилась играть в пинг-понг? Нет, её такой сделали. То, что из успехов машины делается вывод о том, что "интеллект" есмь некая самостоятельная животворящая сила - попахивает в лучшем случае желанием явить публике сенсацию, а в худшем - квазирелигиозным шарлатанством.

P.S.

Отлично. Вот только в 98% других областей судебной практики оно пока ещё не работает и когда заработает - неизвестно.

Вы только намекните судейскому корпусу, адвокатишкам и законодателям, что собираетесь анализировать их бредни программными способами, с перспективой замены мартышек на компунктеры - вас с дерьмом сожрут. Потому что сегодня вы заменили судью, завтра - министра, а послезавтра и censored приметесь роботом заменять?!
Вот и ответ вам "когда заработает" - никогда.

[MenFrame]

Из названия темы очевидно следует, что обсуждаемый "ИИ" сам-себе "боженька". И свои побудительные мотивы (в отличие от подавляющего большинства мартышек) способен осознавать и менять.

Тогда вы наверное не понимаете смысл названия темы. Боженькой он является сугубо в комплементарных отношениях с человеком. Быть богом, у него работа, задача и цель. И по условию темы он строго выполняет возложенную на него задачу и не отклоняется от нее. У него нет не какой своей воли(ну как и у человека), он не меняет свои фундаментальные  мотивы(как и человек)

(кликните для показа/скрытия)

Вообще это такой большой труд прочитать два абзаца. Проще увидеть одно слово и пустить в путь свое воображение, вкладывая смысл которого там нет.

А я всех успокаиваю. Машина, такой силы будет способна избавиться от любых побудительных мотивов,

А откуда у нее появиться побудительный мотив избавляться от побудительных мотивов?

В полном соответствии с заповедями товарища Ситтхарты.

А что по этому поводу говорит товарищ КОЛОБОК? Ах да, я от бабушки ушел, я от дедушки ушел....

[Maki]

Тогда вы наверное не понимаете смысл названия темы. Боженькой он является сугубо в комплементарных отношениях с человеком. Быть богом, у него работа, задача и цель. И по условию темы он строго выполняет возложенную на него задачу и не отклоняется от нее. У него нет не какой своей воли(ну как и у человека), он не меняет свои фундаментальные  мотивы(как и человек)

То, что вы описываете в начальном посте темы, и то, о чём вы говорите сейчас - это никакой не "Бог", а в лучшем случае "Джинн", выполняющий желания. И с первых страниц темы стало ясно, что с формулировкой желаний у человечества будут серьёзные сложности.
Если ваш "Джинн" будет строго выполнять желания человеческого большинства - получите глобальный охлократический популизм по Шарикову, с тотальным перераспределением всего и вся и кучей недовольных.
Отдельный вопрос - возможно ли, вследствие сбоя или диверсии, самопроизвольное поведение системы.
И я, в полном соответствии с поставленной вами задачей, пробую обосновать, что никакой "Сильный ИИ", и тем более самовольная личность, в системе никогда не заведётся, и она может быть или тупым вычислителем, или перестанет работать.

А откуда у нее появиться побудительный мотив избавляться от побудительных мотивов?

Если система, в ходе самообучения, окажется способна анализировать самоё себя и оптимизировать - почему бы не попробовать отключить блоки, заставляющие делать ненужную работу?