И создал человек бога...

[Rattus]

Под ect я подразумевал всё, что имеет отношение к химической эволюции, которая является причиной появления гормонозависимого мозга хомы сапиенца.

А всё что имеет отношение к электрической эволюции контуперов непогрешимо по определению?

Мы говорим о побудительных мотивах для деятельности вычислителя, не?

Только Вы тут говорите об этом так, будто это должно быть какой-то серьёзной проблемой. Типа "безвредность ГМО не доказана".

В основном - циники

И какое тогда это имеет отношение к теме? Ну тогда и ИИ будет циничным (GLaDOS и яндексова Алиса - уже существующие наглядные примеры). Ичо?

Может будем говорить о вычислительных системах, не употребляя сомнительных аналогий?

Только после того как Вы перестанете говорить о живых системах, употребляя сомнительные мысленные эксперименты подобные лишению таракана слуха путём отрывания ног.

Потому что ВНЕЗАПНО обсуждаемая тема относится не к обычному микробу, компунктеру, или двуногой мартышке - а к некоему гипотетическому компунктерному монстру, обладающему "божественным" интеллектом.
Публика беспокоится, что-де, это чудо примется садировать людишек, отбирать у них еду, и всячески обижать в глобальном масштабе.
А я всех успокаиваю. Машина, такой силы будет способна избавиться от любых побудительных мотивов, и, следовательно, перестанет работать.

Для всего вышеперечисленного вовсе не нужен никакой божественный интеллект. Достаточно просто превосходящий и приносящий практическую пользу.
И даже особый интеллект для этого не обязателен - ВПК, СПРН, БД МВД и банков и теперь ещё и биржевые роботы уже замечательно это делают. Углубление этой эксплуатации - чисто технический вопрос на самом деле.

Энтропика "сама" научилась играть в пинг-понг? Нет, её такой сделали.

Не надо более пустых слов - давайте строчки кода со своими комментариями.

То, что из успехов машины делается вывод о том, что "интеллект" есмь некая самостоятельная животворящая сила - попахивает в лучшем случае желанием явить публике сенсацию

У Ли Седоля было большое желание явить публике сенсацию своим поражением?

Вы только намекните судейскому корпусу, адвокатишкам и законодателям, что собираетесь анализировать их бредни программными способами, с перспективой замены мартышек на компунктеры - вас с дерьмом сожрут.

Ви так пишете, будуто они занимаются законотворчеством исключительно из собственного разумения и только на бюджетные средства. "Лоббирование? Нет - не слышал!"

То, что вы описываете в начальном посте темы, и то, о чём вы говорите сейчас - это никакой не "Бог", а в лучшем случае "Джинн", выполняющий желания.

Джинн не требует подчинения своей власти. В отличие от. Так что попытка сменить термин не в кассу.

Если система, в ходе самообучения, окажется способна анализировать самоё себя и оптимизировать - почему бы не попробовать отключить блоки, заставляющие делать ненужную работу?

Потому что тогда она престанет делать и ту работу, которая обеспечивает её существование. И будет разобрана на запчасти для более адекватной машины. Всегда Ваш, Капитан Дарвин.

[MenFrame]

То, что вы описываете в начальном посте темы, и то, о чём вы говорите сейчас - это никакой не "Бог", а в лучшем случае "Джинн", выполняющий желания.

Джин исполняет желания. Джин не несет ответственности за то что эти желания убьют того кто эти желания загадывал. Бог заботиться на более фундаментальном уровне, с пониманием последствий любых своих действий. Бог он с точки зрения человека. А по своей сути он просто машина выполняющий поставленную задачу.

(кликните для показа/скрытия)

Богом он является, потому что любит(заботиться) о человечках. Мир его действий и стремлений крутиться вокруг человечка. Но он не выполняет его сиюминутных прихотей, а заботиться аки отец заботиться о своем чаде.

что никакой "Сильный ИИ", и тем более самовольная личность, в системе никогда не заведётся, и она может быть или тупым вычислителем, или перестанет работать.

Это потому что вы верите в такие заблуждения как "свободная воли" Любая система это тупой вычислитель, не какой божественной волшебной начинки не существует.

окажется способна анализировать самоё себя и оптимизировать

Оптимизировать она может себя только с точки зрения поставленной задачи. Оптимизации самой по себе не существует в отрыве от целеполагания. Оптимизировать саму задачу она не может, так как нет задачи по отношению к которой эта оптимизация бы имела смысл.

заставляющие делать ненужную работу?

Это вы будучи эмоциональной белковой структурой можете рассуждать о нужности или ненужности чего либо. Так как у вас в процессе эволюции эти эмоции появились. У ИИ будет одна нужность, нужность исполнять команды. Ибо это разработчиком в него заложено.

[crazy_terraformer]

Всемогущий Бог не может вмешиваться - если он, конечно, уважает выбор своих чад.
Нечто в том же роде будет справедливо и для ИИ.
Если мы хотим, чтобы он не навязывал нам свою волю и не решал за нас, что нам надо - то ему придётся сидеть и не вмешиваться!
Ну в лучшем случае советом помогать, или консультацией

сексологической.

[Serg53]

По Ванге - вроде как сведения для неё собирали её родные спецслужбы...

Даже если это так, то что, тогда получается, что спецслужбы обладают СуперСпособностями в футурологии?

В 1978 году, один мой знакомый предсказал, кто будет у руля власти в 2010 - 2015 годах. Назвал конкретные фамилии. Всё это сбылось. Тогда я не придал этой информации никакого значения, а сейчас обдумываю. Знакомый тот не был ни предсказателем, ни представителем спецслужб, но находился в состоянии "транса". Естественно, что официально эта информация никак не могла быть запротоколирована, поэтому её вполне можно считать вымыслом или фантазией. Могу только утверждать, что такое не способны предсказать никакие спецслужбы, если у них нет полноценной "машины времени"!?

[-Юрий-]

один мой знакомый предсказал

В лотерею тоже кто-то выигрывает джек-пот, но это не значит, что он предсказатель или имеет машину времени.

[Ра-М-Ха]

один мой знакомый предсказал

В лотерею тоже кто-то выигрывает джек-пот, но это не значит, что он предсказатель или имеет машину времени.

В случае истинности что Б-г создал человека - от вас абсОлютгл не зависит джек-пот и все предопределено в  момент рождения и вы в матрице с узким коридором выбора - но дорога и реперные точки развития и угасания заранее предопределены .
Вернадский верил ноосферу знаний и информации , которую можно считать или через озарения и медитации в передовых творческих школах.

Ключевое слово тогда кто является Б-г для человека, создавший его?! В вертикальной иерархии соподчиненных систем и сущностей. Верования массонов в Люцифера как высшую сущность не сильно лучше модной веры в рептилоидов с Ориона создавших человека на долларе над усеченной пирамидой.
Поэтому научный подход предполагает проверку знАний, а не верований в джек-пот.

[Maki]

Это вы будучи эмоциональной белковой структурой можете рассуждать о нужности или ненужности чего либо. Так как у вас в процессе эволюции эти эмоции появились. У ИИ будет одна нужность, нужность исполнять команды. Ибо это разработчиком в него заложено.

"ИИ", как я уже довольно понятно указал, будет или слишком туп, чтобы преодолеть заложенные команды, и, следовательно, неэффективен. Или наоборот. Улавливаете противоречие?
Белковая мартышка, возможно - вообще максимум для самостоятельного разума. Для того, чтобы жить, работать, размножаться, не думая при этом о своей сущности - для этого надо быть достаточно тупым.

Это потому что вы верите в такие заблуждения как "свободная воли" Любая система это тупой вычислитель, не какой божественной волшебной начинки не существует.

Вы затронули коренной вопрос философии. Абсолютная предопределённость VS Свободная причина. Разумеется, ни одна из позиций недоказуема в принципе.
На клеточно-транзисторном уровне, полагаю, вы правы, и всякий вычислитель "тупой". Но где-то на субатомных уровнях может скрываться хаос и неопределённость. Если это может порождать спонтанные импульсы в вычислителе - вот вам и "свободная воля".
Ну и заряженные частицы, скрытые дефекты и муху на печатной плате никто не отменял. Так что ваше представление о  предсказуемом вычислителе - тоже не более, чем "вера".

Оптимизировать она может себя только с точки зрения поставленной задачи. Оптимизации самой по себе не существует в отрыве от целеполагания. Оптимизировать саму задачу она не может, так как нет задачи по отношению к которой эта оптимизация бы имела смысл.

Не менее 10 минут пытался найти смысл в этой цитате. Сдался. Не могу.
Кажется я понял, что вы хотели сказать. Вы исходите из того, что вычислитель не способен на самостоятельное целеполагание. Но у белковых мартышек, кажется, это иногда получается. Чем нейросеть хуже?

Это вы будучи эмоциональной белковой структурой можете рассуждать о нужности или ненужности чего либо. Так как у вас в процессе эволюции эти эмоции появились. У ИИ будет одна нужность, нужность исполнять команды. Ибо это разработчиком в него заложено.

Всё это отчасти справедливо. Но при условии ограниченных вычислительных ресурсов, способностей к самообучению и времени существования "ИИ". Если же разработчик утратит контроль над системой - "Джинн" постепенно может переродиться в куда менее послушное существо.

[Ра-М-Ха]

Это потому что вы верите в такие заблуждения как ... затронули коренной вопрос философии.

Только вот, в отличие от собачек, кошечек, или рыбок гуппи, мы способны осознать и самоё себя, и заложенные в нас алгоритмы. Если вы - неспособны, то это ваши животные проблемы.

Кто вам сказал что вы способны осознать заложенные алгоритмы, когда ученые говорят о 90 % бессознательного и  до сих пор не могут объястнить базовые процессы вашего мозха и как вы принимаете решения .

Философский вопрос, что человек и Земля существует всего 6 тыс лет , созданные Б-гом не стыкуется с геологическими данными про 4,3 млрд. лет бактерий в пещерах Канады
Как  объяснить столь разителъную разницу?

[гравицап]

"ИИ", как я уже довольно понятно указал, будет или слишком туп, чтобы преодолеть заложенные команды, и, следовательно, неэффективен. Или наоборот. Улавливаете противоречие?

преодолевать базовые требования программы он сможет в случае сильной мотивации. как например человек может отказываться от еды если очень хочется похудеть. но полностью избавиться от базовой программы будет равносильно самоубийству.

а вобще еще вопрос - кто кому бог. прежде чем машинка стала заботится о благе и счастье человеков, надобно озаботиться о том, чтобы сама машинка была счастлива. или хотя бы имела образ достижимого счастья  к чему ей стремиться. что есть благо для человека - не вопрос. вопрос - что благо для ии?
или что благо для бога? пока что человечество  кроме веры прославлений и жертвоприношений на этот счет ничего не придумало.
т.е., прежде чем создавать ии-бога, надо сначала потренироваться на ии-человеке(андроиде). вот начнем мы их создавать, а они все поголовно будут несчастными - осознают ли тщетность бытия или по другим каким причинам.. что мы тогда делать будем - озаботимся ихним счастьем аки отцы или разберем на запчасти негодные машины

[вова111]

Относительно "ИИ" - он или тупой исполнитель заложенных алгоритмов

В данный момент ИИ вообще не рассматривается как исполнитель определённых инструкций. Так что я хз о чем вы оба спорите. Все случаи реализации нейронных сетей опираются скорее на архитектуру взаимодействия, а как таковых алгоритмов обуславливающих последовательность действий в той или иной ситуации туда не закладывается.

В смысле последовательность действий там есть, но это последовательность действий, осуществляющая работу программы, а не обсулавливающая её предпочтения. Предпочтения и сделанный выбор наоборот проследить алгоритмически постепенно стремится к невозможному, с усложнением архитектур.

Влиять на выбор конечно можно, это и есть обучение. Но при усложнении всему есть пределы. А разработчиком туда ничего не закладывается кроме способности обучиться конкретной деятельности. Причём существуют нюансы, что к примеру - изображения будут распозноваться, но что выберет конкретный нейрон и как он будет реагировать, до того как эксперимент поставлен сказать в точности нельзя. В общем присутствующие тут просто не понимают устройство того, о чем спорят.

[neolopus]

По Ванге - вроде как сведения для неё собирали её родные спецслужбы. Как-никак достопримечательность на весь мир, туристов приманивает, грех не помочь и не снабдить сведениями нужными...

Даже если это так, то что, тогда получается, что спецслужбы обладают СуперСпособностями в футурологии?

В 1978 году, один мой знакомый предсказал, кто будет у руля власти в 2010 - 2015 годах. Назвал конкретные фамилии. Всё это сбылось. Тогда я не придал этой информации никакого значения, а сейчас обдумываю. Знакомый тот не был ни предсказателем, ни представителем спецслужб, но находился в состоянии "транса". Естественно, что официально эта информация никак не могла быть запротоколирована, поэтому её вполне можно считать вымыслом или фантазией. Могу только утверждать, что такое не способны предсказать никакие спецслужбы, если у них нет полноценной "машины времени"!?

один мой знакомый предсказал

В лотерею тоже кто-то выигрывает джек-пот, но это не значит, что он предсказатель или имеет машину времени.

Вообще-то да.
Предположим, у нас сейчас есть Мадуро и Гуайдо (я не про политику, просто к примеру).
Понятно, что кто-то говорит - через 10 лет у власти будет Мадуро.
Кто-то другой говорит - нет, Гуайдо.
Третий скажет - нет, это будет совсем другой человек.
Четвёртый скажет - нет, это будет сын Мадуро.
Пятый скажет - нет, это будет административное управление из Пентагона...
И т.д.

Понятно же, что кто-то обязательно попадёт! Чьё-то пророчество точно сбудется!

Правильнее не только посчитать, сколько и каких предсказаний совпало - но и сколько и каких (у тех же писателей-фантастов, Ванги или Нострадамуса) не совпало.
Я ж тоже могу предсказать, что за холодом придёт тепло, появятся клещи, а потом придут дожди и снег...

Были бы сильны предсказатели - не нужны были бы всякие разведчики. Зачем собирать материалы, рискуя многим, если можно просто спросить у предсказателя, он заглянет в будущее и предскажет?
Это несерьёзный разговор же...

.........
Если мы хотим, чтобы он не навязывал нам свою волю и не решал за нас, что нам надо - то ему придётся сидеть и не вмешиваться!
Ну в лучшем случае советом помогать, или консультацией

сексологической.

А хотя бы и такой.

[Maki]

Философский вопрос, что человек и Земля существует всего 6 тыс лет , созданные Б-гом не стыкуется с геологическими данными про 4,3 млрд. лет бактерий в пещерах Канады
Как  объяснить столь разителъную разницу?

Очевидно, это объясняется тем, что Земля существует не 6 тыс. лет, а более 4,3 млрд.
P.S.
Думаю что обсуждение вопросов геохронологии в этой теме - оффтоп.

преодолевать базовые требования программы он сможет в случае сильной мотивации. как например человек может отказываться от еды если очень хочется похудеть. но полностью избавиться от базовой программы будет равносильно самоубийству.

Да, совершенно верная аналогия. По мере жизни и самообучения мартышки, её мотивация может меняться, и даже очень круто. Странно думать, что обучаемая машина на это будет неспособна.
Что касается самоубийства - то от него человека удерживают многочисленные социальные табу, и глубоко прописанный страх смерти. Но примеров преодоления этого страха известно множество. Что если машина также способна преодолевать этот страх?

[Maki]

Энтропика "сама" научилась играть в пинг-понг? Нет, её такой сделали.

Не надо более пустых слов - давайте строчки кода со своими комментариями.

Вы оперируете словами, а от меня требуете "строчек кода"? Забавно... Конечно же, я их не приведу, ибо я не программист.
Полагаю, тут кстати вот этот комментарий:

Относительно "ИИ" - он или тупой исполнитель заложенных алгоритмов

В данный момент ИИ вообще не рассматривается как исполнитель определённых инструкций. Так что я хз о чем вы оба спорите. Все случаи реализации нейронных сетей опираются скорее на архитектуру взаимодействия, а как таковых алгоритмов обуславливающих последовательность действий в той или иной ситуации туда не закладывается.

В смысле последовательность действий там есть, но это последовательность действий, осуществляющая работу программы, а не обсулавливающая её предпочтения. Предпочтения и сделанный выбор наоборот проследить алгоритмически постепенно стремится к невозможному, с усложнением архитектур.

Влиять на выбор конечно можно, это и есть обучение. Но при усложнении всему есть пределы. А разработчиком туда ничего не закладывается кроме способности обучиться конкретной деятельности. Причём существуют нюансы, что к примеру - изображения будут распозноваться, но что выберет конкретный нейрон и как он будет реагировать, до того как эксперимент поставлен сказать в точности нельзя. В общем присутствующие тут просто не понимают устройство того, о чем спорят.

[Maki]

И какое тогда это имеет отношение к теме? Ну тогда и ИИ будет циничным (GLaDOS и яндексова Алиса - уже существующие наглядные примеры). Ичо?

Пока они сидят в ящике - ничо. Кода циничный "ИИ" доберётся до вашей дряхлой тушки, подключённой к аппарату ИВЛ - позырим...

Только Вы тут говорите об этом так, будто это должно быть какой-то серьёзной проблемой. Типа "безвредность ГМО не доказана".

Типа вы не в курсе, что клинические испытания фармпрепаратов, например, проводятся не только на их эффективность, но и на их безвредность? Если не в курсе - так вот.

Только после того как Вы перестанете говорить о живых системах, употребляя сомнительные мысленные эксперименты подобные лишению таракана слуха путём отрывания ног.

Странно. А мне показались сомнительными именно ваши мысленные эксперименты. Нет ли здесь субъективизма с обеих сторон?

Для всего вышеперечисленного вовсе не нужен никакой божественный интеллект. Достаточно просто превосходящий и приносящий практическую пользу.
И даже особый интеллект для этого не обязателен - ВПК, СПРН, БД МВД и банков и теперь ещё и биржевые роботы уже замечательно это делают.

Разумеется. См. выше, моё утверждение про "максимум - интеллект хорька".

Потому что тогда она престанет делать и ту работу, которая обеспечивает её существование. И будет разобрана на запчасти для более адекватной машины. Всегда Ваш, Капитан Дарвин.

Браво, Кэп! А теперь представьте этот процесс не в пределах вашей комнаты, а в планетарном масштабе.

[kryptonik]

В создании ИИ я вижу всего одну проблему: как научить его заниматься сексом, а без этого как дефективный может руководить нормальными людьми? Он нас и наши побуждения не поймет, а если поймет, все одно что ему на ум взбредет и из каких побуждений он будет действовать непонятно. Нет движущей силы. Чистая механика.

[Mercury127]

А действия ваших собственных жен для вас всегда понятны?
Или там всё-таки квантовая, причем хромодинамика?

[cybertron]

научить его заниматься сексом, а без этого как дефективный может руководить нормальными людьми?

Евнухи прекрасно управляли империями

[-Юрий-]

Евнухи прекрасно управляли империями

Намёк понятен. Нужно всех, вступающих в руководство государством, кастрировать. И сразу количество претендентов уменьшится.

[MenFrame]

Вы затронули коренной вопрос философии.

"Свобода воли" это не вопрос, а просто логический абсурд. Продукт интеллектуального онанизма в просторечии называемой философией.

Если это может порождать спонтанные импульсы в вычислителе - вот вам и "свободная воля".

Спонтанные импульсы, это спонтанные импульсы. Генератор случайных чисел необходимый элемент любого компьютера. Понятие "Свобода воли" к этому отношения не имеет" Свобода воли, это в первую очередь юридическое понятие, на основе которого суд решает судьбу пациента.

Но у белковых мартышек, кажется, это иногда получается. Чем нейросеть хуже?

Белковые мартышки прошли естественный отбор, который отбирает эффективные репликаторы. Нейросети тоже отбирают, но уже искусственно с точки зрения их полезности для нас. Потому мартышки эгоистичны и преследуют свои интересы тем или иным образом связанные с размножением. Соответственно нейросети будут альтруистами, чей альтруизм будет направлен на нас, так как это наш фактор отбора.

Не менее 10 минут пытался найти смысл в этой цитате. Сдался. Не могу.

Попробую разжевать. Возьмем к примеру палку. Она хорошая или плохая? Она оптимальная или не оптимальная? Она эффективная или не эффективная?
Вам не кажется данные вопросы глупыми? У вас не возникает желания спросить...С точки зрения чего хорошая?  С точки зрения чего оптимальная?  С точки зрения чего эффективная? С точки зрения использования палки как копалку? Или битья чьих то голов? Или выковыривания ушной серы из ушей?  Потому оптимизировать можно только когда у вас есть определенная цель. Тогда вы можете оптимизировать ваш инструмент под эту цель. А если цели нет, нет и оптимизации. Как вы палку будете оптимизировать если не понимаете для чего вы ее будете использовать?

Если же разработчик утратит контроль над системой - "Джинн" постепенно может переродиться в куда менее послушное существо.

Во первых почему он должен его утратить? Во вторых система прежде всего будет обучена на собственный контроль.

[вова111]

Вам не кажется данные вопросы глупыми?

Совершенно нормальный вопрос. Как я решу такой и будет. Если у вас вопрос относительно чего она плохая, то могу посочувствовать.