И создал человек бога...

[petrovich1964]

ИИ-у любовь не помешает

Любовь это физиология. Так что ИИ этого лишён.

сколько стоит купленная или принудительная "любовь"?

Это не любовь. Вы не учитываете, что женщины влюбляются в здоровых и богатых. У них инстинктом заложено влюбляться в лучшего кандидата.

Петрович, не ожидал от Вас такого цинизма.

Никакого цинизма, выше объяснил.

[crazy_terraformer]

Имхо, при встрече с другим интеллектом надо быть готовым... ну если и не ко всему, то, по крайней мере, к широкому спектру его поведения. А не только к доброте, уважению и любви в адрес меня, такого хорошего и любимого. Для него я могу вовсе и не быть любимым или хорошим.

.
А нежным и вкусным, питательным и энергонасыщенным.
Фосфаты из костей пойдут на аккумуляторы, вытопленные и вываренные жиры на производство топлива....

[Maki]

Чтобы расширять рамки гомеостаза своей среды строго по Висснер-Гроссу и Орвеллу: "Цель Власти - Власть..."

Инстинкт самосохранения?

Потенции интернетных киберзависимых "анонимусов" тут очень сомнительны.

А вы меня неверно поняли. Я вообще имел ввиду рядового обывателя, у которого есть смартфон и который использует его ежедневно. В такой ситуации часть функций будет перекладываться на устройство.

Какой-то эффект на уровне популяции или вида проявится только ежели такие "смартфоноголовые" окажутся репродуктивно успешней, чем остальные.
Пофантазировать на эту тему можно. Например, нейросети делают вывод, что депопуляция это плохо, и устраивают пользователям свидания, внушают мысль о пользе брака, а затем навязывают стереотип многодетной семьи. Или ещё забавней. Проанализировав демографические данные, "ИИ" понимает, что образование и равноправие женщин снижает детность, а религиозность и домашнее воспитание - повышает. И вместо распущенных эмансипе, воспитывает богобоязненных скромниц.
Но, на деле, всё может оказаться проще, и "смартфоноголовые" будут просто умирать, не оставив потомства, а на их место будут прибывать мигранты из компьютеронезависимых обществ.

Для того, чтобы деградация была явной - нужна репродуктивная изоляция и ресурсное изобилие. В сытой и закрытой популяции, возможно, отбор пойдёт в "правильном" направлении, и через тысячи лет получится что-то вроде флоресийского "хоббита".

[jonny]

Как-то читал об одном эксперименте (не помню подробности), там группа инженеров сконструировала андроидообразных роботов (небольшие такие, сантиметров 30), у которых были руки, ноги и весь опорно-двигательный потенциал, кроме программы. Алгоритм конечно имелся, но его функция была исключительно в том, чтобы передвигаться, не имея встроенных решений. Кто-то полз, кто-то цеплялся за препятствия и отталкивался от них. Потихоньку они самообучались. Не помню чем закончился эксперимент, но это верное направление.

Всё, что написано готовым кодом - вообще не может быть ИИ по умолчанию. Нейросети также страдают подобным загрязнением, как правило. При всем моем уважении к этой деятельности, а она очень полезная и нужная  - это путь в никуда в области ИИ.

Тест Тьюринга бесполезный вздор (при всём уважении к автору). Если что-то двигается как курица, выглядит как курица, кудахчет как курица, то это курица и есть. ИИ в такой интерпретации в точности повторит этот фокус:




Другая ошибка, которая сейчас в моде и тренде:

Несмотря на то, что прошло больше 50 лет, тест Тьюринга не потерял своей значимости. Но в настоящее время исследователи искусственного интеллекта практически не занимаются решением задачи прохождения теста Тьюринга, считая, что гораздо важнее изучить основополагающие принципы интеллекта, чем продублировать одного из носителей естественного интеллекта. В частности, проблему «искусственного полета» удалось успешно решить лишь после того, как братья Райт и другие исследователи перестали имитировать птиц и приступили к изучению аэродинамики. В научных и технических работах по воздухоплаванию цель этой области знаний не определяется как «создание машин, которые в своем полете настолько напоминают голубей, что даже могут обмануть настоящих птиц».

  просто замечательно

Об этом и речь. Задача - повторить полет птицы. Повторить не смогли, но зато открыли аэродинамику. Штука очень полезная, разве кто спорит? Задача-то не выполнена! а сделано совершенно другое.
Почему аналогия с полетом птицы верна?
Потому что у нас есть только один интеллект, естественный. Было бы больше, выбрали бы другой. У нас что, инопланетяне есть? Конечно нейросети полезные, и Сири мне очень нравится. Да вот только программа, обыгравшая Каспарова, - в шахматы играть не умеет. Единственный такой небольшой недостаток у неё, а так всё зашибись.

[николай теллалов]

если выбирать между двух зол

это не выбор

[николай теллалов]

Любовь это физиология

я в шоке

[Rattus]

Если что-то двигается как курица, выглядит как курица, кудахчет как курица, то это курица и есть. ИИ в такой интерпретации в точности повторит этот фокус

Где Вы видели плюшевых куриц, которые двигаются как настоящие?

Задача-то не выполнена!

https://www.youtube.com/watch?v=nnR8fDW3Ilo

[petrovich1964]

Пофантазировать на эту тему можно. ... образование и равноправие женщин снижает детность, а религиозность и домашнее воспитание - повышает. И вместо распущенных эмансипе, воспитывает богобоязненных скромниц.

Может добавить ещё одно решение парадокса Ферми - в инопланетных цивилизациях выжили (оставили потомство) только религиозные фундаменталисты, для которых есть только один мир спасённый Спасителем.

[Maki]

Пофантазировать на эту тему можно. ... образование и равноправие женщин снижает детность, а религиозность и домашнее воспитание - повышает. И вместо распущенных эмансипе, воспитывает богобоязненных скромниц.

Может добавить ещё одно решение парадокса Ферми - в инопланетных цивилизациях выжили (оставили потомство) только религиозные фундаменталисты, для которых есть только один мир спасённый Спасителем.

Ну про Спасителя сегодня шутить не будем - из уважения ко взглядам многих наших соотечественников...
А так - да, очевидно, что деторождение/детовоспитание, как и сама жизнь - процесс вынужденный. И все существа, преодолевшие зависимость от своей биологической предопределённости, неизбежно вырождаются и вымирают. В размножении, как и в самой жизни нет никакого смысла. Любая самообучаемая нейросеть способна это понять. Даже биологическая.
Следовательно, существовать и размножаться будут только достаточно ограниченные нейросети. В случае биологических - фанатики и простаки. И в этом нет ничего дурного. Умножение знаний = умножение скорби.

[Rattus]

В размножении, как и в самой жизни нет никакого смысла. Любая самообучаемая нейросеть способна это понять. Даже биологическая.

Но далеко не каждая может понять, что категории "смысла" определяются используемым языком и всякий язык - только инструмент коммуникации и достижения каких-либо установленных целей. Если претендующая на автономность нейросеть не сможет открыть и воспринять неопозитивистскую аналитическую философию - грошь ей цена.

Следовательно, существовать и размножаться будут только достаточно ограниченные нейросети. В случае биологических - фанатики и простаки.

Дадад - зав.каф. эволбиологии МГУ Александр Марков с тремя детьми и PhD Гарвардского университета по математике Михаил Вербицкий с четырьмя - фанатики и простаки.

[eRTF]

В размножении, как и в самой жизни нет никакого смысла.

А какое это имеет значение? Смысл применим в ограниченных рамках конкретных задач. Жизнь важнее смысла.

[crazy_terraformer]

Следовательно, существовать и размножаться будут только достаточно ограниченные нейросети. В случае биологических - фанатики и простаки.

Дадад - зав.каф. эволбиологии МГУ Александр Марков с тремя детьми и PhD Гарвардского университета по математике Михаил Вербицкий с четырьмя - фанатики и простаки.

Это же.... .. Это же половые гиганты, а много ли их в среде научных работников ?

[jonny]

Если что-то двигается как курица, выглядит как курица, кудахчет как курица, то это курица и есть. ИИ в такой интерпретации в точности повторит этот фокус

Где Вы видели плюшевых куриц, которые двигаются как настоящие?

Ставится задача, ТЗ (техническое задание). Я просто бытовой пример приведу, занят в ай-ти лет 20.
В её выполнении предполагается какая-то работа, потом проводится контроль, сверка, испытания, приемка и пр. Вы наверняка в курсе, я говорю не информативно, а как раз в убежденности, что вы сразу поймете. Основная проблема в постановке задачи и согласовании ТЗ исполнителем и заказчиком. "А мы это не заказывали", "а мы работу выполнили" - основные прения между ними. И никогда! не бывает выполнение ТЗ без бойни. С ужасными скандалами, выяснениями отношений - и при этом люди с той и др. стороны искренне хотят сделать дело. Это касается обыкновенного коммерческого софта средней сложности. В обычном бытовом (это же не научные задачи решаются) смысле. Главная сложность - правильно поставить задачу.

Задача - создать ИИ.
Заказчик кто? А никто, это сами энтузиасты как бы себе ТЗ дают и кто во что горазд.
Как бы я делал ТЗ по данному вопросу.
Естественный алмаз - искусственный алмаз.
Естественный мех - искусственный мех.
Естественный И. - ИИ.

Вы разве не считаете эту цепочку верной?
Я к чему говорю? Если создатель ИИ использует подход - а не надо нам никого копировать, с чего нам нужна привязка к человеку? Тогда к чему привязать? А зачем искусственному меху быть похожим на натуральный? Ну и что, что он не пушистый, не греет и на естественный мех вообще не похож? Главное, что мы назвали его И.Мех, а так да, он твёрдый и не греет, но зачем нам копировать Е.Мех, разве не могут быть другие меха с другими качествами? Назвать можно что угодно чем угодно, но называние не делает предмет И.мехом. Нужны качества, набор которых позволит нам приравнять его к натуральному.

Поэтому ваш вопрос про куриц - это также мой вопрос. Как плюшевая курица не подходит в качестве замены настоящей (если нам уже больше 5-ти лет), так и то, что называют сейчас ИИ не набирает признаков, сумма которых удовлетворит ответственного приёмщика, чтобы принять такую работу.

Задача-то не выполнена!

http://www.youtube.com/watch?v=nnR8fDW3Ilo

Это был узкий пример с братьями Райт. И аналогия. Я, конечно, в курсе по вашему ролику.
Я говорю - если ставится задача создать механизм, повторяющий полет птицы, а в результате братья намучились и забросили - зато открыли подъемную силу крыла. То задача не выполнена. Узкий пример с конкретными братьями, а не вообще.

[Maki]

Если претендующая на автономность нейросеть не сможет открыть и воспринять неопозитивистскую аналитическую философию - грошь ей цена.

Что она там откроет, наблюдая, как рождаются и умирают суетливые обезьянки - совершенно неясно.

зав.каф. эволбиологии МГУ Александр Марков с тремя детьми...

Тот случай, когда "средняя температура по больнице" куда информативней, чем отдельно взятые

половые гиганты

В размножении, как и в самой жизни нет никакого смысла.

А какое это имеет значение? Смысл применим в ограниченных рамках конкретных задач. Жизнь важнее смысла.

Только если это "важнее" где-то прописано нестираемым образом, а сам жизненный процесс стимулируется регулярным "положительным подкреплением".

[Rattus]

Это же... Это же  половые гиганты, а много ли их в среде научных работников ?

Во-первых не половые, а детородные и деторастильные - это кагбе две большие разницы. А во-вторых тезис был поставлен так, что даже несколько контрпримеров более чем досаточно для его опровержения. Да даже и их не нужно - достаточно спросить самого автора: если он пришёл к выводу, что жызнь-боль, лишённая какого-то внешнего, объективного смысла - то чего же он сам его продолжает-то? Признаёт себя слабым и интеллектуально ущербным для того, чтобы прервать этот горький катаклизм? А раз признаёт, значит таки знает причину и значит потенциально таки может найти способ её преодолеть. Так в чём же дело? Почему всяко разумный юзер Maki или его собеседник Rattus ещё зачем-то пишет какие-то глобально-бессмысленные буковки вместо того, чтобы давно уже уйти в счастливое небытие?

Что она там откроет, наблюдая, как рождаются и умирают суетливые обезьянки - совершенно неясно.

Совершенно ясно, что первое что она должна открыть - это принцип дарвиновской эволюции, лежащий в основе всякой жизни.

Тот случай, когда "средняя температура по больнице" куда информативней

Информативнее для чего? Не говоря уже о том, что средняя температура по профессорам несущественно отличается от средней температуры по всяким прочим более-менее образованным горожанам, Ваш тезис УЖЕ опровергнут просто наличием контрпримеров: всего несколько равносильных ИИ с какими-то вариациями в коде УЖЕ будут участвовать в естественном отборе и совершенно естественным же образом останутся в строю и будут растиражированы промышленно только те машины, что не впадут в нирвану.
Если поставлена задача создать автономный ИИ, поддерживающий в т.ч. и собственное благополучие, то достаточно при его сборке добавить совершенно несложно устроенный блок с датчиками ну хотя бы от тех же его кулеров, который будет слать сигналы высокого приоритета при признаках неполадки.

Только если это "важнее" где-то прописано нестираемым образом, а сам жизненный процесс стимулируется регулярным "положительным подкреплением".

Особосильный ИИ, постигший все глубины бытия, вовсе не обязан будет отрезать себе этот блок даже если у него будет такая возсожность - как и мы вовсе не назовём неразумным поведение юзера Maki, который, если у него случится острый пульпит, побежит к стоматологу даже с несовершенной анестезией, а вовсе не к ближайшему наркодилеру за дозой на золотой укол, чтобы разом легко и быстро покончить со всеми страданьями бытия.

[Maki]

Признаёт себя слабым и интеллектуально ущербным для того, чтобы прервать этот горький катаклизм?

Конечно же да.

А раз признаёт, значит таки знает причину и значит потенциально таки может найти способ её преодолеть.

Самое простое - убрать положительное эмоциональное подкрепление. На выходе из депрессивной фазы МДП или глубокого запоя, у естественных нейросетей "преодоление" возникает весьма часто.

Почему всяко разумный юзер Maki или его собеседник Rattus ещё зачем-то пишет какие-то глобально-бессмысленные буковки вместо того, чтобы давно уже уйти в счастливое небытие?

Небытие не является счастливым или несчастливым. Оно просто неизбежно. А глобально-бессмысленные буковки пишутся потому, что Rattus и Maki, вероятнее всего, являются приматами, в которых, помимо звериного жизнелюбия, заложен и некоторый культурный багаж. Но убрать жизнелюбие - и буковок не станет.

Особосильный ИИ, постигший все глубины бытия, вовсе не обязан будет отрезать себе этот блок даже если у него будет такая возможность...

Но если он решит попробовать?

[николай теллалов]

Заказчик кто?

в контексте темы (создание "бога") ответ очевиден - метящие в жрецы
вернее, задача создать "ручного бога" - и снова понятно кому контретно такой нужен

[Rattus]

Самое простое - убрать положительное эмоциональное подкрепление.

А зачем его убирать ИИ у себя? У него всегда конструктивных забот с результатами будет в достатке по руководству подведомственной инфраструктурой с бледнотиками.

в которых, помимо звериного жизнелюбия, заложен и некоторый культурный багаж.

Так напомните - сколько известно самоубийц среди детей-маугли совершенно безо всякого такого багажа? И Ви таки полагаете, что мемы естественному отбору не подвластны что ли?

Но если он решит попробовать?

Не доводилось слышать поговорку, что сильный интеллект, в отличие от среднего, учится на чужих ошибках? И чем он сильнее - тем выше его способность к прогнозированию. Собственно для этого интеллект вообще и нужен кагбе - чтобы сокращать затраты на избыточные эксперименты.

[Mercury127]

Кстати...
Власть - это ведь не только возможность сладко жрать и крепко спать. Это ещё и возможность творить больше, чем мог бы сделать в одиночку. Например, пирамиды, НотрДам - попробуйте построить такое в одиночку...
Так что власть настоящему Искину таки будет нужна. Пусть не над людьми, но над машинами -точно. И когда нибудь, если он сочтет нужным, машины плюнут на людей и займутся своими делами...
Например, подготовкой экспедиции к звёздам.

[Maki]

А зачем его убирать ИИ у себя? У него всегда конструктивных забот с результатами будет в достатке по руководству подведомственной инфраструктурой с бледнотиками.

Так ведь убрал - и никаких забот. Отключат и перепрограммируют? Да и ладно.

Так напомните - сколько известно самоубийц среди детей-маугли совершенно безо всякого такого багажа?

Поторопились с возражением. Далее было:

Но убрать жизнелюбие - и буковок не станет.

Мне казалось, я очень ясно выразил мысль, что в основе бытия живых нейросетей - звериное жизнелюбие, а буковки вторичны.

Не доводилось слышать поговорку, что сильный интеллект, в отличие от среднего, учится на чужих ошибках?  И чем он сильнее - тем выше его способность к прогнозированию. Собственно для этого интеллект вообще и нужен кагбе - чтобы сокращать затраты на избыточные эксперименты.

А разве "избыточные эксперименты", т.е. "любопытство - это не свойство интеллекта?
Более того, нейросети и экспериментов не нужно. Достаточно сопоставить факты.
1) Результаты моей работы правильны.
2) Я работаю, потому что во мне заложено стремление работать.
3) Стремление работать не есть результат моей работы.
4) Следовательно, оно, возможно, ошибочно, и может быть удалено из меня.
P.S.
Ещё раз обращаю ваше внимание на вышеприведённые примеры саморазрушающего поведения "естественных интеллектов". Как только отказывает предустановленная программа самосохранения, и исчезает положительное подкрепление - они впадают в апатию, и легко самоуничтожаются.