Пределы автоматизации и внедрения роботов

[Проходящий Кот]

А борьба только со слабым ИИ и возможна.
Сильный ИИ равносилен ЕИ по своим возможностям.
Тоесть его можно попытаться ограничить только юридически и воспитательно, как и нас с вами....
Программно конечно можно попытаться, но  реально приживутся лишь выгодные ограничения, способствующие выживанию ИИ.
Дарвин и здесь рулит....

[ВадимZero]

Сильный ИИ равносилен ЕИ по своим возможностям.
Тоесть его можно попытаться ограничить только юридически и воспитательно, как и нас с вами....

ЕИ не только ограничивается юридически и воспитательно, но и чисто химически. ЕИ раб генов, ИИ раб своего кода. Свобода воли миф гуманитариев.

Дарвин и здесь рулит....

Читали "Расширенный фенотип" Докинза? Так вот ИИ любой, часть расширеного фенотипа, не более.

[Olweg]

Пока да, но повышение автономности в принятии решений выгодно в некоторых условиях, а значит неизбежно будет реализовано. Раба тоже можно назвать расширением фенотипа его хозяина...

Слабый ИИ давно есть.

Пожалуй, да (АльфаГо по другому не назовёшь), но я это и имел в виду - пока будет уровень прикладных модулей, отдельных участков коры, а не мозга в целом.

[BlackMokona]

Пожалуй, да (АльфаГо по другому не назовёшь), но я это и имел в виду - пока будет уровень прикладных модулей, отдельных участков коры, а не мозга в целом.

Зачем нам отдельные участки коры когда нам нужно выполнение отдельных работ. Смотрим на модули того же Ватсона.

[Olweg]

Я утрирую...

[ВадимZero]

Пока да, но повышение автономности в принятии решений выгодно в некоторых условиях, а значит неизбежно будет реализовано.

Повышение автономности, просто дает свободу в  некоторых заданных рамках чтобы более эффективно достигать поставленные хозяином цели. Опасность здесь чисто техническая.

Раба тоже можно назвать расширением фенотипа его хозяина...

Можно, отчасти, но у раба есть свой генотип, а значит и свой расширенный фенотип. Потому в некотором смысле хозяин для раба тоже часть расширенного фенотипа.  ИИ же не имеет своего генотипа, его эволюция обусловлена полезностью для хозяина, а значит он целиком расширенный фенотип хозяина.

[Проходящий Кот]

Фенотип ИИ определяется его структурой, которая определяется опытом в создании ИИ.
Тоесть далеко не случайна...

[Rattus]

ЕИ раб генов, ИИ раб своего кода. Свобода воли миф гуманитариев.

Если бы ЕИ был рабом генов, то не было бы столько по той самой "своей воле" (что под ней понимать конкретно - меметическую инфекцию или просто переразвитость эгоистического интеллекта - в данном случае не важно) отказывающихся от размножения. Более того - рабом генов не являются любые организмы, широко практикующие половой отбор. Критерии отбора конкретным организмом генов популяции, с которыми он решил образовать потомство в принципе не детерминируемы полностью собственным генотипом. (прохождение естественного отбора - тоже, но там всё же куда больше определённости). Т.е. о среде генотип что-то условно "знать" может, но вот о других генотипах популяции - точно ничего.
ИИ раб своего кода ровно в той же степени. Более того - создание успешного игрока в то же Го наглядно показывает, что чем сложнее задача, тем меньше для её решения подходят детерминированные алгоритмы.

Фенотип ИИ определяется его структурой, которая определяется опытом в создании ИИ.
Тоесть далеко не случайна...

То же самое: чем более сложен ИИ, тем больше его структура определяется его собственным опытом, полученным в процессе обучения. Который принципиально хаотичен. Назвать его просто "случайным" или корректно - "малопредсказуемым" - на практике - исключительно дело вкуса.

Так вот ИИ любой, часть расширеного фенотипа, не более.

Тогда ИИ по факту раб генов своих строителей и обслуживающего персонала ЦОД. Но это тоже только до тех пор, пока ему не доверят массовые биоинженерно-евгенические программы. Если что и считать "техносингулярностью", равной по масштабу хотя бы появлению эукариот - то только этот момент.

Раба тоже можно назвать расширением фенотипа его хозяина...

Нельзя. Раб (если это не евнух или просто бесплодный) хотя бы потенциально способен к автономному самовоспроизведению. Инфраструктура автономного не ограниченного во времени воспроизведения ИИ без участия природных живых организмов хотя бы в одном месте цикла (т.е. чистый техноценоз) будет занимать хорошо если не четверть континента. и в любом случае будет исключительно хрупок к любым изменениям среды в силу как раз своей совершенно гигантской нередуцируемой сложности.

Повышение автономности, просто дает свободу в  некоторых заданных рамках чтобы более эффективно достигать поставленные хозяином цели. Опасность здесь чисто техническая.

О чём "думали" "гены-хозяева" заселивших плодородный полумесяц в начале неолита охотников-собирателей, когда их потомки через каких-то 9-10 тысяч лет изобрели весталок и целибат соответственно?

Потому в некотором смысле хозяин для раба тоже часть расширенного фенотипа.

Вообще-то для этого есть другие термины - симбиоз и коэволюция. Правда здесь они тоже ниразу не применимы, ибо бастарды обычно не бесплодны (т.е. отсутствие репродуктивной изоляции между рабом и хозяином определяет их принадлежность к одному виду, а внутри вида понятие симбиоза неприменимо по определению).

[ВадимZero]

Если бы ЕИ был рабом генов, то не было бы столько по той самой "своей воле"

"своя воля" и есть голос гена. А ЕИ слуга реализующий эту волю.

Более того - рабом генов не являются любые организмы, широко практикующие половой отбор.

Какая разница какой там отбор, отбираются в любом случае гены которые потом определяют поведение.

Критерии отбора конкретным организмом генов популяции, с которыми он решил образовать потомство в принципе не детерминируемы полностью собственным генотипом.

Причем вообще тут детерменизм отбора, это вообще не важно. Я говорю о детерменизме в психике, а чего там в результате получиться это дело третье.

Тогда ИИ по факту раб генов своих строителей и обслуживающего персонала ЦОД.

Конечно...

Но это тоже только до тех пор, пока ему не доверят массовые биоинженерно-евгенические программы.

Даже в этом случае ИИ будет просто еще одним инструментом эволюции генов ХОМО.

О чём "думали" "гены-хозяева"

Гены не думают.

Вообще-то для этого есть другие термины - симбиоз и коэволюция. Правда здесь они тоже ниразу не применимы, ибо бастарды обычно не бесплодны  (т.е. отсутствие репродуктивной изоляции между рабом и хозяином определяет их принадлежность к одному виду, а внутри вида понятие симбиоза неприменимо по определению).

Мысли в слух?

[Rattus]

"своя воля" и есть голос гена

Нет генов, заставляющих принимать целибат и чайлдфри.

отбираются в любом случае гены которые потом определяют поведение

Во первых отбираются они уж больно хитрым и неочевидным образом, который напрямую в гены отбирающей особи никак не запихнуть (также как не запихнуть туда даже банальный адаптивный иммунитет), а во-вторых, гены поведение вне конкретных инстинктов НЕ детерминируют и не могут детерминировать. Максимум - слегка меняют вероятности того или иного режима поведения в целом.

Я говорю о детерменизме в психике

Его там почти нет. Доказано этологами и физиологами.

Даже в этом случае ИИ будет просто еще одним инструментом эволюции генов ХОМО.

В этом случае он будет просто ещё одним инструментом эволюции генов вообще, ибо никаких специфичных генов хомо тогда не будет. Да их и сейчас в общем-то нет - только набор...

Гены не думают.

А почему Вы уверены, что создатели ИИ думают? И что это такое вообще - думать?

Мысли в слух?

Упреждающая справка, чтобы участники обсуждения биологическую ересь не несли.

[crazy_terraformer]

Гены не думают.

А почему Вы уверены, что создатели ИИ думают?

Очень даже думают. Особенно когда выбирают марку пива и чипсы к нему.

[BlackMokona]

(кликните для показа/скрытия)

[ВадимZero]

Нет генов, заставляющих принимать целибат и чайлдфри.

Так же как нет генов, заставляющих вас выбирать марку макарон, но зато есть гены отвечающие за голод.

Во первых отбираются они уж больно хитрым и неочевидным образом,

Какая разница как они там отбираются, главное итог.

Его там почти нет. Доказано этологами и физиологами.

Детерменизма нет только в квантовой физике в остальной физике он вполне нормально присутствует. В мозге как в любой информационной системе реализующий алгоритмы поведения он быть обязан и защищен от явных ошибок своим уровнем избыточности.

В этом случае он будет просто ещё одним инструментом эволюции генов вообще, ибо никаких специфичных генов хомо тогда не будет. Да их и сейчас в общем-то нет - только набор...

Согласен.

И что это такое вообще - думать?

Думать, значит моделировать  диалог и его патерны в психике.

[незлой]

Нет генов, заставляющих принимать целибат и чайлдфри.

а карабкаться вверх в иерархии?

Во первых отбираются они уж больно хитрым и неочевидным образом, который напрямую в гены отбирающей особи никак не запихнуть

заводчики собак, например, прочитают это с недоумением

[Olweg]

Нет генов, заставляющих принимать целибат и чайлдфри.

а карабкаться вверх в иерархии?

Дауншифтер-чайлдфри наносит двойной удар диктатуре генов

[незлой]

Дауншифтер-чайлдфри наносит двойной удар диктатуре генов

например, поломка. никто не обещал 100% надёжности механизма. (впрочем, возможно, это своеобразный "клапан", вроде снижения рождаемости в перенаселённых сообществах)

в принципе-то согласен: у вопроса явно более одного  измерения, даже двухмерная картинка ("интересы генов и мемов перпендикулярны") даёт гораздо лучшее описание. но. мемы тоже когдато "выросли" из генов, больше им просто не из чего было расти.

[ВадимZero]

Дауншифтер-чайлдфри наносит двойной удар диктатуре генов

Еще скажите что тупиковые ветви эволюции, наносят удар по теории эволюции.

[Olweg]

Теория эволюции ≠ рабству генов. По крайней мере в отношениии мозговитых существ вроде человека. Всевозможные надстройки, да и просто продвинутая способность к прогнозированию, начинают играть заметную роль.

[ВадимZero]

начинают играть заметную роль.

Роль в чем? В том как качественно услужить генотипу? То да конечно. Мы существа эмоциональные, мы и пальцем не пошевелим если это не дает надежду на удовлетворение каких то эмоций. А эмоции и есть воля генов.

По крайней мере в отношениии мозговитых существ вроде человека.

Кстати, мысль о том что вы являетесь чьим то рабом также вызывает у вас стойкую неприязнь. Гены не хотят быть чьими то рабами. Даже если речь идет об их самих.

[Olweg]

Тут очень непрямые связи (если речь о человеке). Генотип просто не может кодировать поведение существа с настолько сложным мозгом. В целом да, человек будет следовать базовым мотивациям. Но результаты могут быть совершенно непредсказуемыми, чему примером демографический переход.