Иерархия мозга как информационной системы

[Rattus]

Философическое зомби.

Весьма вредная и опасная религиозно-шовинистическая идея, которая ни в коем случае не должна приниматься априорно, поскольку наличие "сознания как такового" прямо доказать невозможно и у собрата по виду, который "не вышел рожей".

[Dim Dim]

Эмоции связаны с выживанием. В этом и состоит их необходимость для ИИ.

Да щас. 
Во-первых, вопросы выживания ИИ интересовать не должны. Его выживание от людей-операторов должно зависеть. Если человек-оператор поставил ему задачу оставаться "в живых", или это как-то необходимо для решения поставленной задачи (допустим, робот исследует пещеры Марса), так это совершенно интеллектуальная задача (оценка маршрута с точки зрения рисков разрушения аппарата), зачем тут эмоции?
Во-вторых, ИИ - программа, какое "выживание"? Сохранение данных? Так это не через сохранение конкретного экземпляра решается. Если он поддается копированию и тиражированию - он вообще бессмертен. Вопросы выживания волнуют нас - живых - поскольку мы бэкапиться не умеем.

[николай теллалов]

ИИ - программа

скорее всего нет

[Rattus]

Вопросы выживания волнуют нас - живых - поскольку мы бэкапиться не умеем.

Вообще-то, как подсказывает Капитан О., для этого и есть два процесса: размножение и письменность/полиграфия/интернет.
Если какую-то тушку слишком волнует проблема собственной консистентности дальше цикла воспроизводства - это проблема индивидуальной трусливости исключительно данной машины выживания генов и мемов.

[curiosity]

ИИ - программа

Программа ограничена в своем поведении тем что в нее заложил оператор. Теперь если программа окажется в ситуации для которой она не предназначена - нет готового шаблона , то выработать новое поведение она не сможет. Кстати именно для преодоления этого ограничения и возникло сознание (по крайней мере некоторые так считают и в этом есть резон).

[loky1109]

чтоб легче думалось - примерите на себя сей "минус"

Примерил. Мнение не изменилось. Плюс это или минус зависит исключительно от контекста.

Ну, например по этой.

Допустим.

Хотя как её универсально мерить на практике - хотел бы знать.

Ключевой момент. Без возможности измерить нет возможности сравнить.

так это совершенно интеллектуальная задача (оценка маршрута с точки зрения рисков разрушения аппарата), зачем тут эмоции?

Использование эмоций, а именно страха, это один из вариантов оценки рисков. И, в принципе, любую "оценку риском" можно по большому счёту назвать "страхом". Как говорил Т-800: "Я чувствую повреждения, это можно считать болью," - цитата не точная конечно же.

популяция кишечной палочки

она разумна разве?

Поскольку интеллект в широком ссысле — как способность к опережающей регуляции в виде увеличения числа степеней свободы для себя в будущем (что ещё С.Лем в Сумме Технологии назвал «гомеостатом второго рода») и выраженной теперь математически подобно уравнению энтропии Больцмана Висснер-Гроссом можно наблюдать даже на примере эволюции генофонда популяции бактерий (что, кстати, тоже было предсказано С.Лемом в псевдопредисловии Эрунтика сборника «Мнимая Величина»).
на примере эволюции генофонда популяции бактерий

[Dim Dim]

Вообще-то, как подсказывает Капитан О., для этого и есть два процесса: размножение и письменность/полиграфия/интернет.
Если какую-то тушку слишком волнует проблема собственной консистентности дальше цикла воспроизводства - это проблема индивидуальной трусливости исключительно данной машины выживания генов и мемов.

Передавайте Капитану привет, он совершенно прав. Но как это относится к теме беседы, я не понял.

Использование эмоций, а именно страха, это один из вариантов оценки рисков. И, в принципе, любую "оценку риском" можно по большому счёту назвать "страхом".

Вы понимаете, что если человек пауков боится больше, чем волков, то он может сильно ошибиться при построении действительно безопасного маршрута, то есть адекватной оценки рисков.
Назвать-то Вы можете что угодно как угодно: "страх", "боль" и так далее. Но Вы же понимаете, что для общения нужно, что бы два общающихся существа в одинаковые слова заключали одинаковый смысл. Для человека страх проявляется в состоянии неуверенности, тревожности, в физиологических реакциях и т.п. (и ничего из этого не относится к интеллекту, кстати). Если у ИИ это состояние проявляется иначе, зачем его "страхом" называть? Ну просто зачем?

[loky1109]

Вы понимаете, что если человек пауков боится больше, чем волков, то он может сильно ошибиться при построении действительно безопасного маршрута, то есть адекватной оценки рисков.

И?
Я где-то говорил, что человеческий пример организации оценки рисков идеален?

Для человека страх проявляется в состоянии неуверенности, тревожности, в физиологических реакциях и т.п. (и ничего из этого не относится к интеллекту, кстати). Если у ИИ это состояние проявляется иначе, зачем его "страхом" называть? Ну просто зачем?

Потому что все этти "неуверенности, тревожности" и прочие человековские заморочки сильно субъективны и трудно формализуемы, в то время как функциональная цель довольно объективна и сравнительно просто описываема. Страх - сигнализация о риске, боль - сигнализация о повреждении и т. д.

Ну и затем, что антропоцентрический шовинизм должен идти лесом.