Целеполагание самостоятельного сильного искусственного интеллекта и человек

[noxx77]

Если только осознанно противостоят рекламе просмотренной ранее. Не уверен, что вокруг много настолько озабоченных самоконтролем людей.

Тогда им приходится выбирать, как минимум, между рекламой однотипных товаров, с оглядкой на свой кошелёк.

[noxx77]

А вообше, кем был Рейган по профессии, вы знаете? И почему он стал артистом

Диктором и радиокомментатором матчей? Да как-то актёром Рейган был, в основном, в низкобюджетке и в армейской армейских учебных фильмах, а вот как правый профсоюзник и политический деятель, продсер шоу поднялся сильно, поэтому его актёрство по сути лишь эпизод, пусть даже важный и длинный. По сути Рейган был прирождённым политиком - харизматиком, с цельными искренними политическими взглядами, работавшим с любой аудиторией, переговорщиком и организатором. И, несмотря на определённую эволюцию его позиций от декмократов к республиканцам, его политическая карьера была очень логичной. Поэтому РР уж никак не шут и не чёртик из табакерки.

Правда, я не понимаю, как мы от ИИ ушли в политику.

[ivanij]

Правда, я не понимаю, как мы от ИИ ушли в политику.

 Ну, какая же это политика, это давно уже история.
 

Диктором и радиокомментатором матчей?

 Да. И не от хорошей жизни. Какая дата там указана - 1932 год. В Штатах не закончилась ещё Великая депрессия и он не нашёл работы по специальности. Случайно кто-то из приятелей помог устроится на радиостанцию, с чего и началась артистическая карьера Рейгана. А профессиональное образование у него как раз профильное - экономист и социолог. Что и позволило ему сразу же выделиться в Голливуде из общей массы. Его выбрали в профсоюз, а потом он сделал и политическую карьеру. И это вполне естественно, ведь артистическая тусовка того времени на Западном побережье ни интеллектом, ни образованием не блистала.

[Инопланетянин]

Да что вы такое говорите?!

Ну зачем же вы так сразу? Я хотел издалека зайти, напомнить, что некоторые другие власть предержащие и поважнее этого тоже не брезговали актёрством.

[Rattus]

не одно и то же?

Зависит от уровня реальных полномочий/ответственности.
ЮНЕСКО в этом плане организация на уровне "собака лает - ветер носит".

[ivanij]

Поэтому РР уж никак не шут и не чёртик из табакерки.

Правда, я не понимаю, как мы от ИИ ушли в политику.

  Вообще-то связь имеется, хотя и очень-очень слабенькая.

[Serg53]

Свобода воли существует сугубо как оценочная категория

Оценка чего? Предположим курящий человек задумал бросить курить. Какими качествами должна обладать его психика?

[николай теллалов]

Рейган или Рузвельт

первый конечно

не везде же к власти приходят артисты

практически везде
художники от слова "худо"

[Инопланетянин]

первый конечно

Я точно не помню, спасибо всем отписавшимся.

художники от слова "худо"

А я про реальную работу в этой области.
Просто тут вы немного попали в точку даже с формальной точки зрения. Всё-таки приятно, когда слова понимают общепринято. И даже вы признаёте, что хотя бы Рузвельт артистом не был. Ну не от слова "худо", конечно.

[николай теллалов]

А я про реальную работу в этой области

и я про реальную

[ivanij]

Рейган или Рузвельт

первый конечно

не везде же к власти приходят артисты

практически везде
художники от слова "худо"

 Вот здесь-то и есть связь с содержанием темы. Как в романе Робера Мёрля "Разумное животное", в котором гениально предсказан приход к власти Рональда Рейгана ровно за 9 лет то того как это произошло на самом деле. При этом интеллект дельфина (тоже в некотором роде искусственный) оказался выше человеческого.
 Напомню. Роман написан в 1967 году. Действие начинается 28 апреля 1970, а заканчивается в ночь с 8 на 9 января 1973 года. Между тем, Р.Рейган был избран президентом США в 1979 г.

[Ulkolainen]

Правда, я не понимаю, как мы от ИИ ушли в политику.

Наверное, через то, что публичная политика это всегда актёрство, а ИИ здесь поможет в реальном времени отслеживать реакцию целевых аудиторий на выступление, на событие, на медийный повод... 
От системы распознавания лиц остаётся небольшой шаг до системы распознавания эмоций: где зрители увлечены речью, где заскучали (и надо добавить пафоса), где напряглись (и тему надо свернуть пораньше) - всё то, что спичрайтеры и сценаристы сейчас отрабатывают и оценивают неделями через опросы, тесты и занятия с фокус-группами.

Оно грядет не только в  политику, а вообще в управление массовым сознанием. Но политика тут очевидно будет одной из первых востребовавших отраслей.

[MenFrame]

Оценка чего?

Оценка внутреннего комфорта, связанного с тем совпадают мои желания с моими действиями или не совпадают.

Какими качествами должна обладать его психика?

Никотиновая зависимость самая сильная наркотическая зависимость. Потому тут просто нужно перейти на другие способы доставки никотина в организм.

[Olweg]

От системы распознавания лиц остаётся небольшой шаг до системы распознавания эмоций: где зрители увлечены речью, где заскучали (и надо добавить пафоса), где напряглись (и тему надо свернуть пораньше) - всё то, что спичрайтеры и сценаристы сейчас отрабатывают и оценивают неделями через опросы, тесты и занятия с фокус-группами.

А можно, наоборот, оценивать искренность слов политика. Правда, для сокрытия лжи официозные телеканалы могут использовать соответствующие нейросетевые фильтры… В общем, и тут можно представить своеобразную гонку вооружений.

[Ulkolainen]

А можно, наоборот, оценивать искренность слов политика.

Кхм..
Если станет искренне оценивать искренность, такой ИИ придётся хакерски взламывать, чтоб иногда давал им результаты сильно выше нуля. Впрочем, это тоже будет в некотором смысле соревнование брони и снаряда.

[Serg53]

Никотиновая зависимость самая сильная наркотическая зависимость. Потому тут просто нужно перейти на другие способы доставки никотина в организм.

Я был знаком с людьми, которые курили в молодости, а затем бросили эту привычку бесповоротно без компенсации другими формами никотина. В отличии от Марк Твена, который "бросал" курить много раз и утверждал, что это очень просто...

[Serg53]

Оценка внутреннего комфорта, связанного с тем совпадают мои желания с моими действиями или не совпадают.

Желания подавляются силой воли. Наверное, эту силу и можно оценивать.

[Серый Страж]

Желания подавляются силой воли. Наверное, эту силу и можно оценивать.

Желания подавляются силой воли? Нет, совсем не так. Просто одни (стратегические, на перспективу) желания подавляют другие (тактические, сиюминутные) желания. Желание – это осознанное (на высших уровнях сознания) стремление. А воля – это проявление приоритета одних желаний над другими (типа, стратегов над тактиками).

Оценка силы будет субъективна, пока не будет выработан общий подход и общая система отсчёта (шкала, система координат, как измерять и т.д.).

Условно говоря, в ситуации, когда человек перебарывает сиюминутное желание сожрать вкусное пирожное ради сохранения стройной фигуры (и/или для предотвращения набора излишнего веса) и здоровья, то мы это считаем проявлением силы воли. Однако, тут всё объясняется просто – одно (стратегическое, на перспективу) желание победило другое (тактическое, сиюминутное) желание.

Важно ещё то, что сиюминутные желания обычно обусловлены инстинктами (реализуемые врождёнными рефлексами и условными рефлексами разных порядков) и глубоко укоренившимися привычками (реализуемые выученными автоматизмами и динамическими стереотипами) и мы их считаем низшими (иногда даже, низменными), животными проявлениями нашей натуры. А вот всякие стратегические желания мы воспринимаем, как истинно разумные, как истинно рациональные/логические проявления нашей натуры.

В последнем случае, мы не учитываем, что эти проявления являются проявлениями желаний достичь прогнозируемой цели (как в примере – стать стройным и здоровым), которые (и прогнозы, и цели) есть результат нашего обучения (воспитания и дрессировки) по формированию прогнозов и постановке целей. Мало того, мы не учитываем, что и выученные нами способы/методы прогнозирования и постановок целей основываются, в первую очередь, на знаниях социума (а личный опыт только подкрепляет и адаптирует знания социума конкретно под нас). Уберите эти знания, и от нашей разумности, рациональности/логичности останется совсем чуть-чуть (как пример – маугли).

Всё наше преимущество перед прочими видами продвинутых животных – в большом мозге, в длительном периоде детства, в повышенной пластичности мозговых структур (до преклонного возраста). По большому счёту, нам дана только способность к формированию (и изменению) длинных и разветвлённых нейронных ансамблей разного уровня, а внешние воздействия (набор опыта, обучение, воспитание, дрессировка) уже создают конфигурацию наших мозгов (это я утрирую), которая и определяет, в конечном счёте – осознавать стремления, формировать прогнозы и ставить цели, усваивать знания, формировать модель мира (мировоззрение) и прочее (менталитет, совесть, нравственность и пр.).

Кстати, усложнение мозговых структур является следствием. Если утрировать, то сначала увеличение периода детства, рост мозга и увеличение пластичности, а потом уже пошла параллельная оптимизация в изменившихся условиях существования (в социуме, который тоже стал меняться по мере изменения мозга у особей).

О том, что понятие воля зачастую трактуется не совсем корректно, я упоминал неоднократно:

(кликните для показа/скрытия)

И не стоит свысока судить о рефлексе – это просто одна из простых непосредственных сознательных реакций организма. А если, посмотреть более широко (в контексте роста усложнения таких реакций), то можно увидеть как постепенно (сразу – и последовательно, и параллельно) возрастает сложность и вариативность (то есть, гибкость) ответной реакции – рефлексы первого уровня, рефлексы следующих уровне, динамические стереотипы, стили поведения, привычки, прогнозирование ситуации, прогнозирование ситуации и своего поведения в ней, различных форм волепроявления – непосредственные текущие желания и опосредованные прогнозом более отдалённые/перспективные желания (соотношение текущего и перспективного желаний – это и есть воля), моделирование состояние другого, прогнозирование намерений другого и т.д. и т.п.

https://astronomy.ru/forum/index.php/topic,160947.msg5359465.html#msg5359465

По сути, волей (силой воли, свободой воли) обзывают соотношение желаний (и/или результат реализации желаний), которое было осознано на высшем уровне сознания.
.....
Если упрощённо, то когда некое перспективное желание перебарывает текущее желание, мы говорим о проявлении силы воли (типа, волевой человек) или о проявления упорства в достижении цели (если в негативном ключе, то в проявлении упёртости, фанатизма, мании). Но это возможно только тогда, когда мы осознаём эту ситуацию, этот момент и т.д. - то есть, оцениваем её/его.

Человек захотел иметь стройную фигуру, а для это, как он понял, ему надо поменьше жрать сладкого. Этот же человек увидал конфету и захотел сожрать её (он сладкое любит). Но такое текущее желание (желание сожрать конфету) вступает в конфликт с более стратегическим желание (желанием иметь стройную фигуру).
По результату противоборства желаний (сожрал или нет) мы имеем:
- если сожрал, то слабовольный (само понятие "воля" идёт прицепом к понятию "слабовольный");
- если не сожрал, то волевой (само понятие "воля" идёт прицепом к понятию "волевой").

Короче, воля - это оценочная категория (пригодная на описания некоторых ситуаций, свойств/качеств и т.д.), не существующая самостоятельно в виде некоего независимого командующего/повелителя.

Ещё забавно то, что наше поведение и мышление практически полностью обусловлено привычками, рефлексами, автоматизмами, динамическими стереотипами. На, так называемое, "свободное волеизъявление" практически ничего не остаётся (разве что, глюки/ошибки/случайности).

А если ещё понимать, что проявление воли, это проявление приоритета одних стремлений/желаний (типа, "стратегических") относительно других стремлений/желаний (типа, "сиюминутных"), то на "свободное волеизъявление" и теоретически ничего не остаётся - только превалирование одних стремлений/желаний над другими стремлениями/желаниями.

И то, что люди не могут оценить, осознать, понять, дать себе отчёт в наличие оных стремлений/желаний, ничего в раскладах не меняет, по большому счёту.

Если воли (как её понимают большинство) нет, то что остаётся от свободы? Случайность, ошибки, глюки...

То есть, мы, по большому счёту, не более чем глючные биороботы (с колоссальным самомнением), не способные осознать собственную несвободу и зависимость от стремлений/желаний, привычек, рефлексов, автоматизмов, эмоций и т.д.

[Serg53]

только способность к формированию (и изменению) длинных и разветвлённых нейронных ансамблей разного уровня

Добавьте к этим объяснениям ещё условия формирования разных нейромедиаторов и влияние соотношения ацетилхолин/серотонин/ дофамин/(нор)адреналин/ГАМК/... на функционирование нервной системы.

[николай теллалов]

оценивать искренность слов политика

для этого не нужны никакие системы, даже наблюдения "невооруженным глазом"

по определению они врут
непонятки бывают только насчет точных мотивов вранья