Что такое информация? Определение информации

[Parmion]

2Igor: Хорошо, с автомеханиками пример не ОК. Тогда зайду с другого конца. Информация равна нулю на любом множестве, состоящем из одинаковых невзаимосвязанных между собой элементов. В этом случае какой бы "ключ" (в Вашем толковании, в формуле - η) Вы не подбирали, информация всё равно будет равна нулю. Информация начинает проявляться там, где возникает взаимодействие, поскольку взаимодействие порождает разделение (джедаи могут вспомнить те же Инь с Янем). Например, введя на нашем множестве такое  взаимодействие, как упорядоченность, мы сразу получаем ключ типа "сравнение". Наше множество в этом случае относительно любого своего элемента разбивается на два непересекающихся подмножества. Поймите, Шеннон описывает информацию начиная от простейших структур, "с нуля". Естественно, что это представление кажется странным и не имеющим отношения к реальности. Тем не менее информация  "Автомеханик А починит мою машину" = сумме информаций "А автомеханик" (а не ботаник) + "А будет работать" (а не нажрется) + "машина моя" (а не краденая) Каждая из этих информаций, в свою очередь, разлагается на сумму новых информаций, например "А автомеханик" = сумме "А человек" (а не слон) + "А жив" (а не умер в 1837 году) + "А взрослый" (а не ходит в детский сад) + "А умеет чинить машины" (а не втирать людям очки) И так далее ad infinitum.

[astroeyer]

Данная статья : http://offline.computerra.ru/2001/405/11615/
соответствует тому, что я пытался донести, но "инквизиция" была неумолима....

[Parmion]

Замечание относительно статьи - в тексте не сказано, является ли субъект принадлежащим объективному миру, возможно автор считает это понятным по умолчанию (?). Однако интересно другое: "Рассмотрим, что такое информация, исходя из ее места и роли в действиях любого обладающего сознанием, волей и определенной свободой поведения субъекта. Такие ограничения по кругу субъектов продиктованы тем, что только субъект, обладающий сознанием и волей, может действовать произвольно, то есть сообразуясь со своими интересами". В таком случае инфузория, которая охотится на бактерий, жрёт их и действует "сообразуясь со своими интересами", обладает сознанием и волей. Вы с этим согласны?

[Droog_Andrey]

В статье множество ошибок и неточностей. В целом она описывает всё то же "бытовое" значение термина "информация".

Лет через пятнадцать, быть может, понятие информации станет более фундаментальным для широкого круга людей. Мечтаю дожить до той поры, когда информацию станут изучать в школах...

[astroeyer]

В таком случае инфузория, которая охотится на бактерий, жрёт их и действует "сообразуясь со своими интересами", обладает сознанием и волей. Вы с этим согласны?

Да.

[-Igor-]

Андрей, вы хоть и друг, но истина дороже Мне не нравится, что вы говорите А, но не говорите Б. Я буду вам признателен, если вы поможете мне разобраться, что же такое информация в не бытовом представлении.

[-Igor-]

Parmion, я опять запутался Вы как будто и отвечаете на вопросы, но вот как-то так, что мне не понятно.
Андрей, натолкнул на мысль, что может быть и правда, то понимание информации, которое выражено в условиях Шенона, невозможно вразумительно описать обычным языком. Т.е. в данном случае похоже, по условию 2, величины n (условия написанные Шеноном математическим языком) и величины е (синтаксис русского языка) становятся мало зависимы?

[astroeyer]

Информация равна нулю на любом множестве, состоящем из одинаковых невзаимосвязанных между собой элементов. В этом случае какой бы "ключ" (в Вашем толковании, в формуле - η) Вы не подбирали, информация всё равно будет равна нулю.

Очень интересная формулировка, с вашего позволения, задам вопросы.
Предположим, перед нами есть не пустое(множество).
1. является ли его существование - информацией?
2. если информация есть продукт приложения "ключа", к чему прикладывается ключ, если первый операнд то, что станет множеством, то другое это что?

Существуют ли в природе множества из одинаковых и невзаимосвязаных элементов, желательно пример?

[Parmion]

2Igor: Они зависимы, но эта зависимость достаточно сложна. Всё, что наработала математика за последние 4000 лет началось с элементарного счета и понятных каждому первокласснику задач "сколько хлебов потребуется фараону, чтобы накормить 10 полков по 1000 человек". Современная математика от этого уровня успела продвинуться весьма далеко, и действительно ой как не всегда (скорее даже редко) её конструкции "вписываются" в те понятия, которые люди употребляют в повседневной жизни. Даже в случае, если математики могут предъявить "реальное" доказательство того или иного понятия (например лист Мебиуса как пример односторонней поверхности), интуитивное представление человека о "вещах как они есть" протестует. У сосуда Клейна нет наружней и внутренней поверхности (математика), однако туда можно налить воду - а значит понятия "внутри" и "снаружи" для него существуют (жизненный опыт).
-
2astroeyer: Я ждал подобных вопросов. Первое: Для определения информации по Шеннону нам требуется два множества, два операнда. Это аксиоматика данной теории. Если сумеете дать определение информации на одном операнде - возможно, сумеете построить другую теорию информации, столь же внутренне непротиворечивую, как и Шенноновская. Пока этого никто сделать не сумел. А формулировка "перед нами есть множество" содержит не один операнд, а два - "мы" и "множество", т.е. трактуется "по Шеннону". Существуют ли множества из одинаковых и невзаимосвязанных элементов - не знаю. Самое первое известное нам (и то - теоретически) состояние вещества (КГП) уже состоит из разных, но невзаимосвязанных элементов. Возможно ему предшествовало какое-то иное состояние, мне об этом ничего не известно.

[astroeyer]

Для определения информации по Шеннону нам требуется два множества, два операнда. Это аксиоматика данной теории. Если сумеете дать определение информации на одном операнде - возможно, сумеете построить другую теорию информации

Это мне было понятно с начала ваших пояснений, +примеры,.. я вам предложил определить, что же это за второй операнд.

Если разница между тем, что такое данные и что такое информация, какова между ними связь по вашему мнению?

[Parmion]

Между данными и информацией самая прямая связь - эти понятия тождественны. Я понимаю, Вам хотелось бы получить определение информации как простой функции f(x), и узнать что же этот x представляет из себя. На самом же деле информация - это сложный комплекс, функциональный цикл. Простой пример: Функция f1 определена на множестве значений функции f2, которая, в свою очередь, определена на множестве значений функции f3 ... и заканчивая функцией fn, которая определена на множестве значений функции f1. При этом множества значений всех этих функций принадлежат одному множеству, но это всё, что мы можем сказать. Тождественны они, пересекаются, являются подмножествами друг друга - этого мы сказать уже не можем.

[-Igor-]

2Igor: Они зависимы, но эта зависимость достаточно сложна. Всё, что наработала математика за последние 4000 лет началось с элементарного счета и понятных каждому первокласснику задач "сколько хлебов потребуется фараону, чтобы накормить 10 полков по 1000 человек". Современная математика от этого уровня успела продвинуться весьма далеко, и действительно ой как не всегда (скорее даже редко) её конструкции "вписываются" в те понятия, которые люди употребляют в повседневной жизни. Даже в случае, если математики могут предъявить "реальное" доказательство того или иного понятия (например лист Мебиуса как пример односторонней поверхности), интуитивное представление человека о "вещах как они есть" протестует. У сосуда Клейна нет наружней и внутренней поверхности (математика), однако туда можно налить воду - а значит понятия "внутри" и "снаружи" для него существуют (жизненный опыт).

Parmion, я пока не готов говорить конструктивно. Только вот хочу отметить, что я не раз сталкивался с тем, с какой легкостью, люди причастные к науке, вмещают абстрактные объекты в окружающий нас мир и наоборот. Например, сосуд Клейна, вода, налить, жизненный опыт. Я, вероятно ошибаюсь, но думаю, что говоря о ленте Мебиуса и его односторонней поверхности, вы на самом деле говорите о его двухсторонней модели. Как и сосуд Клейна представляется трехразмерной моделью. Я считаю, что только по отношению к этим моделям возможно примерять некие свойства взятые из нашей жизни.

[Parmion]

Кстати, почему мы не вспомним в этом ключе про математическую модель Дж. Конвея "Игра Жизнь"? Ее, кстати, с тем же успехом можно было бы назвать и "Игра Мир", и "Игра Информация". На изначально неупорядоченном множестве из одинаковых элементов задаются всего 2 элементарных условия (взаимодействие рождения и взаимодействие аннигиляции). И посмотрите - даже на таком простом материале за счет вот этой самой рекурсивности формируются статические системы, циклические подвижные системы, распадающиеся системы, циклические стабильные системы... Образно говоря, бросьте в хаос зерно космоса - и космос образуется сам, используя хаос как строительный материал
-
2Igor: Вот-вот, я и говорю. Для меня лист Мебиуса - односторонняя поверхность, а для Вас - всё равно "двухсторонняя модель". Для Вас бублик и чашка с ручкой - совершенно разные формы. А с точки зрения топологии это одно и то же. Интуитивное восприятие для нас родное, и оно очень многое нам даёт - но очень многого и лишает. "Из нашей жизни" (интуитивно то есть) мы знаем например, что "Солнце всходит и заходит". Даже Шерлок Холмс говорил: "Земля вращается вокруг Солнца? Но ведь мои глаза говорят мне об обратном!"

[Эркин]

Очень хорошая статья: http://inosmi.ru/translation/245027.html.
"За последние несколько лет у меня появилось неприятное ощущение, что кто-то - или что-то - переделывает мой мозг, перестраивать его нейронные сети, перепрограммирует память. Мой мозг не умирает - насколько я могу судить об этом - но он меняется. Я мыслю уже не так, как раньше. Сильнее всего это ощущается при чтении. Когда-то мне было нетрудно погрузиться в книгу или длинную статью. Повествование или рассуждения захватывали мой ум, и я проводил долгие часы, поглощая длинные куски прозы. Подобное стало происходить все реже и реже. Теперь после двух-трех прочитанных страниц мое внимание начинает рассеиваться. Я отвлекаюсь, теряю нить повествования, начинаю искать себе другое занятие. Создается такое впечатление, что мне постоянно приходится насильно возвращать свой своевольный мозг к тексту. Вдумчивое чтение, которое когда-то было совершенно естественным, теперь превратилось в борьбу с самим собой."

[-Igor-]

Parmion, а почему вы не стали говорить о бутылке Клейна? Вот, например, применительно к жидкости в невесомости, говорить "налить" странно. Т.е. конечно будет понятно, что имеется в виду поместить жидкость в какой-то объем. Но, вот, это будет совершенно не точно. А в такие моменты, когда не понимаешь собеседника, хочется точности, чтобы была возможность прояснения.
Например, слова об одинаковости чашки и бублика, безусловно вызовут, как минимум недоумение. Но вот что-то типа - "топологические модели чашки и бублика одинаковы.", скорее вызовут интерес, чем недоумение.

[-Igor-]

Эркин, и правда интересно. Буду пожалуй делиться моментами, которые отозвались.
"....часы 'отделили время от событий человеческой жизни и породили веру в независимый мир математически измеряемых последовательных действий'. 'Абстрактная среда временных отрезков' стала 'контрольной точкой и для действий, и для мыслей'."

[Parmion]

2Igor: Ваш последний ответ показывает, что Вы поняли что я имел в виду, но Вам не нравится мой ход изложения мыслей... Ну... Прошу простить, вот такой он я какой есть.

[-Igor-]

Parmion, я рад, что наконец-то, появился какой-то мостик. Мне нравится, Ваш ход изложения мыслей. Мне жутко не нравилось, что не удавалось понять Ваши письма. Я правда рад, что появилась общая точка представлений.

[Droog_Andrey]

Информация - это неопределяемое понятие. Можно сказать, что это мера качества материи, если кому-то удобнее отталкиваться от материальных представлений. Можно сказать, что это мера отличимости, мера дифференциации.

Информация содержится в дифференциации материи в пространстве-времени. Если бы вся материя была однородно распределена по всей пространственно-временной метрике, не было бы никакой информации. Но в действительности одни области отличаются от других, эта отличимость и есть информация.

По поводу модели с большим количеством одинаковых невзаимодействующих элементов. Очень хорошая иллюстрация к "рождению" информации - построение ряда ординалов в теории множеств.

Пусть сначала не было ничего, т.е. пустое множество, emptyset = {}. Но как только мы определили пустоту как пустое множество, уже появился первый элемент. И мы можем посторить множество, состоящее из одного элемента: {emptyset}. Теперь у нас уже два элемента, и т.д.

Имеем ряд:
emptyset
{emptyset}
{emptyset, {emptyset}}
{emptyset, {emptyset}, {emptyset, {emptyset}}}
...

соответствующий последовательности чисел: 0, 1, 2, 3, ...

Таким образом, мы построили элементарные информационные объекты. Ёмкость первого - 0 бит, ёмкость второго - 1 бит, ёмкость третьего - log₂3 бит; ёмкость N-го - log₂N бит.

Начиная с этого, мы можем прийти к тому, что для любого множества информационных объектов конечной ёмкости существует его отображение в произвольное счётное множество, т.е. любое сообщение может быть передано в цифровом виде за конечное время.

Интересен постулат о том, что все информационные объекты имеют конечную ёмкость. Он недоказуем и неопровергаем, однако имеет множество интересных следствий.

В реальности информация неразрывно связана со своими материальными носителями. Для изолированного тела можно оценить ёмкость соответствующего ему информационного объекта (в натах, где 1 нат = log₂e бит) как S/k, где S - термодинамическая энтропия данного тела, k - постоянная Больцмана; "трафик" же, проходящий через тело благодаря взаимодействиям, оценивается как TS/h, где T - термодинамическая температура, h - постоянная Планка. Таким образом, например, через литр воздуха при комнатной температура проходит трафик порядка 10³⁶ бит в секунду.

"Характеристическая частота", равная отношению трафика к ёмкости, оказывается при этом равной kT/h, т.е. температура физического тела соответствует динамике информационного объекта. Если представить информационный объект как совокупность лампочек, каждая из которых несёт бит, то эта частота будет усреднённой по всем лампочкам частотой их мигания. Распределение лампочек по их собственным средним частотам при этом будет отражать степень организованности информационного объекта: например, для человека "низкочастотных" лампочек будет намного больше, чем для чучела с аналогичной энтропией. Линейное распределение будет соответствовать т.н. "эргодической гипотезе" в термодинамике.

Собственно, в этой теме ещё на самом деле конь не валялся. Буду рад, если окажется, что мои краткие пояснения прольют для кого-то свет на сущность понятия информации и его участие во взаимосвязи таких дисциплин, как теория множеств, термодинамика, квантовая физика и теория относительности. Ведь в основе последних двух, как ни странно, опять информация! Волновая функция - информационный объект, измерение - преобразование информации опреатором; скорость света - ограничение на передачу информации, постулат относительности учитывает информацию о системах отсчёта, и т.д.

Извиняюсь, что сумбурно - просто тороплюсь и без подготовки. :-)

С уважением,

Друг_Андрей

[-Igor-]

Я с трудом пробираюсь в этих построениях Если вообще пробираюсь По крайней мере не получаю ту информацию, которая здесь заложена.
Случайно наткнулся в ЖЖ http://hgr.livejournal.com/1508946.html. То, как и что излагает hdr, мне ближе и понятнее, хотя конечно для настоящего понимания надо знать значительно больше, чем знаю я.
"Информация в этих наших конструкциях есть — но только если считать информацией то, что определил в качестве таковой Шеннон. Информация, по Шеннону, — это лишь одна из характеристик того, как устроен нарратив, а вовсе не того, «о чем» он. Поэтому информация в наших конструкциях есть, а содержания — нет: ни экстенсионального, ни интенсионального."
Согласно пониманию hdr, я желаю получить содержание. Мне важно "о чем" а не "как".