Як можна виміряти кількість інформації
Чи вірно твердження про те, що відсутність новин саме по собі є хорошою звісткою? Кам'яна скрижаль, вага якої дорівнює трьом тоннам, може дати археологам той же обсяг інформації, що і якісна фотографія в хорошому археологічному виданні, чи не так? А коли київська радіостудія повідомляє останні новини, то і киянин, і житель Іллічівська дізнаються про все, незалежно від того, що енергія радіохвиль в Києві набагато більше, ніж за сотні кілометрів від нього. Виходить, що ні потужність, ні розмір, ні кількість не можуть грати роль міри інформації. Тоді як же можна оцінити ту чи іншу кількість даних?
Новизна
Зі шкільного курсу інформатики нам відомо, що кількість інформації, яка обробляють обчислювальні машини, вимірюється в бітах, байтах і кратних їм одиницях. Однак це не пояснює, як можна застосувати подібні знання в побуті. Наприклад, як ви оціните інформацію, отриману в результаті прочитання цієї статті? Справедливо буде стверджувати, що чим більше букв, тим більше її вийде? А якщо, прочитавши цю статтю через тиждень, ви отримаєте те ж саме кількість інформації, що й раніше? Відповідь очевидна. Все це наштовхує на думку, що з точки зору новизни її просто неможливо виміряти. Ніякої біт тут не допоможе.
Обсяг
А ось в техніці кількість інформації можна виміряти як число знаків або сигналів, які зберігають, передають і обробляють технічні пристрої. Цей підхід ґрунтується на підрахунку символів у кожному конкретному повідомленні. Наприклад, слово «мир» в англійському алфавіті записується п'ятьма літерами - peace, в російській - трьома, а в КОИ8 на його передачу використовується 24 біта: 111011011110100111110010. Ось тут якраз і знаходять своє застосування мегабайти, кілобайти і террабайти.
Ймовірність
Існує ще один підхід, згідно з яким інформація розглядається як зняття невизначеності. З цієї точки зору, чим більше ми отримуємо даних, тим менше наше незнання і більше обізнаність. Кількість інформації тут також визначається в бітах, а за одиницю виміру приймають той чи інший імовірнісний результат з однієї пари равновозможних подій («ні» або «так», «0» або «1»). Наприклад, підкинута монета для жеребкування. Може випасти або орел, або решка. Повідомлення про те, що випала решка, зменшує невизначеність вдвічі, а його розмір відповідає одному біту. У випадку, коли кількість равновозможних подій більше 2, для оцінки повідомлення використовують рівність Р. Хартлі, яке зазвичай записують так:
2I = N або I = log2 N, де
N - число всіх можливих подій,
I - обсяг інформації в байтах.
Іноді дана формула записується в модифікованому вигляді: I = log2 (1 / p) = - log2 p. Символ «p» в цьому випадку означає ймовірність настання кожного з рівноймовірно результатів. Припустимо, наприклад, що вгору підкинуто два звичайних гральних кубика. Потрібно визначити, скільки біт несе повідомлення про те, що на одному з них випала п'ятірка, а на іншому - двійка. Неважко порахувати, що ймовірність кожного з цих подій дорівнює одній шостій. Отже, I = 2 * log26 = 2 * 2,585 = 5,17 біт. Як бачите, вимірювання інформації багато в чому залежить від сфери її використання і обраного підходу. Складно уявити, яке значення вона має в нинішній час. Напевно, після часу це найбільш важливий ресурс, яким може володіти сучасна людина.
