Восприятиеинформации человеком

Язы кии информация

Техническиесистемыпередачи

информации

Человек и информация

М етоддвоичного

поиска

Вы числениеколичества

информации

Таблицарешений

уравнения2i = N

Вероятностьи

информация

Содержательныйподход к

измерениюинформации

Единицыинформации

Алфавитныйподход к

измерениюинформации

Измерение информации

И н ф о р м а ц и я

ЧеловекЧеловек

Знания

ИнформацияИнформация

Техническое Техническое устройствоустройство

ПодходыПодходы к измерению к измерению информацииинформации

Содержательный Содержательный (вероятностный)(вероятностный)

АлфавитныйАлфавитный

Последовательность символов, сигналов

Через неопределенность знаний с учетом

вероятности событий

Через количество символов с

учетом информационного

веса символов

НовизнаСо о бщ ен ие ин ф о р м ативн одля ко н кр етн о го чело века,

если о н о п о п о лн яет его зн ан ия

ПонятностьИн ф о р м ация п р евр ащ ается

в зн ан ия, если есть ло гическая связьн о вы х сведен ий с им ею щ им ися зн ан иям и

Информативность сообщений

Сообщение несет информацию для человека, если заключенные в нем сведения являются для него новыми и понятными

Сообщение, уменьшающее неопределенность знаний в 2 раза, несет 1 бит информации

Игра, использующая метод двоичного поиска

Игра: Требуется угадать задуманное число из данного диапазона целых чисел. Игрок, отгадывающий число, задает вопросы, на которые можно ответить только «да» или «нет». Если каждый ответ отсекает половину вариантов (уменьшает выбор в 2 раза), то он несет 1 бит информации. Тогда общее количество информации (в битах), полученной при угадывании числа, равна количеству заданных вопросов.

Пример: требуется угадать задуманное число из диапазона от 1 до 8

1. Число меньше 5? Нет 1бит

2. Число меньше 7? Да 1бит

3. Это число 5? Нет 1бит

8 возможных вариантов - 3 вопроса - 3 бита информации

22i i =N=N

N -количество равновероятностных событий

i -количество информации в сообщении о том, что произошло одно из N равновероятностных событий

Задача 1. При угадывании целого числа в диапазоне от 1 до N было получено 6 бит информации. Чему равно N?

Решение: значение N определяется из формулы 22i i =N.=N.После подстановки После подстановки i i =6, получаем =6, получаем N = 2N = 266 = 64. = 64.

Задача 2. В корзине лежат 16 шаров разного цвета. Сколько информации несет сообщение о том, что из корзины достали красный шар?

Решение: вытаскивание любого из 16 шаров - события равновероятностные.

Поэтому для решения задачи применима формула 22i i =N,=N, получаем получаем ответ: i = 4ответ: i = 4 бита. бита.

22i i =N=N

N i N i N i N i

1 0,00000 17 4,08746 33 5,04439 49 5,614712 1,00000 18 4,16993 34 5,08746 50 5,643863 1,58496 19 4,24793 35 5,12928 51 5,672434 2,00000 20 4,32193 36 5,16993 52 5,700445 2,32193 21 4,39232 37 5,20945 53 5,727926 2,58496 22 4,45943 38 5,24793 54 5,754897 2,80735 23 4,52356 39 5,28540 55 5,781368 3,00000 24 4,58496 40 5,32193 56 5,807359 3,16993 25 4,64386 41 5,35755 57 5,8328910 3,32193 26 4,70044 42 5,39232 58 5,8579811 3,45943 27 4,75489 43 5,42626 59 5,8826412 3,58496 28 4.80735 44 5,45943 60 5.9068913 3,70044 29 4,85798 45 5,49185 61 5,9307414 3,80735 30 4,90689 46 5,52356 62 5,9542015 3,90689 31 4,95420 47 5,55459 63 5,9772816 4,00000 32 5,00000 48 5,58496 64 6,00000

Подсчет информации в сообщениях о неравновероятностных событиях

Условие задачи:

За прошедший год ученик получил 100 оценок: 60 пятерок, 25 четверок, 10 троек и 5 двоек. Определить количество информации в сообщениях о получении каждой из оценок.

Расчет вероятности оценок— вероятность пятерки: 60/100 == 0,6 ;— вероятность четверки: 25/100 = 0,25 ;— вероятность тройки: 10/100 = 0,1 ;— вероятность двойки: 5/100 = 0,05.

Иногда удобно бывает вероятность выражать в процентах. Значение вероятности будем обозначать буквой Р, тогда вычисленные нами величины запишем так:

Р5=0,6(60%);

Р4=0,25(25%);

Рз=0,1(10%);Р2=0,05(5%)

22ii =1/P =1/P I =log I =log 22 (1/P) (1/P)

I5 = log2(l/0,6) = log2(5/3) = 0,737 бит, I4 = log2(l/0,25) = log2(4) = 2 бита, I3 = log2(l/0,l) == log2(10) = 3,322 бита, I2 = log2(l/0,05) = log2(20) = 4,322 бита.

Количество информации в сообщении о некотором событии зависит от вероятности этого события. Чем меньше вероятность, тем больше информации.

Количество символов в алфавите (его размер) называется мощностью алфавита (N)

22i i =N=NЕсли считать, что все

символы в тексте появляются с одинаковой

частотой

iiКоличество

информации в одном символе

I = K* iI = K* iКоличество информации в символьном сообщении

(K - число символов)

Если N = 256 = 28, то «информационный вес» одного символа i = 8 бит = 1 байт

Один символ компьютерного алфавита - 8 бит = 1 байт

1 КБАЙТ = 1024 БАЙТ1 КБАЙТ = 1024 БАЙТ1 МБАЙТ = 1024 КБАЙТ1 МБАЙТ = 1024 КБАЙТ1 ГБАЙТ = 1024 МБАЙТ1 ГБАЙТ = 1024 МБАЙТ1 ТБАЙТ = 1024 ГБАЙТ1 ТБАЙТ = 1024 ГБАЙТ

Скорость передачи информации (информационного потока) - это количество

информации, передаваемое за единицу времени (бит/с, байт/с, …)