ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА...

39
ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА ПРОЦЕССОВ СБОРА, ПЕРЕДАЧИ, ОБРАБОТКИ И НАКОПЛЕНИЯ ИНФОРМАЦИИ лектор к.т.н. доцент АЗАРЧЕНКОВ Андрей Анатольевич

Upload: others

Post on 14-Sep-2019

4 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА ПРОЦЕССОВ СБОРА, ПЕРЕДАЧИ, ОБРАБОТКИ И НАКОПЛЕНИЯ ИНФОРМАЦИИ

лектор

к.т.н. доцент

АЗАРЧЕНКОВ Андрей Анатольевич

Page 2: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

СОДЕРЖАНИЕ РАЗДЕЛА

Предмет и структура информатики

Понятие информации.

Информация в жизни человечества.

Свойства информации.

Информационные процессы.

Меры информации.

Представление данных в памяти ЭВМ.

Основы теории множеств.

Основы теории графов.

Основы алгебры логики.

Связь алгебры логики с двоичным кодированием.

Page 3: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Предмет и структура информатики

Информатика (Informatique) введен французскими учеными на рубеже 60-х 70х годов. Наука об информации.

inform — «информация»

matics - «наука о...».

наука об информации.

Информатика - это наука и сфера практической деятельности, связанная с различными аспектами получения, хранения, обработки, передачи и использования информации.

В англоязычных странах этот термин не прижился, информатика там называется Computer Science — наука о компьютерах.

Эта наука включает в себя множество математических, инженерных и даже философских аспектов, через которые она становится фундаментальной наукой

Page 4: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Предмет и структура информатики

ИНФОРМАТИКА

ФИЛОСОФИЯ И

ПСИХОЛОГИЯ

Учение об

информации и

теории познания ЛИНГВИСТИКА

Учение о

формальных

языках и

знаковых

системах

МАТЕМАТИКА

Теория

математического

моделирования.

Дискретная

математика.

Математическая

логика.

Теория

алгоритмов.

КИБЕРНЕТИКА

Теория

информации.

Теория

управления.

Все аспекты разработки и создания

Аппаратных средств автоматизации

ФИЗИКА. ХИМИЯ, ЭЛЕКТРОНИКА. РАДИОТЕХНИКА.

Page 5: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Предмет и структура информатики

Задачи, решаемые в рамках науки информатика: Методы реализации информационных процессов

находятся на стыке информатики с теорией информации, статистикой, теорией кодирования, математической логикой, документоведением и т.д.

Состав, структура принципы функционирования средств вычислительной техники - используются научные положения из электроники, автоматики, кибернетики.

Методы управления средствами вычислительной техники (средствами цифровой вычислительной техники управляют программы, указывающие последовательность действий, которые должно выполнить СВТ) используют научные положения из теории алгоритмов, логики, теории графов, лингвистики, теории игр.

Page 6: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Предмет и структура информатики

Некоторые самостоятельные научные направления вытекающие из информатики

Теоретическая информатика

Кибернетика

Программирование

Искусственный интеллект

Вычислительная техника

Социальная информатика

Информационные системы

Информационные технологии — это направление, охватывающее все области передачи, хранения и восприятия информации.

Page 7: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Понятие информации

ИНФОРМАЦИЯ от латинского «informatio» «сведения, разъяснения, изложение» ИНФОРМАЦИЯ есть отражение реального мира ИНФОРМАЦИЯ есть сведения, являющиеся объектом

переработки ИНФОРМАЦИЯ — сведения об объектах и явлениях

окружающей среды, их параметрах, свойствах и состоянии, которые уменьшают имеющуюся о них степень неопределенности, неполноты знаний.

Представление информации — способ, с помощью которого происходит отображение информации, ее внешняя форма. Переход от представления к абстрактной информации называется интерпретацией. Этот переход может быть только воображаемый, мыслимый.

Page 8: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Понятие информации

В материальном мире все физические объекты (тела или поля), взаимодействуя друг с другом, порождают сигналы (сообщения) различных типов.

Page 9: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Понятие информации

а — непрерывный сигнал б — дискретный сигнал

Сигнал — это изменяющийся во времени физический процесс, обладающий различными характеристиками

Page 10: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Понятие информации

Регистрация сигнала – это порождение в физических телах изменения свойств

Page 11: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Понятие информации Данные - это запись в соответствующем коде наблюдения, факта, объекта, пригодная для коммуникации, интерпретации, обработки и получения новой информации

Page 12: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Понятие информации

Физический метод регистрации сигналов

Page 13: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Понятие информации

ДАННЫЕ АДЕКВАТНЫЙ

МЕТОД

ИНФОРМАЦИЯ

ИНФОРМАЦИОННЫЙ ПРОЦЕСС

Получение информации

Page 14: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Понятие информации

Процесс формирования информации

Тела,

поля Сигналы Данные Информация

Взаимодействия Регистрация сигналов Адекватные методы

Физический процесс Информационный процесс

Page 15: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Информация в жизни человека

Память

Письменность (6 тыс. лет назад)

Печатный станок (XVI век)

Радио, телеграф (конец XIX века)

ЭВМ, компьютеры (середина XX века)

I

II

III

IV

Page 16: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Информация в жизни человека

Материальные ресурсы

Энергетические ресурсы

Финансовые ресурсы

Информационные ресурсы

Page 17: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Информация в жизни человека

Информационные ресурсы — это отдельные документы и массивы документов в библиотеках, архивах, фондах, банках данных, информационных системах и других хранилищах. Информационные ресурсы — это знания, подготовленные людьми для социального использования в обществе и зафиксированные на материальных носителях. Информационные ресурсы страны, региона, организации все чаще рассматриваются как стратегические ресурсы, аналогичные по значимости запасам сырья, энергии, ископаемых и прочим ресурсам.

Page 18: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Свойства информации Свойства: объективные (не зависящие от потребителя); субъективные (зависящие от потребителя). Информация объективна в силу объективности данных, и субъективна, в силу субъективности применяемых потребителем методов. Качество информации — совокупность свойств информации, характеризующих степень ее соответствия потребностям (целям, ценностям) пользователей (средств автоматизации, персонала…). Свойства информации, отражающие ее качество делят: внутренние — содержательность (присущее собственно

информации и сохраняющееся при ее переносе в другую систему);

внешние — защищенность (присущее информации, находящейся или используемой только в определенной системе).

Page 19: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Свойства информации

Содержательность

(внутреннее)

Значимость

• полнота

• адекватность

• идентичность

• актуальность

Кумулятивность

• избирательность

• гомоморфизм

Защищенность

(внешнее)

Достоверность

Сохранность

• целостность

• готовность

Конфиденциальность

• доступность

• скрытность

• имитостойкость

Page 20: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Информационные процессы

Сбор данных - это деятельность субъекта по накоплению данных с целью обеспечения достаточной полноты.

Информация = данные + адекватный метод

Page 21: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Информационные процессы

Передача данных - это процесс обмена данными.

Источник Приемник

Канал связи

сообщение

сообщение

сообщение

Сообщение — форма представления информации в виде совокупности знаков (символов), используемая для передачи.

Page 22: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Информационные процессы

Канал связи — это естественный или искусственный материальный объект, обеспечивающий передачу сигнала от передатчика к приемнику.

Сервер Клиент

Канал связи

HTTP

POP3

FTP

Page 23: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Информационные процессы

Хранение данных — это поддержание данных в форме, постоянно готовой к выдаче их потребителю.

Page 24: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Информационные процессы

Обработка данных — это процесс преобразования информации от исходной ее формы до определенного результата.

Page 25: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Информационные процессы

Источник Получатель Канал связи

Сообщение

Процесс передачи Процесс приема

Получателем сообщение рассматривается на трех уровнях: синтаксическом — рассматриваются внутренние свойства сообщений, т. е. отношения между знаками, отражающие структуру данной знаковой системы; семантическом — анализируются отношения между знаками и обозначаемыми ими предметами, действиями, качествами, т. е. смысловое содержание сообщения; прагматическом — рассматриваются отношения между сообщением и получателем, т. е. потребительское содержание сообщения, его значимость получателя.

Page 26: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Меры информации

Меры информации

Синтаксическая мера

Объем данных Vд Количество информации

Iβ(α)=H(α)-Hβ(α),

где H(α) - энтропия

Семантическая мера

Количество информации

Ic=CVд

Прагматическая мера

Page 27: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Синтаксическая мера

Эта мера количества информации оперирует с обезличенной информацией, не выражающей смыслового отношения к объекту. Объем данных 𝑉д определяется количеством символов

в сообщении. В двоичном алфавите, используется два символа, с помощью которых кодируется информация, единицей измерения объема информации является — бит. В десятичном алфавите, используется десять символов , единицей измерения объема информации является — дит (десятичный разряд). Пример. Сообщение в двоичной системе счисления 10111011 имеет объем данных 𝑉д = 8 бит. Это же сообщение в десятичной системе счисления 187 имеет объем данных 𝑉д = 3 дит.

Page 28: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Синтаксическая мера

Количество информации ( 𝐼𝛽 𝛼 )

определяется на основе понятия неопределенность информации т.е. степени неосведомленности получателя.

𝐼𝛽 𝛼 = 𝐻 𝛼 − 𝐻𝛽(𝛼),

𝐻() – конечная неопределенность

𝐻() – энтропия (количество недостающей информации)

Page 29: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Синтаксическая мера

Энтропия системы 𝐻(), имеющая 𝑁 возможных состояний, согласно формуле Шеннона, равна:

𝐻 𝛼 = − 𝑃𝑖 × 𝑙𝑜𝑔2𝑃𝑖

𝑁

𝑖=1

,

где 𝑃𝑖 — вероятность того, что система находится в -м состоянии. Для случая, когда все состояния системы равновероятны,

т.е. их вероятности равны 𝑃𝑖 =1

𝑁, ее энтропия определяется

соотношением

𝐻(𝛼) = − 1

𝑁× 𝑙𝑜𝑔2

1

𝑁

𝑁

𝑖=1

Page 30: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Синтаксическая мера

При представлении информации в виде числового кода количество всевозможных комбинаций может быть определено

𝑁 = 𝑚𝑛,

где 𝑁 — число всевозможных отображаемых состояний; 𝑚 — основание системы счисления; 𝑛 — число символов в сообщении.

Тогда количество информации (формула Хартли):

𝐼 = 𝑙𝑜𝑔𝑁 = 𝑛 ∙ 𝑙𝑜𝑔 (𝑚).

Если в качестве основания логарифма принять 𝑚, то 𝐼 = 𝑛. Тогда

𝐼 = 𝑉д,

Page 31: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Синтаксическая мера

Содержательный подход Пример. При бросании монеты сообщение о

результате жребия несет 1 бит информации, поскольку количество возможных вариантов результата равно 2.

2𝑥 = 2 x= 1 бит. Пример. При игре в кости используется кубик с

шестью гранями. Сколько бит информации получит игрок при каждом бросании кости?

2𝑥 = 6 Решение этого уравнения

x= 𝑙𝑜𝑔26. Тогда 𝑥 = 2,585 бит.

Page 32: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Синтаксическая мера

Алфавитный подход Количество информации, которое несет каждый символ:

𝐼 = 𝑙𝑜𝑔2𝑁, 𝑁 — мощность алфавита.

В 2-символьном алфавите (𝑙𝑜𝑔22 = 1); В 4-символьном алфавите (𝑙𝑜𝑔24 = 2); В 8- символьном — 3 бита (𝑙𝑜𝑔28 = 3).

Один символ из алфавита мощностью 256 (28) несет в тексте 8 бит информации. Если весь текст состоит из 𝐾 символов, то при алфавитном подходе количество информации содержащейся в нем равен:

𝐼 = 𝐾 ∙ 𝑖, где 𝑖 — информационный вес одного символа в

используемом алфавите.

Page 33: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Синтаксическая мера Алфавитный подход Книга, набранная с помощью компьютера, содержит 150 страниц, на каждой странице — 40 строк, в каждой строке — 60 символов. Определить количество информации в книге? Мощность алфавита равна 256. Согласно формуле Хартли, при условии, что все символы алфавита встречаются в тексте с одинаковой равновероятно, один символ из алфавита мощностью 256 (28) несет в тексте 8 бит информации или 1 байт информации. Значит, страница содержит 40 × 60 × 1 = 2400 байт информации Количество информации в книге:

2400 × 150 = 360000 байт; 360000

1024= 351,5625 Кбайт = 0,34332275 Мбайт.

Page 34: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Синтаксическая мера

Вероятностный подход

Количественная зависимость между вероятностью события (𝑝) и количеством информации о нем (𝐼).

𝐼 = 𝑙𝑜𝑔21

𝑝.

Чем меньше вероятность некоторого события, тем больше информации содержит сообщение об этом событии.

Page 35: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Синтаксическая мера

Вероятностный подход В коробке имеется 50 шаров. Из них 40 белых и 10 черных. Если обозначить pч — вероятность при вытаскивании черного шара, pб — вероятность белого шара, тогда

𝑝ч =1050 = 0.2;

𝑝б =4050 = 0.8.

Отсюда видно, что вероятность попадания белого шара в 4 раза больше, чем черного.

𝐼б = 𝑙𝑜𝑔21

0.8= 0,321928;

𝐼ч = 𝑙𝑜𝑔21

0.2= 2,321928.

Page 36: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Синтаксическая мера

Коэффициент (степень) информативности (лаконичность), который определяется отношением количества информации (𝐼) к объему данных (𝑉д):

𝑌 =𝐼

𝑉д, причем 0<Y<1.

Избыточность 𝐷. Определяют используя формулы Хартли и Шеннона.

𝐷 =𝐻𝑚𝑎𝑥 𝛼 −𝐻(𝛼)

𝐻𝑚𝑎𝑥 𝛼,

𝐻𝑚𝑎𝑥 𝛼 - максимально возможная энтропия (формула Хартли); 𝐻 𝛼 — энтропия системы (формула Шеннона).

Page 37: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Семантическая мера

Под семантической информацией понимают смысловое содержание, извлекаемое получателем из сообщения. Зависимость количества семантической информации, воспринимаемой потребителем, от его тезауруса Ic=f(Sp) Тезаурус

1. Совокупность сведений, которыми располагает пользователь

(система);

2. Запас знаний в виде словаря, отражающего семантические связи

между словами и другими смысловыми элементами данного языка.

Page 38: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Семантическая мера

Содержательность

𝐶 =𝐼𝑐𝑉д

Page 39: ПОНЯТИЕ ИНФОРМАЦИИ. ОБЩАЯ ХАРАКТЕРИСТИКА …iipo.tu-bryansk.ru/pub/Azarchenkov/Informatika/DnevnoeOtdelenie/... · Предмет и структура

Прагматическая мера

Эта мера определяет полезность информации (ценность) для достижения пользователем поставленной цели.

𝐼 = 𝑙𝑜𝑔2𝑃1𝑃0

Р0 - вероятность достижения цели до получения сообщения

P1 - вероятность достижения цели после получения сообщения