В.М. Соловйов, О. С. Лук’янчук

ЧНУ ім. Б. Хмельницького  

Черкаси, 2013 рік

Стан банківської системи Що таке складність? Ентропія -

характеристика складності Алгоритмічна складність за Лемпелем-

Зівом Ентропія Шеннона Ентропія Тсалліса Ентропія шаблонів Перестановочна ентропія

2

Bank of America Corporation (bac) Barclays PLC (barcl) BNP Paribas SA (bnp) Banco Santander (san) HSBC Holdings Plc (hsba) Goldman Sachs Group (gs) JPMorgan Chase & Ко (jpm) ING Groep NV (ing) Deutsche Bank AG (db) Credit Suisse Group AG (cs) 3

4

5

 "Складність - це спільна властивість єдиної множини різноманітних об'єктів, які структурно взаємозв'язані, функціонально взаємозалежні та взаємодіють між собою…".  (М. Згуровський і Н. Панкратова)

"Складність - невід'ємна частина світу динамічних систем " (І. Пригожин)

Складні системи - це насамперед динамічні, з точки зору наявного потенціалу саморозвитку, системи.

Перехід до складних систем здійснюється в результаті біфуркаційних процесів і порушень стандартного стану цілісних (простих) систем. Йдеться про те, що складні системи виникають з простих на еволюційній основі внаслідок послаблення останніх, втрати ними системної якості та енергії саморозвитку. 

" Складність - це впорядкованість, до якої ми поки що не маємо ключа". (А. Атлан)

Дослідження важливих економічних об’єктів показують, що більшість з них відноситься до класу складних систем. Цікавим постає питання відносно кількісних методів оцінки складності системи.

У роботі розглядається підхід до аналізу складних систем заснований на теорії детермінованого хаосу. Детермінований хаос пропонує пояснення нерегулярної поведінки та аномалій у системах, які не є стохастичними.

Однією з характеристик складності системи є ентропія.

Поняття ентропії досягло широкого консенсусу в якості показника складності нелінійних сигналів. Ентропія є потужним інструментом для аналізу часових рядів, так як вона дозволяє описати розподіл ймовірностей можливих станів системи, а тому і інформацію, закодовану в них. 6

7

Колмогоров запропонував вимірювати кількість інформації в скінчених об’єктах за допомогою теорії алгоритмів, визначивши складність об’єкту як мінімальну довжину програми, що породжує цей об’єкт.

За Колмогоровим, складність об’єкту (наприклад, тексту - послідовності символів)— це довжина мінімальної програми яка виводить даний текст, а ентропія — це складність, що ділиться на довжину тексту.

8

Складність за Лемпелем-Зівом (LZC)

bret

bretb

bret

ret

,2

,1

,0

)log(/ nnLZCr

rLZCLZCLZC /

ДжекобЗів

Абрахам Лемпель

У випадку трьох станів, на відміну від двійкової системи кодування, задається певний поріг b і стани ret кодуються так:

Для випадкової послідовності довжини n алгоритмічна складність обчислюється за виразом:

Тоді відносна алгоритмічна складність знаходиться як відношення отриманої складності до випадкової:

9

При розрахунку MSE ентропія застосовуються не лише до початкового часового ряду, але й до модифікованих рядів з застосуванням певного масштабного фактора для усереднення підпослідовностей даних.

10

11

Ентропія Шеннона була введена для оцінки невизначеності кодової інформації в каналах зв'язку. Вона обчислюється за формулою:

де — ймовірність того, що символ зустрічається в коді, який містить n символів,

— розмірний множник

12

n

iii ppkS

1

ln

13

14

15

1

1

q

dxxfE

q

q

BEAEqBEAEBAE qqqqq 1

Ентропія Тсалліса, у свою чергу, є узагальненням до неаддитивної міри

де q - міра неаддитивності, така, що

Великі значення q відповідають довгочасовим залежностям між станами системи і можуть розглядатися як параметр довгої пам'яті. Ентропія Тсалліса відповідає ентропії Шеннона у разі, коли , так що

.

Sqq

EE 1

lim

16

17

18

returns

Вхідними даними для розрахунку SampEn є часовий ряд, а також два параметри, m та r. Параметр m характеризує розмірність вкладень, а другий – r – є пороговим критерієм, який дозволяє вважати два довільні вектори однаковими ("фільтруючий чинник"). Досліджуються підпослідовності елементів часового ряду , ,що складаються з m чисел, взятих, починаючи з номера i, і називаються векторами .

Для розглядуваної множини всіх векторів довжини m часового ряду можна обраховувати значення:

, Де – кількість векторів у , що подібні вектору (враховуючи

вибраний критерій подібності r). Значення є часткою векторів довжини m, що мають схожість із вектором такої ж довжини, елементи якого починаються з номера i. Для даного часового ряду обраховуються значення для кожного вектора у , після чого знаходиться середнє значення, яке виражає розповсюдженість подібних векторів довжини m у ряду . Безпосередньо ентропія подібності для часового ряду з використанням векторів довжини m та критерію подібності r визначається за формулою:

, тобто, як натуральний логарифм відношення повторюваності векторів

довжиною m до повторюваності векторів довжиною m+1.

19

Головна ідея застосування методів хаотичної динаміки до аналізу часових рядів полягає в тому, що основна структура хаотичної системи, що містить у собі всю інформацію про систему, а саме атрактор динамічної системи (підмножина фазового простору, яка притягує траєкторії в межі нескінченного часу), може бути відновлена через вимірювання тільки однієї спостережуваної характеристики цієї динамічної системи, зафіксованої як часовий ряд.

Згідно із методом Грасбергера і Прокаччі процедура реконструкції фазового простору і відновлення хаотичного атрактора системи при динамічному аналізі часового ряду зводиться до побудови так званого фазового простору з певною розмірністю.

Дисипативні системи описуються кінетичними рівняннями, в яких змінними можуть бути будь-які фізичні величини, наприклад, концентрації частинок певного роду, температура тощо. Багатовимірний простір, утворений цими змінними називають фазовим простором. Еволюція системи описується кривою в цьому просторі, яку називають фазовою траєкторією.

20

21

22

23

Перестановочна ентропія оцінює складність часових рядів шляхом порівняння сусідніх значень.

Для розрахунку PermuEn береться ряд , де m–вимірний вектор затримки вкладень, який в момент часу i розраховується як:

, де m – розмірність вкладення та – час затримки. Як правило,

обирається =1, проте дослідження показали, що оптимальне значення цього параметру може бути і іншим. Функція має перестановки , якщо вона задовольняє умову:

Існує перестановок для m–вимірного вектора. Для кожної перестановки , визначаємо відносну частоту:

Тоді PermuEn у m–вимірному фазовому просторі розраховується як:

24

]))1((),...,(),([ mixixixX mi

)(...)()( 110 mrtxrtxrtx

)1(

},)1({)(

mN

xmTttNumberp

mt

))(ln()(!

1

ppHm

PermuEn

25

26