Download - Uczenie sieci bez nauczyciela
![Page 1: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/1.jpg)
SIECI KOHONENA UCZENIE BEZ NAUCZYCIELA
JOANNA GRABSKA-CHRZĄSTOWSKA
Wykłady w dużej mierze przygotowane w oparciu o materiały i pomysły
PROF. RYSZARDA TADEUSIEWICZA
![Page 2: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/2.jpg)
SAMOUCZENIE SIECI
metoda Hebba
W mózgu wzmocnieniu podlegają te drogi przeka-
zywania sygnałów, które stanowią połączenia
ośrodków ulegających równoczesnemu pobudzeniu
lub hamowaniu.
Dla sygnału X=<x1
(j), x2
(j) ,.....,xn
(j)>
dla neuronu o numerze - k
sygnał wyjściowy - yk
(j)
wagi na i-tym wejściu:
wk i
(j+1) =wk i
(j) + η yk
(j) xi(j)
![Page 3: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/3.jpg)
REGUŁA WIDROW-HOFFA (DELTA)
= z - y W’ = W + X > = 0
> = 0 z – y > = 0 z > y
czyli odpowiedź sieci jest ZA MAŁA
W’ 2
W
X
1 y2 > y1
cos 2 > cos 1
2 < 1
![Page 4: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/4.jpg)
REGUŁA HEBBA
W’ = W + y X > = 0
y > 0
W’ 2
W
X
1
W’
W X
1
2
y < 0
![Page 5: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/5.jpg)
Samouczenie sieci metodą Hebba (2)
Wady samouczenia metodą Hebba:
Stosunkowo niska efektywność uczenia
Przemnożony wpływ początkowych wartości wag
Możliwość pomijania niektórych klas w
nauczonej sieci
Powstawanie reduntantnych nadprezentacji klas
![Page 6: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/6.jpg)
POCZĄTKOWE POŁOŻENIE PUNKTÓW REPREZENTUJĄCYCH NEURONY
![Page 7: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/7.jpg)
PROCES SAMOUCZENIA
sygnał wejściowy uczący
![Page 8: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/8.jpg)
PROCES SAMOUCZENIA
sygnał wejściowy uczący
![Page 9: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/9.jpg)
PROCES SAMOUCZENIA
sygnał wejściowy uczący
![Page 10: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/10.jpg)
Marsjanie, Marsjanki, Marsjaniątka i Marsjamory
![Page 11: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/11.jpg)
![Page 12: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/12.jpg)
ZASADA OWCZEGO PĘDU
![Page 13: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/13.jpg)
ZASADA OWCZEGO PĘDU
![Page 14: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/14.jpg)
ZASADA OWCZEGO PĘDU
![Page 15: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/15.jpg)
BARDZO DUŻY WSPÓŁCZYNNIK UCZENIA
![Page 16: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/16.jpg)
BARDZO DUŻY WSPÓŁCZYNNIK UCZENIA
![Page 17: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/17.jpg)
MAŁY WSPÓŁCZYNNIK UCZENIA
![Page 18: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/18.jpg)
MAŁY WSPÓŁCZYNNIK UCZENIA stan po pewnym czasie nauki
![Page 19: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/19.jpg)
DŁUGOTRWAŁY PROCES UCZENIA utrata zdolności do akceptowania nowości
![Page 20: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/20.jpg)
BARDZO DUŻA LICZBA NEURONÓW
![Page 21: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/21.jpg)
BARDZO DUŻA LICZBA NEURONÓW
![Page 22: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/22.jpg)
BARDZO DUŻA LICZBA NEURONÓW
![Page 23: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/23.jpg)
FANTAZJE W SIECIACH
NEURONOWYCH
![Page 24: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/24.jpg)
![Page 25: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/25.jpg)
GIGANTOMANIA
![Page 26: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/26.jpg)
Rzeczywisty
obraz lwa
pokazany jako
przykład uczący
Wyobrażenie „superlwa”
przyjęte przez jeden
z neuronów
Inny neuron
pamiętający lwa
Neuron pamiętający
wygląd lwa
![Page 27: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/27.jpg)
RABUNEK ... i klasa popada w zapomnienie
![Page 28: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/28.jpg)
RABUNEK ... i klasa popada w zapomnienie
![Page 29: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/29.jpg)
RABUNEK ... i klasa popada w zapomnienie
...i nie ma już prawdziwych Marsjan
![Page 30: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/30.jpg)
WARIANTY METOD SAMOUCZENIA
METODA PRZYROSTOWEGO SAMOUCZENIA
(differential hebbian learning)
![Page 31: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/31.jpg)
WARIANTY METOD SAMOUCZENIA
METODA “GWIAZDY WEJŚĆ” ( instar learning ).
Jest najczęściej wykorzystywaną formułą uczenia
nienadzorowanego w analizie skupień.
![Page 32: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/32.jpg)
METODA INSTAR LEARNING GWIAZDA WEJŚĆ
y
k
x1 x2 x3 x4 x5
w1
w2 w3 w4
w5
wki( j+1) = wki
( j ) + [ xi ( j ) – wki
( j ) ]
k – ustalone i - zmienne k
![Page 33: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/33.jpg)
METODA INSTAR LEARNING
wki( j+1) = wki
( j ) + [ xi ( j ) – wki
( j ) ]
w ( t )
w( t+1)
x ( t )
D w ( t ) x(t) – wektor wejściowy
w(t) – wektor wag
przed korektą
Δw(t) – wektor poprawki w(t+1) – wektor wag
po korekcie.
Miarą podobieństwa wektora wejściowego i wektora
wag jest COSINUS KĄTA unormowanych wektorów.
![Page 34: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/34.jpg)
METODA OUTSTAR LEARNING
“GWIAZDY WYJŚĆ”
k
y1 y2 y3 y4 y5
w1i
w2
i w3
i
w4
i w5
i
i
xi
i – ustalone k - zmienne
wki( j+1) = wki
( j ) + (j) [ yk ( j ) – wki ( j ) ]
(j) = 0,1 – l * j
![Page 35: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/35.jpg)
Teuvo Kohonen...
... i jego
historyczne dzieło
![Page 36: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/36.jpg)
SAMOUCZENIE SIECI METODĄ
KOHONENA Po pojawieniu się w chwili j znormalizowanego sygnału
X = < x1
(j), x2
(j) ,.....,xn
(j) >
sygnały wyjściowe wszystkich neuronów sa porównywane i wybierany jest
zwycięzca tzn. neuron o numerze k, którego sygnał wyjściowy yk
(j) będzie mieć
największą wartość
to wówczas współczynnik wagi na i-tym wejściu zwycięskiego neuronu zmienia sie:
wki
(j+1) = wki
(j) + η( xi(j) - w
ki(j))
Uczenie może być rozciągnięte na inne neurony w ramach tzw. sąsiedztwa :
wmi
(j+1) =wmi
(j) + ηh(m,k)(xi(j) - w
mi(j) )
gdzie funkcje sąsiedztwa h(m,k) określona jako malejąca funkcja odległość ρ
między neuronem m a zwycięzcą k
![Page 37: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/37.jpg)
SAMOUCZENIE SIECI METODĄ
KOHONENA
ZASADA RYWALIZACJI:
Zwycięzca bierze wszystko
WINNER TAKES ALL (WTA)
jesli wprowadzimy sąsiedztwo
to obowiązuje zasada:
Zwycięzca bierze większość
WINNER TAKES MOST (WTM)
![Page 38: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/38.jpg)
Po nauczeniu sieć na wejściowy sygnał daje odpowiedź w postaci rozkładu pobudzeń neuronów warstwy topologicznej
„Zwycięzca”
![Page 39: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/39.jpg)
Interpretacja tej odpowiedzi musi być jednak dopasowana
do znanych przypadków
![Page 40: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/40.jpg)
Neurony, które rozpoznają pojawianie się punktów z poszczególnych podobszarów
przestrzeni sygnałów wejściowych
![Page 41: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/41.jpg)
Podczas samouczenia położenie wektora wag neuronu może ulegać częstym zmianom, ale w ostatecznym efekcie tego „myszkowania” neuron lokuje się w samym środku grupy reprezentowanych danych wejściowych.
![Page 42: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/42.jpg)
PRZYKŁAD ZASTOSOWANIA SIECI
KOHONENA Obrazy wejsciowe (tylko 2 cechy)
![Page 43: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/43.jpg)
WAGI PO NAUCZENIU SIECI
obraz testowy 1’
![Page 44: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/44.jpg)
sąsiad
sąsiad
punkt, który reprezentuje właściwości zwycięskiego neuronu
wartość 2.
wagi
neuronu
położenie zwycięskiego neuronu
po uczeniu
wartość 2. składowej
sygnału
punkt, który reprezentuje
sygnał wejściowy
wartość 1. wagi neuronu wartość 1. składowej sygnału
sąsiad
sąsiad
Oto konstelacja punktów
reprezentujących początkowe
wagi neuronów
Zaczynamy uczenie !
Zaczynamy
uczenie
sąsiadów !
![Page 45: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/45.jpg)
PRZEBIEG UCZENIA W SIECI
KOHONENA
![Page 46: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/46.jpg)
Ten sam proces uczenia można
będzie lepiej prześledzić, gdy
połączy się położenia sąsiadów
wartość 2.
wagi
neuronu
wartość 1. wagi neuronu
sąsiad
sąsiad
sąsiad
sąsiad
Procesowi uczenia
towarzyszy w tej sieci
zmiana wyglądu siatki
prezentującej sąsiedztwa
![Page 47: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/47.jpg)
SAMOUCZENIE SIECI METODĄ
KOHONENA
Sposób oznaczania sąsiednich neuronów podczas
prezentacji uczenia sieci Kohonena.
![Page 48: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/48.jpg)
SĄSIEDZTWO JEDNOWYMIAROWE
![Page 49: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/49.jpg)
RODZAJE SĄSIEDZTWA
DWUWYMIAROWEGO
![Page 50: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/50.jpg)
RODZAJE SĄSIEDZTWA
DWUWYMIAROWEGO
![Page 51: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/51.jpg)
SĄSIEDZTWO DWUWYMIAROWE
![Page 52: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/52.jpg)
SĄSIEDZTWO JEDNOWYMIAROWE
Opisane zjawisko zostało wykryte przez samego Kohonena
![Page 53: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/53.jpg)
Mapa topologiczna o podobnej strukturze, jak mapy
tworzone przez sieci Kohonena, powstaje w korze mózgowej człowieka w obszarze czucia somatycznego oraz sterowania.
Obszary sterujące ruchem Obszary rejestrujące doznania czucia
![Page 54: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/54.jpg)
Podobnie jak w sieci Kohonena w obszarach otaczających bruzdę
Rolanda na powierzchni kory mózgowej wytwarza się mapa topologiczna sygnałów z całego ciała. Obszary z których pochodzi
więcej sygnałów zajmują więcej miejsca (angażują więcej
neuronów), nawet jeśli anatomicznie są małe.
![Page 55: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/55.jpg)
Takie proporcje ma ciało człowieka, jeśli brać pod uwagę wielkość struktur nerwowych związanych
ze sterowaniem poszczególnymi częściami ciała
![Page 56: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/56.jpg)
SĄ
SIE
DZ
TW
O J
ED
NO
WY
MIA
RO
WE
![Page 57: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/57.jpg)
MAPY KOHONENA
![Page 58: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/58.jpg)
ZJAWISKO “SKRĘCENIA”
W SIECI KOHONENA
Część danych wejściowych została zignorowana!
![Page 59: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/59.jpg)
ZJAWISKO “SKRĘCENIA”
W SIECI KOHONENA
![Page 60: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/60.jpg)
ZJAWISKO “SKRĘCENIA”
W SIECI KOHONENA
![Page 61: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/61.jpg)
Grupowaniu w sieci Kohonena mogą podlegać
kraje świata http://www.cis.hut.fi/research/som-research/worldmap.html
![Page 62: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/62.jpg)
World Poverty Map
Samoorganizujące Mapa (SOM) mogą być wykorzystywane do
przedstawiania skomplikowanych korelacji w danych
statystycznych. Oto dane składające się z danych statystycznych
Banku Światowego krajów w 1992 roku. W sumie zostało
wykorzystanych 39 wskaźników opisujących różne wskaźniki
jakości, takie jak stan zdrowia, odżywiania, usługi edukacyjne, itp.
Kraje, które miały podobne wartości wskaźników znalazł się blisko
siebie na mapie. Poszczególne gromady na mapie zostały
automatycznie kodowane w różnych kolorach, tak, żeby kolory
płynnie płynnie zmieniały się na ekranie mapy. W wyniku tego
procesu, do każdego kraju był w rzeczywistości automatycznie
przypisany kolor opisujący jego rodzaj ubóstwa w stosunku do
innych krajów.
![Page 63: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/63.jpg)
![Page 64: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/64.jpg)
![Page 65: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/65.jpg)
ZMIANA CELÓW
SAMOORGANIZACJI W TRAKCIE UCZENIA SIECI
![Page 66: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/66.jpg)
WYMIAR SIECI A WYMIAR PRZESTRZENI
SYGNAŁÓW WEJŚCIOWYCH
![Page 67: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/67.jpg)
We wszystkich wyżej podawanych przykładach wymiar przestrzeni sygnałów
i wymiar struktury sieci były zgodne
![Page 68: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/68.jpg)
Można jednak pokazać przykład sieci, w której wymiar przestrzeni wejściowej jest
inny niż wymiar topologii sieci
![Page 69: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/69.jpg)
MAPY KOHONENA
![Page 70: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/70.jpg)
Zjawisko “skręcenia się” sieci Kohonena
(3)
Rzadko występujący przypadek “skręcania się” sieci
Kohonena odtwarzającej obszar w przestrzeni
sygnałów wejściowych w postaci krzyża
![Page 71: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/71.jpg)
Niekiedy obszar pokrywany przez sieć
Kohonena może być dosyć
skomplikowany w kształcie
![Page 72: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/72.jpg)
Wniosek
Sieć Kohonena może służyć do tego, żeby przy jej pomocy „rzutować” wielowymiarowe zbiory danych do przestrzeni o małej wymiarowości.
![Page 73: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/73.jpg)
MECHANIZM SUMIENIA
(lub zmęczenia neuronu) (CONSCIENCE MECHANISM), Mechanizm sumienia - część neuronów może nie znaleźć się
w strefie wpływu neuronów wygrywających i tym samym może
nie zmienić swoich początkowych wag (nie uczestniczy w
procesie uczenia).
![Page 74: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/74.jpg)
Grupowanie
banków – wynik
działania sieci
Kohonena
(w zależności od wskaźników
finansowych)
![Page 75: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/75.jpg)
Mapa cech przedsiębiorstw uzyskana z pomocą sieci Kohonena
![Page 76: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/76.jpg)
Struktura sieci
Kohonena
Cechy charakterystyczne: • sieć uczy się bez nauczyciela
• sieć ma dwie warstwy o wyraźnie
rozdzielonych funkcjach
• uporządkowane neurony wyjściowe
• uczony głównie neuron „zwycięski”
• ważną rolę odgrywa „sąsiedztwo”
• w wyniku uczenia powstaje mapa
topologiczna
• aprioryczna interpretacja wartości
wyjściowych jest niemożliwa,
• po uczeniu można ustalić, jakie
znaczenie mają poszczególne rejony
mapy topologicznej - ale wyłącznie
na podstawie analizy konkretnych
przykładów danych wejściowych
Warstwa
wejściowa
Warstwa topologiczna
PODSUMOWANIE
![Page 77: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/77.jpg)
ZASTOSOWANIA SIECI
KOHONENA
Rozpoznawanie obrazów Klasyfikacja Zgłębianie danych Tworzenie modeli np.: - model świata zewnętrznego w „mózgu” robota - model uczciwego przedsiębiorcy - model działania procesu
![Page 78: Uczenie sieci bez nauczyciela](https://reader030.vdocuments.pub/reader030/viewer/2022020301/58760adc1a28ab77708b838e/html5/thumbnails/78.jpg)
LITERATURA
Tadeusiewicz Ryszard, Sieci neuronowe. W-wa 1993 Tadeusiewicz Ryszard, Elementarne wprowadzenie do techniki sieci neuronowych z przykładowymi programamami. W-wa 1998