Введение в искусственные нейронные сети

Искусственные нейронные сети

http://neuralnetworksanddeeplearning.com/images/tikz41.png

Ivan Miniailenko <discrete.west@gmail.com> @diswest Aviasales 2016

Работа мозга

https://p931z2nb6eo1jytzj2ufrzyoiz-wpengine.netdna-ssl.com/mindshift/wp-content/uploads/sites/23/2015/12/Teenage-brain-1920x1080.jpg

Работа мозга. Структура нейрона

http://biomedicalengineering.yolasite.com/resources/neuron_structure.jpg

Работа мозга. Виды нейронов

http://academics.wellesley.edu/Chemistry/Chem102/brain/neurons.gif

Работа мозга. Спайки

https://hsto.org/files/646/5b9/f06/6465b9f06205482ba1b2be407f036404.jpg

Работа мозга. Спайки

https://hsto.org/files/c33/322/6e7/c333226e79664e0b87791955852fc838.png

Работа мозга. Визуализация

http://i.dailymail.co.uk/i/gif/glassbrain.gif

Работа мозга. Зоны мозга

http://angelsweb.biz/PRACTICAL%20%20ENLIGHTENMENT_files/image016.jpg

Искусственный нейрон

∑

Перцептрон

X1

X2

X3

class 1

class 2

input layer hidden layer output layer

Глубокая нейронная сеть

http://neuralnetworksanddeeplearning.com/images/tikz41.png

Свёрточная нейронная сеть

http://deeplearning.net/tutorial/_images/mylenet.png

Рекуррентная нейронная сеть

http://colah.github.io/posts/2015-08-Understanding-LSTMs/img/RNN-unrolled.png

Линейная регрессия

y

x

Линейная регрессия. Классификация

y

x

(спам) 1

(wtf?) 0.5

(не спам) 0

Логистическая регрессия

y

x

(спам) 1

(wtf?) 0.5

(не спам) 0

спамне спам

Сигмоида (логистическая кривая)

Логистическая регрессия

Вектор фич:

Вектор аргументов:

Логистическая регрессия. Визуализация

∑

X1

X2

X3

ϴ1

ϴ2

ϴ3

(0,1)

Сложная классификация

y

x

Мультиклассовая классификация

y

x

Мультиклассовая классификация

y

x

Один против всех

Мультиклассовая классификация

y

x

Один против всех

Мультиклассовая классификация

y

x

Один против всех

Мультиклассовая классификация

y

x

Один против всех

Искусственная нейронная сеть

1 2 3

1

2

3

1

0 (bias) +1 +1

Искусственная нейронная сеть

ИНН. Функции активации

Искусственная нейронная сеть

Искусственная нейронная сеть

Искусственная нейронная сеть

Всем спасибо!

http://neuralnetworksanddeeplearning.com/images/tikz41.png

Ivan Miniailenko <discrete.west@gmail.com> @diswest Aviasales 2016