ニューラルネットワーク ことはじめ

31
Copyright © 2014 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved. ニューラルネットワーク ことはじめ 2014年11月17日 先端IT活用推進コンソーシアム クラウド・テクノロジー活用部会 勉強会資料 岡村 和英(株式会社テクリエ)

Upload: kazuhide-okamura

Post on 05-Jul-2015

1.041 views

Category:

Technology


1 download

DESCRIPTION

2014年11月度 AITC クラウド・テクノロジー活用部会 勉強会資料 ニューラルネットワーク ことはじめ

TRANSCRIPT

Page 1: ニューラルネットワーク ことはじめ

Copyright © 2014 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.

ニューラルネットワークことはじめ

2014年11月17日

先端IT活用推進コンソーシアムクラウド・テクノロジー活用部会

勉強会資料

岡村 和英(株式会社テクリエ)

Page 2: ニューラルネットワーク ことはじめ

ニューラルネットワーク?

2

Page 3: ニューラルネットワーク ことはじめ

脳の仕組みをシミュレーションによって表現した数学モデル

3

Page 4: ニューラルネットワーク ことはじめ

脳の働きをコンピューターで

再現する

4

Page 5: ニューラルネットワーク ことはじめ

ニューロンと

シナプス

5

Page 6: ニューラルネットワーク ことはじめ

ニューロン(neuron)

6

Page 7: ニューラルネットワーク ことはじめ

神経細胞

7

Page 8: ニューラルネットワーク ことはじめ

細胞体(soma)

http://commons.wikimedia.org/wiki/File:Neuron_Hand-tuned.svg

樹状突起(dendrite)

シナプス(synapse)

軸索(axon)(細かいところは省略)

8

Page 9: ニューラルネットワーク ことはじめ

樹状突起から入力される信号が

ある一定のしきい値を超えると

急激な電位変化が生じる

(ニューロンの発火)

9

Page 10: ニューラルネットワーク ことはじめ

軸索から出力された信号が

シナプスを通じて接続された

別のニューロンに伝えられる

10

Page 11: ニューラルネットワーク ことはじめ

シナプスの信号伝達効率は

それぞれ異なる

11

Page 12: ニューラルネットワーク ことはじめ

モデル化してみる

12

Page 13: ニューラルネットワーク ことはじめ

人工ニューロン

13

Page 14: ニューラルネットワーク ことはじめ

しきい値

Θ

結合係数wi

入力 xi

出力O

ユニット

14

Page 15: ニューラルネットワーク ことはじめ

階層型ネットワーク

15

Page 16: ニューラルネットワーク ことはじめ

wkjxi Okwji

入力層 中間層 出力層

16

Page 17: ニューラルネットワーク ことはじめ

wkjxi Okwji

前向き演算

入力層 中間層 出力層

17

Page 18: ニューラルネットワーク ことはじめ

パターン識別程度であれば

3階層で実現可能

18

Page 19: ニューラルネットワーク ことはじめ

ネットワークに

学習させる

19

Page 20: ニューラルネットワーク ことはじめ

結合係数を調整することで

理想の出力を得る

20

Page 21: ニューラルネットワーク ことはじめ

全てのユニットの

しきい値は同じ

Θ=一定

21

Page 22: ニューラルネットワーク ことはじめ

発火したニューロンの出力は

入力量に関わらず常に一定

O=0or1

22

Page 23: ニューラルネットワーク ことはじめ

しきい値を半分に減らしたい(より敏感に反応)

Wiを2倍にする

(入力感度を高める)

23

Page 24: ニューラルネットワーク ことはじめ

出力を2倍にしたい(より強く反応)

Wjiを2倍にする

(出力先の入力感度を高める)

24

Page 25: ニューラルネットワーク ことはじめ

バックプロパゲーション(誤差逆伝搬法)

25

Page 26: ニューラルネットワーク ことはじめ

wkjxi Okwji

後向き演算

入力層 中間層 出力層

26

Page 27: ニューラルネットワーク ことはじめ

出力層で得られる誤差が

少なくなるように

結合係数を修正する

27

Page 28: ニューラルネットワーク ことはじめ

具体的な計算方法は

ここで説明するには

難しすぎるので割愛

28

Page 29: ニューラルネットワーク ことはじめ

複数の教師信号パターンを

繰り返すことで

全体の誤差を最小化できる

29

Page 30: ニューラルネットワーク ことはじめ

今回はここまで!

30

Page 31: ニューラルネットワーク ことはじめ

Copyright © 2014 Advanced IT Consortium to Evaluate, Apply and Drive All Rights Reserved.

http://aitc.jp

https://www.facebook.com/aitc.jp

ハルミンAITC非公式イメージキャラクター