neural network presentation for lt

26
NEURAL NETWORK by Ryosuke Suzuki

Upload: ryosuke-suzuki

Post on 13-Apr-2017

288 views

Category:

Science


11 download

TRANSCRIPT

Page 1: Neural network presentation for LT

NEURAL NETWORK

by Ryosuke Suzuki

Page 2: Neural network presentation for LT

明治大学 総合数理学部 現象数理学科 2年 鈴木 凌介 @GentleClarinet フォローしてね!!

Page 3: Neural network presentation for LT

テクノロジー学生 ミートアップ× ×

Page 4: Neural network presentation for LT

テクノロジー

Page 5: Neural network presentation for LT

AlphaGo りんな 無人自動車 Pepper Siri

検索エンジン

Page 6: Neural network presentation for LT

AlphaGo りんな 無人自動車 Pepper Siri

検索エンジン

Page 7: Neural network presentation for LT

AlphaGo りんな 無人自動車 Pepper Siri

検索エンジン

ニューラルネットワーク

Page 8: Neural network presentation for LT

ニューラルネットワークって?

Page 9: Neural network presentation for LT

ニューラルネットワークとは

脳を模倣した数学モデル

Page 10: Neural network presentation for LT

ニューラルネットワークとは

ニューロンモデル

Page 11: Neural network presentation for LT

ヒストリー

フランク・ローゼンブラットが パーセプトロンを発表

ニューラルネットがブームに

1948

Page 12: Neural network presentation for LT

ヒストリー

ニューラルネットの研究は盛んだったが、 コンピュータの性能不足で冬の時代に

1948 1990

Page 13: Neural network presentation for LT

ヒストリー

コンピュータの性能向上と ディープラーニングの出現により ニューラルネット、大ブームに

1948 1990 2010

Page 14: Neural network presentation for LT

ニューラルネットでなにするの

Page 15: Neural network presentation for LT

ニューラルネットワークでどうする

ニューラルネットワークを利用して 求めたい連続関数に近似した関数を作る

で、何に使うの??

Page 16: Neural network presentation for LT

ニューラルネットワークでどうする

求めたい連続関数に 近似した関数を作る

ネットワークの更新

学習させる!!

Page 17: Neural network presentation for LT

ニューラルネットワークでどうする

アルゴリズム

1. ニューラルネットワークを初期化 2. 入力をする 3. 出力を出す 4. 確率勾配降下法で結合荷重を更新 5. 2,3,4を繰り返す

Page 18: Neural network presentation for LT

ニューラルネットワークでどうする

実演!!

Gender Checkerman !!

Page 19: Neural network presentation for LT

ニューラルネットワークの応用

Gender Checkerman

体重と身長で性別を特定!! 約400人の日本人のデータ使って 学習させた!

Page 20: Neural network presentation for LT

Thank you for listening!!

Page 21: Neural network presentation for LT

ニューラルネットワーク

数学モデル

x1

x2

x3

yw1

w2

w3

b

x - 入力 w - 結合荷重(weight) b - バイアス(bias) y - 出力

Page 22: Neural network presentation for LT

ニューラルネットワーク

数学モデル

x1

x2

x3

yw1

w2

w3

by = f (Pkwkxk + b)

Page 23: Neural network presentation for LT

ニューラルネットワーク

連続関数を出力する

yx

y

x

y

Page 24: Neural network presentation for LT

ニューラルネットワーク

連続関数を出力する

隠れ層入力層 出力層

yx1

xn

出力は 入力の個数と 同じ次元

Page 25: Neural network presentation for LT

ニューラルネットワーク

連続関数を出力する

隠れ層入力層 出力層

yx1

xn

つまり

y 2 Rn

Page 26: Neural network presentation for LT

• fはactivation function (活性化関数)例えば、シグモイド、バイナリーステップなどがある

• 学ばせる方法として確率勾配降下法を挙げたが、ここで利用するのが誤差逆伝播法(back propagation)である(微分を求める)

• このスライドはどの分野の人にもNNを知ってもらうためなので、数学的な解説を最後までやるとなると、大変なことになってしまう。。