平成28年度大学院 - keio university · 無人運転(パターン認識) 2012年...

69
平成28年度大学院 Webインテリジェンス論 やまぐち たかひら 山口 高平 内線:42673 電話:045-566-1614 FAX; 045-566-1617 メール:[email protected] Webwww.yamaguti.comp.ae.keio.ac.jp 1

Upload: others

Post on 01-Feb-2020

0 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

平成28年度大学院

Webインテリジェンス論

やまぐち たかひら

山口 高平 内線:42673

電話:045-566-1614

FAX; 045-566-1617

メール:[email protected]

Web: www.yamaguti.comp.ae.keio.ac.jp

1

Page 2: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

授業内容と授業計画,講義資料,成績評価

授業内容

人工知能(AI)に関する基礎を学んだ後、AIとインターネットを融合した「セマンティックWebとオント

ロジー、リンクドデータ」について学ぶ。また、ゲストスピーカを招いて、AIの研究開発とビジネスに

ついて学ぶ。

授業計画

① 人工知能の過去・現在・未来

② エキスパートシステム

③ 知識獲得

④ 知識モデリングとオントロジー(レポート1)

⑤ オントロジー分析

⑥ セマンティックWeb概論

⑦ RDF/RDFS/OWL

⑧ オントロジーエディター Protégé

⑨ オントロジー構築演習(レポート2)

⑩ LOD

⑪ LOD演習 (レポート3)

⑫ ゲストスピーカ1 (①~⑪で実施する可能性あり)

⑬ ゲストスピーカ2 (①~⑪で実施する可能性あり)

⑭ まとめ

講義資料:pdf(or ppt)資料をWebに掲載 www.yamaguti.comp.ae.keio.ac.jp

成績:レポート3回程度で評価

2

Page 3: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

AIの歴史

1956年夏 ダートマス会議(チェス、定理証明) 探索、推論

1960年~ 第一次AIブーム(単なる期待、Toy Problem)

1970年~ 冬の時代(機械翻訳無理!基礎研究は継続)

1980年~ 第2次AIブーム(知識の時代、 国プロ、産業化、AIベンチャー)

1995年~ 再び冬の時代へ(基礎研究は継続):

インターネット、クラウドサービスの時代へ

2010年~ 第3次AIブーム(確かな期待へ?、 IT企業(IBM, Google, Appleなど)がAIに注力)

3

Page 4: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

AIの現状 ①コンピュータの高速化

②記憶装置の大容量化

③ネットワーク広帯域化

④ソフトウェアのオープン(無料)化

に支えられ,

AI要素技術(探索,推論,学習,知識)は進歩

2010年~ 第3次AIブームから国際間競争

Deep Learning, AI Integration による特化・強力なAIの登場

米国政府、EU、日本、中国、韓国政府などAI研究投資

米国企業GAFMA, 中国企業AB, 日本企業トヨタ、ドワンゴなど

4

Page 5: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

① 探索型AI

5

Page 6: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

2016.3 Google Deep Mind アルファ―碁

アマチュア7段から トッププロへ躍進!

2012.1 第1回電王戦 故米長元名人vs.

ボンクラーズ

1997 AIチェス Deep Blue

AIがプロに迫る&超える

6

10 120 10 220 10 360

※巨大数の例 観測可能な宇宙(800億の銀河)の水素原子数 約1080

RSA公開暗号鍵サイズ 1024bit 21000= (210)100=10300

Page 7: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

故米長名人 ボンクラーズは50000棋譜以上から 機械学習で強くなった 。 だから、知らない手が有効なはず

2012年1月 第1回電王戦 一手目

7

故米長元名人 vs.

ボンクラーズ

Page 8: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

午前:ボンクラーズは困惑 ?

午後:故米長元名人が 一つのミス

ボンクラーズ 攻撃開始!

8

第1回電王戦 中盤

Page 9: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

勝者

敗者

記者会見

ボンクラーズは、 常に、私のミスを待っていた。 ミスをした途端、攻めてきて、 大変なプレッシャーを感じた。

9

第1回電王戦 終局

Page 10: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

10

電王戦

1 2012 ボンクラーズ 1-0 米長邦雄永世棋聖 一番勝負

2 2013 コンピュータ 3-1

(1引分) プロ棋士 五番勝負(団体戦)

3 2014 コンピュータ 4-1 プロ棋士 五番勝負(団体戦)

4 2015 コンピュータ 2-3 プロ棋士 五番勝負(団体戦)

第1回

Final 第3回

第2回

Page 11: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

ボナンザ(保木邦仁氏開発)の評価関数

• 各駒の価値(駒割り) • 王、他の駒2つの位置 • 王、隣接した味方の駒、他の味方の駒3つの位置 • 隣接しあった駒2つの位置関係 • 竜馬飛角桂香の利き上にいる駒の種類

→5万棋譜データを与え、機械学習を実行し、プロの指し手 パターンを学習した結果、棋力が格段に上昇した。 さらに、新手と呼ばれるパターンも見出した。

11

Page 12: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

Google DeepMind アルファ―碁 5勝 vs 欧州王者のファン・フイ二段 0勝

http://www.nature.com/news/google-ai-algorithm-masters-ancient-game-of-go-1.19234

12

モンテカルロ法 +Deep Learning(プロ棋士、囲碁SW多数の対局記録データ) +強化学習

2015年10月 フランスで対局 from Google

2016/4/7

Page 13: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

13

Google DeepMind アルファ―碁 4勝 vs 世界王者クラスLee Sedol九段(韓国) 1勝

2016/4/7

ソウル市、2016.3

Page 14: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

チェス選手権はフリースタイルの時代へ

混成チーム2 アマチュア+AI

混成チームⅠ プロ+AI

AI プロ

14

Page 15: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

Chess Metaphors: Artificial Intelligence and the Human Mind

15

48チーム参加 (人、コンピュータ、人+コンピュータ) 優勝:ZackSチーム Zackary Stephen(統計学修士,24歳,1381) Steven Cramton(予備校講師,28歳,1685) 使用ソフト:Shredder 8,Fritz 8,Junior 7,Gambit Tiger (※レーティング:初心者800, 中級者1500, 日本チャンピオン2300, グランドマスター 2500, 世界チャンピオン2800)

By Diego Rasskin-Gutman Translated by Deborah Klosky MIT Press (2012)

Page 16: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

(2) データ分析型AI

16

Page 17: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

ビッグデータ:3Vから4Vの時代へ

大容量 Volume

多様性 Variety 多頻度

Velocity

Big Data

業務価値 Value

・データを重ねるだけ ではValueに繋がらない

・異種データ(人の発信データと装置発信データ)を紐付ける仕掛けが必要

17 2016/4/7

Page 18: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

ビッグデータ基盤技術の進展

• Hadoop(オープンソース分散並列処理技術、スケールアウト)

• NoSQLデータベース:非構造の大量データ処理可能 (スキーマフリー)

• MLの進展 カーネル関数によるSVM CRF(Conditional Random Filed, 条件付確率場) ベイズモデル Deep Learning(多層ニューラルネット)

http://hadoop.apache.org/images/hadoop-logo.jpg

2016/4/7 18

Page 19: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

(日本の事例1:農業)牧畜管理

• 本川牧場(大分県)5000頭の牛を飼育 年間1万トン生乳出荷量(全国4位)

• RFID(無線ICタグ)による搾乳量管理 万歩計による運動量の把握など、 牛の個体情報・作業に関する 約300項目データ収集 → 牛の健康管理、牛乳生産量の予測

• 牛乳生産量1日あたり2トン、16万円増加

• 過剰生産による廃棄ロスの減少

2016/4/7 19

From IT Pro by 日経コンピュータ 2013/10/01

Page 20: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

(日本の事例2:工業)製品の販売生産管理

2016/4/7 20

リーマンショック後、コマツでは建機の在庫が急増 →機械稼働管理システム「KOMTRAX」による建機の稼働状況に加えて、 流通在庫+販売状況の管理 →◎在庫1万8000台から約1万台まで削減 →×インドネシアの建設機械の稼働順調、販売順調と予測 しかし、通貨ルピア急落により販売激減(経済予測データも必要)

①組立工場内 ②製品組立から納品までの進捗管理チャート ③グローバル販売生産管理 ④世界34万台以上の建設機械の稼働状況

① ② ③ ④

From 日経BigData 2014.02.12

Page 21: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

(日本の事例3:サービス業)顧客の食欲予測

2016/4/7 21

From IT Pro by 日経コンピュータ 2014/10/16

・すべてのすし皿にRFIDタグ(無線ICチップ) →単品管理。鮮度管理(マグロは、350m 回ると廃棄。売れネタのリアルタイム把握、 ・40億の販売ビッグデータの分析 →顧客の食欲を指数化した「喫食パワー」予測 →1分後予測(顧客着席経過時間などから予測) →15分後予測(統計データ、曜日、時間帯から傾向値を算出し、 必要な寿司の量を算出する。 →廃棄寿司量が75%削減

Page 22: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

(3) 知覚運動型AI

22

Page 23: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

無人運転(パターン認識) 2012年 ネバダ州免許

2013年 カリフォルニア州免許

掃除(計画)

23

機械学習(ベイジアン、SVM、Deep Learning により運転操作の学習 入力 ①LIDAR(レーザー光を使ったレーダー) ②カメラ画像 ③GPS 出力 ①アクセル ②ブレーキ ③ハンドル操作 2015.4 100万マイル以上走行して、交通事故11件 (人が運転する車がグーグルカーに衝突)

Page 24: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

BCG Press Release 2015.1.19 http://www.bcg.co.jp/documents/file180099.pdf

2035 年には完全自動運転車が 新車販売台数の 10%、約 1,200 万台、

部分自動運転車が 15%、約 1,800 万台へ

24

Page 25: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

制限付きボルツマシン

25

1980年代のNNの課題:多段にすると誤差拡散。過学習によりロバストネスが低い。 ボルツマシン(BM):統計力学的な(熱)エネルギーの取り扱い 制限付きボルツマシン(RBM):V(入力層)とH(隠れ層)V間の結合のみ。 同層の結合はない ユニット:確率論的二値ユニット RBMの学習:入力層データを再現できるように、ユニット結合係数wij値を調整する。 自動符号化:隠れ層を少なくすると情報圧縮となる。 多層化:一つのRBM学習終了後に上位に重ねていく→上位ユニットが抽象度の高い特徴となる。

w:weight

Page 26: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

自動符号化(原画像と復元画像) G. E. Hinton, A. Krizhevsky & S. D. Wang: Transforming Auto-encoders, ICANN11 (2011)

26

原画像

復元画像

Page 27: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

Quoc V. Le, Marc’Aurelio Ranzato, Rajat Monga, Matthieu Devin, Kai Chen, Greg S. Corrado, Jeffrey Dean, and Andrew Y. Ng:

Building High-level Features Using Large Scale Unsupervised Learning, ICML2012

27

Youtube 3日間、1000万 部位画像、人と猫の識別器

Page 28: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

Error Rate

28

ILSVRC (ImageNet Large Scale Visual Recognition Challenge)

Page 29: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

DNN (Deep Neural Network)の進展

2012年:教師無しデータによるPre Training 2013年:Rectifier, Dropoutによる教師有りで 直接、巨大ニューラルネットを学習。 ニューラルネットの各構成要素がニューラルネットであるNetwork in Network (NiN)に注目 2014年:短期記憶可能なニューラルネット(LSTM: Long Short Term Memory)。RNN(Recurrent Neural Net.ループを含むようなニューラルネット)が注目。

2015年 Deep Reinforcement Learning ・表現学習(特徴量自動生成) ・マルチタスク学習(類似タスクからターゲットタスクの精度改善)

・マルチモーダル学習(画像キャプション自動生成)

2016/4/7 29

Page 30: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

http://googleresearch.blogspot.jp/2014/11/a-picture-is-worth-thousand-coherent.html

30

画像キャプションの自動生成

Page 31: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

Boston Dynamics' New Humanoid Robot Atlas

31 2016/4/7

Page 32: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

The world's first robotic kitchen http://www.moley.com/

32 2016/4/7

Page 33: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

(4) 知識型AI

33

Page 35: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

1966年 ELIZA

• 入力された文章にあるパターンが含まれているか調べ反応 • 会話を理解しているように見せかける,はぐらかす

– ELIZAとの対話における「意味」は,人間から与えられるか用意された限られた数の反応のどちらか

• 事前に用意された定型的な表現の中から応答

• 俺にはみんなが俺を笑っていることはわかっていたんだ → 特に誰のことを考えていますか? • キーワードが見つからない場合 → なぜそう思うのですか?

• これらの対話は非常に限定された局面でしか通用しない – 精神病の治療面接

• 対話において、話し手の一方が、実際の世界について 殆ど何も知らないというポーズをとっても構わない数少ない例の1つ

35

http://www.simsimi.com/talk.htm

Page 36: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

1980年代 AIブーム(知識工学)

HPP:Heuristics Programming Project 完全ではないがたいていの場合うまくいく知識や方法

※MYCINプロジェクト(1973~1976) MYCIN,TEIRESIAS,GUIDN,EMYCIN

◎知識表現、知識利用、知識獲得→知識工学 There is power in the knowledge ! (1977) by Prof. E. Feigenbaum 1980年代→知識の時代へ

エキスパートシステム,自然言語・画像・音声理解 システム,知的教育支援システム,...

国家プロジェクト,AIハード・ソフトベンダー

36

Page 37: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

エキスパートシステム

37

ユーザ

知識

ベース

知識

獲得

推論

エンジン

作業

領域

対話

I/F

説明

機能

(専門家)

Page 38: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

1990年代:知識獲得ボトルネック

知識(ルール)

→ESが専門家代行という過大な期待. 知識ベース開発のための知識獲得は大変だ!

通産省:第5世代コンピュータ(1982-1994)の失敗?

→推論マシンに特化しすぎ.知識が余りにも不十分.

1990年代: 大規模知識ベース,大規模辞書プロジェクト

CYC, EDR, WordNet(フリーなので現在も広く使われる)

でも,あまり変化しない静的知識だけ.現実には動的知識が

多い.使えないなぁ.AIブームは完全にさめて下火へ

38

ES→①オントロジー基盤AI統合へ ②業務SWとしては、BRMSとして復活

Page 39: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

39

Page 40: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

2003年 QA Challenge !(1) IBM PIQUANT

• 2003~ IBM,PIQUANT プロジェクト

(Practical Intelligent Question Answering Technology)

★閉じた問題ではなく、事前に分からないクイズに解答する という開いた悪構造問題に挑戦

深い論理形式分析と浅い機械翻訳ベースのアプローチを統合

この難しい問題にチェレンジするには、AI技術が未熟で、

マシンパワーも不足して、大きな成果はあげられずに終わる。

40

Page 41: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

2011年 QA Challenge ! (2) IBM Watson

・IBM Deep Question Answering Project(ジョパディで,ワトソンがチャンピオンに挑戦して勝利)

Open-Domain Question Answering

PIQUANTから時代が進み,

技術が成熟、マシンパワーが拡大

41

Page 42: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

IBM Watsonシステム構成

★大規模知識の獲得(100万冊,2億ページ)

百科事典、辞書、シソーラス、ニュース記事、著作物などを情報源。自動的にコーパスを拡大。 ★徹底した質問文解析:LAT(Lexical Answer Type)と重要語抽出 ★突出した一つのAI技術ではなく,言語理解,情

報検索,不確実性推論,仮説生成,仮説統合とランキング、機械学習,知識表現(オントロジー),構造化データなど,100以上の従来AI技術(20年前の技術もある)の集大成 ★精度、確信度、速度を考慮したAIインテグレーション ★計算力:並列計算による計算パワー ★展開性: 医療、金融、行政、マーケティングにも適用可能

42

Page 43: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

NII 東大ロボットプロジェクト 2021年東大入試合格を目指して

http://21robot.org/

43

Page 44: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

東ロボくんの各教科アプローチ • 国語:含意関係認識。評論の問題で、設問に合致する選択肢を選ぶ問題がよく

出題されるが、設問文で指定された本文から、選択肢を選ぶ根拠となる部分を抽出し、その根拠部分と選択肢を比較照合し、最もよく「含意する」選択肢を選ぶ手法を開発したところ、50%程度の精度を達成できた。(名古屋大学佐藤研究室)

• 世界史・日本史:情報検索と新しい含意関係認識の統合。Wikipediaや教科書にあるテキストt1を事実と仮定し、問題文にあるテキストt2が事実であるか否かを判

断する含意関係認識問題について、文の意味を集合間関係の代数式で表現し、その集合間関係を論理演算や機械学習で認識する手法を開発中。

• 英語:発音や文法などの短文問題は70%程度、読解や会話文の長文問題は30%

程度の正答率。長文問題に対して、粒度の異なる語句の類似度判定、事実性の判定、述語項構造解析と照応解析(主語特定とイベント参照)、映画スクリプトから対話自然性判定解析、ConceptNet5を利用した常識推論などの課題に取り組んでいる(NTT-CS研等との共同研究)。

• 数学:自然言語解析と論理と数式処理の統合を目指しており、日本語で記述された問題文と同等のZF (Zermelo-Fraenkel)表現を一階述語論理式に変換し、限量子消去 (quantifier elimination: QE)などを含む数式処理を適用して問題を解く。QE は、二次関数、不等式・領域の問題、平面図形の問題など、多くの入試問題

を解くことができる.ただ数学でも、問題文を読んで式を立てる過程が課題である(富士通研究所との共同研究)。

44

Page 45: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

200 93.1 95(52) 50.5(41.0)

150 60.2 69(62) 54.2(45.9)

100 45.9 49(42) 51.9(44.7)

100 47.1 40(57) 46.9(51.9)

100 50.4 55(41) 51.9(47.2)

100 40.8 52(58) 56.1(55.2)

100 47.2 44(56) 48.2(56.1)

100 38.1 17(33) 34.3(42.2)

100 32.7 31(39) 49.0(48.3)

900 422.0 386(365) 47.3(45.1)

53.6(47.7)

49.7(46.2)

受験番号 氏名 116-5004E 東ロボクン イチゴウ

科目 満点 全国 平均点

本人得点 (昨年)

本人偏差値 (昨年)

英語

国語(現文+古文)

国語(現代文)

数学I・数学A

数学Ⅱ・数学B

世界史B

日本史B

政治・経済

物理

文系7科目コース

文系3教科偏差値

理系3教科偏差値

東ロボくん 代ゼミ全国センター模試成績(2014.11)

45

Page 46: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

200 86.0 80.0 48.4

50 24.6 16.0 40.5

200 105.4 90.0 45.1

100 45.5 75.0(40) 64.0(46.9)

100 42.8 77.0(55) 65.8(51.9)

100 45.9 76.0(52) 66.5(56.1)

100 46.6 55.0(44) 54.8(48.2)

物理 100 49.4 42.0(31) 46.5(49.0)

950 416.4 511.0 57.8

受験番号 氏名

科目 満点 全国 平均点

本人得点 (昨年)

本人偏差値 (昨年)

英語(筆記) 英語(リスニング)

国語

数学IA

数学ⅡB

世界史B

日本史B

5教科合計

東ロボくん 進研模試 総合学力マーク模試成績(2015.11)

46

大学・学部・学科 合格可能性80%以上の大学・学部・学科

国公立大 170大学 570学部 2,139学科 33大学 39学部 64学科

私立大 580大学 1,723学部 4,305学科 441大学 1,055学部 2,406学科

合計 750大学 2,293学部 6,444学科 474大学 1,094学部 2,470学科

Page 47: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

Web上で公開され,相互に連結し合っているRDFデータ

これまで多く研究されてきた抽象的な概念構造が

現実的な有用性を生むには依然高いハードルがある

具体物であるインスタンスの記述をしたRDF(Linked Open Data)の

データベースを公開・共有し合うべきという風潮が高まっている

2007年5月

2008年5月

2011年9月

LODの普及

Page 48: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

RDFモデルによるLinked Open Data(LOD)

• LOD規模:5億トリプル(2007)

⇒2011年9月時点で310億トリプルに増加

48

メディア

行政

地理

生命科学

出版

DBpedia

Wikipediaから構造化されたデータを抽出、RDF形式で提供

・データ自体がリンクしている

・情報の公開、共有が容易になる

・第三者によるサービス開発の促進に繋がる 情報流通基盤として期待が集まる

Page 49: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

Linked Open Data Initiative 2012年8月に発足

LODを普及促進する活動

日本語LOD Cloudの作成

日本語LOD Cloud 2008年の欧米と同程度の規模

DBpedia Japaneseと相互リンクとなっているのは以下の3つのみ

本家DBpedia

日本語WordNet

日本語Wikipediaオントロジー

DBpedia Japaneseが持っていない概念階層関係の補完として,日本語LODハブの一つとして期待されている

49

DBpedia Japanese DBpedia

日本語WordNet

日本語Wikipediaオントロジー

Page 50: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

①言葉(概念) 分類階層木

②言葉(=固有表現、具体物)ネットワーク

50

織田信長

本能寺

墓所

濃姫 妻

法華宗本門流

日本の

寺院

建築物

日本の神

農民 武士

宗派

1415年

創建年

歴史上の身分

天文3年5月12日

生誕

豊臣秀吉

主君

本蓮寺

宗派

日本の城

岐阜城

建立

1347年

創建年

人・もの・ こと分析

分け方

オントロジー

2016/4/8

Page 51: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

Wikipediaからオントロジー(言葉階層木,言葉のネットワーク)に自動変換して, 人工物に言葉の意味(Sense)を理解させる →日本語Wikipediaオントロジー

人間には,ウィキペディアの内容(意味)が判るけど人工物(コンピュータ,スマフォ,ロボット...)には判らない

日本語Wikipediaオントロジー

2016/4/8 51

Page 52: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

日本語Wikipediaオントロジー(文学)

2016/4/8 52

Page 53: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

53

さらにズームアップ(模式図)

日本の 小説家

小説家

作家

人物

文学

文化

芥川龍之介

文化活動

家族

日本史の人物

代表作

職業

職業

プロパティ定義域

クラス-インスタンス関係

Is-a関係・プロパティ上位下位関係

トリプル

プロパティ値域

日本の 大学

日本の 小説

日本

存命人物

羅生門 蜘蛛の糸

小説家

塚本文

芥川也寸志

芥川貴之志

短編小説

日本

東京帝国 大学英文科

日本の映画作品

作曲家

日本のクラシック音楽の作曲家

オペラ 作曲家

夏目漱石 明治の人物

明治大学の人物 門下生

津田青楓

坊っちゃん こゝろ

小説

時代小説・歴史小説作家

誕生

最終学歴

配偶者 子供

著作

国籍

親族

ジャンル

死没

東京都出身の人物

日本出身の人物

文庫本

クラス

プロパティ

インスタンス

俳人

2016/4/8

Page 54: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

日本語Wikipediaオントロジー

Page 55: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

統合人工知能

55

Page 56: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

PRINTEPS.org

56

Page 57: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

57

日本語ウィキペディアオントロジー+Pepper

Page 58: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

日本語ウィキペディアオントロジー +画像センシング+NAO

58

QA 体操教示

Page 59: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

マルチロボット連携による授業連携

59

Page 60: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

60

ロボットカフェ

⑥ ⑤

④ ③

Page 61: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

人と機械(AI)の協働

61

Page 62: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

Race Against the Machine

米国では,ここ数年, 会計士,税理士の需要が8万人減少 高度コンピュータ による大量失業時代?

アンドリュー・マカフィー MITスローン・スクール、 デジタル・ビジネス・センター 主任リサーチサイエンティスト

62

Page 63: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

The Future of Employment (1) Carl Benedikt Frey and Michael A. Osbome, Oxford Univ.

• コンピュータに代行困難な重要要素 ①Creativity (創造性、創意工夫) ②Dexterity(手先の器用さ) ③Social Intelligence (社交性)

ルーチンワーク的な仕事は、AIに置き換えられていく可能性が大きい

63

Page 64: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

The Future of Employment (2) Carl Benedikt Frey and Michael A. Osbome, Oxford Univ.

64

 ■コンピューターに奪われる職種

確率 職種

99% ローン貸し付け

96% 受付係

94% 法律事務員

92% 小売販売員

89% タクシー運転手

84% 警備員

81% コック(ファーストフード)

77% バーテンダー

58% 個人向けアドバイザー

11% 記者

7.4% 音楽家

0.4% 小学校教師

 出所:オックスフォード大学     「The Future of Employment」

Page 65: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

人工知能やロボット等による代替可能性が高い100種の職業 http://www.nri.com/Home/jp/news/2015/151202_1.aspx

【事務員・作業員】 一般事務員 医療事務員 駅務員 会計監査係員 貸付係事務員 学校事務員 教育・研修事務員 行政事務員(国) 行政事務員(県市町村) クリーニング取次店員 警備員 経理事務員 検収・検品係員 検針員 建設作業員 産業廃棄物収集運搬作業員 出荷・発送係員 じんかい収集作業員 人事係事務員 新聞配達員 スーパー店員 生産現場事務員 製本作業員

清涼飲料ルートセールス員 倉庫作業員 宅配便配達員 通信販売受付事務員 積卸作業員

電子計算機保守員(IT保守員) 道路パトロール隊員 日用品修理ショップ店員 バイク便配達員 発電員 非破壊検査員 ビル清掃員 物品購買事務員 貿易事務員 包装作業員 保管・管理係員 保険事務員 郵便外務員 郵便事務員 有料道路料金収受員 列車清掃員 レンタカー営業所員

【工員】 鋳物工 AV・通信機器組立・修理工 NC研削盤工 NC旋盤工 加工紙製造工 カメラ組立工 機械木工 金属加工・金属製品検査工 金属研磨工 金属材料製造検査工 金属熱処理工 金属プレス工 計器組立工

ゴム製品成形工(タイヤ成形を除く)

こん包工 サッシ工 紙器製造工 自動車組立工 自動車塗装工 水産ねり製品製造工 製パン工 製粉工 繊維製品検査工 惣菜製造工 鍛造工 電子部品製造工 プラスチック製品成形工 ミシン縫製工 めっき工 めん類製造工

【オペレーター】 IC生産オペレーター CADオペレーター 石油精製オペレーター セメント生産オペレーター 電算写植オペレーター プロセス製版オペレーター ボイラーオペレーター マシニングセンター・オペレーター

【担当係】 受付係 銀行窓口係 データ入力係 ホテル客室係 レジ係 寄宿舎・寮・マンション管理人 給食調理人 宝くじ販売人 駐車場管理人

【その他】 診療情報管理士 測量士 タクシー運転者 通関士 電気通信技術者 電車運転士 ビル施設管理技術者 路線バス運転者

2016/4/7 65

Page 66: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

【飲食】 ソムリエ バーテンダー ペンション経営者

【技術系・自由業】 アウトドアインストラクター アナウンサー アロマセラピスト 犬訓練士 映画カメラマン 映画監督 エコノミスト 学校カウンセラー 観光バスガイド クラシック演奏家 ケアマネージャー 経営コンサルタント 芸能マネージャー 広告ディレクター 国際協力専門家 雑誌編集者 産業カウンセラー 商業カメラマン 商品開発部員 スタイリスト スポーツインストラクター スポーツライター 声楽家 ツアーコンダクター ディスクジョッキー ディスプレイデザイナー

デスク テレビカメラマン テレビタレント 図書編集者 ネイル・アーティスト 俳優 美容師 評論家 舞台演出家 舞台美術家 フラワーデザイナー フリーライター プロデューサー 放送記者 放送ディレクター 報道カメラマン マーケティング・リサーチャー マンガ家 ミュージシャン メイクアップアーティスト 料理研究家 旅行会社カウンター係 レコードプロデューサー レストラン支配人 録音エンジニア

【教育・医療 関係】 医療ソーシャルワーカー 音楽教室講師 学芸員 教育カウンセラー 外科医 言語聴覚士 作業療法士 産婦人科医 歯科医師 児童厚生員 社会学研究者 社会教育主事 社会福祉施設介護職員 社会福祉施設指導員 獣医師 柔道整復師

小学校教員 小児科医 助産師 心理学研究者 人類学者 精神科医 大学・短期大学教員 中学校教員 中小企業診断士 内科医 日本語教師 はり師・きゅう師 保育士 法務教官 盲・ろう・養護学校教員 幼稚園教員 理学療法士

【クリエイティブ系】 アートディレクター インテリアコーディネーター インテリアデザイナー グラフィックデザイナー ゲームクリエーター 工業デザイナー コピーライター

作詞家 作曲家 シナリオライター ジュエリーデザイナー ファッションデザイナー フードコーディネーター

人工知能やロボット等による代替可能性が低い100種の職業 http://www.nri.com/Home/jp/news/2015/151202_1.aspx

2016/4/7 66

Page 67: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

知能は形式知だけ? ガードナー:多重知能説に基づく知能モデル

言語的 知能

数理的 知能

対人的 知能

個人内 知能

音楽的 知能

空間的 知能

身体 知能

技術的 (学校) 知能

芸術的 知能

人格的 (感情) 知能

67

AI

Page 68: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

AIの課題

• Deep Learning による知覚処理の進歩 →知識処理は?アルファ―碁の可能性。 →文脈バイアス、信号と記号の相互運用性

• 生活体験と結びつく常識の自動構築

• マルチモーダル

• 議論できるAI、説明できるAIへ

• ELSI:モラルとメタ知識

68

Page 69: 平成28年度大学院 - Keio University · 無人運転(パターン認識) 2012年 ネバダ州免許 2013年 カリフォルニア州免許 掃除(計画) 23 機械学習(ベイジアン、SVM、Deep

69

AIの将来

画像認識

音声認識

動作学習

大きなハードルが存在 対話学習

知識学習

画像切出し

言語学習

プログラム生成

現状できつつある領域