tensor flowと機械学習に必要な数学を基礎から学ぶ会 lt_20170118

17
量子アニーリングと深層学習 2の黒船!? 備えあれば憂いなし 5 TensorFlow と機械学習に 必要な数学を基礎から学ぶ Lightening Talk 2017年1月18日 中島 隆夫

Upload: -

Post on 07-Feb-2017

193 views

Category:

Technology


0 download

TRANSCRIPT

Page 1: Tensor flowと機械学習に必要な数学を基礎から学ぶ会 lt_20170118

量子アニーリングと深層学習

~ 第2の黒船!? 備えあれば憂いなし ~

第5回 TensorFlowと機械学習に必要な数学を基礎から学ぶ会

Lightening Talk

2017年1月18日

中島 隆夫

Page 2: Tensor flowと機械学習に必要な数学を基礎から学ぶ会 lt_20170118

1©2016 MITSUI KNOWLEDGE INDUSTRY CO., LTD. All rights reserved.

本LTについて

• ごめんなさい、「やってみた」ではありません

• どちらかっていうと、「やってみたい」です

• ってか、「みなさん、やってみましょう!」です

Page 3: Tensor flowと機械学習に必要な数学を基礎から学ぶ会 lt_20170118

2©2016 MITSUI KNOWLEDGE INDUSTRY CO., LTD. All rights reserved.

自己紹介

名前 : 中島 隆夫

出身 : 埼玉県さいたま市 (旧浦和市)

所属 : 三井情報株式会社 (某総合商社 IT子会社)

気づけば1○年戦士…

仕事 : データ分析の外周をチョロチョロ

興味 : 数学に拒絶反応を示す割に物理

Page 4: Tensor flowと機械学習に必要な数学を基礎から学ぶ会 lt_20170118

3©2016 MITSUI KNOWLEDGE INDUSTRY CO., LTD. All rights reserved.

量子コンピュータを知った、あの暑い夏の日

• 1999年夏 @東大駒場

竹内繁樹氏(当時三菱電機先端技術総合研究所、現京都大学大学院工学研究

科)による大学院向け集中講義

• Shorのアルゴリズム、Deutch-Jozsaのアルゴリズムを初めて知る

• 大規模化の壁 (≒ decoherenceとの闘い+実用的なもつれ合いの仕組み)

Science, 323 pp.483-485 (2009)

Page 5: Tensor flowと機械学習に必要な数学を基礎から学ぶ会 lt_20170118

4©2016 MITSUI KNOWLEDGE INDUSTRY CO., LTD. All rights reserved.

特性①: (量子力学的)重ね合わせの原理

• “Schroedingerの猫”@思考実験、“電子干渉縞”@リアル実験、...

– ここでは ミクロ->マクロ には関心なし

• 一つ(あるいは一組)の情報担体 (ex. 光子、イオン、…) で

複数のデータ (ex. {11000110, 01010000}) を

表現できる!? → 超並列計算の可能性

Description English: Diagram of Schrödinger's cat thought experiment. Roughly based on Image:Schroedingerscat3.jpg

Date 26 June 2008

Source Own work

Author Dhatfield

Permission CC-by-SA 3.0

Description Français : Diffraction d'électrons.

Date 23 August 2012

Source This file was derived from: Double-slit experiment results Tanamura 2.jpg

Author Dr. Tonomura and Belsazar

Page 6: Tensor flowと機械学習に必要な数学を基礎から学ぶ会 lt_20170118

5©2016 MITSUI KNOWLEDGE INDUSTRY CO., LTD. All rights reserved.

特性②: (量子)もつれ合い

• 複数の量子情報担体があるとしよう (ex. 2光子系)

• 担体の量子状態に対して、物理的な「制約関係」が要請される

– 物理法則によって決まるので、人間からはuncontrollable

– 人間が所望の制約関係を選択する余地はある

• ん?「制約」? 制約付き最小化問題 ...と関係ないか?

– 制約関係をうまく選択すれば、最適化問題に落ちる!!

Page 7: Tensor flowと機械学習に必要な数学を基礎から学ぶ会 lt_20170118

6©2016 MITSUI KNOWLEDGE INDUSTRY CO., LTD. All rights reserved.

①+② = 組み合わせ最適化問題の超並列計算

• (与えられた)エネルギー関数について、 …②

• 多数のエージェントが同時に、 …①

• 探索してくれる!

「量子アニーリング方式」...他に「量子ゲート方式」もあるよ

Page 8: Tensor flowと機械学習に必要な数学を基礎から学ぶ会 lt_20170118

7©2016 MITSUI KNOWLEDGE INDUSTRY CO., LTD. All rights reserved.

①+② = 組み合わせ最適化問題の超並列計算

• (与えられた)エネルギー関数について、 …②

• 多数のエージェントが同時に、 …①

• 探索してくれる!

Page 9: Tensor flowと機械学習に必要な数学を基礎から学ぶ会 lt_20170118

8©2016 MITSUI KNOWLEDGE INDUSTRY CO., LTD. All rights reserved.

BoltzmannマシンとIsingモデルの蜜月

• IsingモデルはBoltzmannマシンそのもの!

– いずれも物理現象のmimicを狙っているので当然

– Isingモデルが成立する物理実装が(量子)Boltzmannマシンとしても機能する

• 結線を増やせれば、より組み合せ爆発を効果的に征伐できる

vs.

E = −1

2

𝑖,𝑗

𝑤𝑖𝑗𝑋𝑖𝑋𝑗 H = −𝐽

𝑖,𝑗

𝜎𝑖𝜎𝑗

Page 10: Tensor flowと機械学習に必要な数学を基礎から学ぶ会 lt_20170118

9©2016 MITSUI KNOWLEDGE INDUSTRY CO., LTD. All rights reserved.

厳密な最適解は得られないが…

• 無限の時間をかけてアニールさせないと(cf. 準静的過程)厳密解に落ちない

→ Boltzmannマシン@生成モデルのgeneratorとしては使える!!

– 組合せ爆発をCD法なんかで鈍さないで、経験分布を直に生成

vs.

E = −1

2

𝑖,𝑗

𝑤𝑖𝑗𝑋𝑖𝑋𝑗 H = −𝐽

𝑖,𝑗

𝜎𝑖𝜎𝑗

Page 11: Tensor flowと機械学習に必要な数学を基礎から学ぶ会 lt_20170118

10©2016 MITSUI KNOWLEDGE INDUSTRY CO., LTD. All rights reserved.

でも…「組み合わせ最適化問題」って他にもいろいろあるけど?

サラリーマン巡回問題、ハミルトン閉路問題、…

問題の、H/Wへの“帰着のさせ方”

に頭をひねる必要がある

Page 12: Tensor flowと機械学習に必要な数学を基礎から学ぶ会 lt_20170118

11©2016 MITSUI KNOWLEDGE INDUSTRY CO., LTD. All rights reserved.

問題の、H/Wへの“帰着のさせ方”

に頭をひねる必要がある

解くべき問題 組合せ最適化問題 H/W実装

IT屋さんのやるべきお仕事

H/W屋さんのやるべきお仕事

Page 13: Tensor flowと機械学習に必要な数学を基礎から学ぶ会 lt_20170118

12©2016 MITSUI KNOWLEDGE INDUSTRY CO., LTD. All rights reserved.

実用化の最右翼: D-WAVE社の試み

• 量子アニーリング方式を採用

• 超伝導磁束量子ベース2,000-qubit(!)の規模を実現

– “キメラグラフ”のため実効qubitはそれほど大きくない

• 正価10億円?

• アルゴリズム実装企業 が存在 → エコシステムがキモ

http://www.dwavesys.com/press-releases/

d-wave-systems-previews-2000-qubit-quantum-systemhttp://www.nature.com/articles/srep33957/figures/1

https://commons.wikimedia.org/wiki/File:DWave_128chip.jpg

Page 14: Tensor flowと機械学習に必要な数学を基礎から学ぶ会 lt_20170118

13©2016 MITSUI KNOWLEDGE INDUSTRY CO., LTD. All rights reserved.

日本も負けてはいられない: ImPACTでの胎動

• ImPACT(革新的研究開発推進プログラム)山本プロジェクト

– D-WAVEとは異なる物理機構(レーザーネットワーク方式)の

組合せ最適化問題に向くことは同じ

– 量子アニーリング生みの親、西森先生も参画

– クラウドサービス開始予定 (2017年秋)

解くべき問題 組合せ最適化問題 H/W実装

IT屋さんのやるべきお仕事

H/W屋さんのやるべきお仕事

http://www.jst.go.jp/impact/program/12.html

Page 15: Tensor flowと機械学習に必要な数学を基礎から学ぶ会 lt_20170118

14©2016 MITSUI KNOWLEDGE INDUSTRY CO., LTD. All rights reserved.

量子ゲート方式の雄: IBM

• IBM Quantum Experience

– Watson研究所内の5-qubitマシン および そのシミュレータ

がクラウド利用可能

– ユニタリ行列による変換+qubit間相互作用 でアルゴリズムを構成

• “重ね合わせ”と“もつれ合い”を如何にうまく構成できるか

0%

20%

40%

60%

80%

100%

|001> |010> |100> |011> |101> |110> |111>

probability

Deutch-Jozsaのアルゴリズム 解(qubits)のBloch球面表示 解の確率表示

Page 16: Tensor flowと機械学習に必要な数学を基礎から学ぶ会 lt_20170118

15©2016 MITSUI KNOWLEDGE INDUSTRY CO., LTD. All rights reserved.

イベント情報: Adiabatic Quantum Computing (AQC)

• 量子計算のannual meeting(AOC2016で5回目)

• 昨年(AOC2016)はGoogle LAで開催

– Google自身が量子アニーリング計算機を開発していること発表

→ H/Wも手を出すんかい!

• 今年(AOC2017)は東京開催らしいです

IT屋さんも怖がらずに行ってみましょう!

Page 17: Tensor flowと機械学習に必要な数学を基礎から学ぶ会 lt_20170118

16©2016 MITSUI KNOWLEDGE INDUSTRY CO., LTD. All rights reserved.

EOF内容に関する問い合わせ先:

三井情報株式会社 中島隆夫

[email protected]