y. mori, k.k. and a. ohnishi, phys. rev. d 96 (2017...

Toward solving the sign problem with machine learning

共同研究者：森勇登 (京大理)

大西明 (京大基研)

Y. Mori, K.K. and A. Ohnishi, Phys. Rev. D 96 (2017) 111501

Y. Mori, K.K. and A. Ohnishi, PTEP 2018 (2018) 023B04

柏浩司

福岡工業大学情報工学部

６月２日大阪大学

K.K. Y. Mori and A. Ohnishi, arXiv:1805.08940

導入：目的

相構造を解明するには → 正しい相図を描く事が必要

研究目的：量子色力学(QCD)の相構造を理解する

導入：目的


圧力

温度

どのエネルギースケールでどの状態が実現するかを示す図

有名な相図の例：水

固相

液相

気相


導入：目的


閉じ込め相

非閉じ込め相

温度

実数化学ポテンシャル（密度）

カラー超電導相

圧力

温度

どのエネルギースケールでどの状態が実現するかを示す図

有名な相図の例：水

QCD相図

固相

液相

気相


導入：目的

閉じ込め相

非閉じ込め相

温度

実数化学ポテンシャル


図：NASA's Marshall Space Flight Center

図：Brookhaven national lab.

図：Wilkinson MicrowaveAnisotropy Probe

我々の宇宙で観測可能な最高密度の物質である中性子星にも関係する

QCD相図の予想図

導入：問題点

閉じ込め相

非閉じ込め相

温度



有限密度では第一原理計算に問題が生じる（符号問題）

QCD相図の予想図

本研究目的（もっと具体的な）

本研究の目的

符号問題の解決（に向けた研究）

符号問題を最適化問題に落とし込む

符号問題

例)： Airy integral

See alsoWitten, AMS/IP Stud. Adv. Math. 50 (2011) 347

Original path

Deformed path

経路積分を（数値的に）行う際、被積分関数が強い振動を示しキャンセレーションが発生する → 符号問題

符号問題

O = 𝑂𝑒−𝑆𝑑𝑥

𝑒−𝑆𝑑𝑥

多次元積分ではモンテカルロ法を用いることが多い

e-S ：ボルツマン因子

𝑂 = 𝑂𝑒−𝑆𝑑𝑥

𝑒−𝑆𝑑𝑥= 𝑂

𝑒−𝑆

𝑒−𝑆𝑒−𝑆 𝑑𝑥

𝑒−𝑆


=𝑂𝑒𝑖𝜃 𝑝𝑞

𝑒𝑖𝜃 𝑝𝑞

S が複素数になると確率と解釈できなくなるので、

とすると計算可能だが、𝑒𝑖𝜃 𝑝𝑞 が小さいと精度が上がらない

符号問題

∈ ℂ

グルーオンの寄与クォークの寄与

ディラック演算子

QCDの大分配関数には有限実数化学ポテンシャル領域で符号問題が発生する

QCD大分配関数

𝒵 = 𝒟𝐴 𝐷𝑒𝑡 𝒟 𝐴, 𝜇 + 𝑚 𝑒−𝑆𝑌𝑀(𝐴)

∈ ℝ


符号問題

例)： Airy integral

See alsoWitten, AMS/IP Stud. Adv. Math. 50 (2011) 347

Original path

Deformed path

経路積分を（数値的に）行う際、被積分関数が強い振動を示しキャンセレーションが発生する → 符号問題

元の積分経路より良い積分経路が複素領域にあれば解決可能

最近の進展

複素ランジュバン法

レフシッツ・シンブル法

𝑥𝑖 𝒛𝒊 ∈ ℂ

重要：積分変数を複素化する

もちろんこのままでは元の理論と異なる理論になるので、元の理論へ戻るような制限が必要

→

符号問題に対する近年の進展これまでよく使われてきた手法

再重み付け法

テーラー展開法

解析接続法

カノニカル法等々

最近の進展複素ランジュバン法

複素ランジュバン法

確率的量子化に基づく

通常の経路積分とは異なるため、原理的には符号問題はない

重要：間違った解への収束可能性

複素ランジュバン法は必ずしも正しい解へ収束しない事が知られている

J. Nishimura and S. Shimasaki,Phys. Rev. D92 (2015) 011501

G. Aarts, E. Seiler, I.-O. Stamatescu, Phys. Rev. D81 (2010) 054508

G. Parisi, Phys.Lett. B131 (1983) 393, J. R. Klauder, Phys. Rev. A29 (1984) 2036,

G. Aarts, E. Seiler, I.-O. Stamatescu, Phys. Rev. D81 (2010) 054508

最近の進展レフシッツ・シンブル法


通常の経路積分法に（基本的には）準拠

重要 : 勾配流で積分経路を決める

流れの固定点

この勾配流から得られる経路（シンブル）は以下の条件を満たす

原理的には間違った解には収束しない

E. Witten, AMS/IP Stud. Adv. Math. 50 (2011) 347

M. Cristoforetti, et al., Phys.Rev. D86 (2012) 074506

H. Fujii, et al., JHEP 1310 (2013) 147

最近の進展レフシッツ・シンブル法


重要 : 符号問題の残滓が残る

元の符号問題は無くなるが残滓が問題を引き起こす

Global sign problem：

Residual sign problem：

複数のシンブルが積分に寄与する場合、各シンブル間でキャンセレーションが発生

積分経路の変形からヤコビアンから振動が現れキャンセレーションが発生

通常の経路積分法に（基本的には）準拠原理的には間違った解には収束しない

E. Witten, AMS/IP Stud. Adv. Math. 50 (2011) 347

M. Cristoforetti, et al., Phys.Rev. D86 (2012) 074506

H. Fujii, et al., JHEP 1310 (2013) 147

新しい手法経路最適化法

レフシッツ・シンブル法は複雑系に適用することが難しい

改良版も含めてどこまで複雑な系に適用可能かは不明

積分経路が勾配流によって一意に決まるため、問題が発生した場合に解決が難しいという問題もある

経路最適化法

我々の提案

A. Alexandru, G. Basar, P. Bedaque, Phys. Rev. D 93 (2016) 014504


経路最適化法の戦略

1. 符号問題の深刻さを表す目的関数を用意

2. 積分経路を複素積分変数空間で変形

3. 最も良い経路を複素積分変数空間で選択

経路最適化法の戦略

つまり符号問題を最適化問題に落とし込む


経路最適化法の構造

目的関数：符号問題の深刻さを示す関数（一意ではない）

今回は下記の関数を用意

各ｔで位相を揃えようとする項

積分への寄与（重み）媒介変数

(簡単には実部)

今の目的関数は平均位因子に比例する

再重み付け

O = 𝑂𝑒−𝑆𝑑𝑥

𝑒−𝑆𝑑𝑥= 𝑂

𝑒−𝑆


𝑒−𝑆


=𝑂𝑒𝑖𝜃 𝑝𝑞

𝑒𝑖𝜃 𝑝𝑞





試行関数(𝒛の関数形) : 経路を変形させる関数


試行関数内部のパラメータを探索し、目的関数を最適化することでより良い経路を求める








本手法の結果


コーシー（-ポアンカレ）の定理より、積分の端が元の積分経路と一致し、且つ、極をまたがない限りは元の積分経路と同じ結果を与える






経路最適化法とニューラルネットワーク

元々の経路最適化法では試行関数を用いていた

複雑な系では経路の変形に人の力が必要だとコストが掛かりすぎる

そこで、ニューラルネットワークを用いて経路の最適化を行う

ニューラルネットワークの簡単な説明

脳の働きを模した数理モデル



ニューラルネットワークの説明：ニューラルネットワーク

Input

“多層化”すると

x y

f()

f()

Hidden

output

＋非線形な活性化関数の演算

f()

f()

f : 活性化関数

この図はユニット数が３


Input

“多層化”すると

x y

f()

f()

Hidden

output

＋非線形な活性化関数の演算

f()

f()

実際の計算では積分変数の実部を入力とし、虚部を出力する

f : 活性化関数

この図はユニット数が３

実部

虚部

実部

虚部

ニューラルネットワーク部分も含め FORTRAN で実装


誤差逆伝播法

x y

𝐸𝐸𝑑𝑦

𝑑𝑥E : 信号

１．積分変数の実部をインプット

２．目的関数の勾配を上流から求めていく

３．パラメータを勾配の方向へ更新

４．虚部を出力する

本研究での大まかな流れ

（Hybrid Monte-Calro の場合ミニバッチ学習）

（誤差逆伝播）

（Adadelta, Adam …）

（指数移動平均をとる）

５．平均位相因子が十分に１に近づくまで繰り返す


“deep”

Hidden

“Deep”でなくても、ユニット数を十分多く用意することで任意の関数を近似可能

我々の手法と非常に相性の良い手法 Universal approximation theorem

f()

f()

f()

Hidden

f()

f()

f()

Hidden

f()

f()

f()

G. Cybenko, MCSS 2, 303 (1989)

K. Hornik, Neural networks 4, 251 (1991)


"A computer program is said to learn from experience E with

respect to some class of tasks T and performance measure P if

its performance at tasks in T, as measured by P, improves with

experience E."

Tom M. Mitchell, Machine Learning, McGraw Hill (1997)

1. 符号問題の深刻さを表す目的関数を用意

2. 積分経路を複素積分変数空間で変形

3. 良い経路を複素積分変数空間で選択

P（尺度）

E（経験）

T（タスク）

(配位を生成し、パラメータの最適化を繰り返す）

経路最適化法では、

コンピュータプログラムが、ある種のタスク T と評価尺度 P において、経験 E から学習するとは、タスク T におけるその性能を P によって評価した際に、経験 E によってそれが改善されている場合である

一次元積分でのニューラルネットワークによる学習過程


p = 50, α = 10

符号問題の厳しい簡単な模型

経路最適化法での学習過程

シンブル固定点

分配関数のゼロ点

固定点

一次元積分でのニューラルネットワークによる学習過程

更新ごとにより良い経路へ更新される


p = 50, α = 10

得られた経路上では符号問題が改善し、解析解も再現可能

符号問題の厳しい簡単な模型


2次元複素λΦ4理論での学習過程

作用（格子化後）

パラメータ等は、

H. Fujii, D. Honda, M. Kato, Y. Kikukawa, S. Komatsu, T. Sano, JHEP 10 (2013) 147

と同様に設定（この論文自体は4次元での計算）

以下の計算では、 𝜅 = 1.0, とした𝜆 = 1.0


2



一次元積分とは異なり積分経路を視覚化する事が難しいので、平均位相因子（configuration 1万個で平均）をプロット

平均

位相

因子

μ


42

62

42

62

最適化



現状、体積が増えると平均位相因子がやはり減少してしまう…Configuration生成と最適化の計算コストの兼ね合いを調べる必要性

平均

位相

因子

μ



QCD有効模型

QCD有効模型での解析

K.K., Y. Mori and A. Ohnishi, arXiv:1805.08940

Polyakov-loop extended NambuーJona-Lasinio （PNJL）模型

2 2

0 5( ) ( ) ( , )sq i D m q G qq qi q U

L

K. Fukushima, Phys. Lett. B591 (2004) 277

𝐴3, 𝐴8 の複素化で模型符号問題は改善可能。

無限体積で平均場近似に一致する取り扱い。

きちんと lattice的に取り扱うのは大変なので、空間一様な (𝜎, 𝜋) と 𝐴3, 𝐴8 を仮定。

𝐴3, 𝐴8 の複素化で模型符号問題は改善可能。

T=100 MeV

After

Before

空間一様な (𝜎, 𝜋) と 𝐴3, 𝐴8 を仮定。無限体積で平均場近似に一致する取り扱い。

QCD有効模型





平均場近似での結果を再現することも確認。すべての平均場を複素化する必要はない。

QCD有効模型

進行中

Real part of plaquette Imaginary part of plaquette

複素ランジュバン法が失敗する領域が存在

複素ゲージ結合では符号問題が深刻

Y. Mori, K.K., A. Ohnishi, in progress

2次元SU(2)ゲージ理論での学習過程

複素ゲージ結合では符号問題が深刻

虚部実部

2次元SU(2)ゲージ理論での学習過程

経路最適化法での計算を実行中

進行中

Y. Mori, K.K., A. Ohnishi, in progress

まとめ

符号問題の解決を目指して新しい手法の開発を行った

経路最適化法経路最適化法

符号問題の深刻さを反映する目的関数をニューラルネットワークを用いて最適化する

Quantum field theory に対しても計算可能になりつつある。

まとめ

符号問題の解決を目指して新しい手法の開発を行った

経路最適化法経路最適化法

符号問題の深刻さを反映する目的関数をニューラルネットワークを用いて最適化する

これから格子ゲージ理論へ実際に適用していく

複素結合をもった SU(2) 純ゲージ理論

3＋1次元有限密度QCD

Complex Langevin : H. Makino, H. Suzuki, D. Takeda, Phys. Rev. D92 (2015) 085020

Complex Langevin : D. Sexty, Phys. Lett. B729 (2014) 108

…

y. mori, k.k. and a. ohnishi, phys. rev. d 96 (2017...

Documents