Division of Process Control & Process Systems EngineeringDepartment of Chemical Engineering, Kyoto University

manabu@cheme.kyoto-u.ac.jphttp://www-pse.cheme.kyoto-u.ac.jp/~kano/

品質問題を解くプロセスデータ解析

技術：産業応用の現状と課題

京都大学　　加納　学

2機械学習と製造業

情報論的学習理論ワークショップ（ IBIS）に初参加です．

生産システム・製造設備を対象とした研究は皆無でした．

原因推論Ａ．機械学習屋さんは製造業に興味がない．Ｂ．製造業に機械学習の問題がない．Ｃ．機械学習と製造業の接点がない．

製造業が抱える技術課題を紹介します．チャレンジして下さい．ニッチな分野（？）なので，日本代表になれますよ．

3Outline 製造業が抱える品質問題

様々な産業が抱える問題の共通点とは？

ソフトセンサーの産業応用事例 品質推定の現状と課題とは？

多変量統計的プロセス管理（MSPC） 異常検出の現状と課題とは？

まとめ 私は何を為すべきか？

Example 1: Steel 4

Blast Furnace

Converter

Continuous Casting Slab Hot Rolling Cold Rolling

Various Steel Products

- Mission -Minimize defects in steel product, and improve product yield.

Example 2: Silicon Wafer 5

PolycrystalSilicon

CzochralskiMethod

Single CrystalSilicon Polish, Etch, Wash

Inspection of flatness and other product qualities.

- Mission -Improve product qualities such as flatness.

6Example 3: Pharmaceutical

granulation

mixing

tableting

coating

packaging

was

hing

active substances

exci

pien

ts

- Mission -Realize Real-Time-Release without quality inspection.

Paradigm shiftfrom “quality by inspection”to “quality by design”.

Quality should be built into a product with a thorough understanding of the product and process.

Quality by Design (QbD)

7Example 4: Semiconductor

Virtual Metrology Product quality assurance through run-to-run control

based on estimation (virtual measurement)

(Su et al., Cont. Eng. Prac., 2007)

- Mission -Improve product yield.

8何を為すべきか？

対象は，多工程・複雑・非線形・動的プロセス．

やるべきことは，３つ． 製品品質の予測 品質・歩留りの改善 異常の検出

製品品質と運転条件を関連づけるモデルを構築したい．

データがあるなら，モデルを構築すればいいだけ．今更，取り組む価値のある，どんな問題があるの？

9Outline 製造業が抱える品質問題

様々な産業が抱える問題の共通点とは？

ソフトセンサーの産業応用事例 品質推定の現状と課題とは？

多変量統計的プロセス管理（MSPC） 異常検出の現状と課題とは？

まとめ 私は何を為すべきか？

10ソフトセンサーの適用事例

AIChE J., 55, 1754-1765 (2009)J. Proc. Cont., 19, 179-186 (2009)計測自動制御学会論文集 , 44, 317-324 (2008)計測自動制御学会論文集 , 43, 869-876 (2007) J. Chem. Eng. Japan, 37, 422-428 (2004)

昭和電工との共同研究プロジェクト

蒸留塔における製品濃度の推定

製品品質をオンラインで推定できるソフトセンサーを開発し，プロセスの限界運転を実現する．推定値はオプティマイザおよびモデル予測制御システムで利用する．

11ソフトセンサーに関する研究の動向

ニューラルネット（ ANN）の利用が目立つ． 直近５年くらいで，カーネル法（ SVRなど）が躍進． PLS（ partial least squares）は外せない． 部分空間同定（ SSID）は少数．

0

10

20

30

40

Year

# ar

ticle

sPLSANNSSIDSVM/SVR

12ソフトセンサーの現実

13Partial Least Squares (PLS)

出力変数と潜在変数（入力変数の線形結合）との内積が最大となるように，潜在変数を決定する．

OLS

cos

ˆˆ

ˆ

2ˆ

ˆ yyyyr

T

yy

yyyy

PCR22

11 zNz

PLS cos, zyzy

PLSは OLSと PCRの中間的な性質を持つ．出力変数との相関および入力変数間の相関を同時に考慮して，適切な潜在変数を決定する．

14石油化学プラント

15対象とした連続蒸留塔

製品エチレン中の不純物エタン濃度を推定する

1. T431 tray #29 temp. 2. T431 bottom temp. 3. T431 top temp. 4. T431 tray #37 temp. 5. T432 tray #129 temp. 6. Flow rate from T432 to T431 7. T431 reboiler flow rate 8. Product ethylene flow rate 9. T432 reflux flow rate10. T432 internal reflux flow rate11. T432 purge flow rate12. T432 reflux ratio13. T432 top pres.14. T431 feed ethane conc.15. C351 #2 discharge pres.16. C351 #2 discharge temp.17. C351 #4 suction pres.18. V359 level (cooling propylene)

エチレン

16

極めて高い推定精度を実現！

製品組成ソフトセンサー

0 200 400 600 800 10000100200300400500

0 200 400 600 800 1000- 100- 50

050

100

measurementsestimates

目標管理幅

不純

物濃度

推定

誤差

17推定誤差の原因

原因はソフトセンサーか，それとも分析機器か？ 分析機器

サンプリングラインの閉塞等のトラブル ソフトセンサー

入力変数選択の失敗運転条件の変動触媒劣化や装置汚れなど，プロセスの経時変化

推定誤差 = 測定値 – 推定値

推定誤差の原因を突き止めることはできるか？

18PLSを利用したMSPC

LV1

LV2

Error

detected by T2

detected by Q

入力変数が張る多次元空間において，モデル構築に利用した運転データが存在する領域内でのみ，推定モデルおよびその推定値を信頼できる．

現在の運転状態が領域内にあるかどうかをオンライン監視し，なければ推定値を制御目的等に利用しない．

分析機器の異常も検出可能．

PLS-based MSPC

19適用結果

500 1000 1500 2000 25000

50

100Et

hane

con

c.

0 500 1000 1500 2000 2500-20

0

20

Erro

r

0 500 1000 1500 2000 25000

200

400

T2

0 500 1000 1500 2000 25000

100

200

300

Q

Time [hour]

measurementsestimates

(A) (B) (C)

推定値の信頼性を評価できるシステムを実現！

濃度

誤差

監視

指標

20保守負荷の低減を目指して

Dynamic PLS 部分空間同定・二段階部分空間同定 ニューラルネットワーク

十分な精度のモデルを構築することができたとして，その精度を維持できるかが産業応用上の深刻な問題．

技術者不足もあり，モデルの再構築は事実上困難．

Recursive PLS 逐次的にモデルを更新するため，直近の運転状態に

過度に適応してしまう． Just-In-Timeモデル

測定値が得られる毎にデータベースを更新し，データベースに基づいて，局所的なモデルを構築する．

21Just-In-Timeモデルの概念

Just-In-Timeモデル Query点近傍のデータを集め，それらのデータのみを用いて，局所的な（線形）モデルを構築する．

22相関型 JITモデルへ

相関型 Just-In-Time (CoJIT) モデル 従来の JITモデルでは，「距離」のみに基づいて近傍が決定されるため，相関関係は一切考慮されない．

相関関係を考慮すれば，より優れたモデルが構築できる．

( 藤原ら , SICE論文集 , 2008)

23相関型 JITの産業応用事例 分解ガソリン精留塔昭和電工大分工場

ガソリン中アロマ濃度MPC制約条件ラボで 1 回 /日分析→ 過剰に余裕のある運転

入力変数選択8変数選択（全 19変数）＋4時間前の分解炉コイル出口温度

データ2006/4/30 ～ 2007/12/25（ 600日間）

(Fujiwara et al., AIChE J., 2009)

24相関型 JITの産業応用事例

相関型ＪＩＴモデリングにより高い予測性能を達成！

25ソフトセンサーのまとめ

産業応用上重要な手法は PLS．

1990年代初めに一世を風靡した ANNはほぼ死滅．

カーネル法など新しく高度な手法が次々と提案されているが，本気で産業応用を目指すなら，取り組むべき課題は，プロセス特性の変化にいかに対応するか．

自動的にモデルを更新したいが，モデル更新に使って良いデータと使ってはいけないデータを自動的に判別できるか？

26Outline 製造業が抱える品質問題

様々な産業が抱える問題の共通点とは？

ソフトセンサーの産業応用事例 品質推定の現状と課題とは？

多変量統計的プロセス管理（MSPC） 異常検出の現状と課題とは？

まとめ 私は何を為すべきか？

27大小が普通でないものを見付ける

身長

体重

身長と体重に上下限を設定してみましょう．

a. これで完璧だ！b. いや，もっと凄い方法がある

28関係が普通でないものを見付ける

身長

体重

身長と体重には正の相関関係があることを利用して，管理限界を設定してみましょう．

これが，多変量統計的プロセス管理の核心です

PCAを利用した SPC 29

T2

Q

Control Charts

PC1

PC2

残差

T2 による検出

Q による検出

T2 規格化された主成分得点の二乗和Q 残差の二乗和（ SPE）

NOC 領域

(Jackson and Mudholkar, 1979)

異常原因の特定 30

TxPPx ˆ

P

kkkQ

1

2)ˆ( xx

2)ˆ( kkkcont xx

Reconstructed data

Q statistic

Contribution to QC

ontri

butio

n

Variables

Contribution Plot

＜例＞Qで異常検出！　↓寄与プロットによると，＃２熱電対での温度異常が原因　↓冷却装置の故障を確認・対応

PCAを利用した SPC 31

X1

X2

Operation Data

XM

Time

T2

Q

Control Charts

Time

Con

trib

Variables

Contribution Plot

32MSPCのまとめ 産業応用上重要な手法は PCA．

異常検出性能の向上は， ICAや SVM，ウェーブレット解析などを適材適所で利用することによって達成される．

ここでも，プロセス特性の変化にいかに対応するかが重大な問題となっている．

33Outline 製造業が抱える品質問題

様々な産業が抱える問題の共通点とは？

ソフトセンサーの産業応用事例 品質推定の現状と課題とは？

多変量統計的プロセス管理（MSPC） 異常検出の現状と課題とは？

まとめ 私は何を為すべきか？

34まとめ

製造プロセスの外観は異なっても，品質実現力強化の観点から見れば，抱えている課題は類似している．

時間的に変化するプロセス特性（生産量変更，原料変更，メンテナンスによる急変もある）へ対応しなければならない．

やたら複雑な手法で性能を改善したと主張する論文が多いが，現実の問題を見ていないのではないか？

合目的的データ解析で現場の問題に挑もう！

35基礎研究と応用研究

Basic Research

Non-Basic

Non-Applied

Don’t

基礎研究

非基礎

非応用

AppliedResearch応用研究

36基礎研究と応用研究

基礎研究とはブレークスルーを生み出す研究である．ブレークスルーの対立概念はインクリメンタルである．これを「非基礎」といおう．

応用研究とは，人類の持つ知見を人類にとって有用な知見に変換する研究である．応用の対立概念はしたがって「非応用」である．当然のことながら，応用研究の中にも基礎研究は存在し，逆も真である．

我々は第 IV象限の研究を行わないこととしよう．

「国立環境研究所のこれから」，市川惇信， 1992

Don’t

37有用性へのこだわり

知識ある者は理解されるよう努力する責任がある． 素人は専門家を理解するために努力すべきである，あるいは専門家は専門家と通じれば十分であるなどとすることは，野卑な傲慢である．

大学や研究所の内部においてさえ，残念ながら今日珍しくないそのような風潮は，彼ら専門家自身を無益な存在とし，彼らの知識を学識から卑しむべき衒学に貶めるものである．貢献に責任をもつためには，自らの産出物すなわち知識の有用性に強い関心をもたなければならない．

「経営者の条件」， P.F. Drucker

38

Black boxdata-based

統計的モデル vs. 物理モデル

製造プロセスを対象とするかぎり，物理モデルが王道． Socrates：”およそ理論を無視したものなら，そのようなものを技術とは呼ばないよ．”（「ゴルギアス」 ， Plato）

Physical model

Sta

tistic

al m

odel

K.K.D.経験・勘・度胸

Gray box integration

White boxmodel-based