matlab®×データサイエンス ~最新機能紹介と業務一元化の手 … ·...

30
1 © 2015 The MathWorks, Inc. MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手引き~ 田口 美紗

Upload: others

Post on 02-Nov-2019

0 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手 … · matlabプロジェクトによる簡単配布・作業自動化 プロジェクト可視化機能による簡単解読

1© 2015 The MathWorks, Inc.

MATLAB®×データサイエンス~最新機能紹介と業務一元化の手引き~

田口 美紗

Page 2: MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手 … · matlabプロジェクトによる簡単配布・作業自動化 プロジェクト可視化機能による簡単解読

2

データサイエンス?

AI?

Page 3: MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手 … · matlabプロジェクトによる簡単配布・作業自動化 プロジェクト可視化機能による簡単解読

3

データサイエンスで大切なこと

可視化・異常値チェックなど前処理が不可欠

しかし、前処理には非常に時間がかかる

Page 4: MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手 … · matlabプロジェクトによる簡単配布・作業自動化 プロジェクト可視化機能による簡単解読

4

講演の目的

MATLABを用いて効率よくデータサイエンスのプロセスを進めて頂きたい!

Page 5: MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手 … · matlabプロジェクトによる簡単配布・作業自動化 プロジェクト可視化機能による簡単解読

5

本日のアジェンダ

①アドホックな解析 ②ビッグデータ解析 ③プロジェクト化

• データ読み込み• データアクセス• 前処理• 可視化

• ビッグデータの読み込み

• ビッグデータの解析・深堀り

• プロジェクトの作成・共有

• 大人数で解析

Page 6: MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手 … · matlabプロジェクトによる簡単配布・作業自動化 プロジェクト可視化機能による簡単解読

6

①アドホックな解析

• データ読み込み• データアクセス• データ結合• 可視化

フライトデータの解析を例にご紹介

振動センサ

燃料センサ

緯度・経度

火災センサ

時間

Page 7: MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手 … · matlabプロジェクトによる簡単配布・作業自動化 プロジェクト可視化機能による簡単解読

7

データ読み込み

① GUIからのデータ読み込み

Page 8: MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手 … · matlabプロジェクトによる簡単配布・作業自動化 プロジェクト可視化機能による簡単解読

8

② GUI操作と等価のライブスクリプト 自動生成

データ読み込み

Page 9: MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手 … · matlabプロジェクトによる簡単配布・作業自動化 プロジェクト可視化機能による簡単解読

9

データ読み込み

③ ライブスクリプトの関数化 → 以降の読み込みを自動化

Page 10: MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手 … · matlabプロジェクトによる簡単配布・作業自動化 プロジェクト可視化機能による簡単解読

10

データアクセス

時間 × センサ

読み込んだデータ

データ. 変数名

変数型でソート

Page 11: MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手 … · matlabプロジェクトによる簡単配布・作業自動化 プロジェクト可視化機能による簡単解読

11

タイムテーブルへの変換

タイムテーブルへ変換

時間によるデータアクセス

可視化

Page 12: MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手 … · matlabプロジェクトによる簡単配布・作業自動化 プロジェクト可視化機能による簡単解読

12

異常値の削除・補間処理

filloutliers()

Page 13: MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手 … · matlabプロジェクトによる簡単配布・作業自動化 プロジェクト可視化機能による簡単解読

13

便利な前処理関数

欠損値ismissing

rmmissing

fillmissing

外れ値isoutlier

rmoutliers

filloutliers

平滑化smoothdata

急激な変化点ischange

https://www.mathworks.com/help/matlab/preprocessing-data.html

Page 14: MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手 … · matlabプロジェクトによる簡単配布・作業自動化 プロジェクト可視化機能による簡単解読

14

可視化

地図上に軌跡をプロット

geoplot

geoscatter

geobubble

geodensityplot

https://www.mathworks.com/help/

matlab/geographic-plots.html

Page 15: MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手 … · matlabプロジェクトによる簡単配布・作業自動化 プロジェクト可視化機能による簡単解読

15

ポイントまとめ

GUIで簡単操作・操作と等価の関数も1クリックで作成

行列数を使わないデータアクセス・データソート

時系列解析に便利なタイムテーブル

データの前処理は関数1行で実施

地理プロットで簡単可視化

Page 16: MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手 … · matlabプロジェクトによる簡単配布・作業自動化 プロジェクト可視化機能による簡単解読

16

②ビッグデータ解析

• ビッグデータの読み込み

• ビッグデータの解析・深堀り

①アドホックな解析

• データ読み込み• データアクセス• 前処理• 可視化

Page 17: MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手 … · matlabプロジェクトによる簡単配布・作業自動化 プロジェクト可視化機能による簡単解読

17

フライトデータ概要

▪ 35 機

▪ 180,000 飛行

▪ 容量 300 GB

▪ 出典:

– NASA Dash Link: Sample Flight Data

– https://c3.nasa.gov/dashlink/projects/85/

Page 18: MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手 … · matlabプロジェクトによる簡単配布・作業自動化 プロジェクト可視化機能による簡単解読

18

Built-In Datastores

General datastore

spreadsheetDatastore

tabularTextDatastore

fileDatastore

Database databaseDatastore

Image imageDatastore

denoisingImageDatastore

randomPatchExtractionDatastore

pixelLabelDatastore

augmentedImageDatastore

Audio audioDatastore

Predictive

Maintenance

fileEnsembleDatastore

simulationEnsembleDatastore

Simulink simulationDatastore

Automotive mdfDatastore

ビッグデータの読み取り

大規模なデータ集合の読取り

×実ファイル○リポジトリ

⇒PCのRAMメモリ以上のデータ読み取りが可能

大規模なデータを1変数で管理

Page 19: MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手 … · matlabプロジェクトによる簡単配布・作業自動化 プロジェクト可視化機能による簡単解読

19

データストアのカスタマイズ(カスタムデータストア)

https://jp.mathworks.com/help/matlab/import_export/develop-custom-datastore.html

自作のカスタムデータストアでデータストア読み込み

オリジナルフォーマットのビッグデータ解析にも対応可能

Page 20: MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手 … · matlabプロジェクトによる簡単配布・作業自動化 プロジェクト可視化機能による簡単解読

20

ポイントまとめ

データストアによりRAMサイズ以上の大容量データを一括読取り

独自のファイルもデータストア化し一元操作

sum sum sum

sum sum sum

sum

Page 21: MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手 … · matlabプロジェクトによる簡単配布・作業自動化 プロジェクト可視化機能による簡単解読

21

ビッグデータ活用例 – 事象の深堀り

センサ2で火災を検知 フライト軌跡の確認 燃料データの確認

1

2

3

4

燃料流出

火災センサ

燃料

Page 22: MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手 … · matlabプロジェクトによる簡単配布・作業自動化 プロジェクト可視化機能による簡単解読

22

ビッグデータ活用例 – 事象の深堀り

センサ2で火災を検知

1

2

3

4

振動データの確認 振動確率分布と比較

• 火災の原因をデータから検討• 再発防止に役立つ知見を得る

振動による燃料流出が火災の原因か?

火災センサ

振動

Page 23: MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手 … · matlabプロジェクトによる簡単配布・作業自動化 プロジェクト可視化機能による簡単解読

23

①アドホックな解析 ②ビッグデータ解析 ③プロジェクト化

• データ読み込み• データアクセス• 前処理• 可視化

• ビッグデータの読み込み

• ビッグデータの解析・深堀り

• プロジェクトの作成・共有

• 大人数で解析

Page 24: MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手 … · matlabプロジェクトによる簡単配布・作業自動化 プロジェクト可視化機能による簡単解読

24

プロジェクト化

必要なファイルをまとめてプロジェクト化 → 簡単配布・作業自動化

Page 25: MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手 … · matlabプロジェクトによる簡単配布・作業自動化 プロジェクト可視化機能による簡単解読

25

プロジェクトによる業務一元化 お役立ち機能

ファイルの依存関係を可視化 → プロジェクトの簡単解読

Page 26: MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手 … · matlabプロジェクトによる簡単配布・作業自動化 プロジェクト可視化機能による簡単解読

26

プロジェクトによる業務一元化 お役立ち機能

ソース管理 → 複数人での作業支援・バージョン管理・差分表示

trunk

Check-inCheck-out

Subversion (SVN)Gitとの連携

Page 27: MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手 … · matlabプロジェクトによる簡単配布・作業自動化 プロジェクト可視化機能による簡単解読

27

検証済みツールとして共有

ツールボックス ツール説明書

Page 28: MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手 … · matlabプロジェクトによる簡単配布・作業自動化 プロジェクト可視化機能による簡単解読

28

ポイントまとめ

MATLABプロジェクトによる簡単配布・作業自動化

プロジェクト可視化機能による簡単解読

ソース管理機能連携により複数人で作業が可能

ツールボックス化し配布・さらなる協業を加速

Page 29: MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手 … · matlabプロジェクトによる簡単配布・作業自動化 プロジェクト可視化機能による簡単解読

29

①アドホックな解析 ②ビッグデータ解析 ③プロジェクト化

• データ読み込み• データアクセス• 前処理• 可視化

• ビッグデータの読み込み

• ビッグデータの解析・深堀り

• プロジェクトの作成・共有

• 大人数で解析

Page 30: MATLAB®×データサイエンス ~最新機能紹介と業務一元化の手 … · matlabプロジェクトによる簡単配布・作業自動化 プロジェクト可視化機能による簡単解読

30

まとめ

▪ データ解析のカギを握る前処理 MATLABで効率良く実施可能

▪ MATLABは大容量データ解析に対応、ビッグデータ活用の橋渡し

▪ プロジェクト化により組織横断プロジェクトへ拡大

A3 信号処理アプリケーションのためのAI技術

Time:15:30–16:00

本日ご紹介したツール

- MATLAB