japan oss form 2018 ビッグデータ/iotデータベース griddbossforum.jp/jossfiles/bd2.pdf ·...

45
Japan OSS Form 2018 ビッグデータ / IoTデータベース GridDB 2018227[email protected] [email protected] 栗田 雅芳 © 2018 Toshiba Digital Solutions Corporation

Upload: others

Post on 29-May-2020

1 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

Japan OSS Form 2018

ビッグデータ/IoTデータベース

GridDB

2018年2月27日

[email protected]

[email protected]

栗田 雅芳

© 2018 Toshiba Digital Solutions Corporation

Page 2: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

➊なぜ、データベースを開発したのか?

➋なぜ、GridDBなのか?

➌なぜ、オープンソースにしたのか?

➍まとめ

Page 3: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感
Page 4: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

なぜ、データベースを

開発したのか?

Page 5: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

長年にわたって時系列データを取り扱う

ミッションクリティカルなシステムを提供

Page 6: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

データベース要件

☑分、秒、さらにそれ以下の周期で発生

する膨大なデータを速やかに扱うこと

☑長期間に渡るデータの保持とそれに

伴う性能の劣化がないこと

☑データの欠損や参照データの矛盾なく

データの一貫性や整合性を保つこと

Page 7: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

この要件を満たす

データベース

が存在しない

Page 8: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

RDB 性能と拡張性が低い

HDFS 即時性と信頼性が低い

NoSQL 性能と信頼性が低い

Page 9: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

じゃあ、自分たちで

開発しましょう

2011年~開発2013年~商品化

Page 10: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感
Page 11: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

なぜ、GridDBなのか?

Page 12: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

GridDBの4つの特長

とそれを実現する技術

Page 13: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

高い処理能力High Performance

柔軟な拡張性High Scalability

強い信頼感High Reliability

リアルタイム性重視、

遅延なく多様なデータ

な登録・更新・検索

容量や性能に応じて簡

単に拡張・縮退

障害が発生しても無停

止運用の実現

IoT指向モデルIoT Oriented

IoT指向のデータモデル

でIoTに必要な機能の実

4つの特長

Page 14: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

IoT指向モデル

独自のキーコンテナ型

データモデルの採用

Page 15: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

NoSQLのデータモデル

キー1

キー2

キー3

キー4

キーバリュー型 カラム指向型 ドキュメント指向型 グラフ型

バリュー

キー1

バリュー

キー2 キー1

JSON

キー2

JSON

バリュー

バリュー

キー1

バリュー

バリュー

バリュー

バリュー

キー2

バリュー

バリュー

バリュー

バリュー

キー3

バリュー

Page 16: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

GridDB独自のキーコンテナ型

キー1

バリュ- バリュ- バリュ-

バリュ- バリュ- バリュ-

バリュ- バリュ- バリュ-

バリュ- バリュ- バリュ-

バリュ- バリュ- バリュ-

バリュ- バリュ- バリュ-

コンテナ

キー2

バリュ- バリュ- バリュ-

バリュ- バリュ- バリュ-

バリュ- バリュ- バリュ-

バリュ- バリュ- バリュ-

バリュ- バリュ- バリュ-

バリュ- バリュ- バリュ-

コンテナ

RDBのテーブルに似た概念

スキーマ定義

インデックス設定

ロウ単位で

トランザクション操作

コンテナ単位でACID保障

Page 17: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

コンテナの種類

コレクションコンテナ

ID 名称 仕様

equip001 変圧器1 xxx変圧器

equip002 変圧器2 yyy変圧器

equip003 20.11 xxx遮断機

………… …………… ……………

機器A

時系列コンテナ

時刻 温度 電圧 照度

10:21:20:01 21.11 71.01 1001

10:21:20:02 20.12 71.01 1001

10:21:20:03 20.11 70.08 1000

……………… ……… ……… ………

センサー1

Page 18: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

高い処理能力

CPU/メモリの速度を損なわない

インメモリーアーキテクチャ

Page 19: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

イベント駆動エンジン各処理タスクを各スレッド (CPUコア)に割当て

オーバーヘッドを排除し高速化

Page 20: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

柔軟な拡張性 高い信頼性

独自開発した

自律データ再配置技術 (ADDA)

Page 21: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

自律データ再配置技術(ADDA)

Page 22: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

Cassandraとの性能比較

Page 23: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

Read 50% + Write 50%

約2.5倍

Read 95% + Write 5%

約8倍高

性能

性能

Th

rou

gh

pu

t (o

pera

tio

ns

/ se

c)

Th

rou

gh

pu

t (o

pera

tio

ns

/ se

c)

出典:GridDB and Cassandra Performance and Scalability.- A YCSB Performance Comparison on Microsoft Azure. –

Fixstars Corporation

Page 24: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

GridDB

Cassandra

性能

出典:GridDB and Cassandra Performance and Scalability.- A YCSB Performance Comparison on Microsoft Azure. –

Fixstars Corporation

Page 25: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

導入事例

Page 26: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

フランスリヨン太陽光発電監視・診断システム発電量の遠隔監視、発電パネルの性能劣化を診断

クラウド BEMS (ビルエネルギー管理システム)ビルに設置された各種メータの情報の収集、蓄積、分析

石巻市スマートコミュニティプロジェクト地域全体のエネルギーのメータ情報の収集、蓄積、分析

電力会社低圧託送業務システムスマートメータから収集される電力使用量を集計し、需要量と発電量のバランスを調整

神戸製鋼所産業用コンプレッサ稼働監視システムグローバルに販売した産業用機器をクラウドを利用して稼働監視

デンソー ファクトリーIoT工場の生産性向上。世界130工場に展開予定

DENSO International America 次世代車両管理システム車両の各種センサーデータを用いる車両管理システムのデータベースの技術的なチャレンジのPOC・

・・・・

Page 27: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

すでに高い信頼性・可用性が

求められているシステム

で使われています

Page 28: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感
Page 29: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

詳細は

デベロッパーサイト

https://developers.griddb.net

をご覧ください

Page 30: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感
Page 31: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

なぜ、オープンソース

にしたのか?

Page 32: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

1. ビッグデータの技術革新はオープンソースがリード

2. 世の中の技術革新に共に貢献

3. 互いの強みをうまく集結させたエコシステムを構築

Page 33: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

4. マスコット

Page 34: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

ソースコード公開

https://github.com/griddb/

2016年2月~

Page 35: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感
Page 36: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

連携モジュールを開発・公開

Page 37: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感
Page 38: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

オープンソースコミュニティ

との連携

Page 39: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感
Page 40: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感
Page 41: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

高い処理能力High Performance

柔軟な拡張性High Scalability

強い信頼感High Reliability

リアルタイム性重視、

遅延なく多様なデータ

な登録・更新・検索

容量や性能に応じて簡

単に拡張・縮退

障害が発生しても無停

止運用の実現

IoT指向モデルIoT Oriented

IoT指向のデータモデル

でIoTに必要な機能の実

4つの特長

Page 42: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

みなさまと

オープンソースが

生み出すイノベーション

を実践し育てていく

Page 43: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

お問合せ:[email protected]

Page 44: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感

ご清聴ありがとうございました

Page 45: Japan OSS Form 2018 ビッグデータ/IoTデータベース GridDBossforum.jp/jossfiles/BD2.pdf · 高い処理能力 High Performance 柔軟な拡張性 High Scalability 強い信頼感