c14 greenplum database technology - large scale-out and next generation analytics platform - by...

1 © Copyright 2013 EMC Corporation. All rights reserved.

Greenplum Database Technology

2013年5月29日

EMCジャパン株式会社

グリーンプラム事業本部

松下正之

- Large Scale-out and Next generation Analytics platform -


本日のアジェンダ

• はじめに

• Greenplum Database 3つの特長 – 拡張性: スケールアウト – 高速性: 大規模並列分散処理(MPP) – コストパフォーマンス: 柔軟・選択自由な実装環境

• Greenplum Database 高速化技術

• 適用領域と事例

• おわりに


はじめに


GREENPLUM概要 • 2003年創業

本社サンマテオ、カリフォルニア CEO: Bill Cook President and Co-Founder: Scott Yara CTO and Co-Founder: Luke Lonergan

• 2006年 Greenplum DB出荷 • 2008年ペタバイトのデータウェアハウスを実現 • 2010年7月 EMC社によるM&A発表 • 2010年9月 EMCジャパン（株）グリーンプラム事業本部開設 • 2010年10月 DCA (DWHアプライアンス) リリース • 2011年4月 SAS / EMC Greenplum 提携発表 • 2011年5月 Greenplum MR (Hadoop製品) リリース • 2011年12月 UAP (Unified Analytics Platform) 構想発表 • 2012年3月 Pivotal Lab (アジャイル開発) 買収 • 2012年3月 Greenplum Chorusリリース • 2012年5月 Analytics Workbench - Data Scientistサービス提供開始 • 主要顧客：グローバルで700社以上 • 営業拠点：グローバル15拠点 (米国、欧州およびアジア・パシフィック) • 開発拠点：米国、中国、イスラエル


Greenplum DB (DB/DCA)

高速MPP DB

汎用HW利用可能 SWおよびAppliance

Greenplum Hadoop (MR/HD)

エンタープライズ

向けHadoop DBとの連携

Greenplum 関連Solution

(Chorus, Data Scientist, SAS

Alliance)

GREENPLUMの製品ポートフォリオ


アナリティクス時代をリードするソリューション

DB ログ

経営者分析専門家一般社員 Webアプリケーション

CRM SFA ・・・ BIツール

Webコンテンツ音声ファイル

映像ファイル

画像ファイル

・・・

Greenplum DB

Greenplum MR/Pivotal HD


Greenplum DB 3つの特長


• サーバノード数、CPU数を問わない容量課金のライセンス体系(ソフトウェア版) • 運用負荷を軽減するチューニングレス思想 • 導入・運用コストを削減するアプラインス製品 • テスト・開発環境については仮想環境の利用も可能

• MPP型DBによる超高速の並列処理性能 • データロード、処理、アンロードまでを完全に並列で実行 • 標準搭載の豊富な高速化機能(データ圧縮、カラムストア、マルチレベルパーティション etc..)

Greenplum DB ３つの特長

• 必要な時に最適なシステム投資を実現するスケールアウトアーキテクチャ • サーバノード追加により性能もリニアに向上 • クラウド、仮想化、コモディティサーバ、アプライアンスと豊富な実装環境に対応

拡張性

高速性

コストパフォーマンス


スケールアウトテクノロジー

スケールアップスケールアウト

性能性能

初期リプレース１リプレース２初期追加１追加２

拡張性


スケールアウトを支えるテクノロジー

低レイテンシ＆広帯域なインタコネクト

CPU性能の高いエントリレベルサーバ

大容量＆高性能のストレージ性能

パラレルコンピューティングの

進化

HPC、グリッドコンピューティング、マルチプロセッシング等の技術の成熟

高密度化によるストライプ数の増加と

性能の向上

ネットワークスイッチのコモディティ化と

性能向上

1990年初頭 100Mbpsスイッチ 1990年代末 1Gbpsスイッチ 2000年半ば 10Gbsスイッチ

ムーアの法則に沿ったコモディティサーバの CPUの性能向上と低価格化

拡張性


CPU

メモリ

ディスクI/Oを分散して処理を高速化

ディスク

CPU

メモリ

ディスク

CPU

メモリ

ディスク

CPU

メモリ

ディスク

CPU

メモリ

ディスク

CPUを使いきれない CPUを

使いきれる CPUを



使いきれる

ディスクI/Oがボトルネックとなり、単一ノードでは処理の多重度に限界がある

並列処理することで、I/Oが分散され、 HW本来の性能を使い切ることができる

従来型RDB 使用率

使用率

並列分散処理型DB 使用率

使用率

使用率

高速性


Greenplum最大の特長：選択出来る実装環境

仮想化クラウド

コモディティH/W Greenplum DCA

• GPDCAでの導入 – 最適(最速)環境

– サポート負荷軽減

• 仮想化S/W上で稼働可能 – 仮想インフラ上での開発環境

• コモディティH/Wでの導入 – 柔軟な拡張性

– お客様要件に合わせた機器構成

• パブリッククラウド上での稼働 – Amazon VPC等を使ったトレーニング

・検証環境の構築

アプライアンス構成ソフトウェア構成

コストパフォーマンス


Greenplum Database アーキテクチャ MPP (Massively Parallel Processing) シェアードナッシングアーキテクチャ

インタコネクトバス

... ...

マスターサーバ x 2台

クエリプランニング＆ディスパッチ

セグメントサーバ x 2台〜クエリの実行＆データの格納

SQL

外部ソースローディング、ストリーミング等

SQLを解析し、セグメントサーバのための最適な並列実行プランを

作成

パラレルデータフローエンジンが

ハードサーバ性能を最大活用

gNetソフトウェアインタコネクトによる

セグメント間の効率的なデータ送受信

パラレルロードによる高速ローディング

Greenplum DCAは、マスターサーバ、インタコネクトバス、セグメントサーバ、そして、これらを管理するための管理スイッチから構成されています。


世界最高速のデータロード性能

0

5

10

15

20

25

30

35

1ラック 2ラック 3ラック

Greenplum

A社

B社

TB/時間


他社処理方式とGreenplum方式の比較

パラレルデータフローエンジン




セグメントサーバ

ローディングプロセス

マスタサーバ

データソースデータソース

セグメントサーバ

他社


Greenplum DB 高速化技術


Greenplum DB 高速化技術カラムストア圧縮

リソースキュー(ワークロード管理) パーティション


GreenplumDB機能

2種類のデータストア方式(Greenplum Polymorphic Data Storage)

• ローストア – 従来のRDBMSによるデータ格納方式 – 行単位のデータレコードアクセスに特化

• カラムストア – 特定カラムに対する集約処理を高速化 – 他カラムに対する読み込みを排除することによる、IO負荷の軽減 – 圧縮によるデータアクセススループットの向上とDB容量の拡大

列A 列B 列C 列D 列A 列B 列C 列D

読み出す必要のないカラムの値もアクセス。余分なIO負荷が発生

特定カラムの値のみアクセスするため、

IO負荷を劇的に軽減

従来からあるローストアのテーブルカラムストアのテーブル


一つのテーブル中においてのローストアとカラムストアの組み合わせ例

新しいデータ古いデータ

カラムストア・圧縮率重視の圧縮で格納

最近のデータは行単位での参照・更新アクセスが多い

ローストア・性能重視の圧縮で格納

1つのテーブルとしてユーザからは透過的に見える

期間やデータ使用目的・頻度などにより、格納方法を変更して、効率的に使用可能

2008年 2009年 2010年 2011年 2012年

過去のデータは列単位での集計アクセスが多い


GreenplumDB機能

圧縮によるIO負荷の軽減 • CPUパワーによるデータ解凍が実現する高IOスループット

• 格納可能容量の拡大

– 同一データ型での圧縮による高い効率性

– 非圧縮比３〜５倍の格納効率

• カラムストア使用時、カラム方向のより高圧縮の格納が可能

CPUによる圧縮データの解凍が実現する高いIOスループット

カラム単位のデータ圧縮による高い格納

効率.。3〜5倍

データの非圧縮格納データの圧縮格納

IOスループットがストレージ性能に依存


GreenplumDB機能

ワークロード管理 - リソースキュー - 複数の利用者・バッチ処理・システムでの同時利用のための機能

? ? ? ? ? ? ? ?

?

?

?

? ? ? ? ? ? ? ?

?

?

?

? ? ? ? ? ? ? ?

?

?

?

? ? ? ? ? ? ? ?

? ? ? ? ? ? ? ?

リソースキュー間でCPUやメモリ割当をプライオリティ付け

リソースキュー間でCPUやメモリ割当をプライオリティ付け

同時に処理できるクエリ数か、コストの総和をリソースキュー毎に設定

エグゼクティブキュー

レポートキュー

アナリストグキュー

アナリスト

レポート作成担当者

マネジメント (CxO)

リソースキュー • 複数の利用者やバッチ、システムの同時利用 • クエリ処理の優先順位付けを行うことが可能４つの観点から優先順位付けを行う１．同時に処理されるクエリのコストの総和クエリ毎のコストを確認複数クエリのコストの総和が指定した閾値を上回ることのないよう制御 ※コスト：クエリ処理に使用する必要リソース量２．同時に処理されるクエリ数処理中のクエリ数を確認処理するクエリの数が指定した閾値を上回ることがないよう制御３．CPUリソースの優先度リソースキュー間でCPUリソースをどのように割り当てるかを制御４．メモリの優先度リソースキュー間でメモリをどのように割り当てるかを制御実行開始待ちのクエリ実行中のクエリ


? ? ? ? ?

? ? ? ? ? ?

?

?

?

? ? ? ? ? ? ? ?

?

?

?

? ? ? ?

? ? ? ?

実行開始待ちのクエリ実行中のクエリ

優先度: HIGH

優先度: LOW

優先度: Medium

リソースキューのしくみ XXXロール

YYYロール

ZZZロール

?

?

発行されたクエリ

? ? ? ? ? ? ? ?

? ? ? ?

AAAキューロールとリソースキューの関連付け

ハードウェアリソースの割当 (イメージとしては直径の大きさ)

同時に実行出来るクエリ数 (イメージとしては円柱の長さ)

BBBキュー

CCCキュー

相対的に優先度を設定


ミラーセグメント機能

P1 P2 P3 M6 M8 M10

P4 P5 P6 M1 M9 M11

P7 P8 P9 M2 M4 M12

P10 P11 P12 M3 M5 M7

Segment Server 1

Segment Server 2

Segment Server 3

Segment Server 4

通常時のアクティブなセグメントインスタンス

“Spread” ミラー方式

P1 P2 P3 M10

P4 P5 P6 M1

M11

P7 P8 P9

M2

M4

M12

P10 P11 P12

M3

M5

M7

“Grouped” ミラー方式

Segment Server 1が物理障害時にアクティブなセグメントインスタンス

M6

M9 M8


豊富な分析機能

• BIツール • SAS • MicroStrategy • Business Objects(SAP) • Cognos/SPSS(IBM) • JasperSoft • Pentaho • JDBC/ODBC接続可能ツール全般

• 言語 • PL/pgSQL • PL/Perl • PL/Python • PL/Java • PL/R

• In-DB分析 • 重回帰分析 • ナイーブベイズ • サポートベクトル、マトリクス • ウィンドウファンクション, OLAP • PL/R等

• 統計解析用ライブラリ MAD Lib • ロジスティック回帰分析 • ランダムフォレスト • ディシジョンツリー • K平均クラスタリング • NLTK(自然言語ツールキット)等

アプリケーション・言語との連携インデータベース分析機能

GreenplumDBでは従来からあるBI関連アプリケーションとの連携に加え、GreenplumDB自身での分析機能の強化を行っています。 In-DB分析は GreenplumDBが標準で備えている分析機能です。MAD Libはオープンソースコミュニティーにて開発されている数理統計解析用ライブラリ群です。GreenplumDB自身に標準に備わっていませんが、MAD Libを追加することでこ数理統計解析のさらなる高速化が可能となります。


適用領域と事例


GreenplumDB適用領域

データベース機能別役割(1/2)

機能 OLTP処理参照系処理の高速化(キャッシュ)

バッチ処理データ

ウェアハウス

主なユーザー •顧客 •顧客窓口

•顧客 •顧客窓口 •アナリスト

- •マネジメント •アナリスト

サービス

•オンライン・トランザクション •オンライン参照

•オンライン参照 •レポーティング(定型帳票/定型検索)

•集計 •データマート作成

•レポーティング •データマイニング/非定型検索

アクセス・プロファイル

•複数ユーザによる頻繁な検索と更新

•複数ユーザによる頻繁な検索

•バッチプロセスによるデータの集計とテーブル作成

•複数ユーザによる頻繁な検索と分析

ストアデータ最新のデータ直近3ヶ月のデー

タ集計対象データ

過去3年間の長期データ

候補DB Oracle

DB2 GreenplumDB GreenplumDB GreenplumDB


OLTP処理参照系処理の高速化(キャッシュ) バッチ処理

データウェアハウス

トランザクション

キャッシュ


バッチ

データウェアハウス





GreenplumDB適用領域

データベース機能別役割(2/2)


導入事例：国内大手製造業者様 (1/3)

• システム概要 • ORACLE/DBをDBMSとして採用したCRMシステム。

• 社内、関連会社に偏在する「顧客接点情報」を統合・一元管理する事で「戦略立案」、「営業施策」、「KPI実績把握」を支援

• １００項目ほどの検索条件をエンドユーザ（全国の営業、本社企画立案部門、）が自由に設定し検索できる機能を提供。

• システムの課題 • 性能：データローディング、検索に長時間かかりエンドユーザーの使用に耐えない。

• コスト：製品コスト、運用コストともに高コスト

• 要員：DBエンジニアの確保が困難

• 対応策 • DWH製品を導入し、ORACLE/DBのスキーマをそのままDWH/DBに移行し、ユーザはDWH/DBに対して

検索。謂わばORACLE/DBのキャッシュとしてDWH/DBを活用。

• 製品選定理由 • 性能(レスポンス&スループット),初期コスト,拡張コスト,運用コスト、スケーラビリティ全ての点で競合他

社(４社)に比べてGreenplumが圧倒的な優位性をベンチマークテストで実証

オラクルスキーマを変更無しに移行

バッチ処理20倍高速化非定型検索28倍高速化定型検索13倍高速化

ロード性能103倍高速化

バッチ処理高速化オラクル負荷のオフロード



BIツール (非定型クエリ用) OracleDB

ソース

ローディング/OLTP

• BIツールがOracleへクエリを実行 • データソースからのデータはOracleDBへロード

ソースソース

GreenplumDB導入前システム




GPDB

BIツール (非定型クエリ用)

ソース

ローディング/OLTP

• BIツールがGreenplumへクエリを実行 • データの変換はされず、OracleとGreenplumのデータは、1:1の関係に

ある • Oracle - Greenplum間のデータ連携をトランザクション毎に実施

ソースソース

トランザクション毎のデータ連携

OracleDB

GreenplumDB導入後システム(現在〜今後)

よりシームレスなデータ連携へ (連携ツール選定中)



優れたコストパフォーマンスと柔軟な拡張性により、SQL Serverで出来なかった処理を可能に

導入事例: トライアルカンパニー様

用途 • フェーズ1: 店舗展開や販売管理、調達管理などの戦略立案を行う際の売上レポート作成・データ分析 • フェーズ2: バスケット分析などの複雑なデータ分析

採用理由 • スケールアウト型ソリューション • コモディティ・テクノロジーの採用 • コストパフォーマンスの高さ

効果 • 戦略的データ活用基盤として、将来の店舗拡大によるデータ増加に随時対応できる拡張性をもった • GreenplumDB導入によるシステム能力の劇的な向上により、従来のSQL Serverで30分以上かかっていた集計処理（1800万から274万抽出）のレスポンスを約250倍の性能向上となる7秒で達成 • 既存処理時間の大幅な削減により、GISデータを取り込んだ出店政策支援を実現


おわりに


アナリティクス時代のIT基盤

• 企業の保有データ量は増加し、既存のインフラでは追いつかない

• 社外に存在する、「ビジネスに活用できるデータ」はそれ以上に増加

• キャパシティ・プランニングが困難・不可能

スケールアップから

スケールアウトへの

転換が必要

• スモール・スタートが可能

• 柔軟な拡張

データ増加が予測できない時代に最適なアーキテクチャの選択

従来型インフラでは対応が困難アーキテクチャの転換


アナリティクス時代のIT基盤

• 企業の保有データ量は増加し、既存のインフラでは追いつかない

• 社外に存在する、「ビジネスに活用できるデータ」はそれ以上に増加

• キャパシティ・プランニングが困難・不可能

データ増加が予測できない時代に最適なアーキテクチャの選択

従来型インフラでは対応が困難アーキテクチャの転換

ビッグデータ分析プラットフォーム

スケールアウト型超並列分散処理DB


アナリティクス時代のIT基盤に求められるテクノロジー・キーワード • スケールアウト・アーキテクチャ

– データが増加しても処理時間増加しないアーキテクチャ – 分析の結果が成功するとより多く（量、種類）のデータで分析するニーズが出てくる – ビッグ・データは「量を質」に変化させる試みでもある

• スモール・スタート可能な実装 – ROIは事前には想定困難 – プロジェクト初期段階はデータも少ない – プロジェクトの進展と共にデータが増加する

• In DB Analytics – 大量データを高速に処理する必要性 – スピードが価値を生む – 非定形処理を何度も繰り返す（イテレーションの重要性）

• オープンなアーキテクチャ – 今後登場してくる様々な新技術を迅速に適用できる事が重要 – クラウド対応

• 機械学習テクノロジー( Machine Learning )


今後のGreenplum関連のセッション

• 5/30(木) Session5: 17:00 - 17:45 – EMCジャパン株式会社中村完 – EMC Big Data Solution by Greenplum - Integrated analytic platform for the coming cloud era -

• 5/31(金) Session3: 15:00 - 15:45 – ヴイエムウェア株式会社市村友寛 – Pivotal Data Management Solution by EMC/VMware - Making Big, Fast Data scale for your business -

c14 greenplum database technology - large scale-out and next generation analytics platform - by...

Business

segment server

rights reserved

greenplum

greenplum

cpu cpu

greenplum

greenplumdb

oracledb