fluentd + zabbix + grafana で 監視システムを構築してみよう! · 2018-02-23 ·...

16
Copyright © 2016 SRA OSS, Inc. Japan All rights reserved. 1 Fluentd + Zabbix + Grafana 監視システムを構築してみよう! SRA OSS, Inc. 日本支社 マーケティング部 20161118

Upload: others

Post on 20-May-2020

48 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: Fluentd + Zabbix + Grafana で 監視システムを構築してみよう! · 2018-02-23 · 2012年から Zabbixパートナーとしてサポートを提供 今年、24時間

Copyright © 2016 SRA OSS, Inc. Japan All rights reserved. 1

Fluentd + Zabbix + Grafana で監視システムを構築してみよう!

SRA OSS, Inc. 日本支社

マーケティング部

2016年11月18日

Page 2: Fluentd + Zabbix + Grafana で 監視システムを構築してみよう! · 2018-02-23 · 2012年から Zabbixパートナーとしてサポートを提供 今年、24時間

アジェンダ

• Fluentdについて

• Grafanaとは

• ユースケース

• 弊社サービスの紹介

• Zabbix応用/活用事例の紹介

2Copyright © 2016 SRA OSS, Inc. Japan All rights reserved.

Page 3: Fluentd + Zabbix + Grafana で 監視システムを構築してみよう! · 2018-02-23 · 2012年から Zabbixパートナーとしてサポートを提供 今年、24時間

Fluentd について

Copyright © 2016 SRA OSS, Inc. Japan All rights reserved. 3

• ログを取得して転送してくれるミドルウェア

• ログの加工や構造化ができる

• 様々なデータベースにデータを保存できる

Page 4: Fluentd + Zabbix + Grafana で 監視システムを構築してみよう! · 2018-02-23 · 2012年から Zabbixパートナーとしてサポートを提供 今年、24時間

イメージ

Copyright © 2016 SRA OSS, Inc. Japan All rights reserved. 4

アプリケーションのログWebサーバのログデータベースのログSysloghttp入力Unixドメインソケット入力コマンド実行結果

DB

ファイル

データ入力:Input データ出力:Output

コマンドフィルタ・バッファ・ルーティング

Page 5: Fluentd + Zabbix + Grafana で 監視システムを構築してみよう! · 2018-02-23 · 2012年から Zabbixパートナーとしてサポートを提供 今年、24時間

物理構成イメージ

Copyright © 2016 SRA OSS, Inc. Japan All rights reserved. 5

データ入力

• Elasticsearch• MongoDB• Hadoop• AWS• MySQL• PostgreSQL• Zabbix

データ出力

データ転送

データ集約(aggregator)syslog

データ転送元とデータ集約のFluentd は同じプログラムで設定が異なるだけ

Page 6: Fluentd + Zabbix + Grafana で 監視システムを構築してみよう! · 2018-02-23 · 2012年から Zabbixパートナーとしてサポートを提供 今年、24時間

FluentdとZabbixを一緒に

Copyright © 2016 SRA OSS, Inc. Japan All rights reserved. 6

• Fluentdで収集したデータから問題があればZabbixへ通知

• Zabbix機能で実現が難しいデータ収集をFluentdで収集

•複数行ログ

•加工が必要なログ

•外部システムとの連携(AWS CloudWatchなど)

Page 7: Fluentd + Zabbix + Grafana で 監視システムを構築してみよう! · 2018-02-23 · 2012年から Zabbixパートナーとしてサポートを提供 今年、24時間

ツールを使い分ける ?

Copyright © 2016 SRA OSS, Inc. Japan All rights reserved. 7

せっかくデータを収集したが、参照が面倒。。。

そこで

Page 8: Fluentd + Zabbix + Grafana で 監視システムを構築してみよう! · 2018-02-23 · 2012年から Zabbixパートナーとしてサポートを提供 今年、24時間

8Copyright © 2016 SRA OSS, Inc. Japan All rights reserved.

Grafanaとは

複数の色々な DB からデータを取得してデータの可視化ができるOSSダッシュボード

ライセンス Apache License V2

Page 9: Fluentd + Zabbix + Grafana で 監視システムを構築してみよう! · 2018-02-23 · 2012年から Zabbixパートナーとしてサポートを提供 今年、24時間

基本的な特徴 データソース

グラフ描画に必要なデータは、複数の外部データベースからデータを取得することができる

  → データソースと呼ばれる

対応データソース

✓  Graphite ✓ InfluxDB

✓ Elasticsearch ✓ OpenTSDB

✓ Amazon Cloud Watch ✓ Zabbix

✓ Bosun ✓ Prometheos

✓ Heroic ✓ KariosDB など

9Copyright © 2016 SRA OSS, Inc. Japan All rights reserved.

Page 10: Fluentd + Zabbix + Grafana で 監視システムを構築してみよう! · 2018-02-23 · 2012年から Zabbixパートナーとしてサポートを提供 今年、24時間

• 線グラフ、棒グラフ、積み上げグラフ y左, y右軸サポート、negative-Y軸、単位(センサー系も豊富)

• World map• Table(表)

• Singlestat +ゲージ表示 +SparkLine表示

• text html markdown• Pieチャート

10Copyright © 2016 SRA OSS, Inc. Japan All rights reserved.

基本的な特徴 描画機能

Page 11: Fluentd + Zabbix + Grafana で 監視システムを構築してみよう! · 2018-02-23 · 2012年から Zabbixパートナーとしてサポートを提供 今年、24時間

ユースケース

11Copyright © 2016 SRA OSS, Inc. Japan All rights reserved.

オンプレ

クラウド

Zabbix監視画面の統合

複数の Zabbixサーバの監視画面も統合可能

Page 12: Fluentd + Zabbix + Grafana で 監視システムを構築してみよう! · 2018-02-23 · 2012年から Zabbixパートナーとしてサポートを提供 今年、24時間

Zabbix/Fluentd/Grafana関連の弊社サービス紹介

●Zabbix構築/サポート●2012年から Zabbixパートナーとしてサポートを提供●今年、24時間 365日(日本語対応)のサポート提供開始

●Fluentd エンタープライズサポート●2015年から開発元(トレジャーデータ社) と協業でのサポート提供開始

●Grafana のプラグイン開発を複数件実施●現在、取り込んでもらうように、コミュニティに打診中●サポートも提供可能

Copyright © 2016 SRA OSS, Inc. Japan All rights reserved. 12

Page 13: Fluentd + Zabbix + Grafana で 監視システムを構築してみよう! · 2018-02-23 · 2012年から Zabbixパートナーとしてサポートを提供 今年、24時間

Zabbix応用/活用事例1

●PC利用状況を表示する座席表を作成

● 要望:各社員が利用する PC の利用(負荷)状況が一目で    わかる座席表をブラウザから表示したい

● Grafana を利用せずに PHP で画面開発

● 各PC の CPU/ユーザログイン情報などを Zabbix で収集

● PHP / Zabbix API で、各PC の利用状況を取得して座席表のレイアウトで表示

● DB や LDAP のデータも表示することが可能

Copyright © 2016 SRA OSS, Inc. Japan All rights reserved. 13

Page 14: Fluentd + Zabbix + Grafana で 監視システムを構築してみよう! · 2018-02-23 · 2012年から Zabbixパートナーとしてサポートを提供 今年、24時間

Copyright © 2016 SRA OSS, Inc. Japan All rights reserved. 14

↓クリックすると、ログイン

  ユーザ情報詳細を表示

Page 15: Fluentd + Zabbix + Grafana で 監視システムを構築してみよう! · 2018-02-23 · 2012年から Zabbixパートナーとしてサポートを提供 今年、24時間

Zabbix応用/活用事例2

●Zabbix監視モジュール設計

● 要望:監視対象サーバ上のログデータを元に、統計モデルを    作成し、そのモデルを元に閾値を自動計算して異常    判定を行いたい

● 監視データ登録デーモンプログラムの実装● ログファイルを監視し、監視データと統計モデルに

よる閾値判定結果を zabbix_sender を使ってZabbix サーバに送る

Copyright © 2016 SRA OSS, Inc. Japan All rights reserved. 15

Page 16: Fluentd + Zabbix + Grafana で 監視システムを構築してみよう! · 2018-02-23 · 2012年から Zabbixパートナーとしてサポートを提供 今年、24時間

Copyright © 2016 SRA OSS, Inc. Japan All rights reserved.

Zabbix Server

Zabbix Server

Agentサーバ

監視データ登録デーモン

・監視データの取得・作成済み統計モデルによる判定処理・zabbix_sender経由でデータ送信

監視データ登録デーモン

・監視データの取得・作成済み統計モデルによる判定処理・zabbix_sender経由でデータ送信

zabbix_senderzabbix_sender

監視データ判定結果 設定ファイル設定ファイル

zabbix_sender用データ

zabbix_sender用データ

弊社実装部分

16

設計の概要

統計モデル統計モデル

ログデータログデータ