DevOpsライフサイクル全体の分析で見えてくる世界

村田達宣 | Senior Sales Engineer

June 8 | Tokyo

#SplunkLive

DevOps 環境をとりまく最新ログ管理

© 2018 SPLUNK INC.

弊社のプレゼンテーションには、弊社の将来の事象または予想される業績に関する将来予測記述を含むことがあり

ます。当該記述は、現在弊社が知っている要因に基づく弊社の現在の予測および推定を反映するものであることと、

実際の事象または結果が著しく異なる可能性があることをご了承ください。実際の結果が弊社の将来予測記述に含

まれるものとは異なる場合、その重要な要因については、SEC を含む弊社の文書をお調べください。

このプレゼンテーションに含まれる将来予測記述は、プレゼンテーション実施日時において述べられたものです。プレ

ゼンテーション実施後に見直しが行われた場合、このプレゼンテーションに現在のまたは正確な情報が含まれないこ

とがあります。弊社は、弊社が述べることがある将来予測記述を更新する義務を負いません。また、弊社のロード

マップに関する情報で、弊社の一般的な製品方針の概要が示されていますが、この情報は予告なしにいつでも変更

されることがあります。これはあくまで参照用であって、契約またはその他の約定に組み込まれないものとします。

Splunkは、記述されている特徴または機能を開発する義務も、かかる特徴または機能を将来のリリースに含める義

務も負いません。

Splunk、Splunk>、Listen to Your Data、The Engine for Machine Data、Splunk Cloud、Splunk LightおよびSPLは、Splunk Inc.の米国およびその他の国における商標または

登録商標です。他のすべてのブランド名、製品名、もしくは商標は、それぞれの所有者に帰属します。© 2018 Splunk Inc.無断複写・転載を禁じます。

免責事項

このスライドは、すべてのサードパーティープレゼンテーションの際に必須です。

© 2017 SPLUNK INC.

1. DevOps に内在する可視化の問題

2. データドリブンオペレーション

3. DevOps ライフサイクル管理

4. デモ

5. ELK vs. Splunk

6. オープンソースサポート

7. コンテナ環境の運用管理とログ管理

8. デモ

9. DevOps ユースケース

10.Splunk からのご提案

アジェンダ

© 2018 SPLUNK INC.

DevOps に内在する可視化の問題

© 2018 SPLUNK INC.

DevOps

© 2018 SPLUNK INC.

開発/運用効率の改善から生まれるチャレンジ

計画 コーディング

バージョン管理

テスト/QAビルド

継続的インプリメンテーション

環境構築

自動化

ステージ リリース

継続的デリバリー

アジャイルスクラムワークアットホーム働き方改革

誰がどこで何してるの？

フィードバック

監視

開発/運用のスピードアップ

© 2018 SPLUNK INC.

高度なアプリ実行環境から生まれるチャレンジ

サーバー、ストレージ、ネットワーク

サーバー仮想化

パブリッククラウドサービス

クラウドオーケストレーション

コンテナオーケストレーション

アプリケーションフレームワーク

モバイルアプリケーション

API サービス

一気通貫でアプリのステータスが分からない

トラブルが発生した際の原因究明が困難

© 2018 SPLUNK INC.

データドリブンオペレーション

デリバリー速度の向上

コード品質の向上

ビジネスの向上

© 2018 SPLUNK INC.

1. バージョン管理システム

2. CI ツール

3. テストツール

4. CD ツール

5. コンテナ

6. コンテナオーケストレーター

7. 仮想マシン

8. ハイパーバイザー

9. クラウドオーケストレーター

10. ホストマシン

11.ストレージ

12. ネットワーク機器

13. ネットワークパケット

14. バッチジョブ

15. データベース

16. アプリケーション

17. App サーバー

18. Web サーバー

19. APM

20. シンセティックテストデータ

21. モバイルアプリ

22. Web アナリティックスデータ

データドリブンオペレーション・データソース例

© 2018 SPLUNK INC.

データドリブンオペレーション

© 2018 SPLUNK INC.

データプラットフォームの構築

SQL

1) まずスキーマ決めないと始まらない2) 次に DevOps 各コンポーネントからスキーマーに合わせてデータ抽出/変換/ロード3) データ取り込むまでに時間とお金がかかりすぎ

1) データはバカスカ置けちゃう2) でもデータを取り出して可視化するには何らかのアプリが必要3) しかもリアルタイムに取り出そうとするとかなりなアプリが必要4) データのリアルタイム可視化には時間とお金がかかりすぎ

© 2017 SPLUNK INC.

ポイント1: 生データのまま取り込み後から意味付け

意味付け結果を即確認

データの検索

検索/吟味しながらデータに意味づけ

© 2017 SPLUNK INC.

▶ 統計/機械学習

• 受け取ったデータをリアルタイムに統計/機械学習

▶ 評価

• 分析結果をリアルタイムに評価してアラートを生成

▶ ビジュアライズ

• 分析結果を分かりやすく視覚化

• チームや他グループに共有するために分析結果をレポートとして保存

• 複数のレポートをまとめたダッシュボードも作成可能

ポイント2: 分析結果をリアルタイムに評価/ビジュアライズ

Chart on any search

Choose

visualization

Save as a report

© 2017 SPLUNK INC.

ポイント3: 拡張性と可用性MapReduce アーキテクチャによるスケールアウト (500MB〜数PB/日)

© 2017 SPLUNK INC.

ポイント4: 充実したエコシステム他社ソリューションとの連携を容易にするための部品（Splunk App）を無償でご用意

API

SDKs UI

Server, Storage, Network

Virtualization, Containers

OS + Databases

Custom Applications

Business Applications

Cloud Services

Web Intelligence

Mobile Applications

Stream

Operations and Service Desks

App Performance Monitoring

DB Connect

© 2018 SPLUNK INC.

DevOps ライフサイクル管理

データに基づく DevOps の意思決定で重要となる指標

© 2018 SPLUNK INC.

文化

自動化

測定

共有

© 2018 SPLUNK INC.

DevOps における重要な指標

▶ 契約年数

▶ 満足度

▶ 解約率

▶ 利益を生むアイデア

▶ MTTR

▶ 展開時間

▶ 合格したテスト

▶ 不合格になったテスト

▶ 最高/最低

▶ スループット

▶ アップタイム

▶ ビルド時間

▶ コミット

▶ テストラン

▶ リリース

▶ バグ数

▶ サインアップ

▶ チェックアウト

▶ 売上

© 2018 SPLUNK INC.

DevOps ライフサイクルの各フェーズで分析

計画 コーディング ビルド 環境構築 ステージ リリース 監視テスト/QA

• 展開時間• 利益を生むアイデア• ROI

• プロセスの時間• チームの効率性• 予定外の仕事

• コードの量• コミットの量• リリースのスピード

• テストの量• コードカバレッジ• 例外カウント

• ビルドのスピード• 障害発生率• 手動ビルド

• パフォーマンス• レイテンシー• 拡張性

• 応答時間• アップタイム/可用性

• リソースの使用状況

• 収益• サインアップ• 顧客満足度

• 修復の時間• コードの品質• アクセス率

© 2018 SPLUNK INC.

デモ

DevOps ライフサイクル管理

© 2018 SPLUNK INC.

ELK vs. Splunk

© 2018 SPLUNK INC.

データドリブンオペレーション

比べてみましょう、ヘラジカ&ポニー

© 2018 SPLUNK INC.

主要ポイントの比較ELK ユーザーからのインタビュー集計結果

https://conf.splunk.com/files/2017/slides/splunk-open-source-build-vs-buy-workshop.pdf

ポイント ELK Splunk

データの意味付け 先付け 後付け

元データに対するストレージ容量 数倍※1 半分

データ管理 CRUD サポート Read のみ

1インスタンス当たりのデータ量 25GB/日 250GB/日※2

TCO※3 小規模で有利 大規模で有利

※1: ELK にはストレージ容量を抑えるオプションがあります。※2: サーチ要件によっては 80GB/日程度になる場合もあります。※3: Splunk の調査では 200GB/日を超えると Splunk の方が有利です。

© 2018 SPLUNK INC.

オープンソースサポート

Splunk loves Open Sources ☺

© 2018 SPLUNK INC.

Splunk Appレポジトリーsplunkbase.splunk.com & github.com/splunk

© 2018 SPLUNK INC.

最近のホットなリリースSplunk Connect for Kafka

© 2018 SPLUNK INC.

最近のホットなリリースDocker Logging Plugin / Splunk Connect for Kubernetes

© 2018 SPLUNK INC.

コンテナ環境の運用管理とログ管理

© 2018 SPLUNK INC.

ログ管理と運用監視基盤のトレンドDevOpesゲームチェンジャー

コンテナ環境のログ管理どうする？コンテナクラスターのログ管理どうする？全部パブリッククラウドに行っちゃうの？

ホスト 仮想マシン コンテナ (Docker)

クラウドオーケストレーション (OpenStack) コンテナオーケストレーション (K8s)

パブリッククラウド (AWS)

コンテナオーケストレーションに対するログ管理基盤かつ、AWS を始めとするパブリッククラウドにも対応していること

© 2018 SPLUNK INC.

Splunk Connect for Kubernetes

© 2018 SPLUNK INC.

Kubernetes ロギングオプションhttps://kubernetes.io/docs/concepts/cluster-administration/logging/

Splunk Connect for K8s

1 ノードに 1 Connector

JSONからの変換/エンコーディングに対応

Splunk

Splunk

Connect for K8s

Kubernetes 王道のロギング方式

© 2018 SPLUNK INC.

Splunk Connect for K8s によるログ

© 2018 SPLUNK INC.

Splunkのアドバンテージコンテナのメトリックとログを融合

メトリック ログ

© 2018 SPLUNK INC.

すでに Splunk使っている方に宣伝Splunk Analysis Workspace

サーチ書かなくてもメトリックをグラフ表示！K8s クラスターのリソース監視に超便利！

© 2018 SPLUNK INC.

AWSからのログ取得

Billing Reports

S3 Access Logs

CloudTrail Logs

ELB Access Logs

CloudFront Access Logs

Application Logs

Config Snapshots& History Files

Other Service Logs

SQS

RDS

Redshift

CloudTrail

SNS

S3

CloudWatchMetrics

CloudWatchLogs

EC2 SystemManager Events

ECS Container & TaskState Changes

EBS Volume & SnapshotNotifications

EMR Cluster & InstanceState Changes

Auto Scaling GroupState Changes

CodeDeployInstance & Deployment

State Changes

AWS ConsoleSign-In Events

AWS Health &Trusted Advisor Events

KMS EventsConfig

ElastiCacheCluster Events

CloudFormationStack Events

CloudWatchAlarms

ELB Metrics

CloudFrontMetrics

EC2 Metrics

EBS Metrics

ECS Metrics

DynamoDBMetrics

EMR Metrics

Kinesis Metrics

Lambda Metrics

API GatewayMetrics

S3 Metrics

Route53 Metrics

SNS Metrics

RDSMetrics

AWS

Add-on

DB

ConnectNative path (via AWS)

Push path (via Splunk HEC)

Pull path (via Splunk Modular Input or DB Input)

VPC Flow Logs

Lambda Logs

API Gateway LogsCustom

Application Logs

API GatewayCustom Events

DynamoDBTable Updates

S3 Events

Cognito Events

Custom Config Rules

CodeCommit Repo Events

Kinesis Firehose

IoT

HTTP

Event Collector

Kinesis Stream

Lambda

CloudWatchEvents

AWS サービス外で唯一Kinesis Firehose サポートhttps://aws.amazon.com/jp/kinesis/data-firehose/

© 2018 SPLUNK INC.

デモ

Kubernetesその他 DevOpsで活躍するアプリ

© 2018 SPLUNK INC.

DevOps ユースケース

Splunk で主要な可視性の問題に取り組んだお客様のユースケースと事例

© 2018 SPLUNK INC.

メンバーの勤務状況を把握リソースを効果的に

割り当てる

Splunk を利用した

リソース分析

▶ 主要なメトリック：

• 勤務日数と有給休暇/疾病休暇の比較

• 製品/プロジェクト別の時間

• リソースの不足

▶ データソース：• JIRA

• WorkDay

© 2018 SPLUNK INC.

現在の人件費を測定プロジェクト全体のコストを予測する

Splunk を利用したコスト分析

▶ 主要なメトリック：

• 生産時間• 人件費• 計画と実績の比較

▶ データソース：• WorkDay

• PeopleSoft

© 2018 SPLUNK INC.

プログラマーの活動状況を数値化することで燃え尽きを防止

Splunk を利用した開発チーム分析

▶ 主要なメトリック：

• コミット数• 開発者別のコミット数• コミットの日数/時間

▶ データソース：• GitHub

© 2018 SPLUNK INC.

コミットに対するコード品質を

プログラマー別に数値化

Splunk を利用した

コード品質分析

▶ 主要なメトリック：

• コードポリシーのコンプライアンス• コード/ファイル/クラスの複雑さ

• コード分析のカバレッジ

▶ データソース：• GitHub

• SonarQube

© 2018 SPLUNK INC.

コード品質およびビルド状況を把握

ビルド工程までの品質を管理

Splunk を利用した

ビルド品質分析

▶ 主要な指標：

• ビルドの成功/失敗

• ビルドキューのステータス• ビルドの処理時間

▶ データソース：• Jenkins

• SonarQube

© 2018 SPLUNK INC.

QA 結果を把握テスト工程までの品質を管理

Splunk を利用した

テスト品質分析

▶ 主要な指標：

• 発見された欠陥• テストカバレッジ• テストの実行

▶ データソース：• Selenium

• AppScan

• ServiceNow

© 2018 SPLUNK INC.

実行環境の構築を監視リクエスト数に基づき

環境リソースプランニング

Splunk を利用した

環境構築分析

▶ 主要な指標：

• プロビジョニングの成功/失敗

• プロビジョニングの時間• ノード別の構成ドリフト

▶ データソース：• Puppet

© 2018 SPLUNK INC.

リリース前の品質指標をリアルタイムに数値化リリース決定を支援

Splunk を利用した

リリース分析

▶ 主要な指標：

• リリース別の可用性• リリース別のチケット• リリース準備状況

▶ データソース：• ServiceNow

• SonarQube

• HP OpenView

© 2018 SPLUNK INC.

リアルタイムでビジネスとアプリの性能を相関

効果的な開発につなげる

Splunk を利用した

ビジネス分析

▶ 主要な指標：

• 1 分あたりの収益

• チェックアウト率• カートの獲得率/離脱率

▶ データソース：

• Web アクセスログ

• フロントエンドログ• SFA/CRM

© 2018 SPLUNK INC.

ALC 全体の KPI を把握問題のある工程を可視化

Splunk を利用した

ALC 全体可視化

▶ 主要な指標：

• サイクルタイム• ストーリー完了率• デプロイ率

▶ データソース：• JIRA

• Bamboo

• Bitbucket

© 2018 SPLUNK INC.

その他のユースケース

開発チームと運用チームで協力してトラブルシューティング

アプリから直接 DevOps データを出力 (APM)

次期プロジェクトの立案にChatOps と Splunk を利用

DevOps データをセキュリティにも活用 (DevSecOps)

貢献度を数値化することでより自由で働きやすい風土を作る

© 2018 SPLUNK INC.

成功を収めている企業は DevOps に Splunk を利用

© 2018 SPLUNK INC.

Splunk からのご提案

© 2018 SPLUNK INC.

是非、これからの DevOps 環境の可視化に当たってSplunk の利用をご検討ください。

SI の皆さんも今後の新しいシステム運用基盤としてSplunk の可能性を一緒に考えさせてください。

よろしくお願いいたします。

© 2018 SPLUNK INC.

象を一口では食べられません

スモールスタート

© 2018 SPLUNK INC.

▶ あらかじめ定義された機能を利用し、主要な問題を対象とした概念実証から開始

▶ 自社のデータとシステムを利用して、事前構築済みのサンドボックス化された Splunk をデプロイ

▶ 弊社のチームが、デプロイ、構成、価値の証明をオンサイトで支援

ビルド分析の POC から着手

ビルドの問題を見つけて修復することで、製品ライフサイクルを高速化

製品ライフサイクルの分析

splunkjp@splunk.comに問い合わせて、今すぐ始めましょう

© 2018 SPLUNK INC.

▶ Docker Logging Plugin を使ったコンテナログの取り込み

▶ Splunk Connect for K8s を使ったコンテナクラスターログの取り込み

▶ 弊社のチームが、デプロイ、構成、価値の証明をオンサイトで支援

Docker/K8s のログ管理

Docker/K8s のログ、メトリックを Splunk で管理してみましょう

コンテナ環境のログ基盤

splunkjp@splunk.comに問い合わせて、今すぐ始めましょう

© 2018 SPLUNK INC.

▶ DevOps での Splunk の利用：www.splunk.com/DevOps

▶ Splunk のブログ：www.splunk.com/blog/tag/devops

▶ Splunk DevOps エコシステムアプリ：splunkbase.splunk.com

▶ Splunk Connect for Kafka: github.com/splunk/kafka-connect-splunk

▶ Splunk Docker Logging Plugin：github.com/splunk/docker-logging-plugin

▶ Splunk Connect for K8s: github.com/splunk/splunk-connect-for-kubernetes

▶ DevOps 詳しい説明のご要望 (メール)：splunkjp@splunk.com

参考リソース

© 2018 SPLUNK INC.

マシンデータを、すべての人に、

アクセス可能に、便利なものに、

そして価値あるものに。

© 2018 SPLUNK INC.

DevOps

© 2018 SPLUNK INC.

#SplunkLive

ご清聴ありがとうございました

6/20（水） Splunk for DevOpsで淀みない開発プロセスを実現〜オートメーションのその先へ〜

6/27（水） メトリックとログで始める新時代のサーバー監視の始め方

オンラインセミナー 開催予定

※日程、内容は予告なく変更する場合があります。※オンラインセミナーや、その他の今後のイベントは、弊社サイトのイベントページをご参照ください。

https://www.splunk.com/ja_jp/about-us/events.html

セキュリティ調査のやり方簡単解説インシデント検知のノウハウを活用する Security Essentials

Splunk ソリューションによる AWS セキュリティの強化

Splunk で実現する IT サービス可視化IT トラブルシュートのやり方簡単解説マシンデータだからできる超シンプル、超強力なシステム運用

オンデマンド オンラインセミナー （近日公開）

© 2018 SPLUNK INC.

7月度： 7/17(火) - 7/18(水)

8月度： 8/7(火) - 8/8(水)

© 2018 SPLUNK INC.

6月度： 6/25(月) – 6/27(水)

7月度： 7/23(月) - 7/25(水)

8月度： 8/27(火) - 8/29(木)

.conf18 登録開始！

.conf18 | October 1 – 4, 2018

Splunk University | September 29 – October 1フロリダ州オーランド |

ウォルトディズニーワールドスワン＆ドルフィンリゾート

3日間のイノベーション体験ITビジョナリーによる基調講演

Splunkのテクノロジーパートナー講演

先進的なお客様の事例講演＆最新デモ

スペシャル版トレーニング

ハンズオントレーニング

日本のお客様講演も！

300 以上のテクニカルセッションビジネスアナリティクス

Development

IoT

IT 運用

セキュリティ・コンプライアンス

Foundations

世界の最新事例や技術動向を体感できる3日間！！