クラウドネイティブの 先にある未来 · 2020-06-06 ·...

34
クラウドネイティブの 先にある未来 「説明可能なAI」社会の実現 株式会社野村総合研究所 伊藤 真二

Upload: others

Post on 27-Jul-2020

0 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

クラウドネイティブの先にある未来「説明可能なAI」社会の実現株式会社野村総合研究所 伊藤真二

Page 2: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

3年前に提唱されたクラウドジャーニー

1. IaaSでクラウドへマイグレーションを行う

2. オンプレミスと並行して運用する

3. 完全クラウド移行を目指す

4. 移行システムを最適化する(クラウドネイティブ化)

①プロジェクト ②基盤 ③移行 ④最適化

Page 3: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

クラウドネイティブの先はどうなるか

すでにクラウドネイティブであることは当たり前になってきた

その次に何を目指せばよいか?

Page 4: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

クラウドジャーニーはDXの段階

現在のクラウドインテグレートは、5つの大きな流れ

基幹システムのクラウド化

既存システムや新規システムのクラウドネイティブ化

K8S、Knative、Anthos、コンテナーエコシステムの加速

エコシステムによるデジタルトランスフォーメーション

クラウドAI・Edge IoTを使ったリアルプロジェクトの実現

Page 5: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

野村総合研究所について

野村総合研究所(NRI)は、AWSで多くのお客様のビジネス課題解決を支援。移行、セキュリティ、金融など多くのコンピテンシーを取得

日本初のAPN プレミアコンサルティングパートナー

ビジネスモデルは、金融サービスからDXへ転換してきている

DX専門の部署、グループ会社がある

Page 6: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

DXの取り組み最新事例

ヤマハ発動機様は、顧客満足度を高めるPOSシステムをサーバーレス・クラウドネイティブアーキテクチャーで構築し、わずか3ヶ月で実装

NRI ヤマハ 検索詳しくは

AWS 導入事例

ヤマハ発動機株式会社

顧客満足度を高める POS システムをサーバーレスのクラウドネイティブアーキテクチャで構築し、わずか 3 ヶ月で実装

Page 7: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

ヤマハ発動機様事例ビジネス環境の変化と課題

ビジネス環境

“売れるものを作る”には、接客情報を積極的に活用し、需給の予測精度の向上が必須

多品種少量生産

マーケットは海外中心

海外ではタイムリーな小売情報のデータが不十分

在庫販売であるため

売れたもの 欲しいもの

課題

Page 8: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

ヤマハ発動機様事例仮説の設定

課題を解決するには…

接客・販売時に得た情報をタイムリーに収集すればいい

営業支援としてディーラー様が、お金を出しても使いたいツールを開発する!

簡単?

現地法人 海外特有のITインフラ

フランチャイズディーラー 海外特有の文化➡

Page 9: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

ヤマハ発動機様事例方式の検討

現実は…

開発期間は、3カ月

要件は、十分、固まっていない

ウォーターフォール オンプレミス

アジャイル クラウドネイティブ

要件定義 外部設計 内部設計

開発単体

テスト

結合

テスト

システム

テスト

Speed

Agility

➡➡

Page 10: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

ヤマハ発動機様事例システム構成

GraphQLを中心としたフルクラウドネイティブの構成。サーバーレスどころかほとんど実装が不要な

「コードレス」アーキテクチャー

RESTに比べ仕様が明確

学習コストが低い

スキーマ管理ツールの普及

開発速度が圧倒的

https://aws.amazon.com/jp/appsync/

Page 11: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

ヤマハ発動機様事例システム構成

AWS Cloud

データストレージ

ユーザー

AWS Amplify

AWS Region

Webサーバ

AWS Certificate Manager

(画像最適化)

Lambda function

ユーザー認証

Amazon Cognito

AWS AppSync

(Web最適化)

AWS Fargate

(利用状況ログ)Amazon Pinpoint

メール送信

Amazon Simple Email Service (SES)

AWS Lambda

Amazon Kinesis Data Firehose

データストア

Amazon DynamoDB

コンテンツストア

Amazon S3

Amazon Elasticsearch Service分析

Amazon Route 53

AWS WAF Amazon CloudFront

モバイル通知Amazon SNS

Page 12: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

ヤマハ発動機様事例運用構成

運用もサーバーレスで全て自動化(DevOps)。マニュアル運用や属人化が必要な構成を排除

開発環境

ステージング・プロダクション環境

DevOps管理

本番リポジトリ ビルド デプロイ

CI

AWS CloudAWS Region

AWS CodeStar Amazon CloudWatch AWS Identity and Access

Management (IAM)

AWS CodePipeline

AWS CodeCommit AWS CodeBuild AWS CodeDeploy

コンテンツ管理

Amazon Simple

Storage Service (S3)

Page 13: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

クラウドネイティブはDXを加速する

クラウドネイティブはビジネスにフォーカスし、システム運用などから解放される

作って運用するSIビジネスの転換期

ITシステムの2025年問題の解決

レガシーシステムや運用よりも新しい価値の創造に投資➡DXの推進はクラウドネイティブが必須

Page 14: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

どこに投資するのか、価値があるのか

ガートナーによると、AIの展開は2022年までに4兆ドルに達する。これは2019年の世界のIT投資額(3.8兆ドル)とほぼ同じ規模

AI

Edge

コンテナー

これらを含めたクラウドネイティブ技術に投資が必要なことは明白

Page 15: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

いま、アジアを中心に起こっていること

スマートフォンの普及により、貧しいとされたアジアの国が激変している

貧しく不便だからこそスマホとAIを使ったサービスが次々に誕生「貧Tech」

安い人件費を背景にリアルサービスとの融合が加速

通貨や税金の概念を再構築(通貨そのものが信用されていない)

Page 16: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

模倣から先進へと変わるチャイナスタンダード「民主化なき発展」は、最新テクノロジーと相性がいい。真似をしてきた中国が先行し真似をされる側になってきた

中国のビジネスモデルを真似する日本

シェアサイクル

QRキャッシュレス決済

個人の信用与信レーティング、国民の監視・格付け

もはや、高機能・ラグジュアリーなものを時間をかけて作ることの意義はない。必要に応じて進化・アップデートする単機能なもので十分

Page 17: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

正しいAIの定義

一般的には、人間の仕事を代わりにやってくれる便利なサービス。IT・クラウドの世界では、「ディープラーニング(MLも混在)で作成したモデル」を利用したシステムの総称

人間が気づかないことを判断する

人間が(プロが)やっていることの代わり。医療、専門家など

IoTデータの自動解析

画像・動画分析

音声認識、自然言語処理・翻訳

Page 18: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

疑わしいAIの氾濫

「AI」をバズワードにした根拠のないAIサービスが氾濫している。これはクラウド黎明期の動きに似ている

AIがお答えします!(DBで全文検索して)

AIが判断します!(プログラムで条件を判定)

AIが提案します!(裏で人間がやっている)

AI対応(AIを使わないシステムとの差別化が不明確)

中身がわからないAIの利用は危険。AIにも「説明責任」がある➡

Page 19: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

世界のAI利用に関する動向

民主主義圏はプライバシーとのバランスを重視、共産圏はスピードと利便性を重視

中国、ロシアなどがFace Recognition技術をリード

GAFAMは法制度とプライバシーに対応中

テクノロジーと権利どちらを重視?➡

Page 20: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

クラウドをベースにした新しいAI Cameraソリューションを開発。

プラットフォームはAWS

ハードウェアデバイスはAcer

NRIのAIプラットフォーム

Page 21: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

NRI AI Cameraの特徴

AWSサービスとのエコシステム

暗号化・アクセス制御

クラウドネイティブ

Edge AI

分析機能

AWSフルスタックのIoT・AIソリューション

ハイブリッド、データ連携

デバイス上で処理

プライバシーの制御

リテール向け

オフィス・工場向け

高価なEdgeは不要

カスタムモデル

公共施設向け

Page 22: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

AIサービス導入のポイント

AIサービスを検討する時に確認すべきこと

AIによって得られるメリットが説明されているか

データの取り扱いや責任範囲が明確か

データの保存期間や取得内容が明確か

日本の法制度、ガイドラインに準拠するか

データの利用やAPIアクセスが可能か

Page 23: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

エンタープライズレベルのAI

世界では法制度、プライバシーなどAIの活用に課題は多い。課題を乗り越えるには検証・調査にコストがかかるためサービス利用が最適

NRIのサービスは、

プライバシーに関する政府ガイドラインに準拠

データの所有権・利用権を明確化

データの取得範囲・方法・保存内容の開示

データのロックイン無し

➡「安心して使えるAI」の実現

Page 24: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

AIサービスに関するAWSの優位性

フルスタックAWSで実現するAIソリューション

Amazon S3AWS IoT Core Amazon

Kinesis Data Firehose

Amazon

AthenaAWS

Lambda

Amazon

DynamoDB

Amazon

Cognito

AWS IoT

Greengrass

Amazon

SageMaker

Neo Runtime

Amazon

SageMakerNEOCompiled

Model

IoT thing

camera

Client

Dashboard

Model Amazon

SageMakerAmazon

SageMaker

Ground Truth

DataLabeled

Data

AWS Cloud

Data

Catalog

Lambda

function

Page 25: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

Yida Wang

Sr. Scientist

[email protected]

Amazon SageMaker Neo

Page 26: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

AWS ML Stack at a glance

Deep Learning フレームワーク

フロントエンドインターフェース:

GluonCV, GluonNLP

機械学習のワークフロー全体をカバーするフルマネージド型サービス

SageMaker Neo ML モデルを一度トレーニングすれば、クラウドやエッジのどこでも実行可能

Amazon SageMaker

Page 27: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

Amazon SageMaker Neo

主要な機能

CPU または GPU 向けのMLモデルコンパイラコンパクトなオープンソースのランタイム

https://aws.amazon.com/sagemaker/neo

フレームワーク サイズ

MXNet 450 MB

TensorFlow 660 MB

PyTorch 1000 MB

Neo 1 MB

Page 28: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

エッジデバイスへのアプローチ

課題: CNN モデルの推論は計算量が大きい, エッジデバイスで利用される計算ユニット (統合GPUなど) は多岐に渡る (ARM,

Nvidia, Intel, など)

ソリューション

• フレームワークにとらわれない中間フォーマットに変換

• MLを利用し、畳み込みのパフォーマンスを最適化

• 特にコンピュータービジョン特有の演算を最適化

ICPP ‘19 paper: A Unified Optimization Approach for CNN Model Inference on Integrated GPUs

Page 29: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

Acer aiSage上でのパフォーマンス

モデル ミリ秒/画像

ResNet-50 345.60

MobileNet 78.83

SqueezeNet 106.61

SSD_ResNet 777.26

SSD_MobileNet 243.16

Yolo_DarkNet 1097.47

Page 30: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

NRIによるAWSとAcerの取り組み

NRIはいち早くSageMaker NeoとMXNet/GluonCVで開発を実施

EdgeでFace Recognition(顔認識)

EdgeでObject Classification(モノ認識)

EdgeでPose Activity(動作認識)

Page 31: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

Acer aiSageのアーキテクチャー

Applications PrecisionMarketing

DNN ModelsAI Engine

Download Engine

Framework / SDK

DNNConversion

OS / Acceleration

Hardware / Driver

AnonymousVIP

VulnerabilityScanner

RetailActivity

AnomalyInspection

Face IDAttributes

PoseActivity

Object Classification

BDM Greengrass ML

TensorFlow PyTorch MXNET

TensorFlow Lite SageMaker Neo Compiler

Android / AndroidNN Linux / LinuxNN SageMaker Neo Runtime

IoTSDK

KVSSDK

ARM 2xA72 / 4xA53 4 x Mali T780OpenCLOpenCV

CameraWifi / LTE Ethernet

Page 32: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

AI Cameraの実証実験を開始

Edge AIを使った業種別ソリューションを開発。様々な業種・場所で適用を開始

日本の空港

日本のコンビニエンスストア

販売店・ショールーム

AWS Summit Tokyoブースに展示中

Page 33: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

NRI 福岡オフィスについて

福岡で、先進技術・グローバルプロジェクトを推進中。技術に自信のある即戦力を募集中

AI・クラウドネイティブのスペシャリスト

クラウドを使って新しい価値を創り出せる人

グローバルで仕事ができる人(外国人OK)

合わせて関東・関西・札幌でも通年採用

AWSでDXをやるならNRI !

Page 34: クラウドネイティブの 先にある未来 · 2020-06-06 · クラウドネイティブはdxを加速する クラウドネイティブはビジネスにフォーカスし、システ

Thank You!AWS JAPAN/US TEAM, ACER, AND…