aws ai solutions
TRANSCRIPT
![Page 1: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/1.jpg)
© 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Makoto Shimura, Data Science Solution ArchitectAmazon Web Services Japan, K. K.2017.11.15
AWS AI Solutions
![Page 2: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/2.jpg)
所属:アマゾンウェブサービスジャパン株式会社
業務:ソリューションアーキテクト(データサイエンス領域)
経歴:Hadoopログ解析基盤の開発データ分析データマネジメントや組織のデータ活⽤
志村 誠 (Makoto Shimura)
![Page 3: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/3.jpg)
© 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
Amazon における機械学習の取り組み
![Page 4: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/4.jpg)
過去20年間にわたる継続的な AI への投資
Search & Discovery
Fulfilment & Logistics
ExistingProducts
NewInitiatives
![Page 5: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/5.jpg)
Amazon における Deep Learning の取り組み
• 応⽤研究• 基礎研究• Alexa• 需要予測• リスク分析• 検索• レコメンド• AI サービス群
• Q&A システム• サプライチェーン最適化• 広告• 機械翻訳• ビデオコンテンツ分析• ロボティクス• さまざまなコンピュータビジョン• 種々の⾃然⾔語処理/理解
5
![Page 6: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/6.jpg)
![Page 7: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/7.jpg)
![Page 8: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/8.jpg)
AI 活⽤の基本的な流れ
データ
学習 推論⼤量の GPU⼤規模データの処理試⾏錯誤の繰り返し
データの⾼速な加⼯整形⼤規模データの保管
⼤量の GPU と CPU継続的なデプロイIoT デバイスで動作
![Page 9: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/9.jpg)
© 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
AWS が提供する機械学習サービス
![Page 10: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/10.jpg)
4 レイヤーから構成される AWS の AI サービス
10
Services Amazon Rekognition
Amazon Polly
Amazon Lex
PlatformAmazon MachineLearning
Engines TensorFlow Caffe Torch Theano CNTK Keras
CPU IoT MobileInfrastructure GPU
Apache Spark&
Amazon EMR
AmazonKinesis
AWSBatch
AmazonECS
MXNet
AWS Deep Learning AMI
![Page 11: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/11.jpg)
4 レイヤーから構成される AWS の AI サービス
11
Services Amazon Rekognition
Amazon Polly
Amazon Lex
PlatformAmazon MachineLearning
Engines TensorFlow Caffe Torch Theano CNTK Keras
CPU IoT MobileInfrastructure GPU
Apache Spark&
Amazon EMR
AmazonKinesis
AWSBatch
AmazonECS
MXNet
AWS Deep Learning AMI
![Page 12: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/12.jpg)
AI Services の役割
データ
学習 推論⼤量の GPU⼤規模データの処理試⾏錯誤の繰り返し
データの⾼速な加⼯整形⼤規模データの保管
⼤量の GPU と CPU継続的なデプロイIoT デバイスで動作
![Page 13: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/13.jpg)
AI Services
13
⽂章をリアルな⾳声に変換するサービス
Polly Lex声やテキストを使⽤した会話型インターフェイスを様々なアプリケーションに構築する
ためのサービス
Rekognition画像分析機能をアプリケーションに簡単に追加できるようにする
サービス
※これらは,fine-tuning された AWS が提供する深層学習モデルをAPI で簡単に利⽤できるマネージドサービスとなります
![Page 14: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/14.jpg)
AI Services
14
⽂章をリアルな⾳声に変換するサービス
Polly Lex声やテキストを使⽤した会話型インターフェイスを様々なアプリケーションに構築する
ためのサービス
Rekognition画像分析機能をアプリケーションに簡単に追加できるようにする
サービス
※これらは,fine-tuning された AWS が提供する深層学習モデルをAPI で簡単に利⽤できるマネージドサービスとなります
![Page 15: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/15.jpg)
Polly の概要
• テキストをリアルな⾳声に変換するサービス
• 24 の⾔語で 50 のリアルな声優の⾳声を提供
• 低レイテンシーで応答が速いため,リアルタイムシステムを構築する際の選択肢となりえる
• ⽣成された⾳声の保存とリプレイ,配信が可能
![Page 16: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/16.jpg)
Polly - 24種類の⾔語で50種類の⾳声
⾔語 ⼥性 男性英語(オーストラリア) Naja Mads
英語(インド) Raveena
⽇本語 Mizuki Takumihttps://docs.aws.amazon.com/polly/latest/dg/voicelist.html
ヨーロッパ/中東/アフリカ地域: アジア太平洋地域:北アメリカ/南アメリカ地域:⾔語 ⼥性 男性フランス語(カナダ) Chantal
ポルトガル語(ブラジル) Vitória Ricardo
英語(⽶国) Joanna Joey
Salli Justin
Kendra Matthew
Kimberly
Ivy
スペイン語(⽶国) Penélope Miguel
⾔語 ⼥性 男性デンマーク語 Naja Mads
オランダ語 Lotte Ruben
フランス語 Céline Mathieu
ドイツ語 Marlene Hans
Vicki
アイスランド語 Dóra Karl
イタリア語 Carla Giorgio
ノルウェー語 Liv
ポーランド語 Ewa Jacek
Maja Jan
ポルトガル語(イベリア) Inês Cristiano
ルーマニア語 Carmen
ロシア語 Tatyana Maxim
スペイン語(カスティリヤ) Conchita Enrique
スウェーデン語 Astrid
トルコ語 Filiz
英語(英国) Amy Brian
Emma
英語(ウェールズ) Geraint
ウェールズ語 Gwynethhttps://docs.aws.amazon.com/polly/latest/dg/voicelist.html
![Page 17: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/17.jpg)
Polly の品質⾃然に聞こえる⾳声
テキスト変換処理の正確さ• Today in Las Vegas, NV it's 90°F.• "We live for the music", live from the Madison Square Garden.
⾼度なわかりやすさ• ” 庭には⼆⽻の鶏がいる”
![Page 18: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/18.jpg)
SSML による話速や話し⽅の調整
Speech Synthesis Markup Language (SSML) v1.1 に準拠したドキュメントを⼊⼒テキストとして利⽤できるSSML タグを使⽤することで、発⾳、ボリューム、話す速度など、⾳声のさまざまな要素をカスタマイズできる
ねぇちょっとちょっと,ここだけの話だけどさ
<speak><prosody rate="x-fast">
ねえ,ちょっとちょっと,<amazon:effect name="whispered">
ここだけの話だけどさ</amazon:effect>
</prosody></speak>
![Page 19: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/19.jpg)
レキシコンによる特殊な単語の発話
Pronounciation Lexicon Specification(PLS) v1.0 に準拠したドキュメントをレキシコンとして登録て利⽤できる『単語とフレーズのマッピング』や『⾔語で⼀般的でない単語の発⾳』を定義し,発⾳をカスタマイズすることができる
<lexeme><grapheme>W3C</grapheme><alias>World Wide Web Consortium</alias>
</lexeme>
W3C is a Consortium
単語 (graphme) に対応する発話フレーズ (alias) を設定できる
<lexeme><grapheme>Kaja</grapheme><grapheme>kaja</grapheme><grapheme>KAJA</grapheme><phoneme>"kaI.@</phoneme>
</lexeme>
My daughterʼs name is Kaja
⾳素 (phoneme) に紐づく単語 (graphme) は複数指定できる
![Page 20: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/20.jpg)
スピーチマークによる⾳声と映像の同期
• ⽂:1⽂要素• 語句:1単語要素• ビゼーム:⾳に対応する唇の形• SSML:<mark>タグ
![Page 21: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/21.jpg)
![Page 22: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/22.jpg)
東京リージョンと男性ボイスの追加
• 東京リージョンで Polly が利⽤可能に• より⾼速にレスポンスを返すことができるように
• ⽇本語の男性ボイス「Takumi」が利⽤可能に• 従来の⼥性ボイス「mizuki」に加えて,さまざまなユース
ケースで利⽤していただけるように
• 新しい声の出し⽅が可能に• ⼤きな⼈の声と⼩さな⼈の声
22
![Page 23: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/23.jpg)
AI Services
23
⽂章をリアルな⾳声に変換するサービス
Polly Lex声やテキストを使⽤した会話型インターフェイスを様々なアプリケーションに構築する
ためのサービス
Rekognition画像分析機能をアプリケーションに簡単に追加できるようにする
サービス
※これらは,fine-tuning された AWS が提供する深層学習モデルをAPI で簡単に利⽤できるマネージドサービスとなります
![Page 24: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/24.jpg)
Rekognition• 深層学習に基づく画像認識サービス• 以下の各種機能を API で提供し,アプリケーションに簡単に追加できる• イメージモデレーション機能が新たに追加,性的・暴⼒的な画像を検出
24
物体とシーンの検出 顔分析 顔照合 顔認識
![Page 25: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/25.jpg)
Rekognition - 物体とシーンの検出
• DetectLabels API を利⽤すると、画像から識別した⾞、ペット、家具など、数千もの物体にラベルを付け、信頼スコアを取得できる
• 信頼スコアは 0〜100 の値で⽰され、識別結果が正しいかどうかの可能性を意味する
Maple
Plant
Villa
Garden
Water
Swimming Pool
Tree
Potted Plant
Backyard
❖ ⼤規模な画像ライブラリを検索、フィルタリング、管理するために必要な情報を取得できる
❖ 写真、不動産、旅⾏アプリなど様々なアプリケーションに利⽤可能
![Page 26: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/26.jpg)
Rekognition - 顔分析
• DetectFaces API を利⽤すると、画像内の顔の位置を検出し、感情、ポーズ、瞳が開いているかどうかなどの顔属性を分析できる
❖ 画像のトリミングや広告を重ねる際に顔を避けるような処理
❖ ユーザがどのようなカテゴリに属するか、ユーザが抱いている感情などの推定
❖ ⼀番良い写真のレコメンド
![Page 27: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/27.jpg)
Rekognition - 顔の⽐較
• 顔の⽐較機能を利⽤すると、2 つの画像の顔が同⼀⼈物である可能性を推定可能
❖ アプリケーションやデバイスに顔認識機能を追加可能
❖ 物理的なセキュリティ制御を拡張可能
![Page 28: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/28.jpg)
Rekognition - 顔認識
• IndexFaces API と SearchFacesByImage API を利⽤すると、⼤規模な顔のコレクションの中から似た顔を⾒つけることで画像の中にいる⼈物を識別することが可能
❖ ソーシャルやメッセージングアプリのタグ付機能
❖ ⾏⽅不明の⼈を写真から探す機能
![Page 29: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/29.jpg)
Rekognition - 有名⼈認識
• 画像内の有名⼈が認識され、信頼スコアが提供される機能• 有名⼈を認識する際の学習データには IMDb が利⽤されている
![Page 30: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/30.jpg)
Rekognition - イメージモデレーション
明示的なヌード - Explicit Nudity• ヌード• 男性のヌード画像• 女性のヌード画像• 性的な行為• 部分的なヌード
暗示的 - Suggestive• 女性の水着または下着• 男性の水着または下着• 露出の多い衣服
![Page 31: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/31.jpg)
Rekognition – Deep Learning 処理
Conv 1 Conv 2 Conv n
…
…
Feature Maps
Labrador
Dog
Beach
Outdoors
Softm
ax
Probability
FullyConnected
Layer
![Page 32: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/32.jpg)
Rekognition – Ground Truth データ⽣成
版管理されたトレーニング&テストデータ
トレーニング
ラベル付された画像
QA 評価
利用者
APIレスポンス
フィードバック
DNNモデル
ラベル付前画像
人間参加型アクティブ・ラーニングシステ
ム
推論
画像元
ローカリゼーション
画像検証
画像注釈付
![Page 33: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/33.jpg)
Rekognition 事例: 千株式会社さま
• 「はいチーズ!」• スクールフォトの撮影とネット販売• 利⽤者はサイト上で,⾃分の⼦どもが映っている写真を探して,選
んで,購⼊• 写真が⼤量で探すのが⼤変
![Page 34: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/34.jpg)
Rekognition 事例: 千株式会社さま
顔検索により,⾃分の⼦どもの写真を簡単に探せるように
![Page 35: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/35.jpg)
AI Services
35
⽂章をリアルな⾳声に変換するサービス
Polly Lex声やテキストを使⽤した会話型インターフェイスを様々なアプリケーションに構築する
ためのサービス
Rekognition画像分析機能をアプリケーションに簡単に追加できるようにする
サービス
※これらは,fine-tuning された AWS が提供する深層学習モデルをAPI で簡単に利⽤できるマネージドサービスとなります
![Page 36: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/36.jpg)
Lex の概要
⾳声やテキストを使⽤して、任意のアプリケーションに対話型インターフェイス(ボット)を構築するサービスAWS プラットフォームのセキュリティ、モニタリング、ユーザー認証、ビジネスロジック、ストレージ、モバイルアプリケーション開発を実現するためのスイート
• AWS Lambda、AWS MobileHub、および Amazon CloudWatch との組み込み統合を提供
• Amazon Cognito や Amazon DynamoDB など 他の多くのサービスと簡単に統合できる
36
![Page 37: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/37.jpg)
Lex – 仕組み: ボットの構成要素
Utterances
BookHotelIntents
Slots
Fulfillment
intent はユーザが⼊⼒した⾃然⾔語に応答してfulfillmentを実⾏する
intent を発動する⼝頭、もしくは、⼊⼒されるフレーズ
Slot は intent を満たすために要求される⼊⼒データ
intent を実現するビジネスロジック
PromptSlot を引き出すためのフレーズ
![Page 38: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/38.jpg)
Lex - ユースケース: 情報ボット
患者向け診察予約ボットを構築する
1.患者がケア施設に午後3時の予約を要求する 2.Lex は予約のスケジューリングが
リクエストされたことを認識する
3.Lexが予約について都合の良い曜日を尋ねる
4.予約時間が確保される
5.患者は木曜日の午後3時に予約完了の通知を受ける
ユーザ入力情報
Lex のテキストレスポンス
![Page 39: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/39.jpg)
Lex - 仕組み: “Book a Hotel”
“Book a Hotel in NYC”
Hotel BookingCity New York CityCheckIn
CheckOut
⾳声
⾃然⾔語理解(NLU)
Book HotelNYC
⾃動⾳声認識(ASR)
Hotel Booking
New York Citya
inテキスト
Intent/Slotモデル
![Page 40: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/40.jpg)
Lex - 仕組み: “Book a Hotel”
“When would you check in ?” Polly(TTS)
テキスト⾳声
Hotel BookingCity New York CityCheckIn
CheckOut“Can I go aheadwith the booking?
Prompt“When would you check in ?”
No
![Page 41: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/41.jpg)
Lex - 仕組み: “Book a Hotel”
“When would you check in ?” Polly(TTS)
テキスト⾳声 Prompt“When would you check in ?”
“November 30th“
Hotel BookingCity New York CityCheckIn
CheckOut
![Page 42: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/42.jpg)
Lex - 仕組み: “Book a Hotel”
“November 30th“
Hotel BookingCity New York CityCheckIn
CheckOut
⾃然⾔語理解(NLU)⾃動⾳声認識(ASR)
Hotel Booking
November 30thNovember 30thテキスト⾳声
Intent/Slotモデル
November 30th
![Page 43: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/43.jpg)
Lex - 仕組み: “Book a Hotel”
“When would you check out ?” Polly(TTS)
テキスト⾳声
Hotel BookingCity New York CityCheckIn
CheckOut“Can I go aheadwith the booking?
Prompt“When would you check out ?”
No
November 30th
![Page 44: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/44.jpg)
Lex - 仕組み: “Book a Hotel”
“When would you check out ?” Polly(TTS)
テキスト⾳声 Prompt“When would you check out ?”
Hotel BookingCity New York CityCheckIn
CheckOut“Can I go aheadwith the booking?
No
“December 2nd“
November 30th
![Page 45: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/45.jpg)
Lex - 仕組み: “Book a Hotel”
“December 2nd“
Hotel BookingCity New York CityCheckIn
CheckOut
⾃然⾔語理解(NLU)⾃動⾳声認識(ASR)
Hotel Booking
December 2ndDecember 2ndテキスト⾳声
Intent/Slot
モデル
December 2nd
November 30th
![Page 46: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/46.jpg)
Lex - 仕組み: “Book a Hotel”
Hotel BookingCity New York CityCheckIn
CheckOut December 2nd
“Your hotel is booked for Nov 30th”
Confirmation: “Your hotel is booked for Nov 30th”
Yes
Polly(TTS)
テキスト⾳声
“Can I go aheadwith the booking?
November 30th
![Page 47: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/47.jpg)
マネジメントコンソールの開発画⾯
![Page 48: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/48.jpg)
4 レイヤーから構成される AWS の AI サービス
48
Services Amazon Rekognition
Amazon Polly
Amazon Lex
PlatformAmazon MachineLearning
Engines TensorFlow Caffe Torch Theano CNTK Keras
CPU IoT MobileInfrastructure GPU
Apache Spark&
Amazon EMR
AmazonKinesis
AWSBatch
AmazonECS
MXNet
AWS Deep Learning AMI
![Page 49: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/49.jpg)
Amazon Machine Learning
データ
学習 推論⼤量の GPU⼤規模データの処理試⾏錯誤の繰り返し
データの⾼速な加⼯整形⼤規模データの保管
⼤量の GPU と CPU継続的なデプロイIoT デバイスで動作
![Page 50: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/50.jpg)
Amazon Machine Learning
フルマネージドの予測モデル & API を提供
50
• 線形回帰,2項ロジスティック回帰,多項ロジスティック回帰の3種類のアルゴリズムをサポート
• Cross Validation や正則化,精度評価まで含んでおり,簡単にモデル構築が可能
• 構築したモデルを使って,新しいデータをAPI経由で予測可能
• お⼿軽にシンプルな予測モデルをシステムに組み込んで利⽤できる
![Page 51: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/51.jpg)
Amazon EMR (Elastic MapReduce)
データ
学習 推論⼤量の GPU⼤規模データの処理試⾏錯誤の繰り返し
データの⾼速な加⼯整形⼤規模データの保管
⼤量の GPU と CPU継続的なデプロイIoT デバイスで動作
![Page 52: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/52.jpg)
Amazon EMR (Elastic MapReduce)
フルマネージドな Hadoop を提供しており,クラスタの構築,構成変更,破棄まで管理可能データの加⼯整形を⾏なって,機械学習に必要なデータを抜き出すことが可能MLlib を使った Spark アプリケーションを開発することで,スケーラブルに機械学習を実⾏することができる開発・本番と,ワークロードに応じて異なるクラスタを⽴ち上げてジョブを実⾏可能
52
![Page 53: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/53.jpg)
AWS Batch によるバッチ処理の管理
データ
学習 推論⼤量の GPU⼤規模データの処理試⾏錯誤の繰り返し
データの⾼速な加⼯整形⼤規模データの保管
⼤量の GPU と CPU継続的なデプロイIoT デバイスで動作
![Page 54: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/54.jpg)
• 多量のバッチジョブ実⾏をクラスタの管理を⾏う事なしに容易に実現できる
• ジョブとして登録したアプリケーションやコンテナイメージをスケジューラが実⾏
• 利⽤するインスタンスタイプや数、スポット利⽤有無などComputeEnvironmentとして任意に指定可能
フルマネージド型のバッチ処理実⾏サービス
AWS Batchで管理
処理を依頼
スケジュール実⾏
AWS Batch によるバッチ処理の管理
![Page 55: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/55.jpg)
4 レイヤーから構成される AWS の AI サービス
55
Services Amazon Rekognition
Amazon Polly
Amazon Lex
PlatformAmazon MachineLearning
Engines TensorFlow Caffe Torch Theano CNTK Keras
CPU IoT MobileInfrastructure GPU
Apache Spark&
Amazon EMR
AmazonKinesis
AWSBatch
AmazonECS
MXNet
AWS Deep Learning AMI
![Page 56: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/56.jpg)
Deep Learning AMI による⾼速な環境構築
データ
学習 推論⼤量の GPU⼤規模データの処理試⾏錯誤の繰り返し
データの⾼速な加⼯整形⼤規模データの保管
⼤量の GPU と CPU継続的なデプロイIoT デバイスで動作
![Page 57: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/57.jpg)
Deep Learning AMI による⾼速な環境構築
57
AWS Deep Learning AMI
MXNet TensorFlow Caffe & Caffe2
Theano Cognitive Toolkit Torch
Keras
Nvidia CUDA & cuDNN Python 2 & Python 3
Intel MKL Anaconda
Amazon EC2 (Amazon Linux / Ubuntu)
![Page 58: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/58.jpg)
AWS は MXNet を全⾯的にサポート
マルチ GPU でのスケーラビリティに優れているAWS 社員もコミッターとして活躍Keras や CoreML 対応など,積極的に開発が進められている
58 http://aws.typepad.com/sajp/2016/11/mxnet-default-framework-deep-learning-aws.html
![Page 59: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/59.jpg)
4 レイヤーから構成される AWS の AI サービス
59
Services Amazon Rekognition
Amazon Polly
Amazon Lex
PlatformAmazon MachineLearning
Engines TensorFlow Caffe Torch Theano CNTK Keras
CPU IoT MobileInfrastructure GPU
Apache Spark&
Amazon EMR
AmazonKinesis
AWSBatch
AmazonECS
MXNet
AWS Deep Learning AMI
![Page 60: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/60.jpg)
次世代GPUインスタンス P3 Instances!
データ
学習 推論⼤量の GPU⼤規模データの処理試⾏錯誤の繰り返し
データの⾼速な加⼯整形⼤規模データの保管
⼤量の GPU と CPU継続的なデプロイIoT デバイスで動作
![Page 61: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/61.jpg)
次世代GPUインスタンス P3 Instances!
• NVIDIAの最新GPU Tesla V100• 最も強⼒な GPU-based プラットフォーム• ディープラーニングで P2 に⽐べ最⼤ 14 倍の性能向上
61
NVIDIA Roadmap (GTC 2017)
![Page 62: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/62.jpg)
GPU 性能⽐較
NVIDIA GPU アーキテクチャKepler (P2 インスタンス)
→ Maxwell→ Pascal→ Volta (P3 インスタンス)
0
1000
2000
3000
4000
5000
6000
K80 P100 V100
Resnet-50 8 GPU (Images/sec)
7.2X
![Page 63: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/63.jpg)
EC2の新インスタンスファミリ C5
データ
学習 推論⼤量の GPU⼤規模データの処理試⾏錯誤の繰り返し
データの⾼速な加⼯整形⼤規模データの保管
⼤量の GPU と CPU継続的なデプロイIoT デバイスで動作
![Page 64: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/64.jpg)
EC2の新インスタンスファミリ C5
AVX-512 命令セットを利⽤可能で,機械学習やマルチメディア,科学技術計算などに向く
https://aws.amazon.com/jp/blogs/news/now-available-compute-intensive-c5-instances-for-amazon-ec2/
Instance Name vCPUs RAM EBS Bandwidth Network
Bandwidth
c5.large 2 4 GiB Up to 2.25 Gbps Up to 10 Gbps
c5.xlarge 4 8 GiB Up to 2.25 Gbps Up to 10 Gbps
c5.2xlarge 8 16 GiB Up to 2.25 Gbps Up to 10 Gbps
c5.4xlarge 16 32 GiB 2.25 Gbps Up to 10 Gbps
c5.9xlarge 36 72 GiB 4.5 Gbps 10 Gbps
c5.18xlarge 72 144 GiB 9 Gbps 25 Gbps
![Page 65: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/65.jpg)
Greengrass による IoT デバイス上での推論
データ
学習 推論⼤量の GPU⼤規模データの処理試⾏錯誤の繰り返し
データの⾼速な加⼯整形⼤規模データの保管
⼤量の GPU と CPU継続的なデプロイIoT デバイスで動作
![Page 66: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/66.jpg)
Greengrass による IoT デバイス上での推論
機械学習の推論処理を,デバイス上で直接⾏うことができる通信が発⽣しないため,⾼速に推論結果を返すことが可能クラウドと同期することで,新しい機械学習モデルに更新することができる
DeviceState
Action
DeviceGateway
Messages
Authentication& Authorization
Security
![Page 67: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/67.jpg)
© 2017, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
事例
67
![Page 68: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/68.jpg)
Motorola Solutions における画像認識の活⽤事例
警察官が利⽤できるデバイス, サービスを提供不明者の発⾒にAmazonの画像認識、⾳声認識を活⽤
AWS re:Invent 2016: Machine Learning State of the Union Mini Con (MAC206) – YouTubehttps://youtu.be/HqsUfyu0XJc?t=183329
• カメラでリアルタイムに顔を抽出してAWS に送信
• DBにデータを保存して Rekognition に顔認識顔リクエストを送信
• マッチしたら、イベントでPollyを呼び出して,⾳声でアラートを通知
![Page 69: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/69.jpg)
RoomClip さまRekognition + Amazon Machine Learning の事例
部屋のインテリア実例共有サイト「部屋全体を映している画像かどうか」を判定マネージドサービスを組み合わせることで,低コストで機械学習サービスを構築
69 Amazon RekognitionとMachine Learningで画像判定機を気軽に作るhttp://engineer.roomclip.jp/entry/20
部屋画像のラベルを抽出
特定ラベルの確信度を独⽴変数として
部屋写真か否か判定するモデルを構築
構築したモデルでその他画像を判定
Rekognition AmazonMachine Learning
![Page 70: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/70.jpg)
Gunosy さま配信するニュース記事の⾃動分類
それぞれの記事に対して,どのカテゴリに分類されるかを判定教師あり多クラス分類
https://d1.awsstatic.com/events/jp/2017/summit/devday/D2T8-6.66aa102dbe8d99e0b223956201db984762d204c5.pdf
![Page 71: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/71.jpg)
Capital One さま⾳声認識の活⽤事例
• 全⽶最⼤のネットバンク,4位のクレジットカード発⾏会社• Amazon Alexa を活⽤した⾳声ベースのバンキングアプリ• ユーザのアクセシビリティを改善する取り組み
AWS re:Invent 2016: How Capital One Built a Voice-Based Banking Skill for Amazon Echo (ALX201) – YouTubehttps://www.youtube.com/watch?v=-MtwpZFmexg
![Page 72: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/72.jpg)
Zillow さまSpark MLlib によるレコメンデーション
• Zillow は住宅のマーケットプレイスに関するWebサービスを展開• さまざまなレコメンデーションを活⽤
• セール物件 / 貸出可能物件をメールで利⽤者にプッシュ• 「この物件に似た物件」• パーソナライズド検索• 住宅購⼊確率,物件売却
確率の予測• 類似画像 / 動画
AWS re:Invent 2016: Zillow Group: Developing Classification and Recommendation Engines with Amazon EMR and Apache Spark (MAC303)https://www.slideshare.net/AmazonWebServices/aws-reinvent-2016-zillow-group-developing-classification-and-recommendation-engines-with-amazon-emr-and-apache-spark-mac303
![Page 73: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/73.jpg)
まとめ
![Page 74: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/74.jpg)
まとめ
Amazon では機械学習技術を活⽤した取り組みを実施4 つの形で機械学習技術を提供しており,ビジネスの状況に合わせて活⽤可能
• サービス• プラットフォーム• エンジン• インフラストラクチャ
74
![Page 75: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/75.jpg)
まとめ : Amazon AI サイト、Amazon AI Blog
https://aws.amazon.com/jp/amazon-ai/https://aws.amazon.com/jp/blogs/ai/
![Page 76: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/76.jpg)
![Page 77: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/77.jpg)
re:Invent 11/27-12/1 @ ラスベガス
• ENT301 - Real-World AI and Deep Learning for the Enterprise• ATC302 - How to Leverage AWS Machine Learning Services to
Analyze and Optimize your Google DoubleClick Campaign Manager Data at Scale
• ALX319 - Itʼs All in the Data: The Machine Learning Behind Alexaʼs AI Systems
• GPSBUS201 - GPS: Artificial Intelligence, Machine Learning, Deep Learning: Cutting through the Hype
• ALX304 - Five Ways Artificial Intelligence Will Reshape How Developers Think
77
![Page 78: AWS AI Solutions](https://reader031.vdocuments.pub/reader031/viewer/2022022415/5a64788d7f8b9a31568b45e5/html5/thumbnails/78.jpg)