aws cloud day for samsung :: 윤석찬 테크에반젤리스트
TRANSCRIPT
© 2016, Amazon Web Services, Inc. or its Affiliates. All rights reserved.
윤석찬
@channyun
AWS 테크에반젤리스트
Amazon 인공 지능(AI) 사례 및AWS 기반 딥러닝 활용 방법
본 발표 주요 주제
I. Amazon 인공 지능 기반 서비스 Amazon.com 상품 추천 활용
Amazon 물류 및 배송 활용
Amazon Alexa 음성 인식 서비스 활용
II. Amazon AI Services 연구자 및 고급 개발자: P2 Instance & Deep AMI, Apache
MXNet
데이터 개발자: Amazon Machine Learning
일반 개발자 Amazon Rekognition, Amazon Polly, Amazon Lex
I. Amazon 인공 지능 서비스 활용
Amazon.com - Eyes & Editors
• Eyes & Editors 좋아하는 저자의 신규
서적에 대한 자동 검색 및알림 에이전트. 분야별주제별 리뷰에 따른 추천기능도 제공
• 에이전트 기반서적 추천 엔진
Amazon.com 상품 추천 서비스
• 평가 기반 추천 도입• 이벤트(Events) 및
평가(Rating)
• 협업 필터링(Collaborative filtering)
• 사용자 (user-user) 및아이템 기반 (item-item)
• 총 판매 35%가 추천 시스템으로부터 발생
Amazon.com - DW 기반 웹 로그 분석
• 사용자 행동 데이터 분석 기존 100노드의 1.6PB 급
DW 시스템 - 페타 바이트급 (가장 큰 테이블400TB, 일간 2TB)
예: 검색 후 구매하지 않은물품, 가장 많이 구매한물품…
• Amazon Redshift 기반DW로 분석 환경 변경
Amazon.com 온라인 주문 예측 서비스
• 주문 전/후 예측 시스템도입
• 머신 러닝 기법 활용
• '고객이 주문 전에배송 계획 예측’
• 사내 총 주간 추천 예측500억회
Amazon 배송 센터: 로봇 기반 배송 예측 시스템
• 13개 물류센터에 KIVA 로봇 이동 도입
• 물류 순환 속도:60~75분 ▶ 15분
• 재고 공간: 50% ↑
• 운영비용: 약 20%↓
• 이동 경로 계산 및 최적화등에 머신 러닝 기법 활용
강연 중 질문하는 법
전체 공개로 답변된 내용은 검은색, 질문자 본인에게만 공개로 답변된 내용은 붉은 색으로
돌아옵니다. 비공개 답변을 원하시면 [비공개]라고 하시고 질문하세요!
From Machine Learning to Deep Learning
이미지 패턴 분석 음성 인식 및자연어 처리
자율 주행 자동차
Amazon Prime Photo - 이미지 인식 기능
© Jeff Dean, Trends and Developments in Deep Learning Research
http://www.slideshare.net/AIFrontiers/jeff-dean-trends-and-developments-in-deep-learning-research
Accuracy
Scale (data size, model size)
1980s and1990s
neural networks
other approaches
© Jeff Dean, Trends and Developments in Deep Learning Research
http://www.slideshare.net/AIFrontiers/jeff-dean-trends-and-developments-in-deep-learning-research
more
computeAccuracy
Scale (data size, model size)
neural networks
other approaches
1980s and1990s
© Jeff Dean, Trends and Developments in Deep Learning Research
http://www.slideshare.net/AIFrontiers/jeff-dean-trends-and-developments-in-deep-learning-research
more
computeAccuracy
Scale (data size, model size)
neural networks
other approaches
Now
© Jeff Dean, Trends and Developments in Deep Learning Research
http://www.slideshare.net/AIFrontiers/jeff-dean-trends-and-developments-in-deep-learning-research
2016
3% errors
2011
5% errors
humans
26% errors
© Jeff Dean, Trends and Developments in Deep Learning Research
http://www.slideshare.net/AIFrontiers/jeff-dean-trends-and-developments-in-deep-learning-research
Amazon 물류 센터 - 저장 선반 시스템
아마존이 창고에 상품을 뒤죽박죽 보관하는 이유?
http://techneedle.com/archives/29063
"아마존 상품 배송 선반에는 물건이 뒤죽박죽 보관되고 있다. 예를들면 영화 DVD, 로션, 피클이 한칸에 보관되어 있다. 자투리 공간없이 창고 공간을 100% 활용할 수있고, ‘이 상품군은 어디에 보관해야 한다’ 등 배워야 할 내용이 줄어든다. 게다가 실수로 잘못 꺼내는 일도 적다. 상품 보관을 위한기술은 컴퓨터 비전과 실내 위치추적 등의 시스템을 활용한다"
Amazon 물류 센터 - 컴퓨터 비전을 활용한 재고 파악
Amazon 물류 센터 - Inventory Defect 문제
물건이 잘 못 담기는 경우, 물건이 떨어지는 경우,
Amazon 물류 센터 - 딥러닝을 통한 문제 해결
Original image Activation map Binary map
선반 속 재고 물건 갯수 확인선반 속 재고 물건 누락 확인
2.0
1.0
Amazon Bin Image Dataset
Amazon Fulfillment Center의 상품 보관선반의 이미지와 메타 데이터가 포함
데이터 세트의 빈(Bin) 이미지는 배송 과정측정의 일부로 로봇을 통해 포드 이동 시캡처
Amazon S3에서 빈 이미지를 무료로제공함으로써 일반 항목 계산 및 약한태그가있는 데이터로부터의 학습을포함하여 다양한 분야에서 연구 장려 중
https://aws.amazon.com/ko/public-datasets/amazon-bin-images/
Amazon Echo- 기기 종류 및 판매량 확대
Amazon Echo sales up 9X compared
to last year, company says in holiday
roundup of 2016 winter sold “millions”
of Echo devices.
Alexa 에코 시스템 확대: CES 2017
https://www.wired.com/2017/01/ces-alexa-in-everything
아마존 알렉사 앱 - Skills
Create Great Content:
ASK is how you connect
to your consumer
Supported by two powerful frameworks
A L E X A
V O I C E
S E R V I C E
Unparalleled Distribution:
AVS allows your content
to be everywhereLives In The Cloud
Automated Speech
Recognition (ASR)
Natural Language
Understanding (NLU)
Always Learning
A L E X A
S K I L L S
K I T
Alexa 에코 시스템
ALEXA SKILLS KIT (ASK)https://developer.amazon.com/ask
Echosim.io - 웹 기반 Echo 시뮬레이터
SMART HOMEhttps://developer.amazon.com/ask
ALEXA VOICE SERVICE (AVS)https://developer.amazon.com/avs
AVS 소개 – 음성 인식 기기 제작 가능
AVS 기반 Raspberry Pi 알렉사 기기 만들기
• 저렴한 기기 제작 가능 Raspberry Pi 3
Micro SD Card (8 GB)
USB 2.0 Mini Microphone
External Speaker
Micro-USB power cable
https://github.com/alexa/alexa-avs-
sample-app/wiki/Raspberry-Pi
Alexa Voice 서비스 아키텍처
AVS 음성 분석 - AWS 기반 대용량 분산 딥러닝 훈련
80대 이상의 Amazon EC2 g2.2xlarge GPU 가상 서버를 통해 모델 훈련
Amazon S3 스토리지에 수천시간의 음성 훈련 데이터 보관
16 years = 140,160 hours
≈14,016 hours of speech
II. Amazon AI for Developers
AWS 클라우드 서비스의 차별점
2006년 부터 클라우드 서비스 운영 경험
다양한 업무를 지원하는 90여개 이상 서비스
고객의 피드백을 기반한 1,000개 기능 추가
16 리전, 42 가용영역(AZ), 72 엣지 로케이션
59번의 자발적인 가격 인하
수천개의 파트너사 및 마켓플레이스 제품
축적된 경험
서비스 및 전문성
혁신의 속도
글로벌 인프라
가격 철학
파트너 생태계
고객 기술지원
영업 지원
고객지원
프로페셔널 컨설팅
교육 및인증
보안 및 빌링시스템
파트너생태계
솔루션아키텍트
엔터프라이즈
가상 테스크톱
기업용 공유도구
기업용 이메일
백업 및 복구
글로벌 리전 (Region) 가용 영역 (AZ) 콘텐츠 배포 지점(Edges)
인프라
기본 서비스
컴퓨팅VMs, Auto-scaling, Load Balancing, Containers, Cloud functions
스토리지Object, Blocks, File, Archival, Import/Export
데이터베이스Relational, NoSQL, Caching, Migration
네트워킹VPC, DX, DNS
콘텐츠 배포 (CDN)
하이브리드환경
데이터백업
통합 앱 개발 환경
전용 회선연결
통합 인증
통합 리소스관리
네트워크통합
서비스접근 제어
사용자인증 관리
암호 키 관리 및 저장
모니터링로그
기업 자원설정 및 보고
리소스 사용량 및 감사
보안 및 규정 준수
기업 내규정 준수
웹 방화벽
비지니스애플리케이션
비지니스인텔리전스
데이터베이스DevOps 도구
네트워킹보안 스토리지
IoT
규칙 엔진
디바이스쉐도우
디바이스SDK
디바이스레지스트리
디바이스게이트웨이
개발 및 운영 도구모바일 서비스앱 서비스데이터 분석
데이터웨어하우스
Hadoop/Spark
실시간 데이터저장
머신 러닝
Elastic Search 서비스
알람 및 큐서비스
워크 플로우
풀텍스트검색
Email 전송
동영상 변환
원 클릭 앱 개발
모바일 인증
기기 동기화
모바일 앱테스트
푸시 알림
DevOps 리소스관리
앱 라이프사이클관리 도구
콘테이너 서비스
클라우드 함수
리소스 템플릿
API Gateway
실시간 데이터분석
비지니스 인텔리전스
모바일 분석
모바일 허브
마켓 플레이스
고객 요구에 따른 폭넓은 클라우드 서비스 제공AWS 클라우드의 폭넓은 IT 서비스 제공
1. Primitives재료
2. Fully-managed완전 관리형
3. Innovative장기적 혁신
AWS 클라우드 서비스의 특징
Amazon AI Building Blocks
Amazon Machine
Learning
P2 InstanceDeep Learning
AMI and template
Investment in
MXNet
Amazon Rekognition Amazon Polly Amazon Lex
Amazon AI Building Blocks
일반 개발자
연구 및 고급 개발자
데이터 개발자Amazon EMR Spark/Spark ML
Amazon AI - Low Level 개발 및 연구자를 위한솔루션
Scalable Deep Learning Framework, MXNet
Deep Learning Framework
Deep Learning 설치 AMI (Amazon Machine Image)
Deep Learning AMI
Amazon EC2 인스턴스 (G2, P2, C4, F1)
GPU Instances
P2 인스턴스를 이용한 클러스터를 만들어 본다면?
vCPU 32 / RAM 488GB GPU 8 x NVIDIA K80
p2.8xlarge
= $7.2 per hour(버지니아 리전 기준)
x 20
vCPU 640 GPU 160
p2.8xlarge x 20
= $144 per hour
Spot Instances (80% ↓)
= $30 per hour
P2 인스턴스를 이용한 클러스터를 만들어 본다면?
$aws ec2-run-instances ami-b232d0db
--instance-count 20
--instance-type p2.8xlarge
--region us-east-1
$aws ec2-stop-instances
i-10a64379 i-10a64280 ...
AWS의 Deep Learning 기술 투자
Deep Learning Amazon Machine Image (AMI)
• 손쉬운 딥러닝 플랫폼 구축 가능
• 6개의 Deep Learning Framework들이 설치되어 있음
• MXNet, Caffe, Tensorflow, Theano, Torch, CNTK
• Intel Math Kernel Library(MKL)를 지원하는 MXNet
• NVIDIA 드라이버, CUDA, cuDNN
• Anaconda Science Platform for Python2, Python3
http://bit.ly/deepami
손쉬운 Deep Learning 아키텍처 구성
• 자동 인프라 구성 가능
AWS CloudFormation은심층 신경망 학습 같이중요한 컴퓨팅 작업을 위해다수의 EC2 인스턴스를쉽게 확장할 수 있는 템플릿역할
Deep Learning AMI를사용하여 P2 인스턴스로구성된 스케일 아웃 방식의탄력적 클러스터를 스핀업
Amazon Machine Learning 서비스
• AWS에서 제공하는 완전 관리형Machine Learning 서비스
• 간단한 API로 개발자도 쉽게 사용
• Amazon 내부 시스템 위에서 빠른Machine Learning 기술 사용
• AWS에 저장된 데이터를 바로사용하여 데이터 모델링
• 다양한 예측 모델 바로 활용 가능
Amazon ML 특징: 손쉬운 접근성
관리 콘솔에서 직접 ML 모델링 데이터 소스 지정 및 생성
ML 모델 생성, 모델 품질 측정, 튜닝
배포 및 관리
API, SDK를 이용하여 쉽게 활용 Java, Python, .NET, JavaScript, Ruby,
Javascript
AWS Mobile SDK를 통해 Android, iOS 앱에서도 쉽게 사용 가능
AWS 기반 머신 러닝 활용 사례
컴퓨터비전 API
온라인부정지불감시
클라우드소싱기반지도서비스
자율주행컴퓨터비전분석
대용량기계학습 부동산구매예측분석동영상추천엔진개발 고객트래픽분석
스포츠플레이예측 이미지 인식기반검색
Zestimate 서비스(Apache Spark 활용)
보험리스크분석
Amazon AI 서비스
Amazon Rekognition딥러닝 기반 이미지인식 및 분석 서비스
Amazon Polly딥러닝 기반
음성 합성 서비스
Amazon Lex딥러닝 기반 자동 음성인식 및 자연어 처리
대용량 이미지를 통한 딥러닝 트레이닝을 통한 이미지 인식, 검색 서비스
객체 및 장면 인지 얼굴 감정인식
얼굴 유사성비교
얼굴 인식
Amazon Rekognition
Amazon Rekognition - Deep Learning Process
Training
Amazon Rekognition - Deep Learning Process
Conv 1 Conv 2 Conv n
…
…
Feature Maps
Fully
Connected
Layer
Amazon Rekognition 서비스 요금
1. 정식 출시: US East (N. Virginia), US West (Oregon), EU (Ireland)2. 가격 모델: 사용한 만큼 (12개월까지 월 5,000장까지는 프리티어 제공)
이미지 분석 티어 1,000장당 가격월 백만장까지 $1.00
월 9백만장까지 $0.80
다음 9백만장까지 $0.80
다음 9천만장까지 $0.60
1억장 이상 $0.40
Amazon Polly
• 딥 러닝 기술을 사용하여 실제 사람 목소리처럼 음성을 합성 다양한 음성 및 언어 지원 (24개 언어 47개 목소리)
빠른 실시간 합성 속도로 라이브 서비스 가능 (Amazon Lex 지원)
SSML을 통한 시맨틱 음성 기능 지원
개발자가 합성된 파일, 무제한 저장 및 재생 배포 가능
글자당 과금 및 저렴한 비용 (허클베리핀의 모험 영어본 2.5달러 수준)
• 맥락에 따른 자동 음성 합성
Amazon Polly
“The temperature
in WA is 75°F”
“The temperature
in Washington is 75
degrees Fahrenheit”
"We live for the music",
live from the Madison
Square Garden.
"We live(리브) for the
music", live(라이브) from
the Madison Square
Garden.
사람이 말하는 것과 유사함
정확한 텍스트 처리
Today in Las Vegas, NV it's 54°F.
"We live for the music", live from the Madison Square Garden.
이해도 높은 읽기
”Peter Piper picked a peck of pickled peppers.”
Amazon Polly
SSML (Speech Synthesis Markup Languange) 표준 지원<speak>
My name is Kuklinski. It is spelled
<prosody rate='x-slow'>
<say-as interpret-as="characters">Kuklinski</say-as>
</prosody>
</speak>
Amazon Polly: SSML 및 Lexicon 지원
단어나 구절에 대한 발음을 지정(Lexicon)할 수 있음
My daughter’s name is Kaja.
<lexeme>
<grapheme>Kaja</grapheme>
<grapheme>KAJA</grapheme>
<phoneme>"kaI.@</phoneme>
</lexeme>
Polly를 이용한 음성으로 읽어주기 서버리스 앱
RSS Feed Amazon Polly
Amazon
CloudWatch
Amazon S3AWS Lambda
1. Trigger
2. Check
3. Content
4. Text 5.Audio
6.Audio
https://github.com/awslabs/amazon-polly-sample
Amazon Lex (Preview)
• 음성 및 텍스트를 사용해 대화형 인터페이스 서비스
Lex 콘솔을 통해 빠르고 쉽게 채팅 봇 개발 가능
알렉사 음성 인식과 자연어 처리 등 딥러닝 기술 활용
완전 관리 클라우드 서비스 및 종량 요금 체계
• 진료 예약 Amazon Lex 봇 개발 사례
MessengerMobile
Book Hotel
“Book a Hotel in
NYC”
Hotel Booking
New York City
Natural Language
Understanding
Intent/Slot
Model
UtterancesHotel Booking
City New York City
CheckIn Nov 30th
CheckOut Dec 2nd
“Your hotel is booked for
Nov 30th”
PollyConfirmation: “Your hotel
is booked for Nov 30th”
“Can I go ahead
with the booking?
a
in NYC
Automatic Speech
Recognition
Amazon Lex를 이용한 호텔 예약 시나리오
정보를 제공하는 봇일반적인 고객의 질문에 응대하는 챗봇
• 뉴스 업데이트• 날씨 정보• 경기 점수
Internet of Things (IoT) 봇디바이스와의 상호작용을 위한 대화형인터페이스
• 웨어러블• 어플라이언스
기업 생산성 봇기업 업무 활동을 연계하고 효율성을 향상
• 세일즈 성과 확인• 마케팅 현황 조회• 재고 상태 조회
어플리케이션 봇모바일 어플리케이션에 강력한인터페이스 형태로 구현
• 표 예매• 음식 주문• 은행 계좌 관리
Amazon Lex 활용 사례
누군가 우리집 초인종을 누르면“띵똥~” 소리 대신
”OOO이 문앞에 왔어요”,“모르는 사람이 문앞에 있어요”라고
말해줄 수는 없을까?
Amazon AI 서비스 활용한 스마트 초인종
통신이 가능한 버튼
명령을 받을 수 있는카메라
얼굴을 검색할 수 있는서비스
상황에 따른 음성 생성서비스
1. 방문자가 초인종을 누른다
2. 초인종에 있는 카메라로 방문자 사진을찍고,
3. 사진에 찍힌 얼굴이 아는 사람인지확인해서,
4. 집안의 인터폰이 누가 집앞에 있는지말로 알려준다
AWS IoT
Amazon S3
AWS Lambda
AmazonRekognition
AmazonPolly
스마트 초인종 AWS 서비스 아키텍처Collection 1우리 가족
Collection 2친구
3 – 얼굴찾기
아빠
4 – 방문자 알림(방문자 목록)
4 – 방문자 알림(방문자 목록)
5 – 음성요청
2 – 사진업로드
1 – 버튼눌림 사진
촬영 요청
방문자 화면 스트리밍
AWSLambda
AmazonS3
AmazonRekognition
AmazonPolly
AWSIoT
스마트 초인종 챗봇도 가능하겠죠 !
초인종 기록을 조회 기능을챗봇으로 만들어보면 어떨까요?
• 누가 왔었니?• 오늘 낯선사람이 왔었니?• 지금 문밖 좀 보여줘
Amazon
Rekognition
Amazon
Lex
AWS IoT
AWS
Lambda
Amazon
S3
Alexa와 연동도 가능하겠네요!
“Alexa, ask Door Watcher to open the main door.”
“Alexa, ask Door Watcher to tell me who is at the door.”
Amazon AI 서비스 이용한
어떤 재미있는 아이디어가 떠오르세요?
Amazon AI 서비스로 인공 지능을 정복하세요!
P2Amazon
Machine Learning Deep Learning
AMI and template
Investment in
MXNet
Amazon Rekognition Amazon Polly Amazon Lex
인공 지능 기술에 대한 진입장벽이 낮아집니다!
References
• AWS re:Invent 2016 Machine Learning MiniCon
Videos: https://www.youtube.com/playlist?list=PLhr1KZpdzukexYSNcIj9iBbmn9jYKu2pu Deep Learning in Alexa (MAC202) https://www.youtube.com/watch?v=TYRckcVm4WE Transforming Industrial Processes with Deep Learning (MAC301)
https://www.youtube.com/watch?v=AHUaor0odh4
• Amazon AI Services Web site: https://aws.amazon.com/ko/amazon-ai/ Deep Learning AMI: https://aws.amazon.com/marketplace/pp/B01M0AXXQB Deep Learning Template: https://aws.amazon.com/blogs/compute/distributed-deep-
learning-made-easy/ MXNet: https://aws.amazon.com/ko/mxnet/
• AI Frontiers Conference 2017 Web site: https://www.aifrontiers.com/ Slides: http://www.slideshare.net/AIFrontiers/presentations
Q&A윤석찬아마존웹서비스코리아, 테크에반젤리스트
http://bit.ly/awskr-feedback
@channyun