빅데이터 시대의 인공지능2015.12문동선

Agenda• A.I.• Trends• Machine learning overview• What’s deep learning?• Why deep learning?• Demo• Future

Big Data?? Machine Learning? A.I.?

나도 뭔가 해야하나 ?

big data + machine learn-ing

무인 자동차 시대 임박• 인공지능에게 내 목숨을 맡길 수 있을까 ?• 앞에 많은 사람이 나타난다면 ?• 다수를 살리기 위해 주인을 희생하는 운전을 ?• 주인을 살리기 위해 다수를 희생하는 운전을 ?

• 수많은 택시 기사 , 트럭 운전사는 백수 ?

Google Trends

Big data

Data anal-ysis

Machine learning

Deep learning

Google Trends

왜 big data 가 갑자기 이슈일까 ?

과거에는 ?

왜 big data 가 갑자기 이슈일까 ?

Data

Ma-chine

수동적 Big Data 능동적 Big Data마케팅 지원 돈버는 서비스

A.I.Machine Learn-

ingSupervised Unsupervised

Deep Learning

Expert system

Fuzzy

Bayesian

SVM

PCA

KNN

Fuzzy

PCA

PCA

Fourier Series

Eigen Face

모라벡의 역설

Geoffrey Hinton• 토론토 대학 교수• 구글 (2013~, DNNresearch 가 합병 )• Backpropagation 의 아버지• RBM 으로 pre-training 하여

local minimum 문제 해결

Andrew Ng• Stanford 교수• Baidu - Chief Scientist• Coursera 창립자• Google brain project• google• 16000 CPU cores

Yann Lecun• 뉴욕대 교수• 페이스북 AI 연구소• LeNet 의 아버지• DjVu image Compression• Lush 언어

Yoshua Bengio• 몬트리올대 교수• Pylearn2(Lisa lab)• 대학에 남아서 연구만 ..• CIFAR co-director• 각종 학회지 editor

Deep Learning 의 성공 요인• 알고리즘• Unsupervised learning

• RBM / DBN• Autoencoder (Stacked/De-

noise)• Dropout• Sparse encoding• CNN (LeNet, googLeNet)• RNN

• HW• GPGPU

• Big Data• Google, Facebook, Amazon

etc.• Smart phone

P(X)

P(Y|X)

변화의 시작…

Input

Simplest Fea-tures

Complex Fea-tures

MappingFrom Features

Output

Input

Simplest Fea-tures

MappingFrom Features

Output

Input

Hand-designedFeatures

MappingFrom Features

Output

Input

Hand-designedFeatures

Output

Rule-based sys-tem

Classic machine learn-ing

Representation learn-ing

Deep learn-ing

Deep Belief Network

Belief Network?

Representation Learning

Manifolds

ALEXNET• 구글을 멘붕에 빠트린 그것…• Alex Krizhevsky• Hinton 교수 제자• http://

papers.nips.cc/paper/4824-imagenet-classification-with-deep-

Convolutional Neural Network

Image 인식은 CNN

GoogLeNet

RNN• 음성인식• 위성이 지구 ( 궤도 / 괴도 ) 를 돌고 있다 .• ( 궤도 / 괴도 ) 루팡을 읽었다

• 기계번역• The town lies on the coat.• She lies about her age.

Transfer Learning

Image 인식

바이두 쇼핑 추천

Deep face (Facebook)

Deep face (Facebook)

Image 인식 데모• http://deeplearning.cs.toronto.edu/

MS Skeype• https://www.youtube.com/watch?v=11LgippzOvU

Game AI• DeepMind tech( 구글 2014 년 인수 )• https://www.youtube.com/watch?v=V1eYniJ0Rnk

• Mario Demo• https://www.youtube.com/watch?v=qv6UVOQ0F44

기사 쓰기• http://www.bloter.net/archives/227482

손글씨 쓰기

코딩도 ? /* * Increment the size file of the new incorrect UI_FILTER group information * of the size generatively. */static int indicate_policy(void){ int error; if (fd == MARN_EPT) { /* * The kernel blank will coeld it to userspace. */ if (ss->segment < mem_total) unblock_graph_and_set_blocked(); else ret = 1; goto bail; } segaddr = in_SB(in.addr); selector = seg / 16; setup_works = true; for (i = 0; i < blocks; i++) { seq = buf[i++]; bpf = bd->bd.next + i * search; if (fd) { current = blocked; } } rw->name = "Getjbbregs"; bprm_self_clearl(&iv->version); regs->new = blocks[(BPF_STATS << info->historidac)] | PFMR_CLOBATHINC_SECONDS << 12; return segtable;}

작곡도 ?• https://www.youtube.com/watch?v=0VTI1BBLydE

Motion generation

어디까지 왔는가 ?• 알아보지만 영혼이 없다…

필요한 준비물은 ?

Tesla K80 (NVIDIA)

• 8.74 Tflops• 3GFlops with Xeon E5-2630

• 288 GB/s• 24GB Ram• 4992 cuda cores• $4,275(Amozon)

GTX TitianX (NVIDIA)

• 7 Tflops• 336.5 GB/s• 12GB Ram• 3072 cuda cores

DIGITS DEVBOX• 4 TitanX GPU (with 12GB/gpu)• 64GB DDR4• Ubuntu 14.04• Caffe, Theano, Torch• $15,000 ( 기본사양 , usa)

Softwares• TensorFlow

• Python / C++• https://www.tensorflow.org/

• Pylearn2 / Theano• python• http://deeplearning.net/software/pylearn2/

• Caffe• C++• http://caffe.berkeleyvision.org/

• Torch7• jua• http://torch.ch/

• DL4J• java• http://deeplearning4j.org/

CUDAcuDNN+

TensorFlow 예제 코드 좀 볼까요 ?

Big Data• 보통은 이게 없어서 진입장벽• 하지만 제일 중요한게 함정• 공개된 Dataset 으로 공부 / 개발은 가능 (MNIST, CIFAR-10

etc.)• 포탈이 매우 유리• 고객 동의 없이 학습에 사용하는 것은 불법임에 주의해야함 .

우리 나라는…• 네이버

• 이미지 , 음성처리 등에 다양하게 적용중• http://deview.kr/2014/session?seq=26

• 엔씨소프트• AI 랩에서 게임에 적용중이라던데…

• 클디• 카이스트 출신 스타트업 . ILSVRC 세계 7 위 .• http://scope.cldi.io/

• 카이스트 김대식 교수• 서울대 장벽탄 교수

• https://www.youtube.com/watch?v=v3veAMEwoyU• 엑소브레인

• 2013~2013 년 1070 억원• ETRI, KAIST, Postech 등 26 개 연구기관 366 명 참여 프로젝트

우리의 미래는 ?택배는 드론이…

택시는 자동운전…콜센터는 딥러닝…

기사작성 딥러닝…부동산중개 딥러닝…

세일즈 딥러닝…헬스 PT 도 딥러닝…

동시통역도 딥러닝…회계사도 딥러닝…

언젠가 게임 개발 로봇도… .

봇 , 매크로 , 그리고 사람…봇을 막을 수 없다면게임의 미래는 ?

Game and AI뛰어난 AI 를선보였던Starcraft

The End