글로벌 인공지능 연구의 4대 키워드와...

IT & Future Strategy

글로벌 인공지능 연구의 4대 키워드와 시사점-4대 키워드: 인간, 유용, 안전, 이해-

제1호(2019. 03. 08.)

목 차Ⅰ. 인공지능, 다시 봄? / 1

Ⅱ. 세계적인 대학들의 인공지능 연구 방향 / 5

Ⅲ. 글로벌 인공지능 연구의 4대 트렌드 / 29

Ⅳ. 결론 및 시사점 / 36

「IT & Future Strategy(IF Strategy)」보고서는 21세기 한국사회의 주요 패러다임

변화를 분석하고 이를 토대로 미래 지능화 시대의 주요 이슈를 전망, IT를 통한

해결방안을 모색하기 위해 한국정보화진흥원에서 기획, 발간하는 보고서입니다.

「IF Strategy」는 미래의 ‘만약을 대비한 전략’을 담은 보고서를 의미합니다.

NIA의 승인 없이 본 보고서의 무단전재나 복제를 금하며, 인용하실 때는 반드시

NIA,「IT & Future Strategy 보고서」라고 밝혀주시기 바랍니다.

보고서 내용에 대한 문의나 제안은 아래 연락처로 해 주시기 바랍니다.

▶ 발행인 : 문 용 식

▶ 작 성

- 한국정보화진흥원(NIA) 정책본부 미래전략센터

정지선 수석(053-230-1284, [email protected])

▶ 보고서 온라인 서비스

- www.nia.or.kr

4 글로벌 인공지능 연구의 4대 키워드와 시사점

◇ 인공지능 기술의 전환점 : 새로운 진화의 시작

o AI는 인식(과도한 기대), 기술, 비용의 문제로 좌절을 겪었음에도

불구하고, 새로운 접근법의 등장과 기술 환경이 성숙하며 진일보

- 초기에 퍼셉트론(Perceptron), 전문가 시스템(Expert System)부터

최근 딥러닝(Deep Learning)까지 AI를 진화시키는 기술이 지속 발전

- 특히 2000대에 등장한 딥러닝 기술은 ‘16년, ‘알파고 vs. 이세돌’

이벤트로 가능성을 보여주며 인공지능의 급속한 성장을 견인

o 현재는 인공지능의 핵심요인이 충족되면서 AI의 상업적 활용과 현실

에서의 적용이 용이해지며 ‘AI 혁명’이 시작

< 인공지능의 역사 >

※ 출처 : Susan Etlinger(2017), “The AGE OF AI : How Artificial Intelligence is Transforming Organizations”

< AI 발전을 이끄는 기술의 등장(뉴럴 네트워크 개발의 이정표) >

※ 그림 출처 : Andrew L. Beam(2017), “Deep Learning 101”

요약

글로벌 인공지능 연구의 4대 키워드와 시사점 5

IT & Future Strategy(1호) 2019. 3

◇ 글로벌 AI 연구 방향 : “보다 똑똑한 AI & 인간에게 이로운 AI!”

o 세계적인 대학의 연구 및 프로젝트들은 “더 스마트한 AI”, “안전

하고 인간에게 유익한 AI” 개발이 핵심 목표

- 이를 위해 ①AI 핵심 기술, ②세계적 난제 및 사회현안 해결 방안,

③안전한 AI, ④사회·경제적 영향력 연구가 상호 연계되어 추진 중

< 세계적인 대학들의 AI 연구 추진 방향 >

조직 및 프로젝트 주요 활동

카네기멜론, CMU AI실용적인 문제 해결을 위한 AI 연구에 집중AI 핵심 기술을 ‘AI Stack’으로 세분화하여 연구

MIT, CSAIL(Computer Science and Artificial Intelligence Lab)

알고리즘, 머신러닝, 컴퓨터 비전, 인간-기계 상호작용, 로보틱스 등 10여개 주제별 연구

MIT 미디어랩, Ethics and Governance of Artificial Intelligence

AI 기술 및 시스템의 적용이 가져올 사회적 영향, 거버넌스, 윤리적 함의 등을 단·장기 관점에서 연구

스탠포드, HAI(Human-Centered Artificial Intelligence)

인간과 협업적이며 생산성과 삶의 질을 향상시킬 수 있는 인간중심의 AI 기술 및 응용 분야 연구

스탠포드, AI100향후 100년 동안(2015~2115) AI의 발전과 AI가

인간과 사회에 미치는 영향을 연구

UC 버클리, BAIR(Berkeley Artificial Intelligence Research)

지식 표현, 추론, 기계학습, 의사결정, 비전, 로봇공학, 언어처리 등 AI 핵심 기술 연구

UC 버클리, Center for Human-Compatible AI

AI가 인간에게 유익하게 활용되고 우발적인 사고가 발생하기 않도록 보장하는 연구 추진

UC 버클리, MIRI(Machine Intelligence Research Institute)

인간의 지적 행동(intelligent behavior)의 수학적 구조와 시스템, 안전한 AI를 연구

하버드(The Future Society), THE AI INITIATIVE

인공지능의 이해를 토대로 글로벌 AI 정책 프레임워크 수립을 지원

옥스퍼드, Ethics in Artificial Intelligence

미래생명연구소(FLI)의 글로벌 연구 프로젝트 중 하나로 ‘AI 연구 윤리 강령’을 연구

옥스퍼드, Strategic Artificial Intelligence Research Centre

옥스포드-캠브리지 대학 간의 공동 프로젝트안전한 AI를 위한 기술적, 전략적 연구 추진

워싱턴 대학, Paul G. Allen School뇌-기계 인터페이스, 기계학습, NLP, 로봇공학,

컴퓨터 비전 등 8개 분야를 중심으로 AI 연구

뉴욕 대학(AI Now Institute), AI Now AI가 사회 영역에서 어떻게 잘 적용되는지 확인

하기 위한 측정, 감사, 분석, 개선 방법 연구


◇ 결론 및 시사점

① 인공지능 연구의 핵심 키워드는 “인간, 유용, 안전, 이해”

- AI 연구는 위 4가지 키워드가 핵심적이며, 4가지 요건이 모두

충족돼야 AI 혁신을 완성할 수 있음

② AI 네트워크로 새로운 힘을 만든다. : “AI의 POWER!”

- Partnership(파트너십), Open(공개). Work together(협력), Expansion

(확장), Review(검토)

③ 인공지능 연구 분야의 인재 확보 전쟁이 치열

- 전 세계 AI 인재 중 미국이 13.9%, 중국이 8.9%를 보유하고 있으며,

우리나라는 1.3%에 그침

④ AI 연구의 발전을 위한 정확한 진단과 방향 설정이 중요

- 국내외 AI 데이터의 종합적 분석, 객관적인 연구 정보 제공을 위해

우리의 실정에 맞는 AI 수준 진단 연구 필요

< 글로벌 AI 연구의 4대 트렌드 및 키워드 >



인공지능, 다시 봄?Ⅰ

□ 한때 외면당했던 인공지능의 과거 : 두 번의 겨울(AI winter)

o 앨런 튜링(Alan Turing)의 논문, ‘컴퓨팅 기계와 지능(Computing

Machinery and Intelligence, 1950)’에서 최초로 인공지능 개념*을 제시

* “기계가 생각할 수 있는가?”라는 질문의 답으로 ‘튜링 테스트’를 제시

- 이후 스탠포드大, ‘존 매카시(John McCarthy)‘ 교수가 다트머스 회의

(Dartmouth Conference, 1956)에서 처음으로 인공지능(AI) 용어를 사용

o MIT에서 AI연구실을 설립(1959)하는 등 AI 연구는 60년대 중반까지

선풍적 인기를 끌었으나 기술의 한계와 연구 성과 부진으로 쇠퇴

- (첫 번째 겨울: ‘74~’80) AI의 한계가 수학적으로 증명되고 과도한

낙관론에 대한 비판이 제기되며, AI 연구자금 지원이 중단*됨

* 1960년대에 DARPA는 AI에 수백만달러를지원했으나 70년대 초부터펀딩삭감

- (두 번째 겨울: ‘87~’93) 80년대에 ‘전문가 시스템’의 등장으로 AI가

다시 붐업됐으나 비효율성과 높은 유지보수 비용 문제로 좌초

< 인공지능의 역사 >

※ 출처 : Susan Etlinger(2017), “The AGE OF AI : How Artificial Intelligence is Transforming Organizations”


□ 인공지능 기술의 전환점 : 새로운 진화의 시작

o AI는 인식(과도한 기대), 기술, 비용의 문제로 좌절을 겪었음에도

불구하고, 새로운 접근법의 등장과 기술 환경이 성숙하며 진일보

- 초기에 퍼셉트론(Perceptron)*, 전문가 시스템(Expert System)부터

최근 딥러닝(Deep Learning)까지 AI를 진화시키는 기술이 지속 발전

* 두뇌의 인지 능력을 모방하도록 만든 인공 신경 뉴런

- 특히 2000대에 등장한 딥러닝 기술*은 ‘16년, ‘알파고 vs. 이세돌’

이벤트로 가능성을 보여주며 인공지능의 급속한 성장을 견인

* 심층신경망(Deep Neural Network) 개발(제프리 힌턴, ‘06), ‘구글 브레인’의고양이 이미지 식별(‘12), 페이스북의 ‘딥페이스’ 등장(’14), 알파고vs.이세돌(‘16)

o 현재는 인공지능의 핵심요인*이 충족되면서 AI의 상업적 활용과

현실에서의 적용이 용이해지며 ‘AI 혁명’이 시작

* AI의 6가지 핵심요인 : 빅데이터, 프로세싱 파워, 연결된 세계, 오픈소스

SW와 데이터, 향상된 알고리즘, 수익 창출 가속화(WEF, ‘18)

< AI 발전을 이끄는 기술의 등장(뉴럴 네트워크 개발의 이정표)1) >

※ 그림 출처 : Andrew L. Beam(2017), “Deep Learning 101”

1) https://beamandrew.github.io/deeplearning/2017/02/23/deep_learning_101_part1.html



□ 또다시 불어온 인공지능 연구 열풍 : 이번에는 다를까?!

o 국가적 AI 지원이 AI 연구 생태계를 급성장시키는 요인으로 작용

- 각국은 AI 발전과 미래 주도권 확보를 위해 AI 전략을 수립

< 국가별 AI 전략 수립 현황 >2)

※ 출처 : Tim Dutton(2018), ’An Overview of National AI Strategies’

o 전 세계 논문 중, AI 관련 논문 수와 비중이 점차 증가하는 추세3)

- 지난 5년(2013-2017)동안 AI 연구 출판물*은 세계적으로 12.9% 증가4)

* 논문, 저널, 컨퍼런스 및 세미나 자료, 도서, 소프트웨어 등

< 주제별 논문 성장률(1996-2017) > < 연간 AI 연구 출판물 수 >

※ 출처 : Stanford University(2018) ※ 출처 : Elsevier(2018)

2) https://medium.com/politics-ai/an-overview-of-national-ai-strategies-2a70ec6edfd3) Stanford University(2018), “AI Index 2018”4) Elsevier(2018), “Artificial Intelligence: How knowledge is created, transferred, and used”


o 학술연구의 성장뿐만 아니라 AI로 인한 경제적 변화 징후도 포착

- Forbes는 스탠포드 ‘AI Index’ 등을 인용하여 AI 성장 근거를 제시5)

< ‘AI Index’에서 본 AI의 경제적 영향력 변화 >

컴퓨터 과학 학술 논문 및 연구는 ‘96년 이래 9배 이상 증가

미국 AI 스타트업에 대한 벤처 캐피털(VC) 투자 수준은 ‘00년 이후 6배 증가

※ source : Scopus.com※ source : Crunchbase, VentureSource, Sand

Hill Econometrics’00년 이후 AI 스타트업 수는

14배 이상 증가AI 스킬을 요구하는 직업의 비중은

‘13년 이후 4.5배 증가

※ source : Crunchbase, VentureSource, Sand Hill Econometrics

※ source : Indeed.com

AI 관련 직업에서 가장 많이 요구되는 기술은 기계학습, 딥러닝, 자연어 처리(NLP)

이미지 라벨링의 오류율은 ‘10년 이후 28.5%에서 2.5%미만으로 감소

※ source : Monster.com

* LSVRC(Large Scale Visual Recognition Challenge) 대회에서 객체 인식 작업에 대한 AI 시스템 성능

※ source : image-net.org

5) Forbes(2018), “10 Charts That Will Change Your Perspective On Artificial Intelligence's Growth”



세계적인 대학들의 인공지능 연구 방향Ⅱ

□ AI 연구를 선도하는 주요 대학들

o (카네기멜론대학: CMU) 1989년, 신경 네트워크를 사용하여 최초의

자율주행차량을 만드는 연구 프로젝트를 수행6)

- CMU에서 연구·개발한 AI, ‘리브라투스(Libratus)’는 세계적인

포커 선수를 상대로 승리(‘17.2)하는 등 AI 분야에서 성과 창출

o (UC 버클리) 컴퓨터 비전, NLP, 로봇 공학 및 기계 학습 분야의

유명한 연구자들을 모으는 버클리 인공지능연구실(BAIR Lab)을 운영

- BAIR는 AI와 다른 과학 분야 및 인문학 분야를 연결하는데 노력

o (스탠포드) 1962년, ‘인공지능연구소(SAIL)’7) 설립 후 AI 연구 지속

- 최근에는 머신러닝, 자연어처리, 컴퓨터비전, 로보틱스, 유전체

분석학(Genomics) 등을 중심으로 기초 학술 및 응용 연구 수행

- AI기술의 사회·경제적 영향력을 연구하는 ‘AI 100’ 프로젝트 추진

o (MIT) 컴퓨팅 과학과 AI의 부상에 따른 세계적인 기회와 도전

과제 해결 연구를 위해 약 10억 달러 투자 계획 발표(‘18.10)8)9)

- 이 계획에 따라 AI의 책임 있고 윤리적인 진화 주도를 목표로

새로운 ‘MIT Schwarzman Computing College’ 개교 예정(‘19.9월)10)

o 본보고서는 AI 연구의 근간인 세계적인 대학들의 인공지능 연구 현황을 토대로

글로벌 AI 연구 방향과 시사점을 파악하기 위해 작성

- 대학의 AI 연구소(Lab), 연구 프로젝트, 글로벌 연구 조직을 중심으로 조사·분석

6) ‘ALVINN’ 이라고 불리는 구급차가 인간의 개입 없이 카네기멜론대학을 주행7) SAIL(Stanford Artificial Intelligence Laboratory)은 AI 분야의 창시자 중 한 명인 ‘존 매카시’ 교수에 의해 설립8) http://news.mit.edu/2018/mit-reshapes-itself-stephen-schwarzman-college-of-computing-10159) 투자 펀드 운용사인 블랙스톤그룹의 CEO인 스티븐 슈워츠먼이 3억 5,000만 달러의 자금을 지원10) ‘MIT Schwarzman Computing College’는 컴퓨터의 기초 교육뿐만 아니라 다양한 분야와의 응용을 배우는 통합

커리큘럼을 제공하고, 관련 정책 및 윤리에 대한 교육과 연구의 장이 될 수 있도록 광범위한 연구 협력 확대 목표


1. 카네기멜론대학, CMU AI11)

□ 실용적인 문제 해결을 위한 인공지능 연구에 집중

o 본 연구소는 AI를 “현실 세계를 이해하고, 그 이해를 바탕으로

현명한 의사결정을 내릴 수 있는 것”이라고 정의

o AI 핵심 기술을 ‘AI Stack’으로 세분화하여 각 블록별로 집중 연구

o CMU는 AI 핵심 기술(AI Stack)을 포함한 자율서비스, 인간 지원,

AI 디자인, 머신러닝, 로보틱스를 주제로 다양한 프로젝트를 수행

< AI Stack> < AI 연구분야 >

※ 그림 출처 : ‘CMU AI’ 사이트에서 발췌

□ 주요 현안 해결 프로젝트(Real Problems, Real Solutions)

o (농업 분야: FarmView) 글로벌 식량 위기 해결을 위해 식물 육종 및

작물 관리 방법을 향상시키는 센싱, 로봇공학 및 AI 기술 연구

o (의학 분야) 유전자 분석으로 알츠하이머 질환의 새로운 치료법 연구

o (문제 해결) 불완전한 정보로 문제 해결을 위한 전략을 추론하는

AI의 가능성을 탐구(포커 게임*으로 가능성 제시)

* CMU의 AI ‘리브라투스(Libratus)’는 세계적인 포커선수들과의 게임에서 승리

11) https://ai.cs.cmu.edu/



□ 지능화된 시스템 구현을 위한 AI 기반 연구 강화

o 지능형 시스템 구현을 위해 컴퓨터 비전, 인간-기계 상호작용,

머신러닝, 자연어 처리, 로보틱스 등 AI 기반 연구 강화

< AI 기반 연구 주제 및 프로젝트 >

연구 분야(조직) 세부 연구 주제 및 프로젝트

Computer

Vision Lab12)

(Mobile Computer Vision) 이미지와 비디오에서 정보를 추출

(Model Based Vision) 객체의 3D 형상을 모델링, 상호작용 및 추론 연구

(The Role of Alignment and Learning) 탐지, 추적 및 분류 관련 연구

(Facial and Physical Behaviour) 얼굴 및 신체 행동의 코딩 자동화 연구

Human

-Computer

Interaction

Institute13)

사용자 인터페이스 SW 도구의 혁신, 컴퓨터 지원 협력 작업 및 도구 지원,

제스처 인식, 데이터 시각화, 지능형 에이전트, 시각적 인터페이스 디자인 등

(사례) Lumi Watch (사례) IoT Coffee Table (사례) Wall++(smart wall)

Machine

Learning

Department14)

뇌 영상 분석 연구 : fMRI(기능적 자기공명영상) 데이터 분석 알고리즘 개발

세포 조절자(Cell Organizer) : 이미지에서 세포 조직 생성 모델을 학습·분석

데이터베이스 : 고성능 데이터베이스 아키텍처, 멀티미디어/데이터 마이닝

Delphi 그룹(전염병 예측) : 데이터 기반 질병 예측 및 확산 연구 등

Querendipity 프로젝트 : 과학적인 데이터 관리·배포에 대한 연구

Read the Web : 웹을 읽는 컴퓨터 시스템을 만드는 연구 프로젝트

SAILING Lab(Statistical Artificial InteLligence & INtegrative Genomics) :

통계 AI 및 통합 유전체학에 대한 연구

SELECT Lab : 복잡한 시스템 설계, 분석, 제어를 위한 알고리즘 개발

Systems Biology Group : 생물학적 현상의 이해를 위한 계산 방법 개발

The AUTON Lab : 대용량 데이터 구조 및 알고리즘, 데이터 마이닝 연구

Language

Technologies

Institute15)

자연언어 처리, 정보검색 및 텍스트 마이닝, 음성 인터페이스와 대화

처리, 멀티 모달 컴퓨팅 및 상호작용, 교육용 언어 기술, 기계 번역,

기계 학습, 지식 표현, 추론 및 습득 등


12) http://www.cs.cmu.edu/~CI2CV/13) https://hcii.cmu.edu/14) https://www.ml.cmu.edu/15) https://www.lti.cs.cmu.edu/work/category/271716) https://www.ri.cmu.edu/

연구 분야(조직) 세부 연구 주제 및 프로젝트

The Robotics

Institute16)

(조작, 이동 및 제어 등 핵심 로봇 기술에 중점을 두고 있으며 기계 학습, 컴퓨터 비전 및 그래픽과 같은 관련 분야 연구도 추진)

적응형 신호등 신호방식(Adaptive Traffic Light Signalization)CMU의 Traffic21 이니셔티브의 일환으로 도시 도로 네트워크를 위한 적응형 교통 신호 제어 전략의 설계 및 적용을 연구. 현재 피츠버그 시내 도로 네트워크의 미세 시뮬레이션 모델을 실험 평가판으로 사용

ASAP(Apparatus to Sense Accuracy of Position)외과적 손 움직임 모델링, 외과 의사 평가 및 교육, 미세 수술기구 평가, 정확도 향상 시스템 평가를 위한 미세 수술기구 팁 위치를 고정밀 3D로 추적하는 시스템 개발

Autonomous Driving Motion Planning고속도로 및 도시 자치 주행을 위한 효율적이고 고성능의 모션 계획 방법을 개발

Autonomous Vineyard Canopy and Yield Estimation포도원의 생산성 및 효율성 향상을 위해 작물과 덮개(Canopy) 크기 추정치를 자율적으로 모으는 새로운 센서 기술을 설계하고 시연

Biodegradable Electronics몇 주에서 몇 달 정도의 제한된 기간 동안 치료 기능을 제공하는 이식 가능한 생분해성 전자 장치를 개발

Chiara키아라(Chiara)는 카네기멜론대학의 Tekkotsu 연구소에서 개발된 새로운 오픈 소스 교육 로봇으로 RoPro Design이 제작 및 판매 예정

Navigation Among Movable Obstacles재구성 가능한 환경에서 작업하는 로봇을 위한 자율적인 움직임 계획 및 제어 연구



2. MIT, Computer Science and Artificial Intelligence Lab17)

□ 우리 삶에서 긍정적인 변화를 가져올 컴퓨팅의 새로운 접근방식 연구

o 핵심적인 신기술 개발 및 컴퓨팅 분야를 발전시키는 기초연구 수행

- 시스템과 기계를 더 똑똑하고, 사용하기 쉽고, 안전하고, 효율적

으로 만드는 새로운 방법을 발견하는데 집중

o 본 연구소(CSAIL)는 연간 6천5백만 달러의 예산이 투입되어 60개

이상의 연구 그룹에서 440여개의 프로젝트가 진행 중

□ 주요 연구 분야

o CSAIL은 ‘알고리즘과 이론’, ‘AI와 머신러닝*’, ‘그래픽과 비전’,

‘인간-기계 상호작용’, ‘로보틱스’ 등 10여개 주제별 연구 추진

- 빅데이터, 정보보안, 교육, 에너지, 엔터테인먼트, 헬스케어, IoT, 제조,

운송 등 영향력이 큰 분야(Impact Areas)와 Cross-Area 연구 수행

< *‘AI & Machine Learning’ 분야 프로젝트 예시 >

연구 그룹명 주요 연구 내용

Clinical Decision-Making Group 임상 의사결정 강화를 위한 임상데이터 분석 연구

Clinical Machine Learning Group 건강관리 분야의 기계학습, 정밀의학 분야 연구

Computational Cognitive Science Group 인간 학습과 추론의 수학적 모델링 연구

Decentralized Information Group 기계학습을 위한 프라이버시 보호 프레임워크 등 연구

Imagination, Computation, and Expression Laboratory (ICE Lab)

새로운 형태의 게임, interactive narrative, 소셜 미디어, 디지털 미디어 아트 및 창의적인 컴퓨팅 기법 연구

Machine Learning 시스템과 컴퓨터 과학 이론에 기반 한 기계학습 연구

Medical Vision Group 의료 영상 분석 및 시각화를 위한 알고리즘 개발

Natural Language Processing Group 언어의 모델링, 실용적인 텍스트 처리 시스템 설계 등

Spoken Language Systems Group 모든 언어로 컴퓨터와 상호 작용할 수 있는 기술 개발

Vision Group 객체, 사람, 장면, 행동 등을 보다 잘 인식할 수 있는 기술 개발

17) https://www.csail.mit.edu


3. MIT 미디어랩, Ethics and Governance of Artificial Intelligence18)

□ 인공지능 윤리 및 거버넌스 연구 추진

o AI 기술 및 시스템의 적용이 가져올 사회적 영향, 거버넌스,

윤리적 함의 등을 단기적, 장기적 관점에서 연구

※ MIT 미디어랩은 하버드 대학의 Berkman Klein Center 등과 ‘인공지능윤리 및 거버넌스 기금19))’으로 관련 연구를 수행

o (증거기반 연구) 민간·공공부문 의사 결정자에게 지침을 제공하고

유익한 AI의 활용 촉진을 위한 파일럿 프로젝트를 추진

- 인공지능의 윤리 및 거버넌스에 관한 제도적 지식 기반을 구축

- 다양한 스프린트(sprints) 및 파일럿 연구, 교육·훈련, 대외활동 수행

- 초기 핵심 주제로 미디어 및 정보 품질, 공정한 형법 및 사회

정의, 자율주행 차량을 선정하여 연구 추진*

* 글로벌 거버넌스, 다양성과 포용(diversity and inclusion), 투명성에 대한 분석

o (민간-공공 인터페이스 강화) AI 영향력 연구에 엔지니어, 사회

과학자, 윤리학자, 철학자, 경제학자, 정책 입안자, 기업 등 참여 확대


o (미디어 및 정보 품질) 자율 정보시스템의 효과와 페이스북의 뉴스

피드와 같은 "영향력 있는 알고리즘"을 이해하고 제어하는 방법 연구

o (공정한 형법 및 사회 정의) 데이터 및 해석에서의 편향성이

조사와 법률 시스템에 미칠 영향에 대한 연구

18) https://www.media.mit.edu/groups/ethics-and-governance/overview/19) Ethics and Governance of Artificial Intelligence Fund : 2017년 1월에 John S., James L. Knight 재단,

Omidyar Network, LinkedIn 창립자인 Reid Hoffman 등이 인문학, 사회 과학 및 기타 분야를 AI 개발에 적용하기 위해 2,700만 불의 기금을 조성



o (자율주행 차량) 자율주행 차량의 사회적, 경제적 영향을 발전

잠재력과 오용 가능성 측면에서 연구

o 그 외 AI 윤리 및 거버넌스 구축, 유익한 AI 활용을 위한 스프린트

및 파일럿 프로젝트를 추진

< 스프린트 및 파일럿 프로젝트(사례) >

프로젝트 연구내용

알고리즘

의사결정과

거버넌스

글로벌 차원에서 운영 가능한 인공지능 거버넌스 매커니즘 연구

미국, 유럽, 아시아 등 각국의 사례 연구와 워크샵을 통해

인공지능 시스템의 관리 모델 도출

인공지능과

포용(Inclusion)

다양한 이해 관계자 그룹을 구성하여 인공지능과 포용

(Inclusion)간의 공통 영역을 조사하고, 다양성과 포용성을

지원하기 위해 인공지능 시스템을 설계하고 배포할 수 있는

방법을 연구

특히, 연령, 민족, 인종, 성별, 종교, 출신 국가, 위치, 기술 및

교육 수준, 사회 및 경제적 지위와 관련하여 열악한 집단에

대한 인공지능의 영향과 이러한 집단이 인공지능을 어떻게

생각하는지를 중점적으로 조사

Society-in-the-

Loop

인공지능 시스템에 영향을 받는 사회적 계약과 협약의 투명성,

책임성을 보장할 수 있는 장치 필요

AI와 알고리즘 시스템의 규제를 위한 개념적 프레임워크 개발

HAL

(Humanizing

AI in Law)

인공지능 시스템이 결정한 감사(audit)와 개선(improvement)

사항을 적법한 절차로 보장할 수 있는 프레임워크를 확립하기

위한 기술적, 법률적 기반 마련

형사 사법 분야에서 활용될 수 있는 AI 소프트웨어(피고인의

판결 지원 등)를 중점 연구


4. 스탠포드, Human-Centered Artificial Intelligence20)

□ 인간중심의 인공지능을 연구

o 인간과 협업적이며 생산성과 삶의 질을 향상시킬 수 있는 인간

중심의 AI 기술 및 응용 분야를 연구

- AI로 인간을 이롭게 하는 사례, 정책, 교육 및 진보된 AI를 연구

o 본 연구소는 “①AI기술은 인간의 지능에 영감을 받아야 하고,

②AI개발은 인간이 주도해야하고, ③AI 응용 프로그램은 인간을

지원하지만 대체하지 않는다.” 3가지 기본 신념을 제시

o 분야별 연구 센터 및 프로젝트, 파트너 그룹과 협업하여 연구 수행

- (언어 및 정보 연구 센터: CSL) 인지 기능, 프로세스에 대한

전산, 논리, 확률 모델링 관련 연구21)

- (AI Safety 센터) 안전하고 신뢰할 수 있는 AI 시스템 연구22)

- (사회 윤리 센터) 긴급한 공공 문제에 관한 윤리적 이니셔티브 개발23)

- 그 외 ‘AI100’, ‘AI Index’ 등 다수 프로젝트 그룹, 파트너와 연구 추진


o (Human Impact) 기계와 사람이 내리는 결정 사이의 “책임 격차

(responsibility gap)”와 AI가 사회·경제·산업에 미치는 영향을 연구

- 프로젝트 사례 : AI 알고리즘의 성별 및 인종 편향성 보정 연구,

인류의 지각(perceptions)에 대한 AI의 영향력 연구

20) https://hai.stanford.edu/21) https://www-csli.stanford.edu/22) http://aisafety.stanford.edu/23) https://ethicsinsociety.stanford.edu/



o (인간 역량 강화) AI를 활용한 교육, 훈련, 건강관리, 신체 강화

등 AI-인간의 상호 작용을 통한 인간의 역량 강화 방안 연구

- 프로젝트 사례 : 동적 AI를 활용한 구글 글래스 기반의 자폐증 치료,

동작 지도를 위한 햅틱 피드백 학습

구글 글래스 기반 자폐증 치료 연구24) 동작 지도를 위한 햅틱25)

o (지능: intelligence) 인간의 언어, 감정, 의도, 행동 및 상호 작용

등 인간의 인지를 이해하는 차세대 인공지능 기법 연구

- 프로젝트 사례 : 인간에 대한 적대적 사례(Adversarial Examples) 연구,

인간중심의 AI시스템 연구

< 적대적 사례(Adversarial Examples) >26)

약간의 데이터 조작·변형만으로도 AI가 틀린 판단을 하는 사례들

- 이는 AI 결과가 조작될 수 있음을 말하며, 신뢰성을 저해하는 취약점으로 작용 위험

(panda-gibbon 사례) AI가 57.7% 신뢰도로 ‘판다(panda)’로 인식했던 이미지에 미묘한 변화(small perturbation)를 더하면(가운데 이미지) AI는 이를 99.3%의 신뢰도로 ‘긴팔원숭이(gibbon)’라고 잘못 인식

※ 출처 : OpenAI(2017), “Attacking Machine Learning with Adversarial Examples”

24) https://med.stanford.edu/news/all-news/2018/08/google-glass-helps-kids-with-autism-read-facial-expressions.html25) Kristen Lurie, Juan Tamayo(2010), “Haptic Motion Training: Exploring Learning Environments for a

Portable Gait Retraining System”, IEEE26) https://blog.openai.com/adversarial-example-research/


5. 스탠포드, AI100 프로젝트27)

□ 인공지능에 관한 100년 연구 추진

o 향후 100년 동안(2015~2115) AI의 발전과 AI가 인간과 사회에

미치는 영향을 연구하는 프로젝트28)

- 2015년~2115까지 5년 마다 연구주제를 선정(상임위원회)하고,

구체적인 전망과 미래 이슈 연구를 추진(연구패널)할 계획

< ‘AI100’ 연구 조직 구성 >

상임위원회 연구패널

구성인지과학, 철학, 법학 등 다양한 배경을

가진 AI 전문가 7인AI 관련 학계, 산업계 전문가와 법,

정치, 경제학자 등 17인

역할AI100 프로젝트 관리 및 감독5년마다 연구패널 구성 및 연구 주제 선정

AI 발전현황, AI 기술, 사회적 도전과제 및 기회 평가

※ 출처 : NIA Special Report, “인공지능 발전이 가져올 2030년의 삶(2016.10.4.)”에서 발췌

o 연구패널이 도출한 결과는 AI 연구자, 산업계, 정책 입안자,

일반 대중이 인공지능의 현 상태를 파악할 수 있도록 제공

- AI의 현 상태와 잠재력에 대한 이해, AI 기술 및 법적·윤리적

문제에 대한 이슈 검토, 정부의 체계적인 AI 계획 수립 등 지원

□ ‘2030년의 인공지능과 삶’에 대한 연구(2016 Report)

o ‘2030년의 인공지능과 삶29)’을 주제로 첫 번째 보고서를 발간(‘16)

※ 다음 단계는 2020년까지 연구를 추진하여 결과를 도출할 계획

o 2030년 북미 도시 내 발생 가능한 인공지능의 영향력을 제시

- 운송, 서비스 로봇, 건강관리, 교육, 저(低)자원 커뮤니티, 공공 안전과

보안, 고용과 근로현장, 엔터테인먼트 등의 8개 영역에 집중

27) https://ai100.stanford.edu/28) 전 인공지능진보협회(AAAI)의 회장이자 컴퓨터 과학자인 ‘Eric Horvitz’가 AI의 장기적인 영향 연구 필요성을

주장하며 프로젝트 제안. ‘14년부터 본 프로젝트가 본격적으로 추진29) Stanford University(2016), “Artificial Intelligence and Life in 2030”, AI100



6. UC 버클리, Berkeley Artificial Intelligence Research30)

□ AI 핵심 기술을 연구하고, 다양한 문제 해결에 적용

o 지식 표현(Knowledge Representation), 추론(Reasoning), 기계학습,

의사결정, 비전, 로봇공학, 언어처리 등 AI 핵심 기술을 연구

o AI 핵심 기술에서 얻은 진보된 알고리즘을 생물정보학, 네트워킹

및 시스템, 탐색과 정보 검색 등 여러 분야의 문제 해결에 적용


o 심층·강화 학습, 인간과 로봇의 상호 작용, 머신러닝 등을 주제로

다수의 연구 프로젝트가 진행 중(“BAIR Blog” 참조)

< BAIR 주요 추진 프로젝트(사례) >

* Learning Acrobatics by Watching YouTube

<YouTube 시청으로 배우는 모션 학습>컴퓨터 비전과 강화학습 기법을 결합하여 시뮬레이션 된 캐릭터가 비디오 클립(YouTube 등)의 동작을 모방하여 다양한 기술을 습득

* Visual Model-Based Reinforcement Learning as a Path towards Generalist Robots

<로봇의 시각적 모델 기반의 강화학습>로봇의 자율적인 이미지 데이터 수집과 강화학습을 통해 물체를 들어 올리거나, 반바지를 접거나, 접시 위에 사과를 놓고, 물체를 재배치하고, 수건으로 포크를 감싸는 등 다양한 작업을 수행하는 연구 진행

* Towards Intelligent Industrial Co-robots

<지능형 산업 협력 로봇 연구>안전하고 효율적인 로봇 협업 시스템 (SERoCS: the safe and efficient robot collaboration system)을 통한 미래의 공장 구현

<DART : Noise Injection for Robust Imitation Learning>

DART 알고리즘으로 도요타 HSR 로봇이 침대를 정리할 수 있도록 학습시키고 실험

30) http://bair.berkeley.edu/index.html#header, https://www2.eecs.berkeley.edu/Research/Areas/AI/


7. UC 버클리, Center for Human-Compatible AI31)

□ 유익한 인공지능 시스템을 위한 개념적·기술적인 연구 추진

o UC Berkeley 컴퓨터과학 교수인 ‘스튜어트 러셀(Stuart Russell)’은

AI와 로봇이 인간만큼 영리해 질수 있으며 AI가 인간의 가치를

공유하는 방법을 고민해야 한다고 주장

o AI가 인간에게 유익하게 활용되고, 우발적인 사고가 발생하지

않도록 보장하는 연구를 추진하기 위해 센터 설립(‘16)

- AI 시스템이 인간의 가치와 일치하는 방식으로 사회에 필수적인

서비스를 제공하고, 중요한 인프라를 통제할 수 있는 방안 연구


o (가치 정렬 및 역 강화학습) 역 강화학습(inverse reinforcement learning)

접근법을 이용하여 인간의 가치관에 부합하는 인공지능 서비스 연구

※ 인공지능 서비스가 인간의 행동을 관찰하여 인간의 가치관을 배우는역 강화학습 방법을 연구

o (AI의 장기적인 위험) AI의 유익과 이점을 보장할 수 있도록

적합한 통제, 윤리적 문제, 안전성이 입증된 인공지능 구현 연구

※ 통제를 벗어난 인공지능, 지능형 자율 무기 개발 등에 따른 위험과이러한 위험에 대한 예측 불가능성에 대한 연구 수행

o (인간-로봇 협력) 원격 조정(Teleoperation), 인간의 추론을 반영한 로봇

모션 계획, 역 강화학습 등 로봇과 인간의 협업을 위한 연구 수행

※ 사람의 행동을 관찰·학습한 후 모방·시연하는 로봇 구현, 인간-로봇 모션 연구

o (합리성 이론) 인공지능의 합리적인 행동을 정의하기 위해 계산의

합리성을 구현하는 계산 메커니즘 연구

31) http://humancompatible.ai/



8. UC 버클리, Machine Intelligence Research Institute32)

□ 긍정적 영향력을 가진 인간보다 스마트한 인공지능 연구 추진

o MIRI는 지적 행동(intelligent behavior)의 수학적 구조와 시스템을

연구하는 비영리 단체

o 안전하고 신뢰할 수 있는 범용의 인공지능 시스템(general-purpose

AI)을 설계하고 분석할 수 있는 도구 개발을 추진

o 인간의 감독 및 개입이 없는 상황에서 의도한 대로 행동하는

인공지능 시스템 연구 개발이 목표


o (신뢰성 높은 에이전트 설계) AI 시스템이 왜 그렇게 행동하는지

이해할 수 있도록 투명한 인공지능 접근 방식(알고리즘) 연구

※ 전통적인 의사결정 및 확률 이론이 아닌 수학적 방법에 근거해서보다 정확한 의사결정 알고리즘을 개발

o (오류 허용 오차 및 가치학습) 온라인 디버깅, 목표 조정을 수락

하고 지원할 수 있는 고급학습 시스템 구현 방안 연구

※ AI시스템의 합리적이고 정당한 교정(corrigibility)에 대한 연구, 초 지능형

기계(superintelligent machine)의 인간 가치학습 방안 등을 연구

- ‘AI안전과 자율성 문제’에 대해 8가지의 연구 주제*를 제시

* 모호성 식별, 견고한 인간 모방, 정보에 근거한 감독, 일반화 가능한 환경 목표,

보수적 개념, 영향력 측정, 경미한 최적화, 도구적 인센티브 회피

o (예측, Forecasting) 고도의 적응력과 범용성을 지닌 인공지능

등장과 미래 이슈에 대한 예측 연구

※ 인공지능의 윤리적 문제, 강력한 자율 시스템 설계시 부작용 발생,지능 폭발(intelligence explosion)에 따른 기술 특이점 도달 등 미래 발생 이슈

32) https://intelligence.org/


9. 하버드, THE AI INITIATIVE33)

□ 글로벌 AI 정책 프레임워크 수립을 지원

o 하버드 케네디 스쿨(Harvard Kennedy School) 내 비영리 기관인

‘The Future Society34)’가 추진하는 인공지능 정책 연구 프로젝트

o 인공지능의 부상 및 결과에 대한 이해를 토대로 글로벌 인공지능

정책 프레임워크 수립을 지원

- 교통, 통신, 에너지, 금융, 의료, 국방, 보안 등 우리 일상에

도입된 컴퓨팅 시스템과 AI시스템은 인간의 능력 초월이 가능

- 이에 따라 인간의 정체성, 존엄성, 사회 구조, 개인 및 조직의

권한 부여에서 혼란이 발생할 수 있어 정치·사회적 대비가 필요

< 인공지능의 발달과 글로벌 도전과제 >

※ 그림 출처 : The AI Initiative

33) http://ai-initiative.org/34) 인류의 이익을 위해 기술의 힘을 안전하게 활용하는 방법을 연구하는 비영리 단체. The Future Society는

인공지능과 신기술의 거버넌스를 발전시키기 위해 ‘인공지능 이니셔티브(The AI Initiative), ’법과 사회의 이니셔티브(The Law and Society Initiativ)‘, ’The CitiX Initiative’의 세 가지 주제로 연구 활동 추진



□ AI 정책 프레임워크 권고사항 제시

o 지역 범주, 경제 주체, 산업 도메인 측면에서 인공지능 정책을

분석할 수 있는 프레임워크를 제시

o 글로벌 인공지능 정책 프레임워크 및 실행 가능한 대응 방안

마련을 지원하기 위한 기본 방향 설정

- (Convene: 논의) 포괄적인 이해 관계자(공공 및 민간, 학계, 시민

사회 등)와 AI 기술 전문가들이 참여하는 연례 회의를 구성

- (Create: 구축) 유익한 보호조치(safeguards), 투명성 기준, 디자인

가이드라인, 신뢰 구축 조치를 위한 글로벌 협약 등 협력 관계를 구축

- (Implement: 이행) 정부 기관, 기업, 시민 사회, 정책 입안자가

지역 및 국제 수준에서 합의된 규칙과 규정을 이행하도록 지원

< 인공지능과 신기술의 일상화 > < 인공지능 정책 분석 프레임워크 >

※ 그림 출처 : The AI Initiative


□ 주요 연구 주제 및 내용

① (인공지능과 법) 인공지능 발전에 의한 법 기능의 수행, 법률

체계에 대한 개념의 변형 가능성 연구

- 법적 추론과 의사 결정에 AI 통합 : 법률 서비스에 AI를 결합할 경우,

AI가 내린 결정은 본질적으로, 윤리적으로 적절한가? 에 대한 논의

- 프라이버시와 사실 발견 간의 균형 : AI가 인간의 생체, 감정, 신체

정보를 추적할 경우, 사생활 보호와 인간 존엄성에 대한 경계 설정은?

- 인간지능 vs. 인공지능의 유·무죄 지정 : 인간이 알고리즘의 영향을

받아 결정했을 때 인간과 AI 중에서 누구에게 책임을 물을 것인가?

- 정의에 대한 접근 보장 : 법적 체계가 부유하거나 기술에 정통한 사람

들에게 유리하지 않을까? 인간의 정의는 기계에 의해 통제되지 않을까?

- 법과 규정의 집행 : 인공지능이 탐지한 범법 사실에 대해 자동화된

형태로 법률 집행을 할 수 있는가? 공정성과 독재성 간의 경계는?

② (두뇌와 인지과학) 뇌/인지과학과 AI의 결합에 의한 기술적·과학적 진보, 기회와 도전, 기술에 대한 정책적 함의를 연구

- AI, 두뇌 및 윤리 : 인간 두뇌와 비슷한 AI에게 인간의 권리를

부여할 것인가? 혹은 AI 스스로 인간의 권리를 획득할 것인가?

- AI, 두뇌 및 데이터: AI가 사용하는 개인정보 문제, 정보의 집중과

이를 개발하고 통제하는 공공기관 및 민간 기업에 대한 논의

- AI, 두뇌 및 살아있는 객체 : 인간과 유사한 지능을 가진 애니

매트(Animats35))와 하이브로(Hybrots36)) 등에 대한 연구

- AI, 두뇌 및 노동력 : AI가 높은 수준의 인지 기능을 수행함에 따라

인간의 일자리에 미칠 영향과 정책 입안자의 대응 방안 연구

35) Animats: 인공 동물(Artificial Animals)36) Hybrid Robots, 전자적 요소 및 생물학적 요소로 구성된 컴퓨터에 의해 제어되는 로봇 형태의 인공두뇌형 유기체



③ (인공지능과 건강/의료) 결과예측, 신약개발, 자동 의료 이미지 등

AIM37) 시스템의 성공적, 윤리적 발전에 중요한 고려사항을 논의

- 데이터 수집 : AIM에 적용하는 건강 데이터의 품질과 무결성,

수익창출을 위한 활용, 재산으로서의 소유 및 접근 등 기술적,

윤리적, 법적 고려사항을 연구

- 지식 습득 및 표현 : 인간의 건강과 질병에 대한 명확한 지식

부족은 AIM의 토대를 형성하는 온톨로지의 신뢰성 문제로 연결

- AI의 결과 도출 과정 설명 : 진단, 치료 등 결과 도출 과정을

설명할 수 있는가? 임상 용도의 AIM 시스템을 검증하고 승인할

때 설명하고 이해할 수 있는가?

- 건강 시스템으로의 통합 : AI는 임상적 업무(workflow)와 노동력을

어떻게 변화시킬 것인가? AI 시스템에 대한 임상의(Clinicians)의

적응력 및 수용성 문제 등을 논의

37) AIM: Artificial Intelligence in Medicine


10. 옥스포드, Ethics in Artificial Intelligence38)

□ 인공지능 연구 윤리 강령을 연구하는 프로젝트

o 옥스포드 컴퓨터과학과는 ‘인공지능 연구 윤리 강령(Towards a Code

of Ethics for Artificial Intelligence Research)’을 주제로 프로젝트 추진

- 미래생명연구소(FLI)의 글로벌 연구 프로젝트 중 하나로 선정39)

o AI 연구 윤리 규범의 탄탄한 기반을 만들고 의학, 자율주행차,

자율거래 에이전트 등 대표적 분야와 연계한 AI 윤리 연구 추진

- AI 연구 윤리 강령과 관련되는 제도적 배경, 이론적 근거, 국가적

또는 국제적 관계 등을 고려하여 컨텍스트(context)의 이해를 강화

- 윤리 강령의 근간을 이루는 가치 및 힘의 변화에 대한 이해 등

□ 주요 분야별 인공지능 윤리 관련 이슈 연구

o (자율주행차) 자율주행차는 현재 인간에게 적용되는 운전 가능

능력(시력 등)과는 다른 방식으로 기준 및 표준 적용이 필요

※ 자율주행차량이 주변 도로 상태를 감지할 수 있는 충분한 역량을 갖췄는지,예상치 못한 사건을 처리하고 생소한 물체(상황)에 직면했을 때 올바른

의사결정을 할 수 있는지, 인간 운전 차량보다 더 안전한지 등에 연구 필요

o (초인공지능 : Super-intelligence) 인간 능력을 초월하는 인공지능

발전과 인간의 통제 능력 상실에 대한 잠재적 위험 논의

o (AI 실패 사례 연구) 실제 AI 실패 사례를 분석하여 AI의 편견과

편향성, 차별, 오류 발생 문제 등의 원인과 대응 방안 연구

※ COMPAS 알고리즘 논란(AI가 측정한 재범가능성을 형량 결정에 참고),구글의 사진앱이 흑인을 고릴라로 표시하는 사례 등을 논의

38) https://www.cs.ox.ac.uk/efai/39) 미래생명연구소(Future of Life Institute)는 엘론 머스크(Elon Musk)의 후원을 받아 ‘인류에게 유익한 AI’

발전을 목표로 글로벌 연구 프로그램을 운영(1차(‘15)에 37개, 2차(’18)에 10개의 글로벌 프로젝트 선정·지원)



□ 인공지능에 대한 윤리 강령 개발 이슈 연구

o (인공지능에 대한 과장) AI의 잠재적인 위험과 이익에 대한

과장(hype)으로 발생할 수 있는 대가와 윤리적 사고의 영향력 논의

※ 잠재적 위험에 대한 과민 반응은 무의미한 윤리적 대응과 희생이 따르고,잠재적 이익에 대한 과대광고는 위험을 간과하고 AI의 의존성을 높일 수 있음

o (윤리 강령 개발 참여의 다양성) AI 윤리 강령은 사회구성원에

사회적 평등 보장과 같은 중대한 영향을 미치므로 포용과 다양성

(inclusion and diversity)을 원칙으로 대중을 참여시키는 것이 중요

※ 신기술로 인한 불평등 집단과 소외 계층이 생기지 않도록 다양한 집단의영향력 검토 및 참여가 필요

o (윤리 강령의 문제) 윤리 강령이 잘 지켜지기 위한 강력한 제도

및 지원 방안에 대한 논의

※ 윤리 강령 개발에 그치지 않고, 조직 문화와 생활 속에서 체화될 수있도록 긍정적인 지원 문화가 뒷받침 돼야 함

o (윤리 강령의 권한) 인공지능 연구 윤리 강령의 권한과 권위에

관한 문제를 논의

※ 현재는 인공지능 윤리 강령을 시행·관리할 수 있는 전문기관이 부재하여

윤리 강령의 권위를 뒷받침하기 어려움


11. 옥스퍼드, Strategic Artificial Intelligence Research Centre40)

□ 안전하고 유익한 AI를 위한 전략과 툴 개발 연구

o 옥스포드 대학의 FHI(Future of Humanity Institute)41)와 캠브리지

대학 간의 공동 프로젝트 추진 형태로 센터 운영

o 안전한 AI 구축을 위한 ‘기술적 접근(AI Safety)’과 ’전략적 접근

(Governance of AI Program)’의 두 가지 측면에서 AI 분야 연구


o (AI Safety) 주로 기술적인 내용을 다루며, 연구 결과는 논문으로 발간

< AI Safety 관련 세부 연구 주제(예시) >

Trial without Error: Towards Safe RL with Human Intervention : 학습 모델이 없는 강화 학습에서, 감독 하에 있는 학습자가 인간의 개입 결정을 모방하도록 훈련하여 인간 노동력의 감소를 연구

A formal solution to the grain of truth problem : 에이전트에 포함되어 있는 진실(the grain of truth problem)을 찾는 형식적이고 일반적인 해결책을 연구

Learning the preferences of ignorant, inconsistent agents : 사람들이 가치를 두는 것이 무엇이며, 그 가치가 기계 학습과 어떻게 관련 되는지에 대한 분석 및 연구

Learning the preferences of bounded agents : 선호도와 신념을 추론할 때 최적상태로부터 벗어난 편차를 구조적이고 명시적으로 모델링

o (Governance of AI Program) 기계 지능의 장기적인 개발 위험을

줄이기 위해 광범위한 전략적, 윤리적 및 정책적 문제를 연구

- 지정학, 거버넌스 구조, 전략 동향 등이 고수준 인공지능 개발에

어떻게 영향을 미치는지를 연구

- 영국 총리실, 유엔, 세계은행, 세계 위험 관리국(Global Risk Register),

외교부 부처 등과 장기적인 AI 정책에 대해 협력 및 협의 진행

40) https://www.fhi.ox.ac.uk/research/research-areas/strategic-centre-for-artificial-intelligence-policy/41) 다양한 학문 분야를 다루는 종합 연구 기관으로 옥스퍼드 대학 소속이며, 수학, 철학, 사회 과학 및 과학을 이용하

여 인류 및 인류의 전망에 대한 큰 그림의 질문을 제기하고 연구. Nick Bostrom 교수가 2005년에 창립 및 운영



12. 워싱턴 대학, Paul G. Allen School42)

□ 지능형 동작의 기초가 되는 계산 메커니즘 연구

o 워싱턴 대학의 컴퓨터 과학 및 공학부 내에 인공지능 관련 8개

분야*를 중심으로 AI 연구 그룹을 구성

* 자동화된 계획과 통제, 뇌-기계 인터페이스, 전산 생물학, 지능형 상호작용,기계학습(Machine Learning), 자연어처리(NLP), 로봇공학, 컴퓨터 비전 등

o 본 연구 그룹의 스핀 아웃 기업인 ‘turi*’가 약 2억 달러에

Apple사에 인수되는 등 대외적인 연구 성과 창출

* 맞춤형 기계학습 기술 보유


① (Automated Planning & Control) 자동화된 계획과 통제를

위한 컴퓨터 프로세스 연구

의사결정 UI 연구 시간 계획 이론 가우스 프로세스(GP)

② (Brain-Computer Interfaces and Computational Neuroscience)

로봇을 제어하는 뇌-컴퓨터 인터페이스, 두뇌의 계산 원리 발견 연구

③ (AI in Computational Biology) 생물학적 정보를 사용한 질병

예측 및 진단과 치료법 개발을 위한 기계학습 알고리즘 개발

④ (Intelligent Interaction) 활동 인식, 에이전트 상호 작용, 대화형

기계학습 및 능동학습, 스마트 센싱 등 지능형 상호작용 연구

42) https://www.cs.washington.edu/research/ai. 2017년 워싱턴 대학 컴퓨터과학 및 공학 학부(Computer Science and Engineering)의 위상을 높이고 국제적인 투자를 유치하기 위해 학부 내에 Paul G. Allen 스쿨을 설립


⑤ (Machine Learning) 기계학습 알고리즘, 자연어 처리, 비전,전산 생물학, 웹 및 소셜 네트워크 분야로의 적용 연구 추진

언어와 비전 연구 Deep Learning 이미지/객체 인식/식별

⑥ (Natural Language Processing) 파싱, 정보추출 및 기계번역 등의

핵심 NLP 문제와 소셜 미디어 텍스트 모델링, 언어 분석 수행

다국적 표현 및 구문 분석 이벤트 감지 및 추출 관계와 엔티티 추출

⑦ (Robotics) 로봇 학습, 제어 이론, 수치 최적화, 생체 역학, 운동

신경 제어, 계산 신경 과학, 뇌과학 등 연구

모션/움직임 제어 연구데이터/이미지 기반

로봇 강화학습 및 제어사람들의 동작 패턴

학습(People Tracking)

⑧ (Graphics and Imaging Laboratory) 3D 재구성, 생체 의학 영상

처리, 인간 활동 인식 및 동장 분석 등 컴퓨터 비전 연구

이미지 태그의 심층 분류 물체와 장면의 실시간 변환과 추적 시각적 지식 추출 및 응답



13. 뉴욕대, AI Now Institute43)

□ 인공지능의 사회적 영향에 대한 연구 수행

o AI가 사회 영역에서 어떻게 잘 적용되는지 확인하기 위해

인공지능 시스템 측정, 감사, 분석 및 개선 방법을 개발

* ‘17년, 케이트크로포드(Kate Crawford)와메러디스휘태커(Meredith Whittaker)가설립

o AI의 사회적 함의에 관한 학제 간 연구를 수행하고, 이러한

문제에 초점을 맞춘 허브 역할을 수행

- 2016년부터 연례적으로 “AI Now 심포지엄”을 개최하여 AI의

사회적 영향에 대한 전문가 토론과 정책 권고사항을 마련


o (권리와 자유) AI 시스템의 공정성 평가, AI 개발 모범사례 확산,

AI 기술 배포 책임성 보장, 대중의 논의와 정책 결정 지원 연구

- AI 시스템이 취약한 개인과 소수자에게 미치는 영향, AI를 법

집행기관·형사 사법 시스템에 사용했을 때 영향력 등을 연구

o (노동과 자동화) AI시스템이 노동 부문을 어떻게 변화시키는지와

취약·소외계층의 부정적 영향을 완화하는 장기적 방안을 연구

o (편견과 포용) AI시스템의 편향 효과 및 완화 방안을 연구하고,

AI 기업 및 시스템의 다양성과 포용성을 평가하는 방안을 연구

o (안전과 핵심 인프라) AI 기술을 기존의 복잡한 인프라 시스템에

통합할 때 발생할 수 있는 잠재적 위험과 완화 전략을 이해

- AI 기술이 중요한 사회 인프라에 적용되는 방식을 적절한 계획,

평가 및 통합 전략 측면에서 검토함으로 안전 강화 전략을 연구

43) https://ainowinstitute.org/about.html


< “AI Now 2017 Report”에서 제시한 권고사항44) >

� ①� 형사사법,� 의료,� 복지,� 교육 부문(이를테면 “고위험”� 영역)� 담당기관과

같은 핵심 공공기관은 더 이상 “블랙박스”� 같은 인공지능과 알고리즘

시스템을 사용해서는 안 된다.

� ②� 인공지능 시스템 출시 전 기업은 해당 시스템이 훈련 데이터나 알고

리즘 또는 그 밖의 시스템 설계 요소 등의 문제로 인해 편견과 에러를�

증폭시키지 않도록 시험판을 철저히 운영해야 한다.

� ③� 인공지능 시스템 출시 후 기업은 다양한 맥락과 커뮤니티 속에서 사용

되고 있는 인공지능 시스템을 지속적으로 모니터해야 한다.

� ④� 고용과 인사(⼈事)� 등 근로현장 관리와 모니터링에 사용되는 인공지능�

시스템에 대한 연구와 정책 수립을 확대할 필요가 있다.

� ⑤� 훈련 데이터 집단의 생명주기 전반에 걸쳐 그 기원과 발전,� 활용 내용�

등을 추적할 수 있는 기준을 마련하라.�

� ⑥� 단순한 기술적 접근을 넘어 인공지능의 편견 연구와 완화에 관한

전략을 확대하라.�

� ⑦� “야생에서의”� 인공지능 시스템 사용에 대한 감사(監査)와 이해에 관한

강력한 기준이 신속히 마련돼야 한다.�

� ⑧� 기업과 대학,� 컨퍼런스 및 그 밖의 인공지능 분야 이해관계자들은

인공지능의 연구와 개발 과정 내 여성과 소수자 및 그 밖의 소외

단체들의 참여에 관한 데이터를 공개해야 한다.

� ⑨� 인공지능 산업은 컴퓨터 과학과 엔지니어링 이외의 분야에서도 전문가를�

고용해야 하며 이들이 의사 결정 권한을 갖도록 해야 한다.�

� ⑩� 인공지능 분야에 적용되는 윤리 규정에는 강력한 감시와 책임에 관한

커니즘이 수반돼야 한다.

44) AI Now Institute(2017), “AI Now 2017 Report”



글로벌 인공지능 연구의 4대 트렌드Ⅲ

□ 글로벌 AI 연구 방향 : “보다 똑똑한 AI & 인간에게 이로운 AI!”

o 세계적인 대학의 연구 및 프로젝트들은 “더 스마트한 AI”,

“안전하고 인간에게 유익한 AI” 개발이 핵심 목표

- 이를 위해 ①AI 핵심 기술, ②세계적 난제 및 사회현안 해결 방안,

③안전한 AI, ④사회·경제적 영향력 연구가 상호 연계되어 추진 중

< 세계적인 대학들의 AI 연구 추진 방향 >

조직 및 프로젝트 주요 활동

카네기멜론, CMU AI실용적인 문제 해결을 위한 AI 연구에 집중AI 핵심 기술을 ‘AI Stack’으로 세분화하여 연구

MIT, CSAIL(Computer Science and Artificial Intelligence Lab)

알고리즘, 머신러닝, 컴퓨터 비전, 인간-기계 상호작용, 로보틱스 등 10여개 주제별 연구

MIT 미디어랩, Ethics and Governance of Artificial Intelligence

AI 기술 및 시스템의 적용이 가져올 사회적 영향, 거버넌스, 윤리적 함의 등을 단·장기 관점에서 연구

스탠포드, HAI(Human-Centered Artificial Intelligence)

인간과 협업적이며 생산성과 삶의 질을 향상시킬 수 있는 인간중심의 AI 기술 및 응용 분야 연구

스탠포드, AI100향후 100년 동안(2015~2115) AI의 발전과

AI가 인간과 사회에 미치는 영향을 연구

UC 버클리, BAIR(Berkeley Artificial Intelligence Research)

지식 표현, 추론, 기계학습, 의사결정, 비전, 로봇공학, 언어처리 등 AI 핵심 기술 연구

UC 버클리, Center for Human-Compatible AI

AI가 인간에게 유익하게 활용되고 우발적인 사고가 발생하기 않도록 보장하는 연구 추진

UC 버클리, MIRI(Machine Intelligence Research Institute)

인간의 지적 행동(intelligent behavior)의 수학적 구조와 시스템, 안전한 AI를 연구

하버드(The Future Society), THE AI INITIATIVE

인공지능의 이해를 토대로 글로벌 AI 정책 프레임워크 수립을 지원

옥스퍼드, Ethics in Artificial Intelligence

미래생명연구소(FLI)의 글로벌 연구 프로젝트 중 하나로 ‘AI 연구 윤리 강령’을 연구

옥스퍼드, Strategic Artificial Intelligence Research Centre

옥스포드-캠브리지 대학 간의 공동 프로젝트안전한 AI를 위한 기술적, 전략적 연구 추진

워싱턴 대학, Paul G. Allen School뇌-기계 인터페이스, 기계학습, NLP, 로봇공학,

컴퓨터 비전 등 8개 분야를 중심으로 AI 연구

뉴욕 대학(AI Now Institute), AI Now AI가 사회 영역에서 어떻게 잘 적용되는지

확인하기 위한 측정, 감사, 분석, 개선 방법 연구


① (AI 핵심 기술) 인공지능의 기초가 되는 핵심 분야의 식별과 탐구

o 인공지능은 인지, 학습, 시각, 언어, 판단 등 인간의 능력을

모방하는 기술을 중심으로 발전

- Elsevier社는 세계적 규모의 논문 인용·색인 DB인 Scopus의

데이터를 분석하여 AI 연구를 7개 핵심 분야45)로 분류

- 스탠포드대학, ‘AI Index 2018’의 분석에 따르면 특히 머신러닝,

신경망, 컴퓨터 비전과 관련된 연구가 급증하는 추세

< AI 연구의 7개 핵심 분야 > < AI의 세부 주제별 논문 수 >

※ 출처 : Elsevier(2018) ※ 출처 : Stanford University(2018)

o 컴퓨터과학(CS)과 바이오, 산업 등 다학제간 융합·응용 연구도 증가

- 로보틱스, 인간-기계 인터페이스, 유전체 분석학(Genomics), 전산

생물학(Computational Biology) 등 인체, 자연과의 결합 연구 확대

- AI의 사회적, 산업적 활용을 위한 융합·응용 연구도 발전

o AI 기술은 지능 폭발(intelligence explosion), 기술 특이점(Singularity)의

도래로 초인공지능(Super AI)까지 발전할 것이라는 전망도 있음

※ 레이커즈와일(Ray Kurzweil)은 2029년까지인간수준의 AI가 등장할것으로전망

45) ①머신러닝과 확률추론(Machine Learning and Probabilistic Reasoning), ②신경망(Neural Networks), ③컴퓨터 비전(Computer Vision), ④검색 최적화(Search and Optimization), ⑤자연어 처리(NLP and Knowledge Representation), ⑥퍼지 시스템(Fuzzy Systems), ⑦계획 및 의사결정(Planning and Decision Making)



② (사회현안 해결) 사회현안 해결을 위한 유익한 AI 연구 확대

o AI를 세계적 난제 및 사회현안 해결에 활용하기 위한 연구 확산

- IBM 왓슨과 XPRIZE46)는 총 500만 달러의 상금을 걸고 AI로 세계적

난제 해결 방법을 찾는 공모전, ‘IBM Watson AI XPRIZE’를 개최

- ITU는 UN의 지속가능발전목표(SDGs) 달성과 인류의 도전과제

해결을 논의하기 위해 ‘AI for Good Global Summit’을 개최

- Google은 AI를 활용한 사회현안 해결 아이디어 공모를 위해

2,500만 달러의 자금을 투자(Google AI Impact Challenge)47)

- CMU의 인공지능연구소는 ‘Real Problems, Real Solutions’

이라는 슬로건 하에 주요 현안 해결 프로젝트를 추진

< CMU AI 연구소의 현안 해결 프로젝트 >농업 분야 의학 개선 문제 해결

글로벌 식량 위기 해결을 위한 로봇공학 및 AI

기술 연구

AI를 응용하여 알츠하이머 질병의 새로운 유전학적

발견과 치료법 모색

AI, 리브라투스(Libratus)의 알고리즘을 실제 문제

해결에 적용하는 방안 연구

o 특히 질병 예측 및 진단, 새로운 치료법 개발 등 의료·건강 분야의

난제를 해결하기 위한 연구가 심도 있게 추진

- 카네기멜론대와 피츠버그대 공동연구팀은 머신러닝으로 뇌 영상을

분석해 자살 위험이 높은 사람을 식별하는 연구 수행(‘17.10)48)

- UCSF49)의 손재호 연구팀은 뇌 스캔을 이용한 딥러닝 모델로

알츠하이머 조기 진단이 가능하다는 내용의 논문을 발표(‘18.11)50)

46) 엑스프라이즈(XPRIZE)는 세계적인 거대한 도전 과제(Grand Challenge)를 해결하기 위해 혁신적인 경쟁 모델을 설계하고 인센티브 상금 공모전을 기획·추진하는 글로벌 비영리 단체.

47) https://ai.google/social-good/impact-challenge/48) https://www.cmu.edu/dietrich/news/news-stories/2017/october/brain-imaging-science-identifies-suicidal-thoughts.html49) UCSF(UC San Francisco: 캘리포니아대학교 샌프란시스코캠퍼스) : 캘리포니아대학교 캠퍼스 중 하나로 의과중심 대학


③ (안전한 AI) 인간중심의 AI 발전을 위한 글로벌 협력 강화

o 일부 전문가들은 AI가 인류에게 위협적인 존재가 될 수 있음을

지적하고 글로벌 협력과 대응이 필요하다고 주장

- 엘론 머스크와 Y Combinator CEO인 샘 알트만은 안전한 AGI

(Artificial General Intelligence) 개발을 목표로 ‘OpenAI’를 설립(’15. 12월)51)

- 미래생명연구소(Future of Life Institute)는 엘론 머스크에게 약 1천만

달러의 후원을 받아 ‘AI Safety Research Program’을 운영

< 미래생명연구소(FLI)의 ‘AI Safety Research Program’ >

인류에 유익한 인공지능을 연구하는 글로벌 프로그램으로 전 세계적으로

연구 주제를 제안 받아서 지원 대상을 선정하고 지원*

* 1차(’15) : 37개 프로젝트 선정, 2차(‘18) : 10개 프로젝트 선정

(주요 글로벌 프로젝트 예시52)) ★AI 시스템의 수학적 속성 검증(스탠포드, ‘15),

★강력한 AI의 윤리 구현 방법(듀크대, ’15), ★안전한 AI의 결정 관련 불확실성(옥스포드, ‘15),

★인간가치 추론(옥스포드, ’15), ★가치정렬과 도덕적 메타레이싱(UB버클리, ‘15),

★AI 거버넌스 연구(예일대, ‘18), ★AI와 위험 패러다임 연구(캠브리지, ’18)

- 세계적인 전문가들 논의를 거쳐 인간에게 유익한 AI를 위한

‘아실로마 AI원칙(Asilomar AI Principles)*’을 도출53)

* 23개 원칙 제시 : 연구 이슈(5개)·윤리와 가치(13개)·장기적 이슈(5개)

(스티븐 호킹)

"worst event in the history of our civilization"

(엘론 머스크)

“AI could lead to third world war”(빌 게이츠)

“Humans should be worried about the threat posed by Artificial Intelligence”

50) https://radiology.ucsf.edu/blog/deep-learning-model-predicts-diagnosis-alzheimer%E2%80%99s-disease-using-18f-fdg-pet51) 인간에게 혜택을 줄 수 있는 AI 기술 연구 및 공개를 목적으로 총 10억 달러 규모의 연구 자금을 조성하여 설립52) https://futureoflife.org/first-ai-grant-recipients, https://futureoflife.org/ai-safety-research 53) 미래생명연구소(FLI)가 주최한 아실로마 컨퍼런스(‘17.1.5~’17.1.8)에 에릭 슈미트, 엘론 머스크, 래리 페이지,

레이 커즈와일, 스튜어트 러셀 등 세계적인 전문가들이 참여하여 유익한 AI(Beneficial AI)에 대해 논의



o 안전한 AI 중에서도 ‘윤리(Ethics)’는 가장 중요한 이슈 중 하나

- 옥스퍼드 대학교는 AI 연구 윤리를 체계화하고 제도적 틀을

마련하기 위해 ‘Ethics in Artificial Intelligence’ 프로젝트 운영

- IEEE는 AI 전문가와 개발자들의 윤리적 고려사항을 담은 AI 윤리

가이드라인, ‘Ethically Aligned Design’을 발표(‘16.12)

- 페이스북은 뮌헨공과대학교(TUM)가 ‘AI윤리연구소’를 설립하는데

5년간 750만 달러를 지원하겠다고 발표(‘19.1)54)

- 하버드 케네디 스쿨은 뱅크 오브 아메리카(Bank of America)의 후원을

받아 ‘AI의 책임 있는 사용을 위한 자문위원회’를 구성(‘18.4)

<하버드 케네디 스쿨의 ‘AI의 책임 있는 사용을 위한 자문위원회’>55)

하버드 케네디 스쿨의 과학 및 국제 문제 센터(Belfer Center for Science and

International Affairs)는 ‘AI의 책임 있는 사용을 위한 자문위원회*’를 구성

* The Council on the Responsible Use of Artificial Intelligence

본 위원회는 정부, 기업, 학계, 시민단체 등 30여명의 리더들이 참여하여

AI와 관련된 법적, 윤리적 해결 방안과 책임 있는 AI 플랫폼 개발 등 논의

※ 주요 이슈 : √개인정보보호(사생활 보호 & 빅데이터·머신러닝의 활용), √권리, 정의 및 평등(알고리즘의 책임성, 편향성 문제 등), √투명성(설명 가능한 AI), √인력(인력 재교육, AI교육)

o 앞으로 다가올 AI의 윤리 문제를 다루고 의사결정을 지원하기

위한 전문가 양성도 시작

- MIT 미디어랩은 ‘인공지능 윤리와 거버넌스’를 주제로 알고리즘적

의사결정, 설명가능한 기계학습 등을 연구하는 강의 개설(‘18.봄학기)56)

- 텍사스 대학은 ‘컴퓨터 과학의 윤리적 기초(Ethical Foundations of

Computer Science)’라는 강의를 개설하여 기술의 윤리적 관점을 교육57)

54) https://newsroom.fb.com/news/2019/01/tum-institute-for-ethics-in-ai/55) https://www.belfercenter.org/publication/harvard-kennedy-school-and-bank-america-announce-council-responsible-use-artificial56) https://www.media.mit.edu/courses/the-ethics-and-governance-of-artificial-intelligence/57) https://www.cs.utexas.edu/news/2018/ut-computer-science-adding-ethics-courses-curriculum


④ (사회·경제적 영향력) AI에 대한 이해와 잠재력·영향력 연구

o 인공지능이 인류와 사회에 미치는 영향에 대한 연구 추진

- 블랙스톤 CEO인 스티븐 슈워츠먼은 ‘하버드 비즈니스 스쿨’에

AI의 경제적 영향력 연구 자금으로 500만 달러를 지원(‘18.9)58)

※ AI가 산업, 비즈니스 및 시장에 미치는 영향력 탐구를 위해 사례 연구를추진할 계획이며, 연구 결과는 ‘Harvard Business Publishing’에 공개 예정

- 스탠포드대학은 AI에 관한 100년 연구, ‘AI100’ 프로젝트 추진

- 스탠포드, ‘인간중심 AI연구소(Human-Centered Artificial Intelligence)’

는 AI의 이해와 인류와 사회에 미치는 영향에 대한 연구 수행

- 옥스퍼드대학은 영국 경제사회연구위원회*에서 120만 파운드를

지원(‘18.11)59) 받아 법률분야에서 AI의 잠재력과 영향력을 연구

* Economic and Social Research Council(ESRC)

- 글로벌 기업, 비영리 단체, 학계가 참여하여 결성한 ‘AI 파트너십

(Partnership on AI)은 AI의 사회적 영향과 공익성에 대해 논의 추진

< 글로벌 AI 파트너십, ‘Partnership on AI’ >60)

세계적으로 영향력이 있는 글로벌 기업, 비영리 단체, 학계가 참여하여

사람과 사회에 이익을 주는 AI 파트너십, 일명 ‘Partnership on AI’를 창립(‘16.9)

- 현재 13개 국가, 80여개 파트너사 참여(삼성, 구글, 아마존, 애플, 페이스북, IBM,

intel, McKinsey & Company, accenture, Salesforce, AAAI, MIT media lab 등 다수)

- (목표) ①우수사례 개발·공유, ②AI 핵심 기술, 잠재력, 진행 방향에 대한 대중의 이해

증진, ③토론과 참여를 위한 플랫폼 제공, ④사회적으로 유익한 AI의 식별과 육성

- (주제) ①안전한 AI, ②공정·투명·책임 있는 AI, ③AI, 노동과 경제, ④인간-AI 협업,

⑤AI의 사회적 영향 연구, ⑥AI와 사회 현안 해결

AI가 사람과 사회에 미치는 영향에 대한 토론과 참여가 활성화되도록

공개적이고 포용적인 플랫폼(open and inclusive platform)을 제공

58) https://www.hbs.edu/news/releases/Pages/stephen-schwarzman-gift-artificial-intelligence.aspx59) http://www.ox.ac.uk/news/2018-11-29-university-oxford-receives-%C2%A312m-ai-and-legal-services-project60) https://www.partnershiponai.org



o 각국 정부는 AI의 잠재적 영향력을 고려하여 전략 및 정책 수립

- 미국, 중국, 프랑스 등 국가 AI 전략에서는 항상 AI의 사회·

경제적 영향력 전망이 중요함을 강조

- 기술발전과 산업 진보뿐만 아니라 사회 영향력 및 윤리 측면의

연구가 선행돼야 합리적인 AI 정책 수립이 가능

- AI의 사회·경제적 영향력 전망(수요)은 다시 기술발전(공급) 촉진의

매개체가 되는 등 기술-사회 공진화의 밑거름으로 작용

< 각국의 인공지능 사회·경제적 영향력 연구 현황 >

구분 주요 내용

미국

미 백악관에서는 인공지능의 미래를 준비하기 위한 ’Preparing for the future of artificial intelligence’ 보고서 발표(‘16.10)

인공지능 발전에 따라 사회, 공공 정책에 제기되는 이슈 조사 및 경제적 영향 분석을 통해 정책적 권고안 제시

프랑스

프랑스의 국가디지털위원회(CNNum), 프랑스 전략연구소(France

Stratégie)는 AI의 경제적·사회적 영향 전망 보고서* 발표(‘17.3) * Anticiper les impacts économiques et sociaux de l’intelligence artificielle

공공 정책을 통해 AI를 수반한 변화의 영향을 예상하고 이에 따른 경제적·사회적 측면에 대한 종합적인 분석 필요성 제기

영국

과학기술위원회(House of Commons Science and Technology Committee)

는 인공지능과 로봇의 미래 이슈와 영향력에 대해 조사* * Robotics and artificial intelligence inquiry(‘16)

이를 토대로 AI 시스템의 윤리적, 법적, 사회적 차원의 세부적인 조사를 착수할 계획

호주

호주 연구위원회(Australian Research Council) 지원으로 학계가 참여하는 ‘진보된 인간, 로봇과 일자리의 미래‘ 프로젝트* 추진(’16~)

* ‘Robotics, Enhanced Humans and the Future of Work' Project

로봇과 인공지능 기술 진보가 사회, 고용에 미치는 영향을 평가

캐나다

캐나다 고등연구소(Canadian Institute for Advanced Research; CIFAR)는 ‘캐나다 인공지능 전략*’의 일환으로 ‘AI & Society’ 프로그램 운영

* Pan-Canadian Artificial Intelligence Strategy

‘AI & Society’는 AI가 경제, 윤리, 정책 입안, 철학, 법 등이 포함된 다양한 주제와 사회 이슈에 대해 조사·연구하는 것이 목표

AI가 현재와 미래에 미치는 영향에 대해 논의하는 워크샵 개최


결론 및 시사점Ⅳ

① 인공지능 연구의 핵심 키워드는 “인간, 유용, 안전, 이해”

o AI 연구는 인간을 닮은 기술의 발전이 기본적인 목표

o 기술의 진화에 따라 AI의 사회적 가치 창출과 활용 연구도 확산

o 인간에게 유익한 AI를 개발하기 위한 윤리 및 안전성 연구 증가

o 사회 모두가 동참하기 위해서는 AI에 대한 이해 연구가 중요

➡ 「AI 연구는 위 4가지 키워드가 핵심적이며, 4가지 요건이

모두 충족돼야 AI 혁신을 완성할 수 있음」

< 글로벌 AI 연구의 4대 트렌드 및 키워드 >



② AI 네트워크로 새로운 힘을 만든다. : “AI의 POWER!”

o (Partnership: 파트너십) 안전하고 유익한 AI 발전과 생태계

조성, 사회적 기여를 위해 영향력 있는 글로벌 파트너십 구성

o (Open: 공개) 평등·공정·투명한 AI 개발, AI의 잠재적 위험 식별,

포용과 다양한 참여를 목표로 정보의 공유와 공개적 논의 활성화

o (Work together: 협력) 다학제간, 대학간, 대학-기업간 AI 공동

연구뿐만 아니라 글로벌 연구 협력의 양적·질적 규모 확대

o (Expansion: 확장) 인류 난제 해결, 새로운 과학적 발견을 위한

글로벌 아이디어 공모 및 프로젝트 추진 등 AI 연구의 외연 확장

o (Review: 검토) 사회적 합의 및 대응을 위해 AI 이슈, 글로벌

아젠다, AI의 영향력을 검토하는 자문위원회, 거버넌스 등을 구성

< 세계적인 AI Hub는?61) >

중국의 AI 전문 미디어 기업인 ‘SyncedReview’은 세계 10대 AI Hub를 발표

①샌프란시스코 베이(전 세계 AI 투자의 41% 유치), ②뉴욕-보스톤(정밀의학, 핀테크)

③런던(딥마인드, 캠브리지, 옥스퍼드 등), ④몬트리올(맥길·몬트리올大, 글로벌 AI연구소),

⑤토론토(Pan-Canadian AI Strategy 지원), ⑥인도 방갈로르(AI 및 로봇공학센터(CAIR)),

⑦베를린(독일 인공지능 연구센터(DFKI)), ⑧베이징(중국 AI 창업의 43% 보유),

⑨심천(중국 AI 회사의 20% 위치), ⑩이스라엘 텔아비브(AI스타트업 M&A 활성화)

※ 학술 연구기관 클러스터, 인재 파이프라인(talent pipelines), 벤처 캐피탈 및 스타트업 생태계, 정부 정책 지원 등을 종합적으로 분석(source : Wuzhen Institute)

※ 출처 : SyncedReview(2017), ‘2017 in Review: 10 Leading AI Hubs’

61) https://medium.com/syncedreview/2017-in-review-10-leading-ai-hubs-e6f4d8a247ee


③ 인공지능 연구 분야의 인재 확보 전쟁이 치열

o AI 인력 수요는 급증하고 있으나 세계적으로 인력이 부족

- 중국 IT기업 텐센트는 ‘글로벌 AI 인재 백서62)’에서 전 세계

AI 인재는 30만명 정도며, 이중 10만명은 학계에 있다고 추산

- 산업의 AI 인력 수요가 100만명인데 비해 현 공급인력도 적고,

향후 AI 졸업생도 매년 2만명 정도로 수요대비 미미한 수준

o 중국 칭화대학의 ‘중국인공지능발전보고서 2018’에 따르면 상위

15개 국가가 전 세계 AI 인재의 61.8%를 보유

- 미국의 AI 인재 보유율은 세계 13.9%로 세계 1위

- 2위는 중국(8.9%)이고 인도(8.5%), 독일(4.6%), 영국(3.9%), 프랑스(3.1%)

순으로 많은 AI 인재를 보유했으며, 한국은 1.3%(15위)에 그침

o 그러나 중국은 세계 2위의 AI 인재 보유국임에도 핵심인재가

부족하여 AI 연구의 기초가 튼튼하지 않다고 진단(칭화대학교)

- 미국은 AI 인재 중, 핵심인재* 비율이 18.1%인데 비해 중국은 5.4%

* 논문 H-factor(피인용횟수)를활용해세계상위 10%에해당하는핵심인재를선별

< 전 세계 AI 인재 분포(단위 : 명) >

※ 출처 : 중국 칭화대학교(2018), “중국인공지능발전보고서 2018(中国人工智能发展报告 2018)”

62) Tencent Research Institute(2017), ‘2017 全球人工智能人才白皮书’



④ AI 연구의 발전을 위한 정확한 진단과 방향 설정이 중요

o AI 연구 역량의 격차는 AI 산업과 국가 경쟁력의 격차로 연결

- 중국이 향후 4년 이내에 AI 연구의 글로벌 선두가 될 것으로

예상63)되어 경쟁국들의 대책 마련이 시급

< 국가별 연간 AI 논문 수 > < 전세계 AI 연구 출판물 점유율 >

※ 출처 : Stanford University(2018) ※ 출처 : Elsevier(2018)

o AI 연구 발전을 위해서는 AI 역량 진단 및 투자 분야 식별이 중요

- 데이터를 기반으로 AI의 객관적 수준을 측정하는 연구*가 시작

* 스탠포드대학 ‘AI Index 2018’, 중국 칭화대학 ‘중국인공지능발전보고서 2018’

- 국내외 AI 데이터의 종합적 분석, 객관적인 연구 정보 제공을

위해 우리의 실정에 맞는 AI 수준 진단 연구 필요

< 한국의 ‘AI Index’, 데이터로 측정하는 우리나라 인공지능 수준 >

한국정보화진흥원(NIA)은 「우리나라 인공지능 분야 수준 조사 연구」 추진(‘18)

- 스탠포드 ‘AI Index’ 방법론을 준용하여 총 15개 지표에 대한 데이터 분석 및 수준 측정

- 인공지능 수준 측정에 대한 지표별 전문가 검증과 의견 수렴

초기 연구 한계점을 개선하여 한국형 AI 지표 체계를 지속 발전시킬 예정

※ 출처 : 백인수·황현주(2018), “데이터로 측정하는 우리나라 인공지능 분야 수준”

63) ELSEVIER(2018), “Artificial Intelligence: How knowledge is created, transferred, and used”


참고 자료☞

[1] 김은정(2016), “인공지능 발전이 가져올 2030년의 삶”, 'Special Report 2016-4', NIA

[2] 정지선(2017), “대한민국의 지능화를 묻다-미래 지능정보사회의 이슈와 과제”,

IT&Future Strategy, NIA

[3] 백인수·황현주(2018), “데이터로 측정하는 우리나라 인공지능 분야 수준”,


[4] 정지선(2018), “글로벌 지수로 본 한국의 4차 산업혁명 대응 역량과 과제”,


[5] IEEE(2016), “Ethically Aligned Design - A Vision for Prioritizing Human

Wellbeing with Artificial Intelligence and Autonomous Systems”

[6] Stanford University(2016), “Artificial Intelligence and Life in 2030”

[7] Andrew L. Beam(2017), “Deep Learning 101”

[8] Susan Etlinger(2017), “The AGE OF AI : How Artificial Intelligence is

Transforming Organizations”

[9] SyncedReview(2017), “2017 in Review: 10 Leading AI Hubs”

[10] Tencent Research Institute(2017), “2017 全球人工智能人才白皮书”

[11] AI Now Institute(2018), ‘AI Now 2017 Report’

[12] ELSEVIER(2018), “Artificial Intelligence: How knowledge is created,

transferred, and used”

[13] Forbes(2018), “10 Charts That Will Change Your Perspective On Artificial

Intelligence's Growth”

[14] Stanford University(2018), “Artificial Intelligence Index: 2018 annual report”

[15] Tim Dutton(2018), “An Overview of National AI Strategies”



[16] WEF, PwC(2018), ‘Harnessing Artificial Intelligence for the Earth’

[17] 칭화대학교(2018), “中国人工智能发展报告 2018”

[18] beamandrew.github.io/deeplearning/2017/02/23/deep_learning_101_part1.html

[19] https://ai.cs.cmu.edu

[20] https://www.csail.mit.edu

[21] https://www.media.mit.edu/groups/ethics-and-governance/overview

[22] https://hai.stanford.edu

[23] https://ai100.stanford.edu

[24] http://bair.berkeley.edu/index.html#header, https://www2.eecs.berkeley.edu/Research/Areas/AI

[25] https://intelligence.org

[26] http://ai-initiative.org

[27] https://www.cs.ox.ac.uk/efai

[28] https://www.fhi.ox.ac.uk/research/research-areas/strategic-centre-for-artificial-intelligence-policy

[29] https://www.cs.washington.edu/research/ai

[30] https://ainowinstitute.org/about.html

[31] https://ai.google/social-good/impact-challenge

[32] https://futureoflife.org

[33] https://www.partnershiponai.org

[34] https://medium.com/syncedreview/2017-in-review-10-leading-ai-hubs-e6f4d8a247ee

[35] https://openai.com


IT� &� Future� Strategy�보고서

• 제1호(2019. 3. 8.) 「AI Research Report-글로벌 인공지능 연구의 4대 트렌드와 시사점」

1. 본 보고서는 방송통신발전기금으로 수행한 정보통신‧방송 연구개발 사업의 결과물이므로,

보고서 내용을 발표할 때는 반드시 「과학기술정보통신부 정보통신‧방송 연구개발 사업」

의 연구결과임을 밝혀야 합니다.

2. 본 보고서 내용의 무단전재를 금하며, 가공‧인용할 때는 반드시 출처를「한국정보화

진흥원(NIA)」이라고 밝혀 주시기 바랍니다.

3. 본 보고서의 내용은 한국정보화진흥원(NIA)의 공식 견해와 다를 수 있습니다.

글로벌 인공지능 연구의 4대 키워드와...

Documents