인공지능 활용 비즈니스윤리 가이드라인 필요성과 정책과제

2018. 11. 8.

김 명 주 mjkim@swu.ac.kr

서울여자대학교 정보보호학과

기대 못지 않게 지속되어온 우려

3

우려와 걱정

위험과 책임

4

2016.5

2018.3

편견과 차별

5

프라이버시와 중독

6

Yingying

Gatebox아즈마 히카리(GTBX-100)

RealbotixHarmony 3.0

(2018.10)

민감정보 - 활용과 보호 (1/2)

7

민감정보 - 활용과 보호 (2/2)

8

9

기술 발전과 불안 증폭

Adversarial Patch (Tom B. Brown, Google, 2017. 12) Google Duplex Demo from Google IO (2018.5)

Visible Watermarker remover(Google, 2017. 8)

인공지능 윤리 동향

AI 윤리 - 발자취 (1/2) 해외

11

닉 보스트롬 옥스퍼드대 철학과 교수가 <인공지능 윤리>를 발표함 2011년

미국 NSTC에서 인공지능 윤리 과제를 포함한 <미래 인공지능에 대한 준비>라는 보고서 2종을 발간함

2016년 10월

IEEE 학회에서 윤리적인 인공지능 설계의 필요성, 책임성, 투명성, 인식제고, 개인정보보호, 고용문제 등을 제시한 <윤리적으로 조율된 설계>(Ethically AlignedDesign, EAD)를 발표함

2016년 12월

일본은 자국에서 개최된 G7 정보통신장관회의에서 <인공지능 윤리>를 회의 의제로상정하여 국제적 이슈로 점화함

2016년 4월

일본 총무성이 주도하여 인공지능 개발자가 준수할 8대 원칙을 중심으로 <AI 개발가이드라인 수립을 위한 주요 논점>을 발표함

2016년 12월

일본은 AI 네트워크사회 추진 컨퍼런스에서 <AI 개발 가이드라인>을 발표함 2017년 7월

미국 비영리 연구단체인 FLI가 주관하여 스티븐 호킹, 엘론 머스크 등 2,000여명의유명인 서명을 받아 3개의 범주에 걸친 <아실로마 인공지능 23원칙>을 발표함

2017년 1월

유럽연합에서 로봇을 개발할 때 인간 존엄과 프라이버시, 안전을 우선적으로 고려하며 로봇을 전자인간으로 정의하는 <로봇법 가이드라인>을 발표함

2017년 2월

독일 교통부에서 <자율주행자동차 가이드라인>을 비강제적 권고문 형태로 발표함 2017년 8월

미국 연방정부가 <자율주행자동차 가이드라인>을 발표함 2017년 9월

영국 옥스퍼드대 FHI에서 <인공지능의 악용 –예고/예방/경감> 자료를 발표함 2018년 2월

유럽의회가 2년 전인 2016년에 공표한 <GDPR>(개인정보보호규정)을 시행함. 이 규정 안에는 인공지능 개발과정에서 고려해야 할 “개인정보의 자동 프로파일링 및 활용에 대한 결정 권리” 등이 포함되어 있음

2018년 5월

AI 윤리 - 발자취 (2/2) 국내

12

로봇윤리협의체에서 <로봇윤리헌장(안)>을 발표했으나 후속 작업이이루어지지 않음

2007년

제30차 정보문화의 달 행사에서 인공지능윤리를 주제로 한국‧중국‧일본 아시아 3개국의 준비 현황을 교류하는 글로벌 세미나를 진행함

2016년 6월

정보문화포럼‧한국정보화진흥원‧과학기술정보통신부가 국내 최초로 인공지능 윤리를 포괄한 <지능정보사회 윤리 가이드라인>(안)을공청회를 통해서 공개하고 그 후 18번의 개정과정을 거쳐 <SeoulPACT>라는 명칭으로 확정‧공표함

2017년 9월2018년 1월

카카오에서 인공지능 기술의 지향점, 결과의 의도적 차별성 방지,윤리에 근거한 학습 데이터 및 수집 관리 원칙 등을 담은 <알고리즘윤리헌장>을 발표함

2018년 2월

정보문화포럼‧한국정보화진흥원‧과학기술정보통신부가 제31회 정보문화의 달 행사에서 국내 최초의 인공지능 윤리헌장인 <지능정보사회 윤리헌장>을 공표함

2018년 6월

한국로봇산업진흥원에서 <로봇윤리헌장(안)>을 개정하여 발표함 2018년 9월

AI 윤리 헌장

13

정보문화포럼

ACM 윤리강령 (1/4)

ACM(Association for Computing Machinery)학회, 1947

ACM Code of Ethics and Professional Conduct

26년 만에 개정된 ACM윤리강령(1992.10▶2018.7)

1992.10. 일반강령(8) 전문강령(8)

2018. 7. 일반원칙(7) 전문가 책임(9) 전문 리더십 원칙(7) 강령준수(2)

사회적 책임감, 전문 리더십 강조

윤리적 의사결정을 돕는 지침

14

https://www.acm.org/code-of-ethics

ACM 윤리강령 (2/4)

1조 : 일반 윤리 원칙1.1 모든 사람이 컴퓨터 기술의 당사자임을 알고 사회와 인류복지(human

wellbeing)에 기여한다.

1.2 피해(harm)를 피한다.

• 실수로 인해, 혹은 의도치 않게 피해를 발생시킨 경우, 책임을 져야 하는 자들은 피해를 되돌리거나 최대한 복구시키기 위해 반드시 노력해야 한다.

• 바로 피해로 이어질 수 있는 시스템 리스크의 징조가 보이면 그 즉시 알리는것이다.

1.3 정직하고, 신뢰감을 주어야 한다.

1.4 공정(fair)하고, 차별하지 않도록 행동한다.

1.5 새로운 아이디어, 발명품, 창작물, 컴퓨팅 산물을 생산하는 데 필요한 일들을존중한다. (◀ 이전 윤리강령의 6, 7번을 통합하여 더 보편적으로 기술함)

• 저작권, 영업기밀, 특허권, 라이선스, 직무발명, 오픈소스(상업용, 개인용)

1.6 프라이버시(privacy)를 존중한다.

1.7 기밀(confidentiality)을 유지한다.

15

ACM 윤리강령 (3/4)

2조 : 전문가의 책임

2.1 전문적인 작업을 할 때 과정과 제품 모두에서 높은 품질을 달성하도록 노력해야 한다.

2.2 전문 역량, 행동, 윤리적 실천에 관하여 높은 기준(standard)을 유지한다.

2.3 전문적인 업무와 관련이 있는 규정들을 알고 존중한다.

2.4 적합한 전문 견해(professional view)를 받아들이고 또한 제공한다.

2.5 발생 가능한 위험 분석을 포함하여 컴퓨터 시스템 및 그 영향력에 대하여 포괄적이며 철저한 평가를 제공한다.

2.6 전문 역량(competence)을 발휘할 수 있는 분야에서만 일한다. (◀추가)

2.7 컴퓨터와 관련 기술 및 그 결과에 대하여 대중의 인식과 이해를 증진시킨다.

2.8 컴퓨터 및 통신 자원은 허가를 받은 경우나 공익과 관련된 경우에만 접근해야 한다.

2.9 철저히 그리고 유용하게 안전한 시스템이 되도록 설계하거나 구현한다. (◀추가)

• 사고나 악의에 의한 남용, 조작, 마비 상황에 대해서도 미리 대비

16

ACM 윤리강령 (4/4)

3조 : 전문적 리더십의 원칙 (◀추가)3.1 전문가로서 컴퓨터 관련 업무를 수행할 때마다 공익(public good)을 핵심가치

로 둔다.

• 공익과 사람을 먼저 생각한다.

3.2 조직 및 그룹 구성원들에게 사회적 책임(social responsibility)을 분명하게 알리고 이를 받아들이도록 격려하며 그 이행여부를 평가한다.

3.3 일하는 삶의 수준이 향상되도록 인력과 자원을 관리한다.

3.4 윤리강령의 원칙을 반영하는 정책과 절차를 분명히 하고 적용하며 지원한다.

3.5 조직 및 그룹의 구성원들이 전문가로서 성장할 수 있도록 기회를 제공한다.

3.6 시스템을 수정하거나 폐기할 때는 주의를 기울인다.

3.7 사회기반시설로 통합되는 시스템에 대해서는 특별한 주의를 기울인다.

• [예] SNS, Cloud

4조 : 강령 준수4.1 강령에 나온 원칙들을 지지하고 증진하며 존중해야 한다.

4.2 윤리강령을 위반하면 ACM 회원으로서 부적합함을 인식한다.

17

인공지능 활용비즈니스 윤리가이드(안)

Seoul PACT 38

19

지능정보사회 윤리가이드라인

Seoul PACT 38 ▶ AI 윤리 공통원칙

20

인류 번영

사회 변화

자율성

지능성

지능정보기술

공공성Publicness

P

책무성Accountability

A

통제성Controllability

C

투명성Transparency

T

Seoul PACT 38 ▶ AI 윤리 공통원칙

21

P

A

C

T

공공성Publicness

많은 사람에게 도움을 주고 인류 혜택을 추구함 창출된 경제적 번영은 광범위하게 공유되어야 함

책무성Accountability

사회 변화에 대한 책임 분배를 명확히 함 안전한 사회를 위한 개인적 의무를 수행함

통제성Controllability

인간에 의한 안전한 관리와 통제가 가능해야 함 이용에 따른 오작동 대비책을 미리 마련해야 함

투명성Transparency

위험가능성에 관한 정보는 공유〮공개되어야 함 의사결정과정에 다양한 의견들이 반영되어야 함

Seoul PACT 38 ▶ AI 윤리 주체

22

정부(법ㆍ정책)

국제협약

Environmental Governance

공급자(P)

개발자(D)

제품공급자

서비스공급자

이용자(C)

직접이용자

간접이용자

AI기반 비즈니스

Seoul PACT 38 ▶ AI 윤리 <공공성>

23

기술개발 전 과정에서 사회적 차별요소를 배제해야 한다. 사회적 약자와 소외계층을 위한 접근성을 보장하도록 한다. 사회 문제 해결에 도움이 되는 기술 개발에 노력한다.

공공의 이익에 부합한 제품과 서비스를 공급한다. 선한 의도로 개발자에게 발주한다. 상업적 이익 추구와 공공적 기여 사이의 조화와 균형을 추구한다.

개발자

공급자

Seoul PACT 38 ▶ AI 윤리 <책무성>

24

개발에 따른 사회적 이용 과정 및 결과에 대하여 책임을 공유한다. 기술개발 정보 교류 및 기술 갱신에 지속 참여한다. 국제적, 국가적, 시회적 품질 인증 기준을 만족하도록 개발한다. 연구 및 개발 과정에서 윤리적 절차를 이행하도록 한다.

제품과 서비스 공급에 따른 사회적 폐해에 책임을 공유한다. 이용자에게 정확한 지침을 제시하고 적합한 교육을 실시한다. 제품과 서비스의 자율적 의사결정에 엄격한 조건과 방법을 확립한다. 위험예방을 위한 사회적 공론화에 적극 참여한다. 오작동 및 사고발생에 대비한 합리적인 책임〮보상 원칙을 수립한다.

개발자

공급자

Seoul PACT 38 ▶ AI 윤리 <통제성>

25

예외적인 상황에서 발생 가능한 문제에 대한 검토과정을 갖는다. 기술적인 제어가 가능하도록 지속적으로 품질을 관리한다. 오작동 및 위험에 대비한 기술적 제어장치를 마련해 놓아야 한다.

위험 등에 대한 사전검증을 거쳐 이용자의 기각방법을 제공한다. 개발자와 협력하여 안정성 검증에 참여하고 통제조치를 마련한다. 이용자의 선택 가능성을 최대한 보장한다. 개발자의 자의적 기술개발에 대한 제도적 예방 방안을 수립한다.

개발자

공급자

Seoul PACT 38 ▶ AI 윤리 <투명성>

26

위기 상황이 발생하면 공동 대처하며 관련 자료를 공유한다. 지속적 관리에 무관한 은닉기능을 개발하지 않는다. 이용에 따른 결과와 부작용 예측에 노력하고 이를 공급자와 공유한다.

발생한 위험과 잠재적 위험을 이용자에게 고지하고 공유한다. 정확한 이용 방법에 대한 교육과 관련 매뉴얼을 제공한다. 이용자에 관하여 취득한 제반 정보를 부당하게 활용하지 않는다. 사회적 영향 평가 결과에 관심을 두며 이를 공급과정에 반영한다.

개발자

공급자

윤리와 정책

사업자와 개발자와 가치관 차이(사례)

28

출처: http://www.straightnews.co.kr/news/articleView.html?idxno=36357 (2018.10.7)

Google의 AI 원칙

Objectives for AI applications: “We believe that AI should”

1. Be socially beneficial. (공공성)

2. Avoid creating or reinforcing unfair bias. (공정성)

3. Be built and tested for safety. (안전성)

4. Be accountable to people. (책임성)

5. Incorporate privacy design principles. (프라이버시 보호)

6. Uphold high standards of scientific excellence.

7. Be made available for uses that accord with these principles.

AI applications we will not pursue

1. 전반적인 피해(harm)를 일으키거나 일으킬 가능성이 있는 기술

2. 인명 피해를 야기하거나 직접적으로 손해를 가하는 것이 주요 목적인 무기와 기술

3. 국제적으로 수용되는 규범을 위반하여 감시 정보를 수집하거나 사용하는 기술

4. 국제법 및 인권과 관련하여 보편적으로 수용되는 원칙들을 위배하는 기술

출처: https://www.blog.google/technology/ai/ai-principles/ (2018. 6. 7.)

29

AI에 대한 미국의 정책 (1/4)

30

AI에 대한 미국의 정책 (2/4)

31

인공지능에 대한 연방정부의 지원정책 피력• 경제성장과 사회혁신의 주요 동력

• 연구 개발 투자 – 기초연구, 기반연구

• 인력 양성 지원

• 군사기술과 인공지능

• 국제협력 증진

인공지능에 대한 규제의 필요성• AI 자체의 보안위협

• AI 활용에 따른 위험요소 평가

• 안전성 및 제어가능성

• 공정성, 책임 규명

• 현존하는 규제, 새로운 규제

23가지 권고(recommendations)

AI에 대한 미국의 정책 (3/4)

32

AI에 대한 미국의 투자액: 2017년 20억 달러 (2조 1,600억원)• EU(19억 달러)

• 영국(14억 달러)

AI분야에서의 중국의 약진: 2017년 55억 달러 투자• 2016년 <인터넷 플러스 인공지능 3년 협동 실시 방안> 수립

• 2017년 7월 <새 시대의 인공지능 발전 규획> 발표 중국 AI핵심산업 규모 1조 위안(180조원), AI관련산업 규모 10조 위안(1,800조원) 목표 설정(2030년까지)

6대 중점 과제 선정을 통해 중국의 AI 중장기 R&D의 방향 제시

• 2017년 11월 민관협력기구 <차세대 AI발전계획위원회> 설립 3년간 1,000억 위안(18조원) 예산을 AI 분야에 투입 결정

• 2018년 4월 <중국대학 인공지능 인재 국제육성계획> 마련

• 얼굴인식 AI-스타트업 톱 클라우드워크, 메그비(Face++), SenseTime, 인시그마, 이투테크 등

• 중국 공안의 SkyNet(클라우드워크 공동연구): 얼굴인식률 99.8%/Sec 중국 난창시에서 열린 홍콩 스타 장쉐유(張學友) 콘서트. 5만 관중 중 31세 수배자 체포(2018.4)

AI에 대한 미국의 정책 (4/4)

33

2018년 5월 백안관 초청 <인공지능 관련자 연석회의>• IBM, Microsoft, Facebook, Amazon, GE 등 40여 개 대기업

• 백악관 기술고문 : AI기술개발 정책지원 우선순위 대폭 상향. 반면에, 지금까지와는 달리 <AI 관련 정부 규제 최소화>로 선회

• 곧이어 트럼프 대통령은 미국 역사상 최초로 2019년도 예산(FY2019) 요청에있어서 <인공 지능과 자치 및 무인 시스템>을 행정 R&D 우선과제로 지정

Seoul PACT 38 ▶ AI 윤리 <정책>

34

건전한 연구문화 조성 및 국내외 협력 네트워크 구축

지능정보기술 연구개발자 중심의 건전한 연구문화 조성 비즈니스(개발자-공급자)-정부(정책입안자)의 상호 교류(규제 완화) 국제기구- NGO-다국적기업 등과의 글로벌 협력과 참여

공공개발 유도 및 위험예방을 위한 법·제도 마련

인간에 도움이 되는 기술 개발에 대한 정책적 인센티브 제도 도입 지능정보기술의 사회적 영향 평가를 위한 제도 마련 의사결정과정에 다양한 주체들이 참여할 수 있는 거너번스 체계 구축 이용자 권익 보호를 위한 법〮제도 마련

오남용 방지 및 이용자 역량 강화를 통한 자율적 활용제고

사회변화에 따른 디지털역량 함양ㆍ강화 변화에 따른 공론의 장 형성 및 대국민 홍보

맺음말