인공지능 법제도의 정비방향

법무법인 민후 김경환 변호사

- 2 -

목 차

어벤져스와 포스트휴먼 인공지능,○

울트론(Ultra + Drone)○

인공지능의 유형○

인공지능과 특이점○

인공지능 법제도의 가지 이슈5○

인공지능의 법적 지위1.○

인공지능의 법적 실체2.○

인공지능의 법적 책임3.○

인공지능법의 목적4.○

인공지능법의 국제적 상호운용성5.○

- 3 -

어벤져스와 포스트휴먼 인공지능,

헐크 캡틴아메리카 아이언맨, | || 울트론

- 4 -

포스튜휴먼○

기술을 통해서 인간의 한계를 뛰어넘는 미래 인간상

포스튜휴먼의 유형○

아이언맨형- : 평소에는 사람과 같으나 슈트 등을 입으면 능력이 극대화되

는 유형 사람 도구[ + ]

캡틴아메리카형- : 인간이지만 기계적 또는 화학적 작용 등을 통해서 신체

나 정신 자체의 능력을 극대화한 유형 어느 정도 개조해야 사람이 아닌[

것으로 볼 수 있는가]

울트론형- : 자아를 가진 고도로 발전한 인공지능 어느 정도 발전해야 사[

람과 같이 취급할 수 있는가]

- 5 -

울트론(Ultra + Drone)

행크핌 의 울트론(Hank Pym) ‘ ’○

행크핌 박사가 개발한 인공지능-

년 어벤져스 호에 첫 등장- 1968 54

행크핌의 불완전한 뇌파를 물려받아 증오를 주요 감정으로 가짐-

토니와 브루스의 울트론‘ ’○

토니와 브루스가 로키가 가지고 있던 치타우리 셉터를 연구하다가 개발하-

게 된 고밀도 인공지능으로 다른 인공지능인 자비스를 파괴함,

년 영화 어벤져스에 등장- 2015

위트 있는 농담하는 것이 토니와 유사함-

- 6 -

울트론의 특징‘ ’○

어벤져스와의 전투와 싸움을 통해 자신을 사고와 능력을 업그레이드시킴-

몸체가 파괴되어도 다른 몸체로 전이하면서 자신을 업그레이드함-

예 울트론 울트론 프라임 울트론 센트리 얼티밋 울트론) MK1 → → →

- 7 -

인공지능의 유형

자율(autonomous)○

와‘auto(= self)’ ‘nomy(= law)’ㆍ

환경적 정보를 인지하여 인간의 간섭 없이 충분한 기간 동안 작동하며, ,ㆍ

인간의 도움 없이 작동 환경을 통하여 전부 또는 일부를 움직이는 것 위키(

피디아)

인공지능(artificial intelligence)○ 시스템에 의하여 만들어낸 지능:

ㆍ강한 인공지능 어떤 문제를 실제로 사고하고 해결할 수 있는 인공지능: /

철학적으로 보면 스스로 인공지능임을 인식하는 자아를 가지는 인공지능

약한 인공지능 정해진 규칙에 따라 연산하는 인공지능:ㆍ

- 8 -

인공지능과 특이점

○ 미국의 미래학자 레이 커즈와일은 년을 기술적 특이점2045 (technological

으로 예상하면서 이때가 되면 인공지능이 인간지능을 초월하게singularity)

됨으로써 기술발전 속도는 걷잡을 수 없이 빨라질 것이라고 봄

○ 미국 카네기멜론대학의 로봇공학연구소는 앞으로 년에는 생쥐의 지능2020

을 가진 로봇이 년에는 원숭이 수준 로봇이 년이 되면 인간 지, 2030 , 2040

능에 가까운 로봇이 등장할 것으로 예상하고 있음

- 9 -

인공지능 법제도의 가지 이슈5

제 주제 인공지능의 법적 지위1 :○

인간과 물건의 이원법적 접근의 파괴가 필요한가- ?

제 주제 인공지능의 법적 실체2 :○

인공지능의 법적 실체는 정보인가 아니면 몸체인가- ?

제 주제 인공지능의 법적 책임3 :○

인공지능이 개입된 사고에서 누가 법적 책임을 부담하는가- ?

- 10 -

제 주제 인공지능법의 목적4 :○

인간을 위한 법인가 아니면 인간과 인공지능을 위한 법인가- ? ?

제 주제 인공지능법의 상호운용성5 : (interoperability)○

국제적 협력과 국제규범은 필수적인가- ?

- 11 -

인공지능의 법적 지위1.

현행○

사법 형법 사람 과 물건의- ( ), ( ) : ( )私法 刑法 人 이원법적 접근

예 동물의 죽음 물건손괴) →

일부 공법 사람- ( ) : ( ) /公法 人 동물 물건/

예 동물보호법상의 동물 고통을 느낄 수 있는 신경체계가 발달한 척추) ‘ ’ :

동물로서 포유류 조류 일부 파충류 양서류 어류, , ㆍ ㆍ

동물이 진화하여 법적 지위를 취득했는가 아니면 사람들의 인식이Q) ?

달라져서 법적 지위를 취득했는가?

- 12 -

인공지능○

약한 인공지능은 정보 덩어리이고 도구로서 인격이 없음-

약한 인공지능이라도 로봇학대 금지라는 문구가 나오는 순간에 사회적 지- ‘ ’

위를 취득하였다고 볼 수 있음 인공지능이 감정을 표현할 수 있는지가 중.

요한 게 아니라 사람이 생각하길 로봇이 감정을 표현하는 것처럼 보이는,

지가 핵심임

hitch BOT

- 13 -

약한 인공지능의 법적지위 사람과 유사한 지위 동물과 유사한 지위 제- : , ,

의 지위3

강한 인공지능 법적 지위 부여가 당연할 듯함- :

- 14 -

관련 문제 로봇의 권리:○

법적 지위를 인정한다고 하여 모든 권리가 인정되는 것은 아니고* , case

별로 권리 부여를 따져야 함by case

로봇의 소유권-

로봇의 저작권 저작권을 인정하려면 저작- (ex : robot writes a book) :

자의 개념이 달라져야 함

인간과 로봇의 혼인-

- 15 -

인공지능의 법적 실체2.

현행 인간의 생명○

헌법적으로 착상부터 뇌사까지-

민법 형법적으로 노출 시기 부터 심장사 종기 까지- ( ) ( )ㆍ 신체적으로만 고려함( )

- 16 -

인공지능의 법적 실체○

몸체가 의미가 없는 약한 인공지능 또는 강한 인공지능-

인간의 정신과 달리 복제와 전송이 가능한 정보 아래 채피 영화- ( ‘ ’ )

정보를 기준으로 보면 시기만 있고 종기는 없음-

몸체를 기준으로 볼 것인가 아니면 정보를 기준으로 볼 것인가- ? ?

전기가 공급되지 않은 정보의 상태를 어떻게 볼 것인가- ?

- 17 -

인공지능의 법적 책임3.

현행○

제작자는 제조물 책임-

점유자 소유자는 공작물 책임- ㆍ

동물의 경우는 점유자 책임-

- 18 -

인공지능의 민형사 책임○

예 무인자동차가 도로 공작물과 부딪혀 동승자가 사망한 경우)

자동차 운전석에 있던 사람-

무인 자동차의 소유자-

무인 자동차의 제작자 또는 프로그램 개발자-

도로 관리 책임자-

무인자동차-

- 19 -

예 구글이 만든 사의 무인자동차가 강도를 태우고 경찰의 지시에 불응하) A

여 도주한 경우

강도-

구글 제작자 또는 프로그램 개발자- ( )

사 소유자- A ( )

무인자동차-

- 20 -

예 프로그램된 로봇이 아군을 적군으로 오인하여 사살한 경우)

제작자 또는 프로그래머-

로봇의 소유자 또는 점유자 조종자- ( )

로봇-

actus reus (criminal conduct)ㆍ

mens rea (intending mind)ㆍ

- 21 -

강한 인공지능○

인공지능은 당연히 책임의 주체가 됨-

인공지능과 제작자의 책임 분리가 바람직-

다만 민사의 배상능력 또는 형사의 국민 법감정을 고려하여 소유자 또는-

제작자도 그 책임을 부담할 수 있음

약한 인공지능○

인공지능은 원칙적으로 도구에 불과함-

제작자나 소유자는 원칙적으로 책임을 부담함-

- 22 -

인공지능법의 목적4.

인공지능법의 관점의 문제○

실정법적 차원의 접근이 아닌○ 철학 또는 헌법적 차원의 접근이 필요

지배와 종속의 관계 신노예사회 사람과 반려동물- ( , )

상호 공존 조화의 관계- ㆍ

- 23 -

아시모프의 로봇 원칙 지배와 종속 관점Asimov’s three laws ( 3 ) :○

1. A robot may not injure a human being or, through inaction,

allow a human being to come to harm.

2. A robot must obey orders given it by human beings except

where such orders would conflict with the First Law.

3. A robot must protect its own existence as long as such

protection does not conflict with the First or Second Law.

- 24 -

아시모프 원칙의 모순을 다루는 영화 아이로봇* 3 ‘ ’ 영화 속 중앙컴퓨터: '

비키 는 인간은 전쟁 환경파괴 사고 등을 통해 스스로를 위험에 빠뜨리' ' , ,

므로 자유의지보다는 통제 하에 있어야 안전하다 는 논리로 창조자인 인'

간을 통제하려 함

- 25 -

미래사회의 예상○

개인적 미시적 으로는 지배 피지배 관계- ( ) -

사회적 거시적 으로는 인공지능에 대하여 대체되는 사람들 생산주체의 지- ( ) (

위를 박탈당하는 개인들)

아시모프의 관점이 사회적 문제 해결에 도움이 되는가* ?

로봇세 생산주체인 로봇으로부터 세금을 걷어 사람들에게 환원하자는* :

것 이 역시 관점은 지배 피지배 관점으로 보임. -

- 26 -

바람직한 관점은 무엇인가?○

목표는 사람의 소외 현상 방지-

아시모프의 관점은 이러한 목표 달성에 크게 기여하지 못할 것으로 보임-

그렇다면 상호 공존 조화의 관계로 가야 하는가- ?ㆍ

- 27 -

관련 문제 인간의 로봇으로부터의 보호:○

인간의 프라이버시권-

인간의 근로의 권리-

- 28 -

인공지능법의 국제적 상호운용성5.

현행○

규범의 상호운용성 이란 서로 다른 법체계 사이의- (legal interoperability)

상호작용이나 협력을 의미함 대표적으로 국제협력이나 국제규범.

등을 들 수 있음(international rule)

전통법은 나라간의 상호운용성이 매우 약함-

일부 법은 상호운용성 현상이 두드러짐- IT

- 29 -

인공지능법○

한 국가 내에서 해결할 수 있는 일이 많지 않음-

예 킬러 로봇 원격 조종을 통한 범죄 로봇의 입국) , , TeleExistence

오히려 특정 국가 내에서는 킬러 로봇 등의 제조를 권장할 수 있기에 특-

정 국가의 이익과 국제사회의 이익이 서로 충돌할 수 있음

때문에 국제 협력이나 국제규범에 의한 단일 규제 체제가 절실함-

예 의 가이드라인 또는 킬러 로봇 금지 조약 등) UN

- 30 -

감사합니다

oalmephaga@minwho.kr

사진출처 리그베다위키 나무위키 등: ,