[개요]

□ EU 집행위는 AI로 인한 경제적 편익과 더불어 향후 과제와 리스크도 인지

o 본 조사는 집행위가 1)향후 AI가 국가 민사책임 법제도에 던질 과제 2)EU 차원에서 도입 가능한 제도의 영향 파악 등을 지원하기 위해 작성

- AI는 향후 법적 책임소재를 밝히는 데 있어서 더 많은 비용과 시간을 초래할 것으로 전망

- 현재 EU는 AI 관련 책임법을 적용하는 데 있어서 법적 불확실성과 파편화에 직면해 있으며 이 같은 상황은 AI 기술의 보급과 확산에 작용 우려

o 향후 EU 차원은 물론 개별 회원국 입장에서도 이와 관련된 법과 제도를 정비하고 조화를 이룰 필요성 제기

[주요 내용]

□ AI는 EU를 비롯하여 세계 경제와 사회를 근본적으로 변화시킬 잠재력을 보유

o EU 집행위는 AI가 EU 경제에 대해 보유한 잠재력을 일찍부터 인식하고 EU가 디지털 시대에 걸맞게 변화할 수 있도록 노력

- EU 집행위 우르술라 폰 데어 레이옌 대통령은 ‘19년 AI의 인간적, 윤리적, 경제적 함의에 기반하여 위와 같은 목표를 천명*

* Political Guidelines for the next European Commission 2019-2024 (2019)

o 그러나 EU 집행위는 경제적 편익과 더불어 AI로 인한 과제와 리스크도 인지

- 이 같은 맥락에서 AI가 향후 EU내에서 광범위하게 보급되었을 때, 현재의 법적 프레임워크의 적절성에 대한 평가를 추진

o AI는 오작동, 부주의 등으로 인명 및 재산상의 손실을 일으킬 가능성을 보유

- 예컨대 인간이 개입하지 않고 AI 자체적으로 자율적, 불투명, 복잡한 방식으로 의사결정을 내려서 손실이 발생한 경우 책임소재의 문제가 발생

o EU 집행위가 결성한 ‘책임 및 신기술 전문가 그룹’(Expert Group on Liability and New Technologies)이 1차적으로 이를 조사하여 권고안을 마련*

* Liability for Artificial Intelligence and other Emerging Digital Technologies (2019)

o 본 조사는 집행위가 1) 향후 AI가 국가 민사책임 법제도에 던질 과제 2) EU 차원에서 도입 가능한 제도의 영향 등 파악을 지원하기 위해 작성

□ 분석을 위해 미래에 AI가 민사적 손실을 끼칠 수 있는 경우를 다음과 같은 일곱 가지 시나리오로 특정

o 자율주행차

o 드론(배송용)

ㅇ 교통관제 시스템

ㅇ 산업용 로봇

ㅇ 의료기기

ㅇ 제초기

ㅇ 스마트홈(화재 감지 시스템)

□ 상기 가상적 사례를 중심으로 각 회원국별로 AI가 민사적 책임과 쟁송과정에 끼치는 영향을 분석

ㅇ AI는 다음과 같은 특징으로 인해 피해자에 불리하게 작용 가능

- (자율성) 사전적으로 계획되지 않은 기능을 수행함에 따라 책임소재 불분명

- (불투명성) AI가 특정 의사결정을 내린 이유를 이해하지 못하는 경우 다수

- (복잡성) 시스템 간의 연계 등 고도로 복잡한 방식의 연산 방식으로 피해의 연원을 추적하기 어려운 구조

ㅇ 상기 가상적 사례를 중심으로 AI로 인한 쟁송에 투입되는 시간과 비용(애로 사항의 대리변수)은 회원국 대부분에서 늘어나는 것으로 분석

- (변호사) 복수의 관련 기술 전문가를 채용해야 하고, 피해 관련 인과관계와 귀책사유를 밝히는 데 상당한 시간이 소요되기 때문에 비용과 시간도 상승

- (기술 전문가) 고도의 전문성과 지식이 필요, 기술 평가에 상당한 시간 소요

ㅇ 이 같은 결과는 ‘책임 및 신기술 전문가 그룹’이 내린 결론과도 일맥 상통

□ AI 활용 기업들은 법적 불확실성과 제도적 파편화의 위협에 직면한 상황

ㅇ AI는 위와 같은 특성으로 인해 책임소재를 파악하고 귀책을 추진하는 전통적인 방식에 대한 심대한 도전으로 작용할 것으로 판단

- 특히 책임법(liability law)은 법적 확실성의 중요 요소

ㅇ AI 관련 민사적 책임 법규가 EU 회원국 간에 서로 다른 것도 문제

- 기업의 입장에서는 파편화된 법제도는 준수비용을 높이기 때문에, 상호간에 조화를 이룬 법제도를 선호

ㅇ 이 같은 상황은 AI 기술의 확산과 보급에도 악영향으로 작용 우려

o 향후 EU 차원은 물론 개별 회원국 입장에서도 이와 관련된 법과 제도를 정비하고 조화를 이룰 필요성 제기