인공지능 로봇이 일으킨 사고 둘러싼 제도 정비 시급…
‘제조사 책임’ 대안 거론

스스로 생각하고 자율적으로 움직이며 혼자 학습도 가능한 인공지능 로봇이 우후죽순 나타나고 있다. 문제는 로봇이 사고를 냈을 때 과연 누가 책임져야 하느냐는 것이다. 로봇 사고에 대한 형사적·민사적 책임은 로봇의 개발만큼 중요한 문제다. 현재 이를 둘러싼 법과 제도는 교통정리가 잘돼 있지 않다. 로봇 세상을 규제할 법과 제도는 어떤 모습이어야 할까. 미래의 어느 날에 인간을 꼭 빼닮은 로봇이 법정에 서는 역사적 순간이 올 수도 있다.

마르쿠스 로베터 Marcus Rohwetter <차이트> 기자
　
국민의 이름으로 다음과 같이 판결한다. ‘자율주행 차량인 로보카 4.1은 과실치상 혐의에 대해 유죄!’ 로보카 4.1 차량은 내비게이션 소프트웨어를 업데이트하지 않음으로써 2036년 4월1일 일방통행로를 역주행했고 마주 달려오던 구닥다리 자동차와 충돌했다. 이 사고로 구닥다리 자동차를 운전하던 사람은 부상을 입었다. 유죄판결에 따라 로보카 4.1 차량은 승객을 태우고 운전할 수 있는 허가증을 박탈당했다. 앞으로는 오직 독일 베를린공항 공사 현장에서 나오는 건축 폐기물만 운반하도록 판결이 내려졌다.

▲ 2016년 3월13일 독일 하노버에서 열린 세계 최대 규모의 정보통신기술(ICT) 박람회의 IBM 전시관에서 인공지능 로봇 ‘페퍼’가 카메라 렌즈를 주시하고 있다. 로봇이 인간을 대체할 날이 머지않았다. REUTERS

지금까지의 상황은 미래에 나올 수 있는 법원 판결을 허구적으로 구성해본 것이다. 하지만 우리는 이런 가정이 말도 안 되는 상황임을 알고 있다. 왜냐하면 로봇은 법정에 세울 수 없기 때문이다. 로봇에는 인간이라면 꼭 가지고 있어야 할 몇 가지 본성이 결여돼 있다. 의지와 자각, 옳고 그름을 감지하는 능력이다. 이런 능력이 있어야 죄책감을 느끼고 과실에 책임질 수 있다.

하지만 다음 질문에는 조만간 인간이 해법을 찾아야 할 필요가 있다. 로봇으로 인한 사고에 누가 책임을 질 것인가? 이는 로봇의 처벌이라기보다 금전적 보상에 대한 문제지만 책임 소재가 어디에 있는지 답하는 일은 당면 과제가 됐다. 기계가 더 똑똑해질수록, 더 자율적으로 될수록, 많은 역할을 담당하게 될수록, 무엇보다 기계가 학습하는 속도가 점점 빨라질수록 기계가 만들어낸 피해를 누가 책임질 것인지 결정하는 일은 중요해진다.

로봇에 학습능력이 있다면 이는 옳은 것과 함께 잘못된 것을 배울 수도 있다는 것을 의미한다. 오늘날 부모들이 ‘우리 아이는 최고 교육을 받는데도 왜 비뚤어진 길로 가는가? 이 일이 우리 사회에 불러오는 결과는 무엇일까?’라고 의문을 가지듯, 훗날 엔지니어들도 로봇에 대해 똑같은 의문을 가질지 모르겠다.
　
인공지능 로봇의 치명적 사고

독일 기업들은, 인공지능과 자동화 시스템으로 인한 피해 발생시 책임 소재가 불분명하다는 점이 향후 디지털화의 중요한 장애물로 작용할 것이라는 사실을 차츰 깨닫고 있다. 이는 독일산업연맹이 실시한 설문조사에서 밝혀졌다.

2016년 2월18일 독일산업연맹 소속 로비스트와 법조인, 정치인들은 머리를 맞대고 아날로그 시대의 법을 디지털화된 미래에 맞춰 어떻게 변화시켜야 하는지를 토론했다. “토론의 핵심 논의는 새로운 기술이 초래할 위험에 대해 우리 사회가 법적으로 어떻게 판단할 것인지였다.” 로봇 관련 법제도 연구를 이끌고 있는 독일 뷔르츠부르크대학의 에리크 힐겐도르프가 설명했다. “주위에서 자율적으로 움직이는 기계가 많이 사용될 때, 우리는 그 환경을 어떻게 다뤄야 하는가?” 독일산업연맹이 생각하는 것처럼, 완전히 자율적으로 제어되는 시대가 도래해 인간이 결정할 권한이 사라지고 기계의 자율적 결정을 막을 수 없는 시대가 오면 현재의 법조차 적용 가능하지 않을 것이다.

▲ 2016년 2월 미국 캘리포니아주 마운틴뷰에서 구글 자율주행차인 렉서스 SUV가 옆 차선으로 진입하다가 공영버스를 들이받아 앞범퍼가 훼손됐다. 무인자동차 사고시 손해배상 문제는 골칫거리다. AP연합뉴스

미래 로봇에 비하면 아직은 멍청한 축에 속하는 오늘날 로봇들은 종종 사고를 일으킨다. 예를 들어 2015년 여름 독일 헤센주 바우나탈에 있는 폴크스바겐 공장에서 기계를 점검하던 한 기술자가 산업용 로봇 때문에 사망하는 사고가 발생했다. 작업장에서는 엄격한 안전 규율이 지켜지기 때문에 이런 사고가 일어날 가능성이 거의 없음에도 이 기운 센 산업용 로봇은 갑자기 잘못된 방향으로 작동해버렸다.

연구자들이 미국 식품의약국(FDA) 통계를 분석한 결과, 수술용 로봇을 이용한 170만 건의 수술 중 144명의 환자가 목숨을 잃었고 1400명이 상해를 입었다. 연구자들은 이 가운데 60%는 기계의 오작동 때문에 발생한 사고로 파악하고 있다. 온전히 인간의 과실로 발생한 수술 사고 비율은 얼마인지 통계가 분석되지 않아, 아직은 로봇 수술의 사고 비율과 상대적 비교는 불가능하다.

하지만 한 가지는 분명하다. 기계 역시 실수를 한다는 것이다. 그런데도 로봇이 인간으로부터 독립할 날이 머지않았다.

여름날 교외 주택 마당의 잔디를 깎고 있는 작고 둥근 로봇은 이제 시작에 불과하다. 미국 종합 인터넷 쇼핑몰 아마존은 곧 영국과 네덜란드에서 택배용 드론(무인항공기)을 시험할 것이다. 상당 부분 자동화되고 한껏 발전된 감지 기술과 충돌 방지 기술을 장착한 덕분에 이 드론은 인간이 눈으로 보고 통제하는 범위 밖으로 비행할 수 있다. 영국 버밍엄대학은 2014년 스스로 학습하는 로봇 ‘보리스’를 선보였다. 이 로봇은 처음 보는 물건을 잡아 옮길 수 있다. 구글 자회사인 ‘보스턴다이내믹스’가 개발한 로봇은 처음 맞닥뜨린 공간에서도 혼자 효율적으로 돌아다닐 수 있다. 폴크스바겐과 메르세데스벤츠, BMW, 혼다, 포드, 닛산 등은 오래전부터 미국 캘리포니아주 공공도로에서 자율주행 차량을 시험할 수 있는 허가를 받았다. 구글의 자율주행 차량은 이미 200만km 이상 운전한 경험을 축적했다.

미국 캘리포니아주 차량국(DMV·운전면허시험과 차량 등록 등을 관리하는 주정부 기관 -편집자)은 2014년 10월 이후 무인자동차와 관련한 사고가 11건 발생했다고 기록했다. 대부분의 사고는 사람이 운전하는 차에 의해 일어났다. 예를 들면, 교차로에서 무인자동차를 보려고 천천히 운전하다가 뒤에서 무인자동차를 박은 것이다.

이런 사고들은 사람과 기계가 공존한 데서 비롯된 문제로 보인다. 피와 살로 이뤄진 존재가 금속으로 이뤄진 존재와 한 공간에 있을 때, 감정을 가진 존재와 인공지능이 공존할 때 생겨나는 문제인 것이다. 그렇기 때문에 이런 사고가 완전히 없어질 수는 없다. 현재 10건의 사고 중 9건은 인간의 잘못에서 비롯됐다. 하지만 남은 1건은 분명히 존재한다. 이 사고는 바로 기술이 가진 위험 요소에서 발생한다.

또 다른 위험한 경우도 있다. 몇 년 전 독일 남부에서 한 운전자가 운전대를 잡고 있는 동안 심장마비를 일으켜 정신을 잃은 사고가 발생했다. 그의 다리는 경직돼 계속 가속페달을 밟고 있었다. 만약 일반 자동차였다면 도로를 벗어나 움푹 파인 곳에 처박혔겠지만, 최첨단 차선 유지 보조 시스템은 이 차량을 도로에서 계속 운행하도록 만들었다. 이로 인해 많은 사람이 다치고 죽었다.

이는 단순히 운이 없어 생긴 사고일까? 우리는 기계의 책임을 다시 생각해봐야 할까? 학자들은 이미 로봇의 결함을 피할 수 없다는 것을 인정한다. 그래서 로봇의 결함으로 인해 발생하는 사고를 최소화하는 방안을 생각할 수밖에 없는 딜레마에 대해 그동안 토론을 벌여왔다. 한 예로, 작동 중인 드론이 떨어지는 것을 완전히 봉쇄할 수는 없다. 대신 드론이 추락할 때 가능하면 사람이 드물게 있는 쪽으로 떨어지도록 만들어야 한다는 것이다.
　
로봇 사고를 책임지는 3가지 방안

▲ 싱가포르 난양공업대학의 나디아 탈만 교수(오른쪽)가 2016년 3월1일 자신이 개발한 인공지능 로봇 ‘나딘’과 손을 흔들며 인사하고 있다. 로봇과 인간은 구분이 점점 어려워지고 있다. REUTERS

현재 법은 로봇 사고의 책임 부과를 여러 방면으로 다루고 있다. 자동차 소유주는 운행 중인 차량이 발생시킨 피해에 대해 책임지고, 자동차 생산 회사는 제작상의 결함을 책임진다. 하지만 언젠가 로봇 시스템이 한 단계 더 자동화되고 로봇 스스로 학습이 가능한 수준에 도달해도 이런 책임 적용이 타당할 것인가? 어쩌면 종국적으로 누군가에게 피해가 발생해도 아무도 책임지지 않게 될 것인가? 현재 이에 대해 3가지 해결책이 논의되고 있다.

첫째, 로봇에 의해 발생한 피해를 자연재해처럼 일상생활의 위험 요소로 보는 것이다. 번개를 맞는 사람과 마찬가지로 말이다. 이는 제품을 개선해야 하는 로봇 제조사들의 경제적 압력을 감안한 방안일 것이다.

둘째, 로봇 소유주나 사용자가 위험이나 피해에 대해 책임지게 하는 것이다. 이것은 가장 일반적인 방법이다. 현재 사람이 운전하는 자동차에는 이 방식이 적용된다. 이 경우 자율주행 차량의 판매는 상당히 어려워질 것이다. 현재 차량 소유주들은 항상 어느 정도 차량을 통제할 수 있다. 사람은 스스로 운전하거나 신뢰할 수 있는 운전자를 결정해 운전을 맡긴다. 로봇 차량을 소유한 사람은 택시 승객과 같다. 그가 왜 모든 결과에 책임져야 하는가? 소프트웨어의 결함, 먹통이 된 인터넷, 제대로 실행되지 않은 업데이트, 해커의 공격 등이 원인일 때도 있을 텐데 말이다. 아무도 택시 기사에게 “마음대로 운전하세요. 사고나면 내가 다 책임질게요!”라고 면책서를 써주지는 않는다.

미국의 관련 기업과 정부 당국은 바로 이 통제에 대한 문제를 놓고 설전을 벌이고 있다. 민간 항공국은 인간 조종사들이 드론을 계속 눈으로 관찰하고 통제할 수 있는 환경에 한해서만 아마존의 드론 이륙을 허가하려 한다. 하지만 아마존이 이런 제재를 받아들이지 않으려는 것은 당연하다. 민간 기업 로비스트들은 “미국은 안전한 무인기 개발 분야에서 우위를 점하고 있고 이를 지켜내야만 한다”고 끊임없이 교통부에 이의를 제기하고 법 개정을 요구한다. 미국 캘리포니아주 차량국도 비상시에는 운전대에 앉은 사람이 차량을 통제해야 한다는 조건을 달아 자율주행 차량의 운행을 허가할 예정이다. 하지만 항상 누군가 제대로 운전하고 있는지 감시해야 한다면 과연 누가 자율주행 차량을 구입할 것인가? 자율주행 차량의 장점은 이동 중에 다른 일을 할 수 있다는 것이다.

셋째, 제조회사에 책임을 지우는 해결책이 있다. 제조회사는 자신의 제품이 발생시킨 모든 피해와 관련해 제품 결함 때문인지를 살펴야만 한다. 2015년 10월 하칸 사무엘손 볼보 최고경영자(CEO)는 “볼보가 자율주행 차량이 낸 손해에 대해 모든 책임을 질 것”이라고 발표했다. 그가 언급한 책임 범위는 당연히 자율주행 차량에 의해서 발생한 사고로 국한된다. 즉, 남의 돈으로 범퍼를 갈아보려고 낡은 폴크스바겐 골프의 인간 운전자가 의도적으로 최첨단 볼보를 박았을 때는 해당하지 않는다.

이렇게 위험에 대한 책임을 제조사가 떠맡는다면 디지털 시대에 맞게 법을 바꾸는 것이 훨씬 쉬워질지도 모른다. 이런 책임 소재 방식은 소비자에게 새로운 제품을 더욱 매력적으로 보이게 할 것이다. 제조사의 책임은 소포를 배달하던 중 어린아이에게 달려든 드론과, 환자를 계단 아래쪽으로 밀어버린 간호사 로봇에도 마찬가지로 적용돼야 할 것이다.

조만간 우리는 책임 소재를 어떻게 할 것인지 결정해야 한다. 당분간은 현재 설정한 규정으로도 잘 지낼 수 있을 것이다. 산업법 전문 변호사인 토마스 클린트는 이와 관련해 “한 단계 발전한 자동화 기술을 개발하면 로봇이 낸 사고의 책임을 물을 새로운 법적 규제를 더 이상 피할 수 없을 것”이라고 말했다.

이와 비슷한 경우가 인류 역사에 없었던 것은 아니다. 클린트 변호사가 말했다. “이미 고대 로마에서도 노예 소유주는 노예가 만들어낸 모든 피해에 대해 책임을 졌다. 유사한 사례로, 현재는 개가 통제를 넘어선 일을 하면 개 소유주가 책임진다. 이런 선례를 따라 인간도 미래에 로봇이 저지른 사고에 대한 법적 책임을 누가 질지 생각할 수 있을 것이다.” 로봇은 현대의 개, 로마시대의 노예와 같은 처지다. 자율성과 학습능력이 있지만, 책임질 능력은 없다. 미래 문제에 대한 해결책을 과거에서 찾을 수도 있다.

ⓒ Die Zeit 2016년 7호
Roboter vor Gericht
번역 이상익 위원