마르셀 로젠바흐 Marcel Rosenbach <슈피겔> 기자  

 

군대의 자동화는 점점 더 가속화할 것이다. 자동화가 생산성을 높인다는 산업 논리에 따른 것이다. 이미 선진국의 군대는 저출산과 고령화로 군 병력 충원에 어려움을 겪고 있다. 자동화는 군 병력 확보의 해결책이 될 수 있다. 미래에는 소수의 병사가 감시·감지기, 무인 정찰 드론, 무인 전투 로봇, 음식·탄약·배터리 보급용 반자동 육상 로봇 등을 조종할 것이다.

 

미국의 군사 전문가들은 향후 10~ 15년 사이 현재 병사 1200명으로 구성된 단위 전투 부대가 250~300명으로 축소되고, 이들이 수천 대의 로봇 시스템을 조작할 것이라고 전망한다. 더 나아가 무기 시스템 수량이 전쟁의 승패를 가르는 중요한 요소가 될 수도 있다. 노먼 어거스틴이 1980년대 중반 우주항공 대기업인 록히드마틴 회장으로 취임하기 전 공식화한 ‘어거스틴의 52가지 법칙’이 폐기되지는 않겠지만, 그 중요성은 상실하게 될 것이다. 그는 특정 하이테크 시스템에서 비용이 기하급수적으로 늘고, 이 때문에 수량을 점점 더 줄일 수밖에 없다는 사실을 공식화했다.  

 

전투기 한 대 가격은 10년마다 몇 배씩 올랐지만, 국방 예산 증가율은 이를 따라가지 못했다. 당시 어거스틴은 경고했다. “2054년이 되면 1년 국방 예산으로 겨우 전투기 한 대밖에 사지 못한다. 구입한 전투기도 미 공군과 해군이 일주일에 사흘씩 나눠 사용할 것이다. 윤년에만 해군이 하루 더 쓰는 게 허락될 것이다.” 

 

어거스틴 법칙은 복잡한 무기 시스템에 여전히 적용되겠지만, 머잖아 의미를 상실하게 될 것이다. 미래에는 아주 비싼 소수의 무기 시스템 대신 값싼 무인기를 사용할 가능성이 높다. 민간과 군사 기술의 경계도 흐려질 것이다. 인공지능, 로봇공학, 자동화 분야에서 이미 민간 기술력이 군사 기술력을 추월했다. 막대한 수익을 바탕으로 한 군수기업보다 많은 자금을 기술 개발에 투자하는 대형 민간기업이 수많은 기술 분야를 선도하고 있다. 미 국방부 기술기관인 미국방위고등연구계획국(DARPA)에서 개발을 주도했던 자율주행 부문이 대표적이다.  

 

민간이 로봇 개발에 참여하면서 예상치 못한 부작용을 낳았다. 이른바 ‘불량 국가’나 테러리스트 조직에서 위험한 첨단기술 무기를 조달하는 일이 수월해지고 있다. 이슬람국가(IS), 하마스 같은 단체가 얼마 안 되는 자금으로 상업용 드론을 구입해 무장하고 있다. 심지어 이들은 인터넷에서 무료로 제작 설명서를 내려받아 직접 드론을 만든다. 

 

지금까지는 대기업이 무기시장을 장악했지만, 새로운 저비용 기술은 신생 기업이 시장에 참여할 기회를 넓혔다. 미국 중소기업 듀크로보틱스(Duke Robotics)는 살상용 드론 ‘티카드’(Tikad)를 개발해 상품화했다. 기술은 그리 복잡하지 않다. 기존 멀티콥터(3개 이상의 모터와 프로펠러를 가진 비행체)에 각종 무기를 장착하도록 했을 뿐이다. 이 회사는 티카드가 목표를 식별해 타격하는 모습을 담은 광고영상 ‘미래의 병사’로 투자자를 끌어모으고 있다. 웹사이트에는 예멘 사진과 해적들이 탑승한 보트 사진에 무장한 티카드를 합성한 광고사진이 올려져 있다. 2년 전 듀크로보틱스는 미 국방부에서 개최한 ‘대테러 전투’ 대회에서 우승했다. 이스라엘군이 티카드를 주문한 것으로 전해진다.  

 

미래의 무기는 어쩌면 50유로(약 6만원)도 안되는 가격으로 장난감가게에서 살 수 있는 미니 드론 형태일지도 모른다. 실제 수백만 건의 조회수를 확보한 한 유튜브 영상에서 크리에이터는 미니 드론을 가리켜 ‘킬러 애플리케이션’이라고 칭찬했다. “얼굴 인식 프로그램을 설치해 폭발물 3g만 내장하면 인간의 두개골을 확실하게 타격해 파괴할 수 있다. 드론 편대를 군사작전에 투입하면, 새로운 기적의 무기가 순식간에 도시 절반을 소멸시킬 수 있다. 심지어 핵무기를 무력화할 수 있다.”

 

인터넷에선 ‘최고 수준의 부패’를 규탄했다는 이유로 대학생들을 공격하는 드론 편대를 보여주는 영화를 볼 수 있다. 미국 캘리포니아주 버클리대학 전기공학·컴퓨터과학과 교수 스튜어트 러셀이 이끄는 ‘킬러 로봇’ 반대 캠페인의 일부다. 영화에서 젊은이들은 단 한 사람도 살아남지 못했다. 끝부분에서 러셀 교수는 “기술적 측면에서 보면 이 영화의 내용은 절대 공상과학소설이 아니다. 하지만 이런 미래를 막을 기회가 아직 남아 있다”고 말한다. 안타깝게도 그 시간의 창이 빠르게 닫히고 있다.  

 

1983년 9월26일, 자정이 막 지나자 비상경보가 울렸다. 페트로프의 눈앞에서 붉은색 조명이 깜박거렸다. 당직사령이던 스타니슬라프 페트로프 중령이 러시아 모스크바 인근 ‘세르푸호프15’ 비밀 벙커의 지휘관 의자에 막 앉았다. 이곳은 미국을 탐지하는 러시아 인공위성의 조기 경보용 관제센터다. 

 

경보 시스템은 미국에서 대륙간탄도미사일(ICBM) 5발을 발사했다고 알렸다. 페트로프는 의아했다. 미국이 왜 총공격을 하지 않고, 미사일 5발만 공격했을까. 하지만 오작동이라는 확신은 서지 않았다. 경보를 재차 확인하고, 기다리며, 숙고했다. 결국 자신의 직감을 따르기로 했다. 상사에게 전화로 “컴퓨터 오류로 보인다”고 보고했다. 나중에 컴퓨터가 구름에 반사된 태양 광선을 미국이 발사한 미사일 엔진 구름으로 오인한 것으로 드러났다. 페트로프의 직감에 의존한 결정이 핵전쟁 아마겟돈에서 인류를 구원했다. 

 

이 상황에서 기계라면 어떤 결정을 내렸을까? 소프트웨어는 수학적 모델링이 가능한 문제만 해결한다. 페트로프의 직감을 기계가 공식화할 수 있었을까? 

 

임무가 추상적이고 불특정한 성격일수록 수학적 문제로 변환하기 어렵다. 판단이 필요한 임무는 기계로 거의 해결하기 어렵다. 임무가 객관화되지 않았기 때문이다. 인간과 협력해야 해결할 수 있는 임무도 마찬가지다. 인간의 행동은 예측하기 어렵다.  

 

수학적으로 임무를 표현하기 어려울 때, 현대 소프트웨어 프로그램은 경험을 통해 시스템이 스스로 성능을 향상시키도록 하는 기계학습에 의존한다. 이 기술은 최근 몇 년간 크게 발전했지만 동시에 새로운 문제를 야기했다. 소프트웨어가 왜 이 결정을 내렸는지, 인간이 이해하기 어려운 경우가 많기 때문이다.

 

임무 수행 중 학습 단계에서 배운 데이터가 아닌 다른 데이터가 입력될 경우 소프트웨어가 어떻게 반응할지 현재로서는 예측하기 어렵다. 인의적으로 소프트웨어를 조작하거나 해킹할 수도 있다. 자율무기 시스템에서 불확실성은 심각한 결과를 초래한다. 지금까지 무기 소프트웨어에 대한 기계학습은 실험 수준을 넘어서지 못했다. 

 

언젠가 인공지능이 인간 두뇌의 인지 수준까지 이르면 이 문제는 해결될 것이다. 킬러 로봇은 경쟁적이고 혼란스럽고 역동적으로 변화하는 상황 속에서도 적절하게 대응할 수 있다. 그렇다고 국제법적으로 킬러 로봇이 합법적 살상 수단이 될 수 있을까.

 

2018년 8월28일 스위스 제네바 유엔본부의 지하에 있는 벙커처럼 생긴 창문 없는 회의실. ‘특정 재래식 무기 협약’에 대한 정부전문가그룹(CCW) 회의가 열리고 있다. 미래의 전장에서 사용할 최신 기술, 즉 자율무기 시스템과 그 시스템의 금지와 의무에 관한 국제 규약 등에 대한 논의가 한창이다.

   

현재 이들이 가장 몰두하는 주제는 ‘치명적인 자율무기 시스템’이다. 독일 베를린 과학정치재단의 마르셀 딕코프는 전 미군 조종사 폴 샤르와 마찬가지로 이 분야에서 선도적인 전문가다. 베를린에 있는 그의 사무실 책상 위에는 어린이 그림과 킬러 로봇 반대 운동 스티커가 붙어 있다. 그는 지난 제네바 회의에서 “우리가 기술의 주인이 되어야 한다는 사실을 항상 기억하기 위해 스티커를 붙였다”고 설명했다. 하지만 이번 회의에서 살인 로봇 규제 방안이나 해법은 나오지 않았다. 

 

딕코프가 속한 이 전문가 그룹은 4년 전부터 비공식적으로 유엔에 조언하고 있다. 2017년 11월부터는 실질적 협상 권한이 없음에도 공식 전문가 집단으로서 유엔 특정재래식무기금지협약(CCW) 회의를 진행한다. 브라질·나이지리아·오스트리아 등 자율무기 시스템을 국제법으로 금지하려는 국가들과 러시아·미국·이스라엘 등 자율무기 시스템 금지를 강력하게 반대하는 국가들이 속해 있다. 독일은 프랑스와 함께 두 진영의 중재자 역할을 한다. 딕코프는 “이 정도로는 충분하지 않다. 독일이 전반에 걸쳐 더욱 적극적으로 관여해야 한다. 예방적 무기 통제는 독일에서 만든 개념이 아닌가”라고 지적했다. 

 

자율무기 시스템을 금지해야 하는가. 인공지능 분야의 거두 미국인 페드로 도밍고스는 극단적인 해결책을 제시했다. “전쟁 로봇을 금지할 게 아니라 인간 병사를 금지해야 한다.”

 

인공지능·로봇공학의 발전과 핵심 정보기술(IT) 구성 요소의 계속되는 소형화로 드론 집단을 이용한 새로운 공격 시나리오가 나올 수 있다. 미군은 각자 독립적으로 비행하며 마치 벌떼처럼 움직이는 103개의 마이크로 드론을 실험했다. 기존 방공 시스템으로는 이 공격을 거의 막을 수 없었다.