> 뉴스 > 국제
     
너무 속이기 쉬운 인공지능
[Trend ] 갈 길 먼 인공지능 딥러닝
[97호] 2018년 05월 01일 (화) 만프레트 드보르샤크 economyinsight@hani.co.kr
미세한 얼룩에도 사물 형태 인식 오류… 수학적 입력 아닌 관념 이해하는 학습 필요
 
스스로 학습하는 인공지능(AI)은 사진과 언어를 인지하는 능력을 지녔지만 작은 속임수에도 쉽게 넘어간다. 인공지능을 감쪽같이 속이는 수법이 날로 진화하고 있다. 인공지능 활용이 늘어나는 현실에선 위협이 된다.
 
만프레트 드보르샤크 Manfred Dworschak <슈피겔> 기자
 
   
▲ 전자상거래업체 아마존의 음성인식 비서 ‘알렉사’를 갖춘 중국 유비테크의 로봇 ‘링스’(Lynx). 인공지능은 사진과 언어를 알아차리는 능력을 지녔지만 작은 속임수에도 쉽게 넘어간다. REUTERS
스스로 학습하는 ‘딥러닝’(Deep Learning) 컴퓨터의 가장 성가신 적수는 조그마한 물감 얼룩이다. 형형색색 어지러운 패턴의 물감 얼룩은 마치 환각 성분이 들어간 막대사탕처럼 작용한다. 실제 물감 얼룩은 컴퓨터에 최면을 거는 것 같다. 물감 얼룩을 고안한 것은 구글의 한 연구팀이다. 물감 얼룩은 컴퓨터의 자동 사진 인식 기능을 무력화한다. 컴퓨터는 바나나, 오리 욕조, 독일 총리 등 어떤 사진을 보더라도 일관되게 토스터로 인식한다.
 
실험 결과, 스스로 학습하는 컴퓨터에 이런 속임수가 통한다는 점이 확인됐다. 마법 같은 물감 얼룩은 카메라에 잡히기만 해도 금방 기괴한 효과를 나타냈다. 물감 얼룩을 알아차린 순간 컴퓨터는 마치 마법에 걸린 것 같았다.
 
도대체 왜 그런 것일까? 얼룩 패턴은 인공지능(AI)이 거부할 수 없는 미끼 역할을 한다고 연구팀은 설명한다. 인공지능은 얼룩을 100% 토스터라고 확신하며, 사진의 다른 물체는 중요하지 않다고 여겨 무시해버린다.
 
컴퓨터가 얼마나 쉽게 속아 넘어가는지 깜짝 놀랄 정도지만 물감 얼룩이 최초 사례는 아니다. 다른 연구팀들도 컴퓨터가 사진을 인식할 때 특이한 약점이 있음을 시연했다. 일례로 디지털 사진에서 눈으로 식별하기 힘들 정도로 미세하게 몇 가지를 변경했더니, 컴퓨터가 갑자기 학교 버스 사진을 타조 사진으로 오인했다.
 
3차원(3D) 입체 프린트물 인식에서도 유사한 현상이 일어났다. 컴퓨터는 세밀하게 만든 거북이를 갑자기 총으로 인지했다. 파충류 거북이와 총기 사이에 공통점이 없지만 컴퓨터 판단에 아무런 영향을 미치지 않았다. 컴퓨터는 스스로의 판단을 굳게 확신할 뿐이다.
 
지금까지 인공지능을 속이는 일은 대체로 전문가 영역이었지만 최근 들어 비전문가도 쉽게 접근할 수 있다. 이제는 누구든 인공지능을 속일 물감 얼룩을 내려받아 출력할 수 있다. 전문지식이 조금만 있다면 토스터 외에 세발자전거, 수류탄, 황금햄스터 등으로 속이는 다양한 패턴을 만들 수 있다. 머잖아 인터넷에는 인공지능을 속일 수 있는 다양한 환각제가 만들어질 것이라고 연구팀은 확신한다.
 
   
▲ 일본 닛산자동차의 자율주행차 ‘닛산 리프’(Nissan Leaf)를 탄 운전자가 핸들에서 손을 뗀 가운데 인공지능이 스스로 주행하고 있다. 하지만 여러 방해 요인으로 자율주행 통제 시스템이 혼란을 일으키게 되면 통제 불능 상태가 된다. REUTERS
이해력은 ‘제로’
이는 해커나 국가의 사이버 감시에 반대하는 활동가에게 매력적인 소식이다. 이들은 이런 패턴을 퇴치용 부적으로 삼아 이마에 붙여도 될 것이다. 앞으로 감시카메라가 시위대 속에서 엄청나게 많은 토스터를 인식할 가능성도 배제할 수 없다. 미국 피츠버그의 카네기멜런대학은 특수 패턴 안경테를 개발했는데, 정체를 숨기는 용도로 활용할 수 있다. 특수 패턴의 안경테를 쓴 사람은 영화배우 러셀 크로로 인식될 확률이 상당히 높다.
 
물론 이 현상은 인공지능에는 전혀 좋지 않다. 지난 몇 년간 인공지능의 자동 사진 인식은 인간에게 뒤지지 않을 정도로 개선돼왔다. 이는 컴퓨터의 학습 방식과 관련 있다. 컴퓨터는 수많은 사진을 패턴에 따라 샅샅이 찾아낸다. 컴퓨터는 각 사진, 즉 거북이와 총 사진 등을 각기 다른 범주로 구분한다.
 
인공지능은 추측만 할 수 있는데, 이 추측을 검토할 때마다 기준을 조금씩 개선하려 한다. 수많은 시도를 한 뒤, 인공지능은 드디어 대다수 거북이들을 동일한 카테고리로 구분할 만큼 학습 상태가 된다. 다만 인공지능이 어떤 과정을 거쳐 동일한 사진을 같은 범주로 인식하는지는 말하기 힘들다. 분명한 사실은, 둥글고 딱딱한 등과 비늘로 뒤덮인 다리 등 사람들이 거북이로 인지하는 특징이 인공지능의 사진 인식에서는 아무 구실도 못한다는 것이다. 인공지능은 스스로 보는 사물을 이해하지 못한다.
 
이는 현재 인공지능의 최대 수수께끼다. 학계는 인공지능의 약점을 찾고 있다. 연구팀은 인공지능의 학습 과정에 계속 새로운 공격을 한다. 실제 며칠에 한 번씩 인공지능의 취약점이 밝혀지기도 했다.
 
연구팀이 2013년 말 인공지능을 공격해 첫 성공을 거둔 뒤 많은 변화가 일어났다. 당시 인공지능의 취약점은 잘못 인식된 디지털 사진에만 국한됐다. 인공지능의 디지털 사진 인식 오류는 이론상 문제일 뿐, 크게 위험하지 않은 듯 보였다.
 
하지만 얼마 지나지 않아 인공지능에 대한 연구팀의 공격은 교통표지판 등 현실에서도 나타났다. 인공지능은 조작된 정지 표지판을 속도 제한 표시로 착각했다. 인공지능을 혼란스럽게 하는 공격이 사진 인식에 국한되지 않는 것으로 드러났다. 인공지능의 자동 언어 인식도 공격에 취약하기는 마찬가지다. 인공지능은 사람의 말을 완전히 다르게 이해해, 음성에 포함된 들릴 듯 말 듯한 방해 신호에도 속았다. 이는 녹음이든 현장음이든 모든 음성에서 발생했다.
 
음성인식 기능도 공격에 취약하기는 마찬가지다. 인공지능 음성비서인 아마존 ‘알렉사’(Alexa)는 이미 수백만 가구에서 집주인 명령을 하루 24시간 기다린다. 인간은 머잖아 삶의 절반을 음성 명령으로 조종하게 될 것이다. 하지만 낯선 존재가 집주인과 함께 스마트홈을 조종하는 것은 아무래도 꺼림칙하다.
 
인공지능이 일상생활에 깊이 침투할수록 인공지능 취약성은 논란이 될 수밖에 없다. 자율주행자동차에는 공격 지점이 적지 않다. 자동차부품 업체 보슈(Bosch) 연구팀에 따르면 자율주행차를 통제하는 컴퓨터조차 일부러 혼란에 빠뜨릴 수 있다. 실험에서 컴퓨터는 마치 앞이 보이지 않는 것처럼 차 앞에서 도로를 건너는 사람들을 전혀 인식 못했다.
 
인공지능을 향한 공격의 대응책은 아직까지 거의 없었다. 딥러닝 컴퓨터에 기존에 알려진 약점인 사진·소음을 추가로 훈련하면, 컴퓨터는 더 이상 쉽게 속지 않았다. 하지만 이 처방도 새로운 방식의 공격에는 도움이 되지 않았다.
 
보안 측면에서, 딥러닝 컴퓨터는 여전히 가늠하기 힘든 위험을 안고 있다. 인공지능에 대한 환상이 깨지는 지점이다. 많은 연구원이 인공지능이 시간이 지나며 점점 똑똑해질 것이라 생각했다. 수많은 사진에서 테이블을 제대로 인지하는 컴퓨터는 시간이 흐르면서 테이블 특징을 배우리라 생각했던 것이다. 받침대 위에 평평한 판이 있고 주위에 의자가 빙 둘러 있으며, 때로는 식기·공책·체스판이 올려져 있다는 식으로 말이다.
 
하지만 인공지능에 걸었던 기대는 충족되지 못하고 있다. 인공지능은 테이블의 공통점이 무엇인지, 무엇에 쓰이는 물건인지 여전히 이해하지 못한다. 테이블 위 물감 얼룩만 봐도 컴퓨터는 여전히 테이블을 토스터로 생각한다.
 
사고력이 없는 컴퓨터 능력을 보면 기적에 가깝다. 과연 컴퓨터는 무엇을 보고 테이블이라 인식하는 것일까?
 
새로운 학습법 필요
캐나다 몬트리올대학 딥러닝 연구의 대가 요슈아 벤지오 교수는 이와 관련해 짚이는 대목이 있다. 그는 사진에 이상한 특성이 있다는 점을 확인했다. 자동차가 있는 도로 풍경 등 동일한 유형의 다양한 사진에는 이론상 공통점이 많다. 이 사진들에는 코드가 숨어 있다. 숨은 코드는 색상이 사진 표면에 어떻게 분포되고, 명암이 어떻게 배치되며, 평평한 면적이 많은지 세부 구조가 많은지에 따라 달라진다.
 
이는 단순한 통계치로서, 사람에게는 중요하지 않지만 컴퓨터에는 아주 중요한 정보를 품고 있다. 자동차 사진에는 폭포, 고층 빌딩, 동물 사진과 다른 코드가 있다. 컴퓨터는 수학 패턴과 코드만으로도 사진이 무엇을 보여주는지 어느 정도 특정할 수 있다.
 
딥러닝 컴퓨터는 실제 통계 기법을 활용해 사물을 인식한다. 벤지오 교수는 최근 한 실험에서 이를 입증해 보였다. 컴퓨터의 형상 인식 능력은 기초 수준에 그쳤다. 이는 컴퓨터가 사물을 쉽게 혼동하는 이유와 스스로 학습하는 과정에서 발전하지 못하는 이유를 조금이나마 설명해준다.
 
“이에 대해 단순한 처방법이 있다고 생각지 않는다.” 벤지오 교수는 새로운 학습 방식이 필요하다고 주장한다. 컴퓨터가 사진 내용을 이해하도록 훈련해야 한다는 것이다. 이를 위해 컴퓨터는 무엇이 물체이고 실제 세계에서 그 물체가 어떻게 반응하는지 배워야 한다고 말한다.
 
지금까지 컴퓨터는 단서가 될 만한 패턴을 찾아 픽셀 표면만을 분석했다. 이제 컴퓨터는 사물의 관념을 이해하는 단계로 올라서야 한다. 무엇이 테이블을 테이블로 만들고, 거북이를 거북이로 만드는가?
 
구글 인공지능 연구원 프랑수아 숄레는 이에 회의적이다. 숄레는 인공지능에게 사물 개념을 가르치는 일이 얼마나 어려운지 잘 안다. 그는 “그것은 인공지능에 가장 큰 질문”이라고 최근 트위터에 적었다. “그리고 아무도 그 방법을 모른다.”
 

몇 년 안에 관련 연구가 크게 진전하겠지만 그만큼 인공지능을 향한 공격도 정교해질 것이다. 

*2018년 5월호 종이 잡지 57쪽에 실렸습니다.

ⓒ Der Spiegel 2018년 6호
Zu dumm
번역 김태영 위원
정기구독자는 과거 기사 전체와 2016년 6월 이후 온라인 기사 전체를,
온라인 회원은 과거 기사 일부와 2016년 6월 이후 온라인 기사 전체를 보실 수 있습니다.

  

만프레트 드보르샤크의 다른기사 보기  
ⓒ Economy Insight(http://www.economyinsight.co.kr) 무단전재 및 재배포금지 | 저작권문의  

     
전체 기사의견(0)  
 
   * 300자까지 쓰실 수 있습니다. (현재 0 byte/최대 600byte)
   * 욕설이나 인신공격성 글은 삭제합니다. [운영원칙]
매체소개 구독신청 구독문의기사문의개인정보취급방침청소년보호정책 이메일무단수집거부찾아오시는 길
한겨레신문(주) | 제호 : 이코노미 인사이트 | 등록번호 : 서울 아 01706 | 등록일자 : 2011년 07월 19일 | 발행인 : 양상우 | 편집인 : 권태호
발행주소 : 서울특별시 마포구 효창목길 6 (공덕동, 한겨레신문사) | 한겨레 고객센터 1566-9595 | 청소년보호 책임자 : 장철규
Copyright 2010 Hankyoreh. All rights reserved.