▲ 미국 정보기관의 무차별적 개인정보 수집 활동을 폭로한 뒤 러시아에 임시 망명 중인 에드워드 스노든이 지난 4월17일 TV로 생중계된 블라디미르 푸틴 러시아 대통령의 ‘국민과의 대화’에 깜짝 출연한 것을 기자들이 지켜보고 있다. REUTERS

정보 당국들, 유능한 인재 스카우트해 암호 해독, 도·감청에 활용… 커지는 윤리성 논란

에드워드 스노든의 미국 국가안보국(NSA) 도·감청 폭로를 계기로 이 사건과 연루된 수학자들의 윤리 문제가 수면 위로 떠올랐다. ‘암호전쟁’에 동원되는 수학이 무기가 될 수 있다는 사실은 이미 제2차 세계대전에서 드러난 바 있다. 수학자들은 ‘의심스럽고 불투명한 프로젝트의 하청업자로 일하는 것을 중단하라’고 동료들에게 호소한다. 수학자들은 자신의 명예를 지킬 수 있을까?

에두아르트 케저 Eduard Kaeser
스위스 철학자 겸 물리학자

2014년 1월 정보 및 암호 전문가 50명이 전세계 정부들에 공개서한을 띄웠다. 각국 정부가 정보 당국과 수사 당국에 테러범이나 범죄자를 잡을 수 있는 수단을 손에는 쥐어주되, 이로 인해 거래, 개인 커뮤니케이션, 오락, 기타 일상을 뒷받침하는 각종 안전을 근본적으로 해쳐서는 안 된다는 단서를 달았다. 미국 국가안보국(NSA)이 도청해도 되는지가 문제가 아니라는 것이다. 문제는 상시 노출된 통신 인프라와 사용자 보안을 표준화한 커뮤니케이션 인프라가 공격에 취약한데도 선택의 여지가 없다는 것이다.

이 공개서한은 정보 당국의 수많은 업무의 근간이 되는 정보 및 암호 전문가들이 작성한 것이라 귀기울일 가치가 있다. 수학자는 암호 해독을 귀신같이 하면서도 신발끈조차 제대로 묶지 못하는, 현실감각이 떨어지는 공부벌레라는 상투적인 인식이 지배적이다. 하지만 이런 틀에 박힌 수학자의 모습은 더 이상 현실과 맞지 않는다. 에드워드 스노든이 NSA의 광범위한 도·감청을 폭로한 지 1년이 지난 지금 수많은 수학자들이 정보 당국의 불법 도·감청 활동에 명백하게 연루돼 있음을 우리는 확인한 바 있다.

수학자들은 이미 젊은 시절에 ‘유령’(spook)이라고 불리는 정보 당국에 스카우트된다. 미국의 수학자 캐시 오닐은 자신의 블로그에 “미국 NSA 직원들은 대학에서 전도유망한 우수한 학생들을 물색해 이들에게 특별한 여름강좌를 제공한다”고 적고 있다. NSA는 특별 강좌의 의의를 젊은 대학생들에게 곰곰이 따져보는 것의 즐거움과 함께 정치적인 것과는 전혀 관련 없는 문제 해결의 즐거움을 일깨워주기 위해서라고 설명한다.

1940년만 해도 영국 수학자 고드프리 해럴드 하디는 자신이 지금까지 단 한번도 무언가 유용한 일을 한 적이 없다고 전형적인 엘리트의 어조로 공공연히 말했다. “나의 수학적 발견 중 어느 것도 긍정적이든 부정적이든 그리고 직간접적으로 세상의 안녕과 관련해 어떠한 차이점도 만들지 않았으며, 앞으로도 그럴 것이다.”

그의 발언은 아이러니하다. 고드프리 해럴드 하디는 숫자이론의 선구자다. 숫자이론은 정보의 암호화 과정에서 말 그대로 핵심적 역할을 하고 있으며, ‘세상의 안녕’을 필요 이상으로 좌우하는 수학 분야다. 수학이 무기가 될 수 있다는 사실은 이미 제2차 세계대전에서 만천하에 드러났다. 앨런 튜링 같은 암호 해독 천재들은 제2차 세계대전의 조기 종전에 큰 공을 세웠다(튜링은 그때 이미 ‘미국 NSA의 수호천사’로 일컬었다).

정보 당국 하청업자가 된 수학자들

이로 인해 현대적인 암호 분석이 탄생했다. 현재 미국에서 암호화 소프트웨어는 공식적으로 군수물자로 분류된다. 공공의 전자우편 암호화 시스템 PGP(Pretty Good Privacy) 개발자인 필 지머만은 무기거래상이라는 비난을 받기도 했다. 현대인들은 지금 실질적으로 암호전쟁을 치르고 있으며, 핵폭탄보다 수학공식 하나가 더 심각한 파괴를 불러올 수 있는 시대에 살고 있다.

텔레커뮤니케이션의 신경 시스템은 극히 수학적인 성격을 띠고 있다. 칩이 내장된 EC 카드(전자식 카드)는 수학과 기술이 어우러져 만들어낸 작은 기적이다.

대다수 인터넷 정보는 1977년 수학자 3명이 개발한 암호화 프로세스 ‘RSA 알고리즘’에 토대를 두고 있다. RSA 알고리즘은 개발자 3명의 이름, 즉 로널드 리베스트(Ronald Rivest), 애디 샤미르(Adi Shamir), 레너드 애들먼(Leonard Adleman)의 머리글자를 따서 지은 것이다. 컴퓨터가 RSA 알고리즘을 해독하는 데 시간이 걸리므로 RSA 암호화는 지금까지는 아주 안전한 것으로 간주된다.

그렇다고 RSA 암호를 풀 수 없다는 의미는 아니다. 세계 각국의 정보 당국들은 자국 수학자들에게 RSA 암호 문제를 의뢰했다. 리베스트, 샤미르, 애들먼은 1982년 RSA 알고리즘을 쉽게 해독할 수 있도록 NSA와 협약을 맺었다. 이런 사실은 에드워드 스노든을 통해 세상에 알려지게 됐다. 20년 전 NSA는 기업들이 생산한 일부 제품에 도청장치를 ‘몰래’ 내장하도록 법으로 제정하려 했지만 이는 실패로 돌아갔다. 하지만 수많은 회사들이 자발적으로 NSA에 도청의 길을 열어주었음이 드러났다. 이는 외부 신경 네트워크가 어떤 두뇌에 가지돌기를 지속적으로 공급하다가 결국 서서히 자신의 것으로 만들어버리는 상황을 연상시킨다.

▲ 수학은 ‘암호전쟁’의 최대 무기다. 정보 당국은 유능한 수학자들을 스카우트해 암호 해독을 시키고 도·감청에도 활용한다. REUTERS

NSA, 양자 알고리즘까지 연구

이 지점에서 현대 암호학의 이중성이 여실히 드러난다. 미국 버클리대학의 유전학자 마이클 아이젠은 4월9일치 정보기술(IT) 전문잡지 <와이어드>에서 “미국 NSA는 암호 분석이 후퇴하는 게 아니라 개선되고 있는 것으로 본다”고 적었다. 이는 위협이자 동시에 희망으로도 볼 수 있다. 갈수록 복잡다단해지는 암호 분석의 핵심은 알고리즘의 연산 시간 단축이다.

이에 따라 ‘양자 알고리즘’에 큰 기대를 갖게 되는데, 양자 알고리즘은 원자 집합체의 특수하고 교차된 상태를 토대로 한다. 양자 알고리즘 연구도 대부분 수학적인 성격을 띤다. NSA가 양자 알고리즘에 관심 갖는 것은 불을 보듯 뻔하다. NSA는 내부적으로 양자 알고리즘을 연구하는 동시에 외부 대학에서 ‘연구 자회사’를 물색 중이다.

이 때문에 우려의 목소리도 커지고 있다. 수학의 윤리가 제 역할을 할 수 있을까? 2013년 8월 수학자 찰스 세이프는 ‘옛NSA 수학자 동료들에게 보내는 공개서한’을 발표했다. 그는 대학생 시절에 NSA에서 일한 적이 있다. 세이프는 외부에 모습을 좀처럼 드러내지 않는 NSA가 당시 젊은 자신에게 신비로운 영향을 끼쳤다며 내부 분위기를 전했다.

수학자들이 직장으로서 NSA에 매력을 느끼는 데는 두가지 이유가 있다. 첫째는 수학이 ‘섹시’하다는 것이고, 둘째는 NSA에서 일하면 엘리트에 속하며 무언가 중요한 일을 한다는 기분이 든다는 것을 꼽았다. “조국을 위해 무언가를 할 수 있다는 이상적인 비전이 내게 동기 부여가 되었다”고 세이프는 적고 있다. “심지어 신입사원이었던 나도 작으나마 무언가를 기여할 기회를 느꼈다.”

하지만 찰스 세이프는 자신의 이상이 배신당했다고 느꼈고, 그래서 동료 수학자들에게 공개서한을 보내게 되었다. 영국 에든버러대학의 대수학자 톰 레인스터는 지난 4월23일치 영국 과학잡지 <뉴사이언티스트>에서 수학자들에게 “잠에서 깨어나 의심스럽고 불투명한 프로젝트의 하청업자로 일하는 것을 이제는 중단”하라고 호소했다. 언젠가 누군가로부터 ‘불순한’ 목적으로 악용되지 않을 ‘순수한’ 수학적 지식이란 존재하지 않는다는 것이다. 오늘날 지식인으로서 수학자의 면모는 수학에 종속된 사회에서 자신의 위치를 인식하는 데서부터 시작된다.

하지만 이런 사회가 여전히 열린 사회일까? 일상에서 자동화된 시스템은 점점 늘어나고 있다. 컴퓨터가 고성능화될수록 시민은 암호화에 어떤 권리를, 국가는 암호 해독에 어떤 권리를 가지냐라는 질문은 딜레마를 낳는다. 시민의 안전을 보장하는 수단이 좋을수록 그 수단은 시민의 자유에 부메랑으로 돌아올 것이다. 시민의 자유 위축은 현대 텔레커뮤니케이션과 디지털화된 민주주의에 대한 대가다. 이러한 딜레마에 이상적인 해결 방안이란 존재하지 않는다. 다만 사안별로 해결할 수 있을 뿐이다. 다른 말로 하면, 딜레마와 살아가는 방법을 배워야 한다. 이를 위해 찰스 세이프와 톰 레인스터처럼 정치적으로 깨어 있는 전문가들이 필요하다. 각 사회에는 그들에게 어울리는 암호학자가 있는 법이다.

ⓒ Die Zeit 2014년 22호 Im Schlssel-Krieg
번역 김태영 위원