신경윤리학자 마르첼로 이엔카(Marcello Ienca)와 ‘마인드 리딩’(생각 읽기), 뇌 조작 그리고 인간과 기계의 결합이 가져올 윤리적 결과 등을 이야기했다.

요한 그롤레 Johann Grolle
클라우스 헤킹 Claus Hecking <슈피겔> 기자
 

▲ 신경윤리학자 마르첼로 이엔카는 신경기술 발달로 최악의 경우 소설 <1984>보다 훨씬 더 디스토피아적인 상황이 펼쳐질 것이라고 우려한다. 뮌헨공과대학 ‘의학 역사·윤리 연구소 누리집

독일 뮌헨의 거리 프린츠레겐텐슈트라세에 있는 5층 건물 입구는 기둥으로 둘러싸여 있다. 마르첼로 이엔카(36)는 이 건물 2층에서 연구를 수행한다. 뮌헨공과대학 ‘의학 역사·윤리 연구소’의 부소장인 그는 신경권(Neurorights)의 개념을 개발하는 데 참여했다. 신경권은 인권의 하위 개념으로, 미래에 있을지도 모를 사상의 자유를 제한하려는 시도로부터 인권을 보호하기 위한 것이다. 신경기술(Neurotechnology)이 빠르게 발전하고, 인공지능(AI)이 이를 더욱 가속화하고 있기 때문이다. 이탈리아에서 태어난 그는 오른쪽 손목에 지그재그 선의 문신을 새겼다. 저항의 상징이다.
당신의 말에 따르면 우리는 인간과 기계가 물리적으로 결합하는 새로운 세계의 문턱에 와 있다. 예를 들어 신경기술 발달로 ‘뇌-컴퓨터 인터페이스’(BCI) 칩이 뇌에 이식될 것이다. 우리에게 일어날 수 있는 최악의 상황은 무엇인가.
최악의 경우 소설 <1984>보다 훨씬 더 디스토피아적인 상황이 펼쳐질 것이다. 이 소설에서 조지 오웰은 ‘빅 브라더’와 그의 정권이 국민을 화장실에서든 침대에서든 어디에서나 감시하고 도청하는 전체주의 세계를 묘사한다. 오웰은 자유의 마지막 보루가 아직 남아 있다며, “각자의 두개골 안에 있는 몇 입방센티미터의 공간”이라고 썼다. 미래에 우리의 뇌가 아무런 보호 조치 없이 디지털 세계에 연결된다면, 우리는 이 마지막 몇 입방센티미터의 통제력도 상실할 수 있다.
국가나 기술 기업이 사람의 뇌를 감시하고 조작할 수 있는 세상이 된다는 뜻인가.
기업이 사람의 뇌에서 특정 제품을 향한 욕망을 깨울 수 있다. 독재 정권은 수감자나 반대파 의원의 두뇌를 해킹해 그들의 생각을 끄집어낼 수 있다. 중국 정부가 신장웨이우얼 무슬림 인구의 정치적·종교적 신념을 바꾸려 한다고 가정해보자(현재 중국 정부는 이를 다른 방법으로 시도하고 있다). 나는 수십 년 안에 뇌 조작을 통한 신념의 강제적 수정과 같은 일이 기술적으로 가능해질 것이라고 생각한다.
 

▲ 키보드나 터치스크린 없이 뇌와 컴퓨터가 직접 소통하는 ‘뇌-컴퓨터 인터페이스’(BCI) 기술은 급속도로 발전하고 있다. 2018년 8월 중국 베이징에서 열린 ‘세계 로봇 콘퍼런스’에서 한 참석자가 BCI로 로봇을 움직이는 경연 대회에 참가해 실력을 겨루고 있다. REUTERS

성경의 기적 실현할 수 있다
그렇다면 신경기술이 만들어낼 가장 멋지고 새로운 세계는 어떤 모습일까.
의료혁명의 세계다. 성경에서 묘사하는 것처럼 벙어리가 다시 말을 하고, 마비된 사람이 다시 걸을 수 있는 기적 말이다. 신경공학은 AI의 도움으로 성경의 기적을 실현할 수 있다.
이러한 기술이 건강한 사람에게도 도움이 되는가.
건강하다는 것은 무엇인가? 의학 학술지 <랜싯>(The Lancet)의 최근 보고서에 따르면, 두 명 중 한 명은 일생에 한 번 이상 정신질환을 앓는다. 전세계적으로 보면 40억 건에 이른다. 게다가 만성적 수면 부족과 같은 질병도 있다. 신경기술은 사람의 마음을 더 편안하게 하고, 숙면을 취하는 데 도움이 될 수 있다. 우리는 또한 뇌로 디지털 기기를 직접 제어할 수도 있을 것이다. 터치스크린이나 키보드는 구식이고 느린 입력 방법이다. 뇌와 컴퓨터가 직접 연결되면 커뮤니케이션이 더 빠르고 쉬워질 것이다.
그러한 신경세계의 낙원에서 우리의 정신 능력도 향상될 수 있을까. 약물복용처럼 뇌를 자극하는 방법도 있을까.
왜 안 되겠는가. 필요한 기술은 이미 존재한다. 적어도 초기 단계는 시작됐다. 신경자극은 이미 우울증을 앓는 사람의 기분을 밝게 하고 파킨슨병 환자나 불면증을 치료하는 데도 사용한다. 이는 간단히 말하자면 전자파가 뇌의 특정 영역을 통과하게 하는 치료 방식이다. 이 분야의 발전은 매우 빠르다. 언젠가는 신경자극을 통해 사람들이 1㎞ 떨어진 곳의 물체를 인식하거나 몇 분 안에 외국어를 배울 수 있을지도 모른다.
공상과학 소설처럼 들린다. 누가 그 비용을 감당할 수 있을까? 슈퍼리치들만 가능하지 않을까.
그것이 핵심 문제다. 이 기술은 사회를 더욱 불평등하게 만들 수 있다. 많은 돈을 들여 초능력을 구입하는 일부 초인(Superhumans)과 그 값을 지불할 수 없는 나머지로 나뉘는 것이다. 따라서 우리는 정의와 평등을 보장할 조치, 즉 이러한 기술에 누구나 접근하도록 해야 한다. 그렇게 될 수 있다면 나는 뇌 자극을 통한 인간의 능력 향상을 거부하지 않을 것이다.
할리우드 영화감독과 작가들은 미래를 상상하는 것을 좋아한다. 이런 영화나 소설을 통해 우리를 기다리는 미래가 어떠할지 짐작할 수 있을까.
톰 크루즈가 출연한 영화 <마이너리티 리포트>에는 살인을 저지를 것으로 예상되는 사람을 체포하는 예방경찰이 등장한다. <마이너리티 리포트>의 시나리오는 수긍하기 어렵다. 반사회적 행동을 하려는 생체지표가 있고, 이것으로 범죄를 저지를 가능성이 매우 높은 사람을 식별할 수 있다는 내용이다. 그렇다면 최악의 경우 경찰은 아무 짓도 하지 않은 사람을 선제적으로 체포할 수 있다. 하지만 미래를 향한 긍정적 전망도 있다. 예를 들어, <스타 트렉> 책 중에서 커크 선장은 엔터프라이즈호를 방문한 사람의 생각에 접근하고 싶어 한다. 하지만 그는 “정신적 프라이버시에 대한 권리는 모든 연방시민의 불가침의 권리이며 침해돼서는 안 된다”는 말로 제지당한다.
<마이너리티 리포트>는 2054년, <스타 트렉>은 23세기를 배경으로 한다. 그렇다면 먼 미래의 이야기 아닌가.
신기술의 발전 속도를 과소평가해서는 안 된다. 스마트폰이 나온 지 이제 겨우 17년밖에 안 됐다. 사람으로 치면 아직 성인이 되기 전인데, 그 기간 동안 우리 사회와 일상을 근본적으로 변화시켰다.
신경기술 연구에 참여하는 이들은 누구인가.
매우 다양하고 일부 참여자는 강력하다. 우선 당연히 전세계의 신경과학 및 신경기술 연구실이 있다. 하지만 민간 기업의 참여도 점점 늘고 있다. 그중에는 일론 머스크의 뉴럴링크와 같은 신경기술 전문 기업도 있고, 메타, 아이비엠(IBM), 애플, 삼성처럼 이미 거대해진 디지털 생태계를 더욱 확장하고자 하는 기술 기업도 있다. 그리고 여러 국가의 군대가 이 기술을 군사 목적으로 사용하기 위해 노력한다.
신경윤리학자로서 당신의 역할은 무엇인가.
세 가지의 주요 임무가 있다. 첫째, 윤리적 문제를 반영해 기술이 인간 중심적이고 책임감 있게 사용되도록 한다. 둘째, 정책 입안자들과 협력해 과학에 기반한 규제를 개발함으로써 기술 혁신의 세계와 기술 정책 사이의 연결고리 역할을 한다. 셋째, 사람들에게 위험과 기회를 알려 그들이 자신의 두뇌조작에 관한 결정을 정보에 입각해 내릴 수 있도록 한다.
 

▲ 자기공명영상(MRI)과 AI의 발달로 미래에는 이전보다 훨씬 더 정확하게 뇌의 특정 영역을 표적으로 삼는 것이 가능할 전망이다. REUTERS

정신적 자기결정권은 기본권
숭고한 목표다. 당신은 이것을 어떻게 실현할 계획인가.
2024년 유네스코는 국제 전문가 그룹을 임명했고, 나도 그 일원으로 참여한다. 우리의 임무는 신경기술의 윤리와 관련한 추천 사항들을 만들어내는 것이다. 우리는 신경권이 인권의 틀 안에서 보호받아야 하며, 무엇보다 정신적 자기결정권은 기본권이라는 개념을 다듬고 있다. 모든 사람은 자기 뇌에 일어날 상황을 스스로 결정할 수 있어야 한다.
당신은 스마트폰이 우리 삶을 근본적으로 변화시켰다고 말했다. ‘마인드 리딩’(생각 읽기) 분야에서 아이폰과 같은 혁신이 나타나는 순간은 언제로 예상하는가.
‘마인드 리딩’을 무엇이라고 생각하느냐에 달렸다. 데이터 패턴을 통해 특정한 정신상태를 추론하는 것을 말하는 것인가? 그렇다면 우리는 이미 신경기술 없이도 그렇게 할 수 있다. 예를 들어 동영상에서 AI는 얼굴뿐 아니라 감정까지 인식할 수 있다. 좁은 의미에서 마인드 리딩, 즉 생각을 읽는다는 것은 뇌 활동 가운데 생각의 내용을 해독하는 것을 의미한다. 10년 전, 아니 5년 전만 해도 나는 가까운 미래에는 불가능하다고 말했을 것이다. 하지만 AI는 상황을 극적으로 변화시켰다. 현재 AI 모델은 뇌 활동에서 생각의 내용을 해독하도록 점점 더 잘 훈련받고 있다.
그러나 피실험자를 자기공명영상(MRI) 스캐너에 밀어넣거나 번거롭게 전선을 연결해야 한다. ‘사상 감시 경찰’이 사용하기에는 비실용적이다.
웨어러블(착용) 기술도 있다. 나는 뇌 활동을 읽는 장치가 점점 더 작아지고, 더 정확해지며, 더 저렴해져서 일상생활에서 보편화할 것이라고 확신한다.
그렇다면 애플, 페이스북, 아마존 등이 앞으로 우리의 디지털 활동뿐 아니라 우리의 생각마저 감시하게 될까.
애플은 최근 EEG(뇌파) 측정 전극을 갖춘 새로운 에어팟 센서의 특허를 출원했다. 이는 차세대 에어팟을 통해 애플이 적어도 이론적으로는 뇌 정보를 수집하고 이를 소비자 행동에 관한 데이터베이스와 결합할 수 있다는 의미다. 현재 EEG는 아직 많은 것을 해독할 수 없지만 한 가지는 확실하다. 역사상 최초로 수백만 명의 뇌 활동을 동시에 기록할 수 있게 됐다. 이는 추상적인 비전이 아니다. 곧 실현될 일이다.
이러한 발전은 누가 통제하는가.
우리의 신경권 연구는 바로 그것을 목표로 한다. 사람을 기술의 수동적인 수용자로 만드는 것이 아니라, 자기 운명을 스스로 통제할 수 있도록 하는 것이다. 우리에게 필요한 것은 사람을 섬기는 기술이지, 사람이 기술에 봉사하는 것이 아니다.
현재 기술 수준에서 생각을 얼마나 자세히 읽을 수 있는가.
몇 년 전까지만 해도 해독 수준은 매우 조야했다. 피실험자가 앞에 있는 사람을 본다면 실루엣을 재구성하도록 AI를 훈련시킬 수는 있었지만 그 이상은 불가능했다. 그러나 현재 이 이미지는 점점 더 세밀해지고 있다. 언젠가는 AI가 피실험자가 보고 있는 사람을 인식하고 식별할 수 있게 돼도 놀라지 않을 것이다.
뇌 스캔을 통해 우리의 의도를 읽는 것도 가능할까.
충분히 가능하다. 아마도 앞으로 10년 안에 꿈을 해독하는 것도 가능할 것이다.
미래에 기업이나 국가가 우리의 뇌에 개입해 조작할 수 있게 될까.
그럴 수도 있다. 미래에는 이전보다 훨씬 더 정확하게 뇌의 특정 영역을 표적으로 삼는 게 가능할 것이다. 심지어 스스로 신경을 자극할 수도 있을 것이다. 예를 들어, 분노하기 쉬운 사람이 좀더 평화로워지기를 원할 때 이렇게 할 수 있다.
미래에는 신경조절을 통해 성격을 설계할 수 있다는 뜻인가.
적어도 오늘날 우리는 뇌에 개입해 성격을 변화시킬 수 있음을 이미 확인했다. 네덜란드에서는 한 환자가 뇌 자극 치료를 받았고 증상이 크게 호전됐다. 그러나 갑자기 그는 조니 캐시의 음악에 강박적인 열정을 갖게 됐다.
그런 성격 변화는 어디까지 갈 수 있는가.
오스트레일리아의 뇌전증 환자 리타 레깃 이야기를 해보겠다. 그는 발작을 예측하고 경고하는 뇌 임플란트를 이식받았다. 그는 이 장치를 이식받은 후 아주 잘 지냈고, 일상생활이 훨씬 편해졌다. 하지만 임플란트 제조업체가 파산했고, 회사는 더 이상 임플란트를 지원할 수 없게 됐다. 그래서 레깃은 자기 의지와는 상관없이 3년 뒤에 뇌 임플란트를 제거해야만 했다. 우리는 이 여성을 인터뷰했다. 그는 우리가 전문 용어로 ‘성격의 불연속성’이라 부르는 것을 경험했다. 다시 말해, 그는 장치를 제거하기 전의 자신처럼 느껴지지 않는다고 말했다.
 

▲ 일론 머스크 테슬라 최고경영자가 설립한 신경기술 기업 뉴럴링크는 두뇌에 칩을 이식하는 방식으로 접근하는데, 외과적 수술이 필요해 큰 위험을 동반한다. REUTERS

인간과 기계의 하이브리드 인간
말하자면 알고리즘이 그의 일부였다는 뜻인가.
인간과 임플란트가 합쳐져 하이브리드 인간이 됐던 것이다.
그렇다면 그의 진정한 자아는 누구인가. 장치를 이식한 사람인가, 이식하지 않은 사람인가.
레깃은 임플란트를 이식한 사람과 자기를 동일시했다. 파킨슨병 환자들과 대화할 때도 우리는 비슷한 현상을 목격했다. 증상을 완화하기 위해 뇌에 전극을 이식한 환자들이었다. 이러한 전극은 예를 들어 보정을 해야 할 때 일시적으로 꺼지곤 한다. 환자들은 우리에게 당시 상황을 설명하면서 “전극이 꺼졌다”라고 말하지 않고, “내가 꺼졌다”라고 말했다.
섬뜩하게 들린다. 그런 사람이 범죄를 저지른다면 사람과 기계 중 누구에게 책임이 있는가.
어떤 결정을 AI가 내리고, 어떤 결정을 인간이 내렸는지 구분할 수 없을 것이다. 진정한 나는 누구인가? 이를 명확히 분간할 수 있는 실험은 없다. 그렇기 때문에 뇌 임플란트가 사용자의 의식과 주관적 경험에 미치는 영향을 더 자세히 연구하는 것이 매우 중요하다.
신경공학이 사법시스템에서 역할을 하도록 허용해야 할까. 경찰이나 정보기관이 현재 휴대폰을 감청하는 것처럼 미래에는 특정 상황에서 용의자의 생각을 도청하도록 허용해야 하는가.
현재로서는 기술적으로 불가능하다. 인도에서는 한 여성이 뇌 스캔을 통해 범죄를 알고 있었다는 이유로 종신형을 선고받았다. 현재의 기술 수준을 고려할 때 이는 말도 안 되는 일이다. 하지만 정말 생각을 확실하게 읽을 수 있다고 해도 나는 매우 제한적으로 사용해야 한다고 생각한다. 심문 중에 용의자의 생각을 읽는 것은 정신적 프라이버시를 심각하게 침해하는 행위다.
뇌 속의 기계가 통제권을 완전히 장악할 위험은 없는가.
없다. 뇌는 엄청난 적응력을 가진 극도로 유연한 기관이다. 그렇기 때문에 뇌와 AI가 서로 반응하고 하이브리드로 합쳐지는 것이다.
언젠가는 모두를 위한 두뇌 칩이 나올 수 있을까.
신경기술 시장은 빠르게 확장하고 있다. 유럽평의회의 최신 보고서에 따르면 지난 10년간 투자가 20배가량 증가했으며, 특허 건수도 마찬가지로 증가했다. 최근 몇 년 동안 거의 모든 거대 기술 기업이 신경 데이터를 미래 비즈니스로 주목하고 있다. 애플은 EEG 에어팟의 특허를 출원했다. 페이스북 모회사 메타는 ‘컨트롤랩스’(CTRL-Labs)라는 신경기술 스타트업을 인수했다. 구글은 뉴로마케팅(Neuromarketing) 연구를 진행하고 있다.
이식형 신경기술은 외과적 수술이 필요해 더 복잡하다. 그럼에도 일론 머스크는 모두를 위한 신경기술 개발을 목표로 뉴럴링크를 설립했다.
머스크의 구상은 어떤 의미를 지니고 있는가.
10년 전에 ‘뇌-컴퓨터 인터페이스’를 이야기했을 때 사람들은 내가 무슨 말을 하는지 전혀 몰랐다. 지금은 많은 사람이 뉴럴링크를 들어봤기 때문에 거의 모든 사람이 이 주제를 알고 있다. 이것이 내가 머스크에게 유일하게 고마워하는 점이다. 그는 이 분야에 대한 대중의 관심을 불러일으켰다.
그 외에는 머스크를 안 좋아하나.
머스크는 기존 기술을 가져와 자기가 발명했다고 세상이 믿게 하는 데 탁월하다. 또한 그의 임상연구 및 커뮤니케이션 방식은 매우 위험하다. 잘못되면 신경기술 분야 전체가 불신을 받을 수 있다.
뉴럴링크 부류의 기술이 꼭 필요한가? 차라리 뇌에 산업적으로 접근하는 것을 금지하는 게 더 현명하지 않을까.
지금처럼 뇌 이식이 큰 위험을 동반하는 한, 나도 그 생각에 동의한다. 두뇌에 칩을 이식할 때는 외과적 수술이 필요한데, 일반 대중이 이식받기에는 너무 위험하다. 하지만 미래에는 다른 방법으로 이식이 가능할 수 있다. 예를 들어, 칩이 든 알약을 삼키고, 이 칩을 체내에서 뇌로 유도하는 방식이다.
그렇다면 모든 사람에게 브레인칩을 마케팅하는 것이 합법적이라고 생각하는가.
원칙적으로 그렇다. 오용과 조작을 방지하고 공정한 접근을 보장하기 위한 모든 조치를 취하는 것을 전제로 한다면 가능하다. 그러한 기술을 금지하는 것은 사람이 자신과 자기 두뇌에 관련한 결정을 내릴 자유를 침해하는 것이다.
 

▲ 뇌로 조종하는 군사용 드론은 신경기술을 활용할 수 있는 분야다. 우크라이나 병사가 2024년 6월 드론을 날릴 준비를 하고 있다. REUTERS

뇌로 드론 조정
미래의 전쟁에서 신경기술은 어떤 역할을 할까.
큰 역할을 할 것이다. 중국군에는 ‘인지전’(Cognitive Warfare)이라는 프로그램이 있다. 미국 고등방위연구계획국(DARPA)도 신경기술 프로그램에 집중적으로 투자한다. 현재 세 가지 주요 영역에 중점을 두고 있다. 첫 번째는 뇌와 컴퓨터 간의 직접적인 통신이다. 무엇보다도 이 방법은 대체로 도청이 불가능하다. 두 번째는 기억의 선택적 조작이다. 예를 들어 군인들의 고통스러운 기억, 트라우마를 지울 수 있다. 세 번째는 뇌로 조종하는 운반체의 개발이다. 이것은 특히 드론에서 꽤 잘 작동한다.
다음 단계는 무엇인가.
마인드 리딩 기술이 죄수를 심문하는 데 사용되는 것을 상상할 수 있다. 상상할 수 있는 또 다른 응용은 군인의 성격을 더 순종적이거나 공격적으로 만드는 것이다.
이러한 신경무기는 생화학무기와 마찬가지로 국제적으로 금지해야 하지 않을까?
그렇게 하려면 먼저 윤리적 근거가 필요하다. 유네스코의 전문가 그룹은 프랑스 파리에 모여 일주일 동안 신경권의 초안을 만들었다. 가장 중요한 원칙은 어떤 정부, 기업, 군사 조직도 당사자의 동의 없이 개인의 신경 과정에 개입할 수 없다는 것이다.
현실적으로 당신의 제안이 실현될 가능성은 어느 정도인가.
각국 정부와 협상을 이제 막 시작했다. 2025년 중순까지 작업을 완료해야 한다. 상황이 많이 진전됐다.
중국과 같은 국가는 국제 가이드라인의 제약을 원하지 않을 것 같다.
그렇지 않다. 전문가 그룹에서 내 옆자리에 앉았던 사람이 중국에서 가장 유명한 신경과학자인 뤄칭밍 박사였다. 중국도 규칙 제정 과정에서 발언권을 갖고 싶어 한다. 나는 국제적인 합의가 가능하다고 생각한다. 그리고 지금이 그것을 하기 가장 좋은 시기다.
어떤 점에서 그런가.
우리는 역사적인 갈림길에 서 있다. 처음으로 우리는 뇌의 기능을 시뮬레이션하고 그 결과물인 AI를 우리의 지능과 결합할 수 있게 됐다. 이 시점에서 윤리적·정치적 결정을 내려야 한다. 이미 수십억 명의 사용자를 보유한 소셜네트워크에서는 불가능하다. 그러나 신경기술은 아직 초기 단계에 있다. 따라서 개발의 방향성을 정하는 것은 여전히 우리 손에 달려 있다. 늦기 전에 지금 시작해야만 한다.

ⓒ Der Spiegel 2024년 제23호
Die Technologie kann biblische Wunder wahr machen
번역 황수경 위원