> 뉴스 > 시각
     
사람의 생각과 말 미래에 그 가치 높아질 것
[INTERVIEW] 미리암 메켈 스위스 장크트갈렌대학 AI 교수
[168호] 2024년 04월 01일 (월) 요한 그롤레 economyinsight@hani.co.kr

 

새로운 지식의 파라다이스인가, 모든 진실의 종말인가? 미리암 메켈(56·Miriam Meckel) 교수는 인공지능(AI)으로 인류 문명이 새로운 단계로 올라가리라고 확신한다.

요한 그롤레 Johann Grolle
마르틴 슐라크 Martin Schlak
<슈피겔> 기자
 

   
▲ 미리암 메켈 스위스 장크트갈렌대학 교수는 인공지능으로 인류 문명이 새로운 단계로 올라가리라고 확신한다. 슈피겔


스위스 장크트갈렌대학의 미리암 메켈 교수는 기술 변화가 우리 사회에 미치는 영향을 수년간 연구했다. 또한 그는 독일 뒤셀도르프에서 조직 개발을 위한 디지털 교육용 플랫폼을 제공하는 스타트업(신생기업)을 운영한다. 우리는 이곳 사무실로 초대받아 인터뷰를 진행했다.
메켈 교수, 인간인 기자와의 인터뷰가 얼마나 지속할 것으로 보는가.
앞으로도 꽤 오랫동안 계속될 것이다. 대화는 인간 사이의 역동성을 기반으로 생명을 얻는데, 인공지능(AI)에는 이 점이 절대적으로 결핍됐다. 기술이 발전함에 따라 인간끼리 진행한 인터뷰는 언젠가 부가가치를 얻을 수도 있다. 오늘날 우리가 수공업의 가치를 중시하는 것과 유사한 방식으로, 미래에는 사람이 실제로 생각하거나 말하는 것에 더욱 가치를 부여할 것이다. 아마 그때는 인간의 유기적 사고에 더 많은 대가를 기꺼이 지급하려 할 것이다.
챗지피티(ChatGPT)에 당신의 책을 올린 뒤, 당신과 인터뷰하려는 기자를 AI에 넘길 수도 있지 않을까. 이렇게 하면 당신은 동시에 많은 인터뷰를 진행할 수 있다.
그것은 장점일 수도 있다. 하지만 이로써 상실되는 것을 생각하면 장점이라 할 수 없다. 나렌드라 모디 인도 총리의 경우를 예로 들어보자. 그는 선거운동 기간에 홀로그램으로 자신을 여러 무대에 등장시켰다. 기술적으로는 완벽했다. 하지만 동시에 그런 전략이 던지는 메시지는 ‘나는 여러분을 직접 찾아뵐 시간을 내지 않겠습니다’는 것이었다.
 

   
▲ 블라디미르 푸틴 러시아 대통령은 2023년 말 인공지능이 생성한 도플갱어와 함께 텔레비전에 출연해 여러 현안에 답하는 무대를 연출했다. 유튜브 갈무리

AI가 인쇄기보다 더 큰 영향력
‘이제 모든 것이 달라졌다. 예전과 같은 것은 없다’는 것을 확실히 깨달은 순간이 있었는가.
나에게 그런 순간이라면 2022년 11월30일, 챗지피티가 온라인으로 제공되기 시작한 날이다. 이 기술로 도처에서 모든 것이 한꺼번에 달라졌다. AI는 과거 인쇄기가 이뤄냈던 것보다 더 큰 영향을 미치고 있다. 인간의 사고에 대한 해석 자체가 바뀌었다. 변화는 정말 사회의 모든 영역에서 일어나고 있다.
당신은 책에서 심연이 열린다고 썼다. 우리가 추락할지, 아니면 위에서 내려다보는 경치를 즐길지는 아직 불분명하다. 이 중 어떤 시나리오가 현실화할지는 무엇으로 결정하는가.
그것을 결정하는 것은 당신과 나, 그리고 우리 인간에게 달렸다. 이제 새로운 차원의 문명에 도달하는 데 도움이 되는 방식으로 AI를 개발할 기회가 주어졌다. 우리는 한층 더 생산적으로 될 수도 있고, 우리 지식을 전세계에 전파할 수도 있다. 이 모든 것은 우리가 특정 규칙을 준수한다면 가능하다. 하지만 규칙을 지키지 않는다면 진실은 중요성을 상실하고, 누구나 무엇이든 위조할 수 있고, 단지 누가 얼마나 빨리 시장에 출시할 수 있는지만 중시하는 디스토피아에 빠져버리고 말 것이다.
그렇다면 첫 번째 시나리오를 실현하기 위해 무엇을 해야 하는가.
먼저 올바른 규칙을 수립해야 한다. 유럽연합(EU)은 처음으로 AI법(AI Act)을 발표했다. 그것으로 충분하지는 않겠지만 일단 시작은 했다. 두 번째 큰 문제는 어떻게 하면 이 주제를 학교 교육에 반영할 것인가다. 더 많은 교육을 통해서만 AI로 얻게 되는 기회의 혜택이 모든 사람에게 돌아갈 수 있다.
 

   
▲ 나렌드라 모디 인도 총리는 2014년 선거운동 기간에 홀로그램으로 자신을 여러 연설 무대에 등장시켰지만 ‘나는 여러분을 직접 찾아뵐 시간을 내지 않겠습니다’라는 메시지만 부각됐다. 나렌드라 모디 공식 유튜브 갈무리

종말론은 머스크의 마케팅 전략
AI 기술은 큰 두려움을 유발한다. 세계 종말론까지 등장했다.
감히 주장하건대, 완전 헛소리다. 인류의 존재가 AI로 위험에 처한다는 주장은, 일론 머스크 같은 사람의 뛰어난 마케팅 전략일 뿐이다. 그는 자신의 언어모델을 조용히 발전시키려고 다른 사람이 진행하는 언어모델 개발은 잠시 멈추게 하고 싶었던 것 같다.
하지만 이 기술의 발전 방향이 전적으로 우리 손에 달렸다고 믿는 것은 순진한 생각 아닐까. 우리의 통제를 벗어나는 자체적인 역동성이 발생할 수도 있지 않을까.
AI는 수십 년 전부터 존재했다. 이 기술을 개발한 것은 언제나 인간이었다. 또한 AI가 어떻게 발전해야 할지에 관한 규칙을 의식적으로 설정해야 하는 것도 인간이다. 규제되지 않는 제멋대로의 AI로부터 혜택을 받을 수 있다고 믿는 사람은 그런 끔찍한 재앙적 AI 기술의 희생자가 될 수 있다는 사실을 깨달아야 한다. 그런 만큼 나는 낙관론자다. 인간은 올바른 결정을 내릴 수 있을 만큼 충분히 현명하다.
당신의 견해는 정말 낙관적이다. AI가 우리 모두를 실업자로 만들 것이라는 예측은 어떻게 생각하나.
모든 새로운 기술은 기존 일자리를 파괴하지만 동시에 새 일자리도 창출한다. 이는 AI에도 적용된다고 생각한다. 예를 들어 현재 절실히 요구되는 새 직업으로는 AI 언어모델이 최상의 결과물을 도출하도록 적절하게 질문하는 방법을 아는 ‘프롬프트 엔지니어’를 꼽을 수 있다.
노동시장은 빠르게 변화한다. 2030년 우리에게 시급히 필요하게 될 많은 직업이 현재 시점에서는 존재하지 않는다. 고등학교 졸업생에게 어떤 공부를 하라고 조언할 수 있겠는가.
새 기술의 작동 방식에 익숙해지라 조언하고 싶다. 사회학, 심리학 또는 철학과 함께 컴퓨터, 디지털화, AI의 이면에 숨어 있는 논리를 공부하는 것이 이상적이다. 기술에 관해 협소한 관점을 가지는 것만으로 충분하지 않다. 문화적 맥락에서 기술을 이해해야 한다.
은퇴할 때까지 자신이 배운 직업에 계속 종사하는 사람이 미래에도 있을까.
그런 일은 요즘에도 예외적이다. 예를 들어 나는 언론인으로 직업생활을 시작했으나, 지금은 교수이자 기업가이다. 나는 다양한 전환이 좋다고 생각한다. 그러려면 교육시스템도 여기에 맞춰져야 한다. 말하자면, 대학의 경우 일종의 정기구독 모델 같은 것을 제공할 수 있다. 자신이 가장 원하는 대학에 정기예약을 하고 몇 년에 한 번씩 대학으로 돌아가 지식을 심화한다. 평생 이렇게 계속하는 것이다.
 

   
▲ 2024년 1월 세계경제포럼이 열린 스위스 다보스의 한 건물에 인공지능 관련 메시지가 적혀 있다. REUTERS

배관공은 장기적으로 살아남아
변화가 지속해서 일어날 경우, 모든 사람이 이를 좋아하는 것은 아니다. 더 장기적인 지속성을 지닌 직업도 있는가.
배관공을 예로 들 수 있다. AI가 상당히 정교해졌지만, 변기를 수리할 수 있는 AI 로봇은 아직 세상에 없다.
그렇다면 사람들이 특히 우려해야 할 직업은 무엇인가.
이전에는 안전하다고 느꼈던 직업군인 경우가 많다. 예를 들어 미국의 한 연구는 AI가 리더십 문제에 점점 더 많이 관여할 것이라는 결론에 도달했다. AI가 인간보다 더 나은 결정을 내리고 더 나은 결과를 달성한다면, 인간은 오히려 위험 요소로 간주되고 자본시장은 인간을 배제하려 할 것이다.
AI가 점점 더 많은 업무를 대신해준다면 인간은 앞으로 일을 덜 하게 될까.
이미 100년 전, 영국의 경제학자 존 메이너드 케인스는 손자 세대가 되면 주당 15시간 일하게 될 것이라고 예측했다. 하지만 그렇게 되지는 않았다. 인간은 의미를 추구하고 몰두할 일을 찾는 존재로, 옛것이 사라지면 새로운 것을 창조하기 마련이다. 그래서 나는 실리콘밸리의 많은 사람이 주장하는 것처럼 기본소득이 우리 문제를 해결해줄 것으로 믿지 않는다. 그 많은 자유 시간에 무엇을 할 것인가? 더 좋은 사회 쪽으로 간다면, 우리는 일을 더 적게 하는 것이 아니라 더 멋진 일을 하게 될 것이라 생각한다. 그러면 성가신 일을 줄이고 대신 재미있는 일을 하게 될 것이다. 예를 들어 전자우편을 쓰고 예약을 관리하는 것 대신 많은 생각을 하며 시간을 보낼 수도 있다.
새로이 등장한 생성형 AI는 시를 쓰고, 음악을 작곡하고, 예술작품을 만들 수 있다. 미래에 인간 예술가가 도대체 필요한가.
당연히 필요하다. 첫째는 예술적으로 활동하는 것이 좋기 때문이고, 둘째는 AI가 만들어내는 모든 것은 단어나 픽셀의 확률을 아주 잘 예측한 것에 불과하기 때문이다. AI 프로그램이 새로운 이미지를 생성할 때, 아무리 아름답게 보여도 그것은 이전에 입력된 내용을 새로 섞어놓은 것에 불과하다. 독창성을 어떻게 이해해야 할지 우리는 다시 생각해야 한다. 인간은 깨달음과 영감의 능력이 있다. 우리에게는 새로운 것을 창조할 수 있는 뛰어난 창의력이 있다.
결국 인간의 예술도 이미 존재하는 것을 새로운 방식으로 해석하는 일이 아닌가.
많은 경우에 그렇다. 하지만 사람은 진정으로 새로운 것을 창조하는 순간도 있다. 반면 AI가 계산하는 모든 것은 단순한 통계에 불과하다. 3년 뒤엔 언어모델이 인터넷에 존재하는 모든 것을 읽게 될 것으로 예상한다. 그때부터는 모델에 입력되는 거의 모든 데이터가 이미 존재하는 것의 재가공에 불과할 것이다. 즉, 텍스트의 관점에서 보면 2026년부터 전세계적인 ‘근친상간’이 시작되고 이미 존재하는 것들이 끊임없이 반복되는 경험을 할 것이다. 이렇게 되면 모델이 나빠진다. 그러면 데이터에 독창성을 불어넣기 위해 사람의 입력이 필요할 것이다.
 

   
▲ 2023년 4월 ‘소니 월드 포토그래피 어워드’에 선정된 사진작가 보리스 엘다크젠의 작품 <전기기술자>. 인공지능(AI)의 작품이라며 엘다크젠은 수상을 거부했지만, 이 작품은 인간과 기계가 함께 위대한 것을 창조할 수 있음을 보여준 사례라는 평가도 있다. 보리스 엘다크젠 누리집

AI와 인간의 협업 가능
그것이 우리 인간에게 남겨진 역할인가.
AI 모델에 종속돼 AI가 퇴화하지 않도록 하는 창조적 노예가 인간의 역할은 아니다. 그렇게 되지는 않을 것이다. 인간과 기계는 함께 위대한 것을 창조할 수 있다. (2023년 4월) ‘소니 월드 포토그래피 어워드’에 선정된 사진작가 보리스 엘다크젠의 작품 <전기기술자>(The Electrician)가 좋은 예다. 이 이미지는 아티스트와 기계가 서로 주고받으며 만든 사진이다. 이 사진에는 인간의 창의력뿐만 아니라 AI도 많이 포함돼 있다. 우리는 완전히 새로운 형태의 예술적 창작을 경험하고 있다.
AI 언어모델을 학습시키기 위해 오픈에이아이(OpenAI) 같은 회사는 신문 기사 등 저작권이 있는 텍스트를 사용한다. 이에 따라 <뉴욕타임스>는 오픈AI를 상대로 저작권 소송을 진행하고 있다.
그런 선례가 중요하다. 오픈AI 같은 회사는 고품질 데이터로 작업하는 게 유리하다. 결국에는 출판사나 예술가에게 비용을 지급하는 식으로 갈 것이다.
AI로 인해 가짜 뉴스나 이미지를 퍼뜨리는 게 어느 때보다 쉬워졌다.
나 역시 그 점이 걱정된다. 2024년에는 전세계적으로 인구의 절반이 선거를 한다. 딥페이크(첨단 조작 기술)는 정치적 소통 과정에서 많은 피해를 줄 수 있다. 이미 1월에 그런 일이 시작됐다. 대만의 선거기간에 중국에서 선거 결과에 영향을 미치려는 시도가 있었다. 대만 총통을 향한 거짓말로 가득 찬 책을 만든 것이다. ‘색정광이다’ ‘사생아를 낳았다’ 등의 내용이었다. 이 책의 일부는 소셜 플랫폼에 AI 동영상으로 유포됐다. 이는 마지막 세부 사항까지 정교하게 짠 전략이었다.
정치에서 거짓말은 새로운 일이 아니다.
맞다. 과거에는 사실을 핵심으로 하고 주변에 거짓말을 끼워 넣는 방식으로 이뤄졌다. 하지만 오늘날 대중은 끊임없이 거짓말의 공격을 받고, 이는 진실을 향한 신뢰에 혼란을 불러일으킨다. 블라디미르 푸틴 러시아 대통령은 2023년 말 AI가 생성한 도플갱어와 함께 텔레비전에 출연해 이를 보여줬다. AI는 푸틴에게 “(건강 악화를 숨기기 위해 공개적 자리에 푸틴 대신 내보내는 사람이 있다는 소문이 몇 년간 있었는데) 정말로 당신과 똑 닮은 대역이 있느냐”고 물었다. 그러자 푸틴은 “아니다, 나를 닮고 내 목소리를 내는 사람은 나밖에 없다”고 대답했다. 이 연기로 그는 시청자에게 아무것도, 정말 아무것도 믿어서는 안 된다는 메시지를 심어줬다. 이는 진실이 어떤 식으로 불신을 당하는지 보여준다. 진실은 조작할 수 있는 대상이 된다.
어떤 의미에선 우리 문화 전체가 가짜로 이뤄졌다. 소설과 영화는 지어낸 현실에 지나지 않는다. 우리는 그것을 다루는 법을 배웠다. AI 역시 단순히 우리가 배워야 할 새로운 문화적 기술이 아닐까.
그렇긴 해도 세상은 점점 더 혼란스러워지고 있다. 소설과 영화의 경우, 우리는 그것을 해석하는 방법을 알고 있다. 하지만 오늘날 사회에 노출되는 정보는 더 이상 명확하지 않다. 2016년 미국 대선 캠페인 기간에 트럼프가 성적 비속어를 내뱉은 동영상이 유출돼 지금 공개됐다고 상상해보라. 트럼프는 즉시 “딥페이크! 가짜!”라고 외칠 것이다.

‘AI의 통치’, 완전히 거부하진 않아
당신은 한 연구에서 사람들이 AI에 투표권을 넘길 의향이 있는지 조사했다. 어떤 결과가 나왔나.
그리스, 미국, 싱가포르, 스위스에서 이 질문을 던졌다. 참가자들에게는 사회적 여론조사를 바탕으로 AI가 정치적 제안을 작성할 것이라고 설명했다. 그리스에서는 투표권을 기꺼이 넘기겠다는 사람이 소수에 불과했다. 싱가포르에서는 응답자의 거의 40%가 투표권을 넘기겠다고 답하는 등 정반대의 결과가 나왔다.
당신도 기꺼이 AI의 통치를 받을 것인가.
그 아이디어를 완전히 거부하지 않는다. 많은 의사결정이 더 나은 데이터를 기반으로 더 빨리 이뤄지기를 바란다. AI가 이를 지원할 수 있다. 하지만 AI가 여론 형성 과정을 대체해서는 안 된다. 의견이란 다른 사람과 대화하면서 형성된다. 이 과정을 기술로 대체한다면 민주주의 종말의 시작이 될 것이다.
어떤 결정을 AI에 절대 맡겨서는 안 되는가.
그 경계를 어디에 설정할지는 항상 새롭게 정해야 한다. 한 가지 기본 규칙은 있다. AI가 무엇을 결정해도 되는가의 문제는 절대 AI 손에 맡겨서는 안 된다는 것이다.
AI 전문가 수천 명에게 한 설문조사에서 3분의 1 이상이 AI에 의해 인류가 멸종할 위험이 10% 정도라는 말에 동의했다.
종말론적 시나리오는 특히 기술업계에 널리 퍼져 있다. 많은 기술업계 사람이 기술이 무엇이든 할 수 있다고 확신한다. 반면에 나는 육체가 없는 AI는 결코 의식을 갖출 수 없는 고성능 통계 도구에 불과하다고 생각한다. 스스로는 인류를 멸망시키려는 의지를 결코 발전시키지 못할 것이다. 우리의 모든 일상적인 문제를 도울 AI는 분명히 올 것이다. 그러나 인간을 노예로 만드는 초지능 같은 것이 있다고 생각하지 않는다.

ⓒ Der Spiegel 2024년 제7호
2026 beginnt der globale Inzest
번역 최현덕 위원

 

정기구독자는 과거 기사 전체와 2016년 6월 이후 온라인 기사 전체를,
온라인 회원은 과거 기사 일부와 2016년 6월 이후 온라인 기사 전체를 보실 수 있습니다.

  

요한 그롤레의 다른기사 보기  
ⓒ Economy Insight(http://www.economyinsight.co.kr) 무단전재 및 재배포금지 | 저작권문의  

     
전체 기사의견(0)  
 
   * 300자까지 쓰실 수 있습니다. (현재 0 byte/최대 600byte)
   * 욕설이나 인신공격성 글은 삭제합니다. [운영원칙]
매체소개 구독신청 구독문의기사문의개인정보취급방침청소년보호정책 이메일무단수집거부찾아오시는 길
한겨레신문(주) | 제호 : 이코노미 인사이트 | 등록번호 : 서울 아 01706 | 등록일자 : 2011년 07월 19일 | 발행일 : 2011년 07월 19일 | 발행인 : 최우성 | 편집인 : 박종생
발행주소 : 서울특별시 마포구 효창목길 6 (공덕동, 한겨레신문사) | 한겨레 고객센터 1566-9595 | 청소년보호 책임자 : 박종생
Copyright 2010 Hankyoreh. All rights reserved.