> 뉴스 > 이슈
     
누구 가치관에 맞추냐가 AI 설계의 핵심 문제
[INTERVIEW] 샘 올트먼 오픈AI 대표
[159호] 2023년 07월 01일 (토) 막스 호펜슈테트 economyinsight@hani.co.kr

 
인공지능(AI) 기업 오픈에이아이(OpenAI)의 샘 올트먼 대표가 <슈피겔> 인터뷰에서 자신의 발명품 챗지피티(ChatGPT)에 관해, 그리고 인공지능이 얼마나 위험한지를 말한다.


막스 호펜슈테트 Max Hoppenstedt
마르셀 로젠바흐 Marcel Rosenbach
<슈피겔> 기자
 

   
▲ 2022년 11월 인공지능 챗봇인 챗지피티를 내놓아 돌풍을 일으킨 샘 올트먼 오픈AI 대표. REUTERS


샘 올트먼(38)은 챗봇 챗지피티(ChatGPT)를 출시한 이래 전세계에서 인기 있는 기업인이 됐다. 벌써 몇 달 만에 그의 인공지능 소프트웨어 사용자는 1억 명이 넘는다. 그는 록스타인 양 세계를 돌며 소프트웨어 개발자, 정치가, 학생들을 만난다. 그는 최근 독일을 방문해 올라프 숄츠 총리와 짧게 면담했고, 뮌헨공과대학에서 <슈피겔>과 인터뷰했다.

유럽연합(EU)에서 계획하는 인공지능 규제 법안 때문에 당신이 챗지피티를 유럽연합 국가들에서 철수하겠다고 위협했다는 언론 보도가 있었다. 지금 이별 순회공연을 하는 당신을 우리가 만나는 것인가.
이번 여행이 (이별이 아니라) 시작이기를 바란다. 내 발언을 보도하는 기사들의 제목은 경우에 따라 너무 과장됐다. 인공지능 규제는 중요한 논점과 관련해 확실하게 해결을 보지 못했고, 완전히 협의가 끝난 것이 아니다. 궁극적으로 우리가 법이 규정하는 기술 기준을 지킬 수 없다면 법을 위반하지 않을 것이다.
 

   
▲ 샘 올트먼 오픈AI 대표가 2023년 5월16일 미국 상원 청문회에 출석해 인공지능 규제 필요성 등에 대해 발언하고 있다. REUTERS

인간의 통제 잃지 않아야
철수한다는 뜻인가.
상황이 좋은 방향으로 갈 수 있게 돕고 유럽연합과 협력하고 싶다.
좀 혼란스럽다. 당신은 최근 미국 상원 청문회에서 엄격한 인공지능 규제를 요청했다. 당신의 기술을 핵무기에 비교했는데, 이는 인공지능에 관한 국제적 통제 기구의 필요성을 논의하도록 했다.
절대적으로 민주적 절차를 통해 테크놀로지의 한계를 확정하고 인간으로서 인공지능 통제를 잃지 않는 것이 중요하다. 기업 처지에서도 명확성이 필요하다. 그래서 규제가 있어야 한다.
규제가 필요함을 모두가 호소하게 된 이유, 즉 인공지능이 지닌 위협과 관련해 얘기해보자. 범죄자는 이미 당신이 개발한 도구로 악성 프로그램을 만들고 있다. 당신은 이 나쁜 사람들이 쉽게 작업할 수 있도록 해준 것 아닌가.
지금 우리는 새로 등장한 막강한 도구를 말하고 있다. 이 도구는 좋은 일에 많이 쓰일 수 있다. 동시에 부정적인 것을 강화하는 데도 쓰일 수 있다. 결국엔 긍정적 측면이 몇 배나 더 클 것이라고 확신한다. 인류의 대다수는 인공지능을 생산적으로 쓸 것이다. 물론 테크놀로지를 악용하는 사람은 항상 있게 마련인데 이런 일을 막기 위해 조처해야 한다.
얼마 전 인공지능으로 만든 가짜 사진, 펜타곤(미국 국방부)이 폭발하는 사진으로 잠시나마 주식시장이 곤두박질했다.
지금까지 많은 가짜 정보와 싸워야 했다. 내가 걱정하는 것은 새로운 형태의 가짜 정보다. 아주 진짜 같고 맞춤형인데다 쌍방향으로 작용하는 가짜뉴스, 말하자면 인공지능에 기반을 둔 딥페이크(인공지능을 활용한 인간 이미지 합성 기술)다. 이에 대처할 사회적 억제력이 필요한 상황인데 이를 위한 노력이 진행되고 있다. 인공적으로 만든 사진을 자동 탐지하는 기계 등을 생각해볼 수 있다. 또한 법을 제정해 인공지능으로 합성한 사진에는 디지털 워터마크를 표시하게 할 수도 있겠다.
인공지능 악용 시나리오 가운데 무엇을 가장 우려하는가.
인공지능 시스템으로 생물학적 무기를 개발할지 모른다는 사실이 우려된다. 물론 인공지능으로 더 좋은 백신을 개발할 수도 있다.
당신마저 이 모든 것이 우려스럽다면 왜 챗지피티를 세상에 내놓았는가. 당신을 비롯해 인공지능의 선구적 개발자들은 어떤 결과를 초래할지도 모르면서 지금 인류를 시험하는 것이 아닌가.
그런 말은 새 기술을 도입할 때마다 나올 수 있다. 우리는 무슨 일을 하는지 잘 알고 있었다. 우리는 2022년 11월 최신형 제품을 발표하지 않았다. 지피티-4가 인류를 더 큰 도약으로 이끌 수 있다고 믿었기에, 우선 그 이전 버전(지피티-3.5)으로 시작했다. 이런 기술 개발을 비밀리에 진행하는 것이 훨씬 더 위험하다고 생각한다. 많은 사람에게 이것을 시험할 기회를 제공해 긍정적 잠재력과 위험을 이해하게 하고, 이런 기술 개발이 초래할 사태에 대한 논의에 동참하도록 하는 것이 좋다. 우리가 챗지피티를 그렇게 빨리 출시하지 않았다면 오늘날 이런 논쟁을 벌일 수 없을 것이다. 따라서 우리가 한 일은 옳았고 또한 중요했다. 아직 늦은 게 아니기 때문이다.
오픈AI 직원 가운데 몇 명이 인공지능 애플리케이션을 통제하고 더 안전하게 만들어내는 문제와 씨름하는가.
회사 전체가 그 문제로 고심한다. 그러지 않을 수가 없다. 인공지능은 다른 기술과 달라서 한편에는 개발자가 있고 다른 편에는 보안 문제를 고심하는 몇몇 사람이 있는 것이 아니다.
메타 같은 대기업은 제품의 악용을 막는 일에만 매달리는 직원의 비율이 월등히 높다. 당신은 보안을 이야기하는데, 정말 구체적으로 무슨 일을 하는가.
우리 역시 보안 전담 직원이 있고, 보안 기술을 우리 모델에 맞게 적용하려 연구하는 사람들이 있다. 인공지능 모델을 훈련하는 직원이 우리가 정한 안전기준을 지킬 책임도 진다. 최신형 모델의 경우 8개월이나 충분히 시험했고 이른바 ‘레드팀’의 공격을 받도록 했다. 당신이 챗지피티로 폭탄을 제조하려 한다면 우리 모델은 그 일을 거부할 것이다. 문제가 될 만한 행동을 인식하는 모니터링 시스템을 갖췄다. 깐깐하게 비판하는 사람들조차, 우리가 안전 문제에 정말 많이 신경 쓴다는 것을 인정했다.
챗지피티를 사용하면서 긍정적 의미로 어떨 때 가장 놀라웠나.
수많은 방식으로 교육 분야에서 사용하는데 정말 흥미롭다. 개인교사와 공부하는 것이 많은 친구와 함께 교실에서 배우는 것보다 훨씬 효과적임을 알지 않는가. 하지만 개인교사를 둘 여유가 있는 사람은 아주 적다. 처음에 챗지피티를 우려하던 교사들도 이제 보조교사로 교육에 사용하고 있다. 많은 교사가 챗지피티를 통해 공부가 심도 깊게 변화할 것이라고 말한다.
당신이 지적했듯이 인공지능은 많은 직업을 사라지게 하겠지만 한편으로 어떤 직업에선 그 일을 더 잘하게 해줄 것이다.
나는 여행하면서 지금이 바로 테크놀로지와 컴퓨터정보학 분야에서 경력을 쌓을 가장 좋은 시기라고 젊은 사람들에게 설명할 기회로 삼고 있다. 우리는 인터넷을 발명한 이래 가장 흥미로운 순간을 목격하고 있다. 인공지능은 인류가 해낸 일 중 가장 실질적이고 영향력이 크며, 가장 특별한 도구가 될 것이다.
하루에 어느 정도 챗지피티를 찾는가.
엄청나게 많다. 정확히 알지는 못한다. 수백만 건은 될 것이다.
그렇다면 분명 엄청난 컴퓨팅 성능과 전력이 필요할 텐데.
실제로는 그건 무시할 정도다. 하지만 미래에 이 시스템은 분명 많은 에너지를 필요로 할 것이다. 이점을 축소해서 이야기하고 싶지 않다.
에너지 소모량이 많다면 이는 기후에도 영향을 미친다. 당신의 컴퓨터는 친환경 전력으로 작동하는가.
탄소중립 의무가 있는 마이크로소프트의 서버와 데이터센터를 사용한다.
당신은 현재 가장 인기 있는 기업인이다. 그런데 오픈AI는 2022년 기준 매출이 2800만달러(약 360억원)인데 5억4천만달러의 손실을 봤다고 한다.
틀린 수치다. 하지만 현재 많은 손실을 보는 것은 맞는다.
당신은 그래도 별로 우려하는 것 같지 않다.
그렇다. 나는 이 사실에 대해 전혀 우려하고 있지 않다.
 

   
▲ 샘 올트먼 대표의 방문을 앞둔 2023년 6월5일 이스라엘 텔아비브대학에 오픈AI 배너가 걸려 있다. REUTERS

미국, 비현실적인 것과 씨름 용인
이전에도 인공지능 과대광고의 물결이 휩쓴 적이 있다. 또한 2년 전 메타버스가 많은 사람들 입에 오르내렸다. 생성형 인공지능에 관한 흥분도 시간이 지나면 가라앉을 것이라고 볼 수 있을까.
실제 과대선전될 위험이 있다. 그러나 이는 테크놀로지가 비교적 장기간에 걸쳐 만들어내는 변혁에는 해당하지 않는다. 내 관점에서 볼 때, 현재 장기적 전망에 대한 흥분은 오히려 너무 적다.
당신은 독일 순방 중 올라프 숄츠 총리를 만났다. 숄츠 총리는 당신이 이 세계에 내놓은 것이 무엇인지 이해하는가.
우리는 인공지능 발전을 가속하기 위해 독일이 무엇을 할 수 있는지 논의했다. 이를 위해 중요한 것들, 완전한 디지털 공급망을 논의했고, 혁신을 질식시키지 않으면서도 인공지능 위험에서 보호하는 규제, 면밀히 고려된 규제를 논의했다.
독일이 인공지능 경쟁에서 중요한 역할을 하는가.
물론이다. 독일에서 많은 개발자와 협력하고 있다. 또한 독일에서 챗지피티를 사용하는 사람이 아주 많다. 우리는 이번 여행의 경로를, 가장 많은 개발 파트너가 있는 지역으로 선정했다.
독일은 미국과 비교해 스타트업 수, 인공지능 투자액이 훨씬 뒤처진다. 그 이유가 무엇인가.
독일에서 스타트업 창업 건수는 오래전부터 내가 기대한 것보다 훨씬 적다. 여기서 분명 중요한 역할을 하는 게 있다. 미국에서는 새로운 것, 언뜻 비현실적으로 보이는 것과 씨름하는 일이 사회적으로 용인된다. 우리가 ‘범용 인공지능’(Artificial General Intelligence·사람처럼 일반적인 사고능력을 갖춘 AI)을 목표로 나아간다고 선언한, 최초의 그리고 아마도 유일한 기업일 것이다.
‘일반 인공지능’ 하면 인공지능의 특별히 발전적인 형태, 즉 인간이 할 수 있는 모든 것을 할 수 있는 프로그램을 말하나.
바로 그것이다. 게다가 미국에서는 어떤 프로젝트를 위해 함께 일하는 사람들이 초과노동을 하는 것이 훨씬 더 정상적이다. 물론 자본조달 방법이 중요하지만 그것이 유일한 측면은 아니다.
블라디미르 푸틴 러시아 대통령은 인공지능 시장의 선두에 선 자가 세계를 지배할 것이라고 했는데, 과연 그러한가.
아니다. 그의 말은 옳지 않다. 그러나 독재자가 테크놀로지에서 중요한 선두 자리를 점할 때 세계는 위험에 빠질 수 있다.
 

   
▲ *2022년 창업자료: ‘인공지능 지수 2023 리포트’

흑인·소수자 차별을 막을 수 있나
오늘날 소프트웨어가 흑인 혹은 소수자를 차별하는 일이 종종 있다. 소프트웨어를 인간이 프로그래밍하기 때문이다. 이런 사태를 막기 위해 무엇을 하는가.
앞으로 인간보다 인공지능 시스템이, 사회적으로 민감한 사람들까지 포함해 인간을 분명히 덜 차별할 것이라고 믿는다. 이를 위해 우리는 상응하는 기술적 조치를 마련할 수 있다.
차별은 벌써 일어나고 있다. 당신은 너무 낙관적으로 보는 것 아닌가.
이 문제는 아마 이전의 테크놀로지에 해당하는 일이었을 수 있다. 예를 들어 자동적인 신용도 평가는 정말 문제가 심각했다. 결정적 물음은 ‘인공지능을 누구의 가치관에 맞춰 설계할 것인가’일 것이다. 이 문제를 둘러싸고 격심한 논쟁이 벌어질 것이다.

ⓒ Der Spiegel 2023년 제22호
Uns war bewusst, was wir da tun
번역 최현덕 위원

 

정기구독자는 과거 기사 전체와 2016년 6월 이후 온라인 기사 전체를,
온라인 회원은 과거 기사 일부와 2016년 6월 이후 온라인 기사 전체를 보실 수 있습니다.

  

막스 호펜슈테트의 다른기사 보기  
ⓒ Economy Insight(http://www.economyinsight.co.kr) 무단전재 및 재배포금지 | 저작권문의  

     
전체 기사의견(0)  
 
   * 300자까지 쓰실 수 있습니다. (현재 0 byte/최대 600byte)
   * 욕설이나 인신공격성 글은 삭제합니다. [운영원칙]
매체소개 구독신청 구독문의기사문의개인정보취급방침청소년보호정책 이메일무단수집거부찾아오시는 길
한겨레신문(주) | 제호 : 이코노미 인사이트 | 등록번호 : 서울 아 01706 | 등록일자 : 2011년 07월 19일 | 발행일 : 2011년 07월 19일 | 발행인 : 최우성 | 편집인 : 박종생
발행주소 : 서울특별시 마포구 효창목길 6 (공덕동, 한겨레신문사) | 한겨레 고객센터 1566-9595 | 청소년보호 책임자 : 박종생
Copyright 2010 Hankyoreh. All rights reserved.