페이페이 리(47·Fei-Fei Li) 미국 스탠퍼드대학 컴퓨터과학 교수는 인공지능(AI) 분야의 리더로 평가받는다. 리 교수는 정치인들이 기술과 인류의 미래를 기업에만 맡겨서는 안 된다고 경고한다.

지몬 부크 Simon Book 토마스 슐츠 Thomas Schulz
<슈피겔> 기자
 

▲ 페이페이 리 미국 스탠퍼드대학 교수는 인공지능(AI) 개발을 기업에만 맡겨서는 안 된다고 경고한다. 위키미디어 코먼스

페이페이 리는 물리학자가 되고 싶었다. 하지만 지금은 20년 넘게 인공지능(AI)을 연구한다. 그는 이미지넷(ImageNET) 프로젝트를 개발했다. 이 프로젝트는 2009년부터 데이터로 알고리듬을 학습시켰고, 챗지피티(ChatGPT) 같은 최신 AI 시스템 개발에 크게 기여했다. 리 교수는 미국 스탠퍼드대학의 ‘인간중심 AI 연구소’(Institute for Human-Centered Artificial Intelligence)의 공동설립자로, 컴퓨터공학을 가르친다. 그는 ‘미국 AI 연구자원 태스크포스’(National Artificial Intelligence Research Resource Task Force) 위원이기도 하다. 이 전문가 위원회는 조 바이든 미국 대통령에게 조언한다.
당신은 AI 선구자 중 한 명이다. AI 기술은 2023년 챗지피티로 크게 발전했다. 대부분의 사람에게 이 기술은 갑자기 등장한 것처럼 보인다. 당신도 개발 속도에 놀랐나.
기술 쪽 전문가들은 이미 얼마 전부터 상황이 갑자기 빠르게 발전한다는 것을 알아차렸다. 구글 과학자들은 2017년 처음으로 챗지피티의 기반이 되는 거대언어모델(LLM)이 무엇을 할 수 있는지 설명했다. 그때 우리는 AI가 사람에게 초능력을 부여하는 기술이 된다는 것을 알았다. AI는 암을 퇴치하고, 기후변화에 대처하며, 전세계의 생물다양성을 보존하는 데 도움이 될 수 있다. 하지만 내가 챗지피티의 놀라운 성공을 예상했느냐고? 아무도 예상하지 못했으리라고 생각한다.
실리콘밸리에서는 새 기술이 발표될 때마다 세상을 뒤흔들 ‘차세대 대박 기술’이라며 떠들썩해진다. 챗지피티가 정말 기술적 게임체인저가 될까.
물론이다. 적어도 AI 분야에서는 그렇다. 어쩌면 인류에게도 게임체인저가 될 수 있다. 어쨌든 이 기술은 스쳐 지나가는 과장광고가 아니다. 기술의 능력은 경이롭다. 머지않아 어디에서나 AI를 발견할 것이다. 모든 회사에서 그리고 삶의 모든 부분에서.
 

▲ 이제 정치권이 AI의 합리적 가이드라인이 무엇인지 빨리 찾으려고 노력해야 한다. 우르줄라 폰데어라이엔 유럽연합 집행위원장(뒤 오른쪽)이 2023년 11월 영국에서 열린 ‘AI 안전 정상회의’에서 자리를 찾아가고 있다.

누구나 AI 사용 가능
기존 AI 모델과 어떤 차이점이 있나.
챗지피티 기술은 AI를 전문가만 사용할 수 있는 도구가 아니라 잠재적으로 모든 사람이 쓸 수 있는 대중적인 애플리케이션으로 바꿨다. 기술적 궁금증이 있는 엔지니어든, 작문하기 위해 조사해야 하는 학생이든, 여행상품을 준비하는 여행사 직원이든 상관없이 모든 사람이 AI를 활용할 수 있고, 일반적으로 합리적인 답변을 얻는다. 하지만 이 기술은 아직 완벽하지 않다. 때로 ‘환각’ 현상을 보기도 한다.
AI 시스템이 데이터에서 잘못된 결론을 도출하거나 사실과 허구를 섞어 만든 혼합물을 진실로 제시하는 현상을 전문가들은 그렇게 (환각이라고) 부른다.
그 부분을 더 연구해야 한다. 하지만 전체적으로 보면 이 기술은 강력한 기능을 가졌다.
아직 성숙하지 않은 기술과 강력한 기능은 위험한 조합처럼 들린다.
AI라는 주제의 중심에는 인간이 있어야 한다. 이는 기술 자체뿐 아니라 윤리적·정치적 결과도 이야기해야 한다는 뜻이다. 이것이 바로 우리가 스탠퍼드대학에 ‘인간중심 AI 연구소’를 설립한 이유다.
현재 과학기술계에선 명실상부한 문화전쟁이 벌어지고 있다. 한쪽에서는 AI를 구세주로 보고 되도록 빨리 이를 더욱 발전시키고 싶어 한다. 다른 쪽에선 점점 더 인류를 위협하는 존재로 인식한다. AI 전문가들조차 AI 기술에 관한 판단이 이렇게 엇갈리는 이유는 무엇인가.
지금은 정말 시끄러운 논쟁이 벌어지고 있다. 일반 대중이 깨어나 예의주시하기 때문이기도 하다. 하지만 과학자뿐만 아니라 엔지니어, 제품 관리자 등 많은 사람이 포함된 AI 커뮤니티 전체가 그렇게 양극단의 의견만을 가진 것은 아니다.
당신은 어느 쪽에 속하나.
거창한 ‘기술 유토피아’를 희망하는 사람도 아니고, 인류의 존재가 위협받았다고 믿는 사람도 아니다. 나는 인류가 주기적으로 획기적인 기술을 발명한다고 믿는다. 인간이 만들어내는 모든 도구는 인간에게 유리하게도 불리하게도 사용될 수 있다. AI도 마찬가지다.
최근에는 음모론자뿐 아니라 구글의 AI 개척자인 제프리 힌턴 같은 저명한 전문가들도 인류를 향해 AI의 위험을 경고한다.
가장 큰 두려움은 AI가 언젠가 여러 분야에서 인간을 대체할 수 있다는 것이다. 우리는 인간을 지원하는 방식으로 AI를 개발하기 위해 노력해야 한다. 의료 분야를 예로 들어보자. AI는 의사의 진단, 제약회사의 신약 개발, 환자의 회복을 도울 수 있다. 하지만 올바른 가이드라인을 정해야 한다. 나는 과학자로서 그 책임이 있다.
책임은 누구보다 정치인에게 있어야 하지 않을까.
정치권은 이제 막 깨어났고, 합리적 가이드라인이 무엇인지 빨리 찾으려 노력하고 있다.
 

▲ 조 바이든 미국 대통령이 2023년 10월 AI 관련 행정명령에 서명하기 위해 백악관 이스트룸에 마련된 무대 위를 지나가고 있다. REUTERS

국가가 AI에 상당한 투자 해야
정치인들이 AI가 사회와 경제를 얼마나 근본적으로 변화시킬지 이해한다고 보나.
안타깝게도 완전히 그렇지는 않다. 하지만 챗지피티 덕분에 미국이나 유럽의 고위 정치인들은 적어도 이 주제에 훨씬 더 많은 관심을 가지게 됐다.
당신은 최근 몇 년 동안 조 바이든 미국 대통령에게 조언했다. 어떤 내용인가.
국가가 AI에 상당한 투자를 해야 한다. 바이든 대통령과 미국 의회에 이 점을 강조했다. 지금까지는 민간기업이 AI 개발과 그에 따른 논의를 주도했다. 정부는 연구·클라우드·데이터저장 등에만 투자할 것이 아니라 ‘문샷 정신’(Moonshot Mentality·1969년 미국의 달 착륙 프로젝트 ‘아폴로 계획’처럼 기존 틀을 깨는 혁신적인 연구나 도전)을 보여줘야 한다. 즉, 국가 연구소들과 인력에 투자해야 한다. 나는 공공부문에서 나오는 목소리가 이 논의에 제대로 반영되지 않는 점이 우려스럽다. AI를 완전히 민간기업에 맡긴다면 인류의 미래도 민간기업에 맡기는 것이나 마찬가지다.
대기업이 주도하는 AI가 결국 위험해지지 않을까 걱정하는 건가.
나는 결코 반기업적이지 않음을 강조하고 싶다. AI의 상업적 발전에도 반대하지 않는다. 그러나 인류가 강력한 도구를 발명해도 모든 사람이 항상 이를 책임감 있게 사용하는 것은 아니다. 때로는 이런 일이 의도치 않게 또는 무의식적으로 발생한다. 예를 들어 의료용 AI 앱이 환자 건강에 도움을 주지만 데이터 보호를 무시하는 경우다.
정부 투자가 이를 방지하는 데 도움이 될까.
적어도 균형을 잡는 데는 도움이 된다. 결국 정부 투자는 공공 이익, 암치료법, 새 유형의 음악, 기후보호 등에 이뤄질 것이기 때문이다. 이런 문제 중 상당수는 과거 정부 투자로 강력하게 추진됐다. 나는 AI라는 강력한 도구가 제대로 쓰이도록 하고 싶다. 그러기 위해서는 공공기관, 대학, 비영리단체의 역할이 훨씬 더 커져야 한다. 문제의 일부는 오늘날 세계 어느 대학도 챗지피티 같은 자체 모델을 개발할 여력이 없다는 데 있다.
 

▲ AI를 완전히 민간기업에 맡긴다면 인류의 미래도 민간기업에 맡기는 것이나 마찬가지라고 페이페이 리 교수는 경고한다. 마크 저커버그 메타 최고경영자가 2023년 9월 미국 캘리포니아주 멘로파크의 본사에서 연설하는 가운데 스크린에 AI 문자가 비치고 있다. REUTERS

AI 연구에 안전조치 필요
세계에서 부유한 대학 중 하나인 스탠퍼드대학도 안 되는가.
스탠퍼드대학도 안 된다. AI는 매우 비싸다. 현재 AI 모델을 학습시키고 개발하는 데 수억달러의 비용이 든다. 그래서 나는 무엇보다 국가가 재정을 지원하는 클라우드에 오랫동안 찬성했다.
공공기관이 감당하기에는 너무 비싼 컴퓨팅 성능과 데이터 처리 용량을 국가가 제공할 수 있을까.
그렇다. 이는 더 많은 학술적인 AI 연구를 가능하게 할 것이다. 현재 미국에는 민간기업과 공공기관 간의 재정 불균형을 해결하기 위한 초당적 법안(Create AI Act)이 발의돼 있다. 나는 법안이 통과되기를 간절히 바란다.
국가가 투자뿐만 아니라 법적 요건을 갖춰 AI 시장에 개입해야 한다는 말인가.
당연히 신뢰를 구축하기 위해서라도 규제를 포함해야 한다. 제약회사가 ‘우리 약은 안전하다’고 단순히 주장만 해서는 안 되는 것처럼 말이다. 의약품 허가나 금융감독 등 거의 모든 영역에서 국가가 규제하고 있다. 기존 규제를 AI가 사용되는 분야에도 적용하는 일이 가장 시급해 보인다.
정부 규제가 너무 많으면 기술 발전이 더뎌질 위험도 있다.
윤리 기준과 안전 요건을 지키며 AI를 연구하는 기업이 많이 있다. 그렇다고 이들 기업이 모두 망한 것도 아니다. 우리의 책임을 다하기 위해서는 산업표준과 법적 체계가 필요하다. 기업은 AI를 연구할 때 반드시 안전조치가 필요하다. 대학도 마찬가지다.
스탠퍼드대학은 어떤 조치를 하는가.
다양한 대학 대표들로 구성된 윤리검토위원회가 모든 AI 프로젝트를 검토하고 승인한다. 기업도 이와 유사한 프로세스를 구축해 많은 이해관계자가 신제품의 기회와 위험을 평가하도록 해야 한다. 예를 들어 의료 분야 AI 앱이라면 환자, 병원 운영자, 의사, 보험회사, 관련 당국이 될 것이다. 당연히 관련 연구 분야의 전문가도 포함돼야 한다.
당신은 지금 무엇을 연구하나.
우리 연구실에서는 주로 학습로봇과 ‘임바디드(Embodied) AI’, 즉 가상세계에서 움직이는 로봇을 연구한다
목표는 무엇인가.
업무에 적응하고, 인간과 더 가깝고 더 잘 상호작용하는 로봇을 개발하는 것이다.
산업 생산이나 다른 분야에서도 적용되는가.
가정이나 병간호 등 모든 분야를 포함한다. 아직 많은 기초연구가 필요하다. 현재의 AI 시스템은 유연성이 부족하고, 맥락을 이해하지 못하는 경우가 많으며, 이해하기 쉬운 용어로 지시하기가 어렵다. 궁극적으로 인간의 언어, 감정, 의도, 행동을 이해하는 기계지능을 개발해야 한다.
최근 당신이 회고록에 쓴 것처럼 ‘지능의 비밀’을 해독하는 것이 당신 연구의 원동력인가.
사실 나는 어릴 때부터 물리학자가 되고 싶었다. 그게 내 첫 번째 전공이었다. 알베르트 아인슈타인이나 에르빈 슈뢰딩거의 책을 읽으며 물리학자들은 나이가 들면 주로 생명과 인간지능의 구성 요소를 고민한다는 것을 알게 됐다. 그래서 신경과학으로 전공을 바꿨다.

지각과 지능은 밀접히 연관
미국 패서디나에 있는 캘리포니아공과대학에서 박사과정을 밟던 시절, 당신은 주로 눈으로 보는 것을 뇌가 어떻게 처리하는지를 연구했다. 그 뒤 최초로 인간보다 이미지를 더 잘 인식하는 알고리듬을 학습시켰고, 이는 챗지피티 및 그와 유사한 시스템의 초석이 됐다. 시각적 이해가 AI의 핵심인가.
그렇다. 컴퓨터의 시각 인식, 즉 기계가 사물과 사건을 인식하는 것이 나에게는 AI이다. 시각적 인식이 기본이다.
좀더 자세히 설명해주겠는가.
진화론적 관점에서 볼 때 지각과 지능은 밀접히 연관됐다. 인간이 주변 환경을 인식하면 그 범위 안에서 움직일 수 있다. 인간이 먹이를 인식해야 그것은 먹이가 된다. 이것이 5억4천만 년 전 진화의 시발점이 됐다. 주변 환경을 더 잘 이해하고 포식자로부터 몸을 숨기려면 뇌에 더 많은 뉴런이 필요했다. 그래서 지능이 발달했다. 그렇기 때문에 AI와 로봇을 결합해 로봇이 주변 환경을 인식하고 해석하는 방법을 배우도록 하는 것이 나에게는 중요하다.

ⓒ Der Spiegel 2023년 제51호
Der Staat muss massiv in KI investieren
번역 황수경 위원