무라티는 챗GPT를 출시한 오픈AI의 최고기술책임자(CTO)로서 생성형 인공지능 혁명을 주도하고 있다. 그리고 그것이 얼마나 이롭거나 해로울지 뚜렷하게 인식하고 있다. BY KYLIE ROBISON AND MICHAL LEV-RAM

오픈AI의 미라 무라티(34) CTO가 샌프란시스코 본사 회의실에서 우리를 만나기 직전, 다른 임원이 그 회의실에서 나왔다. 공동 창업자인 샘 올트먼 CEO였다. 하지만 얼마 후 AI 혁명의 주역인 이 괴짜 경영자는 다른 방에서 회의실로 다시 뛰어 들어왔다. 그리고 자신의 소지품(대단한 것은 아니고 노트북만 담겨 있었다)을 챙겨, 조용히 회의실을 빠져나갔다. 인터뷰 주인공인 무라티를 위해 자리를 깔끔하게 정돈한 것이다.

AI 분야에서 가장 유명한 오픈AI를 평소 대표하는 인물은 올트먼이다. 실제로 그는 최근 미 의회에서 AI 규제와 관련된 미팅을 마치고 워싱턴 D.C.에서 돌아왔다. 대중들에게는 생소할지 몰라도, 오픈AI의 급부상에 그만큼 중요한 역할을 한 인물이 바로 무라티다. 그녀는 종종 베일에 싸여 있다. 하지만 텍스트를 예술 작품으로 전환하는 AI 기술인 달리(DALL-E)뿐만 아니라 인기 챗봇인 챗GPT를 총괄하는 임원이다. 이 AI 기술들은 8년 전 비영리 연구소로 시작한 오픈AI를 괄목할 만한 수준으로 성장시켰다.

작년 11월 시장에 첫 선을 보인 챗GPT는 단 두 달 만에 월간 활성 사용자(MAU) 1억 명 이상을 모으며, 역사상 가장 빠르게 성장한 소비자 앱으로 기록됐다. 또한 이 기술은 앱 이용 시 때로는 당황스럽거나 심지어 방해가 되는 여러 결함을 수정해 가며 진화해 왔다. 챗GPT의 모든 성공과 실패에 큰 관심을 보이는 대중을 위해, 최근의 기술 개발 과정을 설명하는 무라티의 책임은 날로 커지고 있다.

실제로 오픈AI는 소위 ‘생성형 AI’라 불리는 최신 기술의 진화를 단독으로 이끈 공로를 인정받고 있다. 그리고 시장의 관심은 실질적인 매출 증가로 이어졌다. 최근 몇 달간 소비자들 사이에서 챗GPT의 성장세는 둔화한 것으로 추정된다. 하지만 기업 고객들 사이에서는 챗GPT 사용이 호황을 누리고 있다. 올해 오픈AI는 10억 달러(약 1조 3525억원) 이상의 매출을 올릴 것으로 예상된다. 

이는 놀랄만한 성장세로 볼 수 있다. 올해 초 투자 유치 당시 공개한 자료에 따르면 오픈AI는 지난해 매출이 3000만 달러(약 405억원)에도 미치지 못했다. 하지만 무라티의 리더십하에 체결된 소프트웨어 대기업 마이크로소프트와의 거래 덕분에, 100억 달러(약 13조 5250억원) 규모의 투자 유치와 함께 모든 종류의 새로운 유통 채널을 갖추게 됐다.

오픈AI의 사무실은 외관상 굉장히 평범해 보였다. 하지만 내부 장식은 매우 스타일리시했다. 이런 대조적인 모습은 그녀와의 인터뷰에서도 나타났다. 무라티는 청바지와 티셔츠를 입은 캐주얼 차림이었지만, 대화를 나누며 그녀 내면의 강렬함을 곧바로 느낄 수 있었다. 그녀는 신중한 어조로 천천히 질문에 답했다. 궁극적으로 무라티는 “최신 챗GPT의 기능뿐 아니라, AI가 인류의 종말을 가져올 가능성에 대해서도 고민하고 있다”고 말했다.

과거 테슬라에서 근무했던 무라티는 2018년 오픈AI에 합류했다. 하지만 그녀의 커리어를 보면, 실리콘밸리의 가장 유명한 기업들로 이직하는 전형적인 경로를 따르지 않았다. 그녀는 청소년기를 모국인 알바니아에서 보냈다. 당시 이 발칸 국가는 전체 공산주의 체제에서 민주주의 정부로 전환하는 과도기였다. 그런 변화는 갑작스럽고 다소 혼란스러웠다. 하지만 그녀는 “구정권이 잘한 점이 하나 있다”고 말한다. 다른 모든 것을 공평하게 분배하는 공산주의 체제였지만, 지식에 관한 한 치열한 경쟁을 허용한 점이다. 

당시 알바니아의 인터넷 속도는 상당히 느렸다. 그러나 그녀는 이미 (인간의 뇌가 어떻게 작동하는지를 포함해) 궁금했던 많은 질문들에 대한 답을 찾고 있었다. 또한 삶의 가장 중요한 문제들에 기술을 적용할 수 있는 방법들을 모색하고 있었다. 무라티는 16살 때 고국을 떠났다. 장학금을 받아, 캐나다 밴쿠버의 한 국제학교에 입학한 것이다. 이후 다트머스 대학교에서 공학 학위를 받았다. 최종적으로는 테슬라 모델 X의 수석 제품 매니저 역할을 맡기 위해 샌프란시스코로 향했다.

무라티는 ‘보다 뛰어난 고등 지능을 창조한다’는 목표를 세웠다. 그녀가 처음 오픈AI에 끌렸던 요인 중 하나는 ‘범용 인공지능(Artificial General Intelligence· 이하 AGI)-컴퓨터가 인간처럼 이해하고 배우며 생각할 수 있다는 공상과학적 개념이다-을 달성할 수 있다’는 회사의 신념이었다. 그녀는 AI의 더 광범위한 사용에 관해 낙관적이다. 무라티가 AGI의 신봉자라는 점을 고려하면, 크게 놀랄만한 일은 아니다. 하지만 그렇다고 해서, 그녀가 현재와 미래에 AI가 제기할 매우 실질적인 위험 중 일부를 간과하고 있다는 뜻은 아니다. 

(올트먼이 자리를 비운 뒤) 우리는 무라티와 인터뷰를 시작했다. 그리고 오픈AI에서 그녀가 나아가고자 하는 방향에 대해 물었다. 또 회사 기술이 더욱 널리 상용화하면서 해결해야 할 과제들 그리고 달리의 최신 버전과 챗GPT 내의 새로운 기능들에 대해서도 이야기를 나눴다. 새로운 기능들 중에는 처음으로 음성 명령이 포함됐다. 차세대 버전의 생성형 AI를 더욱 사용자 친화적으로 만들 수 있는 기능이다. 아울러 음성 명령은 그 기술과 개발업체들을 전 세계 어디서나 이용할 수 있는 시대를 열어줄 것이다.

이 인터뷰는 지면 사정을 고려해 핵심 내용만 담았다.

Q 달리와 (특히 이번에 새롭게 출시한) 달리3에서 가장 기대하는 바는 무엇인가? (달리3은 챗GPT에 탑재돼 사용자가 프롬프트를 만들 수 있도록 지원한다.) 

현재는 연구용 프리뷰 단계에 있다. 따라서 사람들이 어떻게 좀 더 폭넓게 활용할지 아직 확언할 수 없다. 그리고 시작 단계부터 긍정적인 측면보다 잘못될 수 있는 상황에 더 집중했다.
그러나 긍정적인 사례에 대해 말하자면 창의적인 활용이 가능하다. 무엇보다 뭔가를 맞춤형으로 만들 수 있다. 예를 들어 아이가 정말 개구리에 관심이 많고 그것에 관한 이야기를 실시간으로 만들고 싶다면 달리3는 그런 이야기를 창작하는 데 도움을 줄 수 있다. 많은 창의적 활동과 공동 창작이 가능하기도 하다. 게다가 직장에서는 아이디어를 테스트하는 작업을 훨씬 더 쉽게 할 수 있다. 창작 과정에서 반복적으로 나타나는 초기 사이클을 훨씬 더 단축하기 때문이다.

Q 추가적인 제품 출시 소식이 들린다. 가장 눈여겨볼 만한 특징들을 소개해 줄 수 있나?
우리가 추구하는 전반적인 목표는 AGI에 도달하는 것이다. 우리는 이런 점을 지난 2년간 줄기차게 강조해 왔다. 우리는 AGI가 인류에게 긍정적인 효과를 가져올 수 있는 방식으로, 그 목표에 도달하고자 한다. 아울러 궁극적으로 인류에 유익한 AI를 만드는 게 목표다. 그러기 위해서는 이 모델들이 텍스트와 이미지, 음성, 다양한 양식에서 견고한 ‘세계관’을 가질 필요가 있다.

그래서 우리가 하는 일은 이 모든 양식을 챗GPT에 하나로 통합하는 것이다. 우선, 달리3을 챗GPT에 탑재했다. 상당한 파급효과가 창출될 것으로 기대한다. 그런 기능의 통합은 정말 잘한 일 같다. 또 다른 양식은 음성이다. 이제 당신은 챗GPT와 실시간으로 대화할 수 있는 능력을 갖게 될 것이다. 이 자리에서 시연하지 않겠지만, 당신은 분명 챗GPT와 이야기를 나눌 수 있다.

그러더니 무라티는 자신의 휴대폰에서 챗GPT 앱을 열었다. 이어 음성 명령을 통해 ‘재밌는 것’을 말해 달라고 요청했다. 챗봇은 “꿀은 절대 상하지 않는다는 사실을 알았나요?”라고 답했다.

Q 지금 시연한 건가?

설명하는 것보다 보여주는 것이 훨씬 쉽기 때문이다. 기본적으로 이 모든 것의 종착점은 사람들이 매우 자연스러운 방식으로 기술과 상호작용할 수 있는 능력을 갖도록 하는 것이다.

Q 다른 주제로 돌아가 보자. 제품에 대해서뿐만 아니라, 이 모든 기술을 현실로 만드는 인물들에 대해서도 관심이 많다. 지금까지 당신에게 가장 큰 영향을 끼친 것은 무엇인가? 그리고 현재의 당신을 만든 경험은 무엇인가?

알바니아에서 성장한 것이 분명 큰 영향을 미쳤다. 하지만 항공우주 분야에서 경력을 시작했다는 점, 그리고 테슬라에서 자동차 전체를 설계하고 완성한 모든 경험도 내 성장에 기여했다. 오픈AI에 합류하게 된 것도 무시할 수 없다. 내가 입사했을 때는 직원 40~50명의 작은 연구소에 불과했다. 지금은 수백만 명의 사용자와 수많은 기술자를 보유한 대기업이 됐다(현재 오픈AI에는 약 500명의 직원이 근무하고 있다).

Q 샘은 어떻게 만났고, 오픈AI에는 어떻게 오게 됐나?

나는 테슬라 근무 당시 이미 AI 응용 분야에서 일하고 있었다. 하지만 범용지능에 관심이 더 컸다. 물론 범용지능이 가능할지에 대한 확신은 없었다. 다만 우리가 그 기술에 아주 가까워지면, 그 과정에서 탄생할 기술은 믿을 수 없을 정도로 강력할 수 있다는 사실을 알았다. 그리고 그것이 인류가 만들어온 가장 중요한 기술이 될 수 있다고 여겼다. 그래서 그 분야에 참여하고 싶었다. 

오픈AI를 선택한 것은 매우 쉬운 결정이었다. 당시 오픈AI와 (구글 소유의) 딥마인드만이 이 기술을 개발하고 있었다. 사람들에게 이익이 되는 기술을 개발하겠다는 오픈AI의 사명에 크게 공감했다. 그래서 오픈AI가 비영리 법인이었을 때 합류했다. 그 이후 우리는 변화를 꾀해야 했다. 개발에 사용되는 슈퍼컴퓨터의 비용이 매우 비쌌기 때문이다(오픈AI는 2019년 영리 회사로 전환했다. 물론 지금도 비영리 이사회의 통제를 받고 있다).

당시 나는 그레그 브록먼과 일리야 수츠케버, 보이치에흐 자렘바, 그리고 샘을 만났던 것으로 기억한다. 그리고 이 사람들과 함께 일하고 싶다는 점을 분명하게 알게 됐다.

Q 챗GPT를 세상에 처음 선보였던 당시에 대해 얘기해 달라. 지금처럼 성장할 거라고 생각했나? 또 회사가 이렇게 큰 관심을 받을 것으로 예상했나?

전혀 아니다. 중요한 기술이 될 거라고 믿으며 준비를 했을 뿐이다. 불과 몇 시간 후에 모든 준비 과정이 헛수고가 됐다는 사실을 깨달은 적도 있었다. 우리는 운영 방식을 바꾸고 다시 적응하는 반복적인 사이클을 견뎌야 했다. 하지만 그것이 우리가 하는 모든 일의 핵심이라고 생각한다. 기술의 발전 속도가 놀라울 정도로 빠르기 때문이다.

우리는 챗GPT에서도 그런 과정을 돌파해야 했다. 알다시피 챗GPT는 내부 목적으로 사용해 왔다. 우리는 그 기술에 대해 그다지 큰 기대를 하지 않았다. 이미 GPT-4를 사용하고 있었기 때문이다. 그래서 우리가 (챗GPT를 공개했을 때) 외부에서 그런 엄청난 반향이 있을 거라고 상상하지 못했다. 하지만 반응은 가히 폭발적이었다.

Q 챗GPT가 출시되며 벌어진 또 다른 일 가운데 하나는 ‘개발 경쟁’이다. 분명 구글도 있고, 다른 경쟁사들도 많다. 이런 경쟁 구도의 부작용은 무엇인가?

인류의 안전을 무시한 무한 경쟁이라고 생각한다. 그건 분명 문제다.

Q 그건 정말 큰 단점인 것 같다.

그렇다. 우리 각자는 그런 경쟁을 하지 않기로 약속해야 한다. 그런 유혹을 이겨내야 한다. 나는 오픈AI가 (인류를 이롭게 한다는) 비즈니스 사명을 가지고 있기에, 과열 경쟁을 하지 않는다고 본다. 물론 경쟁이 발전과 진보를 앞당길 수 있기 때문에 좋은 측면이 있다. 사람들이 좋아하는 제품을 얻을 수 있는 가능성이 더 커질 수도 있다. 따라서 경쟁이 나쁜 것만은 아니다. 하지만 모든 사람들이 단지 그런 측면에만 끌려 리스크와 이해관계를 무시하면, 큰 문제가 발생할 것이다. 

Q 경쟁이 계속 가속화하고 투자자는 수익을 기대하는 상황에서 그런 사명감이 모든 압박을 견디기에 충분하다고 보는가?

우리가 설계하고 구축하는 제품에 대해 확신을 갖고 있다. 우리가 사업을 전개하는 방식처럼, 파트너들과도 한마음 한뜻으로 연합하고 있다. 오늘날 확신을 갖고 말하기 어려운 부분이 있다. 그것은 ‘새롭게 등장하는 기술의 능력을 예측하고, 그 기술의 활용에 따른 위험을 미연에 방지할 수 있느냐’ 하는 것이다. 결국 그런 새로운 능력을 제도화하고 운영해야 하는데, 그것이 정책과 아이디어 수준일 때와는 차원이 다르기 때문이다.

Q 새로운 아이디어에 대해 반복적인 검증을 제대로 하기 위해 어떤 조치를 취하나? 또 최악의 시나리오를 겪을 때 주로 어떤 대화를 나누나?

그 과정은 내부 팀에서 시작된다. 우리는 시제품을 만들기도 전에, 사용하는 데이터에 대해 꼼꼼히 검증한다. 또 데이터의 다양한 측면을 살펴보며 확신이 드는지 따져본다. 매우 반복적인 과정이다. 하지만 그 과정에서 우리는 무언가를 배운다. 그 과정을 반복하는 이유다.

시제품이 완성되면 가장 먼저 내부에서 테스트를 한다. 그리고 레드팀(취약점을 찾아내는 일을 하는 전문가들)을 우려되는 특정 분야에 배치한다. 예를 들어, 어떤 AI 모델이 사진과 같은 사실적인 얼굴을 만드는 데 아주 능숙하다는 점을 알게 된다고 가정해 보자. 그러면 레드팀을 구성해 이 모델로 인해 발생할 수 있는 나쁜 일들이 무엇인지 확인한다. 잘못 사용하거나 유해한 편견이 섞이면 어떤 결과가 나올지 검증하는 것이다. 

그런 결과를 바탕으로 우리는 다시 원점으로 돌아가 보완책을 채택한다. 하지만 이런 개입이 있을 때마다 우리는 결과물이 어떻게 나타날지 면밀히 감시해야 한다. 소비자들은 일종의 ‘균형’ 잡힌 제품을 원하기 때문이다. 제품을 사용하는데 있어 완전히 쓸모없거나 실망스럽지 않게 만드는 일도 중요하다. 유용하고 훌륭하면서 동시에 안전하도록 균형을 잡는 일은 매우 어려운 업무다.

그래서 오늘날 달리3은 얼굴을 그려달라는 프롬프트에 의심스러운 내용-우리가 민감한 특징으로 정의한 것-이 있다면, 그 요청을 거절할 것이다. 하지만 사용자는 그 AI 모델이 ‘해롭지 않다고 생각되는’ 그림을 계속 그려 주기를 원할 수 있다. 이럴 경우, 당신은 사용자의 요청을 거절하지 않기를 바랄 것이다. 우리는 이런 종류의 미묘한 차이를 다뤄야 한다. 언젠가는 시작해야 하는 일이기도 하다. 

그러나 지금 우리는 좀 더 보수적이고, 덜 관용적인 경향이 있다. 이 기술이 (규제 없이 풀어 놓기에는) 아직 생소하기 때문이다. AI 모델이 하는 작업을 더 많이 이해하고 레드팀으로부터 더 많은 정보를 얻을수록 우리는 그 데이터를 활용해 적절한 정책을 수립할 수 있다. 또는 미묘한 차이를 보이는 다양한 사례를 수집해 활용할 수도 있다. 이로써 기술이 감당할 수 있는 활동 범위를 더 허용할 수 있다. 이것이 최근까지의 추세였다.

Q 현재 저작권과 관련, 여러 가지 문제가 있다는 점을 알고 있다. 최근 몇 달 동안 몇몇 작가들과 다른 창작자들이 오픈AI를 고소했다. 그들은 회사가 동의나 보상 없이 자신들의 글을 사용해 AI모델들을 훈련시킨다고 주장한다. 이런 갈등이 올바른 훈련을 한 심화학습 모델을 확보하는 데 장기적 위협이 된다고 생각하는가?

지금 우리는 출판사 및 콘텐츠 제작자들과 많은 협력을 하고 있다. 결국 사람들은 이 기술이 발전해 유용하게 쓰이고 우리 삶을 향상시키기를 바라는 것 같다. 우리는 최적의 결과를 얻기 위해, 무엇이 필요한지 파악하려고 한다. 그리고 그 업무의 최전선에 있다. 우리는 매우 어려운 결정을 내려야 한다. 이런 결정이 어떤 영향을 미칠지 이해하기 위해 사람들과 협력해야 한다. 

수익 공유와 경제성 같은 것들이 어떨지도 따져봐야 한다. 이것은 전혀 다른 기술이다. 그런데 왜 우리는 이전에 사용했던 것과 같은 정책이나 사고방식에서 벗어나지 못할까? 이 문제에 대해 연구하고 있지만, 뾰족한 해결책은 없다. 복잡할 것 같다. 무엇을 해야 할지 이해하기 위해 출판사 및 콘텐츠 제작자들과 협력하고 있다. 그럼에도 분명 복잡한 문제가 될 것이다. 동시에 많은 진화를 겪을 것이다. 오늘 우리가 하는 일은 아마도 데이터 공유와 데이터 기반 기여의 경제성을 파악하는 초기 단계에 해당될 것이다. 사람들이 AI 모델의 새로운 행동에 많은 가치를 추가할 때, 과연 그 가치를 어떻게 측정할 수 있을까?

Q 규제 측면에서, 당신은 찬성 입장을 밝혀왔다. 가장 시급한 AI 규제는 무엇이라고 생각하나? 또한 AI가 세상에 풀리는 문제에 대해 가장 우려하는 바는 무엇인가?

가장 중요한 점은 사람들이 그것을 이해하는 것이다. 하지만 미래를 내다보면, 우리는 이 기술이 일반 인프라의 한 부분처럼 통합되기를 원한다. 가령 이 기술이 우리의 전기 인프라에 적용되려면, 그것의 기술적 측면뿐만 아니라 규제의 틀도 들여다볼 필요가 있다. 궁극적으로 우리는 그런 현실을 만들기 위해 어딘가에서부터 시작해야 한다.

또 다른 중요한 문제는 AI 모델의 ‘위험한 능력’에 대해 생각하는 것이다. 그 모델에는 두 가지 유형의 오용이 있다. ‘정상적인’ 오용이 있는 반면, ‘위험한’ 오용도 있다. 이런 위험한 오용이 발생할 경우, 우리는 그것을 어떻게 받아들여야 할까? 이 기술이 일상적으로 사용하는 평범한 기술이 아니기 때문이다. 그것은 아마도 우리가 만든 어떤 것보다 국제 정치에 큰 영향을 미칠 수 있다. 가장 가깝게는 핵무기 사례를 들 수 있다. 따라서 우리가 그런 위험을 완화할 수 있는 규제를 어떻게 만드는지가 중요하다.

Q 그동안 AI의 미래에 대해 찬반이 크게 갈렸다. 한쪽은 매우 이상향적 관점에서 보는 반면, 다른 한쪽은 실존적인 위협으로 간주한다. AI 미래에 대한 당신의 바람은 무엇인가?

나는 두 가지 가능성이 모두 있다고 생각한다. 개인적으로는 관련 기술이 인류에 이로울 수 있다고 매우 낙관한다. 하지만 기술 자체는 본질적으로 두 가지 가능성을 모두 갖고 있다. 그것은 우리가 개발한 다른 도구들과 다르지 않다. 잘못 사용하면 정말 끔찍한 일들, 심지어 재앙적인 비극이 벌어질 수도 있다. 그리고 여기서 특이한 점은 실존적인 위협도 있다는 사실이다. 알다시피, 그것은 근본적으로 문명의 종말을 의미한다. 그런 일이 벌어질 가능성은 작다고 생각하지만, 가능성이 전혀 없는 것은 아니다. 그래서 이 문제는 매우 생각해 볼만한 가치가 있다.

우리는 이런 문제를 전담하는 팀을 구성하고 있으며, 엄청난 연산 능력을 쏟아붓고 있다. 이 프로젝트를 ‘슈퍼 얼라인먼트(Super Alignment)’라고 부른다. 이 프로젝트는 AI 시스템을 조율하고, 그 모델이 항상 인간의 가치에 부합하도록 만드는 데 집중한다. 솔직히 매우 어려운 작업이다.