Eyes on AI에 오신 것을 환영한다. 

테일러 스위프트와 2024년 대선의 공통점은 무엇일까? 아니다, 테일러 스위프트는 대통령 선거에 출마하지 않는다. 오히려 둘 다 이번 주 딥페이크 관련 헤드라인의 초점이 됐다.

테일러 스위프트는 소셜 미디어의 가짜 광고(이 경우 르크루제 주방용품)에 사용하기 위해 AI를 사용해 자신의 모습을 복제해낸 최신 유명인이다. 이와 동시에 의원들은 딥페이크 규제를 위한 새로운 법안을 발의했고 기업들은 딥페이크 탐지를 쉽게 할 수 있는 새로운 기술을 발표했다.

미국에서는 지금까지 주정부가 딥페이크, 즉 인공지능(AI)를 사용해 사람이나 사건을 허위로 묘사하도록 조작된 미디어 콘텐츠(주로 동영상)와 관련된 선거 위험에 대처하는 데 앞장서 왔다. 이번 주에도 사우스캐롤라이나 주 의원들이 선거 90일 이내에 후보자의 딥페이크 배포를 금지하는 법안을 발의하면서 작년에 유사한 선거 관련 법안을 통과시킨 워싱턴, 미네소타, 미시간주에 이어 주 정부의 이러한 움직임이 계속되고 있다. (다른 7개 주에서는 지난해에 이러한 법안을 도입했지만 추진하지 못했다.) 

이러한 유형의 법안은 완전히 새로운 것은 아니며, 실제로 2019년에 텍사스, 캘리포니아, 버지니아 주에서 최초로 법안을 제정했다. 그러나 그 이후로 딥페이크는 훨씬 더 설득력 있고 쉽게 만들어졌으며, 이러한 법을 실제로 시행하는 방법, 빠른 속도의 AI 개발이 이 모든 것에 어떤 영향을 미칠지, 특히 피해를 주는 딥페이크가 확산되면 어떻게 되는지 등 많은 의문이 남아 있다.

사우스캐롤라이나의 90일 시한은 다른 여러 주와 마찬가지로 그보다 오래된 것은 모두 공정한 게임이라는 의미이다. 이러한 법에 따라 선거에 영향을 미치려는 의도로 딥페이크가 유포되면 벌금과 징역형에 처할 수 있지만, 이미 널리 공유되어 수백만 명의 사람들이 이를 사실로 받아들였다는 결과가 나와야 처벌이 이루어진다. 소셜 미디어에서 허위 정보는 들불처럼 퍼져나가고 있으며, 플랫폼이 이를 막을 수는 없다. 페이스북과 인스타그램의 모기업인 메타는 이전에 자사 플랫폼의 정치 광고주들이 AI를 사용했는지 공개하도록 요구할 것이라고 밝혔지만, 이는 일반 사용자가 공유하는 게시물에는 적용되지 않는다.

미국 하원은 어제 뮤지컬 아티스트와 배우를 AI 딥페이크와 음성 복제품으로부터 보호하는 것을 주요 목적으로 하는 'AI 사기 금지법'을 발표했지만, 미 의회에서는 정치 캠페인에서 AI가 만든 딥페이크의 사용을 규제하는 여러 제안이 지지부진한 상태이다(스크린배우노조가 예고한 조치이며 스위프트에게 도움이 될 것으로 보이다). 그러나 연방 기관은 더 많은 관심을 기울이고 있다. FBI와 선거관리위원회 관계자들은 이번 주 CNBC 행사에서 AI 딥페이크와 선거 무결성을 주제로 연설하며, 콘텐츠가 아닌 악의적인 행위자를 막는 것이 자신들의 접근 방식이라고 설명했다. 

FBI의 크리스토퍼 레이 국장은 "우리는 진실의 경찰이 아니다. 우리는 진실 경찰이 되고자 하는 열망도 없다"라며 탐지 기능을 개선하기 위해 민간 기업과의 협력의 필요성을 강조했다.

지금까지 AI 탐지 도구는 대부분 신뢰할 수 없는 것으로 판명됐지만, AI를 사용해 AI에 대응할 수 있는 희망은 여전히 남아 있다. 

이번 주에 맥아피는 동영상에서 악의적으로 변조된 오디오를 탐지하는 데 90%의 효과가 있다고 하는 새로운 기술을 발표했다. Fox는 이번 주에 폴리곤 랩스(Polygon Labs)와 함께 미디어 회사가 콘텐츠에 진품임을 워터마킹해 소비자가 가짜와 진짜를 구별할 수 있도록 돕는 새로운 블록체인 프로토콜을 공개했다. 

인텔에서 트루퍽에 이르기까지 다른 기업들도 오랫동안 이 문제를 해결하기 위해 노력해 왔지만, 딥페이크 탐지가 실제로 해결될 수 있을지는 알 수 없다. 기술의 발전으로 멀웨어 탐지기 등이 악의적인 공격자들보다 한 발짝만 앞서게 되는 사이버 보안과 비슷한 고양이와 쥐의 게임이 될 수도 있다. 

종합해 보면, 이 모든 것은 아직 딥페이크 빙산의 일각에 불과하다. AI 딥페이크 기술은 납치 사기부터 합의되지 않은 음란물·기타 불쾌하고 유해한 콘텐츠로 여성을 표적으로 삼는 것까지 다양한 용도로 사용되고 있다. 특히 올해에는 미국인뿐만 아니라 전 세계 인구의 절반 가까이가 다양한 후보와 대의를 위해 투표장으로 향할 것이기 때문에 선거에 있어서는 그 위험성이 특히 높다. 

이것으로 오늘의 나머지 AI 뉴스를 마무리하겠다.

오픈AI가 GPT 스토어와 챗GPT 팀을 출시한다. 플러스, 엔터프라이즈, 팀(소규모 기업·팀을 대상으로 하는 새로운 등급) 사용자에게 우선 제공되는 GPT 스토어에서는 사용자가 틈새 용도로 개발된 맞춤형 챗GPT 버전을 찾고 공유할 수 있다. 이 스토어에는 추천·인기 있는 GPT, 챗GPT 팀이 만든 GPT, 글쓰기, 교육, 라이프스타일 등의 카테고리별 GPT가 표시된다. 앱 스토어처럼 들리기도 하고, 실제로도 앱 스토어처럼 보이기도 한다. 오픈AI는 경영진이 교체되기 직전인 11월에 이 기능을 출시한 이후 사용자들이 이미 300만 개가 넘는 GPT를 만들었다고 밝혔다. 

마이크로소프트는 AI를 사용해 배터리의 리튬을 대체할 수 있는 소재를 빠르게 찾아내고 있다. 퍼시픽 노스웨스트 국립연구소와 협력해 배터리의 리튬 양을 70%까지 줄일 수 있는 대체 물질로 나트륨을 발견했다. 나트륨은 대규모 채굴로 환경에 해로운 리튬에 비해 저렴하고 풍부하다. 마이크로소프트의 제이슨 잰더 부사장은 로이터에 "몇 년이 걸릴 수도 있는 일을 우리는 2주 만에 해냈다"라고 말했다. 이 소식은 재료 과학 분야에서 AI의 잠재력을 보여주는 또 하나의 유망한 사례이며, 차세대 디바이스 제작 방식에 획기적인 전환점이 될 수 있다.

폭스바겐은 차량에 챗GPT 기능을 추가할 계획이다. 더 버지에 따르면 폭스바겐은 이 같은 계획을 발표했다. 이 자동차 제조업체는 오픈AI의 챗봇을 통합해 2분기에 유럽에서 시작해 잠재적으로 미국으로 확장하는 등 전체 라인에 걸쳐 음성 제어 기능을 강화할 예정이다. 운전자는 "일반적인 지식 질문"을 위해 챗GPT를 탭하고 냉난방과 같은 기능을 제어할 수 있다.

펜실베니아주는 챗GPT 엔터프라이즈를 채택한 최초의 주가 됐다. 기즈모도에 따르면 앞으로 몇 주 안에 소수의 주정부 직원들이 업무 설명서 작성, 정책 언어 업데이트, 직원들의 코드 생성 지원 등 업무 지원을 위해 챗GPT를 사용하기 시작할 것이라고 한다. 시범 운영 기간 동안에는 일반 시민이 오픈AI 프로그램과 상호 작용하지 않지만, 시범 운영 후에는 주 정부에 광범위하게 배포될 것으로 예상된다.

※ 해당 기사는 Fortune.com 원문을 바탕으로 작성됐습니다.

글 SAGE LAZZARO 번역 조채원 기자