OpenAI의 ChatGPT를 지원해온 마이크로소프트(Microsoft)가 허위정보에 따른 'AI 환각(hallucinations)'을 막기 위해 미디어 리터러시 '신뢰 프로젝트(Trust Project)'를 추진한다.

고도화된 AI(인공지능)의 등장과 소셜미디어의 가짜 콘텐츠 확산으로 인해 실제 뉴스와 잘못된 정보를 구별하기가 갈수록 어려워지고 있다는 점이 배경이 됐다.

이에 마이크로소프트는 온라인 뉴스에 신뢰성 확인 페이지를 첨부해 문제를 해결하기 위한 새로운 미디어 프로그램을 시작했다. 해당 프로그램은 마이크로소프트와 미디어의 무결성을 보호하려는 비영리 뉴스 매체 그룹인 '트러스트 프로젝트' 간의 파트너십이다.

독자를 기만하려는 의도가 있다는 점에서 잘못된 정보와 다른 허위 정보는 코로나19(COVID-19) 대유행 기간 동안 '백신접종 반대 운동'과 2020년 선거 이후의 '선거 부정'을 포함해 최근 몇 년 동안 국가적 위기에 불을 지폈다. 음모론은 또한 급진주의와 정치적 폭력을 촉발시켰다 . 

최근에는 펜타곤 폭발의 조작된 사진이 논란이 되기도 했다. 일부 전문가들은 모든 온라인 콘텐츠의 90%가 불과 몇 년 안에 AI가 생성할 수 있다고 예측하고 있다.

마이크로소프트는 독자를 트러스트 프로젝트의 8가지 신뢰 지표로 안내하는 일부 온라인 뉴스 기사에 광고를 게재할 예정이다. 독자가 아웃룩(Outlook) 이메일을 포함해 마이크로소프트 제품 및 시스템을 사용하는 경우 독자의 장치에 광고가 표시된다. 

프로그램 페이지는 신뢰할 수 있는 저널리즘에 대한 비영리 단체의 8가지 원칙을 설명하고 독자가 미디어를 신뢰하기 전에 소비하는 미디어에 대해 어떤 질문을 해야 하는지 알려준다.

예를 들어, 기사를 읽는 사람들은 "저희가 직접 출처를 확인할 수 있도록 세부 정보를 제공합니까", 또는 "수사적이거나 심층적이거나 논쟁의 여지가 있는 기사의 경우 기자가 각 주장에 대한 출처를 제공합니까"라고 질문할 수 있다.

해당 미디어 리터러시 프로그램은 마이크로소프트가 OpenAI에 100억 달러를 투자한 후에 시작됐다. 챗봇은 특히 학생들에 의해 표절에 광범위하게 사용되며 '환각' 또는 허위 정보를 생성하는 것으로 알려져 있다. 마이크로소프트 또한 서비스에 ChatGPT와 유사한 기능을 추가해 검색 엔진 빙(Bing)에 AI를 통합했다.

물론 마이크로소프트는 미디어 트러스트 프로그램의 가동 기간에도 잘못된 정보의 확산이 지속될 수 있다고 인정한다. 지난 5일, 유럽 규제 당국은 마이크로소프트, 구글(Google) 및 페이스북(Facebook)의 모회사인 메타(Meta)를 포함한 여러 빅테크 회사에 AI 생성 콘텐츠에 레이블을 지정해 콘텐츠를 보는 사람들이 소스에 대해 혼동하지 않도록 했다. 

브뤼셀에서 열린 브리핑에서 베라 주로바(Vera Jourova) EU 집행위원회 부위원장은 "챗봇의 허위 정보와의 싸움을 위한 새로운 도전"이라고 말했다. EU에 따르면 5월 말 기준 미국과 EU는 업계 참여자들이 서명할 수 있는 자발적인 AI 행동 강령에 대해 협력하고 있다. 

/ 포춘코리아 공인호 기자 ball@fortunekorea.co.kr