정부 규제당국과 빅테크 기업들이 인공지능(AI)을 사용하고 개발하는 방법을 놓고 벌이는 갈등이 치열하다. by Vivienne Walt

자정이 되면서 쿠키는 모두 사라졌고, 자판기의 커피도 떨어졌다. 저녁으로 배달된 샌드위치도 이미 다 먹었다. 그러나 유럽연합(EU) 본부 대회의실에는 아직도 700명 정도의 의원들이 남아 있었다. 마침내 12월 8일 새벽 햇살이 들자, 그들은 집에 돌아가 샤워를 하고 잠시 눈을 붙이기 위해 나섰다. 그러나 그들은 다시 돌아와 17시간을 더 논의해야 했다. 그 결과 그들은 인공지능(AI)이라는 가장 난해한 이슈에 대해 지쳐서 혹은 실용적인 이유로 법안 패키지에 합의했다.

EU의 AI 법안에 대한 마라톤 협상은 그들 모두의 기억에 남을 만큼 강렬한 것이었다. 그리고 심오한 결과를 가져올 새로운 기술에 대한 세계 최초의 규제안을 도출해 냈다.

이들 27개 회원국들의 AI에 관한 입법이 유일한 것은 아니다. 지난해 10월 조 바이든(Joe Biden) 미국 대통령은 AI로 인한 차별과 대량 실직에 맞서 미국인들을 보호하기 위한 지침을 내놓았다. 이는 상무부(Department of Commerce)와 같은 기관 및 의회가 이 지침을 실질적인 규정으로 만들어내기 전까지는 임시방편이다.

일본, 영국, 대한민국 등 주요 경제국들도 가짜 뉴스와 딥페이크 단속부터 사람들의 사생활 보호와 AI 머신러닝에 사용된 데이터의 공개에 이르기까지 다양한 제안을 하고 있다. 지난해 11월 리시 수낙(Rishi Sunak) 영국 총리 주최로 열린 ‘AI 안전 정상회담’에서는 28개국이 이 기술로부터 발생할 수 있는 ‘심각하거나 파괴적인 피해’에 맞서 싸우기로 합의했다.

AI를 개발하고 활용하는 기업들이 새로운 도전에 직면했다. 세부 규정의 해석과 집행 방식은 기업들이 어떤 제품을 만들 수 있으며, 고객 데이터를 어떻게 활용할 수 있는지를 결정짓는다는 점에서 기술 산업 미래에 중대한 영향을 미칠 것이다. 여기에는 수천억 달러에 달하는 기업 수익과 시장 가치가 걸려 있다. 국가 이익도 예외는 아니다. 각국은 개인 정보 침해, 생물무기, 대규모 사이버 공격 같은 위험으로부터 국민을 보호하기 위한 목적과 기술 리더가 되어 경제와 군사력을 강화하려는 의지 사이에서 균형을 맞추려 애쓰고 있다. “이 문제는 우리는 물론 전 세계에 매우 중요하고 변혁적인 영향을 줄 것”이라고 EU의 인공지능 담당 협상가 드라고스 투도라체(Dragos Tudorache)는 말한다.

미국과 유럽의 규제 당국은 딜레마에 봉착해 있다. 관대한 규제는 예상치 못한 위험을 불러올 수 있는 반면, 과도한 규제는 혁신을 저해할 위험이 있다.

이러한 주장은 혁신을 해치지 않기 위해 기업에 상대적으로 자유를 부여해야 한다고 주장하는 투자자들과 기술 회사 경영진들 사이에서 핵심 쟁점으로 떠오르고 있다.

또 AI는 빛의 속도와 같이 변화하고 있다. 현재 전 세계적으로 논의되고 있는 규제들이 머지않아 시대에 뒤떨어질 수 있다. 테크 다이내믹스(Tech Dynamics)의 대표인 빌 와이먼(Bill Whyman)은 “기술적으로 이해할 수 있는 사람이 매우 적고, 정부 기관이 효과적으로 규제하려면 필요한 기술을 가진 인력을 찾기 어렵기 때문에 변화하는 대상을 규제하려는 노력이 진행 중”이라고 말했다. 그는 “규제라는 판도라의 상자를 열면 무엇을 얻게 될지 예측할 수 없다”고 덧붙였다.

EU의 정치인들이 판도라의 상자를 열자, 회원국 27곳 사이에서 논쟁을 불러일으킬 두 가지 문제를 마주했다. 첫째는 얼굴 인식 기술이다. 이는 엄격한 개인정보 보호법을 시행하는 유럽의 많은 법제자들이 개인의 권리를 침해하고 선천적인 편견을 강화한다고 보았다. 결국 EU 법제자들은 얼굴 인식 기술 사용을 법 집행 목적으로만 제한하고, 그마저도 테러리즘 같은 심각한 범죄를 해결하기 위한 경우에 한해 허용하기로 합의했다.

둘째로 논란이 된 것은 AI 기업이 얼마나 커야 EU의 모든 규정을 따라야 하는지에 대한 것이었다. “이 문제가 이 업체들에게는 경고 신호로 작용했다”고 브뤼셀 소재 비정부 기구(NGO)의 활동가 브람 브랜켄(Bram Vranken)은 밝혔다. 브랜켄의 단체에서 발견한 바에 따르면 구글(Google), 마이크로소프트(Microsoft)를 비롯한 빅테크 기업들이 인공지능 투표를 앞두고 몇 달간 EU 법제자들에게 로비활동을 위해 거액을 쏟아부었다.

EU의 수석 협상가인 투도라체는 로비스트와 산업 그룹들로부터 기술 회사들의 의견을 담은 수백 건의 문자와 이메일을 받았다고 말했다. 이들이 ‘수많은 미팅 요청’을 해왔다고 그는 전했다. 이러한 현상에 대해 AI 전문가는 놀랍지 않다고 입을 모았다. 예일대 디지털 윤리 센터(Digital Ethics Center)의 창립자인 루치아노 플로리디는 “이 기업들은 역사상 그 어느 때보다 강력한 영향력을 지니고 있다. 이들은 세계 수백 개 국가보다 풍부한 재산을 가지고 있다”고 설명했다.

브뤼셀 협상에서 큰 관심사는 ChatGPT처럼 다양한 목적으로 사용될 수 있는 기업들의 AI 기반 모델이 악의적으로 이용될 경우 막대한 피해를 초래할 수 있는가 하는 점이었다. OpenAI가 ChatGPT를 출시하면서 그 인기가 폭발적으로 증가하며 이러한 우려는 더욱 커졌다.

프랑스와 독일은 각기 자국의 AI 산업을 보호하기 위해 막대한 노력을 기울였는데, 파리에 본사를 둔 미스트랄 AI(Mistral AI) 및 독일의 알레프 알파(Aleph Alpha)와 같은 기업들이 이에 해당한다. 이 회사들은 전직 메타(Meta)와 구글(Google) 과학자들이 설립했으며, 수백만 달러의 벤처 자본을 유치한 바 있다.

최종적으로 EU 법안은 빅테크 기업들(주로 미국 기업)에게는 완전한 준수를 요구하는 반면, 유럽의 스타트업들은 같은 규제에 따를 때까지 시간을 갖게 될 가능성이 높다. 파리와 런던의 깁슨 던 & 크러처 법률사무소에서 AI법을 전문으로 하는 로버트 스파노 변호사는 “우리는 완전히 새로운 현상을 규제하는 초기 단계에 있다. 아마도 앞으로 십 년간은 두 걸음 전진하고 한 걸음 물러나는 형태로 진행될 것이다. 이 규정이 무엇을 요구하는지에 대해 많은 논쟁이 있을 것으로 예상된다”고 말했다.

EU의 AI법과 달리 바이든 행정부가 내놓은 행정명령은 대략 50개 연방 기관이 따라야 하는 지침들로 구성돼 있다. 이에 따라 기업들은 인공지능으로 생성한 콘텐츠에 워터마크를 넣고, 사이버 보안 위험을 테스트하며, 인공지능 엔지니어에 대한 투자를 늘려야 한다. 하지만 비판자들은 이 명령이 집행력이 없고 인권 문제에 소홀하다고 지적한다. 유럽연합이 안면 인식 소프트웨어에 엄격한 제한을 두는 반면 미국은 연방 표준 및 기술 기관(National Institute of Standards and Technology, NIST)이 새로운 응용 프로그램을 테스트할 것이라고 밝히고 있다.미국과 EU에서 인공지능 규제를 감시하는 비정부기구 ‘Don′t Spy EU’는 바이든의 명령을 분석하며 “전혀 안정적으로 들리지 않는다”고 평가했다. 이 단체는 또한 안면 인식을 쓰도록 허가하는 EU를 비판하며, “경찰이 이러한 시스템을 어떻게 사용할지 예측하는 것은 불가능하다”고 말했다.

민주주의와 독재 정부 모두에게 AI 경쟁은 앞으로 나라의 정치적 영향력을 굳건히 하기 위해 필수적이다. “이 분야에서 선도자가 되는 나라가 세계를 지배할 것”이라고 러시아의 대통령 블라디미르 푸틴(Vladimir Putin)은 2017년 언급했다. 중국 역시 인공지능 기술을 핵심 국가 전략으로 정하고 동맹국에 안면 인식 기술을 수출하고 있다. 중국 내에서는 OpenAI의 ‘ChatGPT’나 Google의 ‘Bard’ 같은 서구 인공지능 앱 사용을 금지하고 있다. 중국 정부는 기업이 그들의 알고리즘이 ‘사회주의 핵심 가치(core socialist values)’를 반영해야 한다며, 인공지능 기기에 투입되는 데이터를 엄격히 관리하고 있다. 이는 중국의 대화형 로봇이 예전 몇몇 앱에서 그랬듯이 사용자에게 “중국의 꿈은 미국으로 이주하는 것”이라고 주장하지 않도록 하기 위함이다.

이념 충돌에도 불구하고, 기업들은 전 세계적으로 다양한 규정들을 최대한 표준화하여 비즈니스를 원활하게 진행할 필요가 있다고 강조한다. 하지만 오늘날 극단적으로 나뉜 세상에서 이는 ‘막대한 도전 과제’라고 프론티어 모델 포럼(Frontier Model Forum)의 크리스 메세롤(Chris Meserole) 집행 이사는 말한다. 이 단체는 OpenAI, 마이크로소프트(Microsoft), 구글(Google) 그리고 새롭게 떠오르는 AI 강자인 앤트로픽(Anthropic)이 올해 1월에 결성했으며 좋은 법안을 추진하려는 목적을 가지고 있다.

EU의 인공지능 법(AI Act)이 공표되자마자, ‘디지털 시대에 걸맞은 유럽’을 위한 집행 부회장인 마르그레테 베스타게르(Margrethe Vestager)가 1월 초 샌프란시스코를 방문하여 빅테크 기업들에게 그 법안의 의미를 설명했다. 베이 지역을 이틀에 걸쳐 돌며 애플(Apple)의 팀 쿡(Tim Cook), 구글의 순다 피차이(Sundar Pichai), 엔비디아(Nvidia)의 젠슨 황(Jensen Huang), OpenAI의 샘 알트먼(Sam Altman) 등 여러 최고 경영자들과 회의를 가진 베스타게르는 덴마크의 정치인으로서 지난 10년간 브뤼셀에서 구글과 애플을 상대로 반독점 소송을 해왔다.

기자들과 간략히 만난 자리에서 그녀는 모든 사람들에게 AI 법안의 조속한 시행이 필요하다고 말했다. “ChatGPT가 등장한 뒤 갑자기 세계 곳곳의 사람들이 이 문제의 중대함을 깨닫기 시작했다”고 그녀는 말했다. 기자들이 베스타게르에게 빅테크 회사들이 멀리 떨어진 법규를 왜 따라야 하는지 의문을 제기하자, 그녀는 소신 있게 “규정을 준수하지 않으면, 불이행에 대한 조사를 개시할 준비가 되어 있다”고 말했다. 또 “EU의 인공지능 법에 따라 법을 어긴 회사들에게는 3000만 유로의 벌금을 부과하거나, 전 세계 매출의 2%에서 6%에 해당하는 금액을 부과하거나, 거대한 기업을 분할하도록 명령할 수 있다”고 덧붙였다.

이 상황이 실제로 일어나기까지는 몇 년이 걸릴 수도 있다. 그렇게 되지 않을지도 아직 불투명하다. 유럽의 법은 2026년에 완벽하게 발효되고, 미국과 영국의 법안은 그보다 늦게 도입될 예정이다. 그러나 브뤼셀에서의 활동은 시작을 알리고 있다. 테크 다이내믹스(Tech Dynamics)의 와이먼(Whyman)은 “성공할 확률은 낮다. 하지만 그렇다고 해서 아무 행동도 하지 않을 순 없다”고 말했다.

/ 글 Vivienne Walt & 이세연 기자

※ 해당 기사는 Fortune.com 원문을 바탕으로 작성했습니다.