지난해 말 챗GPT가 등장하자 국회가 AI기본법 논의의 물꼬를 트기 시작했다. 법안 발의 후 길게는 3년 만이다. 하지만 업계와 시민사회 모두 법안에 우려와 반대 목소리를 내고 있다.

 인공지능(AI)기본법에 국회의 시간이 왔다. 지난달 2월 국회 과학기술방송정보통신위원회 법안 소위는 ‘인공지능 산업 육성 및 신뢰 기반 조성에 관한 법률안’을 통과시켰다. 국내 AI 산업을 육성하기 위해 국가적 전략을 설계하고 역기능 대비책을 세우는 게 핵심 내용이다. 21대 국회에서 여야 의원들이 지난 3년 동안 개별 발의했던 7개의 AI 법안들을 하나로 묶은 단일안이며 모처럼 여야 간 대립이 적은 법안으로 꼽힌다.

 하지만 AI기본법은 현재 상임위 문턱에 멈춰 서 있다. 일본 방사능 오염수 방류 문제를 비롯해 노란봉투법 및 방송법 등 주요 쟁점 법안을 두고 여야가 파행을 거듭하며 상임위에서 불협화음을 보이고 있기 때문이다. 국회가 개점휴업하고 있는 사이 법안 제정을 둘러싸고 IT업계와 시민사회는 각자 다른 이유로 모두 반대를 주장하고 있다.

 이런 가운데 지난 6월 박윤규 과학기술정보통신부 2차관은 AI 산업 간담회 자리에서 “챗GPT등 생성형 AI기술은 앞으로 더욱 발전하여 우리 일상에 보편적으로 사용될 것인 만큼 보안 위협 우려에 적극적으로 대응해 나갈 필요가 있다”며 법 제정을 통한 AI 윤리 규제 강화를 시사했다.

 과방위 전체회의 논의를 앞둔 AI기본법은 크게 AI 진흥과 고위험 영역 AI 사업자에 대한 책무를 뼈대로 삼는다. AI 생태계 육성을 위해 정부는 컨트롤타워로 국무총리 산하에 인공지능위원회를 신설하고 간사를 맡는 과기정통부가 3년마다 AI 기본계획을 수립하며 전문 인력 수급과 AI 전문 기술 교육 지원 등에 나선다. 한국지능정보사회진흥원 산하에 국가인공지능센터를 신설해 기술 표준화와 학습용 데이터도 구축할 예정이다. AI산업을 전략적으로 견인하기 위해 ‘우선허용·사후규제’ 원칙도 명문화했다.

AI 규제, 어겨도 벌칙 조항 없어

가장 논란이 된 부분은 고위험 영역 AI에 대한 안전성 확보 규제 조치다. AI기본법 제2조에 따르면 고위험 영역이란 사람의 생명, 신체의 안전 및 기본권의 보호에 중대한 영향을 미칠 우려가 있는 영역에서 활용되는 AI서비스를 뜻한다. 주로 △에너지, 물 공급 △보건의료산업, 원자력 시설 △채용 및 대출 신용평가 △자율주행 등을 포함한 교통수단 및 교통 시설 △수사 및 기소 등 국가기관 등의 권한 행사 영역외에 해당한다. 이러한 고위험 영역의 사업자는 AI 신뢰성과 안전성 확보를 위한 내부 조치를 마련하고 자체적으로 관리감독하도록 해야 한다.

 당장 IT업계에선 고위험 영역에 대한 정의부터 지나치게 모호하다고 주장한다. 익명을 요청한 AI 컨설팅 개발 업체는 “똑같은 보건의료산업일지라도 BtoC, BtoB 분야에 따라 사업 모델과 서비스 목적이 다를 수밖에 없는데 다 똑같이 고위험 영역으로 규정한다면 애당초 해당 영역에서의 AI 개발 자체를 주저할 것”이라며 “사업자가 고위험 영역 AI인지 아닌지를 과기정통부에 확인 요청해 회신 받을 수 있도록 했지만 관련 분야의 새로운 서비스, 신사업을 할 때마다 일일이 유권해석을 받아가며 사업하라는 것이냐”며 토로하기도 했다.

 시민사회는 고위험 영역 AI 서비스를 규제하는 데 실질적인 구속력이 떨어진다고 지적한다. 허진민 참여연대 공익법센터 소장은 “서비스 안정성과 신뢰성에 대한 기준과 및 기본권에 중대한 영향을 미치는 경우라는 게 지나치게 불명확하다”며 “설령 고위험 영역에서 AI기술이 사용될 수 있도록 허가한다면 어떤 전제 조건을 부과할 것인지에 대하여 최소한의 사회적 합의조차 부재한 상황”이라고 말했다.

 사업자의 AI서비스 사전 고지 의무에 대한 업계 반발도 크다. 법은 고위험 영역에 속한 서비스 제공자의 경우 관련 서비스 운용 사실을 이용자들에게 사전에 고지하도록 규정하고 있다. 이를 두고 사실상 업계 내부에선 “고객들과 경쟁사에게 영업비밀을 공개하라는 것과 마찬가지”라며 독소조항으로 꼽고 있다. 반면 허진민 소장은 “사전 고지를 하도록 의무화하고 있지만 이를 지키지 않을 경우 어떠한 벌칙 조항도 없고 조치 방안도 기업 자율에게 맡기고 있다. 과연 제대로 된 구속력 효과가 있을지 의문”이라고 강조했다.

개별법 통해 저작권·개인정보 보호 나서야

그렇지만 업계와 전문가들은 단일법으로서의 AI법 제정이 필요한 시기라고 입을 모은다. 국가정보화기본법이나 정보통신산업진흥법 등 기존 ICT산업 법체계만으론 고도화되는 AI 기술과 그에 대한 역기능을 대비하기엔 부족하다는 게 공통적인 시선이다. 다만 일방적인 국가 주도의 법 제정은 자칫 시장의 혼란을 가중할 수 있단 우려가 나온다.

 법무법인 태평양 규제대응 솔루션센터의 마경태 변호사는 “AI법을 통해 고위험에 대한 사회적 관심을 환기 시킬 수 있단 점에서 분명 긍정적인 측면이 있다”면서도 “금융, 채용, 의료분야에서의 규제기관들이 현재의 법 테두리 안에서 사업자들을 대상으로 좀 더 적극적으로 AI위험 관리를 강조하는 게 선행돼야 한다”고 말했다.

 최경진 한국인공지능법학회장(가천대 법학과)은 “AI 산업이 이제 싹을 틔우고 있는 만큼 전통적인 탑-다운 규제 방식보단 자율 규제 체제로 접근할 필요가 있다. 동시에 고위험 AI 영역처럼 일부 기술에 대해 규제가 필요하다면 어느 범위까지 포괄할 것인지에 대한 사회적 논의가 있어야지만 사업자와 이용자 사이의 혼선을 막을 수 있을 것”이라고 밝혔다.

 주무부처인 과기정통부 역시 신기술이 등장할 때마다 관련 법 규정을 신설하는 것에 대해선 신중한 모습이다. 하지만 AI 기술의 경우 정보과학기술 분야를 뛰어넘어 사회 패러다임을 바꾸고 있단 점에서 큰 틀에서의 규범은 필요하다는 입장이다. 지난 2월 박운규 2차관은 국회에 출석해 “AI 국가전략 등 정부 가이드라인을 통해 기술 진흥과 윤리 부작용에 대응하려 노력을 했지만 실질적인 법적 기반을 갖추는 게 가장 필요하다”며 “AI법은 산업 진흥과 함께 고위험 영역에 대한 국가의 책무와 사업자들이 지켜야 될 사항을 함께 규정하고 있기 때문에 글로벌 차원으로 내놔도 부족함이 없다”고 말했다.

 일각에선 AI법 제정과 함께 저작권 및 개인정보 보호와 가짜뉴스 오남용에 대한 실질적 대비책 마련도 시급하단 목소리도 나온다. 생성형 AI 경우 크롤링이나 입력된 명령어를 통해 각종 데이터를 학습하고 기존 콘텐츠 데이터를 재구성해 텍스트와 이미지를 새롭게 창작해 낸다. 저작권이 있는 데이터의 무허가 사용뿐만 아니라 AI 콘텐츠에 대한 모방 논란이 끊이질 않을 것이란 게 업계 안팎의 시선이다.

 한국지능정보사회진흥원은 ‘ChatGPT의 등장과 법제도 이슈’ 리포트를 통해 “사업자는 정보주체의 개인정보의 삭제권 열람청구권 등에 대한 개인정보 보호 권리 방안을 모색할 필요가 있다”며 나아가 “저작권 침해에 대한 손해배상 등과 같은 실질적인 대책 실현도 검토해야 한다”고 제언했다. 마경태 변호사는 “저작권이나 개인정보 모두 기존 법률에서 규율해 온 영역이다. AI 활용 관점에서 법제도가 개선되더라도 기존 법률 체계와 정합성이 유지돼야 하기 때문에 기존 개별법 개정도 함께 이뤄져야 한다”고 조언했다.

국제사회 AI법 규제 잰걸음

미국과 유럽연합(EU) 등 주요국은 일찌감치 AI기술의 FATE(공정성·책임성·투명성·윤리의식)에 대한 법제화를 위해 분주한 모습이다. 개인정보와 온라인플랫폼 관련 개별법에서 각 사안의 그 내용을 세부적으로 포괄하는 동시에 AI 전반에 적용하려는 총론적 규제 체계 마련에 고심 중이다.

 지난 2월 백악관은 연방 주요기관들이 공정성과 시민의 평등권을 보호하는 방향으로 AI를 사용할 것을 지시하는 행정 명령이 발령했다. 2019년에 이어 지난해 미 상·하원은 각각 ‘알고리즘 책임법안’을 발의하기도 했다. 알고리즘의 편향성과 차별적 결과를 예방하기 위해 미 연방거래위원회(FTC)에 알고리즘 규제 권한을 부여하고 관련 기술에 대한 영향평가를 실시하는 게 핵심 골자다.

 EU는 챗GPT 등장 이후 AI 규제에 가장 발 빠르게 대응하는 모습이다. EU의회는 지난 6월 본회의에서 EU 회원 국가에 AI를 규제하는 ‘EU인공지능법안’을 최초 가결했다. 현재 EU의회와 EU집행위 및 이사회는 마지막 관문인 법안 3차 협상을 진행 중이다. 3차 협상은 새로운 법안 시행이 확정되기 전 거쳐야 하는 최종 단계다.

 EU인공지능법안은 주요 내용으로 △인간에 의한 감독 △기술적 견고성과 안전성 △프라이버시 및 데이터 거버넌스 △투명성 △다양성, 비차별성, 공정성 사회 등 AI가 준수해야할 기본 원칙을 담고 있다. 법안은 올해 안에 협상 타결되면 2026년부터 실질적으로 시행될 전망이다.

김나윤 기자 abc123@fortunekorea.co.kr