글로벌 빅테크 기업의 입법 지원부터 기술 및 교육 분야의 노력까지, 아동에게 더 안전한 디지털 공간을 만들기 위한 싸움이 치열해지고 있다.

전유원 기자 yuwonchun@fortunekorea.co.kr

2024년의 시작은, 전 세계 기술업계에서 계속되고 있는 법률 및 규제 조사의 분수령이 되는 시기였다.

디지털 개인정보 보호와 독점 금지법의 경계를 재정의할 수 있는 폭풍의 진원지에서, 지난 1월 스냅챗(Snapchat)의 모기업인 스냅(Snap Inc.)이 아동 온라인 안전법(KOSA*)을 공개적으로 지지하며 메타(Meta)를 비롯한 다른 빅테크 기업들과는 다른 행보를 보였다.

*KOSA: 소셜 미디어 회사가 괴롭힘, 성적 착취, 기만적인 광고 및 기타 형태의 피해로부터 미성년자를 보호하는 조치를 시행하도록 의무화하는 법안이다. 또한 18세 미만의 사용자에게는 기본적으로 최고 수준의 개인정보 보호 및 안전 설정을 적용해야 한다고 규정하고 있다. 여기에는 강압적인 것으로 간주될 수 있는 추천 피드, 스마트폰 알림, 동영상 자동 재생과 같은 특정 기능을 제한하거나 완전히 거부할 수 있는 조항이 포함된다.

스냅의 KOSA 지지는 데이터 프라이버시 및 독점 금지법에 대한 유럽 사법재판소의 획기적인 판결, 생체인식 개인정보 침해와 관련된 대규모 집단 소송 합의 등 최근 메타가 직면한 법적 및 규제적 문제와 대조적으로, 아동 온라인 안전을 강화하기 위한 규제 조치에 더욱 긴밀히 협조하려는 기업의 이니셔티브를 강조한다.

디지털 문화가 우리 삶의 모든 측면에 스며든 시대에 기업들은 혁신의 촉진과 아동의 디지털 안전 보장 사이의 갈림길에 서 있다. 북유럽의 통신사 텔리아(Telia)는 2000년대 초반부터 다양한 이니셔티브와 평가를 통해 디지털 환경에서 아동의 권리와 안전을 보호하는 데 적극적으로 참여하고 있는 기업이다.

이 기업은 아동이 온라인에서 직면하는 위험을 이해하고 해결하며, 아동의 관점을 비즈니스 전략에 반영하고, 아동 사용자에게 안전하고 유익한 서비스를 제공하는 데 중점을 두고 있다.

텔리아의 주요 접근 방식 중 하나는 약 1만 2000명의 아동이 온라인 경험에 대한 인사이트를 제공하는 아동 자문 패널을 조직하는 것이다. 이 패널은 아동들에게 디지털 기술을 가르치고, 개인정보 보호에 주의를 기울이며, 기술을 활용해 사회적 통합과 정신 건강을 증진하는 것이 중요하다는 점을 강조한다.

또한, 텔리아는 디지털 공간에서 아동에게 미칠 수 있는 잠재적 영향을 파악하고 완화하기 위해 유니세프의 모바일 사업자를 위한 아동권리 영향 자체 평가 도구(MO-CRIA: Child Rights Impact Self-Assessment Tool for Mobile Operators)를 실시한다. 이러한 평가는 제품 개발부터 마케팅에 이르기까지 회사 운영 전반에 걸쳐 아동권리의 고려 사항을 통합하고 아동권리 단체와 협력하기 위한 광범위한 노력의 일환이다.

텔리아는 이 외에도 법 집행 기관에서 불법으로 식별한 웹사이트에 대한 액세스를 차단하고 회사 소유의 하드웨어에서 아동 온라인 성 착취물(CSAM)을 탐지하는 기술을 사용하여 확산 방지를 위한 조치를 취했다. 이러한 사전 예방적 접근 방식은 아동을 위험으로부터 보호하는 데 도움이 될 뿐만 아니라 책임감 있는 인터넷 거버넌스에 대한 기업의 의지를 보여주는 예이다.

마이크로소프트(Microsoft)는 디지털 공간에서 아동의 권리를 보호하기 위해 유니세프와 적극적으로 협력해 왔다. 특히, 애저(Azure) 기반 오픈 소스 소프트웨어 플랫폼인 Primero는 마이크로소프트와 유니세프의 협력에 있어 중요한 부분이다.

이 플랫폼은 더 나은 사례 관리와 서비스 제공을 가능하게 하여 사회복지사의 역량을 강화하고 폭력, 착취, 학대로부터 아동을 보호하도록 설계되었다. 마이크로소프트의 기술 인프라와 전문 지식은 28개 국가 및 지역의 10만 명 이상의 취약한 아동에게 도달할 수 있도록 Primero를 확장하는 데 결정적으로 작용했다.

이 플랫폼은 가족 재결합 및 추적과 같은 중요한 서비스에 대한 액세스를 용이하게 하며, 특히 가정 폭력 및 젠더 기반 폭력 비율이 증가한 코로나19 팬데믹 기간에 매우 중요한 역할을 했다.

Primero의 향상된 버전인 Primero X에는 온라인 보호 및 아동 지원에 중요한 기능이 통합되어 있다. 여기에는 모든 스마트 디바이스에서 온라인 및 오프라인 모드의 서비스 액세스, 2단계 인증과 같은 강화된 보안 조치, 마이크로소프트 애저 클라우드 서비스가 포함된다. 이러한 기능을 통해 사회 서비스 제공 업체는 효율적이고 안전하게 아동에게 필수적인 보호와 지원을 제공할 수 있다.

이러한 이니셔티브를 통해 마이크로소프트와 유니세프는 디지털 공간에서 아동의 권리를 보호하고 안전과 복지를 보장하는 디지털 솔루션의 긴급한 필요성을 해결해 나가고 있다.

유니세프와 WeProtect에서 발간한 2023 Global Threat Assessment에 따르면 인터넷상 아동·청소년 보호의 중요성이 증가하고 있으며, 국제 사회는 이 문제에 대해 점점 더 관심을 기울이고 있다.

그렇다면, 국내의 상황은 어떠할까. 이에 대해, 김범수 연세대학교 바른 ICT 연구소 소장의 의견을 들어보았다.

“대한민국 정부 역시 온라인 환경에서 아동 보호를 강조하며, 청소년 보호법 등을 통해 사이버 괴롭힘과 음란물로부터 보호하고 안전한 온라인 환경을 조성하는 노력을 기울이고 있습니다. 또한 교육과 인식 제고를 통해 위험을 인식하고, 기술적 조치로 유해 콘텐츠 접근을 제한하며, 법적 조치를 강화하고 다자간 국제 협력을 통해 아동 온라인 보호에 적극 참여하고 있습니다.”

김범수 소장에 따르면, 이러한 기조에 맞추어 국내 포털사이트들도 아동 보호를 위해 노력하고 있다. 네이버는 ‘그린 인터넷’ 캠페인 페이지를 리뉴얼하여 아동 및 청소년에 대한 특별한 보호를 강조하고 있으며, 카카오는 아동 및 청소년을 대상으로 한 성범죄에 대해 무관용 원칙을 적용하고 있다.

또한 유니세프는 유니세프아동친화기업 이니셔티브를통해 서비스를 제공하는 기업을 대상으로 아동 친화적 평가 도구를 제시하고 이를 평가해 기업이 긍정적인 방향으로 변화할 수 있도록 조치를 취하고 있다. 이는 정부 차원의 법적 제재뿐만 아니라 기업 및 관련 단체의 노력도 필요하다는 것을 의미한다.

포춘은 아동 친화적인 디지털 세상을 위해 한발 앞서 나가고 있는 국내의 사례로, 전 세계적으로 수많은 Gen-Z 이용자들을 보유하고 있는 제페토 플랫폼을 선정했다.

그리고 네이버Z의 노준영 책임리드에게 이와 관련한 보다 구체적인 기업의 입장을 들어보았다.

포춘코리아(이하 Q). 온라인 아동 보호에 대한 제페토 플랫폼의 핵심 철학은 무엇인가요?

우선, 우리는 매일 생성되는 거대한 양의 콘텐츠를 완전히 파악할 수 없기 때문에, AI를 활용하여 인간이 인식하지 못하는 영역까지 확인하는 확장된 기술이 필요하다고 생각합니다.

예를 들어, AI를 활용한 콘텐츠 모더레이션을 통해 부적절한 콘텐츠를 탐지하거나 확인할 수 있는 기술이 필요합니다. 또한, 우리가 중요하게 생각하는 부분은 제페토의 사용자들을 잘 이해하는 것입니다. 다른 플랫폼의 사용자가 아니라 우리 플랫폼의 사용자들이 누구이며 무엇을 선호하는지, 그들이 사용하는 언어는 무엇인지 신속하게 파악하기 위해 노력하고 있습니다.

흥미로운 점은, 십 대 사용자들에게 “당신은 안전하다고 생각하나요?”와 같은 질문을 하면 서양과 동양의 답변에 큰 차이가 있다는 것입니다. 이로부터 우리는 전 세계 사용자들에게 안전의 개념과 필요성에 대한 교육적인 접근이 필요하다고 느꼈습니다.

Q 이용자들에 대해 파악하려는 노력이, 아동 이용자가 다수인 메타버스 공간에서 발생하는 문제에 구체적으로 어떻게 적용되는지 궁금합니다.

예를 들어, 그루밍(온라인상에서 아동을 대상으로 한 성 착취의 한 형태로, 성적으로 음란한 행동이나 대화를 유도하여 피해자의 신뢰를 얻거나 접근하려는 행위)에서 발생할 수 있는 몇 가지 상황을 살펴보겠습니다.

예를 들어, 상대방이 갑자기 개인정보를 묻거나 현실 세계에서 만나자고 제안할 수 있습니다. 이러한 언어들이 평범한 대화에서도 자주 사용된다는 점에서 그루밍은 일상적인 대화와 유사합니다.

우리는 이러한 상황에서 이용자들에게 지속적으로 경고 메시지를 전달하는 방식을 선택했습니다. 이와 관련하여, 현재 개발 중인 기술 중 하나는 팔로우를 하지 않거나 모르는 사람이 접근할 때 이를 감지하고, 이용자에게 알리는 로직을 개발하는 것입니다.

그러나 단순히 서로 연결되지 않았다고 해서 항상 메시지를 전송할 수는 없으므로, 현재는 데이터를 계속 분석하고 있습니다. 우리는 계속해서 이러한 문제를 인식시키고 교육하며, 연구 결과를 제공함으로써 어린 사용자들이 자신을 보호하는 방법에 대해 의식적으로 고려하도록 하고, 그에 따른 도구를 제공하는 플랫폼을 만드는 것이 중요하다고 생각합니다.

우리는 Thorn과의 협업을 통해 기술을 개발했으며, 자체적으로도 그루밍으로부터 이용자를 보호하기 위한 기술을 지속적으로 개발하고 있습니다.

Q 플랫폼과 연결된 온라인상의 안전 문제와 관련하여 아동 이용자들의 양육자의 반응이나 참여에 관한 부분은 어떠한가요?

무엇보다, 이용자들의 국가나 문화적 배경에 따라 양육자들의 반응이 다양하며, 플랫폼에 이를 반영하는 것이 쉽지 않은 면이 있습니다.

이러한 관점에서, 우리가 다른 대형 기업들보다 앞서 나가고 있는 점은 플랫폼 내에서 발생하는, 다양한 언어로 된 이용자의 안전 문제에 접근하는 기술을 개발하고 있다는 것입니다.

우리는 이러한 문제에 많은 관심을 가지고 있으며, 이용자들에게 눈높이를 맞추기 위해 노력하고 협력하며, 기술 개발에 집중하고 있습니다. 이는 사회적 책임을 다하기 위한 노력의 일환입니다.

Q 말씀을 듣다 보니 로컬라이제이션(localization)이라는 개념이 글로벌 플랫폼의 성공의 중요한 요소가 되겠다는 생각이 듭니다. 아동 보호 역시 나라별, 문화별, 연령별로 섬세하게 구분하여 접근해야 할 것 같습니다. 양육자들에 대한 접근도 마찬가지고요.

네, 맞습니다. 이에 더해, 우리는 다양한 인종으로 구성된 안전자문위원회를 운영하고 있습니다. 이 위원회는 실질적으로 우리에게 많은 도움을 주고 있습니다. 향후 계획은 이 위원회의 규모를 점차 확대하여 각 국가별로 전문적인 파트너와의 협력을 강화하고 더 많은 국가의 사람들을 위원회에 참여하도록 초대하는 것입니다.

Q 제페토는 상당히 매력적인 플랫폼이고 무엇보다 아동들에게 다양한 즐거움과 경험을 제공하는 미래 지향적 요소를 많이 갖추고 있는 공간이라고 생각합니다. 그런데 아마도 회사 또는 회사 내에서 콘텐츠를 만드시는 분의 입장에서는 창작적인 면에서 제페토를 다른 플랫폼과 차별화하는 가운데 이용자들의 안전을 지켜야 한다는 점에서 딜레마가 존재할 수 있을 것 같습니다.

제페토라는 플랫폼은 가장 보수적인 기준을 바탕으로 운영되고 있다고 생각합니다. 즉, 우리는 모든 이용자들을 아동으로 간주하고 운영 정책을 수립했습니다.

제페토에서는 정책을 매우 중요하게 여깁니다. 사이버 공간에서는 순간순간 다양한 상황이 발생할 수 있는데, 이에 대응할 때 감정적인 요소가 종종 개입될 수 있습니다. 특히 스타트업은 이러한 경향이 더 강할 것으로 생각됩니다. 제가 이 회사에 입사했을 때 대표님께 전한 말씀은 먼저 정책을 수립하고, 정책이 없는 것은 시행하지 않겠다는 것이었습니다.

우리는 정책을 업데이트하고 이용자들에게 알리며, 함께 보완하고 변경하면서 정책을 준수하고 있습니다. 이러한 측면에서, 우리는 일관된 방식으로 운영되고 있으며, 경영진과 대표님들, 프로덕트 기획자들도 이에 대해 심사숙고를 많이 하고 있습니다.

기업의 이윤은 중요하지만, 우리의 제품이 어떻게 더 흥미롭고 효과적으로 발전할 수 있는지에 대해 고민하는 동시에, 정책 안에서 어떻게 잘 이뤄낼 수 있는지에 대한 논의를 계속하고 있습니다.

Q 국내에서는 초기 사용자를 아동으로 설정하고 프로그램이나 플랫폼이 디자인되는 경우가 드물다는 점에서, 제페토의 사례는 다른 기업들에게도 상당히 긍정적인 자극이 될 것 같습니다.

어떻게 보면, 우리의 전문성이 바로 ‘안전한 디자인(Safety by Design)’이라고 할 수 있습니다. 우리는 메타버스 회사로서, 아동 이용자들에게 정보를 전달하는 것보다는 안전에 대한 이야기를 어떻게 할 수 있을지를 고민하다가, 그 결과로 아동들이 이해할 수 있는 수준으로 안전에 대해 이야기할 수 있는 방법을 찾게 되었습니다.

그래서 안전을 위한 아바타인 ‘소테리아(Soteria)’를 만들었고, 현재 이를 운영 중입니다. 현재 팔로워 수는 5천 5백만을 넘었으며 소테리아 안전 관련 콘텐츠 조회수는 4천8백만 이상을 기록 중이다. 우리는 이 소테리아를 통해 다양한 안전 이니셔티브를 발표하고 있으며, 새로운 가이드를 론칭할 때에도 마찬가지입니다.

흥미로운 점은, 많은 이용자들이 직접 대화할 수 있는 대상인 소테리아를 통해 보다 재미있고 쉽게 안전에 접근할 수 있다는 것입니다.

Q 말씀을 들으면서, 온라인상의 아동권리 보호 문제를 해결해 나가기 위해서는 더 많은 기업들이 함께 협력하고 노력하는 것이 필요하지 않을까라는 생각을 하게 됩니다.

제가 강조하고 싶은 것은 안전 문제에 대해 많은 플랫폼들이 공통된 언어와 액션을 사용할 때 훨씬 더 강력한 효과를 낼 수 있다는 점입니다. 예를 들어, 콘텐츠에 대한 어필이나 이의 제기 방법 등이 투명성 보고서와 같은 형태로 다양하게 이루어지고 있는데, 이를 표준화한다면 부모나 이용자들이 보다 쉽게 접근할 수 있을 것입니다.

우리는 아동의 개인정보 보호 관련 약관이나 법률 등도 게임처럼 쉽게 이해할 수 있도록 하는 이니셔티브를 적극적으로 추진하고 있습니다. 이러한 측면에서도 우리 스스로, 또 다른 기업들과 함께 이야기를 나누고 아이디어를 제안해야 한다고 생각합니다.

※ ‘아동권리와 ESG’ 시리즈 기사는 포춘코리아와 유니세프 한국위원회가 함께 합니다. 유니세프는 특정 기업, 브랜드, 상품 및 서비스를 옹호하지 않습니다.