총기 식별 인공지능 카메라가 만연하는 폭력을 예방할 수 있는 추가적인 ‘보호 대책’으로 관심을 모으고 있다. By Bernhard Warner

뉴질랜드 크라이스트처치에 위치한 알 노어 모스크 Al Noor Mosque의 오랜 회원이자 이 지역 무슬림 협회 회장인 샤가프 칸 SHAGAF KHAN은 지난 7월, 총기로 무장한 사람들이 잇따라 사원으로 들어가는 모습을 보고 깜짝 놀랐다. 이 사원은 불과 4개월 전, 뉴질랜드 역사상 가장 치명적인 대학살이 시작된 장소였다. 범인은 당시 이 곳에서 51명의 사망자와 49명의 부상자를 초래한 총기난사 사건을 페이스북에 생중계했다.

그러나 이번에는 총은 훈련의 일부였다. 경찰관들은 아테나 시큐리티 Athena Security가 개발한 새 첨단 보안 시스템을 시험하기 위해, 다양한 총기를 활용하며 사원 포위 모의 훈련을 하고 있었다.

사원 안팎에 설치된 감시 카메라들은 인공지능의 도움으로, 몇 초 만에 치명적인 위협을 인식했다. 카메라들은 빠르게 긴급 대응을 했다. 경찰 당국과 급박한 위험에 처한 신도들에게 경고를 보낸 것이다. 칸은 이날 선보인 최신 기술의 성능에 대해 “인상적이었다”며 “우리는 권총과 대형 총기 등 모든 종류의 무기를 봤다. 하지만 모두 카메라에 의해 적발됐다”고 전했다.

최근 뉴질랜드의 총기난사 사건과 데이턴, 엘패소, 텍사스 오데사에서 일어난 사건들로 인해, 일부 기업체와 학교에 인공지능 보안 시스템을 설치해야 한다는 목소리가 커지고 있다. 이 신기술은 총기난사 사건에서 생명을 구하는 데 도움이 될 것으로 기대된다. 총기 사건을 추적하는 민간업체 매스 슈팅 트래커 Mass Shooting Tracker에 따르면, 적어도 하루에 한 번은 총기난사 사건이 ‘자유로운 사람들의 땅이자 용자들의 고향(미국)’ 어딘가에서 발생한다.

그럼에도 카메라와 컴퓨터가 가벼운 자동소총인 AR-15식 무기로 무장한 범인을 막기 위해 할 수 있는 일은 매우 제한적이다. 더욱이 이 기술은 때때로 ‘가긍정적 판단(false positives)’/*역주: 사실상 실패인데 검사에서 성공으로 잘못 예언하는 사례/을 내리기 쉽다. 한편으로, 비판론자들은 총기 감시를 위해 모든 일반 행인들의 사생활을 침해할 우려가 있다고 지적한다.

그러나 상황이 어떻든, 투자자들은 인공지능 보안 분야에 돈을 쏟아 붓고 있다. 오스틴에 본사를 둔 1년 차 스타트업 아테나 시큐리티는 550만 달러를 유치했다. 이스라엘 회사 애니비전 AnyVision은 지난 6월 성공적으로 7,400만 달러를 조달했고, 토론토 증권거래소에 상장된 캐나다의 패트리엇 원 테크놀로지스 Patriot One Technologies도 8,700만 캐나다 달러(미화 6,500만 달러)를 공모했다.

최근 인공지능 기반의 보안 시스템이 부상한 것은 이미지 인식—사진이나 비디오 스틸에 담긴 장면을 식별하는 기술—의 개선과 관련이 있다. 이 기술의 목표는 종종 간과되는 대상—임박한 폭력 행위의 신호를 보내는 치명적인 무기와 의심스러운 행동—에 초점을 맞추는 것이다.

아테나 기술은 3초 단위로 짧게 끊어, 감시 영상(90개의 개별 영상 프레임)을 분석한다. 이 기술의 알고리즘은 위험한 대상과 개인들의 위협적인 움직임을 모두 찾아내도록 훈련 된다. 학교에 접근하면서 글록 Glock 권총을 휘두르는 용의자를 예로 들 수 있다.

먼저, 이 기술은 좀 더 많은 영상 프레임을 분석하고 현장을 추적한다. 이어 근무 중인 아테나 기술자나 현장 보안요원에게 위협을 확인하라고 통보한다. 만약 그 위험이 실제 상황이면, 보안요원은 경보를 울려 학교와 사무실, 예배 장소를 폐쇄하고 무장 공격자의 출입을 막을 수 있다.

아테나는 올해 초, 이 기술에서 단 한 가지의 취약점을 발견했다. 카메라에서 30피트 떨어진 곳에서, 사람이 들고 있는 권총이나 공격용 소총이 카메라를 똑바로 겨누는 것을 알고리즘이 잡아내지 못한 것이다. 시험한 모든 다른 시나리오—오른쪽이나 왼쪽으로 비스듬히 기울인 총기, 총과 함께 움직이는 범인, 카메라 25피트 이내에서 모든 각도로 잡은 무기—에서 탐지율은 100%였다.

아테나의 공동 설립자 겸 최고기술책임자 크리스 시아배라 Chris Ciaabarra는 “고객들이 가장 관심을 갖는 기능은 총기 적발”이라고 설명한다. 하지만 그들은 찾아내기 힘든 위협도 파악하기를 원한다. 그래서 회사는 지난 9월 칼(6인치 이상)과 몸싸움(주먹으로 때리기, 발차기, 밀기) 식별에 초점을 맞춘 최신 소프트웨어를 도입했다. 이 기술의 비용은 카메라 한 대당 월 100달러에 이른다.

아테나는 시스템이 과도하게 반응하지 않도록 만들려고 신경을 쓰고 있다. 가령, 아이폰처럼 반짝이는 검은 물체를 권총으로 오인하지 않도록 하는 것이다. 시아배라는 “새로 도입한 기술은 매일 카메라 한 대당 2~3건의 ‘가긍정적 판단’을 확인할 수 있다. 원래는 근무 중인 보안요원들이 이 일을 해야 한다”고 설명했다. 그는 이어 “경보가 화면에 뜨면, 요원들이 실제 상황인지 아닌지를 판단한다”며 “우리가 정말 바라지 않는 상황은 경찰이 엉뚱한 현장에 출동하는 것”이라고 강조했다.

캐나다 기업 패트리엇 원은 기계학습과 마이크로파(波) 레이더 기술을 결합해 잠재적 위협을 찾아낸다. 회사 센서는 총, 칼, 폭탄 등 숨은 무기들을 식별하는 일종의 장거리 금속 탐지기 역할을 한다.

딱딱한 물체에서 신호가 반사되면, 즉시 회사의 무기 데이터베이스와 일치하는지 분석한다. 이 시스템의 기계학습은 매우 수상한 대상(예를 들면, 여행가방에 밀반입된 공격용 소총)과 덜 의심스러운 물체(재킷 주머니에 든 휴대전화)를 구별한 다음, 필요한 경우 보안 요원에게 경고한다. 회사 CEO 마틴 크로닌 Martin Cronin은 “스마트하고 광범위한 저비용 네트워크 보안이 핵심”이라고 설명한다.

패트리엇 원 하드웨어는 웨스트게이트 라스베이거스 리조트 & 카지노와 그랜드 포크스 Grand Forks에 소재한 노스 다코타 대학 등 학교와 사무실, 공공장소에 설치돼 있다. 설치 비용은 5만 달러 미만이며, 연간 1만 달러의 수수료가 추가된다.

영국 외무부 외교관 출신인 크로닌은 2017년 라스베이거스에서 벌어진 만달레이 베이 Mandalay Bay 총기 난사 사건 이후, 회사 기술에 대한 관심이 크게 높아졌다고 말한다. 당시 총기난사범 한 명이 단독으로 58명을 살해하고, 422명에게 부상을 입혔다. 그는 ‘팻스캔 PatScan’이라 불리는 패트리어트 원 시스템이 그 사건을 막을 수 있었는지에 대해서는 가정을 거부했다.

그러나 그는 가방 속에 무기를 숨겨 호텔에 반입하는 등의 사건 유형을 예방하는 것이 회사 기술을 고안한 정확한 이유라고 설명한다. 크로닌은 “맞다. 우리는 원칙적으로 사건이 일어나기 전에 보안이 대응할 수 있도록, 그것들을 탐지하고 경보를 발령할 계획”이라고 설명한다.

보안을 위한 인공지능 활용은 빠르게 뜨거운 쟁점이 되고 있다. 샌프란시스코 시의 입법기관인 감독위원회부터 민주당 대통령 후보 버니 샌더스에 이르기까지, 디지털 권리 옹호단체와 정치인들은 치안 유지를 위한 안면인식 알고리즘의 금지를 요구해 왔다. 미국 상원은 지난 3월 상업용 얼굴인식 프라이버시법(Commercial Facial Recognition Privacy Act)을 도입했다. 이 초당적 법안은 향후 인공지능 보안 시스템의 활용범위를 제한함으로써, 개인정보 보호권을 명문화할 수 있다.

하와이 주 민주당 상원의원 브라이언 샤츠 Brian Schatz와 법안을 공동 발의한 미주리 주 공화당 상원의원 로이 블런트 Roy Blunt는 “이 기술이 계속 발전함에 따라, 책임감 있게 활용할 수 있도록 보호장치가 필요하다”고 강조한다.

패트리어트 원과 아테나 시큐리티는 자신들의 보안 시스템 활용에 대한 가장 큰 오해 중 하나가 그에 따른 사생활 침해라고 말한다. 양사는 자체 기술이 개인의 생체정보를 기록하고, 저장하거나, 공유하지 않는다고 강조한다.

그러나 크로닌은 패트리엇 원의 기술이—차이가 있다면, 가령 중국이 정적들을 추적하기 위해 사용하는 안면인식 기술과—어떻게 다른지 많은 질문을 받는다고 털어놓았다. 그는 “나는 그 질문에 대해 ‘우리 기술의 본질은 그것과는 다르다. 공공 환경이나 개인적인 환경에서 사람들을 안전하게 하기 위한 것’이라고 답한다”라고 밝혔다.

크라이스트처치에 거주하는 칸은 다른 걱정이 있다. 신도들을 관리하는 지도자 중 한 명이었던 그의 업무는 대학살 이후 봉사자, 상담가, 그리고 보안 책임자로 바뀌었다. 그는 단지 약간의 정상 상태를 회복하려 노력 중이다.

새로운 보안시스템과 강화된 경찰인력에도 불구하고, 일부 신도들은 너무 무서워 돌아오지 못하고 있다. 칸은 그들이 복귀할지는 모르지만, 남아있는 사람들의 안전과 복지에 대해서는 다소 안심을 하기 시작했다. 그는 “어떤 기술도 완벽하지 않다”며 “하지만 적어도 우리는 이런 종류의 일이 일어나는 것을 막을 수 있는 기술들을 갖고 있다”고 설명한다.

▲상시 감시 체계: 점점 더 많은 회사들이 총기와 다른 무기들을 식별하는 인공지능 시스템을 판매하고 있다.

-아테나 시큐리티: 텍사스 오스틴에 본사를 둔 이 회사의 보안 시스템은 총기와 칼을 적발하기 위해, 이미지 인식 기술을 활용해 감시 동영상을 분석한다.

-패트리어트 원 테크놀로지스: 이 캐나다 기업의 기술은 마이크로파 레이더와 기계학습의 도움을 받아, 명백한 위협이나 총과 칼, 폭탄 같은 숨은 위협을 찾아낸다.
 
-애니비전: 이 이스라엘 회사는 대부분의 네트워크 보안 카메라와 작동하는 ‘컴퓨터 비전’ 플랫폼을 개발했다. 이를 통해 보안을 위협할 가능성이 높은 물체와 함께, 개인의 안면 및 신체 유형을 식별한다.