나스닥이 시장에서 적발하기 힘든 특정 종류의 사기를 감시하기 위해 딥 러닝을 활용하고 있다. By Jonathan Vanian

한 투자자가 식료품 체인점의 주식을 팔기 위해 수 많은 온라인 주문을 낸다. 또 하나의 일상적인 거래처럼 보일지 모르지만, 이것은 사기다.

그가 실제로 한 일은 다른 사람들이 회사 주식을 팔도록 겁을 줘 그 가치를 폭락하게 만드는 것이다. 이 사기꾼은 자신의 매도 주문을 취소한 후, 시장에 넘쳐나는 수천 개의 주식을 헐값에 낚아채기 위해 재빨리 움직인다.

이른바 ‘스푸핑 spoofing’으로 불리는 이 불법 행태는 잘 알려져 있다. 하지만 적발하기는 쉽지 않다. 수상한 트레이더들이 알고리즘을 사용, 주문을 반복적으로 빠르게 취소할 수 있기 때문이다.

나스닥 증권거래소는 지난 10월 인공지능의 일종인 딥 러닝을 활용, 이런 의심스러운 거래를 포착하는 도구를 도입했다. 투자자들이 매년 수십억 건의 거래를 하는 가운데, 이 기술은 더욱 용이하게 사기를 식별하게 된다.

나스닥은 내부자 거래 같은 주식 시장 범죄를 적발하기 위해, 기존 시스템들과 함께 새로운 소프트웨어를 가동했다. 나스닥의 기계학습 책임자 마이클 오로크 Michael O’Rourke는 딥 러닝의 차별화된 강점은 “설명하기 정말 어려운 것들을 잘 찾아내는 것”이라고 말한다.

나스닥은 자체 딥 러닝을 훈련시키기 위해, 거래소에서 확보한 주문 및 거래 자료뿐만 아니라 미공개 중요정보를 투입했다. 1년간의 실험 끝에 이 기술을 만든 팀은 보다 광범위하게 사용할 수 있을 만큼 신뢰할 수 있다고 판단했다.

사기 적발을 위해, 인공지능을 사용할 때 발생할 수 있는 한 가지 잠재적 위험은 수많은 가긍정적 판단들(false positives) /*역주: 실제로 문제가 없는데 사기로 의심하는 경우/이다. 의심이 되는 거래들을 검토하는 직원들의 숫자가 절대 부족하기 때문이다. 오로크는 “사기를 지나칠 수는 없지만, 정도를 지나치고 싶지는 않다”고 강조한다. 하지만 그는 “의미 있는 오류율을 계산하기에는 아직 시기상조”라고 부연한다. 오로크는 제한된 숫자의 가긍정적 판단은 용인할 수 있다고 생각한다.

결국 범죄자들을 추적하는 것은 연방 규제 당국에 달려있다. 미 증권거래위원회(SEC)의 수단이 제한적이라는 점을 고려하면, 상당히 어려운 일이다. 그럼에도 나스닥 담당 팀은 새 소프트웨어가 SEC에 시의적절한 양질의 정보를 제공함으로써, 도움이 될 것이라고 말한다.

주식 사기를 적발하기 위해 머신 러닝을 활용하는 건 나스닥 뿐만이 아니다. 일례로 미시간대학교도 사기범에 대항하기 위해, 인공지능 기반의 통계 기법을 개발하고 있다. 하지만 문제는 시스템 훈련에 매우 중요한 시장 데이터 접근이 어렵다는 점이다.

이 대학의 법학과 조교수 가브리엘 로터버그 Gabriel Rauterberg는 “실험할 수 있는 유사시장이 없고 실시간 데이터에 접근하기 어렵다면, 주가조작을 탐지하는 알고리즘 구축에는 몇 가지 커다란 장애물이 있다"고 지적한다(나스닥의 경쟁자인 뉴욕증권거래소가 사기 적발을 위한 딥 러닝을 개발하는 데 유리할 수도 있다. 하지만 이 거래소는 포춘과의 인터뷰를 거부했다).

나스닥은 결국 자체 개발한 신기술 버전을 다른 거래소들에 판매할 계획이라고 밝혔다. 그 동안 개발한 다른 소프트웨어를 판매한 것과 같은 방식이다.