새로운 연구에 따르면 AI(인공지능)는 타이핑 소리만으로 키 입력을 식별하며 95% 정확도로 정보를 훔칠 수 있는 것으로 나타났다.

미 포춘지에 따르면 랩톱 사용자는 키보드 입력만으로 개인 메시지, 암호 및 신용 카드 번호를 포함한 민감한 정보를 도난당할 위험이 있다는 연구 결과가 나왔다. 

영국 대학 연구팀의 새 논문에 따르면 AI는 소리만으로 키 입력을 95% 정확도로 식별할 수 있다. 이 연구에서 실험자들은 근처 전화를 통해 MacBook Pro(맥북 프로)의 키 입력을 정확하게 식별했으며, Zoom(줌) 통화에서의 식별 정확도도 93%에 달했다.

이 연구 논문은 악의적인 제3자가 랩톱 옆에 있는 휴대폰이나 Zoom과 같은 화상 회의 소프트웨어의 음소거되지 않은 마이크와 같은 보조 장치를 사용해 녹음하는 '음향적 부채널 공격'에 대해 자세히 설명한다. 그런 다음 제3자는 개별적으로 눌린 키의 소리를 인식하도록 훈련된 딥 러닝 AI를 통해 녹음 내용을 제공해 정확히 무엇을 입력했는지 해독한다.

딥 러닝(DL)은 컴퓨터가 인간의 두뇌와 유사한 방식으로 데이터를 처리하도록 학습하는 기계 학습의 하위 집합이다. 본질적으로 다층 신경망을 사용해 대량의 데이터에서 학습하고 정확하게 생성한다. 

딥 러닝 모델은 그림, 텍스트, 소리 및 기타 데이터의 패턴을 인식할 수 있다. 이러한 유형의 AI는 Amazon(아마존)의 Alexa(알렉사) 및 음성 지원 TV 리모컨 과 같은 디지털 비서와 같은 일상 제품과 자율주행 자동차와 같은 최신 기술에 있다.

해당 논문은 "최근 마이크와 DL 모델의 성능(및 액세스)이 모두 발전함에 따라 키보드에 대한 음향 공격의 가능성이 보이기 시작했다"고 분석했다.

지난 3일에 발표된 이 논문은 최근 Durham University에서 공학 석사 학위를 취득한 Amazon 의 소프트웨어 개발 엔지니어인 Joshua Harrison 과 Surrey 대학의 Ehsan Toreini 강사 및 Royal Holloway University of London 선임 강사인 Maryam이 저술했다.

끊임없이 발전하는 AI의 위협 

논문에 따르면 랩톱은 휴대성 탓에 이러한 공격의 주요 타깃이 될 수 있다. 사람들은 도서관, 커피숍, 학습 공간과 같은 공공 장소에서 일하기 위해 랩톱을 가져가는 경우가 많은데, 이러한 곳에서 사용자의 타이핑 소리가 쉽게 녹음될 수 있다.

이 논문의 주요 관심사 중 하나는 사람들이 이러한 종류의 공격을 인식하지 못하기 때문에 이를 방지하기 위해 아무 조치도 취하지 않는다는 점이다.

논문은 "키보드 음향 발산의 편재성으로 인해 쉽게 사용할 수 있는 공격 벡터가 될 뿐만 아니라 피해자가 출력을 과소평가 하도록 유도한다"며 "예를 들어 비밀번호를 입력할 때 사람들은 정기적으로 화면을 숨기지만 키보드 소리를 난독화하는 데는 거의 노력하지 않는다"고 지적했다.

이 공격의 위협을 완화하는 한 가지 방법은 특수 문자, 대문자 및 소문자, 숫자와 같은 여러 대소문자를 사용해 더 강력한 암호를 사용하는 것이다. 완전한 단어로 구성된 암호는 더 쉽게 유추될 수 있으므로 공격 위험이 더 크다. 

또, 시프트 키를 누르는 것은 AI가 인식할 수 있지만 다른 키의 소리 속에서 시프트 키의 '해제 피크'를 아직 인식하지 못해 "시프트 키를 누른 후 잠재적인 문자의 검색 공간을 두 배로 늘린다"고 논문은 소개했다. 

이러한 종류의 공격을 저지하는 또 다른 간단한 방법은 이중 인증을 사용하는 것이다. 이는 계정 및 데이터에 액세스하기 위해 두 가지 형태의 식별이 필요한 보안 방법이다. 예를 들어, 첫 번째 요소는 비밀번호일 수 있고 두 번째 요소는 이메일 또는 별도의 장치를 통한 계정 활동 확인일 수 있다. 

아울러 지문 스캔 및 안면 인식과 같은 생체 인식 인증도 공격의 위험을 줄일 수 있다.

다만 AI도 지속적으로 진화하면서 공격 방식도 진화할 개연성이 높다. 이 논문의 저자는 "이러한 장치가 항상 켜져 있고 많은 가정에 존재하기 때문에 향후 연구에서 키 입력을 녹음하기 위해 스마트 스피커의 사용을 분석할 것"을 권장했다. 

저자는 또, 향후 연구에서 음성 패턴을 인식하기 위해 대량의 텍스트에 대해 훈련된 바이러스성 챗봇 ChatGPT와 같은 딥 러닝 AI 언어 모델과 함께 사용되는 언어 모델의 구현을 탐색해야 한다고 제안했다. 

논문은 "언어 모델은 정의된 단어를 식별할 때 키 입력 인식을 향상시킬 수 있을 뿐만 아니라 키보드에서 ASC 공격의 종단 간 실제 구현을 향상시킬 수 있다"고 전했다. 

/ 포춘코리아 공인호 기자 ball@fortunekorea.co.kr