사이버 보안의 주기가 지나면서 모든 새로운 기술은 위협의 새로운 풍경과 그것들을 방어하는 도구를 창조한다. 생성형 인공지능(AI)도 예외는 아니다.

서브하 타타바르티 위프로 최고기술책임자(CTO)는 이번 주 샌프란시스코에서 열린 '포춘 브레인스톰 AI 콘퍼런스' AI 시대 사이버 보안 위협에 초점을 맞춘 패널 토론에서 "젠 AI는 방어자와 공격자 모두에게 상황을 더 쉽게 만든다"고 말했다.

생성 AI는 피싱 공격을 더욱 쉽게 만들고 있으며, 특히 대규모 언어 모델은 광범위하게 노출된 공격 표면을 만들어냈다. 동시에 악성 파일 유포자들은 현재 다크 웹에서 해커 타게티드 ChatGPT와 같은 챗봇을 판매하고 있다. 이 챗봇은 OpenAI 제품이 질문에 답하거나 텍스트를 요약하는 것처럼 빠르게 벡터 공격을 유발한다.

하지만 생성 AI가 사이버 보안에 미치는 영향에 대해 특히 어려운 것은 시장(암시장 포함)에 영향을 미치는 속도다. 여러 기업들은 이제 새롭게 등장하는 생성 AI 지원 공격을 이해하고 새로운 방어 도구를 개발하기 위해 앞다퉈 나서고 있을 뿐만 아니라, 이러한 도구의 내부 사용, 정책 및 규정 준수와 관련해 빠르게 진행되는 문제에 대처하고 있다. 결과적으로 CISO(최고 정보 보안 책임자) 역할이 커지고 있는 셈이다.

타타바르티는 "오늘날 CISO들이 매우 중요하다"며 "CISO들이 시장에서 사용할 수 있는 것 이상의 자체 혁신을 수행하는 것을 포함해 빠르게 혁신하는 것이 매우 중요할 것"이라고 말했다.

타타바르티는 AI가 진화하는 사이버 보안 환경에 어떤 영향을 미치고 있는지 탐구하는 세션에서 체크포인트 최고 전략 책임자인 이타이 그린버그, EY의 글로벌 AI 혁신 리더인 로드리고 마다네스와 함께 연설했다. 생성 AI에 의해 새로운 종류의 위협이 가능해졌다는 논의가 진행되는 가운데, CISO는 큰 영향을 미치고 있는 분명한 접점이었다.

마다네스는 "CISO의 역할은 엄청나게 도전적이고 빠르게 진화하고 있다"고 말했다. 이어 "지금 벌어지고 있는 일은 그들이 데이터와 보호에 관한 기존 정책을 시행해왔다는 것이지만, 그들이 배치되고 있는 대화형 인터페이스를 보호해야 하는 책임을 지는 영역으로 넘어가면서 다른 기술이 필요하게 됐다"고 설명했다.

이와 비슷하게, 그린버그는 CISO들이 자신들이 어떤 도구를 사용하고 있으며 특히 공공의 도구들에 어떤 데이터를 업로드 하고 있는지에 대해 생각해아야 한다고 말했다. 구체적으로 시스템들로부터 데이터를 제거할 수 있는지를 비롯해, 조심스럽게 가드레일을 배치하는 것들을 말한다.

이는 제한된 기술적 역할을 하던 과거 CISO와는 다른 역할로 보인다. 이 점은 CISO가 될 위험성이 점점 커지고 있다는 점과 그 역할이 실제로는 운영적인 역할과 거버넌스 중심의 역할 두 가지로 나눠질 수 있다는 논의를 이끌어냈다.

데이터 보안 및 보호 회사인 콤볼루트의 로스 캠프라는 참가자는 CISO가 이제 그들의 회사에 대한 공격을 처리하는 것과 관련해 개인적으로 형사 책임을 지고 있다는 사실을 지적하며 "가까운 미래에 CISO의 부족에 대해 걱정해야 하지 않느냐"고 물었다. 

지난달 전 솔라윈즈 CISO 티모시 브라운은 회사에 대한 대규모 공급망 공격으로 이어진 보안 위험을 공개하지 않음으로써 투자자들을 편취한 혐의로 증권거래위원회(SEC)에 의해 기소됐다. 분석가들과 법률 전문가들은 이것이 앞으로 더욱 일반화될 케이스라고 믿고 있다.

생성 AI로 생성 AI 공격과 싸우는 방법을 알아내는 것은 여전히 진행 중인 작업이다. 그러나 2024년 마다네스는 산업이 해결책을 만들기 위한 개발에 착수할 것이라고 말했다.

마다네스는 "우리는 사람들이 외부에 노출된 에이전트에 어떻게 공격 벡터가 들어오는지와 어떤 형태를 가질지 그리고 그들이 배치해야 할 상업적 솔루션은 무엇인지 알아보기 시작했다고 생각한다"며 "하지만 우리는 아직 거기에 도달하지 못했다고 생각한다"고 말했다.

차세대 피싱과 프로드GPT와 같은 응용 프로그램의 가용성과 새로운 유형의 공격 형성에 대한 많은 통찰력을 제공한 그린버그는 여러 방어 라인의 중요성을 옹호하고 어떤 도구라도 그 일을 할 수 있다고 믿지 말라고 경고했다.

/ 포춘코리아 김동현 기자 gaed@fortunekorea.co.kr