현재 가장 발전한 인공지능은 이미 인간의 직관에 반하는 결정을 내리고 있다. 어떻게 하면 경영진은 우려를 떨치고 이 봇을 사랑할 수 있을까? By Jeremy Kahn

홍콩에 기반을 둔 투자회사 딥 날리지 벤처스 Deep Knowledge Ventures는 2014년 자사 이사회에 컴퓨터 알고리즘을 선임, 화제가 됐다. 약 1억 유로를 운용하는 이 회사는 인간의 직관 및 창업자들과의 개인적인 상호관계에 의존하기 보다, 데이터 기반의 투자방식을 실행할 방법을 원했다. 매니징 파트너 드미트리 카민스키 Dmitry Kaminskiy는 “이 알고리즘이 대부분 거부권의 메커니즘으로 작용했다”고 말한다. 즉, 적신호를 발견하면 딥 날리지는 투자를 하지 않는다는 설명이다.

회사 인공지능이 이사직을 꿰찬 이후 5년간, 아직까지 그 뒤를 따르는 회사들은 많지 않았다. 사실, 딥 날리지 자체가 집중하는 분야가 바뀌었다. 회사는 더 이상 알고리즘도 사용하지 않는다.

노스웨스턴대 켈로그 경영대학원의 브라이언 우지 Brian Uzzi 교수는 “오늘날 중요한 전략 결정은 (인간의) 직관에 바탕을 두고 있다”며 “순전히 데이터가 부족하기 때문”이라고 지적한다. 기업들이 알고리즘을 효과적으로 훈련시키기 위해, 이런 중요한 결정들을 제대로 내리지 않고 있다는 주장이다.

그러나 더 많은 데이터가 쌓이고 있고, 데이터 부족과 관련이 있는 모델들이 상업적 수요를 창출하고 있다. 따라서 인공지능이 좀 더 전략적인 역할을 맡는 건 이제 시간문제다. 즉, 어떤 인수합병 거래를 추구해야 할지, 어떤 지역에 진출해야 할지, 경쟁사의 제품에 대응해야 할지에 대한 통찰력을 제공하는 것이다.

그러나 이것은 일종의 역풍을 불러일으키고 있다. 일부 경영 현인들과 이론가들은 ‘반직관적으로’ 인공지능 트렌드의 속도를 늦추며, 서둘러 그 흐름을 추월했다: 기업 이사회에 ‘인간의 직관과 상식을 포기하지 말라’고 단호하게 조언하고 있는 것이다.  

올해 초 영국 카디프대학의 더크 린데바움 Dirk Lindebaum, 헬싱키 한켄 경제대학의 미코 베사 Mikko Vesa와 프랑크 덴 혼드 Frank den Hond는 기업 이사들에게 ‘A.I.에 지나치게 빠져들지 말라’고 경고하는 자극적인 에세이를 썼다. 이 3인방은 자신들의 주장을 강조하기 위해, E.M. 포스터 E.M. Forster의 고전 공상과학소설 ‘멈춰버린 기계(The Machine Stops)’와의 유사점을 비교했다. 이 작품은 모든 힘을 가진 기계에 너무 의존하는 바람에, 독립적으로 사고하고 행동하는 능력을 잃게 되는 인간을 그리고 있다. 린데바움은 포춘과의 인터뷰에서 “인간은 점점 더 많은 권한을 내주고 있다”며 “결국 사실상, 독립적으로 선택을 내리지 못하는 상황에 이르렀다. 맹목적으로 알고리즘이 시키는 대로 따라 하는 것”이라고 지적했다.

린데바움 등 전문가들은 자동운항 시스템에 문제가 생긴 보잉 737 Max 8 2대의 치명적인 추락 사고를 경종의 사례로 들었다. 조종사들이 시스템을 완전히 이해하지 못해 일어난 사고였다. 이들은 자동운항 시스템이 결함 있는 센서 데이터에 근거, 결정을 내리는지 여부를 쉽게 판단할 수 없었던 것이다. 이런 ‘자동화 돌발사고’는 인공지능에서 특히 우려되는 부분이다. 오늘날 강력한 기계학습 알고리즘의 다수가 블랙박스이기 때문이다. 왜 그들이 특정 결과를 예측하는지는, 코딩 전문가들조차 정확히 파악하지 못하고 있다.

항공사의 자동 운항장치나 자율 차량처럼 생사가 갈릴 수 있는 상황에서, 린데바움의 충고는 현명하게 들린다. 하지만 비즈니스 전략의 영역에서, 경영자들이 스스로 활용하는 알고리즘을 신뢰하지 못한다면 귀중한 통찰력을 놓칠 수도 있을까?

고대 전략게임 바둑의 세계적인 선수 이세돌과 알파고 알고리즘—알파벳이 소유한 인공지능회사 딥마인드 DeepMind가 만들었다—의 2016년 대결을 생각해보자. 알파고는 2차전 당시 37번째 수에서 너무나도 특이한 움직임을 보였다. 처음에는 바둑 전문가들이 알파고의 돌을 바둑판에 옮기는 사람이 실수했다고 오해할 정도였다. 알파고 스스로도 그 상황에서, 인간 선수 1만 명 중 1명이나 같은 수를 둘 것이라 추정했다. 그럼에도 (딥마인드 연구원들에게조차 곤혹스러운 이유로), 알파고는 또한 이 움직임을 명백한 승리수로 봤다. 그리고 정말 이겼다.

이런 ‘예상 밖의’ 통찰력 앞에서, ‘상식과 인간의 경험을 포기하지 말라’고 목소리를 높이는 경영통념은 정말 부적절해 보인다. 그 조언을 따르면 결코 37번째 수를 두지 못할 것이다. 반면, 이사회는 37번째 수와 737기 충돌의 차이를 어떻게 구별할 것인가?

이런 딜레마를 푸는 과제는 쉽지 않을 것이다. 뉴욕대 경영학과에서 인공지능을 가르치는 로버트 시먼스 Robert Seamans 교수는 “어떤 기반 위에서 인공지능 시스템이 작동하는지 이해할 수 있는 경영자들의 역량이 매우 중요하다”고 강조한다. “그것은 단지 ‘올바른’ 전략적 결정을 내리는 것에 그치지 않는다. 실행도 중요하다. 결정을 뒷받침하는 논리를 이해해야 한다. 직원들과 투자자들로부터 인공지능의 실행에 필요한 동의를 얻는데 필수적이다.”

그는 이어 “그것은 단지 확률적인 결과를 내뱉는 것에 그치지 않는다. 실행 과정에 모든 사람이 참여해야 한다. 그 근거를 설명할 수 없다면, 사람들의 참여를 끌어낼 수 없다”라고 강조한다. 리더십은 단지 의사결정에 그쳐서는 안 된다. 다른 사람들도 따르도록 설득해야 하는 것이다.