대중매체들은 “마케터들이 불순한 의도로 최첨단 추적 기술과 인공지능 기술을 활용, 우리의 선택을 예측ㆍ통제하는 능력을 행사하고 있다”고 경고해 왔다.

예를 들어 2019년 넷플릭스가 제작한 다큐멘터리 ‘거대한 해킹(The Great Hack)’에서, 데이터 분석 회사 케임브리지 애널리틱스 Cambridge Analytics는 SNS 내용을 긁어 모아, 개인들의 심리를 파악할 수 있는 깊은 통찰력을 갖게 됐다. 이 영화 제작자들은 “그 회사는 통찰력을 활용해 비밀리에 맞춤형 광고를 제작했다. 그리고 2016년 미국 대통령 선거에서 유권자들의 심리를 조종해 도널드 트럼프에게 투표하도록 유도했다”고 주장했다. 이 영화에서 언급된 사건들을 토론하는 과정에서, 유명한 IT 투자자 로저 맥나미 Roger McName는 “IT 기업들이 ‘데이터 저주 인형’을 갖고 있다. 그 인형은 우리 삶을 완전히 디지털로 표현한 것이다. 그 데이터 저주 인형으로, 그들은 우리 행동을 조종할 수 있다"고 단언했다.

마찬가지로 하버드 심리학자 쇼샤나 주보프 Shoshana Zuboff는 최근 디지털 마케터들에 대해 “그들의 관심은 우리 행동을 파악하는 것뿐만 아니라, ‘예측’을 ‘확신’으로 바꿀 수 있는 방식으로 우리의 행동을 유도하는 것이다. 그들의 목표는 우리 행동을 자동화하는 것"이라고 경고했다.

나쁜 사람들이 나쁜 짓을 하고, 그런 일에 능숙하다는 생각은 분명 널리 퍼져있다. 음모론도 이런 대중의 심리에서 비롯된 것이다. 하지만 스탠퍼드 마케팅 교수인 이타마르 시몬슨 Itamar Simonson과 필자가 소비자 심리학 리뷰의 최근 기고문에서 논의한 것처럼, “좀 더 면밀한 조사 결과에 따르면 그런 주장은 지나치게 과장된 것”으로 나타났다.

인공지능, 주로 머신 러닝 방법을 활용하는 많은 분야에서 혁신적인 발전이 나타나고 있다는 점은 이론의 여지가 없다. 일례로 이미지 인식과 언어 번역, 그리고 그 밖의 많은 사례들이 이에 해당된다. 하지만 사람들의 소비 선택과 일반적으로 그들의 행동을 예측하는 것은 인공지능이 잘할 수 있는 분야가 아니다. 인공지능은 타깃으로 정한 업무들과는 달리, 특정 제품과 속성에 대한 사람들의 선호도를 예측할 수 없다. 그런 선호도는 결정을 내리는 시점에 형성되는 경향이 있기 때문이다.

구체적으로 말하면, 사람들은 제품에 대한 일반적인 선호도(독특성, 사용 편의성, 품질, 좋아하는 색상)를 가질 가능성이 크지만, 일반적으로 특정 제품에 대한 정밀하고, 잘 정의된 선호도를 갖고 있지는 않다.

예를 들어 사람들은 토스터를 구매하기 전에, 특정 모델을 선호하는 것처럼 보이지 않는다. 마찬가지로, 그들은 어느 정도 더 매력적인 토스터를 갖기 위해, 얼마나 더 지불할 의향이 있는지에 대한 선호도를 분명히 드러내지 않는 것 같다. 그들은 구매 결정을 내려야 하는 시점에 이르러서야, 선호도를 드러낸다. 다시 말해, 그런 선호도는 예측의 대상이 아닌 것이다. 선호도는 예측할 수 없는 많은 요인들을 기초로, 결정을 내리는 과정에서 ‘구축’되는 것이다.

이런 주장은 현재의 소비자 정보 환경에서 잘 드러나고 있다. 소비자는 선택 시 많은 주요 결정 요인(예: 전문가 및 사용자 검토, 제품 권장 사항, 새로운 옵션)들을, 결정을 내리는 시점 혹은 그 비슷한 시점에 처음으로 직면하게 된다. 따라서 그들이 어떤 선택을 할지 사전에 예측할 수 없는 것이다. 예를 들어, 어떤 소비자는 쇼핑 과정에서 제품 리뷰를 읽을 수 있다. 그 리뷰를 접한 소비자는 이전에 신경 쓰지 않았고, 간과했던 특정 기능의 장점들을 발견하게 된다. 그리고 그것은 소비자의 선택에 큰 영향을 미칠 수 있다. 이런 적시(Just In Time) 정보의 영향으로, 우리의 선택을 예측하는 일은 더 쉬워지는 게 아니라 오히려 더 어려워지고 있다.

확실히, 어떤 경우에는 소비자가 특정 제품이나 특성에 대해 정밀하고 지속적이며, 강한 선호도를 드러낸다. 예를 들어, 어떤 사람들은 매일 아침 라테 커피를 사는 것을 선호한다. 이런 예측은 비교적 쉽다. 데이터나 조사 방법의 정교함이 거의 필요하지 않기 때문이다.

마찬가지로, 어떤 경우에는 특정 변수로 인해 소비자들 사이에서 선호도 차이를 예측할 수 있다. 예를 들어, 게임기 X박스를 구입한 소비자는 플레이 스테이션을 구입한 소비자보다 X박스 게임 광고에 훨씬 더 잘 반응할 것이다. 오늘날 우리가 하는 행위(구매, "좋아요", 방문 등)를 더 많이 추적하면, 그런 예측은 ‘쉬운’일이 될 수 있다.

그러나 타기팅을 위한 광범위한 소비자 데이터가 존재함에도, 절대적인 의미에서 누가 제품을 구입할지를 예측하는 능력은 여전히 제한적이다. 예를 들어, 최근 페이스북 캠페인에서 수백만 명의 사용자들이 (페이스북 ‘좋아요’의 기록을 기초로 한다) 각자의 특성에 맞춘 화장품 광고를 시청했다. 하지만 그 광고를 본 1만명 중 평균 약 1.5명만이 그 제품을 구입했다.

물론 광고를 봤지만, 각자의 특성에 맞춰 타기팅되지 않은 사람들과 비교할 때 그들은 구매할 확률이 약 50% 높다는 결과가 나왔다. 다시 말해, 광고를 봤고 각자의 특성에 맞춰 타기팅된 사람들은 광고 상품을 1만분의 1에서 1만분의 1.5의 확률로 구매할 가능성이 높았다. 이런 성공률의 변화는 (광고 비용과 제품의 이윤에 따라) 경제적으로 의미가 있을 수 있다. 하지만 ‘데이터 저주 인형’을 갖고, 소비자를 조종하거나 ‘자동화’한다는 주장과는 거리가 멀다.

다른 맥락에서, 고도로 정교해진 머신 러닝(딥 러닝) 방법이 기본적인 통계 방법보다 사람들의 선택을 예측하는데 있어 더 뛰어난 능력을 지녔다고 보기 힘들다. 예를 들어 최근 연구에 따르면, 더 정교해진 모델의 사용은 단순한 모델에 비해, 사람들의 신용카드 선택을 예측하는 능력에서 약간 앞선 것으로 나타났다. 이 차이는 너무나 미미해 관련 비용을 고려하면, 헛수고나 마찬가지였다.

소비자 선호도를 예측하는 능력에서 한계가 드러난 또 다른 사례가 있다. 넷플릭스나 아마존은 시청자들이 이미 시청했거나 구입한 것을 기초로, 새로운 쇼나 제품을 보도록 유도했다. 이때 그들이 사용했던 ‘추천 엔진’은 큰 성과를 거두지 못했다. 최근 이 추천 엔진에 대한 두 차례의 평가가 있었다. 추천 알고리즘이 점점 더 정교해지고 있지만, 그들이 주장하는 것과는 달리, 예측의 정확도는 ‘보이지 않는 유령’처럼 잘 드러나지 않는다는 평가를 받았다. 아울러, 오히려 간단한 추천 방식이 복잡한 추천 방식과 큰 차이가 없다는 점을 발견하기도 했다. 또 다른 평가는 ‘모델의 복잡한 계산 능력이 향상됐다. 하지만 예측 능력에는 한계가 있는 것 같다’고 결론지었다.

소비자와 정책 입안자는 개인의 선택을 예측하고, 그 선택에 영향력을 행사하려는 마케터의 제한된 능력에 대해 약간 안도하는 것처럼 보인다. 하지만 그들은 경계심을 늦춰서는 안된다. 소비자는 자신의 선호도를 구축 및 선택하는 과정에서, 현재의 정보 환경에 점점 더 많이 의존하게 된다. 따라서 조작된 제품 리뷰와 제품 관련 정보를 특히 경계할 필요가 있다.

정리하자면, 마케터들이 우리 니즈를 정확히 파악하고 있다고 걱정할 필요는 없다. 심지어 그들이 우리를 조종해 어떤 행동을 취하도록 유도한다고 생각할 필요도 없다. 우리가 걱정해야 할 것은 선택을 위해 점점 더 의존하고 있는 정보들의 진정성이다. -DAVID GAL

※이 글의 필자 데이비드 갤은 시카고 일리노이대학의 마케팅 교수다. 그의 트위터 계정은 @realDavidGal이다.