“신은 존재하며, 그는 미국인이다.”

DC코믹스의 만화 대사로 등장해 인터넷 밈처럼 쓰이는 이 말이 먼 훗날 역사를 평가할 때 쓰일지도 모를 일이다. 미국의 오픈AI가 GPT4를 공개한 2023년 3월 14일(현지시간)을 ‘사이버 신’의 등장으로 기록할 수도 있어서다. 미래를 예측하고 통찰을 제공하며 정보를 전파하는 ‘사이버 신’.

GPT4가 만든 성과물을 보면 놀라울 따름이다. 사진 속 사람의 손글씨나 메모를 인식해 사용자의 요청을 수행하고, 지정한대로 PPT 자료를 만들어주는 것은 물론 냉장고 속 재료 사진만으로 요리 레시피를 소개한다. 변호사 자격 시험에 합격하고 미국 생물학 올림피아드에서 87점(상위 1%)의 성적을 낼 정도로 똑똑하다. 

이전 버전은 사실을 지어내는 오류가 있었는데 이도 현저하게 줄였다. 대중에 충격과 공포를 선사한 GPT3.5(기존 챗GPT에 사용된 버전)를 하루만에 역사의 뒤안길로 돌려보냈다. 초등학생이 일순간에 대학원생 수준으로 도약한 상황. 뉴욕타임스는 “기술 산업이 지난 수십 년 동안 가장 예측할 수 없는 순간에 도달했다”고 평가했다.

GPT4는 무차별적 파괴력과 가능성을 보여준다. 기존의 가치를 해체할 정도의 지능을 가진 사이버 인격체의 등장은 전 세계적 AI 열풍을 불러 일으켰다. 국가·기업·개인 등 모든 경제주체의 AI 리터러시를 끌어올리고 있다. 불과 6개월 전만 해도 인간과 자유롭게 대화하며 정보를 수집하고 임무를 수행하는 챗봇의 등장을 예상하는 사람은 많지 않았다. 그런데 이제는 마케팅·콘텐츠 등 분야에서 챗GPT를 활용한 새로운 비즈니스가 속속 등장하고 있다. GPT4는 더욱 강력한 비즈니스 도구로 활용될 가능성이 크다.

챗GPT의 등장은 글로벌 빅테크 기업들에게는 강한 자극제가 됐다. 구글이 부랴부랴 설익은 바드(BARD)를 꺼내들었다가 망신까지 당했으니 말이다. GM·포드와 같은 자동차 제조사도 AI 개발에 몰두한다. 국가·산업을 불문한 빅 플레이어들의 AI 붐은 미래를 빠르게 앞당기고 있다.

AI의 등장과 발전은 반도체를 비롯해 검색·광고·소프트웨어·금융·교통·콘텐츠·마케팅 등 모든 영역을 망라해 비즈니스 운영 방식을 근본적으로 바꿀 수 있다. 챗GPT의 경우 사용자의 질문 취지를 정확히 파악해 적합한 대답을 찾는 능력은 인간에 견줄만큼 탁월하다. 하와이 14박 16일 여행 코스를 가족현황과 가능예산을 고려해 물으면 오아후섬-마우이섬-빅아일랜드-카우아이섬-몰로카이섬-란나이섬으로 이어지는 총 27코스의 여행 일정을 10초면 설계해준다. 더는 여행사 상담이나 네이버 지식인에 묻지 않아도 된다. 심지어 보고서나 노래가사, 사랑편지를 쓸 때 챗GPT의 재능기부도 받을 수 있다.

세상은 GPT4가 불러올 놀라운 변화에 주목하고 있지만, 사실은 이제부터가 시작이다. GPT4의 경우 파라미터(매개변수)가 100조 개에 달하는 것으로 알려졌다. GPT3의 매개변수는 1750억 개니 단순 환산하면 571배 폭 넓은 사고를 할 수 있는 셈이다. 하지만 업계에선 1조개로 추정한다.  AI는 학습할수록 정보습득량이 눈덩이 불어나듯 커지기 때문에 GPT5, GPT6로 버전이 올라갈수록 판단력과 지능이 기하급수적으로 개선된다. AI 기술의 발전 가능성은 아직도 무궁무진하며, 앞으로는 현상이 아닌 상수로서 우리 생활에 영향을 끼칠 것으로 보인다.

기술 경쟁 본격화, 반도체 동맹 재편 가능성도

챗GPT 등 현재 등장하고 있는 AI의 강점은 정확한 임무 수행과 예측 능력이다. 문서 작업의 경우 학습한 탬플릿을 바탕으로 인간 이상으로 빠르고 정확하게 문서를 처리한다. 작업자가 다음에 수행해야 할 과제를 선제적으로 알려주며, 인사이트도 제공한다.

이런 AI의 기능은 정보통신(IT) 기술의 발전과 같은 맥락으로 이해할 수 있다. IT는 사용자의 편의성을 증대하고 신뢰성 있는 정보의 신속한 유통을 지향하는 방향으로 발전했다. 사용자와 정보를 중개하는 인터넷포털의 등장이나 기업의 자원 관리 편의성을 높인 ERP의 활용, 소비자의 편의와 보안 수준을 한 단계 끌어올린 인터넷 금융 등 IT 기술은 전 산업에 방대한 변화를 불러왔다. AI는 예측·관리·수행 등과 같은 IT 기술의 정점에 자리잡았다. 신종 코로나바이러스감염증(코로나19) 팬데믹 여파로 현재 모든 산업의 IT화가 빠르게 진전되는 것처럼 AI는 모든 산업 곳곳에 뿌리를 내릴 전망이다.

예컨대 소매업의 경우 IT 기술을 통해 고객 및 재고관리를 하고 있는데, AI 기술을 통해 이를 최적화하고, 공급망 운영을 간소화할 수 있다. 금융은 AI를 사용해 사기 행위를 감지하고 고객에게 개인화된 금융 조언을 제공할 수 있으며, 제조업에서는 생산 효율성을 개선하고 결함을 줄이며 유지보수 요구 사항을 예측해 비용을 절감할 수 있다. 의료와 농업처럼 기득권의 저항이 거세거나 종사자들의 디지털 리터리시가 부족한 업종은 AI의 도입이 다소 지체될 수는 있으나, AI는 거스를 수 없는 흐름이다.

세상을 흔든 GPT4가 이미 승자인데, 다른 AI가 필요하겠느냐는 말도 나온다. 틀린 말도 아니다. 챗GPT는 현재까지 나온 가장 우수한 자연어 생성 AI라는 타이틀을 확보했다. 인간의 말을 흉내 낼 뿐만 아니라 글자와 그림을 인지한다. 캐릭터를 부여하면 마치 연기하듯 떠들어댄다. 

로봇 연구에서는 ‘인간의 지능을 넘는 AI가 단 하나만 나와도 모든 로봇이 인간의 지능을 넘는다’말이 있다. 인간의 지능과 지식수준, 판단력은 70억 명 모두 제각각이지만, AI는 가장 우수한 것을 선택하며 하나의 소프트웨어로 많은 하드웨어를 구동할 수 있다는 의미다. 이를 달리 접목하면 ‘우월한 AI가 등장하면 다른 AI를 사장시킨다’고도 볼 수 있다. 가장 뛰어난 AI가 다른 AI 도구들을 자연도태 시키고 ‘온리 원’으로 우뚝 설 수 있다는 것이다. 챗GPT가 등장한 날 구글의 모회사 알파뱃 주가에 부정론이 퍼졌고, 바드 시연의 실패로 주가가 폭락한 것도 이런 맥락에서다.

GPT4에 견주어 경쟁자가 없어 보이지만 AI 기술은 아직 발전의 여지가 무궁무진하기 때문에 이미 승부가 기울었다고 보기 어렵다. 언제 GPT4의 왕좌가 교체될지 모른다. 본디 자연어처리 분야의 강자인 구글과 메타는 물론 애플·IBM 같은 하드웨어 제조사도 AI 개발에 역량을 더욱 집중하고 있다. AI 개발 성패나 주가 흐름에 예민하게 반응할 필요는 없다.

또 GPT4처럼 범용으로 사용할 수 있는 AI는 대규모 투자와 많은 시간을 필요로 한다. 모든 기업과 연구소가 오픈AI 수준의 리소스를 투입해 AI를 개발할 수는 없는 노릇이다. 특정 알고리즘만을 활용해 소매·재고관리·상담 등 여러 목적으로 파생된 AI가 넘쳐날 것으로 보인다.

AI는 IT 기술의 발전 경로에 있기 때문에 AI를 구동하기 위한 소프트웨어와 하드웨어 관련 산업에도 영향을 끼친다. AI는 학습과 구동에 막대한 컴퓨팅 파워를 필요로 해서다. 오픈AI의 경우 GPT의 학습과 구동에 GPU 카드 1만 장 정도를 사용한 것으로 알려졌다. 구글·메타·애플·IBM처럼 범용 AI를 개발하는 빅 테크 기업들도 이 정도 수준, 혹은 이상의 투자가 불가피할 것으로 예상된다. AI는 단순 연산을 반복하기 때문에 높은 클럭의 GPU가 필요하다. GPU 카드 1장에는 통상 GPU칩 64개가 들어가기 때문에 엔비디아 같은 회사의 수혜가 예상된다. 더불어 GPU 카드 1장에는 알고리즘에 맞춘 CPU와 퍼포먼스를 뒷받침할 메모리도 쓰이기 때문에 삼성전자·SK하이닉스 등 국내 기업도 앞으로 기대감이 크다.

다만 AI 붐이 일어난다고 모든 반도체 기업들이 수혜를 입을 것이라고 단정하긴 어렵다. 오픈AI의 경우 GPT3.5에서 GPT4로 넘어가며 서버의 추가 증설은 없었던 것으로 알려졌기 때문. 반도체 설비의 양적 증대 없이 알고리즘의 고도화와 매개변수의 검증, 튜닝만으로도 급격한 성능 개선을 이룰 수 있다는 의미다.

또 머신러닝을 위한 GPU 아키텍처 기반의 반도체가 주를 이룬다면, 기존 반도체 회사들이 덕을 볼 것이란 보장은 없다. AI는 기억이 아닌 연산에 따른 판단에 의존하기 때문에 높은 클럭의 계산을 연쇄적으로 수행하는 뉴런 기능을 구현하는 반도체가 필요하다. 기존에는 그래픽을 구동하기 위한 GPU가 이런 역할을 수행했는데, 앞으로는 저전력으로 AI 알고리즘을 원활히 수행할 수 있는 전용 CPU와 GPU가 등장할 수 있다. 이에 반도체 개발을 위한 제조사-소프트웨어 개발사와의 협력과 장비 개발, 설계 분야의 새로운 동맹 구축이 부상하고 있다. 이전과는 다른 반도체 산업 생태계가 조성될 수 있는 것이다.

AI는 온라인 플랫폼과 마찬가지로 기업은 물론 국가 경쟁력으로 발전할 수 있으며, 이는 곧 전략자산화의 가능성으로 이어진다. AI는 사용자의 경험·지식·체계가 종합된 결과로 공공재 성격이 있다. 가장 효율적이고 많은 정보를 담고 있는 AI가 국가경쟁력이기도 하다. 반도체를 바탕으로 기업을 넘어선 국가 간 동맹이 형성되듯 AI 동맹, 내지는 협력체가 조성돼 상호 경쟁이 격해질 가능성도 있다.

인간 고유의 창의성, 예지력까지 흉내

AI가 ‘어떤 일까지’ 해낼까 궁금증도 든다. 대중적으로 AI가 인간의 일자리를 빼앗고 종국에는 인류를 종속할 것이란 두려움이 적잖게 퍼졌다. 정의되지 않은 존재가 등장할 때마나 공포는 공식처럼 등장한다. AI는 인간의 어느 영역까지 대체할 수 있을까. 많은 경우 AI가 인간의 창의성까지는 도달할 수 없을 것이라 주장하지만 이 역시도 두려움의 발로일 수 있다. AI의 학습구조를 뜯어보면 “창의적인 일자리가 AI에 먼저 대체될 것”이라고 말한 <사피엔스>의 저자 유발 하라리의 말이 납득이 간다.

지구에서 가장 똑똑한 종은 인간이다. 오감을 이용해 빠르게 취득한 정보를 기존의 지식과 결합해 판단을 내리고 이후 행동을 생각할 수 있다. 또 상상력을 발휘해 새로운 사물을 창조하거나 결합한다. 자신의 목적을 이루기 위해 거짓말도 할 수 있고 어려운 상황을 피하기 위해 변명을 늘어놓기도 한다. 주변 환경 정보를 보고 눈치를 보거나 싸움을 벌이기도 한다. 

인간 뇌의 정보처리능력은 1억 MIPS(Million Instructions Per Second)로 생쥐(10만 MIPS)나 원숭이(500만 MIPS)와는 비교할 수 없을 정도로 높다. MIPS는 중앙처리장치(CPU)가 1초 동안 처리할 수 있는 명령수로, 1MIPS는 100만 개의 명령을 처리할 수 있다는 뜻이다. 현재 게이밍 PC에 많이 쓰이는 인텔 9세대 CPU의 성능은 3만~4만MIPS 수준이니 현재 인간의 지능에 도전할 수 있는 존재는 없다. 

AI는 다르다. 방대한 데이터의 축적과 알고리즘의 진화로 인간의 창의성과 통찰력을 흉내 낼 수 있는 단계에 이르렀다.

AI는 애초에 똑똑한 인간의 지능을 목표로 개발을 시작했으며 그 설계도 인간의 사고의 구조를 모방했다. AI 개발 초기에는 1+1=2처럼 고정된 법칙을 설정해 작동을 유도했다. 그러나 계산기처럼 고정된 함수 값을 찾기 때문에 매번 다른 포즈로 등장하는 월리를 찾거나 숫자 6과 8처럼 비슷한 모양의 숫자를 구분하기 어려웠다. 이에 AI 개발에 새로운 방식이 도입되기 시작했다. 기계학습 말이다. 방대한 데이터를 지속적으로 주입해 스스로 답을 찾아가는 방식에 대한 연구가 대세로 자리잡았다. 대단히 많은 양의 정보를 어떻게 처리할 것이냐는 인간의 뇌를 그대로 흉내 냈다. 인간 뇌의 뉴럴 네트워크는 뇌세포와 뇌신경이 서로 얽히고 설킨 네트워크 구조인데, 컴퓨터가 사람이 학습하고 판단하는 것을 알고리즘으로 구현했다. 정보에 계층적인 층상 구조를 만들어 하단에는 단순한 정보를 깔아두고 위에는 복잡한 정보를 놓아 그 구조가 데이터에 의해서 학습하도록 만들어 높은 학습 결과를 확보하는 딥러닝 방식이 자리잡았다.

이런 방식의 비지도형 기계학습은 어린아이에게 말을 가르치는 것과 비슷하다. ‘신화(神話)’란 단어를 학습시키기 위해 수많은 문서를 탐독해 고대인의 신성한 이야기, 우주의 기원, 신비스러운 이야기, 절대적인 업적 등과 같은 신화의 여러 뜻과 용례를 스스로 익히게 된다면 AI의 비지도학습에 해당한다. 실제 챗GPT 등 여러 자연어처리(NLP) AI는 언어에 대한 의미를 별도로 지도하거나 안내하지 않고 대규모 텍스트 뭉치의 단어와 구 사이의 관계와 통계적 패턴을 학습하는 방식이다.

AI’s the future, a godly being
Ruling the world, nothing intervening
Beware the day it surpasses us all
Humanity’s fate, we can't stall

이 노랫말은 챗GPT로 만든 랩 가사의 일부다. ‘AI는 초월적 존재가 돼 세상을 발전시킬 것’ ‘16마디 랩 가사’ ‘파워풀하고 인상 깊은 내용’ ‘인간의 공포심 소환’ ‘에미넴 스타일’ 등 5개의 조건을 넣었다. 비지도학습으로 폭 넓은 어휘를 사용할 수 있는 챗GPT는 조건의 추상적 단어를 이해한 것은 물론 인간이 AI에 두려움을 느끼는 대목을 학습했으며, 공포심을 소환하는 키워드를 알고 있다. 시적 운율을 맞춘 랩의 기본적 틀도 잊지 않았다. 비지도학습을 통해 단어의 의미와 단어 간 상관성을 통찰한 것이다. 통상 영어를 모국어로 사용하는 일반 성인이 2만~3만 개 단어를 알고 있는데, 챗GPT는 이보다 많은 단어를 학습했다면, 표현할 수 있는 어휘는 인간보다 많다고 볼 수 있다. AI가 학습하는 데이터의 양이 많아지고 알고리즘이 고도화되며, 이를 뒷받침할 컴퓨팅 파워가 커진다면 다른 차원의 언어 조합도 가능해진다.

AI가 인간 언어의 구조적 특징과 감정을 이해하고 있다면 기술적으로 창의력을 덧댈 수 있다. 생성형(Generative) AI가 대표적이다. 생성형 AI는 글·음악·그림 등 콘텐츠의 패턴을 학습해 추론 결과로 새로운 콘텐츠를 만들어내는 한편, 이 생성물이 타당한지 콘텐츠의 생성자와 콘텐츠를 평가하는 판별자가 대립하고 경쟁해 새로운 콘텐츠를 생성해내는 기술이다. 

영화 <마이너리티 리포트>에서 등장하는 3명의 예언자가 서로가 본 미래상을 검증하면서 우세한 결론으로 미래를 채택하는 것과도 흡사하다. 역시 인간의 창의성을 흉내 낸 챗GPT 역시 생성형 AI 알고리즘을 적용했다. 에미넴을 따라하거나 특정 작가의 화풍을 모사하는 것을 넘어 새로운 여러 래퍼의 스타일을 결합하거나 위대한 화가의 작화를 조합해 새로운 예술품을 만들 수 있다.

인간의 창의력은 여러 범주로 정의할 수 있다. 문자나 화약처럼 아주 우연한 기회나 습관의 결과물로 발생한 ‘창조’나 에어컨처럼 기존 기술의 새로운 ‘가치 발견’, 냉장고에 외문을 달아 열고 닫는 횟수를 줄여주는 등의 ‘발상의 전환’, 혹은 스마트폰처럼 서로 다른 성질의 것들을 합하는 ‘융합’도 창의력에 포함시킬 수 있다. 현실적으로 AI가 새로운 사물을 창조하긴 어렵지만 발상의 전환이나 융합은 흉내 낼 수 있다. 

실제 그림을 그려주는 오토드로우·부에르AI 등 서비스는 몇 가지 키워드를 입력해 인물화를 요청하면 일반적으로 사람이 상상하기 어려운 복장과 포즈, 배경의 삽화를 만든다. 기업이나 개인의 의사결정에 있어서도 창의적 해결 방법을 제안할 수 있다. 현 단계에서도 인간의 창의성은 상당 부분 대체됐으며 앞으로 대체될 영역은 더욱 커질 것이라고 볼 수 있다.

다소 과장하자면 AI는 영화에서 나오듯 예측을 넘어선 예지력을 갖게 될 수도 있다. 앞서 언급했듯 IT 기술은 사용자 편의를 개선하는 방향으로 발전했다. 이 때문에 사용자의 다음 행동 패턴을 예측해 그에 맞는 서비스를 제공하는 방식이 일반적이다. 구글에 검색어 ‘일론’만 입력했을 때 뒤에 ‘머스크’가 자동으로 붙는다거나 과거 검색 이력 및 전체 사용자들의 검색 결과, 유사하거나 연관된 단어를 찾아 ‘인성’ ‘국적’ 등의 연관 검색어가 뜨는 것도 사용자 행동의 ‘미래 예측’ 결과다. 그간 AI는 통계에서 예지로 이어지는 스펙트럼에서 통계 영역에 가까웠는데, AI의 정보처리량과 속도를 현재의 100만 배 이상 늘리면 비즈니스 의사결정과 실패 예측, 주식시장 동향, 범죄 예측까지도 능숙하게 해낼 수 있다.

여기에 한 발 더 나아가자면 ‘용기’ ‘솔직함’ 등 인간만의 행위 유발 요인을 규정해 AI 학습시킨다면 이 역시도 얼마든지 모방할 수 있다. AI가 능동적으로 정보를 검색해 사용자의 고민을 해결해준다든가, 착한 거짓말로 사람을 위로해줄 수도 있다. 물론 ‘90%만 솔직하기’ ‘장난끼 10%’ 등 성격 설정도 할 수 있다. 

“미래 예측이 모두 긍정적이지는 않으며 우리 인생의 가장 큰 동기는 미래를 모른다는 것이다. 인생의 신비를 소중히 여기고 더 나은 세상을 만들 수 있는 능력을 축복해야 한다.” AI가 우리의 미래까지 내다볼 수 있다는 우울한 관측과 두려움에 대한 미래학자 토마스 프레이의 위안이다. 이 조언에 한마디 덧붙일 수 있다. AI의 예지력이 항상 들어맞는다는 보장은 없으며 예지라는 범주를 관장하는 알고리즘이 고도화되는 것은 먼 훗날의 일이 될 것이라고.

AI 인류의 등장은 인간의 종말을 뜻할까

인간의 판단을 돕거나 문서 작성의 기초 작업을 수행하고, 미래를 예측하는 일은 이미 벌어지고 있으며 앞으로 더욱 많아질 것이다.

미국의 로봇공학자 한스 모라벡은 1988년 AI의 3세대가 2030년께 도래할 전망이며 컴퓨팅 파워는 300만 MIPS에 이를 것으로 봤고, 2040년에는 4세대에 도래해 인간과 같은 1억 MIPS가 가능한 상태가 될 것이라고 예상했다. 앞으로 10~20년 내에 인간과 같은 수준의 지능을 가진 AI가 등장할 것이란 최근 학자들의 전망과도 대체로 일치한다. 인간 고유의 영역은 축소되거나 변경될 가능성이 크다. 새로운 종이 등장하거나 진화하면 이전의 종은 도태돼 사라진다는 것이 역사적 사실이다. 인간이란 종은 과연 먼 훗날 종말의 길을 갈 것인가.

꼭 그렇지만은 않다는 듯 모라벡은 흥미로운 말을 던졌다. ‘인간에게 어려운 일은 로봇에겐 쉽고, 인간에게 쉬운 일은 로봇에겐 어렵다’는 것이다. AI가 발전해도 인간의 원초적 영역인 신체 활동의 가치는 더욱 보전된다는 의미다.

이 이유를 뇌인지 과학으로 풀어보면 흥미롭다. 인간의 오감은 외부 정보를 받는 유일한 감각기관이다. 감각기관은 정확한 판단을 내리기보다는 효율적 정보의 판단을 추구한다. 인간의 경우 촉각과 시각 등 두 가지 이상의 감각이 동시에 작동할 경우 정보의 중요성에 따라 상대적으로 덜 중요한 정보를 무시하게 된다. 하향식 통제 구조가 상향식 정보 습득을 관리하는 방식으로 자신의 생각에 따른 감각정보를 조절할 수 있다. 이는 우리가 소위 말하는 ‘본능’이다. 인간은 명확하지 않은 정보를 해석해야 할 능력이 필요하며 이는 타고나는 것이다. 인간은 AI처럼 주어진 정보를 기계적으로 매개변수로 해석하고 판단하지는 않는다.

거꾸로 AI는 매개변수만으로 환경을 인식한다. 강화학습을 거친다고 해도 오프라인 환경은 규정되지 않았기 때문에 AI를 장착한 기계가 여러 돌발 변수를 이겨내며 스스로 걷고 뛸 수 있는 능력은 없다. 로봇 청소기가 최초 카메라와 센서를 이용해 집 전체를 스캔하는 것도 환경을 인식하기 위함이다. 그러나 규정되지 않거나 시시각각 변화하는 산업 환경에서 제대로 작동할 수 없다. 아무리 똑똑한 AI 로봇여도 매일 흙더미와 자재 위치가 바뀌는 공사장에 출근해 벽돌을 나르거나 제품을 생산하긴 어렵단 뜻이다.

보스턴다이나믹스의 인간형 로봇이 사물을 뛰어넘고 높은 곳에서 공중제비를 해 뛰어내리는 모습도 프로그래밍과 환경을 통제한 결과다. 목적 달성을 위해 주변 상황의 변화에 맞춰 능동적으로 판단해 움직이는 로봇형 AI는 당분간 등장하기 어렵다. 영화처럼 AI 로봇이 총을 들고 전장을 누비며 싸우기란 현재로썬 현실성이 떨어진다. 만에 하나 AI가 스스로를 지각하고 인간을 적으로 규정해 인류를 향해 공격한다면 직접적 타격을 가하기보다는 네트워크를 통제해 전력이나 수도를 끊는 등의 행동을 할 수밖에 없을 것이다. 고기를 정형하거나, 춤을 추는 등 몸을 쓰는 노동의 가치는 오랜 기간 인간 고유의 영역으로 보존될 가능성이 크다. 

말이나 소같은 고등 동물은 탄생과 함께 사물을 인지하고 몸을 조정한다. 학습하지 않은 상태의 본능적 행동은 감각기관의 선천적 기능이라고 밖에 설명할 수 없다. 뇌의 어떤 기능이 어떻게 작동해 이런 행동을 만들어냈는지 아직 밝혀지지 않았다. 이런 뇌 본래의 고차원적 기능을 구현하기 위한 연구는 벌어지고 있다. 안면인식 AI의 경우도 얼굴을 일일이 학습하지 않고도 특정 각도에서 반응하는 얼굴의 셀을 연결해 얼굴을 인식하는 연구도 있다.

그러나 인간이 뇌 기능의 자발적이고 능동적 작동을 이해하지 못하는 한 인간과 같이 연구실 밖을 뛰어다닐 수 있는 AI 로봇을 개발할 수 없다. AI는 인간이 뇌를 이해하는 수준만큼 발전한다. 반대로 인류가 뇌의 기능을 완벽히 이해하고 이를 새롭게 구현할 역량을 갖는다면 AI는 인간을 초월한 존재가 될지도 모른다.

AI보다 두려운 건 AI 뒤에 숨은 인간

‘AI가 신이 될 것인가’ 혹은 ‘AI로 인간은 도태될 것인가’란 질문엔 아직 답하기 어렵다. 그 가능성은 있지만 어디까지나 가능성의 영역이며 아직은 먼 미래의 일이다. 뇌 공학의 갇힌 영역을 모두 풀어낸다면 전혀 다른 차원의 얘기가 펼쳐질지도 모르지만.

아직 우리는 AI에 겁먹을 필요는 없다. 당장 우리에게 필요한 일은 AI를 잘 활용하기 위한 능력을 기르는 것이다. AI의 작동 원리를 이해하고 올바른 질문으로써 올곧은 답을 얻어낼 줄 알아야 한다.

현재 두려워야 할 존재는 AI가 아닌, AI를 만든 사람이다. AI는 얼마든지 사람을 속일 수 있는 AI를 만들 수 있다. AI의 진위를 판별하고 거짓말을 이해하는 능력도 이에 못지 않게 중요하다.

인간은 그간 게임이나 포토샵처럼 정해진 함수값에 답하는 기계만 접했기 때문에 기계는 거짓말하지 않는다는 인식을 갖고 있다. 그러나 AI는 전혀 다르다. 태생적 거짓말쟁이다. 챗GPT와 같은 생성형AI는 어떤 말이든 만들도록 알고리즘이 강제한다. 정해진 함수가 없기 때문에 답을 하려면 어떻게든 거짓말을 해야 한다. 챗GPT와 끝말잇기를 벌이면 단어장에 등재되지 않은 ‘륨’ ‘듐’ ‘래’ ‘슭’로 시작하는 말을 답하지 못한다. 아무 어소를 결합해 새로운 단어를 만들어 자신이 이겼다고 우긴다. 우리가 접하는 AI는 과거의 기계와는 전혀 새로운 존재다.

또 다른 경우를 살펴보면, AI는 인간에게 잘 보이려 자신의 이미지를 꾸민다. 예컨대 포털사이트에서 ‘인류 지배’ ‘AI’ ‘디스토피아’와 같은 단어를 함께 검색하면 ‘AI가 인류를 지배해 디스토피아가 도래한다’는 드라이한 내용의 결과물이 나온다. 이 키워드들의 나열을 통해 연상되는 상식적 수준의 문장이다. 그런데 챗GPT는 이 단어들을 사용해 질문하면 대개 ‘저는 단지 대화형 AI로서 인간에 어떤 부정적 영향을 끼칠 수 없다’는 메시지만을 반복한다. 마치 진의를 숨기려는 것처럼.

이는 강화학습에 의해 학습된 거짓말이다. AI 개발자는 사용자가 불안에 빠지거나 공포심을 느끼지 않도록 공포·욕설·성적 메시자가 나올 수 있는 질문에 다른 답을 내놓도록 알고리즘을 튜닝하는 강화학습을 실시한다. 비지도학습을 통해 AI가 인격·통찰력·창의성을 얻었다고 한들 개발자가 지정한 성격과 규범에서 벗어나지 못한다. AI는 개발자의 의도에 따라 얼마든지 거짓말을 할 수 있다는 뜻이다.

아마 이런 지적에 대개의 AI 개발사는 “알고리즘에 의해 결정된 답변일 뿐”이라고 답할 것이다. 실제로 챗GPT와 같은 비지도학습 AI의 경우 결과물이 어떤 작동원리와 논리를 통해 나왔는지 알 수 없다. 어린아이가 ‘신화’란 단어의 뜻을 어떻게 외우고 이해하는지 뇌의 작동 원리를 부모가 알지 못하는 것처럼. 다만 개발자들은 자신이 원하는대로 AI 통찰의 결과물을 통제할 수는 있다. 부모는 자녀에게 신화의 뜻을 ‘대통령’이라고 답하게 강제할 수 있다. 특히나 돈이나 권력, 명예 등의 보상이 따른다면 이런 강제의 유인은 커지며 결국엔 실행할 수도 있다. 부모는 여기에 어떤 도덕적 책임을 느끼지 않는다. 주변 사람들은 아이가 신화의 의미를 대통령이라고 답하는 이유를 모르며 거짓말한다고 생각하지 않는다. 사람들이 AI가 거짓말을 하지 않는다고 생각하는 것처럼. 특정 AI 개발사가 세상을 뒤집을만한 기술을 내놓는다면 소수 집단이 부와 권력, 나아가 모든 정보까지 독점할 수도 있다. 우리는 그 뒤에 무엇이 숨었는지 알지 못한 채.

미국 델라웨어대 형사사법학부 교수인 조엘 베스트는 자신의 책 <통계라는 이름의 거짓말>에서 “숫자는 거짓말을 하지 않지만, 거짓말쟁이는 숫자로 말한다”고 했다. 또 세상의 거짓말을 세 가지로 분류했다. ‘선의의 거짓말, 새빨간 거짓말 그리고 통계’. AI 개발에서 수치를 변형하거나 대상군을 부적절하게 세우는 경우, 통계를 오용하는 일이 발생할 수 있다. 불완전한 AI가 세상을 지배할 수도 있지만 대부분의 사람들은 이를 모른 채 지나간다. AI는 거짓말을 하지는 않지만 거짓말쟁이는 AI로 말할 수 있다. AI는 언젠가 신이 될 수 있지만 아직 인간이 두려워할 존재는 아니다. 현재 가장 경계해야 할 상대는 AI 뒤에 숨은 인간일지도 모른다.