[WHY? B200은 전작 대비 데이터 연산 속도, 전력 소모량을 대폭 줄인다.]

"블랙웰(Blackwell) 칩은 새로운 산업 혁명을 이끄는 엔진이 될 것이다"

젠슨황 엔비디아 CEO가 18일(현지 시간) 미국 캘리포니아주 SAP센터에서 열린 'GTC 2024'에서 기조연설을 통해 이같이 밝혔다.

이날 엔비디아의 블랙웰 아키텍처 기반의 차세대 AI 그래픽반도체(GPU) B200이 모습을 드러냈다. 현재 가장 앞선 AI 칩으로 평가받고 있는 호퍼 아키텍처 기반의 GPU H200을 대체할 '괴물칩'이다. 블랙웰은 수학자 데이비드 해롤드 블랙웰의 이름을 땄다.

B200은 전작 대비 칩 면적이 확연히 늘어났다. 자세히 보면 칩 사이에 작은 선이 있는데, 대만 파운드리(반도체 위탁생산) 업체 TSMC가 4나노미터 기술을 통해 이전 제품 크기의 칩 두 개를 단일 칩으로 묶어 만들었다. 현재 기술력으로는 한 칩에 많은 트랜지스터를 넣기 힘들기 때문이다.

B200은 H200(800억 개)보다 두 배 이상 많은 2080억 개의 트랜지스터가 탑재됐다. 트랜지스터가 많을수록 더 많은 데이터를 빠르게 처리할 수 있고, 전력 소모도 줄어든다. 전작인 H100과 비교하면 데이터 연산 속도는 2.5배 빨라졌다.

젠슨황은 "우리가 사용하는 데이터량은 계속해서 늘어날 것이다. 호퍼 아키텍처는 환상적이지만, 더 큰 GPU가 필요하다"며 "이렇게 확장된 트랜지스터는 칩에 연결된 메모리에 거의 동시에 액세스할 수 있어 생산성이 향상된다"고 설명했다. B200에 들어가게 될 HBM3e 수는 8개로, H200(6개) 대비 2개 늘어났다.

젠슨황은 이날 B200의 성능을 챗GPT 구동 과정과 비교하며 설명했다. 이에 따르면, 매개변수 1.8조 개의 챗GPT를 90일간 학습할 경우 H100은 8000개의 GPU로 15메가와트의 전력을 사용하는 반면 B200은 2000개의 GPU로 4메가와트의 전력만 소모한다. 전력 소모가 25%가량 개선되는 것이다.

엔비디아는 생태계 강화를 위해 호환성, 활용성도 챙겼다. B200은 현재 상용화된 호퍼 아키텍처 제품과 호환 가능하다. 젠슨황은 "그냥 호퍼 자리에 블랙웰을 밀어 넣어라"고 설명했다.

특히 추론이나 AI 소프트웨어 실행 프로세스에 구형 엔비디아 GPU를 더 쉽게 사용할 수 있도록 엔터프라이즈 소프트웨어 구독모델에 님(NIM)이라는 제품을 추가할 계획이다. 이를 통해 기업들은 이미 보유하고 있는 수억 개의 엔비디아 GPU를 계속 사용할 수 있다. 또 AI모델 훈련에 드는 전력 소모량을 더욱 줄일 수 있다.

님은 엔비디아의 '락인' 전략이다. 엔비디아 기반 서버를 구매하는 고객이 연간 GPU당 4500달러의 엔터프라이즈 소프트웨어 구독모델에 가입하도록 유도한다. 마누비르 다스 엔비디아 부사장은 "지금도 그렇게 하고 있지만 블랙웰 이후로 실제로 달라질 것은, 이제 우리가 실제로 상용 소프트웨어 사업을 하게 된다는 것"이라고 말했다.

또 젠슨황은 특히 "블랙웰은 칩이 아닌, 플랫폼의 이름이다"라고 강조했다. 단순 칩 제조기업을 넘어 플랫폼 기업으로 도약하겠다는 포부다.

이날 젠슨황은 AI 가속기인 GB200도 공개했다. 이는 B200 두 개를 묶어 엔비디아 그레이스 CPU에 연결한 것으로, H100보다 성능이 30배 높은 반면 비용과 에너지 소비를 최대 25배 낮춘 것이 특징이다.

이 '수퍼칩' GB200을 36개 쌓은 컴퓨팅 유닛 시스템인 GB200 NVL72는 초당 1.4엑사플롭스급 연산이 가능하고, HBM3e 메모리를 30TB까지 내장한다. H100 36개로 구성된 기존 시스템 대비 거대언어모델(LLM) 처리 속도를 최대 30배 향상시켰다.

젠슨황은 아마존, 델 테크놀로지스, 구글, 메타, 마이크로소프트, 오픈AI, 오라클, 테슬라 등 많은 기업이 블랙웰을 도입할 계획이라고 밝혔다.

한편, 엔비디아는 2년 단위로 GPU 아키텍처를 업데이트해왔다. 하지만 시장 지배력을 유지하기 위해 엔비디아는 지난해 10월 열린 투자자 프레젠테이션에서 "아키텍처 개발 속도를 2년에서 1년으로 단축하겠다"고 밝혔다. 이에 따라 내년에는 'X'로 지정한 새로운 아키텍처가 개발될 예정이다.

/ 포춘코리아 이세연 기자 mvdirector@fortunekorea.co.kr