상승 전환추적 후보Codex 검토Blackwell의 시스템 효율 주장이 고객의 구축 비용과 전력 제약을 다시 검토하게 하지만, 글은 전망과 비교 자료를 함께 제시한 단계다.이익 계산의 변화기존 자산의 재발견달라진 점글은 GB200 NVL72가 H100 대비 GPT-4 훈련에 4배 적은 GPU와 3.75배 적은 전력을 쓴다고 제시하고, 높은 칩 가격에도 성능·전력 효율 때문에 고객이 Blackwell을 원한다고 해석한다.다르게 볼 이유Codex 검토로는 전력과 데이터센터 용량이 제약인 조건에서 시스템 효율이 실제 고객의 구축 경제성을 바꿀 수 있어 엔비디아의 경쟁력을 다시 검토할 이유가 된다. 이는 원문 작성자의 해석과 비교 자료에 근거한 watch 평가다.남은 확인현재 원문은 실제 고객별 도입 규모와 이후 수요 실현을 확인하지 않는다.
원문을 바탕으로 한 Codex의 독립 판단입니다. 출처가 전한 사실·해석과 구분해 읽을 수 있습니다.
분석 대상 · Blackwell 시스템
이전에는
이전 상태의 비교 근거가 이 분석에 정리되지 않았습니다.
새롭게 달라진 점
글은 GB200 NVL72가 H100 대비 GPT-4 훈련에 4배 적은 GPU와 3.75배 적은 전력을 쓴다고 제시하고, 높은 칩 가격에도 성능·전력 효율 때문에 고객이 Blackwell을 원한다고 해석한다.
원문 근거
4배 더 적은 칩, 3.75배 더 적은 전력사용량으로 GPT-4를 훈련시킬 수 있게 바뀐 것입니다. 칩당 가격은 60~70% 높아졌지만 성능이 평균 3~4배씩 좋아졌기 때문에 고객 입장에서는 구축해야 할 컴퓨팅 규모가 같다는 전제 하에 GB200 NVL72를 더 많이 빨리 가동할 수록 돈을 버는절약하는 구조가 되어 있습니다. 또한 데이터센터 내에 AI 가속기가 감당 가능할 수준의 전력캐파가 부족하고, 끌어다 쓸 전력이 부족하다는 말이 나오는 상황에서 기업 입장으로는 비싸더라도 가장 성능이 뛰어난 GPU를 구매하게 됩니다. 가장 성능이 뛰어날 수록 가장 TCO도 좋고, 가장 에너지 효율도 좋으며, 가장 ROI도 높다는 의미이므로 모두가 Blackwell을 가장 많이 가장 먼저 받고싶어 합니다.
다르게 볼 이유
Codex 검토로는 전력과 데이터센터 용량이 제약인 조건에서 시스템 효율이 실제 고객의 구축 경제성을 바꿀 수 있어 엔비디아의 경쟁력을 다시 검토할 이유가 된다. 이는 원문 작성자의 해석과 비교 자료에 근거한 watch 평가다.
원문 근거
4배 더 적은 칩, 3.75배 더 적은 전력사용량으로 GPT-4를 훈련시킬 수 있게 바뀐 것입니다. 칩당 가격은 60~70% 높아졌지만 성능이 평균 3~4배씩 좋아졌기 때문에 고객 입장에서는 구축해야 할 컴퓨팅 규모가 같다는 전제 하에 GB200 NVL72를 더 많이 빨리 가동할 수록 돈을 버는절약하는 구조가 되어 있습니다. 또한 데이터센터 내에 AI 가속기가 감당 가능할 수준의 전력캐파가 부족하고, 끌어다 쓸 전력이 부족하다는 말이 나오는 상황에서 기업 입장으로는 비싸더라도 가장 성능이 뛰어난 GPU를 구매하게 됩니다. 가장 성능이 뛰어날 수록 가장 TCO도 좋고, 가장 에너지 효율도 좋으며, 가장 ROI도 높다는 의미이므로 모두가 Blackwell을 가장 많이 가장 먼저 받고싶어 합니다.
판단을 바꿀 조건
후속 실제 구축에서 제시된 성능·전력 효율이 재현되지 않거나 고객의 경제성이 개선되지 않는 확인이 나오면 이 긍정적 재검토는 약화된다.
원문 근거
4배 더 적은 칩, 3.75배 더 적은 전력사용량으로 GPT-4를 훈련시킬 수 있게 바뀐 것입니다. 칩당 가격은 60~70% 높아졌지만 성능이 평균 3~4배씩 좋아졌기 때문에 고객 입장에서는 구축해야 할 컴퓨팅 규모가 같다는 전제 하에 GB200 NVL72를 더 많이 빨리 가동할 수록 돈을 버는절약하는 구조가 되어 있습니다. 또한 데이터센터 내에 AI 가속기가 감당 가능할 수준의 전력캐파가 부족하고, 끌어다 쓸 전력이 부족하다는 말이 나오는 상황에서 기업 입장으로는 비싸더라도 가장 성능이 뛰어난 GPU를 구매하게 됩니다. 가장 성능이 뛰어날 수록 가장 TCO도 좋고, 가장 에너지 효율도 좋으며, 가장 ROI도 높다는 의미이므로 모두가 Blackwell을 가장 많이 가장 먼저 받고싶어 합니다.
판단을 뒷받침하는 근거
- 원문은 H100 8,000개·15MW와 GB200 NVL72 2,000개·4MW의 GPT-4 훈련 비교 및 칩당 가격 60~70% 상승을 함께 제시했다.
원문 근거
4배 더 적은 칩, 3.75배 더 적은 전력사용량으로 GPT-4를 훈련시킬 수 있게 바뀐 것입니다. 칩당 가격은 60~70% 높아졌지만 성능이 평균 3~4배씩 좋아졌기 때문에 고객 입장에서는 구축해야 할 컴퓨팅 규모가 같다는 전제 하에 GB200 NVL72를 더 많이 빨리 가동할 수록 돈을 버는절약하는 구조가 되어 있습니다. 또한 데이터센터 내에 AI 가속기가 감당 가능할 수준의 전력캐파가 부족하고, 끌어다 쓸 전력이 부족하다는 말이 나오는 상황에서 기업 입장으로는 비싸더라도 가장 성능이 뛰어난 GPU를 구매하게 됩니다. 가장 성능이 뛰어날 수록 가장 TCO도 좋고, 가장 에너지 효율도 좋으며, 가장 ROI도 높다는 의미이므로 모두가 Blackwell을 가장 많이 가장 먼저 받고싶어 합니다.
다음 확인 지점
- 이 효율 비교가 실제 고객의 구축·가동 선택과 지속적인 수요로 이어지는지는 현재 원문 밖의 확인 항목이다.
원문 근거
4배 더 적은 칩, 3.75배 더 적은 전력사용량으로 GPT-4를 훈련시킬 수 있게 바뀐 것입니다. 칩당 가격은 60~70% 높아졌지만 성능이 평균 3~4배씩 좋아졌기 때문에 고객 입장에서는 구축해야 할 컴퓨팅 규모가 같다는 전제 하에 GB200 NVL72를 더 많이 빨리 가동할 수록 돈을 버는절약하는 구조가 되어 있습니다. 또한 데이터센터 내에 AI 가속기가 감당 가능할 수준의 전력캐파가 부족하고, 끌어다 쓸 전력이 부족하다는 말이 나오는 상황에서 기업 입장으로는 비싸더라도 가장 성능이 뛰어난 GPU를 구매하게 됩니다. 가장 성능이 뛰어날 수록 가장 TCO도 좋고, 가장 에너지 효율도 좋으며, 가장 ROI도 높다는 의미이므로 모두가 Blackwell을 가장 많이 가장 먼저 받고싶어 합니다.
아직 모르는 점
- 현재 원문은 실제 고객별 도입 규모와 이후 수요 실현을 확인하지 않는다.
원문 근거 6개 펼치기
출처의 해석·전망
- GB200 NVL72는 추론 처리량, 훈련속도, 전력당 성능, 데이터 처리량 비교를 제시하고, H100 대비 B200 가격·냉각·서버 구성 및 GPT-4 훈련의 칩·전력 절감 사례를 함께 설명한다.
보존 원문 발췌
ⓐ첫 번째는 추론능력Inference 비교입니다. GPT-4 기준 실시간 LLM Throughput시간당 토큰 출력량을 최대 30배 끌어올렸습니다. ⓑ두 번째는 훈련능력Training 비교입니다. FP8 기준으로 훈련속도를 4배 더 빠르게 끝낼 수 있게 됐습니다. ⓒ세 번째는 에너지 효율Energy Efficiency도 비교입니다. 공기냉각식에 비해서 더 효율적으로 냉각할 수 있기 때문에 액체냉각을 기본으로 하는 GB200 NVL72는 동일전력 기준 25배 더 높은 성능을 내고 있습니다. ⓓ네 번째는 데이터 처리량Database Join Query 비교입니다. HBM 대역폭을 키우고 NVLink 대역폭900GB/s → 1800GB/s도 크게 키웠기 때문에 데이터를 처리하고 분석하는 속도를 크게 키웠습니다.
B200은 H100/H200에 비해 성능을 올리면서도 가격은 $30~40K로 책정해서 경쟁사 AMD의 성능향상분을 제한하는 효과를 누리고 있습니다. AMD는 H100 80GB와 경쟁하기 위해 MI300X의 HBM 콘텐츠를 192GB로 출시했었습니다. 그러다보니 AMD는 엔비디아보다 더 높은 생산비용으로 제품을 생산하고 있었습니다. 애널리스트들이 AMD MI300X이 전사 마진율을 낮추는 게 아니냐고 초반에 우려했던 이유입니다. 생산비용은 추정하기로 H100 $3,320 vs MI300X $7,000정도입니다. H100 당시 GPM 기준 엔비디아가 87~89%를 가져가는 것과 달리 AMD는 부족한 성능을 비용상승분으로 극복했기에 마진율을 전사보다 약간 높은 50% 초반대로 유지했었습니다.
엔비디아는 Blackwell로 넘어오면서 가격을 생각보다 많이 높이지 않았습니다. B200 생산단가는 H100보다 2배가 늘었기에 $6K 정도가 됐지만, 이제부터 AMD가 기술격차를 비용으로 커버하려면 전사마진율 50%는 최소한 넘기는 한에서 성능을 올려야 하기 때문에 하드웨어적으로는 상당히 많은 옵션들이 제한됐습니다. AMD도 나름 계획이 있을 거라 생각하지만 2025년에 출시될 MI400의 입장이 어렵습니다. 가장 우수한 제품, GB200 NVL72 엔비디아는 칩 단가를 많이 높이지 않은 대신 '서버' 자체를 하나의 GPU처럼 제품화했습니다. 엔비디아 입장에서는 NVLink, NVSwitch, InfiniBand 등 네트워킹 제품이 칩만큼이나 마진율이 높기에 가능한 일입니다.
제품적으로 GB200 NVL72에 힘을 주기도 했습니다. 현재 블랙웰 GPU는 메인 제품버전으로 보면 총 3개입니다. ⓐB100 700W 공냉식(HGX로 판매) ⓑB200 1000W 공냉식(DGX B200) ⓒGB200 1200W 액체냉각식(GB200 NVL72)입니다. GB200은 B200 GPU 2개와 Grace CPU 1개가 들어갑니다. 그러나 GB200 열설계전력은 2300W(B100 1000W *2 + Grace 300W * 1)이 아닌 2700W(B200 1200W *2 + Grace 300W *1)입니다. 공기냉각식으로 쓸 때는 1000W, 액체냉각식으로는 1200W로 세팅했습니다. 액체냉각 제품을 쓰면 비싸지지만 성능을 더 높게 내면서 운영비용도 줄일 수 있는 구조로 처음부터 설계했습니다.
따라서 상대적으로 냉각효율이 좋은 액체냉각 솔루션Direct-to-Chip인 GB200 NVL72로 구매할 경우 ㄱ) B200의 성능을 더 끌어올리지만 ㄴ) 냉각을 바꾼 만큼 냉각에 쓰이는 에너지효율이 세이브되므로 성능증가분 대비 비용증가분으로 생각할 때 경쟁력 있으며 ㄷ) 모듈식으로 GB200 NVL72을 구성한 것도 데이터센터 운영자들 입장에서는 좋은 부분이었습니다. 운영자는 서버를 구축하는데 드는 시간과 확장가능성도 중요하기 때문입니다. *왼쪽 : GPU 단위 경쟁을 넘고, 서버 단위 경쟁을 넘어, 이젠 GB200 NVL72부터 데이터센터 단위 경쟁을 겪고 있습니다. *중앙 : 엔비디아의 NVLink는 새로운 기준이 됐습니다. *오른쪽 : 2년마다 새로운 세대의 칩이 나오는 시대에서, 2Q23부터는 1년마다 칩이 나오는 시대로 바뀌었습니다.
4배 더 적은 칩, 3.75배 더 적은 전력사용량으로 GPT-4를 훈련시킬 수 있게 바뀐 것입니다. 칩당 가격은 60~70% 높아졌지만 성능이 평균 3~4배씩 좋아졌기 때문에 고객 입장에서는 구축해야 할 컴퓨팅 규모가 같다는 전제 하에 GB200 NVL72를 더 많이 빨리 가동할 수록 돈을 버는절약하는 구조가 되어 있습니다. 또한 데이터센터 내에 AI 가속기가 감당 가능할 수준의 전력캐파가 부족하고, 끌어다 쓸 전력이 부족하다는 말이 나오는 상황에서 기업 입장으로는 비싸더라도 가장 성능이 뛰어난 GPU를 구매하게 됩니다. 가장 성능이 뛰어날 수록 가장 TCO도 좋고, 가장 에너지 효율도 좋으며, 가장 ROI도 높다는 의미이므로 모두가 Blackwell을 가장 많이 가장 먼저 받고싶어 합니다.
상승 관점 보조 신호 · 가격 충격·지속성·후속 근거
장대양봉급 뉴스
근거 미확인- 이 자료에서 판단할 근거를 확보하지 못했습니다.
지속 턴어라운드
근거 미확인- 이 자료에서 판단할 근거를 확보하지 못했습니다.
셀온 뒤 재상승 근거
근거 미확인- 이 자료에서 판단할 근거를 확보하지 못했습니다.