2026.01.07 · 네이버 프리미엄 콘텐츠 · 올바른 미국주식 by SAPIENS

엔비디아 CES 2026 : Vera Rubin의 시대, ICMS가 불러올 메모리 지각변동

네이버 프리미엄 콘텐츠 원문 보기 별의순간 선택 분석 시작 심층분석 시작 분석 기준 보기

유형

네이버 프리미엄 콘텐츠

날짜

2026.01.07

강연자/작성자

올바른 미국주식 by SAPIENS

분석 주제

미지정

자료 길이

본문 12,199자

문서 전체 조망

핵심 구조

Vera Rubin의 양산 설계와 ICMS가 추론용 메모리 계층을 바꾸는가

CES 2026에서 엔비디아는 Vera Rubin의 성능·양산 구조와 ICMS를 함께 공개했다. 작성자는 컨텍스트 메모리를 GPU 가까이에 붙이는 설계가 추론 비용과 병목을 바꾸고, SSD·메모리 수요까지 다시 보게 하는 핵심 변화라고 본다.

Vera Rubin은 칩 하나가 아니라 6개 칩을 묶은 시스템이다

Vera CPU·Rubin GPU·네트워킹·DPU·스위치·CPO를 함께 설계한 VR200 NVL72은 GB200/300 대비 추론·훈련 성능, HBM 대역폭, Scale-up 대역폭을 높였다고 제시됐다. 같은 시간의 대형 모델 훈련에 필요한 GPU 수와 같은 전력·달러에서의 토큰 처리량을 줄이는 것이 비교의 기준이다.

추론 경쟁은 처리량만이 아니라 지연시간과 동시성의 균형이다

사용자당 토큰 생성량, 데이터센터 초당 토큰 생산량, 병렬 요청 수를 함께 보며 Throughput·Latency·Interactivity가 가장 좋은 지점을 찾는다고 설명한다. 원문은 Rubin이 최적 조건에서 토큰 추론비용을 낮출 수 있다는 엔비디아의 주장을 전한다.

직접 생산하는 L10 트레이는 양산 병목과 마진을 함께 겨냥한다

엔비디아는 케이블·호스·팬을 뺀 Compute Tray를 직접 공급하고, 기존 2시간 걸리던 트레이 생산을 5분으로 줄였다고 설명한다. 서버 ODM 조립에서 발생한 수율·병목을 줄이고 리드타임과 공급 변수, 기존 파트너의 마진을 더 직접 통제하려는 구조다.

ICMS는 KV Cache를 위한 G3.5 메모리 계층이다

Agentic AI로 컨텍스트가 길어질수록 HBM·DRAM·로컬 SSD를 지나 공유 스토리지까지 밀리는 KV Cache 병목이 커진다. GPU Pod에 직접 연결한 ICMS는 대규모 SSD를 추론의 Inner Loop로 끌어와 지연시간·전력·토큰당 비용 문제를 줄이려는 설계다.

SSD와 HDD는 같은 수요를 놓고 단순 대체하는 관계가 아니다

작성자는 150TB NVMe SSD를 넣는 ICMS와 VR200 양산이 고성능 엔터프라이즈 SSD·QLC NAND 수요를 높일 것으로 예상한다. 동시에 NAND와 HDD의 GB당 가격 차이, CSP SSD 수요 충족률 40%, 제한적인 공급 증가 여력을 들어 서로 다른 영역의 수요가 강하다고 본다.

CoWoS 할당은 기업별로 엇갈렸지만 AI 하드웨어 수요는 강해졌다

1월 공급망 점검에서 엔비디아·브로드컴·미디어텍·AWS/Alchip의 CY26 CoWoS 할당은 상향되고 AMD·마벨은 하향됐다. 원문은 GB200·GB300, TPU, Maia300의 구체적 주문·생산 계획과 함께 이 차이를 설명한다.

서버와 PC에서는 GPU 밖의 메모리·네트워킹 병목이 드러난다

델향 GB300 주문이 네오클라우드와 금융사로 넓어지는 한편, AI 서버 생산에서는 BF3·CX8·DRAM·SSD도 병목으로 제시된다. PC는 메모리 가격 상승 우려로 선구매가 늘고 보급형 사양 하향과 대형 OEM 우선 공급이 함께 나타난다고 적었다.

작성자의 결론은 엔비디아의 경쟁력과 메모리 수요를 함께 보는 것이다

원문 마지막은 Vera Rubin의 생산·판매 일정, 대량생산 설계, 냉각비용, ICMS, 중국향 H200 출하를 근거로 엔비디아 Overweight 유지를 제시한다. ICMS는 엔비디아의 경쟁역량뿐 아니라 eSSD 수요와 마이크론 판단에도 연결된다는 평가다.

발생·예정 사건과 출처별 관점

이슈 분석

이 자료가 이슈의 어떤 사실을 다루고, 작성자가 무슨 결론을 어떤 근거로 내렸는지 원문에 붙여 읽습니다.

발생발표·발생 당일발생월 26-1

26-1 엔비디아 Vera Rubin 양산 개시 발언

작성자의 핵심 판단

작성자는 Vera Rubin이 정상 생산 중이며 2Q26 양산과 3Q26 VR200 NVL72 판매 기여를 예상한다.

근거 보기 1

원문 구간 1
엔비디아(NVDA) 25년 PER 40배 → 26년 PER 20배, EPS CAGR 3Y 60%, PEG 0.67배 : CES 2026 이후로도 엔비디아 Overweight을 유지합니다. Vera Rubin은 현재 정상 생산 중입니다. 양산은 2Q26부터 시작되며 → VR200 NVL72 랙 완성 후 판매는 3Q26부터 본격 기여할 것을 예상합니다, 이번 CES 2026 기조연설에서는 ⓐL10 Compute Tray를 대량생산에 적합하도록 설계한 부분, ⓑ45℃정도의 액체를 냉각수로 쓸 수 있도록 하여 고객사들 입장에서 냉각비용을 아낀 점, ⓒNVIDIA ICMS을 통해서 Agentic AI 워크로드에서 앞서갈 수 있도록 준비한 것, ⓓ중국향 H200 출하가 본격 반영되기 시작한 점 등이 좋았습니다.

이 자료에서 다룬 사실

젠슨황은 CES에서 6개 칩으로 구성된 Vera Rubin 전체 세대가 양산을 시작했다고 말했다.

근거 보기 1

원문 구간 1
젠슨황은 이번 CES 발표 도중, "6개의 칩으로 구성된 Vera Rubin 전체 세대 칩들이 양산을 시작했다("Our next generation GPU architecture, Vera Rubin, is now in full production.")"고 말했습니다. 좋습니다. 엔비디아가 Vera Rubin부터는 이전 Grace Blackwell Trasnsition에서 발생했던 오류를 다시 범하지 않고자 L10 Compute Tray를 엔비디아가 직접 공급하고 이 조립 과정에서도 아예 대량생산에 특화된 구조를 설계했습니다.

그렇게 판단한 이유

케이블·호스·팬이 없는 L10 Compute Tray를 엔비디아가 직접 공급하고 트레이 생산 시간을 2시간에서 5분으로 줄여, 기존 조립 수율·병목을 직접 통제하려 한다고 설명했다.

근거 보기 3

원문 구간 1
VR200 Compute Tray는 케이블, 호스, 팬이 없습니다. 이전에는 수작업이 필요했던 것들을 최대한 대량생산에 적합하도록 만들어서 트레이 1개당 2시간씩 걸리던 생산시간을 5분으로 단축시켰습니다. 이처럼 L10 Compute Tray를 엔비디아가 직접 생산하여 서버 기업들에게 공급함으로써 얻는 이점은 크게 두 가지입니다. 생산 병목 해결 : 현재 GB200 NVL72 랙은 Foxconn, Wistron 같은 서버 ODM이 Compute Tray 등을 조립/생산하고 있습니다.
원문 구간 2
하지만 이 과정에서 수율이 기대만큼 오르지 못하고 생산 병목 현상이 발생하자, 엔비디아는 차세대 랙의 폭발적인 생산량 증가를 위해서는 이 문제를 직접 해결해야 한다고 판단했습니다. 그리고 앞으로 더욱 더 전력밀도나 냉각밀도가 높아질 것이므로 개별 기업들의 R&D로는 충분히 해결되지 않으니 데이터센터 단위에서도 충분히 잘 작동하도록 하는 과정이기도 합니다. 마진 극대화 : 엔비디아가 L10 Compute Tray를 직접 생산해 공급하면, 더 많은 공급업체가 관여하며 발생하는 변수를 통제할 수 있습니다.
원문 구간 3
이는 수율과 양산 리드타임을 직접 컨트롤하는 동시에, 기존에 파트너사가 가져가던 마진까지 엔비디아가 흡수할 수 있음을 의미합니다. NVL72를 통해서 NVLink를 Scale-up의 핵심으로 만들고 엔비디아가 그 과정에서 CPU 및 네트워킹 제품에 대한 매출 및 마진을 가져가는 것과도 비슷한 맥락입니다. 물론 이 모든 과정에는 TCO 대비 퍼포먼스를 끌어올리기 위한 고민이 제1이겠지만 그 속에서 매출과 마진에도 순풍이 부는 구조를 설계했습니다.

작성자가 예상한 다음 전개

원문은 VR200 NVL72 랙 완성 뒤 3Q26부터 판매가 본격 기여할 것으로 예상한다.

근거 보기 1

원문 구간 1
엔비디아(NVDA) 25년 PER 40배 → 26년 PER 20배, EPS CAGR 3Y 60%, PEG 0.67배 : CES 2026 이후로도 엔비디아 Overweight을 유지합니다. Vera Rubin은 현재 정상 생산 중입니다. 양산은 2Q26부터 시작되며 → VR200 NVL72 랙 완성 후 판매는 3Q26부터 본격 기여할 것을 예상합니다, 이번 CES 2026 기조연설에서는 ⓐL10 Compute Tray를 대량생산에 적합하도록 설계한 부분, ⓑ45℃정도의 액체를 냉각수로 쓸 수 있도록 하여 고객사들 입장에서 냉각비용을 아낀 점, ⓒNVIDIA ICMS을 통해서 Agentic AI 워크로드에서 앞서갈 수 있도록 준비한 것, ⓓ중국향 H200 출하가 본격 반영되기 시작한 점 등이 좋았습니다.

발생발표·발생 당일발생월 26-1

26-1 엔비디아 ICMS 플랫폼 발표

작성자의 핵심 판단

작성자는 ICMS를 CES 발표의 핵심으로 보고, 추론의 Inner Loop에 SSD가 들어오면서 SSD 수요가 이전보다 높아질 것으로 예상한다.

근거 보기 2

원문 구간 1
NVIDIA ICMS로 인해 달라지는 부분 2026년 하반기 VR200 NVL72 양산과 함께 도입될 NVIDIA ICMS으로 달라질 부분 중, 가장 큰 것은 SSD 수요가 이전에 비해서 레벨업 될 것을 예상합니다. 이제는 단순 저장소 역할이 아니라 추론의 Inner Loop에 속하기 때문입니다. 추론 메모리로 쓰이는 특성상 SSD 중에서 고성능 엔터프라이즈 NVMe SSD 제품군에 대한 수요가 증가하고, QLC 기반 고용랑 NAND 수요도 함께 증가할 것으로 예상합니다.
원문 구간 2
이번 발표의 핵심은 NVIDIA ICMS이었으며 eSSD에 대한 수요가 더 높아질 것을 예상합니다. 엔비디아도 경쟁역량을 높인다는 점에서 좋았지만 메모리 기업들에게도 긍정적이었기에 마이크론도 Overweight를 유지합니다.

이 자료에서 다룬 사실

엔비디아는 CES에서 HBM만으로 GPU 컴퓨팅을 지원하기 부족하고 메모리 병목이 심화된다고 말하며 ICMS 플랫폼을 발표했다.

근거 보기 2

원문 구간 1
NVIDIA ICMS(Inference Context Memory Storage) 플랫폼 젠슨황은 CES 발표 당시, "HBM만으로 GPU의 컴퓨팅을 지원하기에는 턱없이 부족하며, 메모리 병목 현상은 더욱 더 심화되고 있다(With existing high-bandwidth memory, it’s far from sufficient to support GPUs, and the memory bottleneck is only getting worse)"고 말했습니다.
원문 구간 2
해당 코멘트와 함께 발표된 NVIDIA ICMS 플랫폼이 CES 2026의 핵심이자 SSD 및 메모리 기업들의 주가가 상승한 배경입니다. 전체적인 흐름부터 정리해봅니다. Context Memory의 문제 LLM의 사용 사례가 챗봇 → Reasoning → Agentic AI로 진화함에 따라 메모리는 더 많이 필요해지기 때문에 그렇습니다. 여러 번 생각하는 구조로 갈수록(시퀀스 길이가 증가할수록), KV Cache가 계속해서 증가하기 때문입니다.

이 자료에서 다룬 실제 시장 반응

원문은 ICMS 발표가 SSD 및 메모리 기업 주가 상승의 배경이었다고 적었다.

근거 보기 1

원문 구간 1
해당 코멘트와 함께 발표된 NVIDIA ICMS 플랫폼이 CES 2026의 핵심이자 SSD 및 메모리 기업들의 주가가 상승한 배경입니다. 전체적인 흐름부터 정리해봅니다. Context Memory의 문제 LLM의 사용 사례가 챗봇 → Reasoning → Agentic AI로 진화함에 따라 메모리는 더 많이 필요해지기 때문에 그렇습니다. 여러 번 생각하는 구조로 갈수록(시퀀스 길이가 증가할수록), KV Cache가 계속해서 증가하기 때문입니다.

그렇게 판단한 이유

KV Cache가 G1~G3 로컬 저장공간을 소진해 G4까지 이동하면 비용·전력이 늘고 병목이 생기며, ICMS는 GPU Pod에 대규모 SSD를 직접 연결해 이를 줄이려는 구조라고 설명했다.

근거 보기 4

원문 구간 1
G2 (System DRAM) : HBM의 용량이 부족할 때 데이터를 임시로 옮겨두는 공간입니다. G3 (Local SSD) : 짧은 시간 안에 다시 사용될 가능성이 있는 Warm data를 저장합니다. G4 (Shared Object/File) : 당장 처리에 필요하진 않지만 보관이 필요한 Cold data를 보관합니다. G1은 접근 속도에 최적화되어 있고, G3와 G4는 데이터 보존에 최적화된 구조입니다. 그런데 문제는 AI가 다루는 컨텍스트 윈도우가 점점 더 커지다보니 데이터 양이 늘어남에 따라 KV Cache가 Local Storage였던 G1~G3를 빠르게 소진시키고 Enterprise Storage 레벨인 G4까지 데이터를 이동시킬 수밖에 없는데, 이 과정에서 병목이 커진다는 게 문제입니다.
원문 구간 2
비용과 전력 소비 모두를 증가시키는 길이었습니다. Pod 내의 Inference Context Memory Storage의 위치 이에 엔비디아가 Rubin부터는 컴퓨팅 Pod을 구성할 때 ICMS를 GPU와 직접적으로 연결하여 쓸 수 있게 했습니다. 위의 VR200 DGX SuperPod 구성을 보시면, 양 옆으로 Context Memory 랙을 확인하실 수 있습니다. 이번 Rubin 플랫폼부터 새롭게 추가된 부분입니다.
원문 구간 3
지금보다 훨씬 더 메모리 집약적인 추론을 위해서 대규모 SSD를 마치 직접 GPU에 연결된 수준으로 가져다 쓸 수 있게끔 인프라를 짠 것입니다. ICMS을 통해서 BlueField-4 DPU 4개와 150TB 규모의 NVMe SSD를 탑재하면 GPU Pod당 PB 규모의 공유 스토리지가 생깁니다. 각 GPU당 추가로 16TB의 Context Memory를 얻게 되는 효과이며, Latency에 민감한 KV Cache의 상당부분이 이젠 ICMS에서 제공되므로 TPS는 5배 높아지고 기존 스토리지 연결구조 대비 전력 효율은 5배 높아지는 효과를 얻습니다.
원문 구간 4
추론 컨텍스트 처리가 GPU에서 멀어지면 멀어질수록 지연시간은 높아지고, 에너지 사용량과 토큰당 비용이 상승하며 전체적인 효율이 떨어지는 문제가 생깁니다. 그래서 아예 Pod 레벨에서 통합된 특수한 컨텍스트 메모리 계층을 만든 것이 NVIDIA ICMS입니다. G3.5 레벨입니다. KV Cache 데이터 액세스가 훨씬 더 빨라지고 GPU가 쓸 수 있는 메모리의 규모가 크게 증가하는 만큼 효율이 높아집니다. 이 과정에서 추론 레벨에서는 NVIDIA Dynamo와 NIXL(NVIDIA Inference Transfer Library)이 어떤 데이터를 언제 옮기고 어디에 옮길지 결정하는 소프트웨어 역할을 합니다.

작성자가 예상한 다음 전개

원문은 2026년 하반기 VR200 NVL72 양산과 함께 고성능 엔터프라이즈 NVMe SSD와 QLC NAND 수요가 늘고, SK하이닉스·키옥시아·샌디스크·마이크론이 eSSD에서 수혜 강도가 클 것으로 예상한다.

근거 보기 2

원문 구간 1
NVIDIA ICMS로 인해 달라지는 부분 2026년 하반기 VR200 NVL72 양산과 함께 도입될 NVIDIA ICMS으로 달라질 부분 중, 가장 큰 것은 SSD 수요가 이전에 비해서 레벨업 될 것을 예상합니다. 이제는 단순 저장소 역할이 아니라 추론의 Inner Loop에 속하기 때문입니다. 추론 메모리로 쓰이는 특성상 SSD 중에서 고성능 엔터프라이즈 NVMe SSD 제품군에 대한 수요가 증가하고, QLC 기반 고용랑 NAND 수요도 함께 증가할 것으로 예상합니다.
원문 구간 2
eSSD 분야에서는 SK하이닉스(솔리다임), 키옥시아, 샌디스크, 마이크론이 수혜를 입는 강도가 큽니다. 물론, NVIDIA ICMS으로 2026년 하반기부터 SSD 수요가 지금보다 더 늘어나는 것과 별개로 HDD 자체의 수요-공급도 쇼티지가 더욱 심해지는 구간입니다. 이부분은 아래의 공급망 체크에 정리했습니다. 공급망 체크 NVIDIA, Broadcom, AMD, AWS, MediaTek, Marvell

발생발표·발생 후발생월 26-1

26-1 모건스탠리 대만 스토리지 공급망 점검

작성자의 핵심 판단

작성자는 GPU·ASIC 전반의 수요가 한 달 전보다 강해졌으나, 기업별 고객 프로젝트와 제품 일정에 따라 할당 방향은 갈린다고 정리한다.

근거 보기 2

원문 구간 1
AI HW : 한 달 사이 더 강해진 수요 모건스탠리의 공급망 체크 결과, 2026년 1월 초 기준 GPU 및 ASIC 전반에서 추정치 상향이 있었습니다. 왼쪽의 2025년 12월 TSMC CoWoS 할당 테이블에 비해서, 오른쪽의 현재 2026년 1월 테이블은: 엔비디아 : CY26 할당이 800K → 875K(+75K)로 상향됐습니다. 브로드컴 : CY26 235K → 280K(+45K)로 상향
원문 구간 2
브로드컴은 이제 TSMC 내 TPU v8ax 칩 생산을 3Q26~4Q26부터 시작할 예정이며, TPU 수요에 대응하기 위해 Amkor향 CoWoS-S 30K 분량을 확보했습니다. 물량으로 보면 대부분의 TPU 물량은 여전히 TPU v7일 것으로 예상됩니다. AMD는 추정치상 큰 변화가 없이 수요에 맞게 현실화된 것으로 판단되며, 마벨은 마이크로소프트의 Maia300 프로젝트가 순탄치 않아 CoWoS 용량 예약규모가 CY26 20K → 5K로 대폭 삭감될 것으로 예상됩니다.

이 자료에서 다룬 사실

원문은 2026년 1월 초 공급망 점검에서 CY26 CoWoS 할당이 엔비디아 800K에서 875K, 브로드컴 235K에서 280K, 미디어텍 20K에서 40K, AWS/Alchip 70K에서 80K로 상향됐고 AMD와 마벨은 하향됐다고 적었다.

근거 보기 2

원문 구간 1
AI HW : 한 달 사이 더 강해진 수요 모건스탠리의 공급망 체크 결과, 2026년 1월 초 기준 GPU 및 ASIC 전반에서 추정치 상향이 있었습니다. 왼쪽의 2025년 12월 TSMC CoWoS 할당 테이블에 비해서, 오른쪽의 현재 2026년 1월 테이블은: 엔비디아 : CY26 할당이 800K → 875K(+75K)로 상향됐습니다. 브로드컴 : CY26 235K → 280K(+45K)로 상향
원문 구간 2
AMD : CY26 130K → 110K(-15K)로 하향 *Xilinx가 10K 차지* 미디어텍 : CY26 20K → 40K(+20K)로 상향 AWS/Alchip : CY26 70K → 80K(+10K)로 상향 Marvell : CY26 45K → 37K(-8K)로 하향됐습니다. 고객사별 분류 엔비디아는 단기적으로 GB200-GB300 수요가 더 크게 늘었습니다. Vera Rubin 6개의 칩이 생산에 들어갔으며, Amkor 및 ASE/SPIL의 CoWoS-S 생산라인을 통해 2026년 중국 하이퍼스케일러향 H200 200만 개의 주문을 처리할 예정입니다.

그렇게 판단한 이유

엔비디아의 GB200·GB300 수요, 브로드컴 TPU v8ax 생산 계획과 Amkor향 CoWoS-S 확보, AMD의 수요 현실화, 마벨의 Maia300 프로젝트 부진을 각 변화의 설명으로 제시했다.

근거 보기 1

원문 구간 1
브로드컴은 이제 TSMC 내 TPU v8ax 칩 생산을 3Q26~4Q26부터 시작할 예정이며, TPU 수요에 대응하기 위해 Amkor향 CoWoS-S 30K 분량을 확보했습니다. 물량으로 보면 대부분의 TPU 물량은 여전히 TPU v7일 것으로 예상됩니다. AMD는 추정치상 큰 변화가 없이 수요에 맞게 현실화된 것으로 판단되며, 마벨은 마이크로소프트의 Maia300 프로젝트가 순탄치 않아 CoWoS 용량 예약규모가 CY26 20K → 5K로 대폭 삭감될 것으로 예상됩니다.

사실·구조, 해석·전망, 시점 관찰, 판단 방법

지식·관점

사건 밖에서도 다시 참고하거나 다른 자료와 비교할 가치가 있는 내용을 대상과 반복 가능한 논점으로 묶습니다.

사실·구조Vera Rubin VR200 NVL72주 대상 · 기술·제품 · NVIDIA Vera Rubin

VR200의 성능 비교는 어떤 시스템 지표와 비용 논리로 제시되는가?

이 자료가 더한 내용

6칩 시스템의 NVFP4 추론·훈련, LPDDR5X·HBM 용량, HBM4·Scale-up 대역폭을 GB200/300 NVL72와 비교하고, 동일 시간의 대형 모델 훈련 GPU 수와 동일 전력·달러당 토큰 처리량을 비용 판단의 기준으로 설명했다.

근거 보기 4

원문 구간 1
6가지는 ⓐVera CPU ⓑRubin GPU ⓒConnectX-9 Spectrum-X SuperNIC ⓓBlueField-4 DPU ⓔNVLink 6 Switch ⓕSpectrum-X Ethernet CPO로 구성되어 있습니다. VR200 NVL72를 GB200/300 NVL72와 비교할 때 성능을 보면: NVFP4 추론은 3.6EFLOPS로 5배, NVFP4 훈련은 2.5EFLOPS로 3.5배, 랙당 LPDDR5X 용량은 서버당 54TB로 3배 늘고, HBM 용량은 20.7TB로 1.5배, HBM4 대역폭은 1.6PB/s로 2.8배, 전체 Scale-up 대역폭은 260TB/s로 2배 향상됐습니다.
원문 구간 2
*VR200 NVL72의 원래 이름은 NVL144였습니다만, GPU 다이 기준이 아닌 GPU 패키지 수 기준으로 정리하면서 VR200 NVL72로 이름이 바뀌었습니다. VR300 NVL576의 이름은 VR300 NVL144로 바뀔 것으로 예상합니다. GB200 NVL72 vs VR200 NVL72 비교 왼쪽 차트는 10조 개의 파라미터 모델 훈련에 필요한 GPU의 수를 비교한 것입니다. xAI의 Grok 5가 대략 7조 개 파라미터이기 때문에 프론티어 모델 훈련 상황을 살펴보기에 꽤 적절한 차트입니다.
원문 구간 3
프론티어 모델의 훈련 시간 단축은 곧 AI 기업의 비용 절감과 직결됩니다. 모델 출시 속도가 빨라질수록 시장 장악력과 추론 마진율을 높게 가져갈 수 있기 때문입니다. 차트로 보시면 동일 시간 기준, VR200 NVL72은 기존 GB200 대비 4분의 1의 GPU로도 훈련이 가능할 만큼 획기적인 퍼포먼스를 보여줍니다. 중간과 오른쪽 차트는 데이터센터 단위에서 낼 수 있는 토큰 처리량(Throughput)을 보여주는 차트입니다. 같은 전력, 같은 달러를 투입했을 때 얼마의 Throughput이 나오느냐가 'TCO 대비 퍼포먼스'의 핵심입니다.
원문 구간 4
엔비디아는 Kimi K2-Thinking(Reasoning) 모델 기준 GB200 NVL72에 비해서 10배 더 많은 Throughput을 달성했음을 강조했니다. 바꿔서 말하자면 하나의 토큰을 만드는 데 드는 비용은 10분의 1로 낮아졌다는 의미입니다. 같은 Hopper 대비 Blackwell에서 토큰 생성비용을 10분의 1로 낮췄었는데 → Blackwell 대비 Rubin에서 다시 한 번 토큰 생성비용을 10분의 1로 낮출 예정입니다. 추론의 경제학

판단 방법AI 추론 서비스주 대상 · 산업·업종 · AI 추론 서비스

추론 서비스의 경제성을 어떤 축으로 판단하는가?

이 자료가 더한 내용

사용자 한 명당 토큰 생성량, 데이터센터 초당 토큰 생산량, 병렬 요청 수를 설명하고 Throughput·Latency·Interactivity의 세 축에서 최적 지점을 찾는다고 정리했다.

근거 보기 2

원문 구간 1
위 차트에서 X축은 '사용자 한 명당 토큰을 생성하는 양'입니다. 한 명에게 더 많이 토큰을 빠르게 만들어줄 수록 사용자 경험이 좋아지고, 혹은 더 많은 컴퓨팅을 배정함으로써 더 똑똑한 품질의 답변을 제공할 수 있습니다. Y축은 데이터센터 기준 초당 토큰 생산량을 의미합니다. 여기에 많은 영향을 주는 게 batch size인데 이는 한 번에 병렬로 처리하는 사용자 요청 수를 의미합니다. 추론의 시대에 가장 중요한 가치는 "ⓐ달러당 초당 몇 개의 토큰을 생성하여 ⓒ서버당 몇 명의 사용자에게 ⓑ어느 정도의 지연속도로 서비스 할 수 있는가"입니다.
원문 구간 2
ⓐThroughput ⓑLatency ⓒInteractivity까지 3개의 축이 있으며 하이퍼스케일러들은 이 모든 축에서 최고의 값을 낼 수 있는 지점에서 서비스합니다. 이 전체의 축들을 고려할 때 최적의 스팟 기준 토큰 추론비용을 10분의 1까지 낮출 수 있다는 것입니다. Vera Rubin VR200 Compute Tray는 Vera CPU 2개, Rubin GPU 4개, ConnectX-9 NIC 8개, BlueField-4 DPU 1개로 구성되어 있습니다.

해석·전망엔비디아 L10 Compute Tray주 대상 · 기업·종목 · 엔비디아

직접 생산·공급이 양산과 마진에 어떤 의미를 갖는가?

이 자료가 더한 내용

엔비디아가 L10 Compute Tray를 직접 생산해 수율·양산 리드타임·공급 변수를 통제하고, 파트너가 가져가던 마진까지 흡수할 수 있다고 해석했다.

근거 보기 3

원문 구간 1
VR200 Compute Tray는 케이블, 호스, 팬이 없습니다. 이전에는 수작업이 필요했던 것들을 최대한 대량생산에 적합하도록 만들어서 트레이 1개당 2시간씩 걸리던 생산시간을 5분으로 단축시켰습니다. 이처럼 L10 Compute Tray를 엔비디아가 직접 생산하여 서버 기업들에게 공급함으로써 얻는 이점은 크게 두 가지입니다. 생산 병목 해결 : 현재 GB200 NVL72 랙은 Foxconn, Wistron 같은 서버 ODM이 Compute Tray 등을 조립/생산하고 있습니다.
원문 구간 2
하지만 이 과정에서 수율이 기대만큼 오르지 못하고 생산 병목 현상이 발생하자, 엔비디아는 차세대 랙의 폭발적인 생산량 증가를 위해서는 이 문제를 직접 해결해야 한다고 판단했습니다. 그리고 앞으로 더욱 더 전력밀도나 냉각밀도가 높아질 것이므로 개별 기업들의 R&D로는 충분히 해결되지 않으니 데이터센터 단위에서도 충분히 잘 작동하도록 하는 과정이기도 합니다. 마진 극대화 : 엔비디아가 L10 Compute Tray를 직접 생산해 공급하면, 더 많은 공급업체가 관여하며 발생하는 변수를 통제할 수 있습니다.
원문 구간 3
이는 수율과 양산 리드타임을 직접 컨트롤하는 동시에, 기존에 파트너사가 가져가던 마진까지 엔비디아가 흡수할 수 있음을 의미합니다. NVL72를 통해서 NVLink를 Scale-up의 핵심으로 만들고 엔비디아가 그 과정에서 CPU 및 네트워킹 제품에 대한 매출 및 마진을 가져가는 것과도 비슷한 맥락입니다. 물론 이 모든 과정에는 TCO 대비 퍼포먼스를 끌어올리기 위한 고민이 제1이겠지만 그 속에서 매출과 마진에도 순풍이 부는 구조를 설계했습니다.

사실·구조추론 컨텍스트 메모리주 대상 · 기술·제품 · NVIDIA ICMS

KV Cache의 기존 계층과 ICMS의 위치는 무엇인가?

이 자료가 더한 내용

KV Cache는 HBM·System DRAM·Local SSD·Shared Object/File 계층을 오가며, 컨텍스트가 커지면 G4 이동에서 병목·비용·전력 문제가 생긴다고 설명했다. ICMS는 GPU Pod에 직접 연결되는 G3.5 계층으로 제시됐다.

근거 보기 5

원문 구간 1
에이전트는 특히 계속해서 LLM이 두뇌 역할을 하며 다양한 서비스를 드나들기 때문에, 중간 결과나 도구 사용 등에 대한 장기 기억을 훨씬 더 많이 필요로 합니다. Transformer 기반에서 추론 컨텍스트 기억은 KV Cache를 통해서 이뤄집니다. 추론 컨텍스트를 보관함으로써 모델이 새로운 토큰을 생성할 때마다 다시 처음부터 계산하지 않도록 하는 것입니다. 기록하고 쓰지 않는 구조가 아니라 추론 컨텍스트는 다시 꺼내서 쓰고 하는 작업을 반복하기에 내구성이나 속도, 전력과 비용의 효율성도 중요합니다.
원문 구간 2
추론 컨텍스트에서 KV Cache가 옮겨다니던 메모리 계층을 정리해봅니다. HBM → System DRAM → Rack Local SSD → Shared File 엔비디아는 NVIDIA Dynamo를 통해서 스토리지 계층 전반에 걸쳐 추론 시 사용되는 KV Cache를 관리하고 있습니다. 구조적으로 보면 이렇게 되어 있었습니다. G1 (GPU HBM) : 답변을 생성 중인 활성화된 데이터용입니다. 속도가 매우 빨라야 하고, 지연시간이 핵심인 작업에 사용됩니다.
원문 구간 3
G2 (System DRAM) : HBM의 용량이 부족할 때 데이터를 임시로 옮겨두는 공간입니다. G3 (Local SSD) : 짧은 시간 안에 다시 사용될 가능성이 있는 Warm data를 저장합니다. G4 (Shared Object/File) : 당장 처리에 필요하진 않지만 보관이 필요한 Cold data를 보관합니다. G1은 접근 속도에 최적화되어 있고, G3와 G4는 데이터 보존에 최적화된 구조입니다. 그런데 문제는 AI가 다루는 컨텍스트 윈도우가 점점 더 커지다보니 데이터 양이 늘어남에 따라 KV Cache가 Local Storage였던 G1~G3를 빠르게 소진시키고 Enterprise Storage 레벨인 G4까지 데이터를 이동시킬 수밖에 없는데, 이 과정에서 병목이 커진다는 게 문제입니다.
원문 구간 4
비용과 전력 소비 모두를 증가시키는 길이었습니다. Pod 내의 Inference Context Memory Storage의 위치 이에 엔비디아가 Rubin부터는 컴퓨팅 Pod을 구성할 때 ICMS를 GPU와 직접적으로 연결하여 쓸 수 있게 했습니다. 위의 VR200 DGX SuperPod 구성을 보시면, 양 옆으로 Context Memory 랙을 확인하실 수 있습니다. 이번 Rubin 플랫폼부터 새롭게 추가된 부분입니다.
원문 구간 5
추론 컨텍스트 처리가 GPU에서 멀어지면 멀어질수록 지연시간은 높아지고, 에너지 사용량과 토큰당 비용이 상승하며 전체적인 효율이 떨어지는 문제가 생깁니다. 그래서 아예 Pod 레벨에서 통합된 특수한 컨텍스트 메모리 계층을 만든 것이 NVIDIA ICMS입니다. G3.5 레벨입니다. KV Cache 데이터 액세스가 훨씬 더 빨라지고 GPU가 쓸 수 있는 메모리의 규모가 크게 증가하는 만큼 효율이 높아집니다. 이 과정에서 추론 레벨에서는 NVIDIA Dynamo와 NIXL(NVIDIA Inference Transfer Library)이 어떤 데이터를 언제 옮기고 어디에 옮길지 결정하는 소프트웨어 역할을 합니다.

사실·구조NVIDIA ICMS주 대상 · 기술·제품 · NVIDIA ICMS

ICMS에서 데이터 이동과 네트워크는 어떤 역할을 하는가?

이 자료가 더한 내용

Dynamo와 NIXL은 KV Cache 이동 시점·위치를 정하고, BlueField-4 DPU·DOCA는 데이터 이동을 전담하며, Spectrum-X Ethernet은 컴퓨팅 노드와 ICMS 스토리지 노드를 잇는 패브릭으로 설명됐다.

근거 보기 2

원문 구간 1
지금보다 훨씬 더 메모리 집약적인 추론을 위해서 대규모 SSD를 마치 직접 GPU에 연결된 수준으로 가져다 쓸 수 있게끔 인프라를 짠 것입니다. ICMS을 통해서 BlueField-4 DPU 4개와 150TB 규모의 NVMe SSD를 탑재하면 GPU Pod당 PB 규모의 공유 스토리지가 생깁니다. 각 GPU당 추가로 16TB의 Context Memory를 얻게 되는 효과이며, Latency에 민감한 KV Cache의 상당부분이 이젠 ICMS에서 제공되므로 TPS는 5배 높아지고 기존 스토리지 연결구조 대비 전력 효율은 5배 높아지는 효과를 얻습니다.
원문 구간 2
KV를 미리 옮겨 decode 병목을 줄입니다. 그리고 BlueField-4 DPU와 NVIDIA DOCA 프레임워크는 데이터 이동을 전담 처리하여 GPU의 부하를 줄이는 역할을 합니다. 네트워킹에서는 Spectrum-X Ethernet이 Rubin 컴퓨팅 노드(VR200 NVL72 or R200 HGX)과 BlueField-4 ICMS 스토리지 노드를 전체를 오가며 지연시간이 짧고 대역폭이 높은 패브릭 역할을 합니다. 아예 추론 컨텍스트에 맞게 시스템을 새롭게 설계한 것이자, 새로운 X Factor를 추가시킨 것입니다.

시점 관찰HDD·SSD 수급주 대상 · 산업·업종 · 데이터센터 스토리지기준 2026.01

HDD·NAND 가격과 SSD 공급 충족률은 어떤 수급 상태를 보여주는가?

이 자료가 더한 내용

모건스탠리는 향후 12개월 HDD 공급부족을 200EB로 봤고, 원문은 NAND가 GB당 0.10달러 이상·HDD가 0.013달러라 용도 잠식보다는 각 영역의 강한 수요를 설명했다. CSP SSD 수요 충족률은 40%, 미충족률은 60%로 제시됐다.

근거 보기 2

원문 구간 1
3개월 전에는 12개월 동안 100~150EB 부족할 것이라고 봤는데 50~100EB만큼 늘어난 것입니다. GB당 NAND 가격은 $0.10를 넘고, HDD의 평균 가격은 GB당 $0.013이기 때문에 4Q25까지 구매비용 차이가 최대 10배 가까이 나는 상황이라 서로가 서로의 자리를 해칠 것이라고 보이진 않습니다. eSSD가 HDD를 대체하는 구조라기보다는 서로 다른 영역에서 엄청난 수요를 보이고 있다는 생각입니다.
원문 구간 2
CSP들의 SSD 수요 충족률은 아직 40%에 불과합니다. 미충족률이 60%입니다. 고객 수요 증가와 향후 전망에 대한 긍정적인 예측이 점점 더 강화되는 상황 속에서, SSD/HDD 공급 증가 여력은 제한적이기 때문에 그렇습니다. 공급 과잉은 없으며 계속해서 수요가 부족한 상태가 이어질 것으로 예상합니다. 대만 체크 #2 - AI 서버 동향 xAI는 2025년 11월 말, 델에 GB300 NVL72 랙 3,000개를 주문했고 2026년 3~4월쯤 납품 예정입니다.

시점 관찰AI 서버 공급주 대상 · 산업·업종 · AI 서버기준 2026.01

AI 서버 생산에서 GPU 외 병목은 무엇인가?

이 자료가 더한 내용

델향 GB300 NVL72 주문이 xAI·코어위브·Nscale·IREN·금융사로 제시됐고, AI 서버 OEM에는 GPU 외에도 BlueField-3 DPU·ConnectX-8 NIC·DRAM·SSD가 생산 확대의 주요 병목이라고 적었다.

근거 보기 2

원문 구간 1
코어위브의 GB300 NVL72 랙도 델을 통해 1,000개 정도 주문이 들어갔습니다. 그리고 더 많은 네오클라우드들이 델에 주문을 넣고 있습니다. Nscale, IREN도 델에 GB300 랙을 주문했습니다. 그리고 특이한 부분은 이제 엔터프라이즈 AI 수요도 본격화되는 구간이기 때문에 금융 회사들도 델에 GB300 랙을 최대 1,000개까지 주문한 것으로 파악됩니다.
원문 구간 2
AI 서버 OEM 기업들에게 이제 엔비디아의 GPU는 가장 큰 병목요소가 아닙니다. GPU도 부족하기는 하지만, 엔비디아의 BlueField-3 DPU("BF3"), ConnectX-8 NIC("CX8"), DRAM, SSD가 AI 서버 생산량을 늘리는 데 병목이 되는 주 요인으로 작용하고 있습니다. 대만 체크 #3 - PC 동향

시점 관찰PC 메모리 비용주 대상 · 산업·업종 · PC 산업기준 2026.01

메모리 가격 상승은 PC 수요·사양·OEM 조달에 어떻게 나타나는가?

이 자료가 더한 내용

1Q26에는 가격 인상 우려의 선구매가 늘고, PC 제조사는 보급형 가격 동결·비용 분담·사양 하향으로 수익성을 유지하려 하며 512GB SSD가 256GB로 대체되는 사례를 제시했다. 메모리 업체는 Dell·HP·Lenovo·Asus 같은 대형 OEM을 우선시해 소규모 OEM의 스팟가 취약성이 커진다고 설명했다.

근거 보기 2

원문 구간 1
1Q26 PC 수요는 양호한 수준입니다. 메모리 가격이 오르다보니 가격 인상 우려 속에 선구매가 증가하여 그렇습니다. PC 가격 자체는 아직 4Q25 수준에 있지만 메모리 비용이 크게 올랐다보니 PC 제조업체들이 1Q26 가격을 채널 파트너사들과 재협상 중입니다. 주요 PC OEM들의 메모리 가격 상승 대응 전략은 보급형 모델의 가격은 동결하면서, 부품 공급업체와 비용을 분담하거나 스펙을 낮추는 방식으로 수익성을 유지할 예정입니다.
원문 구간 2
대부분의 512GB SSD 스펙이 256GB로 대체되고 있습니다. 메모리 제조업체들은 대형 PC OEM인 Dell, HP, Lenovo, Asus와의 공급협상을 조금 더 우선시 하고 있습니다. 상대적으로 소규모 OEM은 메모리 공급 확보에 어려움을 겪고 있어 스팟가 변동에 더욱 취약해지는 중입니다. 투자의 생각 : 엔비디아(NVDA)

시간흐름대로 모든 내용을 살려 정리

자료의 범위와 문제의식

[원문 유형] 네이버 프리미엄 콘텐츠
[채널] 올바른 미국주식 by SAPIENS
[게시일] 2026.01.07. 오후 8:45
[원문 URL] https://contents.premium.naver.com/sapiens/sapiensasset/contents/260107204548327hg
[제목] 엔비디아 CES 2026 : Vera Rubin의 시대, ICMS가 불러올 메모리 지각변동
[수집 기준] 승인된 구독 열람권으로 실제 본문을 보존했다. 이미지·첨부는 별도 미디어 원장에 보관하며 시각적 의미 검토 여부를 구분한다.

기존 참고 자료와 고지

[구독 원문 본문]

안녕하세요 올바른입니다.

엔비디아 CES 2026을 요약하면 "추론의 시대"입니다. GTC 2026를 앞두고 프리뷰 정도임에도 많은 것을 공개했습니다. VR200 NVL72의 파격적인 성능 그리고 'NVIDIA ICMS'가 화제입니다.

기존의 G1 HBM → G2 System DRAM → G3 Rack Local SSD → G4 Shared Object/File 구조 속에 G3.5로 NVIDIA Inference Context Memory Storage를 추가했기 때문입니다.

목차와 CES의 세 갈래

메모리 기업들이 전일 강세였던 이유를 정리해보고, 2026년 1월 대만 공급망 체크 이후 엔비디아, 브로드컴, 마벨, AMD 등 주요 칩 메이커 기업들의 수요-공급을 체크한 자료입니다.

살펴보셨으면 하는 글들

2026-01-02

엔비디아가 $20B를 주고 데려온 남자 : Groq 창업자 조나단 로스의 통찰 (바로가기)

2025-12-24

구글 AI 인프라 책임자의 경고 : '우리는 여전히 수요를 심각하게 과소평가하고 있다' (바로가기)

Vera Rubin의 6칩 공동설계

2025-12-19

블랙록 2026 전망 : AI CAPEX $8T 시대를 열기 위한 '금융 보릿고개'를 지나는 중 (바로가기)

2025-12-17

AI 버블론을 잠재우는 숫자들 : 엔터프라이즈 AI $37B 시장의 현주소 (바로가기)

2025-12-04

엔비디아 펀더멘탈 체크 : 구글 TPU의 추격? 시장점유율에 대한 생각, 아시아 공급망 체크 (바로가기)

2025-10-08

오픈AI 퇴사자의 글 #1 : 2027년 AGI가 온다 (바로가기)

VR200의 성능 지표

2025-10-03

엔비디아 CEO 젠슨황 인터뷰 : 오픈AI 10GW 동맹 x 극한의 풀스택 공동 설계 (바로가기)

2025-09-26

AI 사이클 한 눈에 보기, SemiAnalysis 인터뷰 : 승부사 젠슨황 그리고 화웨이의 역습 (바로가기)

투자자문 서비스에 따른 투자 시 원금 손실이 발생할 수 있으며, 투자 손익에 대한 책임은 전적으로 고객에게 귀속됩니다. 또한 과거의 투자수익이 미래의 수익률을 보장하지 않습니다.

신규 구독 전에, 아래 투자자문계약 권유문서의 계약 관련 제반 사항을 반드시 읽으시고 충분히 검토하시기 바랍니다.

제품명 변경과 훈련 비교

*투자자문계약 권유문서 : https://naver.me/5ZST47Qf

엔비디아 CES 2026 : ⓐVera Rubin ⓑFull Production ⓒContext Memory

공급망 체크 : NVIDIA, Broadcom, AMD, AWS, MediaTek, Marvell

투자의 생각 : 엔비디아(NVDA)

엔비디아 CES 2026

ⓐVera Rubin ⓑFull Production ⓒContext Memory

CES 2026에서 중요했던 것들

처리량과 토큰 비용

2026년 엔비디아의 첫 번째 키노트를 마쳤습니다. 작년의 CES 2025는 살펴볼 게 많이 없었고 GTC 2025에서 중요한 것들이 많이 나왔는데, 이번에는 현 시점에서 꽤 중요한 포인트들이 있었던 이벤트였습니다. Physical AI 등 미래를 준비하는 작업들은 제외하고, 현 시점의 펀더멘탈에 영향을 주는 부분들만 정리해봤습니다.

Vera Rubin : Extreme Co-design

이번 아키텍처는 6개의 칩으로 구성된 하나의 시스템이고 이전보다 훨씬 더 co-design을 강조한 칩들입니다.

추론의 경제학

6가지는 ⓐVera CPU ⓑRubin GPU ⓒConnectX-9 Spectrum-X SuperNIC ⓓBlueField-4 DPU ⓔNVLink 6 Switch ⓕSpectrum-X Ethernet CPO로 구성되어 있습니다.

VR200 NVL72를 GB200/300 NVL72와 비교할 때 성능을 보면: NVFP4 추론은 3.6EFLOPS로 5배, NVFP4 훈련은 2.5EFLOPS로 3.5배, 랙당 LPDDR5X 용량은 서버당 54TB로 3배 늘고, HBM 용량은 20.7TB로 1.5배, HBM4 대역폭은 1.6PB/s로 2.8배, 전체 Scale-up 대역폭은 260TB/s로 2배 향상됐습니다.

추론 서비스의 세 가지 축

*VR200 NVL72의 원래 이름은 NVL144였습니다만, GPU 다이 기준이 아닌 GPU 패키지 수 기준으로 정리하면서 VR200 NVL72로 이름이 바뀌었습니다. VR300 NVL576의 이름은 VR300 NVL144로 바뀔 것으로 예상합니다.

GB200 NVL72 vs VR200 NVL72 비교

왼쪽 차트는 10조 개의 파라미터 모델 훈련에 필요한 GPU의 수를 비교한 것입니다. xAI의 Grok 5가 대략 7조 개 파라미터이기 때문에 프론티어 모델 훈련 상황을 살펴보기에 꽤 적절한 차트입니다.

VR200 랙 구성

프론티어 모델의 훈련 시간 단축은 곧 AI 기업의 비용 절감과 직결됩니다. 모델 출시 속도가 빨라질수록 시장 장악력과 추론 마진율을 높게 가져갈 수 있기 때문입니다. 차트로 보시면 동일 시간 기준, VR200 NVL72은 기존 GB200 대비 4분의 1의 GPU로도 훈련이 가능할 만큼 획기적인 퍼포먼스를 보여줍니다.

중간과 오른쪽 차트는 데이터센터 단위에서 낼 수 있는 토큰 처리량(Throughput)을 보여주는 차트입니다. 같은 전력, 같은 달러를 투입했을 때 얼마의 Throughput이 나오느냐가 'TCO 대비 퍼포먼스'의 핵심입니다.

Max Q와 Max P의 전력 프로필

엔비디아는 Kimi K2-Thinking(Reasoning) 모델 기준 GB200 NVL72에 비해서 10배 더 많은 Throughput을 달성했음을 강조했니다. 바꿔서 말하자면 하나의 토큰을 만드는 데 드는 비용은 10분의 1로 낮아졌다는 의미입니다.

같은 Hopper 대비 Blackwell에서 토큰 생성비용을 10분의 1로 낮췄었는데 → Blackwell 대비 Rubin에서 다시 한 번 토큰 생성비용을 10분의 1로 낮출 예정입니다.

추론의 경제학

Vera Rubin 양산 발언

위 차트에서 X축은 '사용자 한 명당 토큰을 생성하는 양'입니다. 한 명에게 더 많이 토큰을 빠르게 만들어줄 수록 사용자 경험이 좋아지고, 혹은 더 많은 컴퓨팅을 배정함으로써 더 똑똑한 품질의 답변을 제공할 수 있습니다. Y축은 데이터센터 기준 초당 토큰 생산량을 의미합니다. 여기에 많은 영향을 주는 게 batch size인데 이는 한 번에 병렬로 처리하는 사용자 요청 수를 의미합니다.

추론의 시대에 가장 중요한 가치는 "ⓐ달러당 초당 몇 개의 토큰을 생성하여 ⓒ서버당 몇 명의 사용자에게 ⓑ어느 정도의 지연속도로 서비스 할 수 있는가"입니다.

직접 공급하는 L10 트레이

ⓐThroughput ⓑLatency ⓒInteractivity까지 3개의 축이 있으며 하이퍼스케일러들은 이 모든 축에서 최고의 값을 낼 수 있는 지점에서 서비스합니다. 이 전체의 축들을 고려할 때 최적의 스팟 기준 토큰 추론비용을 10분의 1까지 낮출 수 있다는 것입니다.

Vera Rubin

VR200 Compute Tray는 Vera CPU 2개, Rubin GPU 4개, ConnectX-9 NIC 8개, BlueField-4 DPU 1개로 구성되어 있습니다.

생산 병목을 직접 푸는 이유

VR200 NVL72 랙 단위로 보자면 Compute Tray가 18개, NVLink 6 Switch Tray가 9개로 구성됩니다. NVLink 6 Switch가 Compute Tray 18개를 하나로 엮어 72개를 하나의 GPU처럼 연결하고, 이를 다른 랙들과 연결하는 Scale-out에 Spectrum-X Ethernet CPO 1개가 쓰입니다.

Rubin, 2가지 SKU

2025년 10월 중순에 Rubin에 대해 전해드린 내용처럼, 이번 Rubin GPU는 Max Q와 Max P 버전으로 출하될 예정입니다.

수율·리드타임·마진의 통제

Max Q는 칩은 1800W/랙은 190kW이고 Max P는 칩은 2300W/랙은 230kW입니다. 둘 다 GB300 NVL72의 칩 1400W/랙 140kW보다는 크게 높습니다. Max P를 만든 이유는 MI455X 대비 아웃퍼폼하기 위해 HBM4의 칩 스피드를 상향했기 때문이 크지만, 전력 프로필을 두 개로 나눠서 유지하고 있는 이유는 고객사들의 데이터센터 전력이 부족한 상황에서 배포의 유연성을 높이기 위한 조치입니다.

젠슨황 "Vera Rubin is in full production"

ICMS 발표와 시장 반응

젠슨황은 이번 CES 발표 도중, "6개의 칩으로 구성된 Vera Rubin 전체 세대 칩들이 양산을 시작했다("Our next generation GPU architecture, Vera Rubin, is now in full production.")"고 말했습니다. 좋습니다.

엔비디아가 Vera Rubin부터는 이전 Grace Blackwell Trasnsition에서 발생했던 오류를 다시 범하지 않고자 L10 Compute Tray를 엔비디아가 직접 공급하고 이 조립 과정에서도 아예 대량생산에 특화된 구조를 설계했습니다.

컨텍스트 메모리가 커지는 이유

VR200 Compute Tray는 케이블, 호스, 팬이 없습니다.

이전에는 수작업이 필요했던 것들을 최대한 대량생산에 적합하도록 만들어서 트레이 1개당 2시간씩 걸리던 생산시간을 5분으로 단축시켰습니다. 이처럼 L10 Compute Tray를 엔비디아가 직접 생산하여 서버 기업들에게 공급함으로써 얻는 이점은 크게 두 가지입니다.

생산 병목 해결 : 현재 GB200 NVL72 랙은 Foxconn, Wistron 같은 서버 ODM이 Compute Tray 등을 조립/생산하고 있습니다.

KV Cache의 역할

하지만 이 과정에서 수율이 기대만큼 오르지 못하고 생산 병목 현상이 발생하자, 엔비디아는 차세대 랙의 폭발적인 생산량 증가를 위해서는 이 문제를 직접 해결해야 한다고 판단했습니다. 그리고 앞으로 더욱 더 전력밀도나 냉각밀도가 높아질 것이므로 개별 기업들의 R&D로는 충분히 해결되지 않으니 데이터센터 단위에서도 충분히 잘 작동하도록 하는 과정이기도 합니다.

마진 극대화 : 엔비디아가 L10 Compute Tray를 직접 생산해 공급하면, 더 많은 공급업체가 관여하며 발생하는 변수를 통제할 수 있습니다.

기존 메모리 계층

이는 수율과 양산 리드타임을 직접 컨트롤하는 동시에, 기존에 파트너사가 가져가던 마진까지 엔비디아가 흡수할 수 있음을 의미합니다. NVL72를 통해서 NVLink를 Scale-up의 핵심으로 만들고 엔비디아가 그 과정에서 CPU 및 네트워킹 제품에 대한 매출 및 마진을 가져가는 것과도 비슷한 맥락입니다. 물론 이 모든 과정에는 TCO 대비 퍼포먼스를 끌어올리기 위한 고민이 제1이겠지만 그 속에서 매출과 마진에도 순풍이 부는 구조를 설계했습니다.

G1~G4의 각 역할

NVIDIA ICMS(Inference Context Memory Storage) 플랫폼

젠슨황은 CES 발표 당시, "HBM만으로 GPU의 컴퓨팅을 지원하기에는 턱없이 부족하며, 메모리 병목 현상은 더욱 더 심화되고 있다(With existing high-bandwidth memory, it’s far from sufficient to support GPUs, and the memory bottleneck is only getting worse)"고 말했습니다.

G4로 밀릴 때의 병목

해당 코멘트와 함께 발표된 NVIDIA ICMS 플랫폼이 CES 2026의 핵심이자 SSD 및 메모리 기업들의 주가가 상승한 배경입니다.

전체적인 흐름부터 정리해봅니다.

Context Memory의 문제

LLM의 사용 사례가 챗봇 → Reasoning → Agentic AI로 진화함에 따라 메모리는 더 많이 필요해지기 때문에 그렇습니다. 여러 번 생각하는 구조로 갈수록(시퀀스 길이가 증가할수록), KV Cache가 계속해서 증가하기 때문입니다.

Pod 안에 추가된 ICMS

에이전트는 특히 계속해서 LLM이 두뇌 역할을 하며 다양한 서비스를 드나들기 때문에, 중간 결과나 도구 사용 등에 대한 장기 기억을 훨씬 더 많이 필요로 합니다.

Transformer 기반에서 추론 컨텍스트 기억은 KV Cache를 통해서 이뤄집니다. 추론 컨텍스트를 보관함으로써 모델이 새로운 토큰을 생성할 때마다 다시 처음부터 계산하지 않도록 하는 것입니다. 기록하고 쓰지 않는 구조가 아니라 추론 컨텍스트는 다시 꺼내서 쓰고 하는 작업을 반복하기에 내구성이나 속도, 전력과 비용의 효율성도 중요합니다.

150TB SSD와 Pod 단위 확장

추론 컨텍스트에서 KV Cache가 옮겨다니던 메모리 계층을 정리해봅니다.

HBM → System DRAM → Rack Local SSD → Shared File

엔비디아는 NVIDIA Dynamo를 통해서 스토리지 계층 전반에 걸쳐 추론 시 사용되는 KV Cache를 관리하고 있습니다. 구조적으로 보면 이렇게 되어 있었습니다.

G1 (GPU HBM) : 답변을 생성 중인 활성화된 데이터용입니다. 속도가 매우 빨라야 하고, 지연시간이 핵심인 작업에 사용됩니다.

G3.5 계층의 효율 논리

G2 (System DRAM) : HBM의 용량이 부족할 때 데이터를 임시로 옮겨두는 공간입니다.

G3 (Local SSD) : 짧은 시간 안에 다시 사용될 가능성이 있는 Warm data를 저장합니다.

G4 (Shared Object/File) : 당장 처리에 필요하진 않지만 보관이 필요한 Cold data를 보관합니다.

G1은 접근 속도에 최적화되어 있고, G3와 G4는 데이터 보존에 최적화된 구조입니다. 그런데 문제는 AI가 다루는 컨텍스트 윈도우가 점점 더 커지다보니 데이터 양이 늘어남에 따라 KV Cache가 Local Storage였던 G1~G3를 빠르게 소진시키고 Enterprise Storage 레벨인 G4까지 데이터를 이동시킬 수밖에 없는데, 이 과정에서 병목이 커진다는 게 문제입니다.

Dynamo·NIXL·DPU·네트워크

비용과 전력 소비 모두를 증가시키는 길이었습니다.

Pod 내의 Inference Context Memory Storage의 위치

이에 엔비디아가 Rubin부터는 컴퓨팅 Pod을 구성할 때 ICMS를 GPU와 직접적으로 연결하여 쓸 수 있게 했습니다. 위의 VR200 DGX SuperPod 구성을 보시면, 양 옆으로 Context Memory 랙을 확인하실 수 있습니다. 이번 Rubin 플랫폼부터 새롭게 추가된 부분입니다.

ICMS가 만드는 SSD 수요 전망

지금보다 훨씬 더 메모리 집약적인 추론을 위해서 대규모 SSD를 마치 직접 GPU에 연결된 수준으로 가져다 쓸 수 있게끔 인프라를 짠 것입니다. ICMS을 통해서 BlueField-4 DPU 4개와 150TB 규모의 NVMe SSD를 탑재하면 GPU Pod당 PB 규모의 공유 스토리지가 생깁니다. 각 GPU당 추가로 16TB의 Context Memory를 얻게 되는 효과이며, Latency에 민감한 KV Cache의 상당부분이 이젠 ICMS에서 제공되므로 TPS는 5배 높아지고 기존 스토리지 연결구조 대비 전력 효율은 5배 높아지는 효과를 얻습니다.

HDD 수급과의 병존

추론 컨텍스트 처리가 GPU에서 멀어지면 멀어질수록 지연시간은 높아지고, 에너지 사용량과 토큰당 비용이 상승하며 전체적인 효율이 떨어지는 문제가 생깁니다. 그래서 아예 Pod 레벨에서 통합된 특수한 컨텍스트 메모리 계층을 만든 것이 NVIDIA ICMS입니다. G3.5 레벨입니다. KV Cache 데이터 액세스가 훨씬 더 빨라지고 GPU가 쓸 수 있는 메모리의 규모가 크게 증가하는 만큼 효율이 높아집니다.

이 과정에서 추론 레벨에서는 NVIDIA Dynamo와 NIXL(NVIDIA Inference Transfer Library)이 어떤 데이터를 언제 옮기고 어디에 옮길지 결정하는 소프트웨어 역할을 합니다.

1월 CoWoS 할당 변화

KV를 미리 옮겨 decode 병목을 줄입니다. 그리고 BlueField-4 DPU와 NVIDIA DOCA 프레임워크는 데이터 이동을 전담 처리하여 GPU의 부하를 줄이는 역할을 합니다. 네트워킹에서는 Spectrum-X Ethernet이 Rubin 컴퓨팅 노드(VR200 NVL72 or R200 HGX)과 BlueField-4 ICMS 스토리지 노드를 전체를 오가며 지연시간이 짧고 대역폭이 높은 패브릭 역할을 합니다. 아예 추론 컨텍스트에 맞게 시스템을 새롭게 설계한 것이자, 새로운 X Factor를 추가시킨 것입니다.

기업별 할당 증감

NVIDIA ICMS로 인해 달라지는 부분

2026년 하반기 VR200 NVL72 양산과 함께 도입될 NVIDIA ICMS으로 달라질 부분 중, 가장 큰 것은 SSD 수요가 이전에 비해서 레벨업 될 것을 예상합니다. 이제는 단순 저장소 역할이 아니라 추론의 Inner Loop에 속하기 때문입니다. 추론 메모리로 쓰이는 특성상 SSD 중에서 고성능 엔터프라이즈 NVMe SSD 제품군에 대한 수요가 증가하고, QLC 기반 고용랑 NAND 수요도 함께 증가할 것으로 예상합니다.

고객별 수요와 생산 계획

eSSD 분야에서는 SK하이닉스(솔리다임), 키옥시아, 샌디스크, 마이크론이 수혜를 입는 강도가 큽니다.

물론, NVIDIA ICMS으로 2026년 하반기부터 SSD 수요가 지금보다 더 늘어나는 것과 별개로 HDD 자체의 수요-공급도 쇼티지가 더욱 심해지는 구간입니다. 이부분은 아래의 공급망 체크에 정리했습니다.

공급망 체크

NVIDIA, Broadcom, AMD, AWS, MediaTek, Marvell

과거 할당 변화의 맥락

AI HW : 한 달 사이 더 강해진 수요

모건스탠리의 공급망 체크 결과, 2026년 1월 초 기준 GPU 및 ASIC 전반에서 추정치 상향이 있었습니다. 왼쪽의 2025년 12월 TSMC CoWoS 할당 테이블에 비해서, 오른쪽의 현재 2026년 1월 테이블은:

엔비디아 : CY26 할당이 800K → 875K(+75K)로 상향됐습니다.

브로드컴 : CY26 235K → 280K(+45K)로 상향

2025년 하반기 할당 이력

AMD : CY26 130K → 110K(-15K)로 하향 *Xilinx가 10K 차지*

미디어텍 : CY26 20K → 40K(+20K)로 상향

AWS/Alchip : CY26 70K → 80K(+10K)로 상향

Marvell : CY26 45K → 37K(-8K)로 하향됐습니다.

고객사별 분류

엔비디아는 단기적으로 GB200-GB300 수요가 더 크게 늘었습니다. Vera Rubin 6개의 칩이 생산에 들어갔으며, Amkor 및 ASE/SPIL의 CoWoS-S 생산라인을 통해 2026년 중국 하이퍼스케일러향 H200 200만 개의 주문을 처리할 예정입니다.

11월에서 12월의 상향

브로드컴은 이제 TSMC 내 TPU v8ax 칩 생산을 3Q26~4Q26부터 시작할 예정이며, TPU 수요에 대응하기 위해 Amkor향 CoWoS-S 30K 분량을 확보했습니다. 물량으로 보면 대부분의 TPU 물량은 여전히 TPU v7일 것으로 예상됩니다.

AMD는 추정치상 큰 변화가 없이 수요에 맞게 현실화된 것으로 판단되며, 마벨은 마이크로소프트의 Maia300 프로젝트가 순탄치 않아 CoWoS 용량 예약규모가 CY26 20K → 5K로 대폭 삭감될 것으로 예상됩니다.

HDD 부족 전망

히스토리를 보고 싶으신 분들을 위한

*2024년 12월 → 2025년 4월 → 2025년 7월입니다. 당시 변화를 요약하면: ⓐ엔비디아의 주문량이 늘었다가 수출규제로 감소했었습니다. ⓑ브로드컴, AMD, 인텔, Alchip 주문량이 감소했습니다. ⓒ마벨 주문량이 늘었습니다.

*2025년 8월 → 2025년 9월 → 2025년 10월입니다: ⓐ9월쯤 구글 TPU v7 주문량이 늘어서, 브로드컴의 CY26 CoWoS 할당이 150K → 210K로 크게 늘었습니다.

NAND와 HDD의 가격·용도 차이

ⓑ엔비디아의 Blackwell/Rubin 주문 수요가 워낙 강했어서 CY26 할당이 595K→ 685K로 크게 늘었습니다. ⓒAMD는 CY25 할당은 50K → 60K로, CY26도 함께 K → 105K로 늘었습니다. ⓓAlchip Trainium 3 할당이 50K → 70K로 늘었습니다. ⓔMediatek TPU v8 출하 일정이 지연되면서 CY26 할당이 20K → 10K로 줄었습니다.

CSP SSD 충족률

ⓕMarvell은 55K → 45K로 줄었습니다.

대만 체크 #1 - HDD/SSD 동향

마찬가지로 모건스탠리는 HDD 공급부족 현상이 향후 12개월 동안 200EB까지 확대될 것으로 봤습니다.

AI 서버 주문 동향

3개월 전에는 12개월 동안 100~150EB 부족할 것이라고 봤는데 50~100EB만큼 늘어난 것입니다.

GB당 NAND 가격은 $0.10를 넘고, HDD의 평균 가격은 GB당 $0.013이기 때문에 4Q25까지 구매비용 차이가 최대 10배 가까이 나는 상황이라 서로가 서로의 자리를 해칠 것이라고 보이진 않습니다. eSSD가 HDD를 대체하는 구조라기보다는 서로 다른 영역에서 엄청난 수요를 보이고 있다는 생각입니다.

AI 서버의 병목 부품

CSP들의 SSD 수요 충족률은 아직 40%에 불과합니다. 미충족률이 60%입니다. 고객 수요 증가와 향후 전망에 대한 긍정적인 예측이 점점 더 강화되는 상황 속에서, SSD/HDD 공급 증가 여력은 제한적이기 때문에 그렇습니다. 공급 과잉은 없으며 계속해서 수요가 부족한 상태가 이어질 것으로 예상합니다.

대만 체크 #2 - AI 서버 동향

xAI는 2025년 11월 말, 델에 GB300 NVL72 랙 3,000개를 주문했고 2026년 3~4월쯤 납품 예정입니다.

PC 선구매와 사양 조정

코어위브의 GB300 NVL72 랙도 델을 통해 1,000개 정도 주문이 들어갔습니다. 그리고 더 많은 네오클라우드들이 델에 주문을 넣고 있습니다. Nscale, IREN도 델에 GB300 랙을 주문했습니다. 그리고 특이한 부분은 이제 엔터프라이즈 AI 수요도 본격화되는 구간이기 때문에 금융 회사들도 델에 GB300 랙을 최대 1,000개까지 주문한 것으로 파악됩니다.

대형·소형 OEM의 메모리 조달

AI 서버 OEM 기업들에게 이제 엔비디아의 GPU는 가장 큰 병목요소가 아닙니다. GPU도 부족하기는 하지만, 엔비디아의 BlueField-3 DPU("BF3"), ConnectX-8 NIC("CX8"), DRAM, SSD가 AI 서버 생산량을 늘리는 데 병목이 되는 주 요인으로 작용하고 있습니다.

대만 체크 #3 - PC 동향

엔비디아 투자 판단

1Q26 PC 수요는 양호한 수준입니다. 메모리 가격이 오르다보니 가격 인상 우려 속에 선구매가 증가하여 그렇습니다. PC 가격 자체는 아직 4Q25 수준에 있지만 메모리 비용이 크게 올랐다보니 PC 제조업체들이 1Q26 가격을 채널 파트너사들과 재협상 중입니다. 주요 PC OEM들의 메모리 가격 상승 대응 전략은 보급형 모델의 가격은 동결하면서, 부품 공급업체와 비용을 분담하거나 스펙을 낮추는 방식으로 수익성을 유지할 예정입니다.

CES 발표에서 본 네 가지 요인

대부분의 512GB SSD 스펙이 256GB로 대체되고 있습니다.

메모리 제조업체들은 대형 PC OEM인 Dell, HP, Lenovo, Asus와의 공급협상을 조금 더 우선시 하고 있습니다. 상대적으로 소규모 OEM은 메모리 공급 확보에 어려움을 겪고 있어 스팟가 변동에 더욱 취약해지는 중입니다.

투자의 생각 : 엔비디아(NVDA)

ICMS와 마이크론에 대한 결론

엔비디아(NVDA) 25년 PER 40배 → 26년 PER 20배, EPS CAGR 3Y 60%, PEG 0.67배 : CES 2026 이후로도 엔비디아 Overweight을 유지합니다. Vera Rubin은 현재 정상 생산 중입니다. 양산은 2Q26부터 시작되며 → VR200 NVL72 랙 완성 후 판매는 3Q26부터 본격 기여할 것을 예상합니다, 이번 CES 2026 기조연설에서는 ⓐL10 Compute Tray를 대량생산에 적합하도록 설계한 부분, ⓑ45℃정도의 액체를 냉각수로 쓸 수 있도록 하여 고객사들 입장에서 냉각비용을 아낀 점, ⓒNVIDIA ICMS을 통해서 Agentic AI 워크로드에서 앞서갈 수 있도록 준비한 것, ⓓ중국향 H200 출하가 본격 반영되기 시작한 점 등이 좋았습니다.

원문 끝

이번 발표의 핵심은 NVIDIA ICMS이었으며 eSSD에 대한 수요가 더 높아질 것을 예상합니다. 엔비디아도 경쟁역량을 높인다는 점에서 좋았지만 메모리 기업들에게도 긍정적이었기에 마이크론도 Overweight를 유지합니다.

그럼에도 빠진내용 정리

잡담·곁다리 내용

별도 참고사항이 없습니다.

생략 기록

별도 생략 기록이 없습니다.

그럼에도 빠진내용 정리

압축·생략	원문 텍스트는 flow에서 처음부터 끝까지 구간 순서대로 보존했다. 원문에 포함된 차트·이미지는 별도 미디어 원장이 없고, 본문에 적힌 설명과 수치만 정리했다.
불확실한 표현	VR300 제품명 변경, 특정 주문·할당·납품 일정, SSD 수요와 CoWoS 전망은 원문의 예상·파악·판단 표현을 그대로 보존했으며 독립 확인 사실로 바꾸지 않았다.
운영·고지	관련 글 목록, 투자손실 고지와 계약 권유문서 URL도 flow 앞부분에 원문 그대로 남겼다.

원문 확인

document_work_runner prepare가 입력 원문을 수정 없이 보존했다.

원문 다운로드 새 창에서 보기