2026.08.28 · 유튜브 · 인포마켓 강용운

메모리 헤게모니는 엔비디아로? - NVHBM의 정체 | 인포마켓 강용운 대표

시장 흐름

투자

유형
유튜브
날짜
2026.08.28
강연자/작성자
인포마켓 강용운
분석 주제
미지정
자료 길이
전사문 4,865자
1

문서 전체 조망

핵심 구조

NVHBM은 HBM의 구조 변경을 넘어 엔비디아가 메모리 연결 표준까지 넓히려는 구상이다

메모리 컨트롤러를 HBM 베이스 다이로 옮기고 직렬 연결을 도입하면 대역폭과 전력을 개선하면서 HBM 배치의 자유도가 커진다. 이 변화는 TSMC의 역할을 키우고 맞춤형 메모리·인터커넥트 시장의 주도권을 엔비디아 쪽으로 옮길 수 있다는 해석으로 이어진다.

컨트롤러를 베이스 다이로 되돌린다

현재 GPU에 있는 HBM 메모리 컨트롤러를 베이스 다이로 옮기는 NVHBM은 엔비디아 설명 기준 HBM4 대역폭을 30% 높이고 전력을 15% 낮춘다.

NVLink Fusion이 HBM까지 이어진다

타사 칩에 NVLink를 개방한 NVLink Fusion과 NVHBM을 함께 발표한 것은 칩 간 연결뿐 아니라 칩과 HBM의 연결도 엔비디아 체계 안에 넣으려는 신호로 본다.

직렬 연결이 수평 확장의 길을 연다

1024개·2048개 선을 쓰는 초광폭 병렬 연결을 SerDes 직렬 연결로 바꾸면 GPU와 HBM 사이 거리를 벌릴 수 있어, 적층 높이의 한계를 더 많은 HBM을 옆으로 배치하는 방식으로 보완할 수 있다.

TSMC와 엔비디아의 영향력이 커진다

복잡해진 베이스 다이는 TSMC의 제조 우위를 키우고, 연결 표준을 가진 엔비디아는 메모리 3사를 양산 공급자로 두면서 수익성이 높은 맞춤형 시장을 장악하려 할 수 있다는 판단이다.

ANALYSIS VIEW사건별 사실과 작성자의 판단, 지속 정보를 나누어 읽기
2
발생·예정 사건과 출처별 관점

이슈 분석

이 자료가 이슈의 어떤 사실을 다루고, 작성자가 무슨 결론을 어떤 근거로 내렸는지 원문에 붙여 읽습니다.

3
사실·구조, 해석·전망, 시점 관찰, 판단 방법

지식·관점

사건 밖에서도 다시 참고하거나 다른 자료와 비교할 가치가 있는 내용을 대상과 반복 가능한 논점으로 묶습니다.

사실·구조HBM 메모리 컨트롤러와 베이스 다이기준 2026.08.28

메모리 컨트롤러를 GPU에서 HBM 베이스 다이로 옮기면 무엇이 달라지는가?

이 자료가 더한 내용

현재 HBM의 메모리 컨트롤러는 GPU에 있지만 NVHBM은 이를 베이스 다이로 옮기며, 베이스 다이는 적층된 메모리 다이의 신호를 모아 GPU로 보내는 역할을 한다.

근거 보기 1
  1. 원문 구간 1

    [260828] 메모리 헤게모니는 엔비디아로? - NVHBM의 정체 | 인포마켓 강용운 대표 인포마켓 강용운 안녕하세요. 인포마켓 구독자 여러분. 오늘은 MVHBM에 대해서 이야기를 하려고 합니다. 경천 동지할 내용이던데요. 좀 살펴보니까 메모리 해계모니가 비디아로 가느냐 이런 제목이 되겠습니다. 비디아가 실적 발표한 다음에 항상 주가가 빠졌는데 이번에는 많이 올랐지 않습니까? 그래서 지금 IT주들이 동반 반등을 했는데요. 이게 슬며시 MVHB빔이라 걸 내 놨어요. 이게 뭐냐면 HBM의 베이스 다이에 메모리 컨트롤러를 집어넣겠다는 겁니다. 어 이때까지는 그러면 베이스 다이에 메모리 컨트롤러가 없었냐? 없었거든요. 베이스 다이 뭔지 아시죠? 로직 다이 여러 개 겹친 다음에 제일 밑에 있는게 베이스 다이 아닙니까? 이게 로직 다이에서 신호를 모아 모아 가지고 한구에서 배를 떠나 보내듯이 수많은 병렬 연결을 통해서 집에 신호를 보내는 역할이 베이스다이가 하는 거거든요. 거기에 이제 메모리 컨트롤러를 집어넣겠다는 거죠. 이때까지는요.이 메모리 컨트롤러가 HBM의 경우에는 GPU에 있었습니다. 원래는 베이스다에 있는게 맞아요. 하지만 제조 난이도라든가 여러 가지 목적 때문에 GPU에 있었다고요. 이거를 이렇게 돌리면 다시 원위치로 복귀하면 어떻게 되느냐? HBM 4 대에서 대폭이 30% 증가한다고 엔비디아가 이야기를 했거든요. 전력도 15% 감소한다고 합니다. 대어폭 30% 증가하면 지금 안 그래도 대어폭하고 용량 때문에 골머리를 앓고 있는데 엔비디아로서는 굉장히 반가운 일이겠죠. 자체 연구를 해 보니까 이렇게 되더라는 건데 이렇게 되면 누가 좋겠습니까?

원문에서 제시한 근거

엔비디아가 자체 연구 결과로 제시한 HBM4 대역폭 30% 증가와 전력 15% 감소 수치를 근거로 든다.

근거 보기 1
  1. 원문 구간 1

    [260828] 메모리 헤게모니는 엔비디아로? - NVHBM의 정체 | 인포마켓 강용운 대표 인포마켓 강용운 안녕하세요. 인포마켓 구독자 여러분. 오늘은 MVHBM에 대해서 이야기를 하려고 합니다. 경천 동지할 내용이던데요. 좀 살펴보니까 메모리 해계모니가 비디아로 가느냐 이런 제목이 되겠습니다. 비디아가 실적 발표한 다음에 항상 주가가 빠졌는데 이번에는 많이 올랐지 않습니까? 그래서 지금 IT주들이 동반 반등을 했는데요. 이게 슬며시 MVHB빔이라 걸 내 놨어요. 이게 뭐냐면 HBM의 베이스 다이에 메모리 컨트롤러를 집어넣겠다는 겁니다. 어 이때까지는 그러면 베이스 다이에 메모리 컨트롤러가 없었냐? 없었거든요. 베이스 다이 뭔지 아시죠? 로직 다이 여러 개 겹친 다음에 제일 밑에 있는게 베이스 다이 아닙니까? 이게 로직 다이에서 신호를 모아 모아 가지고 한구에서 배를 떠나 보내듯이 수많은 병렬 연결을 통해서 집에 신호를 보내는 역할이 베이스다이가 하는 거거든요. 거기에 이제 메모리 컨트롤러를 집어넣겠다는 거죠. 이때까지는요.이 메모리 컨트롤러가 HBM의 경우에는 GPU에 있었습니다. 원래는 베이스다에 있는게 맞아요. 하지만 제조 난이도라든가 여러 가지 목적 때문에 GPU에 있었다고요. 이거를 이렇게 돌리면 다시 원위치로 복귀하면 어떻게 되느냐? HBM 4 대에서 대폭이 30% 증가한다고 엔비디아가 이야기를 했거든요. 전력도 15% 감소한다고 합니다. 대어폭 30% 증가하면 지금 안 그래도 대어폭하고 용량 때문에 골머리를 앓고 있는데 엔비디아로서는 굉장히 반가운 일이겠죠. 자체 연구를 해 보니까 이렇게 되더라는 건데 이렇게 되면 누가 좋겠습니까?

해석·전망HBM 직렬 연결과 배치 자유도기준 2026.08.28

GPU와 HBM의 연결을 병렬에서 직렬로 바꾸면 메모리 배치가 어떻게 달라지는가?

이 자료가 더한 내용

1024개 또는 2048개의 짧은 선을 쓰는 초광폭 병렬 연결은 신호 도착 시간 차이 때문에 GPU와 HBM을 가깝게 붙여야 하지만, SerDes 기반 직렬 연결은 거리를 벌릴 수 있어 같은 GPU 주변에 더 많은 HBM을 수평으로 배치할 수 있다고 본다.

근거 보기 2
  1. 원문 구간 1

    이걸 또 외부로 돌린게 외부에서도 쓸 수 있도록 한게 MV 링크 퓨전이거든요. AW에서 어떻게 쓰느냐? 어, 트레니엄 칩 안에이 외부에서 쓸 수 있도록 설계를 좀 집어넣는 겁니다. 그러니까 세로라든가 이런 걸 좀 집어넣어서 어, MV 링크를 쓸 수 있도록 개조를 하겠죠. 그럼 칩과 칩이 연결되는 것 아닙니까? 그런데요. 칩과 칩만 연결하면 뭐 합니까? 칩과 HBM도 연결을 할 수 있어야 되잖아요. 어, 이번에 딱 두 개가 같이 발표한 거는 무슨 말이냐면이 메모리 컨트롤러를 베이스다에 집어넣는 것과 함께 링크 퓨전을 이용해서 칩과 HBM도 연결하겠다는 이야기입니다. 그러면은 칩과 지금 HBM 연결이 초광폭 병렬 연결돼 있잖아요. 1024개 2048개의 아주 짧은 구류선이 신호를 왔다 갔다 하게 하고 있는데 그거를 직렬 연결 바꾸면 어떻게 되느냐? 쓰데스가 직렬이거든요. 백렬 신호를 직렬로 바꾼 거. 좀 멀리 떨어뜨려도 신호가 왔다 갔다 할 수 있습니다. 그러니까 요거하고요 사실을 더하면요. HBM을 GPU에 직렬로 연결하겠다는 거에 다름 아니거든요. 야 증거가 있냐? 정항 증거 아니냐는데 아닙니다. 과거에 HMC라는게 있었다고요. 하이브리드 메모리 큐브라는게 있었는데 이게 이거하고 똑같습니다. 이게 2010년 초에 마이크론 테크놀로지가 업계에 제한을 한 건데 이제 엔비아가고 HMC를 가지고 고민을 하다가 HBM으로 온 거죠. 업기 전체가 HMC를 포기한 겁니다. 근데 이거는 지금 다시 HMC로 가겠다는 거잖아요. 이때 베이스다이에 메모리 큐브도 들어가 있었고요.이 베이스다이하고 GPU의 신호 연결을 직렬로 했었다고요.

  2. 원문 구간 2

    HBM 제조 기술이 지금 한 개 도달했다는게 엔비디아 인식인데 하이브리드 본더가 제가 안 된다고 말씀드렸잖아요. 12단 16단은 TC 본드로 가능하거든요. 근데 지금 하이브리드 본드가 제가 안 된다고 말씀드렸는데 삼성전자에서조차도 HB 5 다음에서 한번 시도해 보겠다라고 한 발 물러난 상태거든요. 그거는 디싱 때문에 그렇습니다. 많은 사람들이 된다고 자꾸 이제이 희망 해로를 돌리는데 물리학자들은 그게 불가능하다고 이미 단정을 하고 있단 말이에요. 어 엔비디아도 지금 눈치를 챘습니다. 그래서 적층의 한계가 있으니까 수직에서 수평으로 바꿔 보자는 거거든요. 수평으로 바꾸려면이 메모리 배치의 자유도가 획득이 돼야 됩니다. 무슨 말이냐면 지금은 요게 GPU면 위아래만 지금 HBM을 배치할 수 있거든요. 양옆은 신호 전송이기 때문에 안 된다고요. 기껏 해 봐야 여덟 개 정도인데 뭐 칩을 길게 늘어뜨리면은 옆으로 쭉쭉 붙일 수가 있겠지만 현재론 여덟 개가 한 개라고요. 왜 이렇게 되냐면 이거와 이거가 초강폭 백렬 연결을 하다 보니까 다닥다닥 붙여야 되는 문제점이 있거든요. 1024개, 2048개 초강폭 병렬 연결을 하면 스큐 때문에 정말 다닥다닥 붙여야 됩니다. 그러니까 배치를 더 많이 할 수가 없는 거죠. 하지만 요거를 몇센M 떨어뜨릴 수 있게 된다면요. 여기에다가 이렇게 또 배치할 수 있는 거 아니에요. 그렇게 되면은 같은 GPU에 수평적으로 더 많은 HBM을 배치하게 되는 그런 자유도가 획득된다는 이야기거든요. 요걸 지금 노리고 있는 겁니다. 이게 최종 목적이라고요. 요렇게 되면요. 기술적인 어떤 뭐 지평의 학장 이런 것보다도 우리한테 딱 떠오르는 어떤 하두가 있습니다.

원문에서 제시한 근거

과거 HMC의 직렬 연결 구조와 삼성·엔비디아의 PCB HBM 실장 연구, 최대 448Gbps까지 발전한 SerDes 전송 속도를 근거로 제시한다.

근거 보기 1
  1. 원문 구간 1

    똑같단 말이에요. 그때는 안 되던데 왜 지금 하냐? 기술이 그동안 발전을 했으니까 충분하다고 엔비디아가 보는 거죠. 또 다른 증거는 뭐냐면 삼성하고 M비D하고 몰래 연구를 했습니다. 작년말에 삼성이시D램에 수유를 잡았다고 제가 말씀을 드렸잖아요. 생산팀에서 기적적으로 잡았는데 리퀴지를 그래서 지금 HBM의 실력이 급상승 한 것 아닙니까? 삼성에 그때 M비디아 연구진이 놀래 가지고 삼성에 왔습니다. 그래서 같이 연구를 했었는데요. HBM 5도 만들어 봤다고 제가 말씀드렸죠. 어, 심지어는 PCB에다가 HBM을 실장하는 그런 것도 같이 해 봤다고 하더라고요. PCB에 올리는게 바로 직렬 연결이거든요. 초광폭 백렬 연결은이 실리콘 칩이 필요하죠. 인터포저라는게 실리콘으로 만든 것 아닙니까? 그게 필요한데 서데스로 가면요 충분히 PCB에서 올릴 수 있거든요. 그래서 삼성하고 엔비디아가 PCB 실장 연구를 공동을 한게 또 간접 증거가 되는 겁니다. 왜 이렇게 할 수 있냐? 서데스 기술이 발전을 했다고요. 448기 bps까지 전성 속도를 지금 올리고 있습니다. 이런 기반 기술이 소리 소문 없이 발전한게 있고요. 이거는 이제 제가 좀 더 나중에 해온 영상에서 말씀드리겠는데 이게 결국에는 어떻게 되냐면 광우로 연결하려고 할 거예요. Hmm하고 GPU 사이. GPU와 GPU 사이를 다 강로 연결할 거거든요. 그러니까 첫 번째 순서가 메모리 컨트롤러고요. 두 번째가 이제 MV 퓨전이면 세 번째가 이제 이거를 다 강로 바꿔 버린다고요. 단계가 3단계인데 요거를 지금 생각해서 사전 작업을 지금 미리 하겠다는 거라고요. 그럼 이러면 어떻게 되겠습니까?

해석·전망엔비디아의 메모리·인터커넥트 표준 전략기준 2026.08.28

엔비디아는 연결 기술을 통해 메모리 시장의 주도권을 어떻게 넓히려 하는가?

이 자료가 더한 내용

NVLink를 타사 칩에 개방하고 HBM까지 같은 연결 체계에 넣으면 엔비디아 표준의 범위가 칩 간 연결에서 메모리 연결로 확장되며, 맞춤형 시장의 수익을 엔비디아가 가져가는 구조가 될 수 있다고 해석한다.

근거 보기 3
  1. 원문 구간 1

    TSMC가 좋을 수밖에 없잖아요. 왜냐면 베이스 다일은 이때까지 TSMC가 만들어 왔는데 가뜩이나이 작은 공간에이 반열 문제 같은 거 해결하면서 어려운 회로를 집어넣었었는데 메모리 컨트롤러까지 집어넣으면 더 복잡해질 거 아닙니까? 이게 제조가 올라가니까 이거를 할 수 있는 회사는 TFCMC밖에 없다는 논리거든요. 물론 삼성도 하지만 아직까지는 파운더리 기술이 TSMC가 우이죠. 그래서 지금 인터넷 상항에서는 TSMC가 수혜를 받는다이 정도로 분석을 그치고 있는데요. 실제로 더 깊은 의미가 있습니다. 그거를 이해를 하려면 이제 MV 링크 퓨전도 좀 들여다 보셔야 되는데 MVH 발표할 때 같이 발표한 거거든요. 슬밋이 요게 뭐냐면은 이제 MB대가 자랑하는 MV 링크를 타사에서도 자유롭게 쓸 수 있도록 개조한 겁니다. MV 링크 퓨전 있죠? 퓨전미가 그런 건데 최초로 아마존의 AWS가 이거를 도입하겠다고 어 발표를 했어요. 어디에 도입을 하느냐? 트레니엄이라고 자체 칩 있지 않습니까? GPU하고 대응되는 거. 그 칩과 칩끼리 연결할 때 요거를 도입하겠다고 했어요. 어떻게 연결하느냐? M 링크라는 게요. 서데스 기반의 물리 영역에다가 전송 프로토콜을 얹은 거거든요. 어, 물리 영역이라는 거는 상하수도로 설명을 하면 하수도 간, 상수도 간 이런 것처럼 물리적 실체를 이야기를 하는 겁니다. PHY가 피지컬 레이어의 준말이거든요. 근데 상하수도 간이 깔려 있다 하더라도 이게 물을 어떻게 보내고 어떻게 또 하는가 이런 거는 프로그램이 있어야 되잖아요. 그거를 전송 프로토콜이라고 하는데 요거는 일종의 프로그램입니다. 그래서 요거 하에 하에다가 여기 더한게 MV 링크고요.

  2. 원문 구간 2

    이걸 또 외부로 돌린게 외부에서도 쓸 수 있도록 한게 MV 링크 퓨전이거든요. AW에서 어떻게 쓰느냐? 어, 트레니엄 칩 안에이 외부에서 쓸 수 있도록 설계를 좀 집어넣는 겁니다. 그러니까 세로라든가 이런 걸 좀 집어넣어서 어, MV 링크를 쓸 수 있도록 개조를 하겠죠. 그럼 칩과 칩이 연결되는 것 아닙니까? 그런데요. 칩과 칩만 연결하면 뭐 합니까? 칩과 HBM도 연결을 할 수 있어야 되잖아요. 어, 이번에 딱 두 개가 같이 발표한 거는 무슨 말이냐면이 메모리 컨트롤러를 베이스다에 집어넣는 것과 함께 링크 퓨전을 이용해서 칩과 HBM도 연결하겠다는 이야기입니다. 그러면은 칩과 지금 HBM 연결이 초광폭 병렬 연결돼 있잖아요. 1024개 2048개의 아주 짧은 구류선이 신호를 왔다 갔다 하게 하고 있는데 그거를 직렬 연결 바꾸면 어떻게 되느냐? 쓰데스가 직렬이거든요. 백렬 신호를 직렬로 바꾼 거. 좀 멀리 떨어뜨려도 신호가 왔다 갔다 할 수 있습니다. 그러니까 요거하고요 사실을 더하면요. HBM을 GPU에 직렬로 연결하겠다는 거에 다름 아니거든요. 야 증거가 있냐? 정항 증거 아니냐는데 아닙니다. 과거에 HMC라는게 있었다고요. 하이브리드 메모리 큐브라는게 있었는데 이게 이거하고 똑같습니다. 이게 2010년 초에 마이크론 테크놀로지가 업계에 제한을 한 건데 이제 엔비아가고 HMC를 가지고 고민을 하다가 HBM으로 온 거죠. 업기 전체가 HMC를 포기한 겁니다. 근데 이거는 지금 다시 HMC로 가겠다는 거잖아요. 이때 베이스다이에 메모리 큐브도 들어가 있었고요.이 베이스다이하고 GPU의 신호 연결을 직렬로 했었다고요.

  3. 원문 구간 3

    이러면은 매물이 3 사이에 힘이 약해진 것 아니냐? 약해집니다. 일단은 엔비디아가 노리는 건요. 강연 시장을 다 잡아 먹겠다. 지금 이제 엔비디아 표준에 도전하는 어 개방 형태의 연결 그런 프로토콜에 도전한 회사들이 많거든요. 근데 엔비디아가 봐서는 어 그건 우리가 원하는 그림이 아닌데 우리 MV 링크를 시장 표준으로 해야 되겠다 이거죠.이 이 TSMC를 지렛대로 이용을 해서 연결하는 것까지 돼 버리면요. 강으로 되면 HBM을 굳이 적청하지 않아도 피로 싸우면 되는 거니까 메모리 3 4를 일종에 컨디티 그러니까 양산형 회사로 묶어 둔 다음에 실제 돈이 되는 맞춤형 시장은 엔비디아가 다 먹겠다. 이런 전략으로 가는 거죠. 어, 여전히 메모리 수요는 있기 때문에 메모리 3, 어떤 케파가 낮아진다. 이건 절대 아니고요. 계속해서 생산량은 늘어나지만 그 이상으로 엔비디아가 해계모니를 획득하겠다 이렇게 보시면 되겠습니다. 지금 이런 상황에서 어떻게 우리가 투자 전략을 짜야 되느냐? 그리고 엔비디아가 이렇게까지 밀어붙일 수 있는 또 자신감은 어떻게 되느냐? 그거는 또 깊은 분석을 요구를 합니다. 그래서 그거는 또 차차 말씀을 드리겠습니다. 정말 이렇게 순가쁘게 돌아가죠. 시장이 너무 메모리 일본도로 완전히이 메모리 3사가 해계문의를 제약해서 미래의 돈은 다 메모리 회사로 들어온다고만 생각하시면 안 될 것 같습니다. 좀 다양하게 보셔 가지고 기술이라는 건 항상 확장되고 또 더 깊은 곳으로 파고는 거니깐요. 그런 주의점을 생각하시면 되겠습니다. 네. 감사합니다.

원문에서 제시한 근거

AWS의 트레이니엄 도입 발표와 TSMC의 베이스 다이 제조 우위, 메모리 업체의 생산량은 줄지 않더라도 힘은 약해질 수 있다는 판단을 연결한다.

근거 보기 2
  1. 원문 구간 1

    TSMC가 좋을 수밖에 없잖아요. 왜냐면 베이스 다일은 이때까지 TSMC가 만들어 왔는데 가뜩이나이 작은 공간에이 반열 문제 같은 거 해결하면서 어려운 회로를 집어넣었었는데 메모리 컨트롤러까지 집어넣으면 더 복잡해질 거 아닙니까? 이게 제조가 올라가니까 이거를 할 수 있는 회사는 TFCMC밖에 없다는 논리거든요. 물론 삼성도 하지만 아직까지는 파운더리 기술이 TSMC가 우이죠. 그래서 지금 인터넷 상항에서는 TSMC가 수혜를 받는다이 정도로 분석을 그치고 있는데요. 실제로 더 깊은 의미가 있습니다. 그거를 이해를 하려면 이제 MV 링크 퓨전도 좀 들여다 보셔야 되는데 MVH 발표할 때 같이 발표한 거거든요. 슬밋이 요게 뭐냐면은 이제 MB대가 자랑하는 MV 링크를 타사에서도 자유롭게 쓸 수 있도록 개조한 겁니다. MV 링크 퓨전 있죠? 퓨전미가 그런 건데 최초로 아마존의 AWS가 이거를 도입하겠다고 어 발표를 했어요. 어디에 도입을 하느냐? 트레니엄이라고 자체 칩 있지 않습니까? GPU하고 대응되는 거. 그 칩과 칩끼리 연결할 때 요거를 도입하겠다고 했어요. 어떻게 연결하느냐? M 링크라는 게요. 서데스 기반의 물리 영역에다가 전송 프로토콜을 얹은 거거든요. 어, 물리 영역이라는 거는 상하수도로 설명을 하면 하수도 간, 상수도 간 이런 것처럼 물리적 실체를 이야기를 하는 겁니다. PHY가 피지컬 레이어의 준말이거든요. 근데 상하수도 간이 깔려 있다 하더라도 이게 물을 어떻게 보내고 어떻게 또 하는가 이런 거는 프로그램이 있어야 되잖아요. 그거를 전송 프로토콜이라고 하는데 요거는 일종의 프로그램입니다. 그래서 요거 하에 하에다가 여기 더한게 MV 링크고요.

  2. 원문 구간 2

    이러면은 매물이 3 사이에 힘이 약해진 것 아니냐? 약해집니다. 일단은 엔비디아가 노리는 건요. 강연 시장을 다 잡아 먹겠다. 지금 이제 엔비디아 표준에 도전하는 어 개방 형태의 연결 그런 프로토콜에 도전한 회사들이 많거든요. 근데 엔비디아가 봐서는 어 그건 우리가 원하는 그림이 아닌데 우리 MV 링크를 시장 표준으로 해야 되겠다 이거죠.이 이 TSMC를 지렛대로 이용을 해서 연결하는 것까지 돼 버리면요. 강으로 되면 HBM을 굳이 적청하지 않아도 피로 싸우면 되는 거니까 메모리 3 4를 일종에 컨디티 그러니까 양산형 회사로 묶어 둔 다음에 실제 돈이 되는 맞춤형 시장은 엔비디아가 다 먹겠다. 이런 전략으로 가는 거죠. 어, 여전히 메모리 수요는 있기 때문에 메모리 3, 어떤 케파가 낮아진다. 이건 절대 아니고요. 계속해서 생산량은 늘어나지만 그 이상으로 엔비디아가 해계모니를 획득하겠다 이렇게 보시면 되겠습니다. 지금 이런 상황에서 어떻게 우리가 투자 전략을 짜야 되느냐? 그리고 엔비디아가 이렇게까지 밀어붙일 수 있는 또 자신감은 어떻게 되느냐? 그거는 또 깊은 분석을 요구를 합니다. 그래서 그거는 또 차차 말씀을 드리겠습니다. 정말 이렇게 순가쁘게 돌아가죠. 시장이 너무 메모리 일본도로 완전히이 메모리 3사가 해계문의를 제약해서 미래의 돈은 다 메모리 회사로 들어온다고만 생각하시면 안 될 것 같습니다. 좀 다양하게 보셔 가지고 기술이라는 건 항상 확장되고 또 더 깊은 곳으로 파고는 거니깐요. 그런 주의점을 생각하시면 되겠습니다. 네. 감사합니다.

4

시간흐름대로 모든 내용을 살려 정리

시간흐름대로 모든 내용을 살려 정리

1
실적 발표 뒤 모습을 드러낸 NVHBM

안녕하세요. 오늘은 NVHBM에 대해서 이야기를 하려고 합니다. 경천 동지할 내용이던데요. 엔비디아가 실적을 발표한 다음에는 항상 주가가 빠졌는데 이번에는 많이 올랐고, IT주들도 동반 반등했습니다. 그런데 그 안에서 NVHBM이라는 걸 슬며시 내놨어요.

이게 뭐냐면 HBM의 베이스 다이에 메모리 컨트롤러를 집어넣겠다는 겁니다. 여러 메모리 다이를 쌓았을 때 가장 아래의 베이스 다이가 신호를 모아 GPU로 보내는데, 지금까지 HBM의 메모리 컨트롤러는 제조 난이도 같은 이유로 GPU에 있었습니다.

2
대역폭 30%와 전력 15%의 변화

메모리 컨트롤러를 원래 있어야 할 베이스 다이로 돌리면 어떻게 되느냐? 엔비디아는 HBM4 대역폭이 30% 증가하고 전력은 15% 감소한다고 이야기했습니다. 지금도 대역폭과 용량 때문에 골머리를 앓고 있으니 엔비디아로서는 굉장히 반가운 일이겠죠.

그러면 누가 좋겠습니까? 베이스 다이를 만들어 온 TSMC가 좋을 수밖에 없잖아요. 작은 공간의 발열 문제를 풀면서 복잡한 회로를 넣어야 하는데 메모리 컨트롤러까지 들어가면 제조 난도가 더 올라갑니다. 삼성도 가능하지만 파운드리 기술은 아직 TSMC가 우위라는 논리입니다.

3
NVLink를 타사 칩에 여는 Fusion

인터넷에서는 TSMC 수혜 정도로 분석을 그치고 있는데 실제로는 더 깊은 의미가 있습니다. 그걸 이해하려면 NVHBM과 같이 발표된 NVLink Fusion을 봐야 합니다. 엔비디아가 자랑하는 NVLink를 타사에서도 자유롭게 쓸 수 있도록 개조한 것이고, 아마존 AWS가 자체 AI 칩 트레이니엄의 칩 간 연결에 도입하겠다고 발표했습니다.

NVLink는 SerDes 기반의 물리 계층 위에 전송 프로토콜을 얹은 겁니다. 상하수도 관이 물리적 실체라면 물을 어떻게 보내고 받을지를 정하는 프로그램이 프로토콜인 셈이죠. 트레이니엄 안에 필요한 설계를 넣어 칩과 칩이 NVLink로 연결되도록 하는 겁니다.

4
칩과 HBM도 직렬로 연결하려는 구상

그런데 칩과 칩만 연결하면 뭐 합니까? 칩과 HBM도 연결할 수 있어야 되잖아요. 메모리 컨트롤러를 베이스 다이에 넣는 NVHBM과 NVLink Fusion을 함께 발표한 것은, 칩과 HBM도 연결하겠다는 이야기로 봅니다.

현재 칩과 HBM은 1024개나 2048개의 아주 짧은 선을 통한 초광폭 병렬 연결입니다. 이것을 SerDes 직렬 연결로 바꾸면 좀 멀리 떨어뜨려도 신호가 오갈 수 있어요. 두 발표를 더하면 HBM을 GPU에 직렬로 연결하겠다는 것과 다름없다는 겁니다.

5
HMC와 삼성 공동 연구라는 간접 근거

정황 증거뿐이냐고 할 수 있지만 과거 HMC, 하이브리드 메모리 큐브가 있었습니다. 2010년대 초 마이크론이 제안했고 업계가 결국 HBM을 택하며 포기했지만, 베이스 다이에 메모리 컨트롤러가 들어가고 GPU와 직렬로 연결되는 구조는 지금 구상과 똑같습니다. 똑같단 말이에요. 그때보다 기술이 발전했으니 엔비디아는 이제 충분하다고 보는 거죠.

또 삼성과 엔비디아가 HBM5와 PCB에 HBM을 실장하는 방식을 함께 연구한 것도 간접 증거라고 봅니다. 초광폭 병렬 연결에는 실리콘 인터포저가 필요하지만 SerDes 직렬 연결이면 PCB 실장이 가능하고, SerDes 전송 속도도 최대 448Gbps까지 올라왔습니다.

6
최종 단계로 예상한 광 연결

조금 더 나중에 할 영상에서 말씀드리겠지만 결국에는 GPU와 HBM 사이, GPU와 GPU 사이를 다 광으로 연결하려고 할 거예요. 첫 번째가 메모리 컨트롤러 이동이고, 두 번째가 NVLink Fusion, 세 번째가 광 연결입니다. 지금부터 그 사전 작업을 하는 거라고 봅니다.

엔비디아는 HBM 제조 기술이 한계에 도달했다고 인식하는 것으로 보입니다. 12단·16단은 TC 본딩으로 가능하지만 하이브리드 본딩은 디싱 문제 때문에 어렵고, 삼성전자조차 HBM5 다음에 시도하겠다며 한발 물러났다고 봅니다.

7
수직 적층의 한계를 수평 배치로 푼다

적층에 한계가 있으니 수직에서 수평으로 바꿔 보자는 겁니다. 지금은 1024개나 2048개의 초광폭 병렬 연결에서 생기는 스큐 때문에 GPU와 HBM을 다닥다닥 붙여야 하고, 배치할 수 있는 HBM도 기껏해야 여덟 개 정도입니다.

직렬 연결로 몇 센티미터 떨어뜨릴 수 있다면 여기, GPU의 양옆까지 HBM을 더 배치할 수 있어요. 같은 GPU에 수평으로 더 많은 HBM을 놓을 자유도를 얻는 것, 이게 최종 목적이라고 봅니다.

8
메모리 3사의 생산은 늘어도 힘은 약해질 수 있다

이렇게 되면 메모리 3사의 힘이 약해진 것 아니냐? 약해집니다. 엔비디아는 개방형 연결 프로토콜의 도전을 밀어내고 NVLink를 시장 표준으로 만들려는 겁니다. TSMC를 지렛대로 연결까지 장악하면 HBM을 꼭 높이 적층하지 않고 옆으로 늘릴 수 있고, 메모리 회사를 양산 공급자로 묶어 둔 다음 실제 돈이 되는 맞춤형 시장은 엔비디아가 다 먹겠다는 전략으로 갑니다. 이렇게 보시면 되겠습니다.

그렇다고 메모리 3사의 생산능력이나 수요가 낮아진다는 것은 절대 아니고요. 생산량은 계속 늘어나지만 그 이상으로 엔비디아가 헤게모니를 가져가려는 겁니다. 투자 전략과 엔비디아가 밀어붙일 자신감은 더 깊은 분석이 필요하니 다음에 말씀드리겠습니다. 정말 이렇게 순가쁘게 돌아가죠. 미래의 돈이 모두 메모리 회사로만 들어온다고 생각하지 말고 기술이 확장되는 방향을 다양하게 봐야 합니다.

5

그럼에도 빠진내용 정리

잡담·곁다리 내용
  • NVHBM·NVLink·SerDes·HMC·PHY 등 명백한 고유명사 자동전사 오류를 문맥에 맞게 보정했다.
  • 삼성과 엔비디아의 공동 연구 대목은 화자가 제시한 간접 근거로만 보존했다.
생략 기록
  • 인사말과 뜻 없는 말더듬·기계적 반복 외에는 실질 내용을 생략하지 않았다.

그럼에도 빠진내용 정리

압축/생략
인사말과 같은 뜻을 반복한 연결 발화만 정돈했으며, 기술 구조·수치·근거·산업 판단은 flow에 회수했다.
잡담/운영
투자 전략과 엔비디아의 자신감에 관한 후속 분석은 다음 영상에서 다루겠다는 예고를 마지막 flow에 남겼다.
전사 오류 가능성
자동 자막의 MVHBM·MV 링크·쓰데스·대어폭·강로 등은 문맥상 NVHBM·NVLink·SerDes·대역폭·광으로 바로잡았다. 삼성 HBM 수율·리키지 관련 문장은 인식 오류가 커 세부 수치를 단정하지 않았다.
원문 확인

document_work_runner prepare가 입력 원문을 수정 없이 보존했다.