[몰아보기] HBM 시장 지각변동, 내년엔 크게 바뀐다!!

[260905] [몰아보기] HBM 시장 지각변동, 내년엔 크게 바뀐다!! IT의 신 이형수 아신을 위한 테크 내비게이터 아테네. 네. 시작하기 앞서서 간단하게 홍보 말씀. 네. 아시죠? 21기 실전 투자 스터디가 9월 1일부터 10월 20일까지 8주 동안 시작됩니다. 관심 있으신 분들은 댓글 상단 링크를 통해서 많이 신청해 주세요. 네, 질문 받겠습니다. >> 반도체 쏠림 경제의 결말로 핀란드, 스위스, 대만 세 가지 시나리오가 제시되는데요. 각각 어떤 길을 걸었고 무엇이 운명을 갈랐나요? >> 네. 요즘에 사실 이제 반도체 거의 뭐 원툴처럼 이야기를 많이 하는데 사실 반도체 경제가 굉장히 커지긴 했습니다.

우리나라 입장에서 보면 제가 뭐 한 10년 15년 전에 반도체 담당 기자할 때만 해도 그냥 한 달 수출해서 반도체가 차지하는 비중이 10%대 초중반 정도거든요. 포항 슈퍼사이클 때도 그 정도밖에 안 되는데 요즘에는 그냥 한 달 매출에 40%가 반도체입니다. 그만큼 이제 우리나라가 반도체 의존도가 심화됐다라고 볼 수 있는 거고. 자, 이게 그러면 좋은 거냐 나쁜 거냐 따져봤을 때 좋은 점도 있고 나쁜 점도 있습니다. 좋은 점은 지금 뭐 AI 쪽이 워낙 좋으니까 우리가 이제 거기에 편승해서 반도체가 또 우리나라 경제에 큰 도움이 되고 있다라는 건 분명한 거 같은데 안 좋은 거는 우리 산업의 포트폴리오가 깨지고 있다라는 거.

그리고 이제 반도체의 어떤 업항에 따라서 우리 경제가 흔들릴 수 있다라는 거는 안 좋은 점인 거 같고요. 그러면 이제 우리하고 좀 비슷한 상황의 국가들을 한번 봐야 되는데 사실 이제 핀란드라는 국가가 노키아한테 엄청나게 의존하는 국가였잖아요. 근데 이제 피처폰에서 노키아가 전 세계 1등 사업자였는데 스마트폰 시대로 접어들면서 노키아가 완전히 몰락겠죠. 그러면서 핀란드 경제가 굉장히 크게 흔들렸습니다. 이게 이제 워스트 케이스. 네. 우리가 이제 반도체가 다운 사이클이 올 거잖아요. 그러면 핀란드의 사태는 피해야 된다. 자, 이게 있을 것 같고. 자, 그러면 어느 정도 이제 버티면서 성숙기로 접어들어가는게 스위스 같아요.

스위스는 제약업에 굉장히 의존하고 있습니다. 그래서 제약 산업이 좋을 때는 좋은데 제약 산업 자체가 이게 굉장히 이제 약간 세츄레이션 되고 있죠. 그러면서 더 잘되지도. 그렇다고 뭐 아주 나빠지지도 않는 그런 상황에 접어들었는데 이게 뭐 나쁘지 않은 정도인 거 같고 베스트 케이스가 대만 같아요. 대만이 TSMC 덕분에 엄청난 호황을 누리고 있죠. 선진국 경제 규모인데도 불구하고 지금 경제 성장률이 거의 뭐 할싱글 정도 기록하고 있으니까 우리가 가야 할 길은 이제 TSMC를 가진 대만 같은 길이 아닐까 생각합니다. >> 대만은 IT 수출 비중이 80%인 급단적 일급 경제인데도 왜 붕괴하지 않고 14% 이상 고성장을 이어갈 수 있었나요?

일단 이제 대만은 IT의 거의 80%를 의존한다고 보시면 됩니다. 그러니까 사실은 데마디 진짜 원투이에요. IT 원투이고 그 IT 중에서 TSMC가 사실상 경제에 거의 절반을 차지한다고 보시면 돼요. 시가 총액 기준으로 보면 거의 40% 초중반까지 차지하거든요. 그러니까 거의 뭐 대만 갖고온 지수에 반 정도는 TSMC라고 보시면 되고 그 밸류 체인까지 합치면 더 되겠죠. 우리나라가 최근에 삼성전자고 SK 하이닉스가 코스피에서 차지하는 비중이 거의 50% 중만까지 올라왔는데 좀 어떻게 보면 기시감이 들죠. 대만은 그래서 한정된 자원을 모두 그냥 거의 IT 쪽에 오인했습니다. 그래서 연구 개발이라든지 이런 것들도 임재라든지 이런 것들도 그냥 잘되는 쪽에 집중하자.

어중하게 뭐 하는 거보다는 그냥 IT 쪽에 집중하자라고 했는데 이게 주요했어요. TSMC가 사실 80년대 창업한 이래로 그냥 아주 고부가 산업은 아니었는데 이게 결정적인 계기가 저는 스마트폰 모바일 혁명이었던 거 같습니다. 그때 2010년대 초반에 TSMC의 PR이 10배 정도 받았는데 2010년대 중반으로 가면서 이게 15배 거의 뭐 20배까지 올라왔는데 그때 뭐가 있었냐면 TSMC가 공정 경쟁력에서 선당 공정에서 경쟁사를 압도를 했습니다. 누군지 아시죠?네 삼성 파운더리입니다. 삼성 파운더리를 선단 공정에서 완전히 압도를 했고 그리고 이제 첨단 패키징을 완전히 자각하면서 표준을 주도했죠.

그래서 모바일에서 그때 막 뜨던 클라우드. 예. 그래서 데이터 센터 쪽도 관련된 칩들을 거의 다 먹었고 이게 이제 AI 혁명에서 완전히 이제 날개를 달았죠. 호랑이가 날개를 달았다 이렇게 보시면 되는데 그런게 지금 대만의 어떤 경제에서 상당한 역할을 하고 있다. 이렇게 보시면 됩니다. 한국은 IT 수출 비중이 54%로 대만보다 낮은데요.이 차이가 솔림 경제 부작용을 흡수하는데 실제로 어떤 도움이 되나요? >> 어, 그렇죠. 이제 우리가 경제 성장률 2% 3% 그러면 이제 굉장히 불만족스러우신 분들이 있을 거예요. 왜냐면 제 채널 보시는 분들이 보통 40대 후반에서 한 60대까지가 메인이거든요. 사실 50대 40대 50대가 제일 많으신데 사실 그분들이 열심히 경제 활동하실 때는 뭐 지금도 열심히 하시긴 하지만 굉장히 우리나라가 고성장 경제였단 말이죠.

그래서 대만 같은 이런 이제 경제 상상률을 불러하실 텐데 또 한편으로 생각해 보면 우리나라 경제 구조가 굉장히 튼튼한 거죠. 우리가 이제 조선도 있고 방산도 있고 배터리도 있고 소비제도 있고 전통 시클리클도 있고 자 이런 것들이 결국은 반도체가 꺾이더라도 그냥 하방을 지지해 줄 수 있다라는 건 되게 좋은 거 같아요. 그리고 이제 우리나라가 지금 소프트 파워도 강화되고 있어서 K파, K 컬처 이런 것들이 또 소비제에도 큰 도움이 되고 있죠. 요즘에 보면 뭐 길거리의 외국인들 되게 많이 보이시죠? 네. 그런 것들이 결국 우리 내수에도 도움이 된다라고 봐야 되겠죠. 그래서 우리나라는 반도체 지금은 거의 원투이긴 하지만 설사 워스트 케이스로 반도체가 꺾이더라도 속사에 구멍이 있는 나라다.

그런데 대마는 반도체 꺾이면 굉장히 곤란한 나라다. 사실 이제 핀란드에 가까워지겠죠. 대마는. 그런데 우리나라는 핀란트처럼 꺾이지 않는다. 이렇게 보시면 될 것 같습니다. >> 대만이 1인당 GDP에서 한국을 추월했는데도 실제 노동자들의 체감 소득은 한국보다 낮은 이유는 무엇인가요? >> 그니까 우리나라에서도 K자형 경제 구조가 굉장히 우려를 사고 있죠. 그러니까 사실 삼성전자 SK 하이닉스 다니면 굉장히 이제 고소득을 누릴 수 있고 요즘에 이제 특별 인센티브 받아 가지고 아파트 산다라고 해서 동탄이 들썩거리고 자 이런 것들이 이제 사회적으로 이제 굉장히 이슈가 되고 있는데 대만도 마찬가지예요.

TSMC 다니면 엄청나게 돈을 잘 벌고 잘 먹고 사는데 사실 근데 전체 노동자 중에서 그런 사람들은 굉장히 소수죠. 예. 그러다 보니까 이제 이런 것들이 좀 우려가 되고 있는 상황이고 그리고 이제 대마는 1인당 GDP로 보면 우리나라를 넘어섰지만 실제로 대졸 초입 임금이나 이런 것들 보면 뭐 일본도 마찬가지입니다만은 굉장히 낮아요. 그래서 사실 집세 내고 나면 남는게 거의 없다라고 할 정도예요. 뭐 우리나라도 헬조선 헬조선 이야기하지만 대만이나 일본에 비하면 이제 굉장히 나쁘지 않은 상황이라고 볼 수 있고 실질적으로 이제 임금 소득이 높다라고 볼 수 있죠. 그래서 임금 소득이 높으니까 우리나라는 이제 이게 망할 부동산이 문제긴 한데 부동산은 대출근 갚느라고 소비할 여력이 없는데 이게 이제 대마도 마찬가지거든요.

근데 진짜 대마는 하청 중심의 산업 구조를 가지고 있단 말이죠. 네. 그러다 보니까 OEM, ODM 중심이다 보니까 임금이 되게 낫습니다. 뭐 TSMC는 굉장히 예외적인 케이스라고 볼 수 있고 그런 것들 보면 삶의 질 측면에서는 우리나라가 좀 더 낫지 않나 좀 생각 들어요. 그게 결국은 내수나 전반적인 경기에 도움이 된다 이렇게 보고 있습니다. >> 파운드리도 과거에는 메모리처럼 사이클을 탔다고 하는데 TSMC는 어떻게 사이클 산업에서 벗어나 독점적 가격 결정력을 갖게 됐나요? 결국은 경쟁력이죠. 네. 기술력입니다. 결국은 기술력으로로 압도를 해야 됩니다. TSMC가 사실 이제 경쟁자가 없잖아요.

TSMC가 선당공정 특히나 이제 이난노에서는 압도적인 경쟁력을 가지고 있고 그리고 AI 가속기는 TSMC 코어스라고 하는 첨단 패키징을 반드시 써야 됩니다. 그걸 고치지 않으면 AI 가속기를 만들 수가 없죠. 이제 이게 결국 기술력이라는 거죠. 그러면 이제 메모리도 마찬가지겠죠. 이런 압도적인 뭔가 기술력을 가지고 있어야 되는데 우리나라가 잘하긴 하지만 사실 미국에 마이크론이라는 회사가 있잖아요. 그러니까 이게 3강 구조다 보니까 TSMC보다는 좀 이제 사이클 영향이 있다라고 볼 수 있고 그리고 이제 디램에서는 메모리 3 업체 구조지만 랜드 플래시 같은 경우는 사실 플레이어가 더 많습니다. 일본의 키아도 있고 뭐 미국의 샌디스크도 있고 그러다 보니까 최근에 이제 중국이 부상하고 있는데 디램을 생산하는 CXMT보다는 랜드를 만드는 YMTC가 더 위협적이라고 보고 있거든요.

자, 이런 것들을 보면 우리가 기술력에서 더 강화해야 된다. 그리고 이제이 AI 시드에서 우리가 압도적인 경쟁력을 확보하기 위해서는 메모리를 파운드화 해야 된다. 지금처럼 커모디 구조로 시클리컬적인 성격을 벗어나야겠죠. 그래야 이제 우리도 TSMC처럼 시클리컬의 성격을 벗어나서 산업의 멀티플을 더 받을 수 있는 그 구조를 만들 수 있을 것 같습니다. >> 대마는 재정 흑자를 유지했고 핀란드는 부채가 쌓였는데요. 한국의 미래 대응 기금은이 두 사례와 비교해 어떤 선택인가요? 어, 일단 이제 핀란드는 노키아가 몰락하면서 이게 사실 실물에 미치는 영향이 되게 컸잖아요. 이제 고용이나 이런 쪽에 큰 영향을 주기 때문에 정부가 빚을 해서 버텼습니다.

근데 이제 사실 그 부채가 상당히 20년 동안 누적되면서 굉장히 이제 데미지가 있고요. 대만 같은 경우는 뭐 TSMC가 돈을 잘 버니까 뭐 법인세나 이런 것들이 이제 세수가 괜찮으니까 흑자 재정을 되게 많이 유지해 봤죠. 그래서 사실 뭐 재무 구조라든지 이런 것들은 되게 좋아요, 외국인들이. 근데 한편으로 보면 K자형 경제 구조를 극복하는 데는 큰 도움을 못 줬죠, 정부가. 그럼 이제 우리는 선택이 기록 있습니다. 우리가 지금 어떻게 보면 막대한 세수를 거두고 있잖아요. 그래서 내년에 뭐 진짜 슈퍼 예산 이야기하고 있고 그리고 이제 초과 세수에 대해서는 지금 그걸 미래 대형 기금을 만든다고 하지 않습니까?

이제 이걸 어떻게 쓸 거냐? 이게 이제 우리의 미래를 자할 중요한 변수가 될 것 같습니다. 그래서 결국 미래 대응 기금을 통해서 결국 이제 K자형 경제 구조를 어느 정도 완화를 하고 그리고 이제 첨단 기술을 더 해자를 강화해서 경쟁력을 더 이어가는게 중요하지 않을까? 결국 이게 AI 혁명이라는게 피지컬 AI 시대가 오지 않겠습니까? 이제 그때 우리가 큰 교회를 잡을 수 있다 그러면 진짜 이제 선진국들 중에서도 진짜 탑 클라스로 우뚝 살 수 있는 그런 가능성이 있다고 봅니다. 아신을 위한 테크 내비게이터 아테네.네 네, 질문 받겠습니다. >> 엔비디아가 루빈 울트라의 메모리 용량을 1024GB에서 512GB로 절반을 낮췄는데 어떤 기술적 문제 때문이고 이게 HBM 수요의 악재인가요?

어, 이것 때문에 이제 메모리 주가 조정에 빌미가 되기도 했는데요. 그러니까 이제 스펙을 다운그레이드 했다고 이제 표면적으로 보면 굉장히 나빠가 보이잖아요. 근데 이제 이유를 들어보면 끄덕끄덕하실 수 있습니다. HBM이 없어요. 메모리도 없습니다. 여러분 아시겠지만 HBM 1GB를 만들기 위해서는 봄용 메모리를 만드는 웨이퍼를 거의 두 세 배를 투입해야 됩니다. 그러니까 1GB바를 만들기 위해서 웨이퍼 한 장이 법용 메모리는 웨이퍼 한 장이 필요하다 그러면 HBM은 웨이퍼 세 장이 필요합니다. 그만큼 로스가 많죠. 네. 수열도 낮고 이걸 또 이제 적청해서 만들다 보면 거기서 또 많은 로스가 생깁니다.

그것 때문에 그래요. 그래서 HBM을 기존 스펙대로 하면 수량을 맞출 수가 없습니다. 그래서 엔비디아가 렉 시스템, 그레이스 블랙웰이나 베라루빈 뭐 이런 것들을 원하는 물량을 맞출 수가 없기 때문에 그래서 불가피하게 메모리 스펙을 다운하고 그리고 용량도 줄여 가지고 서버렉 출화량을 맞추기 위해서 고육 지책을 썼다. 이렇게 보시면 될 것 같습니다. >> 2027년 HBM 수요 증가율이 공급 증가율을 앞선다고 하는데 TSMC와 메모리 3사가 대규모 증서를 하는데도 왜 부족이 심해지나요? >> 어 그렇죠. 저게 AI 혁명이 시작되고 나서 계속해서 병목이는 회사가 있죠. 네. TSMC 특히나 TSMC의 첨단 패키징이라고 하는 코어스죠.

치본 웨이폰 서브스트레이트. 요게 이제 계속해서 병목이 되고 있고 뭐 그러면 TSMC가 입으로 그렇게 하냐? 아닙니다. 계속해서 공격적으로 케파 증설하고 있는데 그 케팔을 증설해도 수요가 늘어나는 속도가 더 빠른 겁니다. 근데 지금 이제 병목이 되는 거는 결국 TSMC 코워스인데이 코어스가 결국 엔비디아의 GPU 프로세스하고 그리고 이제 우리 SK 하이닉스하고 삼성전자가 만든 HBM을 같이 조립을 해서 2.5D 패키징으로 만드는 건데요. 이제는 코어스뿐만 아니라 메모리도 중요한 병목이 되고 있죠. 그래서 이제 이게 굉장히 문제가 되고 있고 이걸 해결하기 위해서는 결국은 스펙을 다운할 수밖에 없다 이렇게 보고 있습니다.

그니까 생각해 보시면 블랙웰이 플랫폼이 나왔을 때도이 블랙웰에서 블랙웰 울트라로 갈 때 스펙이 다운된 적이 있거든요. 그거는 이제 파운더리 때문에 그런 거죠. 그때는 코어스에 문제가 생겨서 그걸 이제 스펙을 좀 다운했었던 거고 그때 컴퓨터 구조를 원래는 비안카라는 구조를 쓰다가 요걸 이제 코델리아로 바꾸려고 했는데 코델리아를 못 바꾸고 결국 베라루빈 루빈에 이제 코델리아 구조를 쓰기로 했고 그리고 이제 카이버라는 새로운 렉 시스템을 또 루빈 울트라에 적용하기로 했는데 이것도 아마 좀 지연되는 이야기가 있죠. 그만큼 지금 병목이 되는 영역에서는 계속해서 기술 스펙이 다운되는 흐름이 나고 있습니다.

그래서 그렇게 보면 결국 병목을지고 있는 회사들 때문에 기술 스펙이 다운된다 이렇게 보면 될 것 같은데 그래서 메모리가 되게 나쁜 건 아니다 이렇게 보고 있습니다. >> HBM4 가격이 2027년에 65% 오를 것으로 전망되는데 원가 상승분보다 더 올릴 수 있다는 근거는 무엇인가요? 어, 지금 이제 내년 HBM 계약 가격이 굉장히 중요한 변수가 되고 있습니다. 굉장히 이슈가 되고 있어요. 왜냐면 작년 9월부터 법용 메모리 가격이 급등했어요. 근데 HBM 계약은 연단위로 하는데 사실 법용 메모리가 급등하기 전에 계약을 했겠죠. 지금 주력을 하는 HBM 3 12단이 메인이 될 텐데.

자, 그러면 이제 내년에 HBM 4를 지금 계약을 하는데 법용 메모리 가격 급등했습니까? 그러면 HBM 가격을 겁나게 올려야 됐는데요. 여기서 이제 SK 하이닉스 굉장히 전략적으로 이래적인 판단을 합니다. 그러니까 HBM 가격을 올릴 수 있는만큼 안 올린다는 이야기가 많이 나오고 있죠. 이거는 사실 확인을 해 봐야 되는 거긴 한데 원래 당축 주요 리서치 쪽에서는 HBM4 간격을 100% 그러니까 전작 대비해서 100% 많게는 150%까지 이야기를 했어요. 근데 최태훈 회장이 젠슨왕하고 만나서 큰 딜를 했죠. 어떤 딜를 했냐면 HBM 가격을 좀 깎아 준 거 같다. 대신에 엔비디아로부터 GPU나 데이터 센터 관련된 기술을 지원받기로 한 그런 이슈가 있었죠.

그래서 원래 그 이벤트가 나오고 나서부터 HBM에 대한 가격 추정체가 점점점 조금씩 낮아지고 있었었거든요. 그게 이제 어떻게 보면 SK 하이닉스 주가에는 좀 부정적이었죠. 그런데 이제 40조원 규모의 주주 반원 정책으로 이걸 다시 돌리긴 했지만 결국은 SK 하이닉스가 AI 산업의 생태적인 측면에서 이거를 이제 HBM을 활용하면서 당장 거둘 수 있는 이익에서는 HBM을 조금 이제 기대 이익을 조금 훼손한 것도 분명한 같습니다. 그래서 65% 인상률 정도로 지금 이제 전망치가 나오는 거고 이건 또 보긴 봐야 돼요. 근데 삼성전자는 또 스탠스가 완전 다르거든요. 올릴 수 있는만큼 올리겠다.

이런 기조기 때문에 좀 더 지켜봐야 될 것 같습니다. 계약 가격에 대해서는. >> HBM 시장이 2026년 104조원에서 2028년 400조원으로 네배 커진다는 전망인데이 성장의 실제 동력은 무엇인가요? 어, 지금 하이퍼스케일러들이 공격적으로 캠파 증서를 하고 있고요. 그러니까 올해 5대 하이퍼스케일러의 케펙스 총합이 한 7,500억 달러에서 한 8,억 달러까지 예상이 됩니다. 그리고 이제 내년은 1조 2천억 달러에서 1조 4,억 달러. 자,이 정도 규모가 되면 미국이 국방비 하는 예산을 뛰어넘어요. 그리고 이제 최근에 나온 UBS의 자료에 따르면 향후 3년간 그러니까 2027, 28, 29 향후 3년간 케펙 총 투자하는 금액이 4조 1천억 달러 정도 이야기하거든요.

그 엄청난 규모죠. 예. 그게 결국은 이제 HBM의 수요가 된다라고 볼 수 있는 거고 최근에 또 뭐가 나옵니까? 이제 엔비디아가 5,억 달러 규모의 플랫폼을 조성해서 이거를 GPU를 마치 항공기나 선박처럼 담보 자산화해서 이거를 금융화하려는 움직임이 있습니다. 그러면 거기서 더 또 제 3자에서 또 이제 자본을 투입받아서 또 더 캐팩스를 늘릴 수 있는 그런 흐름들이 나오고 있거든요. 이제 그게 또 HBM 수요에는 또 긍정적일 수 있고 그리고 이제 최근에 코어브나 네비오스나 아이나 이런 이제 네오클라운드 업체들도 굉장히 공격적으로 투자를 하고 있는데 이게 이제 데이터 센터를 설립하고 회수 비용이 빨라지고 있기 때문에 가능한 거거든요.

지금 그런 것들을 좀 보고 있는 거 같습니다. >> 하이퍼스케일러네 곳에 2027년 케펙스 전망치가 일제히 크게 상향됐는데요. 메타는 19%에서 45%로 두 배 넘게 올랐는데 무슨 변화가 있었나요? 결국은 군비 경쟁인데 이제는 뭐 프리캐시 플로우를 마이너스까지 전환되더라도 투자하겠다라는 거고 제가 이제 향후 3년간 하이퍼스러들의 케펙스 총합이 4조 1천억 달러 정도 이야기했잖아요. 올해만 놓고 보면 주요 하이퍼스케일러 업체들이 클라우드 사업에서 벌어들린 돈 대부분 거의 100% 이상을 AI 케펙스 쪽에 투입한다라고 봐야 될 것 같고 내년하고 내후년에도 그런 흐름이 이어질 것 같습니다.

그러니까 지금은 클라우드에서 나오는 매출 그니까 클라우드에서 나오는 이익이 아니라 매출의 대부분을 그냥 AI 케펙스를 집어넣겠다라는 거거든. 지금 거기에 보면 메타도 동참하는 거 같고 메타는 원래는 클라우드 서비스를 안 했죠. 그래서 원래 자기네들이 데이터 센터를 꾸려 가지고 그걸 자기네들이 썼는데 이제는 그거를 남는 컴퓨팅을 외부에다가 임대하겠다 뭐 이런 이야기를 하고 있습니다. 그래서 그게 사실상 클라우드 사업이라고 봐야 되는 거거든요. 이제 그런 것들 때문에 오히려 또 캐팩스는 더 공격적으로 바뀔 수 있다. 이렇게 보고 있어요. >> 스마트폰 안에서 메모리 원가 비중이 11%에서 46%로 네배 넘게 뛰었습니다.

이러면 스마트폰 가격은 어떻게 되고 소비자와 제조사 중 누가 부담을 지나요? >> 요즘에 애플 아이폰 가격 보시면 깜짝 놀라실 겁니다. 거의 몇백불 그냥 다 올라가 있어요. 이게 애플이 기습적으로 가격 인상을 단행했고 결국 이거는 메모리 가격 때문입니다. 그동안에는 계속해서 제조업체들이 이거를 떠났어요. 원가 부담을 떠안놨는데 이제는 그걸 떠안을 수 있는 수준이 아니게 된 거죠. 전체 BOM에서 원가 머티리얼 코스트에서 10% 대일 때는 어느 정도 가능하지만 지금은 거의 40% 대까지 올라왔기 때문에 이제는 고객들한테 전가할 수밖에 없습니다. 그럼 어떻게 돼요?

사람들이 어 스마트폰 너무 가격 올랐네라고 해서 구매를 미루거나 포기하게 되죠. 그런 일들이 벌어지고 있고 실제로 스마트폰 초화량이 올해 당초 계획보다 10% 가까이 줄어들 것 같습니다. 이거는 메모를 가격이 떨어지기 전까지 내년 내후년에도 이어질 수 있을 것 같고 그래서 당분간은 B2C 쪽에서는 메모리 수요가 아무래도 조금 이제 둔화될 수밖에 없을 것 같고요. 꺾일 수밖에 없을 것 같고 반대로 AI 인프라 쪽에서는 계속해서 공격적으로 투입할 것 같습니다. 왜? 구비 경쟁해야 되니까. 노트북은 메모리 가격 급등의 CPU 공급 부조까지 겹쳤다고 하는데 이게 PC 시장과 반도체 업체들에 각각 어떤 영향을 주나요?

어 그래서 원래는 메모리만 AI 인프라에서 블랙홀처럼 빨아들인다라고 했는데 최근에는 AI 에이전트 때문에 CPU까지 막 그런 영향을 주고 있습니다. 그래서 AI 에이전트가 되면 결국 오케스트레이션용 CPU 수요가 폭발적으로 증가하거든요. 근데 이제 CPU를 기존에 노트북 PC에서도 많이 쓰지 않습니까? 그런 것들이 이제 데이터 센터 향으로 많이 전환이 되는 거죠. 인텔도 대표적으로 보면 B2C용 라인업을 데이터 센터용으로 전환해서 많이 하려고 하거든요. 당장 돈이 되니까. 그런 것들이 결국은 메모리뿐만 아니라 CPU도 이제는 B2C 보다는 B2B AI 인프라 쪽을 쳐다보고 있다라 봐야겠죠.

그래서 제가 예전에 여러분들하고 이제 이렇게 이제 영상 이야기하면서 노트북 PC나 스마트폰 사실 분들은 빨리 사시라고 이야기한 바가 기억이 나는데 그게 이제 현실화되고 있다고 보셔야 됩니다. 이게 쉽게 해결이 될 것 같진 않아요. 아신을 위한 테크 내비게이터 아테네 시작하기 앞서서네 아시죠? 이번 주부터 21기 실전 투자 스터디가 시작됐습니다. 여러분들이이 영상을 보시는 시점에는 1회차 강의가 시작됐는데 지금이라도 참여하고 싶으신 분들은 댓글 상단 링크를 통해서 신청해 주시면 좋겠습니다. 네, 질문 받겠습니다. >> 예전 데이터 센터와 AI 데이터 센터의 트래픽 구조가 근본적으로 다르다고 하는데 식당과 오케스트라 비유로 설명하면 무엇이 달라지나요?

어 예전에는 데이터 센터가요. 트래픽이 사용자하고 서버간에 있었습니다. 그러니까 예를 들면 우리가 제일 많이 쓰던게 이제 쇼핑이잖아요. 우리가 이제 인터넷 쇼핑몰에 접속을 하면 사용자 요청이 서버로 가고요. 서버에서 데이터베이스를 검색해서 요거를 그냥 사용자한테 보내 주는 거죠. 그래서 어떻게 보면 쌍방향이잖아요. 그래서 요거를 이제 보통 노스 사우스 트래픽이라고 하거든요. 그러니까 뭐 이건 중요한 건 아닌데 그냥 요게 식당이라고 생각하시면 됩니다. 그러니까 데이터 센터가 주방이고 사용자는 식당에 온 손님이죠. 그러니까 식당 손님하고 주방하고 이렇게 커뮤니케이션에서 내가 주문하고 그냥 음식 받아서 먹고 하면 되는데 옆에 테이블하고 내가 뭐 이야기할 필요도 없는 거고요.

그냥 옆에 테이블이 늦게 먹는다고 해서 내가 뭐 음식 받는데 크게 문제도 없는 거죠. 근데이 AI 데이터 센터는 굉장히 달라요. 단순하지가 않습니다. 이게 뭐냐면 오케스트라라고 생각하시면 되는데요. 그냥 오케스트라는 결국 여러 악기를 가진 사람들이이 합주를 해서 이거를 청중한테 전달을 하지만 이거는 이제 결과값일 뿐이고 결국 내가 다 주변 음악을 들어야 되거든요. 내가 바이올린을 하지만 옆에 첼로나 피아노나 트럼패시나 이런 소리 다 들어야 되죠. 예. 그게 커뮤니케이션에요. 그러니까 네트워크 통신이 굉장히 복잡해지는 겁니다. 그래서 만약에 내가 합주를 하는데 누구가 한 명이 반박자 느려요.

그러면 어떻게 돼요? 나머지 9,999명이 그 속도에 맞춰야 됩니다. 그래서 그런 얘기를 하죠. AI 학습에서는 가장 빠른 GPU가 결정하는게 아니라 가장 느린 GPU가 결정한다. 그래서 이게 동시에 일어나는게 되게 중요하다라고 보실 수 있는데 쉽게 이야기하면 그런 거죠. 음. 음. 그래서 이게 올투 올이라고 하거든요. 그러니까 올투 올은 이게 거의 뭐 네트워크 지옥이라고 생각하시면 됩니다. 그러니까 1천명이라는 만약에 사람 있다 그러면이 1천명이 999명한테 동시에 말을 걸어요. 그러면 이게 총 트래픽 얼마나 터집니까? 100만 개가 터져요.

순식간에. 그러니까이 AI 데이터 센터의 네트워크는 굉장히 복잡하고 양이 많다 이렇게 보시면 됩니다. >> 올투올 통신이 가장 어렵다고 하는데 특히 MOE 모델이 왜이 방식에 의존하고 어떤 문제를 만드나요? >> 어 요즘에 AI 모델이 MOE 모델을 기본으로 채택하고 있죠. 예, 원래는 프랑스의 미스트랄 AI, 유럽의 자존심이라고 하는 미스트랄 AI가 ME 모델 가지고 제일 유명했는데 요즘엔 다 씁니다. ME 최근에 이제 문샷 AI가 내놓은 키미 K3 같은 경우도 MOE 모델이고요. 이게 뭐냐면 전체 데이터 센터가 있는데이 컴퓨팅을 다 돌리는게 아니라 내부에 여러 전문가를 두는 거죠.

역사 전문가를 두고, 과학 전문가를 두고, 철학 전문가를 두고. 자, 그래서 누가 질문을 하면 그 전문가한테 답변을 하게 하는 거죠. 자, 그러면 이게 문제입니다.이 전문가를 연결하려면 어떻게 돼요? 다 서로 커뮤니케이션 해야 되겠죠. 그래서 믹스처 오브 엑스퍼트라는이 모델 자체는 기본적으로 올투올이라는 통신 방식을 의존할 수밖에 없고 그게 결국은 엄청난 이제 네트워크 트래픽을 일으킨다고 보셔야 되고요. 또 하나가 또 이런게 있는 거 같아요. 그러니까 원래는 AI 인포라는 거 자체가 엔비디아가 제공해 주는 폐쇄적인 어떤 시스템을 기반으로 했었잖아요.

그래서 엔비디아 칩 사면 링크로 칩하고 칩되고 그리고 이제 스위치 그죠? 여기서 이제 스케일 업이 되고 그리고 이제 스케일 아웃은 인피니 밴드 통해서 스케일 아웃이 되고 자 그럼 엔비디아 시스템만 쓰면 크게 문제가 없는데 문제는 뭡니까? 엔비디아 칩이 부족하죠. 그러니까 어떻게 해요? 엔비디아 칩하고 빅테크들이 설계한 에이직하고 또 연결해서 써야 되는데 요게 또 막대한 네트워크가 필요하죠. 근데 여러분 생각해 보세요. 특정 업무를 담당하는 칩이죠. 근데이 워크로드가 어떻게 되는지 몰라요. 어떤게 생길지 모르죠. 그리고 항상 바뀌죠.

워크로드라는 게. 그럼 어떻게 돼요?이 연결이 더 복잡해집니다. 예. 그게 결국은 AI 네트워크 쪽에서 굉장히 수요가 된다라는 거죠. >> 택시 회사에 비유한 것처럼 네트워크에 추가로 돈을 쓰는게 왜 비용이 아니라 자산 회수인가요? 이걸 또 이제 택시 회사에 좀 비유를 많이 합니다. 그러니까 우리가 AI 네트워크가 AI 인프라에서 원래 10% 초반 비중 이야기하다가 20%까지 이야기하죠. 메모리가 원래는 10% 초반에서 지금 30%까지 늘었죠. 그러니까 AI 인프라 내에서 비중이 커지는 애들이 있는데 그게 대표적인게 메모리.

그다음에 이제 네트워크라고 보셔야 되는데 이렇게 이야기를 해 볼게요. 내가 택시 회사를 운영해요. 그러면 내가 차를 100대를 샀어요. 5천만 원짜리를 100대를 사면 어떻게 50억이죠? 50억인데 내 배 시스템이 엉망이에요. 그래서 어떻게 돼요? 운전 기사가 30% 맨날 놀다가는 거죠. 그러면 어떻게 돼요? 15억이 손해잖아요. 내가 50억을 투자해서 하는데 30%가 놀면 어떻게 15억이 날아가는 거죠. 그 놀고 있는 거죠. 그런데 여기에 배차 시스템을 업그레이드하는데 2억이 든다. 생각해 보세요. 그러면 2억을 비용이라 생각해야 됩니까?

이게 투자 회수라고 생각해야 됩니까? 그러니까 만약에 배차 시스템에다가 2억을 투자해서 기사들이 노는 비중이 30%에서 10%로 떨어진다. 어떻게 될까? 그니까 지금 AI 인프라에서 네트워크가 딱 차지하는 스탠스가 그렇다 보시면 됩니다. 그러니까이 비싼 GPU가 GPU 한대당 여러분 아시겠지만 4천만 원 5천만 원 하죠. 자 이게 놀아요. 네트워크가 구려 가지고 그러면 안 되겠죠. 그래서 지금 네트워크 쪽에 계속해서 예산이 더 많이 투입되는 겁니다. >> GPU 렉 하나가 300만 달러에서 700만 달러 정도인데 가동률을 85%에서 95%로 올리면 실제로 얼마나 이득인가요?

>> 어 그렇죠. 제가 방금 말씀드린 것처럼 택시를 100대를 샀는데 100대 샀는데이 중에서 많이 놀고 있으면 안 되죠. 그러니까 GPU 서버렉 같은 경우는 이게 싸면 한 300만 불, 비싸면 700만 불. 요즘은 800만 불까지 이야기하거든요. 근데 이거를 AI 케펙스를 투자하면 어떻게 감가 삼각이라는게 있는데 감가 상각을 항상 생각할 수밖에 없죠. 그러려면 가동률 높여야 되죠. 가동률 높려이니까 이게 지금 네트워크가 계속 병목이 되고 있는 겁니다. 그래서 네트워크 쪽을 더 고도화할 수밖에 없고 그쪽을 자꾸 돈을 더 많이 투자해서 네트워크 효율을 높이면 결국 노는 GPU가 적어진다.

이렇게 생각하시면 돼요. >> 데이터 센터의 진짜 제약이 GPU 개수가 아니라 전기라고 하는데 왜 전력이 병목이 되고 이게 투자의 어떤 의미인가요? 어, AI 혁명 초창기에는 GPU 누가 제일 많이 갖다 놓는지가 제일 중요했죠. 그때는 GPU만 있으면 다 해결된다고 생각했죠. 근데 지금은 뭐예요? 전기가 없어요. 전기가. 그러니까 지표 갖다 놓고 데이터 센터 져도 여기 연결할 수 있는 그레이드 인입이 안 되는 거죠. 그게 이제 병목이 되고 있는 건데 그 이유는 지금 미국이 전력 망차가 워낙 구려서 그렇죠.

예. 그래서 그게 이제 병목이 되고 있기 때문에 그런 건데 지금은 그 병목을지고 있는 회사들이 사실 돈을 번다고 보시면 됩니다. 그래서 원래는 초창기에는 GPU 업체 그러니까 엔비디아가 돈을 벌고 그다음에 TSMC 파운드리 그리고 참다 패키징이 돈을 보 메모리 이제 네트워크 전기 자 이런 식으로 계속 계속해서 병목이 옮겨가면서 부과 가치가 높아진다 이렇게 보면 되죠. 1MW로 토큰을 몇 개 만들 수 있는가가 핵심 지표가 됐다면이 관점에서 어떤 기업들이 수혜를 보나요? >> 어, 제가 본 영상에서 이런 이야기를 한번 한 적 있는 거 같아요.

그러니까 GPU 1만장을 같이 줘도 토큰을 뽑아낸 효율이 다르다. 자, 그게 결국은 누가 잘하느냐 봤더니 폴스택을 가지고 있는 애들이 잘하더라. 예. 하드웨어, 소프트웨어. 그리고 이제 서비스까지 가지고 있는 애들이 제일 잘하더라. 그게 이제 대표적으로 구글, 그리고 메타 또 하나가 스페이스 X죠. XAI 자 그런 사들 왜 잘하느냐 봤더니 제가 지금까지 계속해서 이야기했던게 뭐예요? 올투월 커뮤니케이션 이야기를 했잖아요. 거기서 병목을 업게 제일 잘 맞춘 애들이 제일 중요한데 자 그거를 예측을 하고 뭔가 하려면 결국 풀스택을 가지고 있는 애들이 제일 잘하더라.

서비스. 그러니까 토큰 효율화가 제일 뛰어나다. 토큰 생상성, 토큰 효율화가 제일 뛰어나는 업체들이 하이퍼스케일러들이 있더라. 하이퍼스케일러들 중에서도 특히나 서비스를 가지고 있는 애들이 잘하더라. 이런 이야기를 하는 겁니다. 네. 그러면 누가 수 보냐? 네. 방금 말씀드렸죠? 알파벳, 메타, 그리고 스페이스엑스 뭐 이런 회사들 보시면 좋을 것 같고요. 그리고 사실 뭐 아마존, 마이크로소프트도 괜찮습니다. 결국은 병목을 제일 잘 관리한 회사들이 앞으로 더 주목받을 수 있다.

이렇게 생각합니다. 제가 준비한 내용은 여기까지입니다. 21개 실전 투자 스터디가 이미 여러분들이이 보시는 시간에는 1월 차 강의가 끝났는데 녹화번호로 보실 수 있으니까 지금이라도 참여하실 분들은 댓글 상단 링크를 통해서 신청해 주시면 좋겠습니다. 네. 아신을 위한 테크 내비게이터 긴 시간 주셔서 감사합니다. 저는 또 다음에 뵙겠습니다. 여러분 안녕.