AWS AI 컴퓨팅 용량 문제와 고객 이탈 보도
작성자의 핵심 판단
작성자는 AWS가 자체 네트워킹과 ASIC의 TCO 대비 성능, GPU 용량에서 경쟁사보다 상대적으로 부진했다고 본다.
근거 보기 1
- 원문 구간 1
고객기반은 여전히 Azure보다 훨씬 크고, 데이터가 AWS에 많으므로 Bedrock을 통해 LLM을 만들고자 하는 니즈는 많았을텐데 자체 네트워킹이나 ASIC의 TCO 대비 퍼포먼스면에서 경쟁력이 떨어지는 구조라, 상대적으로는 부진합니다. 그동안 AWS는 NVDA를 들이기보다는 Trainium 2 & Titon을 사용하는 고객에게 컴퓨팅 할당을 우선해왔습니다. 기업 고객들은 GPU 기반으로 모델을 만들고 추론하기에 GPU 용량이 중요한데 그부분에서 경쟁사 대비 부족했던 셈입니다. 최근에는 Trainium 3을 기반으로 가격을 깎아 AI Labs 테넌트를 유치하려 하고 있는데, 안되면 NVDA GPU 기반으로 채우는 물량이 더 늘어날 것이라 예상합니다. ASIC 및 NVDA GPU간의 역학이 굉장히 예리하게 흘러가고 있다는 의미이고, 이번주 주간전략보고에서 전해드린 것처럼 Trainium 3의 칩 물량 성장률이 CY26에 그리 크지는 않다는 점도 비슷한 맥락(NVDA 생각보다 많이 살듯)인 것 같습니다.
이 자료에서 다룬 사실
Business Insider가 AWS의 캐파 문제로 7~9월 사이 AI 고객 일부가 이탈하고 있다고 보도했다고 전했다.
근거 보기 1
- 원문 구간 1
고객기반은 여전히 Azure보다 훨씬 크고, 데이터가 AWS에 많으므로 Bedrock을 통해 LLM을 만들고자 하는 니즈는 많았을텐데 자체 네트워킹이나 ASIC의 TCO 대비 퍼포먼스면에서 경쟁력이 떨어지는 구조라, 상대적으로는 부진합니다. 그동안 AWS는 NVDA를 들이기보다는 Trainium 2 & Titon을 사용하는 고객에게 컴퓨팅 할당을 우선해왔습니다. 기업 고객들은 GPU 기반으로 모델을 만들고 추론하기에 GPU 용량이 중요한데 그부분에서 경쟁사 대비 부족했던 셈입니다. 최근에는 Trainium 3을 기반으로 가격을 깎아 AI Labs 테넌트를 유치하려 하고 있는데, 안되면 NVDA GPU 기반으로 채우는 물량이 더 늘어날 것이라 예상합니다. ASIC 및 NVDA GPU간의 역학이 굉장히 예리하게 흘러가고 있다는 의미이고, 이번주 주간전략보고에서 전해드린 것처럼 Trainium 3의 칩 물량 성장률이 CY26에 그리 크지는 않다는 점도 비슷한 맥락(NVDA 생각보다 많이 살듯)인 것 같습니다.
그렇게 판단한 이유
AWS가 Trainium 2·Titon 고객에 컴퓨팅을 우선 배정했고, GPU 기반 모델 구축·추론 수요에는 GPU 용량이 중요하다고 연결했다.
근거 보기 1
- 원문 구간 1
고객기반은 여전히 Azure보다 훨씬 크고, 데이터가 AWS에 많으므로 Bedrock을 통해 LLM을 만들고자 하는 니즈는 많았을텐데 자체 네트워킹이나 ASIC의 TCO 대비 퍼포먼스면에서 경쟁력이 떨어지는 구조라, 상대적으로는 부진합니다. 그동안 AWS는 NVDA를 들이기보다는 Trainium 2 & Titon을 사용하는 고객에게 컴퓨팅 할당을 우선해왔습니다. 기업 고객들은 GPU 기반으로 모델을 만들고 추론하기에 GPU 용량이 중요한데 그부분에서 경쟁사 대비 부족했던 셈입니다. 최근에는 Trainium 3을 기반으로 가격을 깎아 AI Labs 테넌트를 유치하려 하고 있는데, 안되면 NVDA GPU 기반으로 채우는 물량이 더 늘어날 것이라 예상합니다. ASIC 및 NVDA GPU간의 역학이 굉장히 예리하게 흘러가고 있다는 의미이고, 이번주 주간전략보고에서 전해드린 것처럼 Trainium 3의 칩 물량 성장률이 CY26에 그리 크지는 않다는 점도 비슷한 맥락(NVDA 생각보다 많이 살듯)인 것 같습니다.