별의순간

ⓑAI GPU인 MI355X 그리고 MI455X의 강력한 수요 덕에 AI 매출이 $14~15B로 회사 가이던스 $10B 대비 크게 초과할 것이라 전망했습니다. Agentic AI로 가면 CPU도 사용량이 크게 많아지는데 그런 부분에서 AMD도 수혜 강도가 점점 더 강해지고 있다는 콜이라 좋았습니다. 이전 <AMD 3Q25 실적발표 : 오픈AI와 깐부를 맺다> 자료에서 전해드린 투자포인트가 점점 더 강화되고 있는 구간이며 Overweight를 유지하고 있습니다. 또한 오픈AI ASIC 프로젝트가 2H26 → 1Q27로 연기되었다고 확인했습니다. 첫 ASIC부터 잘되는 경우는 없고, 보통 2~3세대 정도의 시행착오가 필요하기 때문에 개인적으로 OpenAI, Anthropic ASIC이 본격 물량을 많이 차지하는 시점은 CY28~CY29쯤부터일 것으로 예상하고 있습니다.

ⓑAI GPU인 MI355X 그리고 MI455X의 강력한 수요 덕에 AI 매출이 $14~15B로 회사 가이던스 $10B 대비 크게 초과할 것이라 전망했습니다. Agentic AI로 가면 CPU도 사용량이 크게 많아지는데 그런 부분에서 AMD도 수혜 강도가 점점 더 강해지고 있다는 콜이라 좋았습니다. 이전 <AMD 3Q25 실적발표 : 오픈AI와 깐부를 맺다> 자료에서 전해드린 투자포인트가 점점 더 강화되고 있는 구간이며 Overweight를 유지하고 있습니다. 또한 오픈AI ASIC 프로젝트가 2H26 → 1Q27로 연기되었다고 확인했습니다. 첫 ASIC부터 잘되는 경우는 없고, 보통 2~3세대 정도의 시행착오가 필요하기 때문에 개인적으로 OpenAI, Anthropic ASIC이 본격 물량을 많이 차지하는 시점은 CY28~CY29쯤부터일 것으로 예상하고 있습니다.

기존 LLM들의 핵심 아키텍처인 MoE가 동적이고 복잡한 추론을 담당한다면, Engram은 정적이고 이전의 정보들을 담는 것입니다. 최근 NVIDIA ICMS도 그렇고 이것도 FLOPS의 병목 중 일부를 메모리 I/O로 옮기는 과정입니다. Engram은 거대한 테이블을 빠르게 조회(Lookup)하는 구조입니다. 예를 들어서, 이제 메모리까지 특히 변화량으로 보자면 SSD까지의 워크로드 설계를 어떻게 하느냐가 중요해지고 있습니다. 모델에 넣는 거기 때문에 레시피의 핵심은 총 매개변수를 고정시켰을 때 MoE 계산, Engram 메모리의 비중을 얼마로 나눌 것인가가 핵심 질문입니다. 실험 결과 성능은 U자형 스케일링 법칙을 따른다고 나왔습니다. MoE만 있어도 메모리 비효율, Engram만 있으면 추론 부족입니다. 연구용에 자원이 많이 필요하겠으나 이러고 나면 또 상당히 추론 효율이 좋아진 모델이 출시될 것이라 예상합니다.

예를 들어, 테슬라의 FSD는 AI가 기기 자체에 대한 수요 및 UX의 핵심이 된 매우 명확한 사례입니다. 애플의 자체 개발 AI 서버 칩은 2H26부터 양산에 들어가며, 자체 데이터센터는 2027년에 가동을 시작할 예정입니다. 애플의 AI 수요가 2027년부터 의미 있게 증가할 것으로 예상합니다. ​ (3) DeepSeek가 <Conditional Memory via Scalable Lookup: A New Axis of Sparsity for Large Language Models>라는 논문을 발표했습니다. 12월의 mHC에 이어 1월에 Engram까지 새로운 축들을 많이 연구하고 발표하고 있습니다. 2월에 출시될 것으로 예상하는 DeepSeek-V4에 반영되며, 이후에 이를 기반으로 R2가 나올 거라 예상합니다. 다시 돌아와서, 이번 Conditional Memory via Scalable Lookup 논문의 핵심은 이제 조건부 메모리라는 새로운 축을 담당해줄 'Engram'을 모델에 합쳤다는 것입니다.

기존 LLM들의 핵심 아키텍처인 MoE가 동적이고 복잡한 추론을 담당한다면, Engram은 정적이고 이전의 정보들을 담는 것입니다. 최근 NVIDIA ICMS도 그렇고 이것도 FLOPS의 병목 중 일부를 메모리 I/O로 옮기는 과정입니다. Engram은 거대한 테이블을 빠르게 조회(Lookup)하는 구조입니다. 예를 들어서, 이제 메모리까지 특히 변화량으로 보자면 SSD까지의 워크로드 설계를 어떻게 하느냐가 중요해지고 있습니다. 모델에 넣는 거기 때문에 레시피의 핵심은 총 매개변수를 고정시켰을 때 MoE 계산, Engram 메모리의 비중을 얼마로 나눌 것인가가 핵심 질문입니다. 실험 결과 성능은 U자형 스케일링 법칙을 따른다고 나왔습니다. MoE만 있어도 메모리 비효율, Engram만 있으면 추론 부족입니다. 연구용에 자원이 많이 필요하겠으나 이러고 나면 또 상당히 추론 효율이 좋아진 모델이 출시될 것이라 예상합니다.

예를 들어, 테슬라의 FSD는 AI가 기기 자체에 대한 수요 및 UX의 핵심이 된 매우 명확한 사례입니다. 애플의 자체 개발 AI 서버 칩은 2H26부터 양산에 들어가며, 자체 데이터센터는 2027년에 가동을 시작할 예정입니다. 애플의 AI 수요가 2027년부터 의미 있게 증가할 것으로 예상합니다. ​ (3) DeepSeek가 <Conditional Memory via Scalable Lookup: A New Axis of Sparsity for Large Language Models>라는 논문을 발표했습니다. 12월의 mHC에 이어 1월에 Engram까지 새로운 축들을 많이 연구하고 발표하고 있습니다. 2월에 출시될 것으로 예상하는 DeepSeek-V4에 반영되며, 이후에 이를 기반으로 R2가 나올 거라 예상합니다. 다시 돌아와서, 이번 Conditional Memory via Scalable Lookup 논문의 핵심은 이제 조건부 메모리라는 새로운 축을 담당해줄 'Engram'을 모델에 합쳤다는 것입니다.

기존 LLM들의 핵심 아키텍처인 MoE가 동적이고 복잡한 추론을 담당한다면, Engram은 정적이고 이전의 정보들을 담는 것입니다. 최근 NVIDIA ICMS도 그렇고 이것도 FLOPS의 병목 중 일부를 메모리 I/O로 옮기는 과정입니다. Engram은 거대한 테이블을 빠르게 조회(Lookup)하는 구조입니다. 예를 들어서, 이제 메모리까지 특히 변화량으로 보자면 SSD까지의 워크로드 설계를 어떻게 하느냐가 중요해지고 있습니다. 모델에 넣는 거기 때문에 레시피의 핵심은 총 매개변수를 고정시켰을 때 MoE 계산, Engram 메모리의 비중을 얼마로 나눌 것인가가 핵심 질문입니다. 실험 결과 성능은 U자형 스케일링 법칙을 따른다고 나왔습니다. MoE만 있어도 메모리 비효율, Engram만 있으면 추론 부족입니다. 연구용에 자원이 많이 필요하겠으나 이러고 나면 또 상당히 추론 효율이 좋아진 모델이 출시될 것이라 예상합니다.