별의순간

​ 오픈AI 입장에서는 오픈AI의 워크로드들(Reasoning, Agent, Tool, Search, RL, Training, Diffusion/비디오 생성)에 맞게 맞춤형으로 모든 시스템을 짜면 범용 클라우드에 비해서 같은 전력 기준 훨씬 더 많은 초당 토큰(TPS)을 뽑아내고, 초당 쿼리 수(QPS)를 훨씬 더 많이 처리할 수 있게 됩니다. 이렇게 되면 xAI와 MSL 입장에서도 엔비디아와 협력을 더 강화할 가능성이 이전보단 높아졌습니다. 물론 xAI는 TPU를 자체 ASIC 대체로 쓸 가능성을 고려하고 있는 상태라서 어떨진 좀 더 지켜봐야 합니다. ​ +) 투자의 생각 : AMD & OpenAI 6GW 오픈AI가 AMD와 다년간, 다세대 걸쳐 6GW 계약을 맺었습니다. ​ 내용을 정리해보면: ⓐMI450X GPU를 통한 1GW 구축을 2H26에 시작할 예정입니다. ⓑ이후 다년, 다세대에 걸쳐서 나머지 5GW를 구매할 수 있는 계약입니다. 즉, 나머지 5GW는 언제까지 구매한다는 조항이 없습니다. ⓒAMD는 대신 AMD의 지분 10%(1억 6천만 주) 규모의 보통주 워런트를 오픈AI에 발행했습니다. ⓓ계약조건상 AMD는 특정 주가 목표를 달성했을 때 워런트를 주게 되어 있습니다. ⓔAMD GPU 1GW 구축당 지분을 나눠받는 구조라고 생각하면 오픈AI가 AMD GPU로 1GW 구축할 때마다 1.67%의 AMD 지분을 받는 것입니다.

​ 오픈AI 입장에서는 오픈AI의 워크로드들(Reasoning, Agent, Tool, Search, RL, Training, Diffusion/비디오 생성)에 맞게 맞춤형으로 모든 시스템을 짜면 범용 클라우드에 비해서 같은 전력 기준 훨씬 더 많은 초당 토큰(TPS)을 뽑아내고, 초당 쿼리 수(QPS)를 훨씬 더 많이 처리할 수 있게 됩니다. 이렇게 되면 xAI와 MSL 입장에서도 엔비디아와 협력을 더 강화할 가능성이 이전보단 높아졌습니다. 물론 xAI는 TPU를 자체 ASIC 대체로 쓸 가능성을 고려하고 있는 상태라서 어떨진 좀 더 지켜봐야 합니다. ​ +) 투자의 생각 : AMD & OpenAI 6GW 오픈AI가 AMD와 다년간, 다세대 걸쳐 6GW 계약을 맺었습니다. ​ 내용을 정리해보면: ⓐMI450X GPU를 통한 1GW 구축을 2H26에 시작할 예정입니다. ⓑ이후 다년, 다세대에 걸쳐서 나머지 5GW를 구매할 수 있는 계약입니다. 즉, 나머지 5GW는 언제까지 구매한다는 조항이 없습니다. ⓒAMD는 대신 AMD의 지분 10%(1억 6천만 주) 규모의 보통주 워런트를 오픈AI에 발행했습니다. ⓓ계약조건상 AMD는 특정 주가 목표를 달성했을 때 워런트를 주게 되어 있습니다. ⓔAMD GPU 1GW 구축당 지분을 나눠받는 구조라고 생각하면 오픈AI가 AMD GPU로 1GW 구축할 때마다 1.67%의 AMD 지분을 받는 것입니다.

​ 오픈AI 입장에서는 오픈AI의 워크로드들(Reasoning, Agent, Tool, Search, RL, Training, Diffusion/비디오 생성)에 맞게 맞춤형으로 모든 시스템을 짜면 범용 클라우드에 비해서 같은 전력 기준 훨씬 더 많은 초당 토큰(TPS)을 뽑아내고, 초당 쿼리 수(QPS)를 훨씬 더 많이 처리할 수 있게 됩니다. 이렇게 되면 xAI와 MSL 입장에서도 엔비디아와 협력을 더 강화할 가능성이 이전보단 높아졌습니다. 물론 xAI는 TPU를 자체 ASIC 대체로 쓸 가능성을 고려하고 있는 상태라서 어떨진 좀 더 지켜봐야 합니다. ​ +) 투자의 생각 : AMD & OpenAI 6GW 오픈AI가 AMD와 다년간, 다세대 걸쳐 6GW 계약을 맺었습니다. ​ 내용을 정리해보면: ⓐMI450X GPU를 통한 1GW 구축을 2H26에 시작할 예정입니다. ⓑ이후 다년, 다세대에 걸쳐서 나머지 5GW를 구매할 수 있는 계약입니다. 즉, 나머지 5GW는 언제까지 구매한다는 조항이 없습니다. ⓒAMD는 대신 AMD의 지분 10%(1억 6천만 주) 규모의 보통주 워런트를 오픈AI에 발행했습니다. ⓓ계약조건상 AMD는 특정 주가 목표를 달성했을 때 워런트를 주게 되어 있습니다. ⓔAMD GPU 1GW 구축당 지분을 나눠받는 구조라고 생각하면 오픈AI가 AMD GPU로 1GW 구축할 때마다 1.67%의 AMD 지분을 받는 것입니다.

컴퓨팅 및 메모리 사용 효율을 크게 높일 수 있는 방법이기 때문입니다. ​ 간단하게 보자면: V3.2-exp는 V3.1에 DeepSeek Sparse Attention("DSA")를 얹은 모델입니다. 라이트닝 인덱서(Lightning Indexer)가 각 쿼리 토큰에서 진짜 중요한 k개 토큰만 골라주고, 메인 어텐션이 라이트인 인덱서가 골라준 토큰만 계산하도록 함으로써, 원래는 컨텍스트 윈도우가 늘어날 때 제곱(L^2)으로 늘어나던 추론비용을 L*k로 바꿨다는 데 있습니다. 엄청나게 긴 컨텍스트 윈도우를 훨씬 더 낮은 비용으로 사용할 수 있는 길이 열렸습니다. Base 모델인 DeepSeek-V3를 만들고 나서 그걸 기반으로 몇 개월 뒤 추론모델인 DeepSeek-R1을 발표하며 화제가 됐던 건데, 이번에도 V3.2-exp가 추론비용을 낮춘 정도가 혁신적이라 R2도 Reasoning 분야에서 추론비용을 크게 낮출 것으로 예상합니다. ​ 노이즈를 강화할 목적으로 헤드라인을 뽑는다면 '메모리 사용량 x분의 1로도 동일 작업 가능하다' 같은 뉴스가 나올 수 있다는 의미입니다. 하지만 이건 '노동총량 불변의 법칙 오류'와도 같습니다. 보다 현실적으로 본다면,' 동일 달러당 사용할 수 있는 지능의 퀄리티와 토큰 사용량이 많아짐으로써 스케일링 법칙을 가속화할 것이다'라고 추정합니다.

컴퓨팅 및 메모리 사용 효율을 크게 높일 수 있는 방법이기 때문입니다. ​ 간단하게 보자면: V3.2-exp는 V3.1에 DeepSeek Sparse Attention("DSA")를 얹은 모델입니다. 라이트닝 인덱서(Lightning Indexer)가 각 쿼리 토큰에서 진짜 중요한 k개 토큰만 골라주고, 메인 어텐션이 라이트인 인덱서가 골라준 토큰만 계산하도록 함으로써, 원래는 컨텍스트 윈도우가 늘어날 때 제곱(L^2)으로 늘어나던 추론비용을 L*k로 바꿨다는 데 있습니다. 엄청나게 긴 컨텍스트 윈도우를 훨씬 더 낮은 비용으로 사용할 수 있는 길이 열렸습니다. Base 모델인 DeepSeek-V3를 만들고 나서 그걸 기반으로 몇 개월 뒤 추론모델인 DeepSeek-R1을 발표하며 화제가 됐던 건데, 이번에도 V3.2-exp가 추론비용을 낮춘 정도가 혁신적이라 R2도 Reasoning 분야에서 추론비용을 크게 낮출 것으로 예상합니다. ​ 노이즈를 강화할 목적으로 헤드라인을 뽑는다면 '메모리 사용량 x분의 1로도 동일 작업 가능하다' 같은 뉴스가 나올 수 있다는 의미입니다. 하지만 이건 '노동총량 불변의 법칙 오류'와도 같습니다. 보다 현실적으로 본다면,' 동일 달러당 사용할 수 있는 지능의 퀄리티와 토큰 사용량이 많아짐으로써 스케일링 법칙을 가속화할 것이다'라고 추정합니다.

컴퓨팅 및 메모리 사용 효율을 크게 높일 수 있는 방법이기 때문입니다. ​ 간단하게 보자면: V3.2-exp는 V3.1에 DeepSeek Sparse Attention("DSA")를 얹은 모델입니다. 라이트닝 인덱서(Lightning Indexer)가 각 쿼리 토큰에서 진짜 중요한 k개 토큰만 골라주고, 메인 어텐션이 라이트인 인덱서가 골라준 토큰만 계산하도록 함으로써, 원래는 컨텍스트 윈도우가 늘어날 때 제곱(L^2)으로 늘어나던 추론비용을 L*k로 바꿨다는 데 있습니다. 엄청나게 긴 컨텍스트 윈도우를 훨씬 더 낮은 비용으로 사용할 수 있는 길이 열렸습니다. Base 모델인 DeepSeek-V3를 만들고 나서 그걸 기반으로 몇 개월 뒤 추론모델인 DeepSeek-R1을 발표하며 화제가 됐던 건데, 이번에도 V3.2-exp가 추론비용을 낮춘 정도가 혁신적이라 R2도 Reasoning 분야에서 추론비용을 크게 낮출 것으로 예상합니다. ​ 노이즈를 강화할 목적으로 헤드라인을 뽑는다면 '메모리 사용량 x분의 1로도 동일 작업 가능하다' 같은 뉴스가 나올 수 있다는 의미입니다. 하지만 이건 '노동총량 불변의 법칙 오류'와도 같습니다. 보다 현실적으로 본다면,' 동일 달러당 사용할 수 있는 지능의 퀄리티와 토큰 사용량이 많아짐으로써 스케일링 법칙을 가속화할 것이다'라고 추정합니다.