텔레그램 10분 핵심 원문 · 2026.10.09 12:30

Tele-news 주요채널 텔레그램 원문 묶음
[범위] Tele-news 주요채널
[묶음 주기] 10분
[통합 구간] 2026-10-09T03:20:00+00:00 ~ 2026-10-09T03:30:00+00:00
[작성 기준] 아래 글은 서로 다른 채널·작성자의 독립 원문을 수송 편의상 하나의 시간 구간으로 묶은 것이다. 서로 다른 출처의 사실·판단·전망을 하나의 합의나 결론으로 합치지 말고 채널별 귀속을 보존한다. 같은 사

6. 네트워크에서는 광통신의 중요성이 커지고 있으며 구글은 Optical Circuit Switching을 활용해 장애가 발생한 TPU 랙을 우회함
7. 구글이 장기적으로 가장 근본적인 병목이라고 지목한 것은 전력임
8. 데이터센터 전력은 수년 전부터 전력회사와 계획해야 하며, 송전망/발전/ESS까지가 데이터센터 투자의 일부임
9. 심지어 구글이 우주 데이터센터까지 실제로 검토하는 가장 큰 이유 역시 지구에서의 전력 공급 제약

그래서 이것은 일종의 예술 이자 무엇을 설계 할 것인지, 그리고 그 작업 부하가 얼마나 지속될 것인지에 대한 예측 입니다. 다시 말해, 한두 달 이나 석 달 뒤에 사라질 작업 이라면 그 기간 동안 규모가 크 더라도 이를 포착 할 수 있는 기회는 매우 짧 습니다. 따라서 어느 정도 지속 가능 해야 합니다. 또한, 그 작업에 전문화 함으로써 정확히 어떤 이득을 얻을 수 있을지 예측할 수 있어야 하죠. >> 아민 베다 트 (Amin

그곳에는 엄청난 양의 네트워크 인프라 가 있습니다. 다른 말로 하면, 대규모 연산 장치 들을 서로 연결 하는 것 입니다. 상당한 양의 스토리지 인프라도 들어 갑니다. 제가 보기에 AI 인프라에서 가장 큰 차이점은 바로 전문화 라고 생각 합니다. 과거에 데이터 센터 를 구축 할 때는 20 년, 25 년, 30 년을 내다 보는 건물 투자 였고, 그 기간 동안 어떻게 발전해 나갈지를 고민 했습니다. 서버가 들어갈 수도 있었죠. 네트

즉, 훨씬 더 많은 공동 최적화 가 필요 합니다. >> 당신들이 제 포트폴리오 기업 중 하나 인 'Ineffable Intelligence' 에 대규모 베어 메탈 클러스터를 납품 했을 때, 출고 되는 사진을 봤습니다. 정말 아름답 더군요. >> 그렇습니다. 맞습니다. >> 제 말은, 인류 역사상 가장 큰 건설 프로젝트를 보는 것처럼 데이터 센터를 바라 보면 "와, 인류가 해낼 수 있는 기념비적 인 업적 이다" 라는 생각이 든다

FLOPS, HBM, SRAM 용량 등도 매우 중요 하지만, 결국 2 개, 4 개, 8 개, 16 개, 천 개, 만 개 이상의 칩이 어떻게 구성 되느냐가 관건 입니다. TPU 나 GPU 같은 가속기 뿐만 아니라 데이터를 공급 하는 CPU, 그리고 이들을 연결 하는 네트워크까지 모두 포함 해서 말이죠. 그래서, 어떤 워크 로드를 실행 하고 있고 그 워크 로드의 성능은 어떠한지 가 중요한 것 입니다. 흥미로운 지표 중 하나는 FL

여기서 핵심은 만약 다시 돌아가서 수많은 연산을 반복 해야 하거나, 오류 원인을 파악 하기 위해 작업을 멈추고 기다려야 한다면, 그 모든 과정이 작업 이라는 점 입니다. 결과를 얻는 데 전혀 도움이 되지 않죠. 그렇지 않나요? 종이 위에 문제를 푼다 고 가정 해 봅시다. 1 단계, 2 단계, 3 단계, 4 단계가 있습니다. 실수를 해서 1 단계 로 다시 돌아 가야 한다면, 네 , 여전히 작업을 하고 있는 것은 맞습니다. 그게

그 모든 과정 을 수행 하는 것은 정말 엄청난 텔레 메 트리 문제를 해결 하는 것과 같습니다. 마치 초 단위, 분 단위는 물론 이고, 일부 작업의 경우 몇 시간, 며칠, 심지어 몇 주 동안 계속 해서 건초 더미 에서 바늘을 찾는 것과 같죠. 그저 지속적 이고 온라인 상태로 말입니다. 우리가 스스로에게 책임을 묻는 방식 은 데이터 센터에서 실제로 중요한 워크 로드에 대해 얼마나 많은 유효 처리량 (good put) 을 제공 하느

그것은 결국 전체 시스템 성능에 영향을 미치게 됩니다. 즉, 완벽 하고 매우 신뢰할 수 있는 하드웨어를 갖췄 더라도 , 소프트웨어 문제로 인해 피해를 볼 수 있다는 겁니다. >> 음. Nvidia 나 TPU 팀과 같은 가속기 기업 들이 제공 하는 표준 참조 스택이 있나요? 예 를 들어, 우리 가속기를 중심 으로 구축 할 수 있는 최적의 시스템은 이것 이고, 그 시스템에 맞춰 구축 하기만 하면 된다는 식의 가이드 말입니다. 아니

하지만 6 개월 마다 토큰을 생성 하는 하드웨어의 능력을 두 배로 키워야 한다는 것 입니다. 그리고 그 능력의 상당 부분은 하드웨어 만큼이나 소프트웨어에서 나올 것 입니다. 즉, 모델 최적화를 통해서 그런 결과를 낼 수도 있습니다. 또는 런타임 최적화를 통해서도 가능할 수 있죠. 아마도 수십, 수백 가지의 개별 최적화가 지속적으로 적용 되면서이 모든 것이 가능 해지는 것일 겁니다. 하지만 네, 용량 개선 속도는 정말 놀랍 습니

>> TPU 프로그램과 공동 설계에 대해 좀 더 이야기 해보고 싶습니다. 구글은 10 년도 더 전에 자체 실리콘을 만들기 시작 했죠. 당시 로서는 반대 의견이 많은 결정 이었습니다 . TPU 프로그램은 어떻게 발전해 왔나요? >> 상당히 많이 발전 했습니다. 2013 년에 프로그램이 시작 되었을 때는 정말 주류에 반하는 결정 이었습니다. 2013 년 당시의 상황을 떠올려 보면, 그 시절 상식으로는 가장 똑똑 하고 현명한 사람들

처음 에는 주로 언어 번역과 음성 인식 이었고, 이후 학습, 트랜스포머, 추천 시스템으로 이어 졌으며, 생성 형 AI 시대 가 도래 하면서 더 크고 확장 성 있는 시스템으로 일반화 되었습니다. >> 트랜스포머가 등장한 순간이 중요 했다고 언급 하셨는데, TPU는 특정 아키텍처 였지만 트랜스포머 전용은 아니 었던 점이 궁금 합니다. 작업 부하 에 맞춰 칩을 어느 정도로 특화 해야 할지, 그 미묘한 균형을 어떻게 잡으시 나요? >

아시 다시피 하드웨어 분야 에서는 특정 워크 로드에 특화 할수록 유연성은 떨어지지만, 속도는 빨라지고 전력 효율은 더 좋아지는 기회가 있습니다. 그래서 무엇을 설계 하고 그 워크 로드가 얼마나 지속될 지를 예측 하는 것이 일종의 예술 이자 기술 입니다. 다시 말해, 한두 달 이나 석 달 뒤에 사라질 워크 로드 라면 그 기간 동안 규모가 크 더라도 대응할 수 있는 시간적 여유가 매우 촉박 합니다. 따라서 어느 정도 지속 가능 해

그리고 아시 다시피 소프트 맥스처럼 기본적으로는 선형 대수 프리미티브의 범위에 속 하죠 . 저희를 비롯한 다른 기업들 도 이러한 연산 들을 하드웨어에 어느 정도 내장 하고 있습니다. 모두 트랜스포머 기반 이기는 하지만, 모델 아키텍처 라는 것은 결국 '레이어가 몇 개인가' 의 문제 입니다. 레이어를 어떤 방식으로 통과 하게 되나요? 레이어 간의 이동은 어떻게 이루어 지나요 ? 각 차원에 대해 정확히 어떤 형태의 행렬과 벡터를

여러 클라우드 환경에서 실행 하거나, 다양한 하드웨어와 소프트웨어 제품을 사용 하고 있다고 가정 해 보겠습니다. 그럴 때 추상화 계층을 설계 할 수 있을 것 입니다. 기본적 으로 "나는 어떤 하드웨어 에서든 실행될 수 있다" 는 의미 겠죠. 어떤 소프트웨어 에서든 실행될 수 있고요. 어떤 네트워크 토폴로지, 그러니까 어떤 네트워크 환경 에서도 실행 가능 합니다. 문제 없죠. 제 시스템은 완전히 적응 형이 될 겁니다. 그럴 가능

그저 하나 의 가능성 일 뿐이죠. 그들이 구체적으로 무엇을 하는지 알지 못하는 상태에서, 그들이 왜 다른 아키텍처를 선택 하게 되었는지에 대한 이유는 매우 많을 것이라고 생각 합니다. >> 그렇다면 구글의 경우는 어떤가요? 구글 팀과 딥 마인드 사이의 협업 관계가 어떤지 궁금 합니다. 모델 개발 단계별로 누가 참여 하고, 공동 설계에 관한 의사 결정을 어떻게 함께 내리시는 지 궁금 합니다. >> 구글에서 일하는 것 중 가장 즐

왜냐하면 이런 수준의 이점 이라면 충분히 그럴 가치가 있으니까요." 네, 마찬가지로 우리가 로드맵을 계획 할 때도 어느 시점 에나 여러 세대의 칩이 동시에 개발 중 입니다. 생산 중인 칩 들이 있습니다. 그게 첫 번째 죠. 생산을 위해 작업 중인 칩들도 있습니다. 이미 제조사에서 돌아 왔고, 우리 는 그것들을 디버깅 하며 작동 하게 만들고 있습니다. 구현 단계에 있어 곧 테이프 아웃 되어 제조사로 넘어갈 칩들도 있습니다. 설계

깊이 있고 빠른 반복 작업 이죠. 팀 들이 서로 분리 되어 작업 하는 것이 결코 아닙니다. 같은 건물, 같은 공간에서 함께 작업 하는 경우가 아주 많습니다. 깊이 있는 일상적 상호 작용 이죠. 저는 코레 이나 데미스와 일주일에 몇 번씩 대화 합니다. 그래서이 일의 정말 즐거운 측면 이죠. >> 정말 멋지네요. 결국 그들의 모델은 칩 설계 에도 도움을 줄 것 입니다. >> 우리는 미래의 제미 나이를 위한 하드웨어를 설계 하는 데

왜냐하면 그들은 소프트웨어처럼 단순히 변경 목록을 작성 해서 2 주 안에 제품으로 배포 할 수 있는 것이 아니라는 사실을 충분히 알고 있기 때문 입니다. 테이프 아웃 (설계 완료 및 제작) 을 중단 하는 것은 실제로 큰일 이니까요. 하지만 그들은 정말 좋은 기회가 있다면, 우리가 함께 협력 해서 그것을 반영 할 방법을 찾을 것임을 잘 알고 있습니다. 그래서 말씀 드렸듯이, 혜택이 오는 측면 에서 이는 곱셈과 같은 효과 를 냅니

하지만 수치 연산 을 초대형 행렬 곱셈 장치에 특화 시키는 기본 요소들, 음, 벡터 연산과 스 캐터-개더 연산을 관리 하는 스파 스 코어 등, 원격 로드-스토어를 정의 하는 5 ~ 6 가지 핵심 요소가 있습니다. 그것도 하나 죠. 사실 우리는 ICI 네트워크를 통해 원격 메모리 를 읽고 쓸 수 있습니다. 기본 원리는 이미 존재 했고, 이를 여러 세대의 모델과 수많은 세대의 심층 신경망 알고리즘 및 모델 구조 에까지 확장 해 왔

즉, 저는 이 응답을 통해 무언가를 배웠다는 뜻 이죠. 다음 단계 를 진행할 텐데, 이때 로컬 DRAM 이나 다른 CPU의 DRAM, 혹은 SSD 나 HDD 등 어딘가에서 컨텍스트를 가져와야 할 필요 가 있습니다. 이제는 엄청난 규모의 오케스트레이션도 이루어져야 합니다. 설계 방식이 상당히 크게 변하고 있는데, 가속기 컴퓨팅에 대한 수요는 증가 하는 반면 CPU, 네트워킹, 스토리지, 즉 기존 데이터 센터 CPU 등에 대한 수

광 네트워킹의 현주소에 대해 한 말씀 해주실 수 있나요? >> 저희 구글은 15, 16 년 전쯤에 데이터 센터 내의 단일 광섬유에 여러 신호를 실을 수 있는 파장 분할 다중화 기술을 도입 한 최초의 기업 중 하나 였습니다. 실제로 저희는 랙 간의 모든 통신에 그 기술을 활용 하고 있습니다. 동시에 파장 분할 다중화와 함께 광 회선 교환 이라는 기술도 도입 했습니다 . 광 회선 교환은 기존의 전기 패킷 교환 방식과 달리 데이터를

랙 클러스터 들 말이죠. 이것이 첫 번째 이유 였습니다. 두 번째 이유 는 광섬유를 실제로 옮기지 않고도 네트워크를 확장 하거나 축소 할 수 있기를 원했기 때문 입니다. 세부 사항을 다 설명 하진 않겠지 만, 칠판에 그려 본다면 광 회로 스위치를 사용 하면 사람이 직접 개입 할 필요 없이 컨트롤러가 네트워크의 스파인 구조를 재구성 하여 네트워크를 확장 하거나 축소 할 수 있습니다. 이제 TPU로 넘어가 보죠. TPU는 토러스

>> 네, 정말 멋진 일 이죠. >> 이더 볼 (eth ball) 사진으로 돌아가서 보면, 수많은 케이블 들이 제 눈을 사로 잡더군요. >> 정확 합니다. 네, 그리고 그 케이블 중 일부는 결국 저희 데이터 센터의 광 회로 스위치로 연결 됩니다. >> 이해가 됩니다. 좋습니다, 이제 전력에 관한 이야기로 넘어가 보죠. 와트 당 굿풋 ( good put) 이나 와트 당 다른 단위들에 대해 계속 말씀 하셨 잖아요. 그걸 들으니 '

구글이 선호 하는 모델은 항상 유틸리티 업체에 연결 하는 방식, 즉 전력망에 연결 하는 것 입니다. 그러니까 전력 회사에 전화 하는 것과 같은 셈 이죠. >> 아, 그러니까 PG&E에 그냥 전화 할 수는 없다는 말씀 이시군요? >> 정확 합니다. 데이터 센터가 위치한 지역의 전력 회사에 아주 정중 하게 연락을 취하는 거죠. 물론 수년 전에 미리 통보 해야 합니다. 즉, 1 기가 와트 규모 라면 "당장 내일 1 기가 와트가 필요

그들이 필요 로 할 때 그 전력을 공급할 수 있게 되는 것이죠, 맞나요? 다시 말해, 일 년 중 가장 더운 2 주처럼 주거용 전력 수요가 폭증 하는 시기가 있을 수 있습니다. 우리가 자체 생산 한 전력이 있다면, 그때 그리드에 다시 공급할 수 있는 것 입니다. 결국 우리 에게는 전력 회사들과 수년간 협력 하는 과정이 꼭 필요 합니다. >> 왜 전력 회사들과 협력 하는 것을 선호 하시나요? 자체적 으로 수직 계열화를 구축 하는

>> 그건 일종의 예술 이자 상당한 논쟁의 여지가 있는 부분 이죠. 글쎄요, 10 년, 15 년 전쯤 구글 내부에서 큰 논쟁이 있었습니다. 모든 것을 하나의 데이터 센터에 몰아 넣어야 할까? 당시에는 1 기가 와트 규모를 생각 했었죠. 그게 >> 단순 했던 시절 이었죠. >> 네, 지금과는 다른 시대 였죠. 10 ~ 15 년 전에는 1 기가 와트 급 데이터 센터를 만들 려고 했으니까요. 가장 분명한 우려는 단일 장애 지점 (s

전체적으로 어떻게 운영 되나요? >> 아주 타당한 프레임 워크 라고 생각 합니다. 충분히 일리가 있는 말씀 이시네요. 하지만 추론에 대한 수요 때문에 단순히 예전 학습 클러스터가 더 이상 학습에 충분히 사용 되지 않는다는 이유 만으로 그것을 추론의 기반으로 삼을 수는 없습니다 . 또한 생각해 보면, 특정 해 에는 학습 클러스터를 소수의 대규모 사이트로 다시 중앙 집중화 할 수도 있습니다. 그리고 그 사이의 네트워크 거리를 짧게

그래서 이제 우리는 지역적 특성까지 고려 하여이 모델 들을 전 세계로 분산 시켜야 합니다. 따라서 규모는 더 작아 질 것 입니다. 아마도 추론 측면 에서는 수직적 통합 수준이 더 낮을 것 입니다. >> 정말 흥미 롭 네요. 그럼 5 년 전에 데이터 센터를 만들었 다면, 5 년 전의 최첨단 가속기는 지금과 많이 달랐을 텐데요. >> 음, 맞습니다. >> 오늘날 만들어 지는 것들 보다 훨씬 효율이 떨어지죠. >> 네, 맞습니다.

TPU가 몇 세대 나 더 나올지 모르기 때문에 미리 계획 할 수는 없습니다. 그래서 기존 장비를 철거 하고 새 TPU로 최대한 빨리 교체 하는 것은 나름의 노하우가 필요한 어려운 작업 입니다. >> 개방형 표준에 대해 공개적 으로 글을 쓰신 적이 있죠. 그 부분에 대해 한 말씀 해주 시겠습니까? >> 네, 우리가 앞서 이야기 했던 상호 운용성 문제와 관련이 있다고 봅니다. 저희는 수직적 통합을 지원 하고 최대한의 성능을 끌어낼

즉 , 오픈 표준 이자 상호 운용이 가능 했기 때문 입니다. IP를 가진 누구든 라우터 포트에 연결만 하면 인터넷의 일부가 될 수 있었죠. 정말 멋진 일 이었습니다. 그 덕분에 인터넷이 전 세계로 폭발적 으로 성장 하고 퍼져 나갈 수 있었습니다. 그래서 우리는 플러그인 지점 측면에서 이러한 오픈 표준을 진심으로 신뢰 합니다. 물론 아주 특수한 무언가를 연결 하고 싶다면 그렇게 할 수 있습니다. 그렇죠? 저희 프레임 워크에 연결

제품 구동까지 걸리는 시간도 줄어들고 있죠 . 즉, 생산성이 크게 향상 되고 있는 겁니다. 하지만 예상치 못했던 다른 변화도 있습니다. 데이터 센터를 설계 하는 방식이 크게 달라졌 거든요. 다시 말해, ' 기가 와트 급 건물을 지을 지, 100MW 규모의 캠퍼스로 할지, 아니면 200MW 캠퍼스로 할지' 를 평가 하는 방식이 바뀌 었 습니다. 과거 에는 매우 상세 하고 스프레드 시트에 의존 하며 사람이 일일이 주도 하는 과정

그게 첫 번째 부분 입니다. 하지만 태양 동기 궤도 에서는 태양 전지판이 햇빛을 받는 시간이 98 ~ 100%에 달합니다. 지상에서의 28 ~ 30%, 많아야 35%와 비교 하면 엄청난 수치 죠. 그렇군요. 다시 말해, 태양 이라는 엄청난 에너지 원이 있기 때문에 가용 한 전력량이 막대 합니다. 앞서 말한 1.4 배 의 효율에 하루 일조 시간 기준 3 ~ 4 배의 이점을 곱하는 셈 이죠. 그러면 배터리를 사실상 고려 대상에서

그렇게 먼 미래를 내다 보는 사람도 몇 명은 있겠죠. 하지만와, 불확실성의 범위가 너무나도 넓 습니다. 다시 말해, 현재 추세를 보면 통합 의 수준이 엄청날 것이라는 점은 분명 합니다. Ineffable을 위해 우리가 구성 했던 아름다운 광섬유와 VR200 랙을 보셨 겠지만 요. 제 생각 에는 훨씬 더 고도로 통합 된 형태 가 될 것 같습니다. 2036 년 에는 광섬유가 아예 사라지 지는 않겠지만, 랙 관점에서 보면 훨씬 더

구글은 아주 잘 운영 되고 있네요. >> 감사 합니다. >> 시간 내어 하시는 일을 공유해 주셔서 감사 합니다. >> 정말 즐거웠 습니다. 우리는 이 시대를 살아가고 있으니 우리가 직접 정의 해 나갈 수 있는 거죠. 정말 감사 합니다. 훌륭한 대화 였습니다. >> 감사 합니다. >> 네, 감사 합니다.
[외부 원문 2]
[URL] https://www.youtube.com/watch?v=bGph8GwB3Sk
[제목] Googl

>> 저는 오늘 주제가 매우 기대 되는데, 우리는 인류 역사상 가장 큰 자본 지출 (Capex) 구축 의 한가운데에 있기 때문 입니다. 당신은 그 중심에 있고요. 구글 한 곳 에서만 올해 2 천억 달러 이상을 자본 지출로 사용할 것으로 예상 되며, 대부분은 데이터 센터 구축에 투입 됩니다. 당신은 그 모든 것의 중심에 있습니다. 당신은 작년 말 구글의 AI 인프라 책임자로 임명 되었습니다. 그러니 당신은 인류 역사상 가장 자본

하지만 25 년에서 30 년 이라는 계획 기간이 존재 했죠. 하드웨어의 수명 은 6 년 정도일 수 있습니다. 그래서 여러 세대를 미리 계획 해야만 하는 거죠. AI 데이터 센터는 종종 더 목적 에 맞게 구축 되곤 합니다. 다시 말해, 우리는 종종 하드웨어와 건물을 함께 설계 합니다. 예를 들어, 이 건물 에는 스토리지를 많이 넣지 않겠다고 결정할 수도 있죠. 왜 일까요? 스토리지 랙은 전력이 10, 20, 30, 40 킬로와트

>> 네, 좋은 사진을 찍었 죠. 그런데 사실 이건 고작 몇 개의 랙일 뿐입니다. 케이블 링과 광섬유 분배는 정말 아름답 습니다. 아름다움은 보는 사람의 눈에 달렸다고 하지만, 저나 여러분, 그리고 청중 분들께는 정말 멋진 광경 이죠. 우리가 소셜 미디어에이 사진을 올렸을 때 사람들이 인에 퍼블 (Ineffable) 에 열광 했는데, 저도 그들이 하는 일의 엄청난 팬 이고 팀 도 정말 훌륭 합니다. 많은 주목을 받았습니다. 인

예를 들어 특정 워크 로드에서 이론적 으로 테라 플롭스 나 페타 플롭스를 낼 수 있다면, 그중 실제로는 어느 정도의 비율을 달성 하고 있느냐는 거죠. 그게 바로 굿풋 (goodput) 의 척도 입니다. >> 굿풋 이란 무엇 인가요? >> 잘 알려진 용어 인 처리량 ( throughput) 을 생각 하시면 됩니다. >> 네. >> 그것이 가능한 처리량 이라면 , 이제 다른 고려 사항들도 생각해 보죠. 하나는 워크 로드 자체의 고

그게 바로 처리량 입니다. 작업은 하고 있지만, 정작 답을 도출 하는 데 유효한 작업량 (Goodput) 은 얼마 일까요? 기본적으로 문제를 해결 하는 데 걸린 총 시간 입니다. 그게 바로 중요한 것 입니다. 만약 오류 가 발생 하고, 복구 해야 하며 , 작업이 중단 되는 어떤 상황 이든 발생 한다면, 그것이 바로 문제의 일부 입니다. 그렇다면 우리는 어떻게 책임 을 다할 수 있을까요? 이론적 인 벤치 마크 처리량 이나 수치가

' >> 유효 처리량' 은 구글 용어 인가요, 아니면 업계 용어 인가요? >> 구글 용어 이긴 하지만, 점점 더 많은 업계 사람들이 이를 사용 하기 시작 하고 있다고 생각 합니다. >> 감을 잡기 위해 묻자 면, 10만 개의 가속기 규모 라면 1 분에 한 번, 아니면 하루에 한 번꼴 로 고장이 나나요? 얼마나 자주 발생 하나요? >> 10만 개의 가속기 라, 어디 보자. 제 생각 에는 그 규모 라면 분명 하루 에도 여러 번,

아니면 반도체 기업 들이 제공 하는 것 외에 데이터 센터를 얼마나 독자적 으로 설계 해야 하는 건가요? >> 네, 맞습니다. 음, 참조 스택 은 존재 합니다. 제 생각에 Nvidia는 정말 대단한 종합 시스템 기업 입니다. 물론 반도체 기업 이긴 하지만, 단순한 반도체 기업 그 이상 이죠. 그들은 매우 강력한 참조 스택을 제공 합니다. 하지만 많은 경우, 저희가 확인한 바로는 대부분의 고객 이 그 참조 스택을 활용 하되, 다수

하지만 네, 용량 개선 속도는 정말 놀랍 습니다. >> 지난 몇 년간 데이터 센터를 구축해 왔고, 모델과 소프트웨어 분야 에서도 몇 년간 진전이 있었 으니까요. 와트 당 지능으로 측정 했을 때, 실리콘 자체에서 기인 한 용량 증가분과 모델, 또는 기타 소프트웨어 및 다른 주요 구성 요소에서 기인 한 용량 증가분의 경험적 분석 결과는 어떻게 되나요? >> 네, 정말 좋은 질문 입니다. 정확한 분석 수치는 없지만, 저희 경험상 와

왜냐하면 무어의 법칙이 존재 했고, 18 개월 이나 24 개월 마다 성능이 두 배로 향상 되고 있었 으니까요. 표준 프로그래밍 모델을 활용할 수 있고, C ++ 코드 나 Java, Python 등 무엇 이든 사용할 수 있으니까요. >> 칩의 씁쓸한 교훈 이군요. >> 네, 정확 합니다. 칩에 대한 씁쓸한 교훈은 전문화가 결코 성공 하지 못한다는 것이죠. 하지만이 경우 에는 특정 애플리케이션 하나 나 소수의 애플리케이션이 엄청난

>> 정말 좋은 질문 입니다. 결국 핵심은 적용 가능성 이라고 생각 합니다. 제 말은, 특정 작업 부하에 대한 칩의 적용 범위를 의미 합니다. 즉, 저희 는 매 세대 마다이 문제를 고민해 왔습니다. 더 특화 해야 할까요? 약 2 년 혹은 그보다 조금 더 전 저희가 직면 했던 질문은, 2026 년에 칩을 하나로 할지 아니면 두 개로 할지 였습니다. 추론과 학습을 동시에 수행 하면서 둘 다 잘 해낼 수 있는 하나의 칩을 만들 수도

따라서 어느 정도 지속 가능 해야 합니다. 또한, 그에 특화 했을 때 정확히 어떤 이득을 얻을 수 있을지 예측할 수 있어야 합니다. >> 대략 적인 트레이드 오프를 따져 보면, 새로운 프로그램 을 지원 하는 데는 큰 고정 비용이 발생 합니다. >> 맞습니다. >> 결국 해당 프로그램에 대한 수요가 비용을 정당화 할 만큼 충분할 것이라고 판단 해야 하죠. >> 정확 합니다. 어느 정도는 저희 8i와 8t 칩의 경우처럼, 두 칩

레이어 간의 이동은 어떻게 이루어 지나요 ? 각 차원에 대해 정확히 어떤 형태의 행렬과 벡터를 적용 하나요? 단순히 트랜스포머가 아니라, 본인의 모델에 맞게 더 특화 시킬 수도 있습니다. 그것이 다음 단계의 전문화 입니다. 이미 그 부분을 고민 하고 있는 여러 기업이 있다고 생각 합니다. 그 방향 역시 매우 흥미 롭다고 생각 합니다. >> 그렇다면 현재 시점에서 고객 들이 TPU와 GPU를 거의 대체 가능한 동등한 것으로 보

어떤 네트워크 토폴로지, 그러니까 어떤 네트워크 환경 에서도 실행 가능 합니다. 문제 없죠. 제 시스템은 완전히 적응 형이 될 겁니다. 그럴 가능성이 매우 높 으니 이제 엄청난 능력을 갖추게 되는 셈 이죠. 어디로 든 이동할 수 있으니까요. 새로운 자원이 생기면 하룻밤 사이에 바로 가동 할 수 있습니다. 어떤 환경 이든 활용할 수 있도록 시스템을 설계 했기 때문이죠. 특정인 의 인프라에 맞춰 하드 코딩 하거나 특화 하지 않았

>> 그렇다면 구글의 경우는 어떤가요? 구글 팀과 딥 마인드 사이의 협업 관계가 어떤지 궁금 합니다. 모델 개발 단계별로 누가 참여 하고, 공동 설계에 관한 의사 결정을 어떻게 함께 내리시는 지 궁금 합니다. >> 구글에서 일하는 것 중 가장 즐겁고 솔직히 보람찬 부분은 , 하드웨어와 모델의 공동 설계를 위해 딥 마인드 팀과 정말 어깨를 나란히 하고 일할 기회가 있다는 점 입니다. 소비자 서비스와 클라우드를 통해 이를 확장 할

생산 중인 칩 들이 있습니다. 그게 첫 번째 죠. 생산을 위해 작업 중인 칩들도 있습니다. 이미 제조사에서 돌아 왔고, 우리 는 그것들을 디버깅 하며 작동 하게 만들고 있습니다. 구현 단계에 있어 곧 테이프 아웃 되어 제조사로 넘어갈 칩들도 있습니다. 설계 단계 에 있는 칩들도 있죠. 그리고 개념 단계에 있는 칩들도 있습니다. 생산부터 구상까지 5 ~ 6 단계에 걸친 수년에 걸친 파이프 라인 인 셈 인데, 생산 중인 칩에 대한

같은 건물, 같은 공간에서 함께 작업 하는 경우가 아주 많습니다. 깊이 있는 일상적 상호 작용 이죠. 저는 코레 이나 데미스와 일주일에 몇 번씩 대화 합니다. 그래서이 일의 정말 즐거운 측면 이죠. >> 정말 멋지네요. 결국 그들의 모델은 칩 설계 에도 도움을 줄 것 입니다. >> 우리는 미래의 제미 나이를 위한 하드웨어를 설계 하는 데 에도 제미 나이를 사용 하고 있습니다. >> 정말 굉장 하네요. 그 부분은 잠시 후에 다시

왜냐하면 그들은 소프트웨어처럼 단순히 변경 목록을 작성 해서 2 주 안에 제품으로 배포 할 수 있는 것이 아니라는 사실을 충분히 알고 있기 때문 입니다. 테이프 아웃 (설계 완료 및 제작) 을 중단 하는 것은 실제로 큰일 이니까요. 하지만 그들은 정말 좋은 기회가 있다면, 우리가 함께 협력 해서 그것을 반영 할 방법을 찾을 것임을 잘 알고 있습니다. 그래서 말씀 드렸듯이, 혜택이 오는 측면 에서 이는 곱셈과 같은 효과 를 냅니

명령어 집합이 전혀 변하지 않았다는 뜻은 아닙니다. 하지만 수치 연산 을 초대형 행렬 곱셈 장치에 특화 시키는 기본 요소들, 음, 벡터 연산과 스 캐터-개더 연산을 관리 하는 스파 스 코어 등, 원격 로드-스토어를 정의 하는 5 ~ 6 가지 핵심 요소가 있습니다. 그것도 하나 죠. 사실 우리는 ICI 네트워크를 통해 원격 메모리 를 읽고 쓸 수 있습니다. 기본 원리는 이미 존재 했고, 이를 여러 세대의 모델과 수많은 세대의 심

즉, 저는 이 응답을 통해 무언가를 배웠다는 뜻 이죠. 다음 단계 를 진행할 텐데, 이때 로컬 DRAM 이나 다른 CPU의 DRAM, 혹은 SSD 나 HDD 등 어딘가에서 컨텍스트를 가져와야 할 필요 가 있습니다. 이제는 엄청난 규모의 오케스트레이션도 이루어져야 합니다. 설계 방식이 상당히 크게 변하고 있는데, 가속기 컴퓨팅에 대한 수요는 증가 하는 반면 CPU, 네트워킹, 스토리지, 즉 기존 데이터 센터 CPU 등에 대한 수

구글 은 광학 기술을 포함한 최신 네트워킹 분야에서 항상 앞서 나갔다고 들었 습니다. 광 네트워킹의 현주소에 대해 한 말씀 해주실 수 있나요? >> 저희 구글은 15, 16 년 전쯤에 데이터 센터 내의 단일 광섬유에 여러 신호를 실을 수 있는 파장 분할 다중화 기술을 도입 한 최초의 기업 중 하나 였습니다. 실제로 저희는 랙 간의 모든 통신에 그 기술을 활용 하고 있습니다. 동시에 파장 분할 다중화와 함께 광 회선 교환 이라는

두 클러스터가 서로 통신을 많이 할 것을 알았 기에, 거울을 구성 하여 두 클러스터 사이에 순수 하게 광학적 인 지름길을 만들었 습니다. 랙 클러스터 들 말이죠. 이것이 첫 번째 이유 였습니다. 두 번째 이유 는 광섬유를 실제로 옮기지 않고도 네트워크를 확장 하거나 축소 할 수 있기를 원했기 때문 입니다. 세부 사항을 다 설명 하진 않겠지 만, 칠판에 그려 본다면 광 회로 스위치를 사용 하면 사람이 직접 개입 할 필요 없이 컨

제 생각 에는 데이터 센터에서 네트워킹의 성능과 필요성이 폭발적으로 증가 하고 있다고 봅니다. >> 정말 멋지네요. 그것 만으로도 대화를 한참 이어갈 수 있겠 어요. >> 네, 정말 멋진 일 이죠. >> 이더 볼 (eth ball) 사진으로 돌아가서 보면, 수많은 케이블 들이 제 눈을 사로 잡더군요. >> 정확 합니다. 네, 그리고 그 케이블 중 일부는 결국 저희 데이터 센터의 광 회로 스위치로 연결 됩니다. >> 이해가 됩니

전력 공급은 실제로 어떻게 이루어 지나요? 직접 터빈을 돌리는 방식처럼 수직 계열화를 해야 하나요, 아니면 전력 부족 문제를 어떻게 해결 하시나요 ? >> 네, 정말 중요 하고도 큰 질문 입니다. 구글이 선호 하는 모델은 항상 유틸리티 업체에 연결 하는 방식, 즉 전력망에 연결 하는 것 입니다. 그러니까 전력 회사에 전화 하는 것과 같은 셈 이죠. >> 아, 그러니까 PG&E에 그냥 전화 할 수는 없다는 말씀 이시군요? >>

그렇게 되면 우리는 다시 전력 회사 와 협력 하게 됩니다. 또한 지역 내에서 자체적으로 전력 을 생산 하면서, 전력 회사가 기가 와트 규모로 완전히 가동 될 때 조차 우리가 전력 을 다시 그리드에 공급할 수 있는 역량을 유지 하는 조합 도 가능 합니다. 그들이 필요 로 할 때 그 전력을 공급할 수 있게 되는 것이죠, 맞나요? 다시 말해, 일 년 중 가장 더운 2 주처럼 주거용 전력 수요가 폭증 하는 시기가 있을 수 있습니다.

우리는 항상 그리드 와 연결 되기를 원 하니까요. 그건 다시 말해 우리 에게도 도움이 되고, 전력망 에도 도움이 되는 일 입니다. >> 일리가 있네요. 데이터 센터 규모는 어떻게 결정 하시나요 ? >> 그건 일종의 예술 이자 상당한 논쟁의 여지가 있는 부분 이죠. 글쎄요, 10 년, 15 년 전쯤 구글 내부에서 큰 논쟁이 있었습니다. 모든 것을 하나의 데이터 센터에 몰아 넣어야 할까? 당시에는 1 기가 와트 규모를 생각 했었죠

그러고 나서 나머지는 재활용 해서 추론을 실행 하는 방식 인가요? 그게 타당한 프레임 워크 인가요? 아니면 추론 전용 클러스터를 따로 구축 하기도 하시나요? 전체적으로 어떻게 운영 되나요? >> 아주 타당한 프레임 워크 라고 생각 합니다. 충분히 일리가 있는 말씀 이시네요. 하지만 추론에 대한 수요 때문에 단순히 예전 학습 클러스터가 더 이상 학습에 충분히 사용 되지 않는다는 이유 만으로 그것을 추론의 기반으로 삼을 수는 없습

전 세계 곳곳에서 워크 로드를 처리 하고 싶어 할 겁니다. 하지만 결국 우리는 개별 모델 엔드 포인트를 가지게 되고, 실제로 모델의 변형이 생길 수도 있습니다. 그래서 이제 우리는 지역적 특성까지 고려 하여이 모델 들을 전 세계로 분산 시켜야 합니다. 따라서 규모는 더 작아 질 것 입니다. 아마도 추론 측면 에서는 수직적 통합 수준이 더 낮을 것 입니다. >> 정말 흥미 롭 네요. 그럼 5 년 전에 데이터 센터를 만들었 다면,

항상 완벽 하게 들어 맞지는 않을 수도 있습니다. 즉, 새로운 포드의 공간이 기존 포드가 빠져 나간 자리에 딱 맞지 않을 수도 있다는 뜻 입니다. 그럴 경우 저희가 그 차이를 고려해야 하죠. 어떻게 개조 할지 방법을 찾아야 합니다. TPU가 몇 세대 나 더 나올지 모르기 때문에 미리 계획 할 수는 없습니다. 그래서 기존 장비를 철거 하고 새 TPU로 최대한 빨리 교체 하는 것은 나름의 노하우가 필요한 어려운 작업 입니다. >>

사실 IP와 경쟁 하던 프로토콜은 많았 습니다 . 70 년대와 80 년대 초의 아주 오래된 이야기 죠. 왜 IP가 이겼을 까요? 그건 IP가 오픈 표준 이었기 때문 입니다. 모래 시계의 잘록한 허리처럼 위로는 어떤 소프트웨어 든, 아래로는 어떤 하드웨어 든 구동 될 수 있었 으니까요. 즉 , 오픈 표준 이자 상호 운용이 가능 했기 때문 입니다. IP를 가진 누구든 라우터 포트에 연결만 하면 인터넷의 일부가 될 수 있었죠. 정말

토큰 수로 따져 보자면, 최선의 지표는 아닐지 몰라도 어쨌든 지표는 되는 셈 이죠. 저희 하드웨어 엔지니어 들은 소프트웨어 엔지니어들 만큼이나 AI를 많이 사용 하고 있습니다. 그 결과 생산성이 향상 되었고, 설계 시작부터 테이프 아웃 까지 걸리는 시간이 줄어들고 있습니다. 제품 구동까지 걸리는 시간도 줄어들고 있죠 . 즉, 생산성이 크게 향상 되고 있는 겁니다. 하지만 예상치 못했던 다른 변화도 있습니다. 데이터 센터를 설계

이건 대화 초반에 말씀 하신 내용으로 돌아가는 건데, 근본적인 제약 조건 으로 에너지와 에너지 생산이 핵심 적인 도전 과제 라고 지적 하신 부분이 정확 하다고 봅니다. 결론적으로 근본적인 관점에서 보면, 우주 에서는 대기 중의 감쇠 현상 등이 없기 때문에 약 40% 정도 더 많은 전력을 얻을 수 있습니다. 즉, 태양 광 발전 용량이 1.4 배 정도 더 크다는 뜻 이죠. 그게 첫 번째 부분 입니다. 하지만 태양 동기 궤도 에서는

이런 문제 들은 해결 불가능한 장애물은 아닙니다. 근본적으로 발목을 잡을 요소 는 없죠. >> 마지막 질문 입니다. 계속 해서 당신이 만든 그 엄청난 슈퍼 컴퓨터의 이미지가 머릿속을 떠나지 않네요. 그래서 드리는 질문 입니다. 10 년 후 가장 최첨단 슈퍼 컴퓨터는 어떤 모습 일까요? >> 세상에. 네. 10 년 이라는 시간 은 참 애매한 경계선 이라, 진지 하게 2036 년의 컴퓨터가 어떤 모습 일지 고민 하는 사람이 분명

바로 우주로 발사 되어 우주 정거장의 로봇 팔 이 잡아서 적절한 모듈에 연결 하는 식일 수도 있으니까요. 어쩌면 2036 년 에는 가능 할지도 모릅니다. >> 재밌 네요. >> 생각만 해도 즐겁 습니다. >> 이번 대화 정말 즐거웠 습니다. 지금은 역사상 가장 강렬 하고 거대한 자본 지출 빌드 업이 이루어지는 시기 지만, 저는 이것이 기술적 인 >> 혁명 이라고 생각 합니다. >> 정말 아름다운 혁명 이죠. 기술의 아름다움과

https://mdtoday.co.kr/news/articleView.html?idxno=617980&igsh=M1RVxcpryQpEte==
[외부 원문 1]
[URL] https://www.mdtoday.co.kr/news/articleView.html?idxno=617980&igsh=M1RVxcpryQpEte==
[제목] 엔비디아,
발행일: 2026-10-09 12:08 (금)
로그인
회원가입
모바일웹
한국어 영어 일본어

엔비디아의 차세대 인공지능(AI) 가속기 '루빈'에 탑재될 6세대 고대역폭메모리(HBM4)가 당초 우려와 달리 12단 구성을 중심으로 유지될 것이라는 분석이 나왔다. 업계 일각에서 불거진 HBM 적층 단수 축소설이 메모리 시장 전반에 드리운 불안감을 걷어낼 수 있을지 주목된다.
시장조사업체 카운터포인트리서치는 8일 최근 제기된 HBM 탑재량 축소설을 자체 점검한 결과 메모리 수요 둔화 우려는 오해라고 밝혔다.
카운터포인트리서치

카운터포인트리서치는 삼성전자가 역대 최대 실적을 기록했음에도 최근 반도체 업체에서 나타난 큰 폭의 어닝 서프라이즈는 없었던 원인으로 환율을 지목했다. 삼성전자는 달러 매출 비중이 높아 달러·원 환율이 급격히 하락하면 달러 수익을 원화로 환산할 때 부담이 커진다는 설명이다.
카운터포인트리서치는 HBM 수요 확대와 공급 구조를 고려하면 삼성전자의 역대 최대 실적이 일회성에 그치지 않을 가능성이 있다고 내다봤다.
삼성전자와 SK하이

똑똑플란트치과 사망사고 국감 도마…허위·과장 의료광고 지적
[국감현장] 국감서 다시 불거진 李 대통령 헬기 이송 논란…부산대병원장 "충분히 수술 가능했다"
전자담배 단기 노출, 폐조직 손상·항바이러스 방어 약화
편의점 상비약 확대 공언했지만…후보 검토·의견수렴 모두 ‘전무’
제2형 당뇨병, 생활 리듬 규칙적일수록 혈당 조절 목표 달성률 높아
간암에 전기 소작술·CAR-NK 면역세포치료 병합했더니 항암 효과 증가
폐암 발생 수년

엔비디아,
발행일: 2026-10-09 12:08 (금)
로그인
회원가입
모바일웹
한국어 영어 일본어 중국어 베트남어 독일어 불어 스페인어
정책
보건·복지 노동 환경 교육
의료
의료산업 병원·약국 학술·연구 병원뉴스 닥터뉴스 단체·학회 행사 사건·사고
제약·바이오
헬스케어
건강
내과 성형외과 가정의학과 치과 정형외과 신경과 피부과 산부인과 안과 정신건강의학과 외과 소아청소년과 이비인후과 비뇨의학과 신경외과 마취통증의학과 재활의

카운터포인트리서치는 메모리 수요 성장에 대한 확신이 10월 들어 오히려 강화됐다고 평가했다. 업계에서는 엔비디아가 주요 HBM 공급사에 적층 단수를 기존 12단에서 8단으로 낮춰 달라고 요청했다는 주장이 제기돼 왔다.
이 같은 주장이 사실이라면 HBM 탑재량 감소로 범용 D램 생산이 늘어나고, 메모리 가격이 하락할 수 있다는 전망이 나올 수 있다. 그러나 카운터포인트리서치는 대부분의 루빈 탑재 제품이 12단 구성으로 수렴하는

삼성전자와 SK하이닉스의 HBM4 양산이 시작된 만큼, 고부가 메모리 수요가 두 기업의 실적에 지속적인 영향을 미칠 것으로 전망된다.
메디컬투데이 신현정 기자(choice0510@mdtoday.co.kr)
관련기사
"최대 7.5억" 삼성전자 DS 특별성과급 세부안 확정… 내년 3월 자사주 지급
삼전닉스 출신 27명 중국행…26명은 이미 떠났다
[분석] 삼전·하이닉스 55조 자사주 매입 마무리..."수급 우려 불필요"
한미반도

간암에 전기 소작술·CAR-NK 면역세포치료 병합했더니 항암 효과 증가
폐암 발생 수년 전 나타나는 '면역 이상 신호' 발견…조기 진단·예방 가능성
디지털 헬스케어 도입했더니…의료진 업무 오히려 늘어나는 역설
1
[단독] 회삿돈으로 에어비앤비 투기한 삼성맨들…들통나자 "로펌 부모 앞세워 역고소 으름장"
2
도경완, 5년 8개월 만에 KBS 돌아온다…장윤정 사로잡은 '필살 레시피'
3
‘학교를 안 갔어’ 김량하, 10년 친구와

✔️YZi Labs 투자 SmartX, 얼리 액세스 오픈
YZi Labs EASY Residency S4 선정 프로젝트 SmartX가 얼리 액세스 신청을 오픈했습니다.
SmartX는 Meme, Perps, 주식, 예측시장 등을 하나의 앱에서 거래할 수 있는 온체인 소셜 트레이딩 플랫폼인데요. 현재 별도 비용 없이 웨이트리스트 참여가 가능합니다.
간단한 테스트 완료 후 결과를 X에 공유하면 랭킹이 활성화되며, 가입 시점 + 친구

20
[제목] SmartX (@SmartXTerminal) on X
SmartX
@SmartXTerminal
The SmartX waitlist is now open. What kind of trader are you? Take the Trader Type Test and claim your place in Chapter One of SmartX — The personalized social trading app for on-

t. #1 wins an iPhone Duo, a Singapore trip to private dinner with our founder, and limited Genesis merch. Genesis 100 will be permanently recorded on-chain. Top 5000 all get Show more
SmartX Waitlist: Chapter One Begins
From smartx.io
1
2
1

history.
Options Explore contracts, trading activity, and unusual options flow.
Perpetuals Track prices, funding rates, and open interest across markets.
Sentiment Follow changes in market sentiment and trader positioning.
Social activity F