AI의 추론을 감시하고 통제하는 작업은 컴퓨팅 수요에 어떤 추가 부담을 주는가?
이 자료가 더한 내용
AI가 작업하는 데 필요한 추론 연산을 100으로 놓으면 이를 감시·통제하는 데 약 20의 추가 연산이 필요하다는 연구 결과를 들어, 철저한 감시·통제 시 해당 수요가 전체의 약 16.7%를 차지할 수 있다고 정리한다.
근거 보기 1
- 원문 구간 1
AI 고도화에 따라 점점 더 높아지고 있음 광 업데이트 - 일단은 NPO, 1.6T 전환 아마존, 마이크로소프트, 메타, AMD 가 NPO 기술을 개발하고 있으며 CPO 를 궁극적으로 추구하더라도 일단은 NPO 을 스케일업 중간 다리 기술로 보고 있음 대부분 외부 광원을 사용하는 ELS 방식을 선호 다만, NPO 가 어느 단계에서 본격적으로 도입될지는 아직 정해지지 않았음 1.6T 생산량이 컨센서스보다 빠르게 증가하고 있고 2027년에 800G 추월 전망 서버 시장 엔비디아 카이버랙은 이슈들로 2028년으로 출시가 연기될 가능성이 높음 다만, 엔비디아 기존 랙 수요가 지속되고 있어 서버 제조 업체들에게 미치는 영향은 제한적 엔비디아 랙 출하량은 2026년 7.5만대, 2027년 10~11만 대 예상 구글 TPU 랙 출하량은 2026년 6만대, 2027년 10.5만대 예상 Wiwynn 은 하반기 엔비디아 서버랙 출하가 컨센서스보다 더 증가하지는 않지만 AWS 트래니움 3 향이 예상보다 강할 것으로 전망 AMD 헬리오스 MI455 는 2026년 4분기부터 출하 예상 위스트론의 베라 루빈 서버 양산은 시작되었음 4. Meta Muse 순항하는 Meta Muse 인기 Meta's personal AI agent Muse soars to the top of the App Store Meta's personal AI agent Muse has reached No. 1 on Apple's US App Store as AI agents begin moving into the consumer mainstream. www.businessinsider.com 앞으로 Meta Muse 트래픽 만 보면 될 것 같다고 말씀드렸었는데요 출시하자마자 4위였고 지난 세미나에서 2위였던 앱스토어 순위가 1위로 바뀌었습니다.