텔레그램 10분 핵심 원문 · 2026.10.09 00:20

왜 그러냐면요. 일단 하드웨어가 GPU죠. GPU에서 돌리는 모델이 있지 않습니까? 그게 학습을 통해서 이제 얻어진 거죠. 뭐 수많은 패러미터가 있고 그 안에서 돌아가잖아요. 예를 들어서 우리가 이제 뭐 문장을 입력한다 그러면 추론을 할 때 그 문장을 토큰으로 나누거든요. 토큰을 뭐가 처리하냐면 GPU 안에서 들어가는 모델이 처리를 하는 겁니다. 그래서 그 QKV로 나눠 가지고 그거를 내적을 해서 이렇게 가중치를 얻어내고 또 V를 또 가지고 조작을 해서 어 새로운 토큰으로 만들어내는 거거든요. 그게 모델이 하는 건데이 모델이 항상 HBM에 상주를 해야 된다고요. 예를 들어서 HBM 용량이 288GB다 그러면 모델이 100GB를 차지하는 겁니다. 그 288GB를 뭐 192로 낮출 수 있다라고 언론 보도에서 막 이야기를 하는데요. 그거는이 모델 가치를 잘 이해를 못 해서 아무렇지 않게 이야기를 하는 거죠. 예를 들어서 뭐 192로 낮춰 버리면 아까 제가 100GB바가 항상 상주한다고 했잖아요. 실제로는 120GB바가 상주를 합니다. 20GB는 우술이라고 해서 뭐 여러 가지로 버퍼로 들어가야 되거든요. 그러면은 원래 288에서 120을 빼면요. 168이 남지 않습니까? 그런데 192에서 120을 빼면 72밖에 안 남습니다. 그러니까 168에서 72로 절반 이하로 줄어들죠.이 이 남은 용량이야말로이 모델 가정치 빼고 진짜 추론에 써야 되는 용량이거든요. 겉으로는 33% 줄어드는 걸로 되 있지만 실제로 돌려보면 절반 이하로 줄어들어 버린다고요. 그러니까 GPU 입장에서는 출론을 하기 위해서는 HBM을 갈라마셔야 되는데 HBM의 유효 공간 모델 가중체에 할당하고 남은 공간이 학주로 드는 겁니다. 비록 33% 아무것도 아니겠네라고 자꾸 이야기를 하는데 꽤 커요. 그게 어 더더군 다 최근 들어서 모델 가중치가 커지고 있거든요. 뭐 MOE라든가 여러 가지를 붙이면 어 모델 가중치가 순간적으로론 작아지지만 결과적으로는 커집니다. 그런 측으로 가고 있기 때문에 요거를 어떻게 처리할 거냐 그죠. HBM 영량을 줄이면요 문제도 한번 생각해 봐야 되고요. 그래서 지금 HBF가 나온 건데 제가 저번 시간에는 HBF에 대해서이 문제는 말을 안 했어요.

사실 SK 하이닉스나 샌디스커에서 하고 싶은 거는이 모델 가정치를 HBM에 상조시키지 말고 HBF로 빼자 이거죠. 그러면은 유효 공간이 확 늘어나니까 HBM에 부담을 줄어 줄 수 있다. 이런 이야기데요. 문제는 엔비디아는 HBF를 탐팩치 않게 생각해요. 자사의 CMX라는 벨도 렉이 있기 때문에 HBF를 좋아하지 않거든요. 구글이 HBF를 좋아합니다. 모델 가중치를 해결하는 방법은 HBF 쪽으로 이걸 빼든지 아니면 HBM에 남겨 두든지 두 가지 방법밖에 없거든요. 여기까지가 모델 가중치 문제고요. 남은 공간을 생각해 보자. 이거죠. 모델 가중치료 할당한 그 부분 말고 남은 부분을 생각해 보자는 건데 남은 부분을 가지고 추론을 해야 되잖아요. 추론을 하기 위해서 입력되는 어떤 그 컨텍스트 그게 길 경우에 그다음에 이제이 디코드를 할 때이 에이전트가 굉장히 성능이 좀 많이 요구하는 좀 까다로운 녀석일 때 이게 이제 다른 말로 하면은 고활성이고 루프 밀도가 높다 이렇게 표현하는데요. 이건 어려운게 아니에요. 루프 밀도가 높다는 거는 뭐냐면 답을 빨리 요구한다는 겁니다. 후다닥 후다닥 해야 되는 그런 에이전트가 있거든요. 코딩할 때 몇 마이크로미터 초를 다투는 그걸 루프 밀도가 높다고 하는 거고요. 그 에이전트가 복수로 깔리는 걸 고성이라고 표현을 하는 겁니다. 그래서이 세 가지 조건이 있으면요. 무조건 HBM은 고용량으로 가야 돼요. 그렇지 않고 루프 밀도가났다 이거예요. 그러니까이 에이전트는 세워라 내라 해도 크게 문제가 안 되는 그런 에이전트가 있거든요. 그런 것들이 별로 많지 않은데 저하성일 때는 CMX로 뺄 수가 있어요. 저번에 한번 설명드렸는데이 SSD를 이렇게 본딩에서 적하는게 아니고 그냥 트레이로 쌓아두는 이종의 별도 렉입니다. 엔비디아가 구성하고 있는 건데 메무리를 개층화해서 좀 쉬고 있는 프리필 단계에서 이제 좀 보좌를 해 주는 거죠.이 이 출론이 프리피라고 디코드가 있는데 긴 컨텍스트인데 별로 쓰이지 않는 거 이런 거는 이제 CMX로 뺀다 이야기거든요. 이게 추론 단계, 디코드 단계에서도 좀 뭐 루프 밀도가 높지 않고 뭐 저성위 이런 것들도 다 CMX로 뺄 수 있다 이거죠. 그러면 이때는 저 용량도 가능해요.

HBM을 많이 사용하지 않아도 된다고요. 근데 문제는 뭐냐면요. 최근 추세가 이것도 길어지고요. 이것도 고화성으로 가고 있고 루피 밀도도 높아진 쪽으로 가고 있거든요. 그래서 엔비디아의 어떤 검토가 단순한 검토로 끝날 가능성이 높다고요. 그러니까 HBM의 용량을 낮추는 시도가 잘 안 될 거라는 이야기죠. 어, 결과적으로 이걸 뭘 의미하냐면요. 삼성하고 마이크론하고 SK 하이닉스의 HBM 제품이 다 다릅니다. 특징이 미묘하게 달라요. 그리고 층수도 다르고요. 그래서 엔비디아 쪽에서는 지금 충분하지가 않으니까 HBM 너무 많이 소모가 되는데 3 4의 특징이 다르고 스펙이 다르니까 섞어 쓰겠다는 거예요. 아 그니까 어떤 회사 제품은 고단화가 안 되니까 그냥 판단용으로 그러니까 컨텍스트도 좋고 저활성이고 점도 에이전트를 쓰는 그 용도로 배정을 하겠다는 거고요. 단수도 높고 용량이 높은 거는 하이엔드 모델에 쓰겠다. 이런 이야기입니다. 그러니까 이거를 믹스 전략으로 생각을 해야지 메인으로 191을 받겠다라는 뉘앙스를 가지고 계속 주장을 하면 이게 시장을 또 오도하는게 된다고요. 더더군다나이 세마이 어넬리스는 전력이 있지 않습니까? 한때 H4에서 마이크론이 완전히 실패했고 끝났다라는 식으로 이야기를 했는데 고소로는 당했는지 안 당했는지 모르겠는데 그게 사실 역정 보였거든요. 저도 시장에서 그런 이야기를 들었지만 실제로 확인해 보니까 아 이거는 누가 흘렸구나라고 알 수 있었는데 경험이 없으니까 그런 역정보를 덥썩 문 거죠. 지금 시장에서는 치열한 암투가 벌어지고 있고 온갖 역정보가 흘러다니고 있습니다. 실제로 확인해서 뭐 이렇게 하기에는 시간이 많이 걸리니까 어떤 공명심에 빨리 글을 올린 건데 그게 시장을 막 들었다 놨다 하는게 지금 코미디 같은 일 아닙니까? 제가 봤을 땐 믹스 전략으로 갈 것 같고요. 여전히 8단이 메인이 아니고 12단이 메인일 겁니다. 왜냐하면은 삼성 같은 경우는 지금 16단 HB 4E 16단도 하고 있거든요. 제가 예전에 마이크론 테크놀로지 삼성 이렇게 쭉 이야기를 하면서 한국 업체들이 상대적으로 일을 안 한다고 했었죠. 반면에 TSMC는 지금 박사급 연원들도 주야를 입고 일을 한다고 했는데 최근 들어서 삼성도요.

스태킹 그리고 여러 가지 패키징 쪽을 연구를 하기 위해서 어 박사급 연구원들이 토요일 1요일에도 출근을 합니다. 어 엄청나게 지금 매진을 하고 있어서 예전에 삼성하고는 다른 분위기라고 하더라고요. 우리도 지금 뭔가 하고 있다. 이런 거를 말씀드리면서 8단이 메인이 된다. 제가 안 되는 이유를 쭉 설명을 드렸죠. 그런 거는 머릿속에서 지우셔도 됩니다. HBM 수요는 엄청나고요. 계속해서 공급이 부족한 상태고 어떻게든 방법을 찾고 있죠. 뭐 강을 더 활용해서 CMX를 더 한다든가 아니면은 뭐 저번에 설명드 대로 LPX라는 거를 한다든가 그거는 그록칩을 활용해서 S램을 활용하는 건데요. 다양한 방법을 짜내고 있는데 엔비디아가 이런 이야기를 흘리는 거는 협상 카드로 3사를지고 흔들겠다 이런 의도도 보입니다. 참고하시고 전혀 투자 전략에 감안하지 마시길 바라겠습니다. 네. 감사합니다. ===== 통합 원문 4 / 5 ===== [채널] 점프 [게시일시] 2026.10.09 00:15:31 [텔레그램 게시물] https://t.me/jump0000/88756 [원문 수집 기준] 외부 링크가 있으면 링크를 따라 확보한 실제 본문·첨부 파일이 주 분석 원문이다. 텔레그램 게시물은 발견 경로와 보조 설명으로 보존하며 외부 원문과 구분해 반영한다. [현재 텔레그램 게시물 본문] 미국 경제는 AI 붐이 사라지면 어떻게 될까? 이 차트가 좀 무섭게 느껴지는 이유가 있습니다. 미국 기업들의 컴퓨터와 관련기기 설비투자가 올해 2분기 4201억 달러로 사상 최고치를 기록. 무서운건 그 속도인데요. 전 분기 대비 205억 달러가 증가하고 6분기 연속 상승세에 2023년 3분기 이후부터 보면 무려 3배로 증가했다는 겁니다. AI 붐으로 관련 지출이 폭증하면서 나타난 결과죠. 심지어 이 수치는 데이터센터와 통신장비, 소프트웨어 등 전체 AI 투자를 완전히 반영하지도 못한다는 겁니다. 그만큼 현재 미국 경제가 AI 붐으로 성장을 하고 있다고 봐야하는건데요. 이 차트가 무서운 이유는 이 엄청난 규모의 지출이 계속 유지되기는 불가능할 것이고 그렇게 되면 경제는 어떻게 될 것인가라는 점입니다.

장기적으로는 AI의 생산성 효과가 킥인하면서 성장이 가속화되겠지만 그 과도기는 상당히 충격을 받을겁니다. ITK / 미주투 ===== 통합 원문 5 / 5 ===== [채널] 세상의 (부)족한 것들에 대해서 [게시일시] 2026.10.09 00:17:43 [텔레그램 게시물] https://t.me/runoutof/483619 [원문 수집 기준] 외부 링크가 있으면 링크를 따라 확보한 실제 본문·첨부 파일이 주 분석 원문이다. 텔레그램 게시물은 발견 경로와 보조 설명으로 보존하며 외부 원문과 구분해 반영한다. [현재 텔레그램 게시물 본문] 경기도, 광역버스 '고속도로 자율주행' 실증한다… 추미애 '미래 교통시... 키워드: #부족 DRT는 고정된 노선이나 시간표를 중심으로 운행하는 기존 버스와 달리 이용자의 호출이나 수요에 따라 탄력적으로 움직이는 교통수단을 말한다. 도는 자율주행 기술과 DRT를 결합해 대중교통 공급이 부족한 지역의 이동... 본문보기 [본문보기] https://www.newscj.com/news/articleView.html?idxno=3438979&igsh=8Fb5lndRUR8J0T== [경기도, 광역버스 ‘고속도로 자율주행’ 실증한다… 추미애 “‘미래 교통시대’ 앞당길 것”] https://newscj.com/news/articleView.html?idxno=3438979&igsh=8Fb5lndRUR8J0T== [외부 원문 1] [URL] https://www.newscj.com/news/articleView.html?idxno=3438979&igsh=8Fb5lndRUR8J0T== [제목] 경기도, 광역버스 ‘고속도로 자율주행’ 실증한다… 추미애 “‘미래 교통시대’ 앞당길 것” 2026-10-08 23:22 (목) 전체메뉴 기사검색 상세검색 창간 17 주년 로그인 회원가입 구독신청 지면보기 facebook twitter blog post cafe-naver cafe-daum 모바일웹 이전 기사보기 다음 기사보기 경기도, 광역버스 ‘고속도로 자율주행’ 실증한다… 추미애 “‘미래 교통시대’ 앞당길 것” 바로가기 복사하기 본문 글씨 줄이기 본문 글씨 키우기

스크롤 이동 상태바 이 기사를 공유합니다 페이스북(으)로 기사보내기 트위터(으)로 기사보내기 카카오톡(으)로 기사보내기 텔레그램(으)로 기사보내기 URL복사(으)로 기사보내기 닫기 2027년 광역버스 3대 개조·2028년 고속도로 시험 2029년 실제 승객 탑승 실증… 2030년 이후 확대 E2E 인공지능 적용… 시내버스·DRT까지 확장 계획 기술개발-실제 대중교통 운행 사이 검증 과제 남아 추미애 경기도지사가 취임 100일인 8일 성남시 판교테크노밸리 스마트모빌리티 실증허브와 경기도 미래모빌리티센터를 찾아 교통혁신 비전을 발표하고 있다. (제공: 경기도) ⓒ천지일보 2026.10.08. [천지일보 경기=최혜인 기자] 경기도가 고속도로를 달리는 자율주행 광역버스 실증에 나선다. 내년 기존 광역버스 3대를 자율주행 차량으로 개조하고 내후년 고속도로가 포함된 노선에서 승객 없이 시험운행한 뒤 2029년 실제 승객을 태운다는 계획이다. 추미애 경기도지사는 취임 100일인 8일 성남시 판교테크노밸리 스마트모빌리티 실증허브와 경기도 미래모빌리티센터를 찾아 이 같은 내용의 교통혁신 비전을 발표했다. 추 지사는 별도의 취임 100일 행사를 여는 대신 자율주행 관련 현장을 방문했다. 이날 발표에서는 자율주행 광역버스를 시작으로 기술 적용 대상을 시내버스와 수요응답형 교통수단(DRT)까지 단계적으로 확대하는 계획이 제시됐다. 도가 가장 먼저 추진하는 사업은 고속도로 기반 자율주행 광역버스다. 우선 내년 기존 광역버스 3대에 차량 주변 상황을 인식하는 장치와 인공지능(AI) 운전시스템을 구축한다. 이듬해에는 고속도로가 포함된 1개 노선에서 승객을 태우지 않고 시험 운행하며 안전성과 실제 도로에서의 운행 가능성을 확인한다는 계획이다. 시험운행 결과를 바탕으로 2029년에는 실제 승객이 탑승하는 실증으로 넘어간다. 2030년 이후에는 대상 노선을 늘리고 자율주행 광역버스를 10대 이상으로 확대하는 게 현재 계획이다. 광역버스에는 경기도가 개발 중인 E2E(End-to-End) 자율주행 인공지능 모델을 적용한다. E2E 방식은 AI가 도로와 주변 차량 등 주행환경을 인식하고 진행 방향과 속도를 판단한 뒤 차량을 제어하는 일련의 과정을 하나의 통합 모델에서 처리하는 기술이다.

도는 실제 도로에서 수집한 주행정보를 반복 학습시키는 방식으로 모델을 개발하고 있다. 2028년 상반기 개발사업을 마무리한 뒤 그 결과를 자율주행 광역버스에 적용한다는 일정이다. 다만 기술개발과 실제 대중교통 운행 사이에는 검증해야 할 과제가 남아 있다. 광역버스는 고속도로뿐 아니라 도심도로와 진·출입로 등을 오가며 실제 운행 과정에서는 차량 합류와 차선변경, 정체, 돌발상황 등 다양한 교통환경에 대응해야 하기 때문이다. 2028년 시험운행이 이러한 조건에서 기술의 안전성과 실제 적용 가능성을 확인하는 첫 단계가 될 것으로 보인다. 추 지사는 이날 자율주행 기술 자체보다 이를 대중교통 운영방식에 어떻게 적용할지에 무게를 뒀다. 그는 “자율주행 기술의 궁극적인 목표도 기술개발 그 자체에 있지 않다”며 “우리 도민의 이동 불편을 줄여주고 지역 간 교통 격차를 해소해서 누구나 빠르고 더 편리하게 이동할 수 있는 새로운 일상을 만드는 것이 목표”라고 말했다. 이어 현재처럼 이용자가 정해진 노선과 운행시간에 맞추는 방식에서 벗어나 이용 수요에 따라 교통수단이 탄력적으로 움직이는 체계를 미래 교통의 방향으로 제시했다. 추 지사는 “지금까지는 도민이 정해진 버스노선과 운행시간에 맞춰 이동할 수밖에 없었다면 앞으로는 교통체계가 도민의 이동 수요에 맞춰서 스스로 움직이는 시대가 될 것”이라고 예상했다. 장기적으로는 광역버스에 적용한 자율주행 기술을 시내버스와 DRT로 확대한다. 추미애 경기도지사가 취임 100일인 8일 성남시 판교테크노밸리 스마트모빌리티 실증허브와 경기도 미래모빌리티센터를 찾아 교통혁신 비전을 발표하고 있다. (제공: 경기도) ⓒ천지일보 2026.10.08. DRT는 고정된 노선이나 시간표를 중심으로 운행하는 기존 버스와 달리 이용자의 호출이나 수요에 따라 탄력적으로 움직이는 교통수단을 말한다. 도는 자율주행 기술과 DRT를 결합해 대중교통 공급이 부족한 지역의 이동 불편을 줄이겠다는 계획이다. 관련 기술을 시험할 기반시설도 판교에 구축하고 있다. 추 지사가 이날 방문한 스마트모빌리티 실증허브는 경기도가 346억원을 들여 제2판교테크노밸리에 조성한 미래차 기업 지원시설이다.

연면적 6348㎡ 규모로 지난달 23일 건물 사용승인을 받았다. 연구개발부터 실증·인증, 사업화를 지원하는 시설로 활용될 예정이다. 2019년 문을 연 경기도 미래모빌리티센터에서는 판교 일대 실제 도로를 이용한 자율주행 시험과 운행정보 수집·관리가 이뤄지고 있다. E2E 자율주행 AI 모델 개발도 지원한다. 도는 판교에서 원격운전 공유차량 실증도 진행하고 있다. 지난달 말부터 안전운전자가 탑승한 상태에서 기술을 검증하고 있으며 이달까지 해당 실증을 거친 뒤 11~12월에는 안전운전자가 타지 않는 방식의 시범서비스를 추진할 예정이다. 추미애 경기도지사는 “지금까지는 도민이 정해진 버스노선과 운행시간에 맞춰 이동할 수밖에 없었다면 앞으로는 교통체계가 도민의 이동 수요에 맞춰 스스로 움직이는 시대가 될 것”이라며 “이런 시대를 앞당기고자 한다”고 말했다. 경기도청 전경. (제공) ⓒ천지일보 2026.04.06. 영문 기사 보기 (View English Article) ※ 본 영어 번역은 구글 자동 번역 서비스를 기반으로 제공됩니다. 자동 번역 과정에서 일부 단어의 철자 등에 오류가 발생할 수 있으니 참고해 주시기 바랍니다. 원문보기 (View Original Korean Article) 천지일보는 24시간 여러분의 제보를 기다립니다. 천지일보 카톡 1644-7533 newscj@newscj.com 제보하기 키워드 #경기도 #광역버스 #수도권 #자율주행 #원격운전 #빨간버스 #추미애 #경기도지사 #취임 #100일 #판교 최혜인 기자 moonshield@newscj.com 다른 기사 보기 저작권자 © 천지일보 무단전재 및 재배포 금지 더보기 닫기 닫기 내 댓글 모음 닫기 [외부 원문 2] [URL] https://www.newscj.com/news/articleView.html?idxno=3438979&igsh=8Fb5lndRUR8J0T== [제목] 경기도, 광역버스 ‘고속도로 자율주행’ 실증한다… 추미애 “‘미래 교통시대’ 앞당길 것” 2026-10-08 23:22 (목) 전체메뉴 기사검색 상세검색 창간 17 주년 로그인 회원가입 구독신청 지면보기 facebook