네프콘 구독자 라이브 26-10-09

그중에 이제 제가 캡처를 해 가지고 주관에다가 강조를 드렸던게 요거였죠. 그랬을 때 요거는 이제 그 지표상 코딩 에이전트 인덱스 코딩 에이전트라는 거는 결국에는 이제 에이전트라는게 클로드 코드 그니까 클로드 코드가 에이전트고 코덱스가 에이전트고 그니까 아이전트이자 하스이자 뭐 이런 거고 그리고 이제 안티그래피티 CL 그니까 CLI 요런게 이제 뭐 에이전트 요렇게 보시고 그거를 구동하는 백엔드 모델이 뭐냐 요런 거랑 이제 같이 벤치마크를 매 먹 매긴 겁니다. 그거랑 이제 코스트 테스크는 작업당 비용을 이제 같이 요렇게 따진 거죠. 그렇게 보자면은 오프스 5.5에다가 클로드 코드를 썼을 때는 차 업당 평균으로 13불 정도를 쓰고 그리고 사실 그보다는 성능이 봤을 때 벤치마크상 약간 못 미치긴 하지만 훨씬 작업당 비용이 1달러 1.04로 그러니까 04달러로 거의 엄청나게 저렴한 BT 6.1과 코덱스 조합이 있고 그리고 중간에 제미나이 4르곤과 안티브레피티 CLI 조합이 있습니다. 그래서 이게 사실은 요렇게 돼 있으니까 이제 돼 있는데 그니까 실제로는 M토크 뭐 이렇게 말해서 엠토크 이렇게 하고 뭐 100만 토큰당 밀리안 토큰당 가격을 인풋 가격 얼마 그리고 이제 아웃풋 가격 얼마 실제로는 요거를 이제 많이 그 노미널은 요렇게 표시가 돼 있는데 실질적으로는 그 작업당 비용은 요런 식으로 돼 있고 굉장히 차이가 많이 나는 시대란 의미에서 여러 기준을 봐야 된다는 말씀인데 이게 100만 토큰당으로 보시면 오프스 5.5 같은 경우에는 인풋이 4달러고 아웃풋이 이제 20달러입니다.

100만 토큰당. 그리고 GPT 6.1 뭐 6 솔 마찬가지로 솔은 2달러고 인풋은 2달러 그리고 이제 아웃풋은 10달러고 이거는 이제 뭐 캐시 히트냐 뭐 미스냐 요런 거는 그냥 빼고 계산할게요. 그리고 재미난 4 같은 경우도 뭐 2달러고 이거는 10달러 겁니다. 그니까 제미나이 4 아르곤 같은 경우도 실제로는 요렇게 돼 있는데 근데 이제 100만 토큰당 비용으로 볼 때는 그러면은 제미나이 4랑 GPT 6.1 솔이랑 같은 거야 될 거 같으나 실제로 토큰당 비용은 정해져 있으나 작업당 비용은 엄청나게 차이가 많이 난다는 거죠. 그게 이제 왜 그렇게 차이가 많이 나는 보시면 결국에는 이제 하나의 작업을 수행을 할 때 어떻게 수행을 시킬 거냐. 그러니까 모델이 예를 들어서 뭐 하나의 추론을 한다고 하면이 이거를 토큰을 어느 정도까지 써서 지능을 어느 정도 높혔을 때 이제 완료라고 하고 저희한테 출력 그니까 그 엔서를 줄 건지 뭐 어느 그니까 그거를 뭐 한 예를 들어서 그것도 다 설정을 할 수가 있겠죠. 그 리즈닝 세팅을 하는 거는 상대적으로 하는 거고 예를 들어서 뭐 내가 한 2분 정도 했을 때를 맥스로 볼 수 있는 뭔가 테스크가 있다고 하면 그거를 30초로 끊거나

1분으로 끊거나 1분 30초로 끊었을 때 뭐 로우, 미디엄 X하이 프로 이런 식으로 이제 뭐 나 그러니까 그 X하이는 맨 마지막 2분일 거고 2분을 이제 뭐 병렬로 뭐 세 개의 에이전트가 서로 검증하거나 아니면은 이제 검증기를 써 가지고 돌리는 그런게 이제 프로라고 치고 뭐 이런 식으로 구성이 돼 있는 건 이제 상대적인 거고 어느 정도 그 최소로 봤을 때 어느 정도가 완료라고 볼 거냐라는 것도 모델을 학습할 때 세팅을 시킵니다. 그래서 그런 아키텍처부터 같이 설계를 하는데 어쨌든이 하나의 작업을 수행하기 위해서 얼마나 토큰을 써서 답변을 내놓을 거냐 요게 이제 어떤이 작업당 비용이 차이가 그렇게 많이 나게 하는 원인입니다. 아라미 님 안녕하세요. 그래서 모델의 지능을 높이는 데는 이제 세 가지 축이 있죠. 많이 말씀드려 가지고 이제 아실겠지만 사전 훈련이 있고 프리 트레이닝이 있고 사후 훈련 포스트 트레이닝이라도 하고 이게 이제 포스트 트레이닝이라고 부른 이유는 기본적으로 사전 훈련은 하나 그니까 하나의 베이스 모델을 만들고 나면 거기서 이제 고정이 됩니다. 그 얘가 가지고 있는 지능 자체가 특정 시점을 기준으로 고정이 되기 때문에 그래서이 베이스 모델은 뭐 새롭게 만들 수 있겠지만 아예 그냥 새롭게 짜는 거지.

근데 덕분에 어쨌든 굉 굉장히 싸게 높은 지능을 많은 사람들에게 뿌리는 쪽으로 이제 작동을 하고 있다라고 보시면 될 것 같습니다. 그래서 요런 원리들을 쭉 넣고 나서 증상들이나 뭐 이런 거를 봤을 때 아웃풋 토큰이나 그리고 이제 그런게 대두가 되다 보니까 아예 그냥 타임 인텔리전스라 그래서 테스크를 할 때 그니까 시간이 얼마 걸리는지까지도 이제 테스트하기 시작한 아까 말씀드렸던 것처럼 아웃풋 토큰을 아무리 그니까 TPS를 아무리 높게 잡더라고 하더라도 토큰 자체를 굉장히 많이 뽑아야 하나의 작업을 완료를 할 수 있는게 있을 거고 그게 이제 뭐 오프스나 소넷이나 하이쿠 같은게 될 거고 그렇다. 그러니까 그 GPT 6.1 솔 같은 경우에는 사실은 토큰 하나를 만드는데 시간은 굉장히 느리고 그게 결국엔 이제 TPS가 낮는 낮은 걸로 나타나긴 하지만 아웃풋 토큰 자체가 적다 보니까 이제 실제 테스크를을 때 타임 자체는 이제 6.1 쏘이 더 오프스보다 빠르다. 그래서 이거를 토큰을 6.1이건 오프스 5.5건 비슷한 의 토큰이 생성해야 되는 작업이 아니라면 웬만한 경우에는 6.1 솔이 훨씬 더 타임퍼 테스크도 낮다. 그래서 그 코스트 포테스크도 굉장히 낮은데 타임 테스크도 낮으니까 GPT 6.1 소울은 굉장히 잘 뽑힌 모델이라고 보는 겁니다.

그러니까 그 위에다가 더 얻는 구조로 학습하지 않는다는 측면에서 프리트레이닝이라고 부르고 포스트 트레이닝이라고 하지긴 하지만 어쨌든 요거는 약간 그 구분하기 위해서 만든 말일뿐 실제로는 여기서 쓰는 대부분의 작업은 강호 학습이죠. 그래서 뭐 어떤 목 그니까 그 비교하기 위해서 하는 거 말고는 이제 그 리인포스 러닝이란 측면에서 강화학습요 에를 많이 쓰는데 R 요렇게를 많이 쓰는데 그렇게가 있고 그러니까 사전 훈련한 베이스 모델을 갖다가 작업별로 지능을 끌어올리는게 강호 학습이고 그리고 이제 모델을 추론을 할 때 시간과 토큰을 많이 써 가지고 더 생각을 많이 해서 지능을 높이는게 이제 테스트타임 컴퓨팅이 있습니다. 테스트타임 컴퓨팅은 요거는 이제 뭐 리즈닝이라고도 부르고 요런 거죠. 요런 세 가지 작업으로 지능을 높이는 방법이 있는데 사전학이 중에서 이제 사전 학습을 잘한다는 건 총 파라미터 그러니까 예를 들어서 토탈 파라 그니까 모델은 늘 그니까 ME가 나오고 나서 이게 이제 댄스 모델일 때는 그렇지 않았는데 MOE라는 거는 모델을 굉장히 구분해서 한 토큰을 추론을 할 때 전체를 활성화하지 않고 그니까 뇌가 있다면 뇌 전체를 쓰지 않고 일부분만 쓰는 거죠. 예를 들어서 뭐 전두엽 중에서도 아주 일부분만 써서 그거를 하게끔 하는 그런 작업입니다.

예를 들어서 그런 데이터를 결국에는 이제 코덱스나 아니면 클로드 코드나이를 통해서 사람들이 썼던 거를 가져다가 얻는 거죠. 예를 들어서 뭐 코딩을 하려면 어디서 해 가지고 어떻게 검색해서 여기다가 어떻게 붙이고 그런 것들 과정을 다 이제 하는데 사용자가 만족을 한 테스크가 있다면 그것도 이제 그 리워드 시그널로 넣어 가지고 계속 강화 학습을 시키는 겁니다.데 수학과 코딩은 답이 정해져 있으니까 리워드 를 하기가 좋아서 아래로 훨씬 빨리 발전한 거고 요거가 강화학습 개념으로 들어가 보면은 결국에는 요것도 사실은 컴퓨팅을 굉장히 많이 필요하는 작업이죠. 이게 결국에는 이제 그 로컬 맥시마 그러니까 뭐 아무튼 로컬 맥시멈 글로벌 맥시멈 뭐 이런게 있는 것처럼 그러니까 이게 굳이 예를 들어서 뭐 보자면 그냥 이런 느낌으로 봤을 때 이게 전체 ճ티를 한정적으로 요렇게 줬다고 치면 그니까 요렇게만 줬다고 치면 그럼 이제 그요 여기 안에서는 여기에 이제 로컬이고 로컬 맥시멈일 거고 여기는 미니멈 로컬 미니멈이 여길 건데 사실은 이걸 훨씬 더 테스크를 제한을 없고 인센티브를 더 후하게 그러니까 이것저것 네가 다 트레일을 한번 열어 봐라고 시켰다고 하면 그냥 아주 단순한 예입니다.

그랬을 때 실제 글로벌 맥시멈은 여기고 실제 글로벌 미니멈은 여기죠. 그러니까 더 많은 데를 해서 그니까 더 많은 데를 찾아 가지고 더 많은 트리를 열어서 트랙토리를 학습을 시키도록 시켰을 때 얘가 더 양질의 데이터가 나오는 측면도 있습니다. 아무튼 그런 것도 사실 나중에 뭐 이런 것도 그 기본적인 지식을 담아 두시면 좋고 근데 이것도 이제 알파고 알파0 요런 것도 생각해 보시면 사실 좋죠. 그니까 이런게 기본 커먼센스로 많이 들어가 있고 하다 보니까 알파0 그 알파고 같은 경우에는 당시에 이제 바둑 기사들의 기보를 갖다가 넣고 훈련을 시켜서 그걸 가지고 강화 학습을 좀 시켰더니 엄청나게 잘하더라라는 거. 그걸 넘어가지고 더 과학습적으로 아까 막 말씀드린 글로벌을 찾기 위해서 아예 그냥 하나도 사전 훈련을 시키지 않은 상태에서 강화학습 가지고만 처음부터 훈련을 시켰더니 컴퓨팅은 더 많이 갔는데 훨씬 더 지능의 피크는 높았더라라는 것도 뭐 있었습니다. 그리고 어쨌든 패스트 그니까 테스크타 그 테스트 타임 컴퓨트는 그렇게 베이스 모델도 만들고 강화 학습도 시킨 모델을 좀 더 오랫동안 수출를 해 가지고 성능을 끌어 올리는 거죠. 요 과정을 직관적으로 이제 보자면 의사가 되는 과정을 비슷합니다.

예를 예를 들어서 뭐 저는 의사가 돼 본 적이 없습니다만 일단 이게 이제 제일 비유가 맞을 것 같은데 아무튼 사전 훈련은 의대에서 예를 들어서 뭐 방대한 의학 지식과 임상 뭐 케이스나 요런 거를 이제 엄청나게 공부하는 작업이 될 테고 그리고 요런게 이제 결국에는 얼마나 많은 지식을 얻고 얼마나 다 더 잘 연결해서 이해하느냐가 중요한 작업이고 그랬을 때 이해도 그러니까 전반적인 이해도는 높지 만 실제 환자를 진료하지는 그니까 환자를 잘 진료할 수는 없는 상태요 정도라고 보면 거기서 이제 넘어가서 사우 훈련으로 들어갔을 때는 실제 의학 지식은 쌓은 사람이 뭐 수련을 하면서 더 그러니까 이렇게 증상을 보고 판단은 어떻게 하고 검사를 어떻게 해야 되고 치료 계획은 어떻게 세야 되고 맞았는지 적절했는지 뭐 피드백을 받으면서 실력을 좀 높이는 과정들이 이제 강화 학습이라고 보시면 되고 강화 학습도 결국에는 이제 이미 지식을 갖춘 베이스 모델에다가 수학 코딩 에이전트 뭐 이런 거들을 풀게하고 보상을 주는 거죠. 테스트 타임 컴퓨트는 만약에 그 의사가 예를 들어서 뭐 5분 진료 시간이 뭐 한 30초일 때 생각하고 내릴 수 있는 답과 같은 걸 보더라도 뭐 5분 보고 내릴 수 있는 판단이 다른 것처럼 여러 가지 뭐 세시간 보고 판단할 수도 있고 그런 것들을 다 해.

그러니까 기존 지식은 똑같은데 더 종합적으로 총체적인 우수한 결론에 도달할 가능성이 높아지는 요런 방향이라고 보시면 될 거 같습니다. 그리고 이제 뭐 여기서 얘기드렸던 것처럼 그 GPT6부터 이제 리커런트 댑스라는게 엄청나게 좋고 요렇다는 것도 말씀을 많이 드렸었는데 여기에 이제 특징은 어쨌든 모델을 이제 돈을 그니까 아까 말씀드린 모델의 기본적인 과금 구조는 100만 토큰당 돈을 받는 거죠. 100만 토큰당 돈을 받는 건데 요거를 약간 이제 굉장히 잘 비틀었다라는 생각이 많이 듭니다. 모델이 결국에는 이제 테스트 타임 컴퓨팅이라고 생각하는 그 과정 자체가 내가 이제 답안을 쓰는 공간이 있고 그리고 생각을 하는 공간이 있죠. 요게 다 아웃풋 토큰입니다. 근데 생각을 하는게 뭔가 문제를 풀 때 요거는 뭐 어떻게 풀고 어떻게 풀고 뭐 어떻게 생각하면 좋을까 이런 식으로 이제 쭉 적는게 개인적 그니까 모델이 자기 스스로 쭉 적어 가지고 생각을 하는게 이제 체인 오브이라 그래서 리닝이라고도 부르고 요런 작업이고 그리고 요게 이제 답인데요 답들은 다 비슷한데 요게 이제 차이가 많이 나죠. 근데 리커런트스는 요런 이렇게 COT를 토큰을 내뱉는게 아니고 그니까 토큰을 내뱉서 생각하는 구조가 아니고 요거를 내뱉기 전에 생각을 하는 구조입니다.

그러다 보니까 요걸 구분하면서 이제 총 파라미터와 파라미터 그니까 활성 파라미터의 개념이 나는데 요거는 이제 토탈 파라미터라고 부르고 요거는 이제 액티브 파라미터라고 부르죠. 그게 이제 댄스일 때는 요게 같았던 거고 MOE가 생기면서는 액티브 파라미터가 훨씬 더 작아지게 됐습니다. 그리고 그래서 요거 중에서 이제 사진 훈련을 하하고 뭐 보통 MOE 모델을 쓰니까요. 요렇게 본다고 봤을 때 활성 파라미터를 어느 정도를 쓰게끔 만들 거냐라는게 핵심입니다. 예를 들어서 뭐 한 이게 이제 이거를 ME라는게 믹스처 오브 익스퍼트죠. 그러니까 전문가들의 집합 약간 요런 느낌으로 보시면 되는데요 익스퍼트 그니까 전문가를 몇 개를 놓을 거냐, 몇 개로 나눌 거냐 그런게 이제 더 많이 스파시티하다. 그 더 많이 희소하다. 이런 말로 많이 씁니다. 그러니까 그런게 이제 그냥 같은 말인데 예를 들어서 한 1천 그니까 1024개의 ME 모델 그러니까 익스퍼트를 가지고 있다고 치면 전체 전문가가 1024개 거죠. 근데 하나당 10빌리언씩의 전체 파라미터를 가지고 있다고 쳐봅니다. 요런 거를. 그러니까 전체의 얘 토탈 파라미터는 1트리언이 되겠죠. 1트릴리언 모델인 겁니다. 근데이 중에서 하나의 토큰을 생성을 할 그니까 하나의 토큰을 만들 때 그니까 여기서 프롬프트가 들어오면 인풋이 뭔가 들어오죠.

그리고 이제 라우터가 있고요 라우터가 전체 1부터 1024까지 있는 요거에 수많은 거 중에네 개를 딱 집어 가지고 거기서 이제 토큰을 뽑게끔 시키는게 예를 들어서이 10트리언 그니까 1트리언 토큰이 토탈 파라미터고 그리고 이제 액티브 파라미터는 40빌리언이 되는 겁니다. 그니까네 개의 그 예를 들어서 뭐네 개의 전문가를 불러다가 한다 하나당 10빌리언이다 하면은 40빌리언짜리인 거죠. 요거를 이제 활성 비율이라고 해 가지고 4.0%다. 뭐 이렇게도 말할 수가 있고 뭐 요즘에 보통 이제 뭐 키미도 그렇고 대략 한 뭐 3 딥크는 거의 3%대 초반이고 엄청나게 압축을 잘하고 그리고 뭐 키미나 그니까 문샷이나 아니면은 G AI 같은 경우에도 한 뭐 4%대입니다. 거의. 근데 오픈 AI 같은 경우에는 뭐 한 3, 4% 되지 않을까 이런 생각을 하고 있고요. 나는 아무튼 근데 이게네 개의 모델만 불러내면 그럼 이제 궁금해질 수 있는 건 ME 모델이 있고 댄스 모델 그러니까 전체를 활성화시키는 모델이 있는데 댄스 모델의 40비와 거의 비슷합니다. 그러니까 그 추론할 때 쓰는 컴퓨팅 플스가 그래서 MOE 모델이 그러면은 전체 총 파라미터 그러니까 내가 가지고 있 는 지능은 굉장히 많은데 아주 일부의 전문가만 불러다가 추론을 하고 그거에 그니까 거의 총 파라미터 그니까 얘 전체 두뇌에 가지고 있는 데이터에서 짝싹짝싹짝싹짝 뽑아 가지고 토큰을 만드니까 엄청나게 효율적인 그러니까 출론할 때 굉장히 효율적인 세팅이 가능하겠죠.

그리고 아무튼 GPU에 얻는다고 할 때는이 총 파라미터를 다 얹어야 이까 예를 들어서 그렇겠죠. 당연히 생각해 보시면 익스포트를 다 이게 1개 2 그니까 1024개를 다 얹어야 그중에서 라우터가 너 너 너 너 와 해가지고네 개의 엑스퍼트를 불러서 토큰이 생성하는데 쓸 수 있습니다. 그러니까 다 얹어야 된다는 얘기고 그중에서 추름할 때는요네 개 정도 40빌리언짜리의 랜스 모델과 비슷한 정도의 플스만 필요로 하게 되더라라는게 이제 뭐 ME고 뭐 이런 건데 어쨌든 요거를 하 있어서 MOE 모델은 댄스 모델에 비해서 상대적으로 그니까 요게 대략 이제 이것도 사실은 깊게 들어가면은 뭐 엔비디아 학가에는 훨씬 특화가 많이 돼 있고요. 올트롤 연결이 훨씬 좋고 이게 중간 정도가 아마 트레이니엄 정도일 거 같고 그리고 이제 TPU가 상대적으로는 이제 ME에 좀 더 그 페널티가 그니까 추론 과정에서는 페널티가 좀 있습니다. 근데 이제 학습 과정에서는 사실 TPU가 훨씬 좋고 뭐 이런 모습인데 근데 어쨌든 추론이 굉장히 컴퓨티를 많이 쓰니까 비디아의 ME 그니까 그 GB 200 이상 MVL 72 이상이 굉장히 좋죠. 그 왜 그런가 하면은 요게 이제 하나의 토큰을 생성할 때네 개를 불러내야 되는데 1024개를 예를 들어서 하나의 렉 안에다가 담을 수 있어야 그니까 이게 결국에는 이제 스케일업 도메인의 크기가 요런 그니까이 전체를 하나에 담을 수 있냐 없냐가 굉장히 큰 건데 요거를 담을 수 있어야 거기서 빨리 그냥 그리고 이제 호이라고 해서 예를 들어서 그 엔비디아 그니까 그 구글 TPU 같은 경우에는 OCS로 연결돼 있다고 뭐 이런 얘기하죠.

그랬을 때 ME 모델을 할 때는 아까 말씀드린 라우터가 들어가기 때문에이 인풋을 몰 넣었을 때 라우터로 어디를 불러내야 될까? 1024개 중에 몇 개가네 개를 어떻게 불러내야 될까를 다 이제 세팅을 시켜다 시켜야 되다 보니까요 라우터가 학습이 굉장히 중요하겠죠. 이게 GPT 5에서 굉장히 많이 이제 발전이 됐던 오픈 AI가 역시 발전을 많이 시켰던 분야인데 요거를 많이 시킴으로써 MOE를 훨씬 더 많이 스파시티시티하게 그러니까 더 많이 익스퍼트를 만들 수 있었고 뭐 그런 것들이 좀 있었습니다. 어쨌든 요거를 하려고만 하면은 아무튼 댄스보다 MOE 모델은 학습하는데 훨씬 더 많은 데이터가 필요하기도 하고 뭐 요런 것들이 이제 뭐 특성적으로 나온다 요런 거고 강화 학습은 그렇게 만든 모델을 가져다가 이것저것 잘 아는 모델을 그니까 베이스 모델을 여기서 뽑아서 그 모델이 갖다가 더 복잡한 작업 그리고 더 장시간 작업을 할 수 있게끔 훈련시키는 과정입니다. 예를 들어서 뭐 수학이나 코딩이나 에이전트 작업이나 뭐 컴퓨터를 쓰는 컴퓨터 유즈 작업이나 [전사 조각 2/4 · 020분부터] 것들을 어떻게 하면는게 더 좋다, 잘한다, 이런 거를 이제 학습을 시킵니다.

그게 있고 그리고 이제 중국산 광모들 같은 경우에는 그 주 그니까 주관 전략에서 얘기를 드렸던게 이제 크게 두 가지로 나왔죠. 하나는 입법부에서 상원에서 이제 그 법안이 나왔던게 하나가 있고 요거는 대표적으로 그냥 표적으로 이노라이트랑 옵토링크를 명 를 해가지고 여기가 공급한 거는 연방정부의 거에 쓰지 마라. 그니까 크리티컬한 거에 쓰지 마라. 이렇게 돼 있습니다. 근데 이거는 거의 뭐 5년 뒤 발효를 그니까 법안 자체가 통과될지도 모르긴 합니다만 뭐 이거는 이제 국가 안보 관련된 거라서 근데 이제 요렇게 점을 찍는다는 건 상당히 사실 의미가 있긴 하죠. 뭐 이게 이제 국가대 국가로 이렇게 할 때는 점으로 찍고 이제 선으로 이게 이걸 긋고 이제 면으로 이렇게 한 번씩 타격을 하고 이렇게 굳이 면까지 가지 않아도 이런 것 들로 다 압박이기 때문에 그냥 하진 않습니다. 그리고 요거랑 같이 FCC에서 이제 규제 가능성이 얘기가 나왔던 거 중에 가장 중요한 거는 어쨌든이 둘 다 핵심은 3.2T 정도 Tbps 정도의 시대 그러니까 레인당 400 정도로 갔을 때 중국 광학 기업들이 시장 점유율을 상당 부분 미국 기업들에게 좀 반납하도록 하는 그런 방향입니다.

그래서 이것도 보시면은 중국산 광모들을 다 쓰지 마라 이런게 아니라 이것도 사실 논이 있는게 이렇다라는 거지. 실제 이렇게 나온 건 아니죠. 그래서 뭐 이런 것도 굉장히 중요하게 늘 팩트와 이게 루머가 있는 것과 이제 방향성과 이런 것들도 다 구분을 하셔야 되긴 하는데 어쨌든 지금 많이 논이 되는 건 미국계 기업의 부품을 65%이 전체 재료비에다가 써라라는게 논의되고 있습니다. 이런 경우에는 아마 DSP랑 레이저 특히 이제 제품 구성에 따라서 물론 대부분은 있겠지만 DSP가 없는 경우도 있을 거라 그런 경우에는 이제 뭐 TIA나 드라이버를 미국산으로 쓸 수 있겠죠. 어쨌든 아마 레이저는 그러면 거의 65%를 맞추기 위해서 무조건 로맨텀과 코일런트 거를 쓸 걸로 보이기 때문에 근데이 중에서 이제 고속 뭐 고속 CW 레이저 그 고출력 이런 거는 거의 로맨텀이 압도적인지라 거의 코이런트도 어셈블리하는 거에서 이제 고속 레이저는 루멘텀에서 사 가지고 어셈블리에서 파는 것들도 많기 때문에 어쨌든 루멘텀이 수익을 가장 가시적이라 봅니다. TI나 드라이버는 아마 샘텍, 마콘, 뭐 맥스리니였는데 기술적으로는 어쨌든 원래도 쌤텍을 좋게 보던지라 샘택을 여기서도 이제 선호를 하고 DSP는 뭐 브로컴, 마벨 요런 기업들이 있습니다.

그래서 이거 같은 경우에는 어쨌든 제일 확실한 거는 루멘텀일 거 같고 그리고 샘텍은 이제 중국산 중국 내에서 NPO를 많이 쓰고 그리고 이제 LPO도 그렇고 어쨌든 그 DSP를 뽑으려면 800지에서는 이제 그러니까 그 그 아무튼 1.6T 정도가 되면 Tbps 정도를 쓰려면 그러니까 200 레인당 200G라고 하면 레인당 200G면 3호 DPS를 그니까 DSP를 써야 되기 때문에 3노면은 DSMC를 써야겠죠. 근데 그렇게 할당받기가 어려우니까 어쨌든 중국에서는 그 그냥 아날로그로 좀 승부를 보려고 하는 쪽으로 많이 하고 있어서 샘택은 좀 수혜를 좀 볼 수 있겠다. 그러니까 중국 쪽 케스가 늘어나는 지금 트렌드에서 좋겠다 정도는 생각할 수 있습니다. 그래서 여기다가 정리를 드렸던게 미국 부품들이 이제 시장 점유율이 커지는 효과가 될 거 같다라는 얘기였죠. 그리고 이제 뭐 엠러빈 유니티 쪽으로 들어가 보면 요것도 사실은 이제 유니티 많이 최근에도 좋아하고 성장선 대비해서도 여전히 좋다고 보는데 원래 유니티를 볼 때도 사실 강조들 했던 부분이긴 한데 최근에 이제 엠러빈이 아예 샌프란시스코 고등 부분에다가 유니티 상대로 너네가 애드 퀄리티를 통해서 우리 정보를 봐가 이렇게 너네가 잘하는 거 아니야?"라고 이제 소송을 걸면서 모두가 아 엠러빈의 시장 점유율을 유니티가 굉장히 빨리 갉아먹고 있고 엠러빈도 원래 이걸 계속 하긴 했는데 갑자기 이거를 그니까 한마디로 표정을 숨기기 어려운 단계가 됐구나라는 거를 좀 알게 되면서 유니티론과 엔빈 숏의 트레이드가 조금 뭐 최근 뭐 2주 정도 봤을 때 간간히 나온 거 같습니다.

[전사 조각 3/4 · 040분부터] 그래서 사실은 이미 그 유니티 자체가 개발자가 게임을 만들고 광고할 때 광고를 내가 하거나 붙이거나 이럴 때 수술를 받는 비즈니스로 하고 있죠. 근데 광고를 좀 더 자세히 살펴보면 핵심은 이제 두 가지입니다. 하나는 내가 수익화하는 거고 두 번째는 이제 유저 확보인데 수익화라는 거는 유니티 엔진을 쓰죠. 만약에 뭐 뭐라고 해야 될까? 아무튼 뭐 내가 게임 개발사는데 유니티 엔진을 써서 게임을 개발한다. 근데이 그거를 통해서 약간의 돈을 벌고 싶다라고 하면이 내가 게임을 하는 그 화면들마다 광고 인벤토리를 제공을 하고 그에 대한 수료를 유니티가 주는 겁니다. 그게 이제 레벨 플레이죠. 그리고 그런 거 말고 그러면은 두 번째는 이제 개발자가 광고주가 되는 경우인데 이거는 대표적인 경우가 내가 게임은 개발을 했는데 문제가 이제 게이머를 구해야겠죠. 그 게이머가 과금을 해야 돈은 버 그니까 돈을 버는 그런 상태가 많습니다. 그러면 유저를 확보를 하려면 어디다가 광고를 해야 되는데 다른 게임 아까 레벨 플레이 요런 거를 통해서 스위커를 하는 요런 인벤토리들이나 아니면은 다른 데들에다가 그러니까 다른 인벤토리 내가 유니티가 가지고 있는 거 외에도 그런 데다가 이제 보여 주는 겁니다.

그래서 광고 그니까 개발자들로부터 광고를 캠페인의 수령을 받아 가지고 그걸 이제 대신 광고를 해 주고이 그러면 유저 에지션 분야의 광고에서 가장 중요한 건 이제 어떤게 한테 광고를 보여 줘야 가장 광고비 지출한 거 비해서 해당 게이머가이 게임에서 돈을 더 많이 쓸까라는게 중요하죠. 이제 이게 이제 마케팅 업계에서선 로아스라고 볼 수 있는데 이제 어떤 게이머에게 광고를 보여 줄까가 중요한데 이거를 이제 통상 데이 뭐 데이 7 데이 28 로아스라고 부릅니다. 데이 7 로아스는 이제 7일 동안 여기 있나 모르겠네. 아무튼 사용자가 데이 7은 D7 로아스 이렇게 부르는 건 사용자가 7일 동안 요거를 깔고 그니까 그 한번 설치 후에 이제 7일 동안 만들어낼 매출을 예상을 해서 그 돈을 쓸 걸 예상을 해서 그래서 이걸 기준으로 입찰를 최적화를 시키는 겁니다. 그 사람들한테 더 많이 보여 주는 거죠. 그리고 데이 28로 된 거는 요거는 이제 한 달이라고 보시면 대략 맞는데 그까 그냥 한 달치를 가장 내가이 어떤 과금하는 사람이 아무튼 게이머가 요걸 깔고 27일 그니까 28일 동안 어느 정도 과금을 할 것 같다라는 예상 금액을 가지고 이제 입찰를 최적화하는 모델입니다.

데이 7은 이렇게 생각해 보시면 이렇게 하면 헤비 과금로 하는 사람이 아니고서야 정확하게 알 수가 없기 때문에 보통은 내가 게임에다가 시간도 많이 드리고 노력도 많이 드리고 레벨도 붙이고 뭐 이렇게 해야 그 이상에 잘 막히 그니까 뭔가 잘 안 돼 이래 가지고 그냥 아 내가 돈 주고이 시간을 사야겠다라고 하면서 돈을 쓰기 시작하는 그 구조가 있는데 그러니까 그 가 있고 돌고리가 있고 뭐 피시들이 쭉 있고 이런 구조로 돼 있다고 하면 그거의 완전 고래 중에서도 헤비 과금러 정도가 아니고서야이 28일 정도에 들어야 잘 걸리더라. 그니까 아무튼 정 더 정확하게 책정을 할 수 있더라라는 건데 엠러비는 여기서 데이 28을 이제 가장 빠르게 상용을 상용화를 해 가지고 첫 7일에는 돈을 안 쓰지만 장기적으로 나머지 21일 그니까 28일 전체 한 달 동안 이제 돈을 쓰는 고가치 사용자들 그리고이 사람들이 더 오래 게임을 하기도 하니까 리텐션도 높겠죠. 그런 사람들을 상대로 보여줌으로써 게임업계의 그 유저 에지션 광고 분야를 평정을 했었습니다. 그게 이제 보시면은 많이 드러났던게 결국에는 이제 그 24년 20 뭐 6년 상반 1분기까지 뭐 이렇게 있었던 엄청난 고성장이 그런 거 덕분에 나왔던 거죠.이 고성장이 나왔었는데 근데 이제 뭐 원래 메타나 이런데 쓰던 거를 여기다가 이제 쭉 빨아간 겁니다.

근데 최근에 유니티가 자체 데이터들을 이제 벡터에다가 넣고 굴리기 시작하니까 엠러빈의 필적한 퍼포먼스를 보이기 시작했다는게 달라진 겁니다. 요게 이제 매출 비중 매출 성장률로 보면 그렇게 높아 보이지 않으실 수 있지만 요거는 이제 유니티의 자체에서 유니티 애드 네트워스가 있고 그리고 이제 유니티 벡터가 차지하는 비중이 있는데 요거 그니까 M러빈의 X1처럼 돌리고 있는게 유니티 벡터입니다. 그 유니티 벡터의 매출 비중이 점점점 상승을 하고 QQ로 거의 15% 최근에는 20% 초반대 이상을 내고 있는 상태라서 이게 워낙 드라마틱하게 매출 비중이 낮았다가 빠르게 높아지고 있고 하다 보니까 전사 기준으로 봤을 땐 낮아 보이지만이 물 밑에는 굉장히 큰 모멘텀이 있다라고 보시면 맞을 것 같고요.데 그렇게 해서 달라지고 있는데 데이터를 그러면 이게 그냥 AI 뭐 이렇게 보시면 됩니다. 그냥 모델 LM 이런 거 하는 것처럼 결국에는 그럼 여기다가 또 데이터를 많이 넣고 데이터를 다양하게 넣고 더 긴 시기열에 데이터를 놓고 할수록 광고 엔진의 예상 로아스 책정을 더 잘하는 경향이 있죠.

근데 유니티하게 중요한 건 아직 엠러빈이 가지고 있는 그리고 다른 모두가 가지고 있지 않은 그런 데이터들을 원래 넣기로 한 걸 다 넣은 상태가 아닙니다. 그러니까 온라인은 침체적으로 계속 하게로 돼 있고 그거를 다 넣은 상태가 아니라는 거죠. 그렇기 때문에 어떻게 보면 이제 그중에서 사실 가장 중요한 건 런타임 데이터입니다. 이게 이걸 통해서 런타임이라는 건 결국에는 이제 유니티의 엔진에서 나오는 그런데 그니까 게이머들이 어떻게 행동하는지에 대한 데이터를 얻을 수 있겠죠. 그리고 두 번째는 게이머들이이 안에서 이넷 결제를 했을 때 그 인액 결제에 대한 퍼체스 데이터를 얻을 그니까 구매 데이터를 얻을 수 있습니다.이인 결제 데이터를 그러면 얻기 위해서는 유니티 커머스라는요 인액 결제가 굉장히 좋아야 되지 않냐라고 싶으실 수 있는데 기본적으로인 결제는 앱스토어나 플레이 스토어를 통하면 15 그니까 뭐 30% 수술을 떼지만 그거를 이제 웹으로 옮겨서 뭐 이 링크에서 하시면 뭐 10% 15% 세금만 맵니다. 이런 식으로 더 싸게 해 주거나 뭐

이럴 이런 거를 이제 많이 게임하시면서 보실 수 있는데 그러니까 그 수술를 안 내니까 그런 거보다도 유니티는 엔진 자체에서 인견 결제를 훨씬 이제 센리스하게 그니까 왜냐면 실제 퍼포먼스 마케팅이나 요런거나 요런 거 한번 관심 그까 보시면 좋은데 유익 퍼너 그니까 그 게임이머가 이제 어 나 결제할까라고 생각을 하고 결제 을 누르고 결제 카드를 누르고 결제 카드에서 뭐뭐 선택하고 CBC를 클릭을 하고 보안을 깔고 뭐 하고 뭐 하고 이렇게 하는 이제 전이마다 그니까 하나의 번너를 쭉 흘러가서 실제 구매까지 연결되는 과정에서이 중간마다 이제 마운스 레이트가 있겠죠. 예를 들어서이 사이에서 뭐 한 50% 나간다.이 사이에서 30% 나간다.이 사이에서 뭐 30% 나간다.이 사이에서 뭐 20% 나간다. 이런 식으로 굉장히 좁아집니다. 그래서 뭐 관편 결제라는 걸 하면 이게 원래 는 개의 퍼너 그니까 열 개를 스텝을 밟아야 되는데 세 개로 단축을 하면 훨씬 바운스레이트가 줄어드니까 컨버션 그니까이 전환율이 높아진다 약간 요런 개념으로 이제 이거 굉장히 중요한 건데 요런 거에 있어서 유니티인 결제를 쓰게 되면 앱 자체 게임에서 엔진에서 지원을 하니까 거의 그니까 비슷하게 그러니까 그 앱스토어나 플레이 스토어를 통해서 네이티브로 지원하는 것과 거의 비슷하게 세리스하게 결제를 할 수 있게 된다.

그러면서도 수술로는 거의 지 않겠다는 계획입니다. 대신 유니티 입장에서선 압도적으로 로아스 평가에 중요한 다른 데는 하나도 없는 구매 데이터를 얻을 수 있겠죠. 그렇게 하는 것도 다 유니티 벡터에 들어가고 자기들도 쓸고 이렇게 하겠다는 겁니다. 근데 어쨌든 그렇게 하면은 이제 개발사 입장에서는 뭐 자기들이 할지 아니면 유니티하게 주고 뭐 수술를 좀 줄지 이렇게 결정을 할 텐데 그리고 데이터를 넣을지 그러니까 여기다가 줄지 말지 뭐 이런 걸 결정을 할 텐데 어쨌든 사실은 그렇게 데이터를 주고 하더라도 유니티 이액 결제를 쓰면 면은 그니까이 이탈율도 그 전환율이 높으면서도 굉장히 수수로도 낮는 조건이니까 나쁘지 않겠다는 생각이 많이 들거다 이겁니다. 그래서 실제로 언리언 엔진을 지원하는 데서도 유니티 인액 결제를 많이 쓰기로 그렇게 약속을 했죠. 그리고 그렇게 만약에 이렇게 좋게 이제 뭐 광고 굉장히 좋겠다라고 생각을 들 들신다면 사실 장기적으로 이렇게 하더라도 결국에는 이제 유니티 엔진을 꼭 써야 하는 이유를 줘야 되는데 그러기 위해서 뭐 유니티 AI나 유티 7 등 클로드 코드나 아니면 코덱스가 아예 유니티 엔진의 모든 거를 다룰 수 있게끔 업데이트를 하고 있는게 이제 뭐 유니티 스파크나 이런 겁니다.

어쨌든 수요가 구글 향으로도 엔스로픽으로도 많이 늘어나고 두 번째는 이제 최근의 기대는 엔비디아도 굿스라고 해 가지고 이게 솔풋 개념이 있고 굿풋 개념이 있는데 그랬을 때 루빈 울트라의 576요 버전 그니까 여기 그 루빈 울트라부터는 OCS를 택할 가능성이 좀 많이 높아졌기 때문에 요것도 굉장히 중요합니다. 굿풋 개념은 이거는 이제 그 구글 TPU 네트워킹 모든 것 자료를 한번 가셔서 보시면 좋을 거 같은데 요게 굿풋 개념이 굉장히 중요해서 요것만 짧게 마무리하고 얘기를 하면 이제 하나의 논리적인 클러스터를 만약에 1천000개 그니까 10만 개를 통해서 하나의 논리적인 클러스터를 만들었다라고 하면 그 안에 칩 하나가 죽어도 전체 클러스터가 다운이 되겠죠. 그러면은 요거를 백 백업 풀링이라고 해서 백업 서버를 두기도 하고 아니면은 MVL 72에는 이게 실질적으로 여덟 개 그러니까 여덟개가 곱하기 여덟 개 해서 64개면 되는데 왜 72개인가?이 여덟 개로 나눠지지 않는 이유는 뭔가?

이게 64개를 구성을 하고 그리고 나머지 여덟 개의 노드는 스페어로 들어가 있습니다. 그러다가 이제 64개 중에 여덟 개, 여덟 개, 여덟 개 이렇게 쭉 나뉘져 있는데 여덟 개 곱하기 아홉 개죠. 그 여덟 개 중에 하나가 고장이 나면 그러니까 그 그 여덟 개 중에서도 아무튼 하나라도 고장이 나면 그 여덟 개를 대신 스페어로 빠르게 채워 가지고 이제 무조건 굿풋을 높일 수 있게끔 뭐 그런 걸로도 72개인 겁니다. 아무튼 요런 작업에서 전체 클러스터가 다운되지 않도록 구글 같은 경우에는 문제가 생긴 TPU나 뭐 CPU나 링크를 파 그니까 피해 가지고 빠르게 그 거울을 움직여서 새로운 슬라이스 새로운 그니까 슬라이스라는 건 논리적으로 저희가 서버를 구성을 하면 포드 파스트 개념이 있는데 그렇게 안 하고 얘네들은 물리적이지 않고 실제 인스턴스 개념으로 저희가 쓰는 개념으로 봤을 때 슬라이스라는 개념을 많이 쓰는데 그것도 이제 여기에다 다 표현이 돼 있습니다만 작업을 아무튼 이어가게끔 해 주는 겁니다.

그럼 결과적으로는 칩의 가동률이 OCS가 있고 없고 차이가이 클러스터가 커질수록 굉장히 크게 차이가 나는 모습을 보실 수가 있는 거죠. 그래 가지고 뭐 요런 것도 어쨌든 구글 그니까 Nv디아 GPU 같은 경우에도이 구풋을 높이시 기 위해서 결국에는 OCS를 쓰겠다. 그 29년 정도부터는 거의 엔비디아 향으로 나가는 수요가 구글 향으로 나가는 수요만큼이 곱하기 2해서 더해지는 구조가 될 거 같아서 이거에 대해서도 기대를 개인적으로 좀 많이 하고 있는 상태입니다. 여기까지가 마무리고요. 한 잠깐 생각보다 앞에가 좀 길었어 가지고 근데 이제 어쨌든 링크로도 한번 달아드리고 나중에 보시기에도 중요한 부분일 거 같아서 이 시간에 어쨌든 열심히 참석해 주시는 분들이면 공부를 그러니까 한번 전체적으로 들어보시는 개념이 중요할 거라고 생각해서 한번 정리를 해 봤습니다. 짧게 일단 Q&A를 몇 개만 받고 그리고 마무리하도록 하겠습니다. 요즘 가람 변동성 큰 장애는 투자 마인드는 사실은 이럴 때는 뭐 장사는 없죠.

어떻게 뭐 하락이나 상승이나 상승은 뭐 사실 장사가 모르겠습니다만 아무튼 하락에는 사실 장사가 없다고 생각하긴 하는데 그래서도 그러니까 그냥음 근데 오늘처럼 거의 오픈 AI 뭐 그로스 레비뉴나 레비뉴나 이런 거 가지고 이제 차이로 뭐 하락하고 이런 거는 어떻게 보면은 변동성의 영향도 되게 약간 그니까 훨씬 그 취약해진 느낌 그 프레질해진 옵션에 막 영향을 많이 받고 이런 느낌을 많이 받는데 그럴 때일수록 이제 펀더멘탈을 잘 분석을 하고 이런 때 어떤 때는 진짜 문제가 생겼고 어떤 때는 진짜 문제가 안 생겼기 때문에 그냥 들고 간다를 어떻게 보면 그런 거를 더 집중을 하는게 좀 더 알파를 낼 수 있는 방법이지 않을까 그런 쪽으로 가는 거 같긴 합니다. 그러니까 더 헤드라인으로 보고 더 사람들이 X나 뭐 텔레나 아니면 AI를 통해서 이제 트레이딩을 하거나 이런 식으로 많이 그 뭐 쓰고 하면 할수록 좀 더 긴 시계열에서 너무 길고 이렇게 하진 않지만 어쨌든 그런 상태에서 투자를 하는게 중요하겠다 뭐 이런 생각 정도는 합니다.

변동성이 옛날보다 많이 커졌죠. 생각해 보시면 예전에 엔비디아 제가 그때 24년이었나요? 24년에 아무튼 슈퍼마이크로 하락으로 인해서 엔비디아가 뭐 한 5% 정도 빠졌을 때 그 긴급 코멘트 드리고 웰크했었는데 요즘은 그냥 오프는 우습게 왔다 갔다 하는 거 같아요. 그냥 이게 그러니까 1년에 한 번 두 번 있었을 쇼크가 그니까 뭐 위로 오르든 거건 아래로 빠지는 거건 그런게 요즘에는 거의 한 주에 한 번 아니면 뭐 한 두 주에 한 번 정도는 있는 느낌이라 굉장히 필요한 장이긴 하죠. 변동성에는 어쨌든 그냥 뭐 요거는 이제 위든 아래든 근데 거의 이렇게 되면 그니까 그런 느낌을 많이 받긴 합니다. 그니까 뭐냐면 이게 이제 기본 문제는 다 크라우디드 돼 있기 때문에 다 비슷하게 이게 좋다는 거는 다 알기 때문에 그 스타에 많이 몰려 있으니까 누가 진짜 알고 있어 모르고 있어를 걸러내기 위해서 이제 그니까 그런 것들이 효과적으로 되게 되는 건데 예를 들어서 맥시멈 드로브다운은 뭐 실제로는 여기서 여기까지 주가는 15% 빠졌는데 하루 만에 한 7, 8%를 빼버린다거나 그리고 뭐 조금 오르는 거 같다가 만약에 다음 날에 한 7, 8% 빼버리면 심리적으로 사람이 실제로 들어오다는 15%인데 느끼기에는 한 2, 30% 정도의 느낌을 받으니까 그 왜냐면은 얘기 실제 2, 30% 빠지는 원래는 조금 조금 조금 조금 조금씩 빠져 가지고 뭐 처음에는 1 2% 1, 2% 뭐 0.

몇% 조금 오르고 그리고 2, 3% 빠지고 그렇게 하고 마지막에 이제 뭐 5% 3% 빠지고 이제 클라이스 찍고 다시 오르고 뭐 이런 구조였다면 이제는 그냥 거의 한 번에 한 7, 8% 빼버리고 다음날 한 2, 3% 오르고 다시 한 7, 8% 빼버려서 이거를 굉장히 그 크라우디 된 상태에서 어떻게 하면 이걸 사람들이 팔 수 있는 잔인하게 만들 수 있을까 뭐 이런 생각을 그런 느낌을 받죠. 그 결국에는 이제 모두가 들고 있는 상태에서는 오르지 않다 보니까 그런 관점에서 뭐가 이게 그 피곤하게 만드는 경우일까 그러면은 요런 트레이딩이 앞으로도 좀 많이 나오겠구나. 그리고 요걸 생각을 많이 하고 두 번째로는 오르고 내리고 할 때마다 거의 한 횡보를 한 2, 3개월 그리고 뭐 아니면 하락을 한 2, 3개월 하다가 한 번에 그냥 한 2주 사이에 그니까 이거를 어 보고 들어가야지라고 생각할 그 렉이 걸리면은 돈을 못 버는 장이 되는 거 같기도 합니다.

그래가지고 평소에 이걸 계속 공부해 놓지 않으면 그니까 이거는 뭐 제가 그렇게 리서치를 하고 해설라기보다도 그냥 최근에 주가가 움직이는게 결국에는 이제 크라우디드니까 계속 공부 안 해 놓으면 그냥 내가 포지션 없을 때 한번 확 올라버리고이 상태에서 한 2, 3개월 쉬거나 아니면 약간 빠지니까 아 아닌가 하고 팔았을 때 다시 한번 확 올라버리고 그러니까 그게 좀 [전사 조각 4/4 · 060분부터] 어, 상승 하방 둘 다 변동성이 좀 많이 커진 거 같아요. 그러니까 이렇게 큰 프랙탈로 봤을 때 그리고 작은 데일리로 봤을 그니까 데일리는 아니고 한 뭐 위클리나 이런 걸로 봤을 때도 좀 요런 두 가지 모습들이 좀 많이 나오는 거 같습니다. 만약에 뭐 AI 근데 그 AGI는 기준이 너무 다를 것 같기는 합니다. 만약에 뭐 AGI가 된다고 해도 그게 격차가 그니까 진짜 RSI로 1등과 격차가 많이 나는 압도적 1등이 나오고 나머지가 되게 뭐 비두 비 그니까 그 격차가 많이 나는 상태가 될 거냐 아니면은 그냥 1등이 나오고 곧바로 2, 3등이 쭉 나오는 지금과 같은 피라미드 구조를 쭉 유지를 할 거냐.