25-11 일리야 수츠케버의 초지능 연구 방향 발언
작성자의 핵심 판단
단순한 스케일링은 비효율적일 수 있어 다시 연구의 시대로 들어가며, 가설을 검증할 컴퓨팅은 여전히 큰 차별화 요소가 된다고 평가했다.
근거 보기 1
- 원문 구간 1
Transformer는 최소한의 컴퓨팅으로 개발됐으나 더 높은 컴퓨팅 수준에서 그 가설이 맞음을 검증하면서 유명해진 과정이다. SSI는 우리의 가설이 맞는지 검증할 충분한 컴퓨팅 자원을 갖고 있다.입니다. (3) 오픈AI는 ChatGPT 출시 3주년에 맞춰서 '샬롯피트(Shallotpeat)'라는 새로운 모델을 출시 준비 중입니다. 사전훈련에서 성능을 더 끌어올리기 위한 모델입니다. 양파류(Shallot)은 토탄(peat, 썩은 흙)에서 잘 자라지 못하는데, 이런 특성을 이름에 녹였습니다. 해석하자면 지금까지의 모델은 토탄에서 키웠던 것인데 앞으로 더 좋은 LLM을 얻기 위해서 사전훈련에서 생긴 버그를 수정하고 성능을 근본적으로 끌어올리기 위한 연구임을 강조한 모델명입니다. (4) 어제 장중에 오픈AI에 투자한 altcap은 X에서 "ChatGPT의 주간 활성 사용자 수가 다시 가속화되고 있으며 거의 9억 명에 가깝다"고 말했습니다. Tier 1 Labs가 OpenAI, Google DeepMind, Anthropic 3강 구도가 유지될 거란 생각은 여전히 같습니다. AI HW : (1) 구글 TPU의 ML/System Co-design을 담당하는 개발자 아미르 야즈단(Amir Yazdan, Lead는 아닙니다.)이 전일 엔비디아, 오라클, AMD 등의 주가가 하락하는 것을 두고 "이번 매도세는 시장이 하드웨어와 수요에 대해 얼마나 무지한지를 보여줍니다.(The selloff shows how clueless the market is about hardware and the demand.)"라고 평했습니다.
이 자료에서 다룬 사실
수츠케버는 Dwarkesh Patel 팟캐스트에서 인간의 감정을 가치함수에 비유하고, 긴 사고가 필요한 작업에서 기존 강화학습은 최종 결과 전 학습이 없어 비효율적이라고 말했다.
근거 보기 2
- 원문 구간 1
ⓒ인간은 매우 적은 데이터로도 스스로 굉장히 광범위한 분야에서 일할 수 있는데, 그 원리가 뭔지 알아내야 한다. 그리고 우리는 언젠가 초지능에 도달할 것이며 AI에 자의식이 생기며 드라마틱한 발전을 볼 것이라는 맥락의 발언이었습니다. (2) 오늘 일리야가 Dwarkesh Patel 팟캐스트에서 발언한 내용도 비슷합니다. 그런데 사실 깊이 들어가보면 조금 더 심오해서 더 흥미로웠습니다. 일리야는 늘 생각할 거리를 안겨주는 개발자입니다. 내용은 이렇습니다: (2-1) 인간의 진화를 생각해보면, 감정이 일종의 가치함수(Value Function) 같은 역할을 한다. 어떠한 최종 결정에 대한 보상(end reward)으로 가기까지 중간값이다. 현재 AI의 기존 강화학습 방식은 최종 결과값이 나오기 전까지는 학습이 없기에 긴 생각이 필요한 작업에서는 비효율적이다. 가치함수는 중간에서 잘하고 못하는지를 알려주기에 학습을 단축시킬 수 있다. 인간의 가치함수는 감정이며 매우 단순하다. 복잡한 건 유용하나, 단순한 건 매우 광범위한 곳에 쓰일 수 있다. (2-2) 2012~2020년은 연구의 시대였고, 2020~2025년은 스케일링의 시대였다. 이제 규모가 너무 커졌기에 '단순한 스케일링'으로는 비효율적일 수 있다. 이제 연구의 시대이며 더 큰 컴퓨터를 갖고 연구할 수 있게 됐다. 최고의 시스템을 구축하고 연구하려면 여전히 더 많은 컴퓨팅이 필요하고, 모두가 같은 패러다임으로 넘어오면 다시 컴퓨팅이 큰 차별화 요소가 된다.
- 원문 구간 2
Transformer는 최소한의 컴퓨팅으로 개발됐으나 더 높은 컴퓨팅 수준에서 그 가설이 맞음을 검증하면서 유명해진 과정이다. SSI는 우리의 가설이 맞는지 검증할 충분한 컴퓨팅 자원을 갖고 있다.입니다. (3) 오픈AI는 ChatGPT 출시 3주년에 맞춰서 '샬롯피트(Shallotpeat)'라는 새로운 모델을 출시 준비 중입니다. 사전훈련에서 성능을 더 끌어올리기 위한 모델입니다. 양파류(Shallot)은 토탄(peat, 썩은 흙)에서 잘 자라지 못하는데, 이런 특성을 이름에 녹였습니다. 해석하자면 지금까지의 모델은 토탄에서 키웠던 것인데 앞으로 더 좋은 LLM을 얻기 위해서 사전훈련에서 생긴 버그를 수정하고 성능을 근본적으로 끌어올리기 위한 연구임을 강조한 모델명입니다. (4) 어제 장중에 오픈AI에 투자한 altcap은 X에서 "ChatGPT의 주간 활성 사용자 수가 다시 가속화되고 있으며 거의 9억 명에 가깝다"고 말했습니다. Tier 1 Labs가 OpenAI, Google DeepMind, Anthropic 3강 구도가 유지될 거란 생각은 여전히 같습니다. AI HW : (1) 구글 TPU의 ML/System Co-design을 담당하는 개발자 아미르 야즈단(Amir Yazdan, Lead는 아닙니다.)이 전일 엔비디아, 오라클, AMD 등의 주가가 하락하는 것을 두고 "이번 매도세는 시장이 하드웨어와 수요에 대해 얼마나 무지한지를 보여줍니다.(The selloff shows how clueless the market is about hardware and the demand.)"라고 평했습니다.
그렇게 판단한 이유
데이터 부족 뒤에는 합성 데이터와 훈련 컴퓨팅이 필요해지고, Transformer도 높은 컴퓨팅에서 가설을 검증하며 알려졌다는 설명을 연결했다.
근거 보기 2
- 원문 구간 1
ⓒ인간은 매우 적은 데이터로도 스스로 굉장히 광범위한 분야에서 일할 수 있는데, 그 원리가 뭔지 알아내야 한다. 그리고 우리는 언젠가 초지능에 도달할 것이며 AI에 자의식이 생기며 드라마틱한 발전을 볼 것이라는 맥락의 발언이었습니다. (2) 오늘 일리야가 Dwarkesh Patel 팟캐스트에서 발언한 내용도 비슷합니다. 그런데 사실 깊이 들어가보면 조금 더 심오해서 더 흥미로웠습니다. 일리야는 늘 생각할 거리를 안겨주는 개발자입니다. 내용은 이렇습니다: (2-1) 인간의 진화를 생각해보면, 감정이 일종의 가치함수(Value Function) 같은 역할을 한다. 어떠한 최종 결정에 대한 보상(end reward)으로 가기까지 중간값이다. 현재 AI의 기존 강화학습 방식은 최종 결과값이 나오기 전까지는 학습이 없기에 긴 생각이 필요한 작업에서는 비효율적이다. 가치함수는 중간에서 잘하고 못하는지를 알려주기에 학습을 단축시킬 수 있다. 인간의 가치함수는 감정이며 매우 단순하다. 복잡한 건 유용하나, 단순한 건 매우 광범위한 곳에 쓰일 수 있다. (2-2) 2012~2020년은 연구의 시대였고, 2020~2025년은 스케일링의 시대였다. 이제 규모가 너무 커졌기에 '단순한 스케일링'으로는 비효율적일 수 있다. 이제 연구의 시대이며 더 큰 컴퓨터를 갖고 연구할 수 있게 됐다. 최고의 시스템을 구축하고 연구하려면 여전히 더 많은 컴퓨팅이 필요하고, 모두가 같은 패러다임으로 넘어오면 다시 컴퓨팅이 큰 차별화 요소가 된다.
- 원문 구간 2
Transformer는 최소한의 컴퓨팅으로 개발됐으나 더 높은 컴퓨팅 수준에서 그 가설이 맞음을 검증하면서 유명해진 과정이다. SSI는 우리의 가설이 맞는지 검증할 충분한 컴퓨팅 자원을 갖고 있다.입니다. (3) 오픈AI는 ChatGPT 출시 3주년에 맞춰서 '샬롯피트(Shallotpeat)'라는 새로운 모델을 출시 준비 중입니다. 사전훈련에서 성능을 더 끌어올리기 위한 모델입니다. 양파류(Shallot)은 토탄(peat, 썩은 흙)에서 잘 자라지 못하는데, 이런 특성을 이름에 녹였습니다. 해석하자면 지금까지의 모델은 토탄에서 키웠던 것인데 앞으로 더 좋은 LLM을 얻기 위해서 사전훈련에서 생긴 버그를 수정하고 성능을 근본적으로 끌어올리기 위한 연구임을 강조한 모델명입니다. (4) 어제 장중에 오픈AI에 투자한 altcap은 X에서 "ChatGPT의 주간 활성 사용자 수가 다시 가속화되고 있으며 거의 9억 명에 가깝다"고 말했습니다. Tier 1 Labs가 OpenAI, Google DeepMind, Anthropic 3강 구도가 유지될 거란 생각은 여전히 같습니다. AI HW : (1) 구글 TPU의 ML/System Co-design을 담당하는 개발자 아미르 야즈단(Amir Yazdan, Lead는 아닙니다.)이 전일 엔비디아, 오라클, AMD 등의 주가가 하락하는 것을 두고 "이번 매도세는 시장이 하드웨어와 수요에 대해 얼마나 무지한지를 보여줍니다.(The selloff shows how clueless the market is about hardware and the demand.)"라고 평했습니다.