오픈AI 최첨단 AI 개발 속도 조절 언급
작성자의 핵심 판단
작성자는 Pacing the Frontier가 AI 개발의 큰 흐름을 바꾸지 않으며, 정렬과 수익화를 위해서도 컴퓨트 투자가 늘어나는 방향이라고 본다.
근거 보기 2
- 원문 구간 1
그래서 역설적인 점은 미래 모델들이 더 안전하고 정렬되도록 하기 위해 우리는 더 많은 컴퓨트가 필요할 것이라는 점입니다."라고 말했습니다. 원문 : The way we will make sure frontier models are safe and aligned is by spending compute. So the counterintuitive point is that we’ll need even more compute to make sure future models are more safe and aligned 같은 컴퓨트를 갖고 있다면 속도를 약간 늦추는 게 되겠지만, 같은 속도를 유지하는 방법은 컴퓨트 투자를 늘리는 것입니다. 큰 흐름으로 볼 때 Pacing the Frontier로 인해서 달라지는 것은 거의 없을 것으로 예상합니다. 이미 RSI로 차세대 모델 개발이 빨라지는 것(+)에서 정렬을 강화할 시간을 확보(-)하는 것입니다. (3) 9월 14일, 일론 머스크와 그웬 쇼트웰이 All-In Summit에서 발언한 내용을 정리해보면: 일론은 암묵적으로 프론티어 AI 개발의 둔화를 고려하지 않고, 대신 Cross-Lab 테스팅 메커니즘을 제안했습니다.
- 원문 구간 2
구독제는 Essential($14.99/월), Advanced($49.99/월), Expert($149/월), Max($499/월)입니다. (6) 마크 저커버그가 Pacing the Frontier에 대한 생각을 X에 올렸습니다: 이번 주 주간전략보고에서 전해드렸던 개인적인 생각과 같습니다. 지극히 간단하게 정리하자면 '원래도 프론티어 모델 출시하려면 정렬해야 수익화할 수 있으니 수개월 전부터(6월 12일, Fable 수출규제 이후) 당연한 게 됐는데 무슨 말이지?'입니다. 주간전략보고에서 강조드린 것도 다리오가 말한 Pacing the Frontier를 지금 이미 업계가 적용하고 있기 때문에 달라진 게 없다는 것이었습니다. ⓐRSI용 체크포인트 모델을 내부적으로 쓰던 트렌드, ⓑ정렬을 해야 API로 수익화할 수 있기 때문에 제조물 책임법 등에 걸리지 않기 위해서 정렬에 좀 더 품을 들여야 했던 트렌드는 같습니다. 앤스로픽과 오픈AI가 이를 갑작스레 강조한 것은 결국 사다리를 걷어차기 위한 의도라고 생각하게 되는 이유입니다. 만약 ⓑ를 더 빠르게 해서 수익화 루프를 더 빠르게 가져가고 싶다면 컴퓨트를 더 늘릴 일입니다.
이 자료에서 다룬 사실
오픈AI 컴퓨트 책임자 사친 카티는 9월 15일 AI Infra Summit에서 최첨단 모델의 안전성과 정렬을 위해 더 많은 컴퓨트가 필요하다고 말했다.
근거 보기 1
- 원문 구간 1
그래서 역설적인 점은 미래 모델들이 더 안전하고 정렬되도록 하기 위해 우리는 더 많은 컴퓨트가 필요할 것이라는 점입니다."라고 말했습니다. 원문 : The way we will make sure frontier models are safe and aligned is by spending compute. So the counterintuitive point is that we’ll need even more compute to make sure future models are more safe and aligned 같은 컴퓨트를 갖고 있다면 속도를 약간 늦추는 게 되겠지만, 같은 속도를 유지하는 방법은 컴퓨트 투자를 늘리는 것입니다. 큰 흐름으로 볼 때 Pacing the Frontier로 인해서 달라지는 것은 거의 없을 것으로 예상합니다. 이미 RSI로 차세대 모델 개발이 빨라지는 것(+)에서 정렬을 강화할 시간을 확보(-)하는 것입니다. (3) 9월 14일, 일론 머스크와 그웬 쇼트웰이 All-In Summit에서 발언한 내용을 정리해보면: 일론은 암묵적으로 프론티어 AI 개발의 둔화를 고려하지 않고, 대신 Cross-Lab 테스팅 메커니즘을 제안했습니다.
그렇게 판단한 이유
같은 속도를 유지하려면 컴퓨트 투자를 늘려야 하고, RSI용 체크포인트 모델로 개발을 빠르게 하면서 정렬에 쓸 시간을 확보하는 구조라는 논리를 든다.
근거 보기 2
- 원문 구간 1
그래서 역설적인 점은 미래 모델들이 더 안전하고 정렬되도록 하기 위해 우리는 더 많은 컴퓨트가 필요할 것이라는 점입니다."라고 말했습니다. 원문 : The way we will make sure frontier models are safe and aligned is by spending compute. So the counterintuitive point is that we’ll need even more compute to make sure future models are more safe and aligned 같은 컴퓨트를 갖고 있다면 속도를 약간 늦추는 게 되겠지만, 같은 속도를 유지하는 방법은 컴퓨트 투자를 늘리는 것입니다. 큰 흐름으로 볼 때 Pacing the Frontier로 인해서 달라지는 것은 거의 없을 것으로 예상합니다. 이미 RSI로 차세대 모델 개발이 빨라지는 것(+)에서 정렬을 강화할 시간을 확보(-)하는 것입니다. (3) 9월 14일, 일론 머스크와 그웬 쇼트웰이 All-In Summit에서 발언한 내용을 정리해보면: 일론은 암묵적으로 프론티어 AI 개발의 둔화를 고려하지 않고, 대신 Cross-Lab 테스팅 메커니즘을 제안했습니다.
- 원문 구간 2
구독제는 Essential($14.99/월), Advanced($49.99/월), Expert($149/월), Max($499/월)입니다. (6) 마크 저커버그가 Pacing the Frontier에 대한 생각을 X에 올렸습니다: 이번 주 주간전략보고에서 전해드렸던 개인적인 생각과 같습니다. 지극히 간단하게 정리하자면 '원래도 프론티어 모델 출시하려면 정렬해야 수익화할 수 있으니 수개월 전부터(6월 12일, Fable 수출규제 이후) 당연한 게 됐는데 무슨 말이지?'입니다. 주간전략보고에서 강조드린 것도 다리오가 말한 Pacing the Frontier를 지금 이미 업계가 적용하고 있기 때문에 달라진 게 없다는 것이었습니다. ⓐRSI용 체크포인트 모델을 내부적으로 쓰던 트렌드, ⓑ정렬을 해야 API로 수익화할 수 있기 때문에 제조물 책임법 등에 걸리지 않기 위해서 정렬에 좀 더 품을 들여야 했던 트렌드는 같습니다. 앤스로픽과 오픈AI가 이를 갑작스레 강조한 것은 결국 사다리를 걷어차기 위한 의도라고 생각하게 되는 이유입니다. 만약 ⓑ를 더 빠르게 해서 수익화 루프를 더 빠르게 가져가고 싶다면 컴퓨트를 더 늘릴 일입니다.