METR의 Ryan Greenblatt, AI가 AI를 4.5배 더 빠르게 발전시키고 있다고 추정

Ryan Greenblatt 트윗:

AI R&D 자동화(RSI)에 관한 이 보고서는 1~2년 내 ASI(인공 초지능) 달성 가능성을 크게 높여주는 업데이트야. 현재 RSI 덕분에 AI 발전 속도가 약 2배 빨라졌다고 하네. 'AI 2027' 시나리오로 치면 2027년 3월쯤에 일어날 일이지.

내가 RSI 가속화에 대해 완전히 잘못 생각했어. 예전엔 2026년에 1.15배에서 1.3배 정도로 훨씬 낮을 거라 예상했거든. 내 생각을 바꿀 만한 비공개 증거들이 따로 있었던 모양이야.

난 이 보고서의 비공개 처리 안 된 원본은 못 봤어. 이건 순전히 공개된 보고서에 대한 내 생각이야. 보고서에서 핵심 증거들이 워낙 많이 가려져 있어서, 벤치마크에서 확인된 2배의 발전 속도 외의 결론들은 결국 저자들을 얼마나 신뢰하느냐에 달려 있다고 봐. (예를 들어, 이 가속화가 진짜 RSI 때문인지 같은 결론들 말이야.) 난 이 보고서 저자들이 신중하고 엄격하게 일 처리를 잘할 거라고 꽤 신뢰하는 편이야. (참고로 나도 METR에서 일해.) 만약 가려진 부분이 적었다면 이런 신뢰에 의존할 필요도 훨씬 줄었겠지.

현재 내 직무상 타임라인에 영향을 줄 수 있는 다른 기밀 정보들을 접할 수도 있어서, 아쉽지만 지금 당장 ASI 타임라인이나 소프트웨어 지능 폭발 가능성에 대한 내 최종적인 견해를 밝힐 수는 없어. 대신 내가 이전에 공개적으로 했던 발언들을 바탕으로 그 함의를 분석해 봤어.

RSI로 인해 전체 AI 발전 속도가 2배 빨라졌다는 건, AI 소프트웨어 R&D(알고리즘 및 데이터) 분야에서는 2배보다 훨씬 큰 가속이 일어나고 있다는 뜻이야. 내가 기존에 공개했던 AI 발전 동인 모델링과 이번 보고서를 토대로 대충 계산해 보니까, RSI가 현재 AI 소프트웨어 발전을 약 4.5배 가속하고 있다는 결과가 나왔어(AI 자동화가 없을 때와 비교해서). 'AI 2027' 시나리오라면 이런 가속화가 2027년 3월쯤에 나타나는 거지.

내 공개 모델링을 바탕으로 계산한 세부 내용은 다음과 같아. AI 소프트웨어 R&D의 RSI 가속화가 훨씬 더 클 수밖에 없는 이유는 크게 두 가지야.

- AI 발전의 모든 부분이 소프트웨어 개선에서 오는 건 아니야(일부는 학습 과정에서 컴퓨팅 자원을 늘리는 데서 오지). 예전에 AI 발전의 약 3분의 2가 소프트웨어 개선에서 온다고 추측한 적이 있는데, 이게 맞다면 전체 AI 발전 속도를 2배 높이려면 소프트웨어 발전 속도는 3배 빨라져야 해.

- 수확 체감의 법칙: 일정한 성과를 내려면 시간이 갈수록 더 많은 노력이 필요해. 그래서 AI 자동화를 통해 소프트웨어 발전 속도를 3배 빠르게 유지하려면, AI 자동화로부터 점점 더 큰 속도 향상을 얻어내야 하지(AI 자동화가 없을 때의 R&D 속도와 비교해서 말이야). 이번 보고서를 보면, 자동화로 인해 상당한 수준의 추가적인 AI 발전이 이미 일어난 것 같아.