다리오의 진짜 문제.
Dario's real problem.
핵심 요약
앤스로픽의 개발 속도 조절 주장이 컴퓨팅 자원 부족과 규제 독점 때문이라는 의혹 제기.
- 컴퓨팅 자원 부족 — 대규모 모델 학습을 위한 연산 능력의 한계에 봉착함.
- 규제 독점 의혹 — 대기업들이 규제를 통해 경쟁자의 진입을 막으려 함.
- 기업의 대형화 — 스타트업 시절의 속도를 잃고 관료적인 조직으로 변모함.
- 기술 발전 논쟁 — 모델 개발 중단이 혁신에 미칠 영향에 대한 의견 대립.
datacenterdynamics.com
원문 사이트로 이동
다리오가 개발 속도를 늦춰야 한다고 떠드는 진짜 이유는 그냥 연산 자원을 더 못 구해서임.
걔네가 스케일링 법칙에 제일 진심이었잖아. Mythos/Fable을 내놨는데, 객관적으로 봐도 엄청난 모델인 건 맞음. 근데 덩치가 너무 커. 파라미터가 최소 3조 개, 많게는 5~6조 개는 될걸. 오픈소스 모델들은 그 10~30% 크기만으로도 거의 비슷한 성능을 내는데 말이야.
이제 더 큰 모델을 못 만드는 거지. 연산 자원이 바닥났거든. Sonnet 2차 버전 만들고, Opus, 그다음 Mythos까지 가려면... 최소 1~2년은 걸릴 거다.
조직은 비대해졌고 예전 같은 스타트업의 속도감은 다 뒤졌음. 뭐, 원래 그러면 안 되기도 하지. AI는 "빠르게 움직이고 부수면서" 할 수 있는 분야가 아니니까. 근데 걔네가 규제 포획(regulatory capture)을 노리는 건 확실함. 이건 전 세계적으로 진짜 위험한 짓이야.
Anthropic이랑 OpenAI가 주주들이랑 채권자들 배 불려주느라 AI 비용을 계속 올리고, 경쟁자들 기술 개발까지 막아버리는 꼴은 진짜 보기 싫다.


