시대의 징조

아 맞네, 크립토 때도 그랬지. 사람들이 해싱 전용으로 커스텀 실리콘 칩을 만들기 시작했잖아. 어쩌면 특정 모델을 위한 전용 칩 같은 게 나오면서 비슷한 일이 벌어질지도 모르겠네.

이제 기업들이 '개소리 일자리'를 대체할지, 아니면 그게 컴퓨팅 자원 낭비라는 걸 깨닫게 될지 궁금해지네.

케바케지. 메모리 가격에 피드백 루프가 생길 수도 있어. 얘네가 받을 수 있는 가격엔 한계가 있거든. 만약 오픈 모델의 지능이 충분히 좋아지고 작아지면, AI 기업들은 충분히 쓸만한 오픈 모델을 돌리는 하드웨어 비용 이상으로 돈을 받을 수가 없어. 데이터 센터 구축이 끝나면 메모리 가격이랑 하드웨어 가격은 내려갈 테니까. 그러니까 메모리 가격을 높게 유지하는 게 얘네한테 이득이긴 한데, 그게 또 무한정 지을 수는 없으니까 수익을 제한하게 될 거야. 그래서 그 어딘가에 얘네가 받을 수 있는 가격의 상한선이 존재하겠지.

시간이 지나면 우리는 학습에서 실제 사용으로 용량을 옮겨가게 될 거야. 지금은 학습이 컴퓨팅 자원의 대부분을 잡아먹고 있으니까.

그럼 이제 오픈 소스 모델들이 로컬에서 돌아가는데, 성능도 똑같이 좋고 공짜라는 문제가 남지.

너 지금 무슨 소리 하는지 전혀 모르는구나. 네가 살아있는 동안 매년 컴퓨팅 자원은 점점 덜 들게 될 거야. 컴퓨팅 수요는 계속 늘겠지만, 그건 똑같은 걸 돌리는 데 더 많은 자원이 필요해서가 아니야. 더 많은 걸 원하게 될 테니까. 그리고 비용은 확실히 싸질 거다.

수조 달러 투자금을 회수하려고 실제 원가에 이익까지 붙여서 청구하기 시작하면 처음엔 훨씬 비싸질걸.

방금 내가 직접 짠 연습용 코드 40줄 정도를 최상위 설정의 프론티어 모델한테 돌려봤거든. 그랬더니 내가 테스트에서 놓친 버그 3개를 찾아내더라고. 근데 모델 말로는 내가 코드를 실행했으면 시뮬레이션을 끝까지 완료하지 못했을 거래. 이미 코드를 실행해 봤는데 에러는 하나도 없었거든. 이게 가장 진보된 프론티어 모델 중 하나인데도 말이야. 여전히 없는 문제를 지어내고 있어.