12월부터 ChatGPT와 Codex의 사용량 통합

혹시 놓친 사람들을 위해 말해주자면, OpenAI가 지난주에 고객 센터 내용을 업데이트했어. 12월부터 Plus, Pro, Business 플랜은 ChatGPT, Codex, 이미지, 음성, 파일 업로드 전체를 통틀어 하나의 통합 사용량 제한을 공유하게 될 거야.

사용자 입장에서는 솔직히 좀 불안해. 무엇보다 그 통합 한도가 정확히 어느 정도인지 밝히질 않았거든. 근데 AI 제품을 만드는 개발자 입장에서 보면, OpenAI가 맞는 방향으로 가고 있는 것 같아. 솔직히 걔네가 먼저 선수 친 게 좀 짜증 나긴 하지만 말이야.

우리 팀은 5명이서 영업팀을 위한 AI 툴을 만들고 있는데, 지금은 기능마다 제한이 다 따로 놀아. 채팅, 문서 업로드, 생성된 보고서가 전부 별도로 카운트되거든. 그래서 고객 문의 중 제일 많은 게 "채팅 40번 남았는데 왜 파일 업로드는 안 돼요?" 같은 내용이야. 사용자들은 우리가 나눈 기능별 바구니 같은 건 관심 없어. 그냥 전체적으로 얼마나 남았는지만 알고 싶어 할 뿐이지.

통합 풀(pool)을 쓰면 고객 입장에선 편하겠지만, 우리 같은 개발자 입장에선 과금 시스템 짜기가 훨씬 골치 아파져. 기능마다 차감되는 비율이 다르고, 일정 기간마다 잔액이 초기화돼야 하고, 사용자가 남은 잔액이랑 충전 시점을 확인할 수 있어야 하며, 다 쓴 사람은 중간에 추가 결제도 할 수 있어야 하니까. Stripe가 사용량 집계는 잘해주는데, 기능별로 잔액을 관리하거나 기간별로 묶어주는 기능은 없거든. 그래서 지금 Lago랑 Flexprice를 알아보고 있어. 둘 다 크레딧이랑 제한을 한곳에서 관리할 수 있고, 특히 Flexprice는 OpenAI 모델처럼 롤링 윈도우랑 주간 한도를 동시에 지원하거든. 문제는 Stripe 옆에 또 다른 시스템을 붙여야 하고, 모든 플랜의 제한 설정을 그쪽으로 옮겨야 한다는 거지.

혹시 이런 모델로 서비스 만드는 사람 있어? 너희라면 이 방식을 따라 할 거야, 아니면 설명하기 편하게 그냥 기능별 제한을 유지할 거야?