ChatGPT는 왜 30분 동안 연산 낭비하기 전에 경고를 안 해줄까?
Why Doesn’t ChatGPT Warn You Before Wasting 30 Minutes of Compute?
핵심 요약
대규모 작업 중 사용량 제한에 걸려 작업이 초기화되는 문제에 대해, 사용자의 비효율적인 대처 방식을 지적하는 반응이 지배적입니다.
- 사용량 제한 — 대규모 작업 시 제한 도달로 인한 작업 중단 발생
- 비효율적 대처 — 작업이 중단될 때마다 처음부터 다시 시작하는 방식의 문제
- 기술적 오해 — AI가 작업량을 미리 예측할 수 없으며, 중단된 지점에서 이어가기 가능
- 최적화 제안 — 서브 에이전트 활용 및 작업 분할을 통한 효율적 처리 권장
GPT-6 Astra 써서 10만 자 넘는 소스 자료로 70페이지짜리 문서 만드는 중인데, 처리 속도 점프한 건 진짜 지린다. 근데 웃긴 게 뭔지 아냐? 대규모 작업을 시키면 30~40분 동안 서버 자원 엄청나게 갈아 넣으면서 뺑이 치다가, 정작 결과물은 한 글자도 안 뱉어내고 5시간 사용 제한 에러를 띄워버림. 그래서 빡쳐서 새 채팅창 열고 작업량 살짝 줄여서 다시 시키는 짓을 반복하고 있다.
이걸 몇 번이나 반복했는지 모르겠다. ChatGPT랑 Gemini 쪽 계산기 두드려보면 이런 대규모 작업 한 번 돌리는 데 API 기준으로 대충 3~5달러 정도는 깨질 거 같은데, 물론 OpenAI 내부 원가는 우리가 알 길이 없지. 근데 이 추정치가 조금이라도 맞다면, OpenAI 입장에서 "야, 이거 너 사용량 제한 넘을 거 같은데? 세 번으로 나눠서 해라"라고 말해주는 게 훨씬 싸게 먹히지 않냐? 근데 지금은 30분 동안 서버 자원 다 써놓고 결과물은 0으로 만든 다음에, 내가 바로 다시 처음부터 시작하게 만드는 꼴임.
내가 문서 하나 뽑겠다고 이 짓을 4번 반복하면, OpenAI는 내 프로젝트 하나에만 서버 비용으로 20달러를 태우는 셈이다. 아니, 제한 걸릴 거 뻔히 알면서 왜 30분 동안 서버를 풀가동하게 놔두고 결국 진행 상황을 다 날려버리는 거냐? 20달러짜리 Plus 구독료 내는 유저 상대로 서버 비용을 이렇게 천문학적으로 낭비하는 게 말이 되냐?
