뜨거운 감자: 새로운 사용량 제한으로 인해 80개 메시지짜리 ChatGPT 스레드가 가장 비싼 습관이 됨
Hot take: with the new usage limits, your 80-message ChatGPT thread is now your most expensive habit
핵심 요약
ChatGPT 사용량 제한에 대비해 토큰 소모를 줄이는 효율적인 대화 습관과 팁을 공유하는 글입니다.
- 대화 관리 — 긴 스레드 대신 요약본을 새 채팅으로 옮겨 사용함
- 편집 기능 활용 — 메시지 수정으로 불필요한 대화 턴을 줄임
- 문맥 최적화 — 전체 문서 대신 필요한 부분만 발췌하여 입력함
- 모델 선택 — 작업 난이도에 맞는 적절한 모델을 선택하여 사용함
다들 요즘 토큰 단위로 사용량 측정하는 거 때문에 빡쳐 있는데, 솔직히 그럴 만도 함. 근데 내 생각엔 제한 때문만이 아니라 우리가 챗봇 쓰는 방식 때문에 토큰을 필요 이상으로 낭비하고 있는 것 같음.
이 모델들이 어떻게 돌아가는지 대충 알기로는, 답변 하나 나올 때마다 지금까지 나눈 대화 전체를 다 읽고 생성하는 거거든. 그러니까 대화 3번째 메시지보다 80번째 메시지에서 답변받는 게 훨씬 비싼 거임. 한 줄만 쳐도 말이야.
내가 보기에 토큰 제일 많이 잡아먹는 습관들:
끝도 없는 대화창. 프로젝트 하나를 며칠 내내 한 대화창에서 다 끝내는 거. 대화가 산으로 가기 시작하면, 지금까지 결정된 거 10줄 정도로 요약해달라고 한 다음에 새 대화창 파서 그 요약본 붙여넣어라. 그게 훨씬 싸게 먹히고 답변 퀄리티도 보통 더 나음.
수정 대신 정정하기. "아니, 내가 말한 건 다른 파일인데"라고 하면 틀린 답변 위에 새로운 대화 한 턴이 더 쌓이는 거임. 그냥 원래 메시지를 수정하면 그게 대체되니까 훨씬 효율적임.
문단 하나 고치려고 문서 전체 붙여넣기. 3번 섹션에서 도움받고 싶으면 그냥 3번 섹션만 붙여넣으라고.
한 방에 최종본 뽑아달라고 하기. 일단 개요부터 짜달라고 해. 6줄짜리 개요 수정하는 건 껌값임. 긴 초안 세 번 다시 생성하는 건 돈 엄청 깨짐.
모든 작업에 제일 무거운 모델 쓰기. 이메일 문장 다듬는 데 굳이 제일 성능 좋은 모델 쓸 필요 없음.
물론 가격 책정이 개판이면 이런 팁들이 무슨 소용인가 싶긴 함. 근데 이번 주에 올라오는 "한 시간 만에 제한 걸림" 글들 보면 대부분 대화창을 너무 길게 끌어서 그런 거 같음.
너희는 토큰 제일 많이 잡아먹는 습관 뭐임? 나부터 말하자면, 절대 안 끝나는 프로젝트 대화창임.
