TIL: 세션이 너무 길면 압축해도 토큰 효율에 별 도움이 안 됨
TIL just compacting really long sessions doesn’t really help with token efficiency
핵심 요약
일주일씩 이어지는 긴 세션은 토큰 낭비가 심하므로, 작업을 세분화하여 세션을 자주 초기화하는 것이 효율적입니다.
- 세션 관리 — 일주일 단위의 긴 세션은 토큰 효율이 매우 떨어짐
- 작업 세분화 — 큰 프로젝트를 작은 단위로 쪼개어 개별 세션으로 진행해야 함
- 문서화 습관 — 세션 간 정보 유실 방지를 위해 진행 상황을 마크다운 파일로 기록함
- 토큰 절약 — 세션 압축보다는 새로운 세션을 시작하거나 /clear 명령어를 사용하는 것이 권장됨
지금 대규모 프로젝트 작업 중인데, 기능 하나 만드는 데 일주일씩 걸리기도 하거든. 그래서 문맥 다 날아가는 거 막으려고 토큰 30만 개 넘어가면 매번 요약(compact)을 돌리고 있어. 근데 보니까 20x 구독료를 3일 만에 다 써버리더라고. 그래서 fable한테 좀 자세히 물어봤더니, 일주일치 세션을 그냥 요약하는 건 별로 도움 안 된다네? 너네도 그래? 뭐 좋은 팁 좀 없냐?


