컨텍스트 크기에 비례하는 Fable 사용량

흠... 그럼 컨텍스트를 15~25% 사이로 유지하게 강제하는 방법은 없을까? 컨텍스트가 15% 미만이면 정보 부족으로 LLM 성능이 떨어지고, 25%를 넘으면 비용이 너무 비싸지며, 50%가 넘으면 환각(hallucination)이 시작되니까... 20%가 딱 좋은데, 어떻게 유지하지? 압축은 비싸고 느린데... 컨텍스트를 다 날려버리지 않으면서도 성장을 막을 방법이 정말 필요함... 왜 20% 정도로 유지하는 깔끔한 방법이 없는 거지?

작업을 그 범위 내에서 완료되도록 정의하면 됨. 그러고 나서 잘 정의된 새로운 작업으로 새 세션을 시작하는 거지. 맞아, 사용자에게 더 많은 이해와 참여가 요구되는 일임. 하지만 그게 바로 컨텍스트 엔지니어링이지.

음, 근데 Claude가 알아서 그렇게 해버려... (어떤 이유에서인지) Claude는 자기 컨텍스트가 얼마나 찼는지 모르거든. 그래서 중간에 끊고 핸드오프를 작성하라고 지시해야 함. 복잡한 코드베이스를 다루고 있어서 컨텍스트가 금방 늘어나.

응, 나도 그거 느꼈어. 리소스 많이 안 먹는 작업만 하고 있는데도 둘이 어떻게든 연결된 것 같은 느낌임.

가끔 그럴 수도 있음. 근데 이건 우연의 일치고 그 사람이 뭘 하느냐에 따라 달라. 한 번에 0.5M 토큰을 로드하면 이거보다 훨씬 적게 소모될걸. 너 지금 확실히 5x 최대치 쓰고 있네.