컨텍스트 윈도우가 찰수록 지시사항이 어떻게 약해지는지 보여주는 간단한 시연
Small demonstration of how instructions decay as the context window fills
핵심 요약
컨텍스트 윈도우가 채워질 때 지시사항의 영향력이 감소하는 현상을 시각화한 데모를 공유함.
- 컨텍스트 오염 — 컨텍스트가 찰수록 모델의 지시사항 이행 능력이 저하됨을 시각화함
- 지시사항 포맷팅 — 잘 구조화된 지시사항이 컨텍스트 붕괴를 방지하는 데 효과적임을 강조함
- 비기술자 교육 — 기술적 이해도가 낮은 사용자들에게 컨텍스트 관리의 중요성을 설명하는 도구로 활용됨
이번 주말에 컨텍스트 윈도우가 찰수록 지시사항이 어떻게 "약해지는지(decay)", 그리고 잘 포맷된 지시사항이 어떻게 그에 "대항(fight)"할 수 있는지 보여주는 작은 데모 페이지를 만들었어. 어떤 지시사항은 훅(예: "절대 비밀을 커밋하지 마")으로 뒷받침되어야 하고, 어떤 건 올바른 포맷팅만 빠져 있는 경우도 있지.
항상 이걸 위한 좋은 발표 자료를 찾고 싶었거든, 그래서... 여기 만들었어. 너희들에게 유용했으면 좋겠네.
그에 대한 근거가 담긴 전체 글 링크는 댓글에 남길게 (레딧 필터에 걸려서 본문에는 링크를 공유할 수가 없네)

