프롬프트 부채(Prompt Debt)
Prompt Debt.
핵심 요약
프롬프트 수정이 반복되면서 발생하는 '프롬프트 부채'를 해결하기 위해, 입력을 명확하게 다듬어주는 도구 'refine'을 개발함.
- 프롬프트 부채 — 프롬프트에 수정 사항을 계속 덧붙여 지저분해지는 현상임.
- refine 개발 — pi와 tmux 환경에서 모호한 프롬프트를 명확하게 다듬어주는 도구임.
- 토큰 효율화 — 불필요한 재시도 없이 한 번에 최적의 결과를 얻으려는 시도임.
- 코드베이스 탐색 — 필요시 에이전트가 코드베이스를 직접 스카우팅하여 문맥을 파악함.
내 타임라인에 '프롬프트 부채(prompt-debt)'라는 개념이 올라왔는데, 딱 보자마자 뭔지 알겠더라. 프롬프트를 깔끔하게 다시 쓰는 대신 자꾸 땜질만 해서 내용이 개판이 되는 상황을 말하는 거임.
큰 기능을 만들 때는 이런 일이 없었음. 에이전트랑 서로 이해가 맞을 때까지 존나게 굴리는 편이라서.
근데 간단한 수정 작업할 때 이런 문제가 터지더라.
난 토큰 아끼는 거 좋아하고 원샷(one-shot) 방식을 선호함. 좀 이상한 조합인 거 아는데, 암튼 매달 추가 비용 내거나 다 쓰지도 못할 플랜 결제하는 꼴 보기 싫어서 한도 꽉 채워서 쓰는 걸 좋아함.
그래서 30분씩 붙잡고 늘어질 필요는 없는데, 그렇다고 대충 던지면 안 되는 중간급 수정 작업들 때문에 골치가 아팠음. 잘 짜인 프롬프트 하나면 원샷으로 끝낼 수 있을 텐데 싶어서, 그래서 'refine'을 만들고 있음.
이건 pi + tmux랑 같이 돌아가는데, 기본적으로 네가 던진 모호한 프롬프트를 가로채서 에이전트가 알아먹기 좋게 다듬어줌. TUI 입력을 가로채는 방식이라, 실제로 수정 작업을 수행할 메인 에이전트의 컨텍스트를 더럽히지도 않음.
프롬프트 복잡도에 따라 한두 가지 질문을 던지거나, 코드베이스의 특정 부분을 빠르게 훑어볼 스카우트를 따로 돌려서 컨텍스트를 따옴.
덕분에 재작업할 일이 싹 사라졌고, pi처럼 아주 가볍게 돌아감.
이걸 공개 확장 프로그램으로 만들어야 할지 고민임. 좀 니치한 기능 같아서 말이지. 그래도 궁금한 거 있으면 뭐든 물어봐, 다 대답해 줄게!
- https://x.com/dbreunig/status/2069455716478603536?s=46&t=AXMFyjAHqJXhiu8ND1MB9A
-
refine 사용 예시는 아래와 같음:
