Pi를 사용할 때 가장 유용한 소형/로컬 모델 팁은 무엇인가요?

대부분의 경우 압축(compaction)보다는 구조화된 핸드오프(handoff)를 사용함.

맞음, 나도 그 부분을 개선하려고 노력 중임. 아니면 모델이 핸드오프를 수행하거나, 수정/버그 수정에 필요한 최소한의 컨텍스트를 구축하기 위한 읽기 목록을 만들게 하는 최선의 방법을 찾는 중임.

무슨 뜻인지 설명 좀 해줄 수 있음?

기본 압축이나 Pi의 압축 도구는 이런 노이즈를 남김.

..#.. 성찰(Reflections)

[4ae591cc24b8] 사용자가 모든 비-Herdr Pi 도구와 모든 가드를 통합하라고 지시함 t

그 뒤로 사용자/모델 응답 5개가 이어짐.

내가 원하는 건 현재 작업에 필요한 컨텍스트만 다시 만드는 거임.

기본적으로 절대 compaction하지 말고, 한 세션한테 다음 세션으로 넘길 핸드오프 문서를 만들라고 시켜. 세션 1한테 '넌 기획 세션이니까 아무것도 하지 마'라고 하고, 프로젝트의 절대적인 진실과 비전을 기획해서 goal.md 같은 파일에 150단어 이상으로 적어. 그다음 다른 세션한테 목표를 읽게 하고 '목표를 가져와서 다른 세션들이 끝낼 수 있게 작업 단위로 나눠'라고 시켜. 코딩은 절대 하지 말고 논리적으로 뭐가 먼저 오고 나중에 올지 고려하라고 해. 그걸 plan.md 같은 파일에 150줄 정도로 저장해. 그다음 새 세션을 시작해서 '목표랑 계획 읽고, 1번 항목 수행하고 멈춰'라고 해. 그럼 context window를 적절히 관리하면서 compaction 직전까지 작업을 수행할 수 있어. 그다음 '다음 세션이 계획을 이어서 작업할 수 있게 핸드오프 문서를 만들어'라고 하면, 무슨 일이 일어났고 왜 그랬는지, 주의사항은 뭔지, 목표/계획을 참조해서 뭘 했고 뭘 할지 적힌 문서를 만들어 줄 거야. 이제 추가되는 모든 세션은 똑같은 인트로를 가져. '목표, 계획, 핸드오프 읽고, 하나만 하고 멈춰.' 프로젝트가 커지면 핸드오프를 로드하는 게 context window를 엄청나게 잡아먹기 시작할 수 있어. 섹션을 기록으로 만들어서 로드되지 않게 관리 안 하면 말이야. 번거롭긴 한데 compaction보다 random drift나 재논의가 훨씬 적어. 다른 세션 같지 않고 하나의 큰 세션처럼 느껴져서 전체적인 추론 과정에 훨씬 자신감이 생겨. 근데 더 큰 프로젝트에서는 핸드오프 저글링이 별로였어. 이건 아마 내 skill issue일 수도. 나한테는 중간 규모 프로젝트에 딱이야.