Pi가 내가 같은 질문을 여러 번 한다고 착각함
Pi thinks I'm asking multiple times for the same thing
핵심 요약
Pi와 Qwen 3.8 27B 조합 사용 시, 사용자가 동일한 질문을 반복한다는 모델의 오해 현상에 대한 원인과 해결책을 논의함.
- 모델 오작동 — 사용자가 질문을 반복하지 않았음에도 모델이 중복 요청으로 인식함
- 캐시 문제 — llama.cpp의 기본 RAM 캐시가 컨텍스트를 오염시키는 원인으로 지목됨
- 해결 방안 — llama.cpp 스크립트에서 캐싱을 명시적으로 비활성화하여 해결 가능
- 다양한 원인 — 템플릿, 확장 프로그램, 혹은 Pi 자체의 버그일 가능성도 제기됨
난 Pi 진짜 좋아하는데, Qwen 3.8 27B랑 조합하니까 완전 미쳤더라. 근데 Qwen 추론 결과 보다가 좀 이상한 걸 발견했거든. 가끔 보면 "사용자가 같은 질문을 다시 했다"라거나 "사용자가 같은 요청을 세 번이나 했다" 같은 소리를 해대더라고. 마치 내가 원래 질문이랑 똑같은 스티어링 요청(steering request)을 보낸 것처럼 말이야. 근데 난 절대 그런 적 없고, 사실 스티어링 요청 자체를 거의 안 쓰거든. 결과물에 딱히 영향은 없는 것 같고 별거 아닐 수도 있긴 한데, 혹시 너네도 이런 거 겪어본 사람 있냐? 다들 고맙다!


