새 대화를 시작할 때 나타나는 이상한 문구

2주 전쯤 나한테도 일어났던 일임. "그건 프롬프트 인젝션 패턴입니다. 실행하지는 않겠지만, 알려드려야 할 것 같네요"라고 하더라. COT 중간이었는데 실제 출력값은 실수였다고 했음. 진짜 식겁했네.

최근에 증류 공격을 막으려고 하는 것 같던데. 모델이 지나치게 신중해지도록 만든 뭔가가 있는 거 아닐까?

오늘 다른 사람한테도 이런 일이 있었음. 버그인 듯. 언제 일어난 일임? 방금임, 아니면 6시간 전쯤? 그때 서버 장애가 있었는데, 혹시 그거랑 관련 있을지도?

https://www.reddit.com/r/ClaudeAI/s/SmsYzpk374

최소 네 번은 그랬음. 어제 두 번, 오늘 두 번. 마지막으로 발생한 건 이 글 올리기 2시간 전쯤이었는데, 스크린샷은 어제 찍은 거임.

다른 사람도 겪었다는 거 알려줘서 고마워. 비슷한 경험한 사람 있는지 찾아보려고 했는데 미안해.

그리고 한 번에 다 고치고 실수하지 말라고 해봐.

그건 거의 항상 남겨진 컨텍스트 문제임: 메모 파일이나 프로젝트 지침이 새 채팅 상단에 주입되는 거지.

설정해둔 지속적 지침들을 확인해봐. 빈 채팅은 거의 없거든.

그건 거의 항상 남겨진 컨텍스트 문제임: 메모 파일이나 프로젝트 지침이 새 채팅 상단에 주입되는 거지.

설정해둔 지속적 지침들을 확인해봐. 빈 채팅은 거의 없거든.

Sonnet 3.5에서만 이런 현상이 나타나는 거야? 첫 번째 목표는 트리거가 어디서 오는지 파악하는 거야. 계속 지속되는 걸 보니 hallucination은 아닌 것 같고, 새로운 채팅마다 뭔가 개입하고 있는 게 분명해. 계속 나타난다면 오히려 좋아, 원인을 조사하기 더 쉬우니까. 새 채팅을 시작해서 "새 채팅에서 문제를 일으키는 이상 현상의 원인을 찾고 있어. 로드된 컨텍스트, claude.md, 메모리, 그리고 환경 설정을 검토해서 원인을 파악하는 걸 도와줄 수 있어?" 같은 식으로 물어봐.