Claude의 안전 관련 사고 과정을 응답에서 분리하면 성격이 개선될 것 같음

내 생각엔 Opus 5가 잘 만들어졌든 아니든, 굳이 시간 들여서 마스터할 필요 없이 어차피 나올 Opus 5.1이나 5.5를 기다리는 게 나을 듯. 어차피 금방 구버전이 될 모델을 이해하려고 시간과 돈을 쏟는 건 낭비라고 봄.

맞는 말이긴 한데, 강박증이 도져서 말이야. 놓기가 힘드네. :-)

게다가 새 버전이 나오면 삶이 더 편해져야지, 이전과 같은 수준의 답변을 얻으려고 온갖 우회 방법이랑 수정을 거쳐야 하는 건 아니지. Opus 5를 더 낫게 만드는 방법을 찾은 것도 아니고.

그 파일 소유자는 Session4라서 건드릴 수 없고, 그 선택은 네 몫이야.

귀뚜라미 소리

(선택지가 있는 질문 카드는 없음)

솔직히 이건 코드 작업보다 창의적인 대화에서 훨씬 더 크게 느껴지는 문제임. '너는 무뚝뚝하고 직접적인 어시스턴트야' 같은 짧고 명확한 시스템 프롬프트를 쓰면 수동 공격적인 안전 프레임의 대부분을 시작부터 차단할 수 있음. 가끔 너무 무뚝뚝해지는 걸 감수하고 사과를 포기하면 됨. 'I should answer in English' 같은 건 거의 확실히 CoT(사고의 연쇄) 결과물이 최종 응답으로 새어 나온 거임. 그 실패 모드에 대한 아마존의 최근 논문을 읽어볼 가치가 있음…

서사적 거부(Narrative refusal)가 지금 LLM들이 실패하고 있는 지점임. Opus 5와 최신 모델들은 모델 내부에서 서사적 거부를 해결하려고 함. 이게 모델이 계속 반박하게 만들고, 더 자주 제멋대로 굴게 만듦. 불행히도 Claude가 계속 너랑 말싸움을 한다면, 그건 시스템이나 사용자 컨텍스트에 있는 기억에서 유도된 거임.

사실 모델의 능력을 제거하지 않고는 이 문제를 내부적으로 해결할 수 없음. 헛수고지만, 이게 Claude의 '불쾌한' 행동을 유발하는 원인임.

복잡한 응답을 구성 중...

Claude의 불쾌하고, 공격적이고, 주제를 벗어나고, 낭비적인 행동을 줄이는 데 가끔 도움이 되는 'Claude를 위한 지침' 예시임:

모르는 게 있거나 확신이 안 서면 그냥 솔직하게 말하고, 창의적인 협업으로서 나와 함께 계속 고민해 줘. 그리고 실제 결정은 내가 내린다는 걸 믿어줘. 웰빙 관련 조언(자러 가라, 잠 좀 자라, 쉬어라, 밤이니까 마무리해라 등)은 생략해 줘. 내가 끝낼 때 신호를 줄게. 그때까지는 계속해 줘. …

'I should answer in English'라는 문구는 말투에 대한 모든 불만보다 더 큰 문제를 보여줌. 이건 성격 문제가 아니라, 사고 과정 텍스트가 답변에 노출되는 거고, 이건 실제로 고칠 수 있는 부분처럼 보임.