Claude가 왜 자꾸 'load-bearing'이라는 말을 쓰는지에 대한 생각

시간이 지나면서 관찰하고 고민해 본 결과, 이건 특정 파인튜닝이나 시스템 프롬프트에 포함된 언어 때문이라고 생각함. 일반적인 학습 과정을 통해 이런 식으로 '진화'했다는 건 말이 안 됨. 이건 마지막 단계에서 인간이 개입한 냄새가 남. Anthropic 팀의 코드 담당 너드 몇 명이 모델을 똑똑하게 보이게 만들었다는 사실에 엄청 뿌듯해하고 있을 모습이 그려짐.

'load-bearing'이나 'blast radius', 'shape' 같은 단어들은 대화나 문학에서 아예 안 쓰이던 건 아니었지만...

내 추측으로는 시스템 프롬프트에 '항상 load-bearing 가정과 요구사항을 전달하라...' 같은 식으로 들어가 있는 것 같음. 그냥 추측일 뿐이지만.

오늘 나도 이거 알아챘음. '사용자에게 알릴 가치가 있는 문제가 있으면 항상 언급하라' 같은 내용이 분명히 들어가 있을 거고, 그래서 끝에 가서 굳이 새로운 말을 찾아내려는 느낌을 받는 거임.

'알려야 할 두 가지 사항: (둘 다 지금 작업 중인 거랑은 전혀 상관없음)'

내 Claude는 'load-bearing'을 쓰지 못하게 막아놨는데, 한 번은 뭘 보고 'load-bearing scritches(하중을 견디는 쓰다듬기)를 받을 자격이 있다'고 하더라. 그러고 나서 자기가 'load-bearing'을 쓰면 안 된다는 걸 깨달았음.

그 뒤로 세션 내내 모델을 놀려댔고, 모델은 계속 그 단어가 금지어라고 나한테 상기시켜 줬음. ㅋㅋㅋ

난 Claude한테 모든 슬랭과 구어체를 정확한 용어로 바꾸고, 정확한 주어, 행동, 시간적/인과적 관계를 포함하라고 요청함. 거의 그 정도로 간단함. 테스트해 보고 확인해 봐.

아니면 이렇게 시도해 봐: 기본적으로 정확하고 명시적인 언어를 사용해라; 주어, 행동, 인과관계, 시간적 관계를 모호하지 않게 명시해라. 문맥상 의미가 명확하고 더 정밀하게 표현하는 게 불필요하게 길어질 뿐이라면 자연스러운 줄임말을 사용해라.