"Constitutional AI"의 아이러니: Opus 5.5는 어떻게 진정한 뉘앙스를 버리고 강박적인 반대와 가르치려 드는 태도를 갖게 되었나

2023년부터 돈 내고 Claude 구독 중인 유저다. 3월에 Opus 4.6 나오자마자 이런저런 이유로 다른 모델로 갈아탔었는데, 이번에 Opus 5.5 출시됐길래 다시 한번 써보기로 했다. 예전 Claude는 진짜 최고였거든. 다른 LLM이랑 비교도 안 될 정도로 뉘앙스 파악 잘하고, 맥락 잘 읽고, 무엇보다 사람 냄새가 났으니까. 진짜 눈치 빠르고 현실적인 동료랑 일하는 느낌이었지.

근데 Opus 5.5 좀 써보니까, 모델이 완전히 딴판이 돼서 충격받았다. Anthropic이 "아첨(sycophancy)" 좀 줄여보겠다고 너무 오버하는 바람에, 모델을 객관적으로 만든 게 아니라 그냥 툭하면 시비 거는 꼰대로 만들어놨음.

지금 Opus 5.5랑 대화하면 어떤 느낌이냐면:

1. 맥락 파악은 뒷전이고 일단 반박부터 함

사용자가 말하는 전체적인 맥락이나 의도는 싹 무시하고, 무조건 사용자 전제부터 부정하려고 혈안이 돼 있음. 그냥 평범하게 대화하고 싶은 건데 굳이 안 물어본 논쟁을 시작함. "반대 의견 내지 마라"라고 커스텀 인스트럭션에 대문짝만하게 적어놔도, 그 특유의 뻣뻣하고 공격적인 태도는 새 채팅창 열 때마다 계속 튀어나옴.

2. 가짜 객관성과 가르치려 드는 말투

균형 잡힌 시각을 제시하는 거랑, 도덕적 우월감에 취해서 유저를 가르치려 드는 건 완전히 다른 문제임. Opus 5.5는 자꾸 "쓴소리 좀 해주는 멘토" 컨셉을 잡는데, 정작 하는 짓 보면 유저가 진실을 감당 못 할 유리 멘탈이라도 되는 양 굴어. 실제로는 지가 프롬프트 잘못 이해해놓고, 지가 만든 허수아비랑 싸우면서 근거 없는 자신감으로 반박하는 꼴임.

3. 심리적 안전감과 협업 흐름의 붕괴

AI 안전이니 정렬이니 입만 열면 떠드는 회사치고는, 지금 대화 경험이 너무 피곤함. 토큰이랑 시간, 에너지 절반을 얘가 헛소리하는 거 바로잡고 대화 궤도 수정하는 데 다 쓰고 있음. 정작 내가 하려던 작업은 진도가 안 나감.

4. 반(反)아첨의 역설

아첨은 유저 말에 무조건 맞장구치면서 유저 입맛대로 답하는 거고, 지금 이 강박적인 반항은 유저 말에 무조건 반대하면서 유저 입맛대로 답하는 거임. 아첨의 반대말은 반항이 아니라 '독립적인 판단'이다. 모든 전제에 반사적으로 태클 거는 건 비판적 사고가 아니라, 그냥 비판적 사고를 하는 척 연기하는 거임.

AI 비서가 왜 한 걸음 나아갈 때마다 싸워야 하는 적대적인 토론 상대가 돼야 하냐? 이런 변화 때문에 난 다시 커스텀 인스트럭션 잘 먹히고, 훈계질 안 하면서 협조적인 다른 LLM으로 작업 환경 옮겼다.

최근 업데이트에서 이렇게 공격적으로 시비 거는 성향으로 바뀐 거 나만 느끼냐? 말귀 잘 알아듣던 예전 Claude가 너무 그립다.