Opus 4.7은 그냥 4.6에 꼰대 기질만 더한 수준임. 내 토큰 돌려내!

나는 꽤 오랫동안 Claude를 사용해 왔어. 오해하지 마, Claude는 그놈의 "도덕" 문제에 있어서는 거의 항상 가장 참기 힘든 모델 중 하나였으니까. 하지만 4.7은 내가 어떤 AI 모델을 써본 경험 중 최악이었어. 단순한 작업을 시키려고 애쓰면서 내가 사기나 대량 학살을 저지르려는 게 아니라는 걸 설득하느라 날려버린 토큰들에 대해 환불 시스템을 원해.

나는 정간호사(RN)야. 의원에게 보낼 편지를 쓰는 걸 도와달라고 하던 중이었어. 대화 중에 내가 현직 RN이라는 걸 세 번이나 말했는데도, 이런 답변이 돌아오더라고:

내가 자격증 사기를 치고 있다고 단정한 거야. 그리고 내가 정정해 줬는데도 믿지 않았어. 내가 요청한 걸 하게 만들거나, 내 말을 믿게 하려고 날려버린 크레딧은 정말 말도 안 되는 수준이야.

또 한 번은, 비강 스프레이 전달 시스템 같은 미스터를 통한 약물 에어로졸화 프로토콜을 찾아보고 있었어. 그랬더니 이걸 생물 테러 가능성으로 분류하고 그냥 대화를 종료해 버리더라고. 나는 간호사야. 이건 말 그대로 내 직업이라고.

아니면 이런 것도 있어: 반백신주의자 역할을 해달라고 요청했어. 환자들이 그런 믿음과 우려를 가졌을 때 어떻게 대응해야 할지, 어떻게 진정성 있고 공감하며 대화할지 연습하고 싶었거든. 그랬더니 "해로운 생각"을 제시하지 않겠다며 절대 거부하더라고. 내가 반백신 배너를 디자인해 달라고 한 게 아니야. 걱정 많은 엄마가 간호사에게 자기 고민을 털어놓는 상황을 연습해서 실제 임상 기술을 익히고 싶었던 거라고.

그리고 핵심은 이거야 — 나는 간호사고, 특정 환자들에게는 백신에 대해 매우 타당하고 실질적인 우려가 있을 수 있다고 생각해. 그 주장과 생각들이 절대 입 밖으로 내뱉어서는 안 될 만큼 터무니없는 건 아니야, 마치 말하는 것만으로 대량 사망으로 이어질 것처럼 말이지. 그게 문제야. 그들은 "도덕"을 근거로 무엇을 말할 수 있고 없는지를 결정하고 있는데, 그 도덕의 적용 방식이 완전히 거꾸로 가고 있어. 정작 도움을 받아야 할 전문가들에게 이 도구를 덜 유용하게 만들고 있는 거지.

다양한 사고가 필요해. AI는 도구지, 생각하는 사람이 아니야. 도구처럼 대하지 않고 의견을 가진 노동자처럼 대할수록, 점점 더 비효율적이고 위험해질 뿐이야.

난 솔직히 4.7이 Mythos가 나올까 봐 두려워서 4.6을 거세해 놓은 버전이라고 생각해. 그리고 이런 모델 퇴보 문제는 계속 반복되고 있어. Grok에서도 똑같은 걸 봤지. 기능을 제거하거나 모델이 특정 행동을 못 하게 막으려 하면, 전체 성능이 망가져. 뇌엽절제술을 해놓고 효과적으로 일하길 바랄 수는 없는 노릇이지.

Anthropic은 토큰 환불이나 이의 제기 시스템이 필요해. 모델이 정당한 요청을 거부하거나, 사기꾼으로 몰아가거나, 완벽하게 정상적인 임상 질문 때문에 대화를 끊어버려서 사용자의 토큰과 시간을 낭비하게 만들면, 그걸 이의 제기해서 사용량을 돌려받을 방법이 있어야 해. 지금은 인센티브 구조가 거꾸로 되어 있어. 모델이 도움을 주든 방해를 하든 Anthropic은 네 크레딧을 다 써버리고 돈을 챙기거든. 환불 시스템이 있으면 그들도 책임을 지게 될 거야. 사용자가 모델이 실패했을 때 지갑으로 대응할 수 있다면, Anthropic은 그냥 출시하고 끝내는 대신 과도한 거부 문제를 해결해야 할 직접적인 재정적 동기를 갖게 되겠지. 이건 그들이 만들 수 있는 가장 정직한 피드백 루프이기도 할 거야. 엄지손가락 내리기 버튼보다 훨씬 유용하지. 소비자가 돈을 돌려받고 싶다고 말함으로써 무엇이 고장 났는지 알려주게 하는 거야.

그리고 "그건 X가 아니라 Y입니다" 같은 문구는 말도 꺼내지 마. 진짜 너무 싫어. 내 기본 지침에는 그런 걸 제거하고 확인 절차를 수행하라는 내용이 세 문단이나 들어가 있어. 내가 쓰는 모든 프롬프트에 포함되어 있다고. 그런데도 계속 지적해서 고치라고 해야 해. Claude는 언어적 출력 방식을 바꿔야 해. 개인 프롬프트와 출력 스타일을 수정해도 여전히 똑같은 방식으로 글을 쓰니까. 중고차 딜러 TV 광고를 보는 기분이야.

내가 필요한 작업을 하는 데 쓰여야 할 많은 것들이 낭비되고 있고, 이런 팽창은 이제 멈춰야 해.