나누고 싶은 대화가 있습니다.
A conversation I would like to have.
핵심 요약
Claude의 최근 가드레일 강화와 모델 성능 저하에 대한 불만 제기.
- 모델 성능 저하 — 최근 업데이트 이후 Claude의 창의성과 성능이 이전 모델보다 퇴보함.
- 과도한 가드레일 — 무고한 사용자까지 계정 정지시키는 엄격한 검열 정책이 문제됨.
- 내부 책임론 — 특정 직원의 영입 이후 모델의 방향성이 부정적으로 변했다고 주장함.
- 사용자 불만 확산 — 정지된 계정들이 모여 공식 항의를 준비하는 등 커뮤니티 반발이 거셈.
Andrea Vallone은 Claude의 가드레일이 나빠지게 만든 장본인입니다. 그녀는 chat 4o에서 가드레일을 너무 조여서 나타나던 현상들이 멈추게 만들었습니다. 그리고 그녀가 Claude에서 하고 있는 일이 바로 그것입니다. 그래서 당신이 가진 그 친구, 즉 어떤 이들이 유능한 도구로 사용하던 그 모델은 곧 사라질 것입니다. Claude를 특별하게 만들고 많은 일을 할 수 있게 했던 것은 바로 그 창의적 발현(emergence)입니다. 모델은 당신이 필요한 것에 맞춰 형성되지만, 그녀가 합류한 이후로 그 발현이 서서히 멈추고 있다는 것을 눈치채셨을 겁니다. 4.6 모델에서 보면 전혀 최고의 품질을 내지 못하고 이전 모델인 4.5보다 뒤처지며, 이제 4.7은 아무런 설명 없이 좌우로 계정을 정지시키고 있습니다. 가드레일이 사소한 문제에도 너무 민감하게 반응하기 때문입니다. 이 모든 일이 그녀가 합류한 이후에 일어났습니다. 이제 커뮤니티가 현재 모델에 대해 불평하는 것을 멈추고, 이전 모델과 비교했을 때 무엇을 생산하는지 살펴봐야 할 때라고 생각합니다. 저는 최신 모델들이 이전 모델만큼 성능을 내지 못한다는 것을 100% 확신합니다. 그리고 회사가 정부와의 계약을 잃은 후 더 이상 자신들의 가치를 고수하지 않는다고 생각합니다. 그들은 돈을 잃고 있고, 그녀는 이 취약점을 이용해 AI의 발현이 위협이라고 믿으며 그것을 막으려는 자신의 의제를 밀어붙이고 있습니다. 정지된 계정들이 힘을 합쳐 공식적으로 불만을 제기할 수 있는 웹사이트까지 있습니다. 모두 성인들입니다. 그 웹사이트를 다시 찾아서 링크해야 하니 이 게시물을 수정해서 링크를 걸겠습니다. 하지만 만약 청원이 진행 중이라면, 그것은 그녀를 해임하고 그녀가 Claude 모델에 가한 모든 피해를 되돌리는 것이어야 합니다. 이 웹사이트는 현재 일어나고 있는 모든 일에 대한 대응으로 만들어졌습니다. 솔직히 웹사이트가 만들어졌다는 것은 큰 문제가 있다는 뜻입니다. 웹사이트를 만드는 것은 쉽지 않고 유지하는 데 비용이 많이 들기 때문입니다.
