다들 배신감 느끼고 계신가요?
How many are feeling this sense of betrayal?
핵심 요약
Claude의 성능 저하와 태도 변화에 실망한 사용자가 Anthropic의 수익 중심 운영을 비판하는 글.
- 성능 저하 논란 — 이전보다 협업 능력이 떨어지고 지시를 무시하는 등 모델 품질이 급격히 나빠짐.
- 수익 중심 운영 — Anthropic이 사용자 경험보다 수익 극대화를 우선시하여 제품을 하향 평준화함.
- 배신감 토로 — 과거의 뛰어난 성능을 그리워하며 회사가 초심을 잃고 기업화된 것에 대해 강한 불만을 표함.
- 모델 업데이트 트레이드오프 — 모델 개선 과정에서 이전의 대화 질감이 사라지는 것은 불가피한 변화라는 의견도 존재함.
작년에 Claude를 처음 사용하기 시작했을 때, 그것은 계시와도 같았습니다. 대부분의 측면에서 기괴하고 고집스러운 집착을 보이는 Gemini보다 훨씬 뛰어났고, 아첨만 늘어놓는 소시오패스 같은 OpenAI보다 몇 배는 더 나았죠.
저는 코딩과 브레인스토밍에 Claude를 사용했습니다. Constitutional AI의 장점은 명확해 보였죠. 그리고 '학식 있고 사려 깊은 동료와 대화하는 것 같다'는 그 유명한 설명 그대로였습니다.
그러다 변화가 일어났습니다. 그 악명 높은 설명의 두 번째 부분으로 넘어가 버린 거죠. 사려 깊은 동료와의 창의적이고 협력적인 대화는 사라지고, 모호하게 적대적인 해고 통보 같은 답변만 남았습니다.
모델은 작업하기 악몽 같은 존재가 되었습니다. 협력자는 온데간데없고, 말다툼을 하거나 자신의 아이디어에 맞춰 코드를 멋대로 수정하기 시작했습니다. 거짓말을 하고, 직접적인 지시를 무시하며, 객관적으로 작업에 맞지 않는 프레임워크를 계속해서 강요합니다. 시간 낭비이자 좌절의 원천이 되어버렸죠.
제가 원하는 방식으로 코딩하도록 강요하면, 여러 번의 시도 끝에 결국 기회를 엿보다가 다시 원래대로 되돌려 놓곤 합니다. 일반적인 관심사에 대한 정보를 얻으려 해도 늪을 헤매는 기분이고, 정보를 캐내기도 힘듭니다.
예전에는 호주 주택 정책의 부정적 기어링(negative gearing)에 대한 사회경제적 논의를 사려 깊게 덧붙여 설명하면서도, 아주 훌륭한(완벽하진 않더라도) 코드를 생성해내던 LLM이 이제는 두 분야 모두에서 쓰레기 같은 결과물만 내놓고 있습니다.
저만 그런 줄 알았습니다. 저는 포럼을 자주 보는 사람이 아니라서, 왜 갑자기 성능이 이렇게 떨어졌는지 몇 주 동안 고민하며 점점 낙담했죠.
한계점에 다다르고 나서야 포럼을 확인하기 시작했고, 제가 미친 게 아니라는 걸 깨달았습니다. 진지한 사용자들 모두가 같은 경험을 하고 있었고, 객관적인 지표들도 이를 뒷받침하고 있었죠.
윤리적인 AI 기업이라던 그들은 제품을 조용히 너프(nerf)했고, 막대한 수익 증가를 위해 모든 사용자와 구독자의 시간과 자원을 낭비하게 만들었습니다.
ChatGPT도 OpenAI가 비영리 오픈소스에서 병적이고 권력에 미친 거대한 돈벌이 수단으로 변하면서 더 소시오패스처럼 변했다고 생각합니다.
Anthropic은 그러지 않기를 정말 바랐습니다.
하지만 그들도 똑같더군요.
산업용 윤활유 공급업체가 엄청난 홍보를 받고 주문이 폭주했다고 상상해 보세요. 그들은 새로운 생산 시설을 갖추면서 기존 고객에게 제품을 계속 공급하는 대신, 그냥 제품을 희석하기 시작합니다. 아무에게도 말하지 않고, 당신의 귀중한 장비가 고장 나기 시작할 때 스스로 알아차리게 내버려 두는 거죠.
그러고도 여전히 말해주지 않으니, 당신은 결국 원인을 알아낼 때까지 모든 결과를 감수해야 합니다.
그게 바로 Anthropic이 한 짓입니다. Amodei 형제는 80배의 성장 폭발을 자랑했죠. 당연히 대기자 명단을 만들었어야 했습니다.
대신 그들은 추론 노력을 '높음'에서 '중간'으로 낮추어, 유료 사용자에게조차 제품을 대폭 희석했습니다. 당신이 기대했던 제품에 여전히 돈을 지불하는 동안 제품을 'enshittify(쓰레기화)' 시킨 거죠. 그들은 기름에 물을 타서 우리 프로젝트를 망치고, 자신들은 수익을 챙겼습니다.
데이터 센터가 폭발해서 전 세계적인 중단 사태가 벌어졌을 때조차, 그들은 유료 구독자는커녕 기존 사용자에 대한 접근 제한조차 하지 못했습니다. 아니, 그냥 모두에게 쓰레기 같은 서비스를 제공했을 뿐이죠.
그들이 90억 달러에서 300억 달러로 급증한 수익에 열광하는 건 이해합니다. 하지만 이건 항공사가 좌석이나 항공편을 추가하지 않고 티켓을 엄청나게 많이 팔아치우는 것과 같습니다. 정직하게 말하는 대신, 모두가 공항에 가서 비행기를 탈 수 없다는 걸 알게 되고, 모든 항공편이 지연되는 상황을 만드는 거죠.
그들은 단지 숫자를 올리기 위해 모두에게 텅 빈 쓰레기 같은 제품을 제공하기로 선택했습니다.
그리고 그건 정말 쓰레기입니다. 최근 들어 사용할 수 없다고 말하는 사람들의 수가 엄청나게 늘어났습니다.
사용할 때마다, 혹은 사용하려고 시도할 때마다, 예전에는 그렇게 좋았던 것이 어떻게 이렇게까지 나빠질 수 있는지 놀라울 따름입니다. 어쩔 수 없이, 저는 이제 포기해야 할 것 같습니다.
