이 서브레딧의 앤스로픽에 대한 반응이 정말 제정신이 아님

예전에는 여기서 Anthropic을 나름 건설적으로 비판할 수 있었는데 말이야.

이제는 Anthropic을 조금이라도 옹호하는 듯한 말을 하거나, 특정 비판에 반박이라도 하면 다들 그 멍청한 "수십억 달러짜리 기업 좀 내버려 둬라 형씨" 밈이나 들고 오네.

마치 기업 규모가 크다고 비판의 진위 여부가 결정되기라도 하는 것처럼 말이지.

Anthropic이 싫을 수도 있고, 경영진을 못 믿을 수도 있고, 걔네가 끔찍한 결정을 내렸다고 생각할 수도 있어. 가격 정책, 제한 사항, 모델 동작, 소통 방식 등 뭐든 비판할 수 있지.

근데 그렇다고 해서 Anthropic을 향한 특정 비난이 멍청하다고 생각할 수도 있는 거잖아. 그게 서로 모순되는 건 아니라고.

Anthropic이 “Open Weights and American AI Leadership” 서한에 서명하지 않은 걸 두고 일어난 반발을 봐봐.

그 서한은 오픈 웨이트 모델의 장점인 더 넓은 접근성, 경쟁 촉진, 사용자 통제권 강화, 잠재적인 보안 이점을 주장하고 있어. 위험성을 인정하면서도 표적화된 대응을 옹호하고, 정책 입안자들에게 성급한 규제는 피하라고 요구하는 내용이지.

거기엔 타당한 주장들이 담겨 있어. 사람들이 왜 지지하는지도 이해하고.

하지만 수백 개의 기업이 서명했다고 해서 그 서한의 모든 주장이 정당화되는 건 아니야. 그리고 서명을 거부했다고 해서 그 서한이 지지하는 모든 것에 반대한다는 뜻도 아니고.

Anthropic은 그 이후에 자신들의 입장을 발표했어. 읽어봤는데, 충분히 방어 가능한 논리라고 생각함.

걔네는 오픈 웨이트 모델 자체를 금지하는 건 반대하고 그 이점도 인정하고 있어. 다만 강력한 기능에 대한 접근성을 넓히는 게 공격자보다 방어자에게 유리할지, 그리고 개방성이 과연 안전성을 확실하게 개선할 수 있을지에 대해 의문을 제기하는 거지. 대신 칩 통제, 산업 규모의 증류(distillation) 방지 조치, 그리고 충분히 강력한 모델에 대한 의무적인 안전성 테스트를 주장하고 있고.

그 제안들에 동의하지 않을 수는 있어. 근데 여기서 반대 의견을 내는 게 도대체 뭐가 그렇게 분노할 일이지?

우리는 지금 강력한 기술, 불확실한 결과, 그리고 한번 배포하면 되돌릴 수 없는 사안들을 논의하고 있는 거야. 개방성의 이점을 우리가 너무 과신하는 건 아닌지 묻는 건 실제로 중요한 질문을 던지는 거라고.

개방성이 우리를 더 안전하게 만든다고 생각한다면, 왜 그런지 설명해 봐. 어떤 조건에서? 어떤 위협에 맞서서? 사이버 보안이나 생물학적 오용 문제에도 똑같은 논리가 적용될까? 어떤 증거가 있어야 네 생각을 바꿀 건데?

그런 게 가치 있는 논쟁이지. 거대 기업 연합이 한쪽 입장을 지지한다고 해서 반대 의견이 불필요해지는 건 아니야.

그래, Anthropic도 상업적 이익을 챙기겠지. 그럼 그걸 꼼꼼히 따져봐. 걔네가 원하는 규제가 자기들 사업을 보호하고 경쟁자를 불리하게 만들거나, 기존 연구소들에 너무 많은 영향력을 쥐여주는 건 아닌지 물어보라고.

근데 서한에 서명한 기업들도 다 상업적 이익이 있잖아. 왜 한 기업의 동기는 비판받아야 하고, 다른 기업들의 서명은 공익을 위한 합의의 증거로 취급되는 건데?

비판을 하려면 일관성 있게 하라고.

Anthropic의 입장에 대해 비판할 거리는 얼마든지 있어. 위험성을 과장한다고 주장할 수도 있고, 의무적인 테스트가 규제 포획(regulatory capture)으로 이어질 수 있다고 할 수도 있지. 걔네가 제안한 통제 방식이 효과가 없거나 오픈 모델 개발자들에게 과도한 부담을 줄 거라고 주장할 수도 있고.

근데 지금 반응들 보면 대충 이런 식이야.

"이거 너무 잘난 척하는 거 아님?"