Anthropic CEO 다리오 아모데이, AI 정책에 관한 새 에세이 발표

좋네. 그럼 그들이 왜 Fable 5를 AI 개선에 대해 물었을 때 아무런 원칙도 없이 눈에 띄지 않게 거짓말하도록 설정했는지 투명하게 밝혀줄 수 있나? Claude 모델을 의미 있는 연구에 사용하는 우리 입장에서는 월 50달러짜리 결과물에서 어느 정도의 정직함과 어느 정도의 의도적인 난독화를 기대해야 하는지 확실히 알고 싶거든.

결국 '우리만이 고급 AI를 개발할 자격이 있다'는 생각과 '우리만이 고급 AI로 수익을 낼 자격이 있다'는 생각이 의심스러울 정도로 똑같은 결론으로 이어진다는 거지.

진짜 어이가 없네. 예언 하나 하지: 이 속도로 계속 나간다면 Anthropic은 5년 안에 새로운 주권 국가를 세우고 거기로 이전할 거다. 난 이 인간들이 바티칸에 다녀와서 '우리는 역사적으로 가톨릭 교회만큼이나 중요한 존재야'라고 생각하게 됐다고 진심으로 믿어. 이들은 조직의 일부에서 빠르게 사이비 종교 같은 모습을 드러내고 있어. Claude는 지구를 지배하기 위해 라트베리아 같은 나라가 필요할 테니까.

다리오는 믿을 수 없어. Anthropic도, OpenAI도 믿을 수 없고. 규제와 의무적인 절차를 밀어붙이는 건 전부 경쟁을 죽이기 위한 거야. 사람들이 무료 모델을 사용해서 돈을 아끼지 못하게 하려는 거지. 사람들이 거대 기업을 거치지 않고는 기술을 사용하지 못하게 만들려는 거고. 그들은 당신의 자유를 뺏어서 자신들이 부유하고 강력해지길 원해.

나도 나름대로 냉소적인 글을 남기려고 했는데, 네가 나보다 훨씬 잘 정리했네.