Anthropic, 알리바바의 무단 액세스 의혹 제기

그래, 그러다 다른 연구소들이 추월해서 IPO 망하고 나면 '어떻게 이런 일이...' 하겠지. 자기들만 똑똑한 모델을 가졌고 아무도 더 잘할 수 없다고 생각한다면, 조만간 뼈아픈 교훈을 얻게 될 거야.

난 ASI doomer인데, 내가 Anthropic CEO였어도 Dario가 하는 짓 그대로 했을 듯. 걔 행동은 걔(그리고 나)의 이념이랑 일치하거든. 근데 이런 식의 주장은 좀 웃기다고 생각함. Distillation은 정당한 거 아님? 공개된 정보로 pretraining 하는 거랑 다를 게 뭐임. 중국의 권위주의 정부를 좋아하는 건 아니지만, pretraining으로 지은 집에서 distillation 돌 던지면 안 되지.

왜 컴퓨터 안전이 '이데올로기'가 되어야 하는 거지? '자기 회사의 주력 제품 때문에 종교적 광신도가 되었다'는 말이 그 종교적 운동에 속하지 않은 사람들에게 딱히 안심되는 논리는 아닌 것 같은데.

아닌 거 나도 알아. 하지만 사람들 설득하려고 글 여러 개 링크하는 것보다 이게 더 쉽거든.

만약 다리오나 나처럼 이 기술을 핵분열성 물질이나 심지어 완성된 핵탄두처럼 본다면, 이런 식으로 행동하지 않는 게 오히려 비합리적인 거지. 핵분열성 물질은 엄청난 잠재적 이익과 엄청난 잠재적 위험을 동시에 가지고 있으니까.

맞아, 근데 난 '안전한 핵 처리'를 '이데올로기'라고 부르진 않을 것 같아.

만약 핵 폐기물을 다루는 핵 공학자를 가리키면서 "내 이데올로기와 일치하니까 저 사람이 하는 일을 지지해"라고 말한다면... 그건 엄청난 적신호고, 그 사람이 그 물질로 뭘 하고 있는지 독립적인 감사를 요구하고 싶어질 거야.

리스크 완화처럼 합리적인 걸 이데올로기로 변질시키는 순간, 나는 더 이상...

다리오도 나랑 똑같네 얘들아! :)

이 글 보고 이미 완전히 설득당했는데, 혹시 공유해 줄 만한 다른 링크 있으면 더 읽어보고 싶어.

토렌트 😅