오픈 소스 LLM이 없다면, 미국 AI 기업들이 이미 기술을 독점했을 것

그 기회의 창은 이미 닫히기 시작한 거 아님?

Distillation은 뭐... 가능할 수도 있겠지만 아마 아닐걸. Synthetic data는 절대 아니지.

왜 그 기회의 창이 닫히고 있다는 거지?

Anthropic은 오랫동안 distillation 시도를 막아왔어. 오늘 발표한 바로는, 자기네 모델을 써서 다른 LLM을 만들려고 하면(distillation뿐만 아니라 harness 개발이나 새로운 frontier 설계 같은 것들까지 포함해서) 조용히 쓰레기 같은 답변을 내보내겠다고 하네.

오늘 그들이 발표하길, 만약 당신이 그들의 모델을 사용해 다른 LLM을 만들려고 하면 조용히 쓰레기 같은 데이터를 먹일 거라고 하더군요.

Claude의 가드레일이 '사이버 보안이나 생명공학' 관련 내용을 인식하는 수준이 얼마나 웃긴지 생각해보면, 머신러닝 관련 주제를 살짝 물어봤다는 이유만으로 내 코드베이스 전체를 오염시키지 않을 거라고 장담할 수 없겠네요.

난 그게 distillation을 겨냥한 건 아니라고 생각했는데. 어차피 보통은 일반적인 데이터로 distillation을 하니까, 그런 걸 막기는 더 힘들지 않을까 싶어.