Fable 5.2는 AI 가속화를 막는 안전장치가 있을 뿐만 아니라, 학습 과정에서도 성능이 제한됨

이게 바로 생성형 AI의 힘을 소수에게만 제한하려는 꼴이지. 우리가 몇 년 동안 계속 얘기해왔던 거고, r/localllama가 존재하는 이유 중 하나이기도 한데, 이걸 '안전'이라는 이름으로 포장하고 있네.

슬픈 건, 제품을 만들기 위해 모든 걸 훔치지 않은 일반적인 기업이라면 '멋지네 친구, 돈 많이 벌어라'라고 해줄 텐데 말이지.

Anthropic은 그런 소리 들을 자격이 없음.

진짜 어이가 없네, 사람들이 10년 넘은 GPU에서 뭘 돌리려고 커널 최적화하는 게 도대체 무슨 위협이 된다는 건지... 이해가 안 가네.

그래도 우린 계속 만들 거임. ㅋㅋ

그건 사람들이 커스텀 추론 엔진을 최적화할 때 사용하는 기능이기도 해.

맞아. 다행히 AI 모델을 학습시키는 회사가 Anthropic뿐인 건 아니고, 굳이 걔네 걸 쓸 의무도 없지.

단순히 과도한 수준을 넘어서, Anthropic조차 이해하지 못할 정도로 치명적인 수준이야.

학습 과정이 관련 능력에 영향을 주지 않았다는 걸 걔네가 어떻게 '확신'했는지 진짜 미치도록 알고 싶네. 어디 보자, 자동화된 벤치마크인가?

그 벤치마크들이 도메인 간 기술이 퇴보하지 않았다는 걸 보장했나, 아니면 그냥 도구 사용 기능에만 문제가 없다는 걸 확인한 건가? 걔네가 테스트한 게 양인가, 질인가?

도구 사용 기능은 그대로 뒀어도, 그걸 사용하는 모델 자체가 바보가 됐다면 아무 소용 없는 거야.

이건 머스크가 챗봇 행동을 수정하려고 깝치는 것보다 훨씬 더 나빠. 챗봇은 그냥 사람들 기분이나 상하게 하지. 이런 건 엔지니어링 수준에서 눈치채기 힘들고 치명적인 문제를 야기한다고.