Mac Studio M5 Max 비용 분석

데이터 주권이 필요한 경우가 아니라면

이게 사람들이 로컬 LLM에 의존하는 가장 큰 이유 중 하나 아니야? 민감한 개인 데이터를 클라우드 업체에 대량으로 업로드하지 않으려고 말이야.

말은 그렇게 하지만 현실적으로는 다들 그냥 자기 취미를 정당화하는 거지. 나도 오픈 웨이트 모델을 지지하는 게, 클라우드 업체가 갑자기 가격을 바꾸거나 서비스를 종료해버리면 우리가 할 수 있는 게 아무것도 없기 때문이야.

난 전혀 정당화라고 생각 안 해.

ChatGPT 출시 이후로 프라이버시나 데이터 소유권/보안 개념이 완전히 변기통으로 처박힌 게 놀라울 따름이야. 사람들은 자기 의료 기록, 연애사, 영업 비밀, 금융 기록 같은 걸 데이터가 어떻게 저장되고 보호되는지 신경도 안 쓰고 기꺼이 대량으로 업로드하고 있잖아.

난 2023년부터 홈랩에 3만 달러 가까이 썼고, 아마 이번에도 하나 살 것 같아. 내 추론 환경에 손익분기점 같은 건 없다는 걸 진작에 받아들였거든.

취미가 경제적으로 말이 되는 경우는 거의 없지.

"로컬 추론을 굳게 믿는다"고 해놓고는 로컬 LLM의 가장 큰 장점 중 하나를 깎아내리면서 클라우드 모델을 추천하네.

가장 저렴한 컴퓨팅 자원이 최우선 목표라면, OP, 로컬 호스팅은 너랑 안 맞는 거야. 적어도 지금은 말이지.