$20,000짜리 로컬 AI 장비의 손익분기점 계산해 봄

다들 입만 열면 "하드웨어 사고 나면 공짜"라면서 전기세는 쏙 빼놓고 말하더라.

중급형 구독 서비스랑 비교해서 대체 어디서 손익분기점이 나오는지 계산해 봤다. 셀프 호스팅 관련 글마다 꼭 "하드웨어만 있으면 평생 공짜"라는 소리가 나오는데, 그거 볼 때마다 내 전기세 고지서 생각나서 웃음만 나옴. 전기 공짜 아니거든. 하루에 몇 시간씩 추론 돌리면서 전력 팍팍 먹는 그래픽카드 굴려보면, 생각보다 돈 나가는 속도가 장난 아님.

그래서 직접 모델링 돌려봤다. 대충 잡은 조건: 제대로 된 듀얼 하이엔드급 장비 맞추는 데 2만 달러(약 2,700만 원) 잡고, 램이랑 VRAM도 넉넉하게 챙겨서 쓸만한 속도 뽑는다고 치자. 여기에 주기적으로 부하 걸면서 돌리면 전기세가 한 달에 200달러(약 27만 원) 정도 더 나옴. 이걸 초기 비용 없이 매달 200달러 내는 구독형 서비스랑 비교해 봤음.

계산해 보니까 로컬 장비가 더 싸지는 시점이 대략 27개월, 그러니까 2년 넘게 지나야 나옴. 그전까지는 뭘 어떻게 계산해도 무조건 손해임. 그냥 이미 돈을 다 써버려서 체감이 안 될 뿐이지, 이게 딱 함정임. 매몰 비용 때문에 전기세 나가는 걸 공짜라고 착각하는 건데, 하드웨어 값 다 갚았다고 "공짜"라고 떠드는 꼴 보면 어이가 없음. 애초에 하드웨어 값이 비용의 대부분인데 말이야 (요즘 램 가격 미쳐 날뛰는 건 말할 것도 없고).

심지어 여기엔 감가상각이나 신제품 나올 때마다 똥값 되는 중고가, 2만 달러를 주식에 안 넣고 칩에 박아둔 기회비용, 서버 유지보수하고 문제 해결하느라 날리는 시간 같은 건 하나도 안 넣었음. 이런 것까지 다 따지면 손익분기점은 27개월보다 훨씬 뒤로 밀림. 그래도 뭐 프라이버시나 오프라인 접속이 비용보다 중요하다면 로컬로 가는 것도 방법이긴 함.

아, 그리고 구독형은 서비스 제공자한테 목줄 잡히는 거니까 그것도 좀 킹받긴 하지.

(수치는 개인적인 경험 기반이라 환경이나 거주 지역에 따라 다를 수 있음)

(문법은 Grammarly 돌림)