Claude 가격이 폭등하면 어떻게 될까?

어떻게? 걔네가 잘하는 건 자신감 있게 틀린 정보 주는 것밖에 없는 것 같은데.

난 LM Studio용 커맨드 MCP/통합을 훈련시키려고 Opus랑 Codex 5.5를 쓰고 있어. 보통 qwen3.6-27b나 35b, gemma31b, 혹은 그 혼합 모델을 사용함. Opus가 gemma4랑 qwen3.6을 함께 작동하게 만드는 꽤 괜찮은 아이디어를 줬어. 아직 다듬는 중이야. 성공도 있고 실패도 있고. 그리고 프론티어 모델의 도움 없이 아주 작은 도구들을 스스로 만들게 하는 흐름도 만들고 있어. 실제로 놀라울 정도로 잘 작동함. 스스로 복잡한 의존성을 가진 전체 프로젝트를 만들 수 있냐고? 아니. 하지만 범위가 작은 프로젝트에는…

이런 작은 로컬 모델 쓰는 애들은 허세 부리는 거거나 진짜 기초적인 작업에만 쓰는 거라고 봄.

어떻게 하고 있는지 물어봐도 될까? 지금 로컬 LLM(qwen 3.6, 30b)을 좀 건드려보고 있는데 결과가 영 별로네.

로컬 호스팅은 최상급 클라우드 모델만큼의 경험이나 속도, 완성도를 기대하기 어렵다는 점을 명심해야 해. 너한테 그 정도 하드웨어는 없을 테니까.

하지만 지금 로컬 호스팅을 해두는 건 나중에 클라우드 기반 모델이 갑자기 서비스 종료되거나 정책이 바뀔 때를 대비해서 아주 좋은 기술이자 도구야.

지금 로컬 모델은 긴 컨텍스트나 추론 능력, 창의성 면에서 떨어질 수밖에 없어. 프로젝트 관리 능력을 더 키워야 하고, 정말 세분화해서 작업해야 할 거야...

선생님 여기 레딧입니다. 8GB 램 노트북에서 돌아가는 로컬 중국산 모델들이 Claude가 돌아가는 20만 달러짜리 하드웨어보다 더 낫거든요.

그래, 고사양 LLM을 네 로컬 머신에서 호스팅 한번 해봐라 😂

오픈 소스 커뮤니티가 성능에 대해 좀 더 솔직했으면 좋겠어. 8기가 크롬북에서 고품질 모델을 돌릴 수 있다고 생각하는 건 이제 그만할 때가 됐음.

나 L4 있는데 qwen3.5 27b랑 Gemma4 31b 돌려봐도 내 작업에 쓰기엔 정확도가 간당간당하고 부족할 때가 많아. 그리고 확실히 너무 느려.

로컬 LLM이 기대만큼 대단하진 않네.