코딩에 거대 LLM을 쓰는 건 과함
Using big llms for coding is overkill
핵심 요약
코딩 작업 시 거대 모델 대신 소형 모델을 활용해 비용을 절감하자는 의견과, 소프트웨어 엔지니어링의 복잡성을 고려할 때 여전히 거대 모델이 필요하다는 의견이 대립함.
- 모델 효율성 — 코딩 시 거대 모델 대신 소형 모델을 활용해 비용 절감 가능함.
- 엔지니어링 복잡성 — 대규모 프로젝트나 아키텍처 설계에는 여전히 거대 모델이 필수적임.
- 작업 방식 — 상세한 지시와 감독을 통해 소형 모델로도 충분한 결과 도출 가능함.
최근 Claude Code에서 DeepSeek V4 Flash를 사용하기 시작했는데, 고급 Claude나 GPT 모델만큼 똑똑하거나 효율적이지는 않지만, 코딩에 있어서는 딱히 부족한 점이 없다는 걸 인정할 수밖에 없네요. 모델이 하는 모든 일을 감독하고 제가 원하는 바를 정확하고 상세하게 지시하는 한 말이죠. 어차피 어떤 모델을 쓰든 사고 과정 자체를 모델에 떠넘기는 건 나쁜 생각이라서요. 그래서 코딩에 있어서는 거대 LLM 모델들이 일종의 과잉 투자이고, 이 작업에 비해 비용이 너무 많이 든다고 생각합니다. 프로젝트 구조를 설계하는 데는 쓸 수 있을지 몰라도, 단순 코딩 작업은 DeepSeek V4 Flash 같은 더 빠르고 작은 모델에 맡겨도 충분하다고 봅니다.

