내가 뭘 잘못하고 있는 걸까? Qwen 3.8 27B가 코딩 에이전트로서는 쓸모가 없는 것 같아
Am I doing something wrong? Qwen 3.8 27B seems useless for agentic coding
핵심 요약
로컬 모델 Qwen 3.8 27B를 코딩 에이전트로 활용하려 하지만, 과도한 추론과 컨텍스트 문제로 성능이 저조해 사용자들의 조언을 구하는 글입니다.
- 컨텍스트 제한 — 50k 토큰은 모델의 기억력을 저하시켜 엉뚱한 행동을 유발함
- 추론 설정 — 과도한 생각(reasoning)이 오히려 코딩 작업의 효율을 떨어뜨림
- 하드웨어 활용 — 2x 3090Ti 환경에서도 모델의 추론 방식에 따라 성능 차이가 큼
- 대안 제시 — 속도가 중요하다면 35B 모델을 사용하거나 추론 설정을 조정할 것을 권장함
로컬 모델을 한 2년 정도 썼다 안 썼다 하면서 돌려봤는데, 솔직히 클로즈드 모델들이 압도적으로 좋아서 제대로 써본 적은 없거든.
근데 Qwen 3.8 27B 나오길래 이번엔 진짜 제대로 한번 써보자 싶어서 마음먹었지. VSCode 애드온으로 Cline이랑 ZooCode 깔고, MCP 서버 몇 개 올린 다음에 스킬도 하나 추가해 봤어.
Deepseek V4 Flash로 이 툴들 돌려보니까 일은 꽤 잘하더라고(주로 Home Assistant 설정 수정 같은 거). 근데 회사에서 쓰는 Claude Code나 GitHub Copilot이랑 비교하면 여전히 한참 모자라.
Qwen은 unsloth에서 Q6_K 퀀트 버전 받아서 돌리는데, 토큰은 엄청나게 뱉어내거든? 근데 결국 작업을 제대로 끝내지도 못하고(끝내도 틀리는 경우가 태반임), 아니면 무한 루프에 빠지거나 멀쩡한 걸 고치겠다고 뻘짓하다가 그냥 끝나버려.
윈도우 11에서 LM Studio로 돌리는 중이고, 하드웨어는 2x3090Ti라 충분히 빵빵해. GPU에 다 올렸고 컨텍스트 제한은 50k 토큰 정도로 잡았어. 아, 그리고 모델이 너무 깊게 생각해서 문제인 것 같길래 프롬프트 템플릿 수정해서 '중간 정도의 노력(medium effort)'으로 설정도 바꿨거든.
근데도 여전히 작업 하나 제대로 끝내기가 너무 힘들다. 내가 뭘 잘못하고 있는 건지 좀 알려줄 수 있어? Qwen이 여전히 높은 추론 강도로 돌아가는 것 같은데, 이걸 확인할 방법이 없네.
아니면 LM Studio 말고 다른 툴을 써야 하는 걸까?
