코드베이스가 커지면서 Qwen3.6-27B에서 발생하는 문제들 - 이 모델을 더 똑똑하게 활용하는 방법은?

처음에는 llama server랑 툴 사용해서 상호작용하려고 챗봇을 직접 손으로 짰거든. 근데 Qwen3.6-27B로 바이브 코딩(vibe coding) 시작하고 나서 진짜 충격받았음. 당연히 그 뒤로 기능 엄청 때려 박았고 코드 베이스도 엄청나게 커졌지.

근데 요즘 들어 코드에 자잘한 버그가 너무 많이 보여서 일일이 수동으로 검토하고 고치고 있음. 주니어 개발자라면 당연히 알았어야 할 수준의 것들인데 말이야. 다행히 내가 파이썬은 수년간 실무에서 굴러먹어서 망정이지.

근데 생각해보니까 내가 이 모델을 제대로 못 쓰고 있는 건가 싶더라고. 더 나은 방법이 있을 것 같은데. 지금까지 내 방식은 이거였음:

1. pi 실행
2. 프롬프트 - "현재 프로젝트 읽어". 이게 가용 컨텍스트(128K 중)의 50% 정도를 잡아먹음.
3. 이 기능 구현해라, 혹은 이 버그 고쳐라.
4. 컨텍스트 80% 넘어가면 /compact 실행.

근데 버그가 하도 쏟아져 나오니까 지금은 코드를 하나하나 추적하면서 패치하는 중임. 변경할 때마다 새 대화창 파고, 워크스페이스 전체를 읽히는 대신 특정 함수나 아예 라인 단위(예: 670-650라인)로 집중하라고 시킴. 그러고 나서 특정 버그를 읽고 확인한 뒤 내가 원하는 대로 딱 고치라고 시키는 거지.

버그 좀 줄여보려고 kv 양자화도 다 풀었음. 지금 쓰는 명령어는 이거임(내 사양은 5090에 램 64GB):

/home/lenny/myp/llama.cpp/build/bin/llama-server \
  -m ~/myp/models/unsloth_mtp_Qwen3.6-27B-UD-Q5_K_XL.gguf \
  --temp 1.0 --top_p 0.95 --top_k 64 \
  -c 131072 -t 16 -ngl 99 --flash-attn on \
  --host 0.0.0.0 --port 8080 \
  --spec-type draft-mtp --spec-draft-n-max 4 --parallel 1

당연히 기능 만들고 디버깅하는 데 시간이 훨씬 더 걸리는 중임.

질문 좀 하자 - 이 모델 쓸 때 버그 최소화할 수 있는 다른 방법 없을까?

추신: 버그 예시:

특정 시간이나 반복 주기에 맞춰 작업을 예약하는 기능이 있는데, 이게 파라미터로 execution_time을 받거든. 발견한 버그가 이런 식임:

try:
  parse time in UTC.
except:
  logging.error("failed to parse")

Insert into DB

이게 원래는 이렇게 됐어야 함:

try:
  parse time in UTC.
except:
  logging.error("failed to parse")
  return "Tool call failed - incorrect time format"

Insert into DB

지금 이런 식의 잠재적 버그가 도사리고 있을지도 모르는 코드가 수천 줄이나 쌓여있음.