무료 LLM만 사용해서 한 달 동안 실제 코딩 작업을 해본 후기

지난 몇 주 동안 리팩토링, 버그 수정, 다중 파일 변경 등 실제 코딩 작업을 무료 티어 LLM만 사용해서 진행했습니다. 구독은 전혀 하지 않았고요. 이런 방식이 실제로 가능한지 알고 싶었습니다.

TL;DR: 가능합니다. 하지만 AI와 작업하는 방식을 바꿔야 합니다. 제가 알아낸 방법은 다음과 같습니다.

알아둘 만한 무료 티어들

• Groq은 속도의 제왕입니다. Llama 3.3 70B 모델이 트래픽이 많지 않을 때 초당 200토큰 이상을 처리합니다. 일일 제한도 넉넉해서 일반적인 사용 환경에서는 한 번도 제한에 걸린 적이 없습니다. 무료 옵션을 하나만 골라야 한다면 단연코 이것입니다.

• Google Gemini는 AI Studio를 통해 제가 찾은 것 중 가장 넉넉한 무료 티어를 제공합니다. 제 경험상 Gemini 2.5 Flash는 거의 멈춤 없이 작동합니다. 또한 제 사용 사례에서는 지시 사항을 꽤 잘 따르는 편입니다.

• OpenRouter도 무료 모델을 제공합니다. 어떤 모델을 선택하느냐에 따라 품질 차이가 큽니다. Nemotron 무료 버전은 간단한 작업에 적합합니다. 더 큰 무료 모델들은 생겼다 사라졌다 합니다.

DeepSeek는 무료는 아니지만, 거의 무료나 다름없을 정도로 저렴합니다. 대부분의 작업에서 요청당 1센트 미만입니다. 소액 예산으로 옵션을 찾고 있다면 알아둘 가치가 있습니다.

Ollama와 LM Studio는 완전한 로컬 모델을 제공합니다. 일반 노트북에서의 품질 상한선은 qwen2.5-coder 7B나 deepseek-coder 6.7B 정도입니다. 클라우드 무료 티어보다는 성능이 떨어지지만, 완전히 비공개이며 속도 제한이 없습니다.

무료 티어로 충분히 가능한 작업:

단일 파일 수정, 파일 내 리팩토링, 테스트 추가, 문서 작성, 보일러플레이트 생성, 코드 설명, 코드 리뷰, 도구가 오케스트레이션을 잘 지원한다면 프로젝트 전체의 이름 변경 등.

무료 티어가 힘들어하는 작업:

한 번에 대규모 코드베이스를 추론해야 하는 작업(이건 제가 아직 연구 중입니다). 깊은 의존성을 가진 복잡한 다단계 리팩토링. 매우 긴 출력이 필요한 작업. 대화 초기 상태를 많이 기억해야 하는 세션.

작업을 가능하게 만드는 사고방식의 전환

대부분의 AI 코딩 도구는 200k 이상의 토큰 모델을 염두에 두고 설계되었습니다. 프로젝트 전체를 AI에 던져주고 잘 되길 바라는 식이죠. 무료 티어나 8k 컨텍스트 윈도우를 사용하는 로컬 LLM에서는 그런 방식이 불가능합니다.

실제로 작동하는 방식은 그 반대입니다. AI에게 모든 것을 주는 대신, 특정 작업을 수행하는 데 필요한 최소한의 정보만 제공하는 것입니다. 프로젝트 구조만 파악하는 플래너 단계에서 무엇을 변경할지 결정합니다. 그다음 실행 단계에서 파일 하나씩 작업을 수행합니다. 다중 파일 변경은 한 번의 거대한 호출이 아니라 여러 번의 작은 호출을 통해 이루어집니다.

제약 조건을 받아들이면 많은 것들이 제자리를 찾게 됩니다. 모든 호출 전에 토큰 수를 세기 시작합니다. AI가 "방금 한 거 취소해"나 "X도 추가해" 같은 명령을 처리할 수 있도록 단기 기억을 구축합니다. AI를 똑똑하게 만들려고 애쓰는 대신, 자신의 도구를 똑똑하게 만드는 데 집중하게 됩니다.

일상적인 느낌

저처럼 RTX 4060 정도의 사양을 가진 노트북을 쓴다면 유료 플랜을 쓰는 Cursor보다는 느리지만, Groq의 속도가 그 격차를 대부분 메워줍니다. 플래너 단계에서 1~2초 정도 걸리는 건 사실이지만 고통스러운 수준은 아닙니다. 지난 몇 주 동안 1500~2000번 정도 LLM을 호출했지만 비용은 0원이었습니다. 학생이나 취미 개발자, 혹은 월 20달러가 부담스러운 사람들에게는 큰 차이입니다.

결론