어떤 AI 모델이 최고인지 묻는 걸 그만뒀다. 더 나은 질문은 이거였다: 이 프롬프트는 어떤 유형인가?
I stopped asking which AI model is best. The better question was: what kind of prompt is this?
핵심 요약
AI 모델 선택에 고민하기보다 프롬프트 유형을 분류해 적합한 모델로 라우팅하는 것이 효율적이다.
- 모델 라우팅 전략 — 작업 성격에 따라 모델을 선택하는 것이 프롬프트 엔지니어링보다 더 중요한 핵심 기술임.
- 프롬프트 유형 분류 — 글쓰기, 검색, 코딩, 단순 작업, 교차 검증 등 목적에 맞춰 모델을 구분해 사용함.
- 모델 스택 활용 — 모든 작업을 하나의 모델로 처리하려 하지 말고 상황에 맞는 모델들을 조합해 사용함.
- 비효율적 모델 사용 지양 — 단순한 작업에 고성능 모델을 쓰는 것은 비용과 시간 낭비일 뿐임.
한동안 나는 많은 헤비 AI 유저들이 하는 방식을 그대로 따라 하고 있었다.
글쓰기에는 Claude.
일반적인 대화에는 ChatGPT.
실시간 정보가 필요할 때는 Perplexity.
긴 문맥이나 비교가 필요할 때는 가끔 Gemini.
빠르고 가벼운 작업에는 저렴한 모델들.
이 설정 자체가 나쁜 건 아니었다.
문제는 내가 모델 선택이라는 사소한 결정을 하루에 40번씩이나 해야 했다는 점이다.
모든 프롬프트는 숨겨진 단계 하나로 시작되었다.
“이걸 어디로 보내야 하지?”
작은 고민 같지만, 이게 쌓이면 문제가 된다.
글쓰기 작업을 위해 Claude를 연다.
그러다 중간에 최신 정보가 필요하다는 걸 깨닫는다.
그래서 Perplexity로 옮긴다.
결과물을 다시 다듬고 싶어진다.
그래서 다시 Claude로 돌아간다.
그러고는 간단한 검증을 하고 싶다.
그래서 ChatGPT에 붙여넣는다.
어느 순간부터 병목 현상은 프롬프팅이 아니라 라우팅이 되어버렸다.
나의 생각을 바꾼 정신적 모델은 이거다.
프롬프트에는 유형이 있다.
모든 프롬프트를 같은 모델에 보낼 필요는 없다.
내가 발견한 몇 가지 대략적인 카테고리들이다.
글쓰기 프롬프트
취향, 어조, 구조, 덜 기계적인 표현이 필요하다.
이런 작업은 보통 긴 글과 편집에 능한 모델들이 더 잘한다.
예시:
검색 중심 프롬프트
최신 정보, 출처, 날짜, 링크, 시장 변화가 필요하다.
실시간 웹 접근 권한이 없는 모델에 이런 걸 보내는 건 그냥 자신 있게 틀린 답을 내놓으라고 시키는 거나 다름없다.
예시:
코딩/디버깅 프롬프트
정밀함, 문맥 추적, 오류 추론, 때로는 아키텍처 수준의 사고가 필요하다.
예시:
단순 유틸리티 프롬프트
탁월함보다는 속도가 중요하다.
예시:
이런 작업에 프리미엄 모델을 쓰는 건 시니어 엔지니어를 고용해서 파일 이름이나 바꾸게 하는 꼴이다.
교차 검증 프롬프트
이건 저평가된 방식이다.
때로는 다른 모델을 사용하는 가장 좋은 방법은 원래 질문에 답하게 하는 게 아니라, 첫 번째 답변을 반박하게 하는 것이다.
예시:
이 방식 하나가 내 AI 사용법을 크게 바꿔놓았다.
예전에는 더 나은 프롬프트를 쓰는 게 기술이라고 생각했다.
이제는 프롬프트를 보내기 전에 내가 어떤 유형의 프롬프트를 쥐고 있는지 파악하는 게 기술의 일부라고 생각한다.
같은 프롬프트라도 어디로 보내느냐에 따라 “좋은” 프롬프트가 될 수도, “나쁜” 프롬프트가 될 수도 있기 때문이다.
검색이 안 되는 모델에 연구용 프롬프트를 보내면 환각 위험이 생긴다.
무딘 모델에 섬세한 글쓰기 프롬프트를 보내면 뻔한 결과만 나온다.
비싼 모델에 단순한 서식 지정 프롬프트를 보내면 토큰 낭비가 된다.
잘못된 모델에 코딩 프롬프트를 보내면 디버거를 디버깅하느라 20분을 허비하게 된다.



