4토큰 프롬프팅 프레임워크를 만들었습니다

AI 코딩 에이전트를 엄청나게 써봤는데, 제일 빡치는 실패 유형은 자잘한 버그가 아님.

내가 뭘 원하는지 거의 다 알아먹었을 때가 문제임.

뭘 좀 만들어달라고 시키면, 에이전트가 이것저것 뒤져보고 지 맘대로 가정해서 코드를 잔뜩 짜놓음. 막상 확인해보면 기술적으로는 그럴싸한데, 의도랑은 완전히 딴판인 경우가 태반임. "그래, 내 요청이랑 관련은 있네. 근데 내가 머릿속으로 그린 건 이게 아니라고."

뻔한 대답은 "프롬프트를 더 잘 써라"겠지만, 난 그딴 대답 별로 안 좋아함. 모든 작업 시작할 때마다 법적 계약서 쓰듯이 하고 싶지 않음. "시니어 소프트웨어 엔지니어로서"라거나 "실수하지 마" 같은 소리나, 버튼 하나 만들어달라고 하기 전에 2,000 토큰짜리 의식 같은 거 붙여넣기 진짜 질색임.

계획 모드(plan mode)부터 시작하는 것도 딱히 안 좋아함.

계획이 유용하긴 한데, 계획부터 짜고 시작하면 이상한 검토 루프에 빠짐. 에이전트가 계획을 짜면, 내가 수정을 요구하고, 그럼 계획을 다시 업데이트해야 하고, 그걸 또 검토하고, 그러다 세부 사항이 바뀌면 어느새 챗봇이랑 프로젝트 매니저 놀이나 하고 있는 거임.

내가 진짜 원하는 건 훨씬 간단함.

그냥 에이전트가 나랑 먼저 대화했으면 좋겠음.

나를 취조하라는 게 아님. 거창한 계획서를 뽑아내라는 것도 아님. 코딩부터 시작하지도 말고. 그냥 코드베이스 훑어보고, 내 요청에 대해 생각 좀 해본 다음에, 구현 들어가기 전에 서로 의견을 맞춰보자는 거임.

그래서 'hmm'이라는 쪼끄만 레포를 하나 만들었음.

관대하게 봐주면 프롬프팅 프레임워크고, 냉정하게 보면 README만 있는 장난임.

핵심 아이디어는 이거임. 예전처럼:

Build X

라고 하는 대신:

/hmm I want to build X

라고 하는 거임.

그럼 계획 모드가 아니라 에이전트 모드 상태로 남아서, 에이전트가 페어 프로그래머처럼 탐색하고 반응하게 둠. 보통은 "당신이 말한 게 이런 뜻인 거 같은데, 여기 들어가는 게 맞을 것 같고, 이런 트레이드오프가 있어요" 같은 식으로 답이 옴.

그럼 내가 그걸 읽음.

이 과정이 사람들이 생각하는 것보다 훨씬 중요함. 가끔은 에이전트가 틀릴 때도 있고, 내가 모호하게 말했을 때도 있음. 에이전트가 코드베이스에서 뭘 발견해서 내 생각을 바꿔놓을 때도 있고. 가끔은 이렇게 물어보기도 함:

/hmm are you sure about Y? Could we reuse Z instead?

그렇게 작업의 방향이 제대로 잡힐 때까지 계속 대화하는 거임.

그러고 나서:

ok, build

라고 하면 끝.

이 "프레임워크"의 전부는 사실 한 문장임:

구현하기 전에 먼저 논의하자.

이게 비결임. 메가 프롬프트도 아니고, 거창한 규칙 세트도 아님. 그냥 "가서 이거 해"라는 명령을 "먼저 우리 뜻이 맞는지 확인하자"는 협업으로 바꾸는 작은 넛지일 뿐임.

또 하나 중요한 건, 프롬프트를 '행동'이 아니라 '의도'로 표현하는 거임. "Build X"라고 하는 것보다 "I want to build X"라고 하는 게 훨씬 잘 먹힘. 모델한테 아직 실행하라는 신호를 주지 않으니까. 그냥 협업하자고 제안하는 거니까.

이렇게 하니까 AI 코딩이 엄청 자신감 넘치는 낯선 사람한테 일 떠넘기는 느낌이 아니라, 코드 건드리기 전에 한 번 멈춰서 생각하는 사람이랑 일하는 느낌이 들어서 훨씬 나음.

레포는 여기 있음: https://github.com/tumenbaev/hmm

장난처럼 보일 수도 있음. 사실 좀 장난 같기도 하고.

근데 이 워크플로우는 진짜고, 실제로 내가 코딩 에이전트를 쓰는 방식을 완전히 바꿔놨음. 다른 사람들도 이미 이렇게 일하고 있는지 궁금하네.