코딩을 멈추고 번역가가 되었습니다

몇 달 전 프로젝트를 시작했습니다. Claude 덕분에 코드는 빠르게 나왔죠. 저를 지치게 한 건 영어였습니다.

모든 세션이 똑같이 시작됐습니다. 제가 대충 내용을 입력하면, 에이전트가 추측하고, 틀리고, 또 다르게 틀리더군요. 제가 더 자세히 프롬프트를 입력하고, 의도를 명확히 하고, 잘못 읽은 부분을 되돌리고, 깜빡한 제약 조건을 추가했습니다. 에이전트가 제대로 이해했을 때쯤이면, 10분이면 짤 수 있는 코드를 설명하려고 세 문단이나 쓰고 있었죠. 영어와 코드의 비율은 계속 높아졌습니다. 저는 코더가 아니라 번역가였습니다. 함수가 아니라 프롬프트를 쓰고 있었던 거죠.

아무도 이 부분에 대해 솔직하지 않습니다. 우리는 코드 위에 또 다른 추상화 계층을 하나 더 얹었는데, 그게 바로 영어입니다. 세상에서 가장 최악의 프로그래밍 언어죠. 모호하고, 장황하고, 타입도 없고, 컴파일러도 없고, 캐시도 없습니다. 매 세션마다 에이전트 하네스는 어제 알고 있던 상태를 재구성하기 위해 토큰 세금을 다시 지불해야 합니다.

그래서 그 프로젝트를 잠시 멈추고, 에이전트는 사라지지 않을 테니 저를 위한 도구를 먼저 만들었습니다. 앞으로 우리는 에이전트를 더 많이 지시하게 될 것이고, 영어 세금은 갈수록 무거워질 겁니다. 그래서 저는 에이전트 기반의 프로젝트 관리 도구를 만들었습니다. 프로젝트는 그래프 형태로 존재합니다. 작업, 타입이 지정된 의존성 에지, 결정 사항들이 각각의 노드가 됩니다. 에이전트가 작업을 선택하면, 그 작업에 필요한 문맥만 가져옵니다. 컴파일 대상은 여전히 영어입니다. 적어도 소스는 구조화되어 있고, 매 세션마다 다시 입력할 필요는 없죠.

핵심 기능을 만든 후, 제 도구에 직접 사용하기 시작했습니다. 현재 106개의 작업 중 69개를 완료했지만, 새로운 작업은 계속 생겨나고 있습니다. 네트워크는 커지고 있지만 프롬프트는 점점 덜 쓰고 있죠. Mymir는 작업에 맞는 프롬프트를 스스로 구성합니다. 이제는 에이전트 팀을 병렬로 운영해 볼까 합니다. 하나는 개선, 하나는 계획, 하나는 구현을 맡기고 저는 화이트보드 앞에서 다음 단계나 아키텍처를 고민하는 거죠.

다른 분들은 토큰 세금을 어떻게 처리하고 계신지 궁금합니다. 메모리 블롭, 컨텍스트 윈도우, 검색 설정 등 그 어떤 것도 실제 소프트웨어 제품에는 딱 맞는 느낌이 안 드네요. 여러분은 어떤 방식을 쓰고 계신가요?

관심 있는 분들을 위해 저장소를 공유합니다. 아직 개발 중이니 아이디어나 개선 사항을 알려주시면 좋겠네요: https://github.com/FrkAk/mymir