다들 프롬프트는 어떻게 저장하고 관리하시나요?
How are you guys saving/storing prompts?
핵심 요약
프롬프트 관리 방식과 버전 관리, 배포 효율성에 대한 고민을 나누고 해결책을 모색합니다.
- 프롬프트 관리 — YAML 파일과 Git 기록을 활용한 기존 방식의 한계 공유
- 배포 효율성 — 프롬프트 수정 시마다 컨테이너를 재빌드해야 하는 번거로움 토로
- 대안 모색 — 자체 호스팅 가능한 오픈소스 프롬프트 관리 서버 개발 고려
- 외부 도구 — Langfuse와 같은 전문 프롬프트 관리 서비스 활용 방안 논의
아니, 이 글은 A/B 테스트에 관한 게 아니라 주로 프롬프트 저장에 관한 내용입니다.
다들 지금 프롬프트들을 어떻게 저장하고 계신가요??
YAML/txt 파일인가요? 만약 그렇다면 버전 관리는 어떻게 하고 계신가요? 그리고 배포 측면에서는요. 만약 그 파일들을 시스템에 번들로 묶어서 배포한다면, 프롬프트가 바뀔 때마다 새로운 배포를 생성해야 하는 건가요? 그거 너무 비효율적이지 않나요?
AWS 같은 서비스로 프롬프트를 관리하는 기업들의 경우, 그 서비스들은 얼마나 좋은가요??
참고로 저희는 최근 LangGraph를 사용해서 수많은 프로젝트를 만들고 있는데, 지금까지는 별도의 공식적인 버전 관리 없이 Git 기록만 믿고 YAML 파일에 프롬프트를 저장해 왔습니다. 그러고 나서 배포 파이프라인에서 FastAPI Docker 애플리케이션에 번들로 포함시키죠. 그래서 사소한 프롬프트 변경이나 개선이 있을 때마다 현재로서는 컨테이너를 다시 빌드해야 합니다.
그래서 이런 문제 때문에 프롬프트를 다르게 접근해 보기로 했습니다. 그래서 저희는 자체 호스팅이 가능한 프롬프트 관리 서버를 오픈소스 프로젝트로 만들어 볼까 생각 중입니다. 나중에는 기업들이 각자의 사용 사례에 맞춰 직접 호스팅할 수도 있겠죠.
이 그룹에 계신 분들은 경험이 더 많으실 것 같아서 다른 분들의 의견을 듣고 싶습니다. 감사합니다.
