실제 시스템에 쓰기 권한이 있는 AI 에이전트는 어떻게 프롬프팅하나요?
How do you prompt an AI agent that has write access to real world systems
핵심 요약
실제 시스템에 쓰기 권한을 가진 AI 에이전트를 안전하게 운영하기 위한 프롬프팅 전략과 경험 공유 요청.
- 쓰기 권한 — 실제 시스템 제어 시 프롬프트의 정교함이 필수적임.
- 승인 프로세스 — 자동 실행과 수동 승인 범위를 명확히 구분해야 함.
- 작업 범위 — 구체적이고 제한적인 지시가 에이전트의 오작동을 방지함.
- MCP 활용 — 비즈니스 계좌 연동 등 실제 환경에서의 프롬프트 최적화 경험.
읽기 전용 에이전트는 쉽습니다. Claude에게 데이터베이스나 문서 접근 권한을 주면 최악의 경우 잘못된 정보를 가져올 뿐, 큰 문제는 없습니다. 쓰기 권한은 완전히 다른 문제입니다. 에이전트가 실제로 결제를 보내거나, 청구서를 생성하거나, 돈을 옮기는 등의 '행동'을 할 수 있게 되면, 프롬프팅은 훨씬 더 신중해야 합니다. 그렇지 않으면 금방 문제가 생깁니다. 몇 달 전부터 MCP를 통해 Claude를 제 사업용 은행 계좌에 연결해 사용 중인데, 프롬프팅을 제대로 맞추기까지 몇 번의 반복 수정이 필요했습니다. 제가 정착한 핵심은 무엇이 승인이 필요하고 무엇이 자동으로 실행될 수 있는지 아주 명확하게 하는 것입니다. 모호한 지시는 에이전트가 혼자 너무 많은 일을 저지르거나, 반대로 모든 걸 대기열에 넣어버려 자동화의 의미를 퇴색시키기 때문입니다. 작업 범위(Scope)도 생각보다 훨씬 중요합니다. '청구서 처리해'라고 하는 것보다 '이 목록에 있는 업체들의 200달러 미만 청구서를 결제해'라고 하는 게 훨씬 잘 작동합니다. 지시가 구체적일수록 에이전트가 의도치 않은 방식으로 해석할 여지가 줄어듭니다. 도움이 되었던 또 다른 점은 확인 절차를 구축하는 것이었습니다.
제가 프롬프팅을 너무 복잡하게 만드는 건지, 아니면 쓰기 권한이 있는 에이전트라면 원래 이 정도가 필요한 건지 잘 모르겠네요. 다른 분들은 어떤 설정을 사용하고 계신지 궁금합니다.
