AI 에이전트가 확신도를 알려주나요? 제 에이전트는 모든 작업에 점수를 매기고 건너뛴 이유를 기록합니다.

돈이랑 관련된 건 뭐든지.

내가 선을 긋는 기준은 작업 자체가 아니라 그 결과에 있어. 점수는 무언가를 통제할 때만 유용하니까, 나는 실수를 해도 되돌릴 수 있는 작업은 에이전트가 혼자 하게 두고, 되돌릴 수 없는 작업(편지 보내기, 돈 쓰기, 다른 사람이 의존하는 기록 변경하기 등)은 사람이 직접 하게 할 거야. 네가 기록하는 '건너뛴 이유'가 바로 점수를 정직하게 만들어주는 부분이야. 10초 만에 확인할 수 있는 이유가 적힌 70점짜리가 아무 이유 없는 90점짜리보다 훨씬 가치 있어. 점수만 봐서는 에이전트가 실제로 뭘 봤는지 알 수 없으니까. 점수를 보면서 드는 의문은 '보정'이야. 80점짜리가 40점짜리만큼이나 자주 틀리지는 않는지? 어떤 점수가 나오면 초안을 스스로 전송하게 할 수 있을까?

나한테는 되돌릴 수 있느냐보다 어떤 오류의 비용이 더 크냐가 더 중요한 문제야. 만약 에이전트가 잘못된 편지를 보내서 입는 타격이 좋은 일자리를 놓치는 것보다 5배 정도 크다면, 건너뛰게 하는 것보다 전송하게 할 때 훨씬 더 높은 확신도가 필요할 거야.

한 번에 결정하기보다는 근거에 따라 기준을 옮겨가는 게 좋겠어. 건너뛰기, 초안 작성, 전송처럼 작업 종류를 나누고, 각 작업마다 사람이 결과물을 수정하기 전까지 얼마나 자주 개입했는지 세어보는 거지. 잘 돌아가는 작업은 자율성을 더 주고, 계속 수정이 필요한 작업은 사람이 계속 확인하게 하는 거야. 새로운 작업은 아무리 기존 작업과 비슷해 보여도 한동안은 사람이 직접 확인해야 해. 이렇게 하면 속도 문제도 해결돼. 건너뛰기는 이유 로그를 통해 잘못된 판단을 금방 잡을 수 있으니까 처음부터 자동화해도 되지만, 전송 단계는 수정 횟수가 줄어들 때까지 사람이 맡는 거지. 지금 네가 작성한 초안 중에서 실제로 다시 고쳐 쓰는 건 몇 개나 돼?

선을 긋기 전에, 에이전트가 모든 결정을 내리되 실제로 전송은 안 하는 '드라이 런'을 일주일만 해봐. 그러고 나서 에이전트가 보내려고 했던 것과 네가 실제로 보낸 것을 비교해 봐. 논리적으로 따지는 것보다 데이터가 훨씬 정직하게 기준을 알려줄 거야.