AI 에이전트가 나중에 다시 전화(콜백)를 걸어주는 기능이 필요할까?

까다로운 부분은 콜백이 저녁 식사 시간 같은 때에 오고, 상대방은 자기가 전화했다는 사실조차 잊었을 때임.

주의해야 할 함정: 콜백을 새로운 작업이 아닌 원래 통화의 연장선으로 취급하는 것임. 첫 번째 통화에서 승인되거나 검증된 내용은 답변이 도착할 때쯤이면 만료되었을 수 있으므로, 콜백은 조치를 취하기 전에 보류 중인 항목과 고객의 동의를 다시 확인해야 함. 내 경험상 보류 목록을 관리하는 건 쉬운 부분임. 어려운 건 기다리는 동안 바뀐 것들을 처리하는 것임.

동의 부분은 좋은 지적임. 콜백은 아마도 뭔가를 하기 전에 그걸 다시 확인해야 할 것임.

나는 세 가지 상태로 분리할 것임: 재시도 가능한 연결 불가, 사람의 콜백이 필요한 경우, 그리고 해결되지 않은 연락. 재시도는 에이전트가 담당하고, 콜백은 사람이 담당함. 해결되지 않은 건은 누군가가 이유를 달아 닫을 때까지 열려 있어야 함. '나중에 다시 전화해줘'가 조용히 성공으로 처리되게 두지 마셈.

그래, 그게 완전히 이해가 됨. 에이전트가 그 대화 안에 완전히 포함되어서 조사하고, 필요한 작업을 하고, 다시 돌아오게 할 수는 없다고 생각함. 에이전트로 그렇게 할 수 없다는 게 아니라, 이 모든 일을 한 에이전트가 다 하는 건 어려울 것 같고 낭비이기도 함. 그러면 지식 관리 문제가 됨. 그렇게 하는 방법은 에이전트가 해당 고객을 위한 백엔드 데이터베이스에 정보를 입력하게 하고, 그 다음에는 매번…

문맥을 특정 에이전트 외부로 유지한다는 아이디어가 마음에 듦. 콜백이 새로운 대화를 시작하는 것보다 케이스를 이어가는 것처럼 느껴지게 함.

맞음, 이건 구축할 가치가 있음! 일부 팀은 이미 이 버전의 기능을 사용 중임. 주의할 점 하나: 통화 종료 로직을 신중하게 다루지 않으면 네이티브 오디오 엔진이 너무 빨리 통화를 끊어버릴 수 있음. 우리는 네이티브 오디오 엔진이 발신자가 말하기도 전에 모델이 end_call을 내보내서 약 1.5초 만에 통화를 끊는 걸 본 적이 있음. 해결책은 첫 6초 이내나 발신자가 말하기 전에는 end_call을 무시하는 가드를 넣는 것이었음. 그게 당신의 콜백 아이디어와 관련이 있음. 만약 에이전트가 잘못된 상황에서 통화를 종료할 수 있다면…

콜백은 어려운 부분이 아님, 상태가 어려운 거지. 이 대화에 해결되지 않은 질문이 있다는 것, 그게 무엇인지, 누가 담당하는지, 그리고 답변이 아예 도착하지 않으면 어떻게 되는지를 알려줄 영구적인 저장소가 필요함. 우리는 음성 없이 이 버전의 기능을 사용함. 에이전트가 작업을 마치고 해결되지 않은 부분을 파일에 남기면, 나중에 무언가가 그걸 가져감. 우리가 계속 겪는 실패는 첫 번째 작업이 이미 처리되었는지 두 번째 작업이 알 수 없다는 것임. 왜냐하면 확인과 쓰기가 원자적(atomic)이지 않기 때문임. 전화선에서는…

ㅇㅇ 모든 통화가 바로 답을 내야 한다고 우기는 것보다 훨씬 유용할 듯. 중요한 건 정확한 맥락을 기억해서 콜백할 때 고객이 똑같은 말을 반복하게 만들지 않는 거겠지.