SOC AI 에이전트

시리즈 작업하느라 고생했어, 친구. 대부분의 튜토리얼이 툴 사용 루프 부분에서 무너지는데, 네 코드가 제대로 작동한다니 정말 멋지네. 앞으로 배포할 때 orqai를 사용할 거야? 배포할 계획이지?

프레임워크를 가져와서 조용히 실패하는 걸 지켜보다가 결국 소스 코드를 읽게 되는 일반적인 방식 대신, 툴 사용 루프를 직접 구현했다는 점에 경의를 표함

직접 구현했다니 대단하네. 파트 1은 모델에 대한 원시 API 호출부터 시작해, 아니면 그보다 한 단계 위에서 시작해?

에이전트가 배치 작업이 아니라 실시간으로 사용자와 상호작용하는 루프에 들어가면 재시도(retry)와 부분 상태(partial-state) 문제가 훨씬 까다로워짐. 비동기 파이프라인에서 툴 호출이 실패하면 그냥 조용히 재시도하면 되고 400ms 정도 더 걸려도 아무도 모르지만, 음성 에이전트처럼 대화 도중에 실패하면 똑같은 재시도가 어색한 침묵을 만들거나 복구하는 동안 필러(filler)로 시간을 때워야 해서 사용자가 바로 눈치챔.

난 Ojin에서 실시간 에이전트 시스템을 다루는데, 그 차이가...

대박! 이런 거 공유해줘서 고마워. 그냥 궁금해서 묻는 건데, 왜 기존 프레임워크들을 안 쓰고 처음부터 직접 에이전트를 만들기로 결정한 거야?

솔직히 내가 제일 중요하게 생각하는 건, 그냥 깔끔하게 잘 돌아가는 해피 패스 루프만 보여주는 게 아니라 지루한 실패 사례들도 다루느냐 하는 거임. 에이전트 관련 글에서 진짜 유용한 부분은 보통 툴 호출이 이상하게 꼬이거나, 메모리가 노이즈로 가득 차거나, 프롬프트가 표류하거나, 재시도 때문에 상황이 더 악화되는 그런 '그렘린' 같은 상황들이거든. 만약 네 시리즈에 그런 내용이 있다면, 그냥 뻔한 '에이전트 완성' 데모보다 훨씬 가치 있을 거야.

그리고 사소한 거지만, SOC 관련 내용은 가드레일이랑 감사 가능성(auditability)에 대해 다루기 시작하면 진짜 현실적인 문제가 됨. 에이전트가 어떤 행동을 취하면, 나는…