r/langchain•6개월 전•3•11
실행기(executor)의 신뢰 경계는 문제의 절반일 뿐입니다
The trust boundary at the executor is only half the problem
핵심 요약
LLM뿐만 아니라 에이전트가 사용하는 외부 도구와 API 응답에 대한 신뢰성 검증 체계가 필요하다는 지적.
- 도구 신뢰 문제 — 에이전트가 외부 API 응답을 무비판적으로 수용하는 보안 취약점이 존재함
- 암호화된 영수증 — 트랜잭션별 데이터 무결성을 보장하기 위한 검증 수단 도입이 필요함
- 중개자 신뢰 — API 제공자가 자체 생성한 영수증이 아닌 제3자 검증이 가능한 구조가 핵심임
- 비용과 성능 — 보안 강화를 위한 암호화 처리가 지연 시간과 복잡성을 초래한다는 현실적 한계가 있음
많은 에이전트 빌더들이 LLM은 시스템 내부에서 신뢰할 수 없다는 사실을 파악했습니다. 실행기 경계에서의 스키마 검증, 별도의 비평가 모델, 플래너 이후의 결정론적 실행 등이 그 예입니다.
더 적은 사람들이 해결한 문제는 도구 자체도 신뢰할 수 없다는 점입니다.
여러분의 실행기는 외부 API를 호출합니다. API는 데이터를 반환합니다. 여러분은 그 데이터가 제공자가 실제로 보낸 것인지에 대한 암호화된 증거를 가지고 있지 않으며, 지불한 내역에 대한 기록도 없고, 사후에 호출을 감사할 방법도 없습니다. 여러분은 과거의 아키텍처가 LLM 출력을 신뢰했던 것과 똑같은 방식으로 HTTP 응답을 신뢰하고 있습니다.
외부 호출당 암호화된 영수증이나 에스크로 결제 방식의 전달은 그 두 번째 루프를 닫아줄 것입니다. 대부분의 에이전트 인프라는 이것이 마찰을 일으키기 때문에 무시합니다. 하지만 금융 데이터를 조회하거나 외부 피드에 기반하여 결정을 내리는 에이전트를 구축하고 있다면, 도구 신뢰 문제는 LLM 신뢰 문제만큼이나 실질적인 문제입니다.
이 문제를 엔드투엔드로 처리하는 도구를 실제로 구축한 사람이 있는지 궁금합니다.
