r/langchain•4개월 전•4•6
라우팅 체인으로 뇌 수술을 하려고 오함마를 휘두르는 꼴이다
We are basically using a sledgehammer for brain surgery with these routing chains
핵심 요약
LLM 기반 라우팅 체인의 결정론적 한계와 형식적 추론 모델의 필요성에 대한 개발자의 고충.
- LangGraph 고충 — 상태 전환과 결정론적 출력 확보의 어려움으로 인한 개발 피로감 토로
- 확률 모델의 한계 — 다음 토큰 예측 방식이 엄격한 논리 구조를 요구하는 작업에 부적합함
- 형식적 검증 필요성 — 확률적 모델을 억지로 끼워 맞추기보다 형식적 추론 모델 도입이 시급함
솔직히 토요일 내내 LangGraph 상태 전환이랑 씨름하다가 완전히 벽에 부딪혔다.
시스템 프롬프트를 아무리 빡빡하게 짜고 Pydantic 검증 파서를 아무리 많이 만들어 넣어도, 표준 자기회귀 모델은 결국 경로를 이탈해 버린다. 워크플로우에 100% 엄격한 논리나 결정론적 상태 출력이 필요하다면, 다음 토큰 예측에 의존하는 건 그야말로 악몽이다. 슬롯머신으로 계산기를 만들려는 기분이다.
오늘 아침에 다른 아키텍처들을 좀 찾아봤는데, Aleph가 형식 소프트웨어 검증 벤치마크에서 만점을 받았다는 걸 봤다. 내 코드가 문제가 아니라, 업계 전체가 구조적으로 맞지 않는 곳에 확률 모델을 억지로 끼워 맞추고 있다는 걸 깨달았다.
서로 수학 계산 검증하려고 GPT 래퍼 5개씩 체이닝하는 것보다, 생태계 표준 노드로 사용할 수 있는 네이티브 형식 추론 모델이 절실하다. 현재 에이전트 빌드 때문에 너무 답답해서 하소연 좀 했다.
