품질 검사 자동화를 위한 AI 에이전트
Ai agent for Quality check automation
핵심 요약
엔지니어링 도면 검사 시 발생하는 AI 환각 문제를 해결하고 LangGraph 도입을 고민하는 포스트.
- 환각 문제 해결 — 도면 내 특정 기호를 잘못 인식하는 AI의 환각 현상을 방지할 방법 모색
- 규칙 구조 최적화 — JSON 기반 규칙 세트에 Few-Shot이나 CoT를 효과적으로 적용하는 방법 탐색
- LangGraph 도입 — 복잡한 검증 워크플로우를 제어하기 위해 LangGraph를 활용하는 방안 문의
- 검증 로직 강화 — 결정론적 엔진과 Vision LLM을 결합한 하이브리드 검증 시스템 구축
안녕하세요 여러분,
저는 엔지니어링 도면(PDF)을 위한 자동화된 규정 준수 도구를 만들고 있습니다. 이 시스템은 도면에서 텍스트/이미지를 추출하고 rules.json 데이터베이스를 기준으로 검증합니다.
스택: Python, FastAPI, Anthropic Claude 4.6 Sonnet (Vision), 그리고 Regex 기반의 결정론적 엔진.
워크플로우:
-
결정론적 검사(키워드/Regex)를 실행합니다.
-
불분명한 경우, Vision LLM(Claude)을 사용하여 도면을 "확인"합니다.
문제점: Claude의 높은 추론 능력에도 불구하고, 가끔 "성공의 환각"을 목격합니다. 예를 들어, 규칙에 "북쪽 기호가 있는지 확인하라"고 되어 있는데, AI는 무작위 화살표나 로고를 기호로 착각하여 "PASS"라고 말하곤 합니다.
해결하려는 문제:
-
설명 최적화: rules.json 설명을 어떻게 "환각 방지" 구조로 만들 수 있을까요? 현재는 "북쪽 기호가 위치해 있고 올바르게 가리키고 있는가?"와 같은 자연어 질문을 사용하고 있습니다.
-
로직 고정: AI의 해석을 "고정"하여 엄격한 이진 논리를 따르게 할 방법이 있을까요?
-
Few-Shot / CoT: JSON 기반 규칙 풀 내에 Few-Shot 예제나 Chain-of-Thought 지침을 성공적으로 포함해 본 분이 계신가요?
저희 규칙 구조는 다음과 같습니다:
{ "id": "R042", "name": "North located and pointed in upper direction", "validation_mode": "auto", "description": "Strictly check the site map section. North must be an arrow or symbol pointing UP.", "pass_criteria": "North symbol is clearly visible and oriented vertically.", "fail_criteria": "North symbol is missing, pointing sideways, or merged into other graphics."}
고위험 문서 검증이나 "제로 환각" 프롬프트 엔지니어링을 다루시는 분들의 의견을 듣고 싶습니다! 그리고 LangGraph를 어떻게 통합할 수 있을까요?
