r/langchain•4개월 전•8•11
대규모 하드웨어 문서(표, 이미지, 인용 포함)를 위한 고정밀 로컬 RAG 구축
Building a highly accurate local RAG for large hardware documentation (tables, images, citations)
핵심 요약
복잡한 하드웨어 문서를 다루는 로컬 RAG 시스템 구축을 위해 아키텍처, 파싱, 멀티모달 검색 등에 대한 조언을 구하는 글입니다.
- 기술 문서 RAG — 복잡한 표와 다이어그램을 포함한 수천 페이지의 PDF 처리
- 정밀 인용 요구 — 답변 시 페이지 번호와 섹션 정보를 포함한 정확한 출처 명시
- 멀티모달 검색 — 텍스트와 이미지 데이터를 동시에 처리하는 아키텍처 고민
- 로컬 모델 추천 — 보안 및 정확도를 위한 로컬 LLM 및 임베딩 모델 탐색
기술 하드웨어 문서(수천 페이지의 PDF)를 위한 완전한 로컬 RAG 시스템을 구축해야 합니다. 문서에는 복잡한 표, 다이어그램, 이미지가 포함되어 있습니다. 정확도가 최우선입니다. 모든 답변에는 각 주장에 대한 페이지 번호와 섹션/하위 섹션이 포함된 정확한 인용이 있어야 합니다. 아키텍처, 문서 파싱, 청킹, 멀티모달 검색, 리랭킹, 인용 생성, 그리고 이 사용 사례에 잘 맞는 로컬 LLM/임베딩 모델에 대한 조언을 구합니다. 어떤 도움이라도 감사하겠습니다.
