로펌을 위한 RAG 시스템을 구축하고 2,700유로를 벌었습니다. 실제로 효과가 있었던 기술적 방법들

어제 "로펌을 위한 RAG 시스템을 구축하고 2,700유로를 벌었습니다 — 실제로 효과가 있었던 기술적 방법들"이라는 글을 올렸더니, 프로젝트의 세부 내용을 알려달라는 DM이 엄청나게 왔습니다. 그래서 전체 이야기를 들려드리겠습니다.

독일의 GDPR 컴플라이언스 회사로부터 연락을 받았습니다. 그곳의 법률팀은 데이터 보호에 관한 고객의 질문에 답하기 위해 매일 몇 시간씩 법원 판결문, 규제 지침, 당국 의견서, 내부 메모를 뒤지는 데 시간을 쓰고 있었습니다.

핵심 문제는 단순히 "문서가 너무 많다"는 것이 아니었습니다. 각 출처마다 법적 무게가 다르며, 팀원들이 매번 그 계층 구조를 머릿속으로 계산해야 한다는 점이었습니다. 상급 법원 판결은 하급 법원 의견보다 우선합니다. 공식 당국 지침은 전문 문헌보다 더 큰 무게를 가집니다. 내부 전문가의 주석은 무엇보다 우선시되어야 합니다. 수백 개의 문서를 수동으로 처리하면서 각 판결이 독일의 어느 주에 적용되는지 추적하는 건.. 정말 끔찍한 일이죠.

그래서 저는 팀원 누구나 독일어나 영어로 질문하면 법적 출처의 계층 구조를 존중하는 답변을 얻을 수 있는 시스템을 구축했습니다.

이 프로젝트에서 흥미로웠던 몇 가지 점은 다음과 같습니다:

• 저는 8단계의 법적 권위 우선순위 시스템을 구축했습니다. 시스템이 관련 문서를 가져올 때 단순히 AI에 던져넣는 것이 아닙니다. 자체 전문가 의견이나 상급 법원 판결 같은 최고 권위 문서부터 일반 콘텐츠 같은 최하위 문서까지 정리합니다. AI는 답변을 상향식으로 구성하며, 하급 법원이 상급 법원과 의견이 다를 경우 합의가 있는 척하지 않고 이를 표시합니다.
• 모든 답변은 특정 문서나 법원을 이름으로 인용해야 합니다. 저는 AI가 "전문 문헌에 따르면"이라고 말하면서 어떤 문서인지 밝히지 않는 게으른 짓을 하지 못하도록 많은 시간을 들였습니다. 정확한 제목, 정확한 법원, 정확한 조항 번호를 말해야 합니다. 그렇지 않으면 변호사들은 사용하지 않을 테니까요.
• 시스템은 독일 지역법을 자동으로 처리합니다. 독일은 16개의 연방주가 있으며 데이터 보호 규칙은 주마다 다를 수 있습니다. 문서는 주별로 태그가 지정되며, 시스템은 해당 내용이 주 전용인지 국가 공통인지 표시합니다.
• 사용자는 문서에 주석을 달 수 있으며, 이러한 주석은 AI 지식의 영구적인 일부가 됩니다. 따라서 선임 변호사가 법원 판결을 읽고 "이 해석은 구식임, 최신 판결 X를 참조할 것"이라고 적으면, 그 메모가 향후 모든 답변에 영향을 미칩니다.
• 전체 법률 분석을 비전문가를 위해 쉬운 언어로 다시 작성하는 간소화 모드를 만들었습니다. 결론과 기한은 동일하지만 전문 용어만 뺐습니다. 고객들이 정말 좋아하더군요.

첫 미팅부터 시스템 배포까지 약 2주가 걸렸습니다. 전체 구축 비용으로 2,700유로를 청구했고, 이제는 반복 수익이 될 유지보수 계약을 논의 중입니다.

팀은 연구 질문 하나당 30분 이상 걸리던 업무를 1분 이내에 전체 인용이 포함된 답변을 얻는 수준으로 개선했습니다. 그들이 시간당 청구하는 비용을 생각하면 첫 주에 이미 ROI를 회복한 셈입니다.

제가 배운 점은 이것입니다: "이건 다른 산업에 적용해도 똑같은 방식이 통한다." 문서 중심의 업무 흐름에 시달리는 전문가들을 찾고, 그들의 도메인을 실제로 이해하는 검색 시스템을 구축한 뒤, 시간 절약 가치만큼 비용을 청구하세요. 전문 서비스 분야는 이 기회로 활짝 열려 있습니다.