드디어 LangChain 삭제하고 50GB짜리 거품 싹 걷어냈다
I finally uninstalled LangChain and cleared 50GB of hype off my drive
핵심 요약
유행하는 LLM 프레임워크를 다 걷어내고 순수 파이썬으로 돌아가니 개발 속도가 훨씬 빨라짐.
- 프레임워크 거품 — LangChain 등 유행하는 도구들이 오히려 개발 효율을 떨어뜨림.
- 순수 파이썬 선호 — 복잡한 추상화 대신 직접 작성한 파이썬 스크립트가 훨씬 가볍고 빠름.
- 벡터 DB 최적화 — Chroma 대신 FAISS를 사용하여 메모리 사용량과 성능 문제를 해결함.
- 개발 환경 최적화 — 불필요한 라이브러리를 제거하고 직접 제어함으로써 배포 속도가 두 배 빨라짐.
지난 2년간 GitHub에서 유행하는 온갖 혁신적인 LLM 도구들을 다 설치해봤다. 30초짜리 데모 영상에서는 다들 엄청나 보였지만, 일주일만 실사용해보면 그냥 짐덩어리로 전락하더라.
지난달에 대대적으로 정리하면서 보니 디스크 공간 절반이 몇 달간 건드리지도 않은 추상화 라이브러리들로 채워져 있었다.
LangChain이 제일 먼저 삭제됐다. RAG 처음 배울 때는 좋은 학습용 도구였지만, 데이터 흐름을 이해하고 나니 프레임워크랑 싸우느라 시간의 80%를 쓰고 있더라.
추상화 오류랑 끊임없이 터지는 업데이트 때문에, 그냥 핵심 로직을 순수 파이썬으로 다시 짰더니 속이 다 시원하다. AutoGen이나 CrewAI 같은 자율 에이전트 프레임워크들도 다 똑같이 처리했다.
데모용으로는 재밌지만, 내가 하는 일의 90%에는 과도한 오버엔지니어링이었다. 결국 Ollama를 직접 호출하는 간단한 루프를 짜는 게 최고였다.
Chroma도 갖다 버렸다. 프로토타입 만들 때는 괜찮았는데, 인덱스가 10만 벡터를 넘어가니까 메모리 사용량이 폭발하더라. 디스크 기반의 간단한 FAISS 인덱스로 바꾸니 훨씬 빠르고 가볍고, 한 번도 안 튕겼다.
이제 환경도 깔끔하고 노트북 부팅도 빠르다. CUDA 버전 관리나 프레임워크 블랙박스랑 싸울 필요가 없으니 배포 속도도 두 배는 빨라졌다.
다음번에 또 새로운 오케스트레이션 라이브러리를 추가하고 싶어지면, 일단 순수 파이썬으로 로직을 짜보길 권한다. 프롬프트랑 툴 호출 처리하는 데 50줄도 안 걸린다면, 프레임워크는 필요 없다. 그냥 스크립트 하나면 충분하다.
