r/promptengineering•4개월 전•3•16
주말 동안 LLM 관측 플랫폼을 만들었습니다 — 모든 AI 호출, 비용, 지연 시간을 대시보드 하나로 확인하세요
I built an LLM observability platform in a weekend — see every AI call, cost and latency in one dashboard
핵심 요약
주말 동안 개발한 LLM 관측 플랫폼 'LogLens'를 소개하며, AI 호출 로그와 비용 등을 한눈에 관리할 수 있는 기능을 강조함.
- LLM 관측 플랫폼 — AI 앱의 호출, 비용, 지연 시간을 대시보드로 시각화함.
- 간편한 연동 — 코드 한 줄 추가로 Anthropic 및 OpenAI와 즉시 호환됨.
- 개발 배경 — Claude Code를 활용해 약 48시간 만에 프로토타입을 완성함.
- 보안 및 신뢰성 — 데이터 보존 및 프롬프트 마스킹 등 보안 기능 강화 예정.
AI 앱을 만들면서 내부에서 무슨 일이 일어나는지 전혀 모른 채 배포해왔습니다. 프롬프트가 들어가고 응답이 나오고, 비용은 야금야금 늘어나는데 가시성은 제로였죠.
그래서 LogLens를 만들었습니다. 코드 한 줄만 추가하면 앱에서 발생하는 모든 AI 호출(전체 프롬프트, 완성본, 지연 시간, 토큰 수, 비용)을 깔끔한 대시보드에 기록해 줍니다.
Anthropic과 OpenAI에서 바로 작동합니다. 특정 프레임워크에 종속되지 않습니다.
npm install loglens
const anthropic = wrapAnthropic(new Anthropic(), { apiKey: 'your-key' }) // that's it — every call is now logged
Claude Code를 써서 약 48시간 만에 다 만들었습니다. 아직 초기 단계지만 완벽하게 작동합니다.
무료 얼리 액세스: llm-watch.vercel.app
피드백을 주시면 감사하겠습니다. 어떤 기능이 있어야 매일 이 서비스를 사용하시겠어요?
