금융 ML을 위한 로우코드 플랫폼을 3개월 만에 구축했습니다. 스택을 공개합니다.
I built a Low-Code platform for Financial ML in 3 months. Here is the stack.
핵심 요약
퀀트 금융의 ML 파이프라인 구축 시간을 획기적으로 단축하는 로우코드 플랫폼 개발기.
- 기술 스택 — Rust와 Python을 결합해 데이터 수집 및 처리 지연 시간을 최소화함.
- 개발 목표 — 1~3년 걸리던 ML 파이프라인 구축 과정을 1~2주로 단축함.
- 핵심 기능 — 복잡한 데이터 파싱 로직을 시각적/터미널 기반 워크플로우로 추상화함.
- 성능 최적화 — 실시간 시장 데이터 처리를 위해 계산 경로의 밀리초 단위까지 최적화함.
프로젝트
저는 퀀트 금융 분야의 주요 병목 현상인 신뢰할 수 있는 ML 파이프라인 구축에 보통 1~3년이 걸린다는 점을 해결하고 싶었습니다. 제 솔루션은 데이터 수집부터 모델 배포까지 모든 것을 처리하는 로우코드/노코드 인터페이스로, 이 기간을 약 1~2주로 단축합니다.
구축 과정 (워크플로우)
저는 지난 3개월 동안 기술 습득 단계에서 프로덕션 수준의 스택을 구축하는 단계로 넘어갔습니다. 기술적인 분석은 다음과 같습니다:
고속 데이터 수집: 저는 금융 상품 API와 연동하기 위해 커스텀 Rust+Python 클라이언트를 구축했습니다. Rust+Python은 바이너리 메시지 파싱과 엔디안 감지를 거의 제로 지연 시간으로 처리하기 위해 타협할 수 없는 선택이었습니다.
스토리지 아키텍처: 전통적인 SQL 데이터베이스 대신 압축 방식을 사용합니다. 이를 통해 대규모 배치 처리와 고속 분석 쿼리가 가능하며, 이는 틱 단위 데이터로 ML 모델을 학습시키는 데 필수적입니다.
백엔드: 저는 관측 가능성과 규정 준수에 집중했습니다. 파이프라인의 모든 단계가 기록되고 측정되므로, 단순히 'AI 예측'을 얻는 것이 아니라 성능이 검증된 투자 전략을 얻게 됩니다.
최적화: 저는 계산 경로의 모든 밀리초를 최적화하고 복잡한 백엔드 로직을 사용자를 위한 깔끔한 터미널 기반 인터페이스로 변환하는 데 상당한 시간을 할애했습니다.
구축 인사이트
'로우코드' 로직: 핵심 혁신은 데이터 파싱(LTP, Quote, Full 모드)의 복잡성을 시각적 또는 터미널 기반 워크플로우로 추상화한 것입니다.
지연 시간의 중요성: 무거운 계산을 초기부터 저지연 코드로 전환한 덕분에 실제 시장 데이터를 다루기 시작할 때 전체 아키텍처를 다시 작성해야 하는 상황을 피할 수 있었습니다.
목표
이 도구를 사용하면 직관이 아닌 실제 ML 성능 지표를 기반으로 단기, 중기 또는 장기 투자를 위한 모델을 구축할 수 있습니다.
사용 도구: Rust + Python + Javascript와 같은 프로그래밍 언어


