r/LocalLLaMA•16일 전•67•64
Astra/Fable 같은 프론티어 모델을 기획/판단용으로 쓰고, Qwen3.8을 메인 작업용으로 쓰는 사람 있음? 다들 어떻게 세팅했는지 궁금함!
Anybody use frontier models like Astra/Fable for planning/judging, and qwen3.8 as the main workhorse? Curious to hear about your setups!
핵심 요약
클라우드 모델로 기획과 검수를 하고 로컬 모델로 코딩을 수행하는 하이브리드 워크플로우에 대한 사용자들의 경험 공유.
- 워크플로우 효율화 — 클라우드 모델의 기획력과 로컬 모델의 코딩 능력을 결합해 비용 절감 및 생산성 향상.
- 컨텍스트 관리 — 로컬 모델의 한계를 극복하기 위해 작업을 세분화하고 단위 테스트를 자동화하는 스크립트 활용.
- 피드백 루프 — 클라우드 모델의 비판 내용을 로컬 모델이 읽을 수 있도록 파일로 저장하여 반복 오류 방지.
- 작업 분할 — 로컬 모델의 엉뚱한 수정을 방지하기 위해 작업 단위를 작게 쪼개고 명확한 지침 전달.
다들 안녕!
클라우드 기반 프론티어 모델이랑 로컬 모델을 섞어서 개발하는 형들 얘기 좀 들어보고 싶어. 나도 비슷하게 세팅해보려고 하는데, 실제로 어떻게 쓰고 있는지 사례 좀 공유해주라.
지금 내 계획은 ChatGPT Plus 구독은 오로지 Astra로 계획 짜고 검수하는 용도로만 쓰고, 실제 코딩 노가다는 로컬에 띄운 qwen3.8-27b 모델한테 시키는 거야. 그러니까 'Astra가 계획 짜기 -> qwen이 구현하기 -> Astra가 구현한 거 피드백 -> qwen이 수정' 이런 식으로 돌리는 거지. 이렇게 하면 클라우드 비용은 아끼면서, 아키텍처 설계나 최적화 같은 중요한 판단은 고파라미터 모델의 지능을 그대로 가져갈 수 있잖아.
비슷하게 세팅해서 쓰는 형들, 써보니까 어때? 둘 사이를 어떻게 왔다 갔다 해? 어떤 도구나 설정을 쓰는지도 궁금하고. 혹시 꿀팁 같은 거 있으면 좀 알려줘!
