r/LocalLLaMA•약 1개월 전•775•236
Qwen3.8-27b는 내가 본 로컬 모델 중 가장 높은 수준의 '에이전시'를 보여줌
Qwen3.8-27b has the highest level of "agency" I've ever seen in a local model
핵심 요약
Qwen3.8-27b 모델이 로컬 환경에서 복잡한 웹 탐색과 도구 활용을 통해 놀라운 자율성을 보여줌.
- 모델 성능 — Qwen3.8-27b가 로컬 환경에서 압도적인 자율 작업 수행 능력을 입증함.
- 도구 활용 — 복잡한 웹사이트 탐색 및 80회의 도구 호출을 통해 스스로 정보를 수집함.
- 멀티모달 작업 — 영상 다운로드, 프레임 추출, Whisper를 활용한 전사 등 복잡한 분석을 수행함.
- 하드웨어 효율 — RTX 3090 단일 그래픽카드에서 이 모든 작업이 원활하게 구동됨.
프롬프트 하나 던져줬더니, 내 자격 증명이랑 대학교 이름만 가지고 qwen3.8-27b가 그 개판인 대학 웹사이트들 다 뒤져서 내 시간표를 싹 다 긁어오더라. 사람 손 하나도 안 거치고 툴 콜(tool calls) 80번을 알아서 실행함.
또 한 번은 소셜 미디어에 있는 어떤 유저 조사해달라고 시켰거든? 그랬더니 공개된 영상 하나 찾아내서 다운받고, 몇 초마다 프레임 추출해서 영상 "시청"까지 하더라. 심지어 그 빌어먹을 openAI whisper까지 설치해서 받아쓰기 돌려가지고 맥락 파악하고, 특정 프레임은 확대하고 밝기 조절까지 해서 무슨 상황인지 다 알아냄.
이런 미친 짓거리가 내 개인 하드웨어(RTX 3090 하나)에서 돌아간다는 게 진짜 소름 돋는다. 일반인들은 지금 우리가 얼마나 사이버펑크 같은 현실에 살고 있는지 전혀 모를걸.
Quant: Unsloth's Q4_K_S (kv cache quantized to q8)
Context: 150k
