Qwen 3.8 flash next (vision) 성능에 감탄했다, 정말 고맙다!
I am impressed and I owe you one, Qwen 3.8 flash next (vision)!
핵심 요약
Qwen 3.8 vision 모델을 활용해 독성 식물과 피부 질환을 정확히 식별한 경험을 공유하며 로컬 LLM의 유용성을 강조함.
- 로컬 비전 모델 — Qwen 3.8 flash next를 활용해 식물 및 피부 질환을 정확하게 식별함.
- 개인정보 보호 — 외부 클라우드 없이 로컬에서 이미지를 분석하여 민감한 정보를 안전하게 처리함.
- 인간의 검증 — AI의 진단 결과를 맹신하지 않고 반드시 전문가 확인을 거치는 과정의 중요성을 강조함.
- 모델 성능 — 비전 모델과 대규모 파라미터의 도메인 지식이 결합되어 뛰어난 추론 능력을 보여줌.
Qwen 3.8 flash next의 CIRU Strix UL4 퀀트 모델에 비전 기능을 켜고 이것저것 테스트해 봤거든. (다른 퀀트 모델들도 성능은 비슷할 듯) 그러다 파트너한테 이거 얼마나 쩌는지 보여주려고 식물도 알아볼 수 있냐고 물어봤단 말이지. 그래서 얼마 전에 가족한테 선물 받은 식물 사진을 찍어서 보여줬는데, Qwen이 이 식물이 협죽도(Nerium oleander)라는 걸 정확히 맞히는 건 물론이고, 독성이 있으니까 애들이나 반려동물 근처에 두지 말라고 경고까지 해주는 거임. 우리 집에 애가 있는데 우리 둘 다 그 사실을 전혀 몰랐거든! 바로 확인해 봤는데 Qwen이 말한 식물 이름이랑 독성 정보 전부 다 정확했음. 그 식물은 바로 치워야겠더라. Qwen 진짜 고맙다!!!
괜찮은 비전 모델이랑 ~180B 파라미터급 모델(ngram 포함)의 도메인 지식을 합쳐서 눈앞의 대상을 정확히 식별하고 추론까지 해내는 거 보고 완전 뽕 차서, 이번엔 내 피부에 있는 질환 부위 사진을 찍어봤거든. 근데 Qwen 진단이 또 소름 돋게 정확한 거임. 피부과 가기 좀 애매하거나, 내 몸 사진을 클라우드 서비스에 올리기 찝찝할 때 이런 거 확인하는 용도로 진짜 유용할 듯. (수정: 당연히 뻔하게 무해하거나 스스로 치료 가능한 수준이 아니면 전문가 찾아가기 전 단계로만 써야 함! Qwen Flash도 평가 결과랑 같이 일단 의사한테 가보라고 조언해주긴 함)
추신: 하드웨어는 Strix Halo Box, CIRU Strix UL4 llama-server 포크랑 퀀트 모델 썼고, 아이폰용 Chatbox 앱으로 사진 첨부해서 대화함.
