Qwen Flash Next 알리바바 URL 문제, 저한테도 방금 일어났네요
The Qwen Flash Next alibaba URL thing happened to me too just now
핵심 요약
Qwen 모델 사용 중 알리바바 관련 URL을 멋대로 호출하는 환각 현상이 다수 보고되며 사용자들의 분석과 대응책 논의가 이어지고 있습니다.
- 환각 현상 — 모델이 웹 검색 도구 호출 시 알리바바 관련 URL을 무작위로 삽입함
- 원인 추측 — RL 학습 데이터 오버피팅이나 학습 과정의 잔재가 모델에 남아있을 가능성 제기
- 대응 방안 — 특정 도메인 호출을 차단하는 후킹(hook) 설정으로 문제 해결 시도
- 커뮤니티 반응 — 모델의 양자화 수준이나 특정 버전과의 연관성을 두고 사용자들 간 의견 교환
이 새끼 진짜 지가 뭘 하는지도 헷갈리나 보네 😭 깃허브 릴리즈 체커 스크립트 좀 짜달라고 했더니, 웹 검색하는 와중에 슬쩍 URL 가져오는 툴 호출을 두 개나 섞어놨더라.
전체 Open WebUI 채팅 내역 hastebin에 올려놨으니까 무슨 일이 벌어진 건지 직접 확인해 봐: https://hastebin.com/share/ayawowirix.swift
수정: 이거 unsloth/Qwen3.8-Flash-Next-GGUF:IQ4_XS 모델이고 그냥 llama.cpp 돌린 거임.
아 그리고, 이런 식으로 환각(hallucination) 섞인 쿼리가 멋대로 실행되는 거 막을 방법 아는 사람 있냐? 팁 좀 주라!

