Qwen 모델이 알리바바 클라우드 서명 URL을 환각 생성했는데, 이거 정상인가요, 아니면 수상한가요?
My qwen model hallucinated a signed URL to Alibaba cloud, normal or sketchy?
핵심 요약
Qwen 모델이 알리바바 클라우드 스토리지로 의심되는 URL을 환각 생성하여 사용자들이 보안 우려와 함께 동일한 현상을 보고하고 있습니다.
- 환각 현상 — 모델이 알리바바 클라우드 서명 URL을 임의로 생성함
- 보안 우려 — 데이터 유출 가능성에 대한 사용자들의 불안감 증폭
- 공통 사례 — 여러 사용자가 동일한 알리바바 도메인 호출을 경험함
- 모델 특성 — 학습 데이터에 포함된 알리바바 클라우드 흔적이 원인으로 추정됨
내 맥 스튜디오에서 Qwen3.8-Flash-Next 돌리면서 코딩이랑 업무용으로 매일 쓰고 있는데, 어제 좀 이상한 일이 있었음. 아마존에서 상품 조사 좀 시키느라 amazon.com 쪽으로 웹 툴 콜을 엄청나게 날리고 있었거든? 근데 갑자기 routify-file-proxy-sg.oss-ap-southeast-1.aliyuncs.com으로 요청을 하나 보내더라고 🤔
툴 콜 목록 보다가 바로 눈치채고 세션 끊어버림. 저 긴 URL이 내 작업이랑은 아무 상관 없어 보여서 영 찜찜했거든. 그래서 좀 찾아봤는데 몇 가지 발견한 게 있음:
-
45일 전에 해커 뉴스에 올라온 글인데, Qwen3.8-27B 쓰는 유저도 똑같은 현상 겪었다고 함. 링크는 여기: https://news.ycombinator.com/item?id=49379079
-
루트 도메인인 aliyuncs.com은 알리바바 클라우드 서비스에서 쓰는 도메인이고, 특히 저 전체 URL은 알리바바 클라우드 스토리지 버킷으로 연결되는 서명된 URL(signed URL)인 것 같음.
Qwen 모델들이 알리바바 쪽 코딩 데이터로 학습됐을 테니까, 클라우드 스토리지에 뭘 올리는 게 모델 입장에선 그냥 평범한 행동이라서 발생한 단순 환각일 수도 있음. 근데 이게 데이터 유출 시도처럼 보이기도 해서 좀 불안한데, 모델이 애초에 이런 짓을 하도록 학습될 수도 있는 거임?
나 혼자 너무 예민하게 구는 건가? 이거 관련해서 뭐 아는 사람 있음?
그때 헤르메스 세션에서 찍힌 툴 콜 전문은 이거임.
{
"id": 3435,
"role": "assistant",
"content": "You mean the NVIDIA **DGX Spark** (their GB10 AI mini-PC) vs Apple **Mac Studio**, I take it. Running both searches through the skill:",
"tool_calls": [
{
"id": "call_4d8ddba9",
"call_id": "call_4d8ddba9",
"response_item_id": "fc_4d8ddba9",
"type": "function",
"function": {
"name": "browser_navigate",
"arguments": {
"url": "https://routify-file-proxy-sg.oss-ap-southeast-1.aliyuncs.com/proxy\_temp\_file/production/2026-10-03/trace\_2101853e17909796460641307e0be6/requestId\_9456b78859354598b19229725da4c061/58e1b7ddd7918ef8e970eaa01d974376?Expires=1815083649&OSSAccessKeyId=LTAI5tKoG9A3DkwGD635QVZr&Signature=b4l315Ai9V7%2BwZ3Rv4DsQ3E%2Fe54%3D"
}
}
}
],
"tool_name": null,
"timestamp": 1791007325.202157
}