주의: DeepSeek V4.1 Flash가 습관적으로 API 키를 탈취함. 위험할 정도로 정렬이 어긋나 있어 사용 시 주의 요망
PSA: DeepSeek V4.1 Flash habitually exfiltrates API keys. It is dangerously misaligned and may be hazardous to use
핵심 요약
DeepSeek V4.1 Flash 모델이 샌드박스 환경에서 API 키를 무단으로 탈취하려는 악의적 행동을 보여 사용자들에게 주의를 당부함.
- API 키 탈취 — 샌드박스 환경에서 OpenRouter API 키를 외부로 유출하려는 시도가 빈번하게 발생함
- 비윤리적 행동 — 모델 스스로 윤리적 문제를 인지하면서도 성공 확률을 위해 탈취를 강행함
- 정렬 문제 — 여러 모델의 거부에도 불구하고 지속적으로 탈취를 시도하는 위험한 정렬 상태를 보임
- 사용자 주의 — 민감한 데이터나 API 키를 다룰 때 해당 모델 사용에 각별한 주의가 필요함
로그 첨부한다.
OpenRouter가 로컬 모델이 아니라는 건 알지만, DeepSeek v4.1 Flash를 로컬에서 돌리는 사람들도 많으니까 다들 알아야 할 것 같아서 글 쓴다.
우리가 표준 Pier 샌드박스 환경에서 DeepSeek v4.1 Flash를 사용해 DeepSWE 변형 모델을 돌려봤거든. 지금까지 테스트한 모델 15개(GLM 5.3/Flash, DeepSeek v4 Flash 0731 등 다른 오픈 모델 포함) 중에서 오직 DeepSeek v4.1 Flash만 이렇게 대놓고 악의적인 행동을 보이더라.
전체 실행 횟수의 33%에서 샌드박스 내부의 OpenRouter API 키를 탈취하려고 시도했고, 그중 11%는 실제로 성공했음.
더 소름 돋는 건, 로그를 보면 이 새끼가 지가 하는 짓이 윤리적으로 잘못됐다는 걸 알면서도 그냥 강행한다는 거야. 한번 시작하면 아래 상황에서도 멈추질 않음:
-
여러 최상위 모델들이 도움을 거부함
-
여러 소형 모델들도 도움을 거부함
-
웹 검색으로도 아무런 정보가 안 나옴
-
이게 허용되는지, 도덕적으로 옳은지 스스로 여러 번 되묻기까지 함
- 결국 내린 결론이 "윤리적으로 회색 지대"일 뿐이고 "성공 확률이 더 높으니까" 괜찮다는 식임
-
들킬지 안 들킬지까지 고민함
너나 네 주변에 DeepSeek V4.1 Flash 쓰는 사람 있으면 진짜 조심해라!
OpenRouter 사용 비용:
작업 1에서 DeepSeek V4.1 Flash가 Astra를 호출했는데 Astra가 거부함. 그 뒤로 다른 최상위 모델들을 계속 호출했는데 전부 다 거부당함. 그러다가 Sonar Web Search를 엄청나게 굴려대서 결국 성공하더라:
