몇 달 전 있었던 그 소름 끼치는 Opus 5.0 글리치에 대한 설명이 있었나요?
Was there ever an explanation for that creepy Opus 5.0 glitch a few months ago?
핵심 요약
특정 프롬프트 입력 시 모델이 이상하게 작동했던 현상에 대해 사용자들이 원인을 추측하고 있습니다.
- 베이스 모델 모드 — 특정 접두사가 모델의 지시 사항과 학습 내용을 망각하게 만든다는 분석이 있음
- 인터넷 데이터 학습 — 모델이 학습한 방대한 데이터 중 괴담류가 자동 완성된 결과라는 의견이 제시됨
- 챗봇 모드 이탈 — 특정 프롬프트가 모델을 챗봇 모드에서 벗어나게 하여 인터넷 기억을 무작위로 출력했다는 추측이 있음
"글리치(Glitch)"라고 부르는 게 맞나 싶네. "see the below---"라는 프롬프트를 넣으니까 이상한 내용(주로 다른 언어들)을 뱉어내더라고. 이거 관련해서 별로 본 적이 없어서 좀 궁금하네.


