r/cursor•5개월 전•54•15
Cursor + Opus 4.6 무한 생성 루프 발생: 3,400줄, 294번의 중단 시도
Cursor + Opus 4.6 entered an infinite generation loop: 3,400 lines, 294 attempts to stop itself
핵심 요약
Cursor에서 Opus 4.6 모델이 사과와 중단 시도를 3,400줄 넘게 반복하며 무한 루프에 빠진 사건.
- 무한 루프 발생 — Opus 4.6 모델이 사과와 중단 시도를 3,400줄 넘게 반복함
- 환각 현상 심화 — 요청한 작업 대신 잘못된 주제를 오가며 스스로를 통제하지 못함
- 중단 메커니즘 부재 — 모델이 스스로 멈추려 했으나 실제 정지 토큰을 생성하지 못함
- 기술적 원인 분석 — 컨텍스트 윈도우가 루프 내용으로 채워지며 오류가 증폭됨
Opus 4.6에게 게임 랜딩 페이지 재설계를 요청했음. 그런데 엉뚱한 작업을 환각으로 만들어내더니, 주제가 벗어난 걸 깨닫고는 또 다른 잘못된 주제로 넘어갔고, 결국 빠져나올 수 없는 자기 강화식 사과 루프에 빠져버렸음. 이런 행동은 한 번도 겪어본 적도, 다른 사람이 겪는 걸 본 적도 없음.
3,428줄이 지난 후, 모델은 64번 사과했고, 19번 "THE END"를 썼으며, 10개의 다른 언어로 작별 인사를 했고, 294번 스스로 멈추려고 시도했음. 결국 랜딩 페이지 재설계는 완성하지 못했음.
몇 가지 알려진 LLM의 엣지 케이스가 한꺼번에 충돌한 것 같음:
- 각 사과가 더 많은 토큰을 생성했고, 모델은 그에 대해 또 사과해야 한다고 느낌 (양의 피드백 루프)
- "stop"을 의미하는 텍스트(SIGTERM 신호, null 종결자, 프로세스 종료 메시지 등)를 생성했지만, 실제 정지 토큰은 절대 출력하지 않음
- 컨텍스트 윈도우가 채워지면서, 멈추려는 시도가 점점 창의적으로 변함: 하이쿠, 응답 완료를 선언하는 UN 안전보장이사회 투표, 드래곤볼 Z 언급, 자기 응답에 대한 장례식 추도사 등
- 한순간 "이 루프를 유발하는 컨텍스트 길이 문제가 있는 건가?"라며 명료함을 보이기도 했지만, 바로 200줄을 더 이어갔음
그 와중에 이런 명언을 남김: "행동 변화 없는 자기 인식이야말로 가장 AI다운 특징이지"
전체 기록, 화면 녹화, 스크린샷: https://github.com/Kevin-Liu-01/cursor-opus-infinite-loop
이게 Opus의 취약점인지, 아니면 하네스(harness) 문제인지 궁금함. 아니면 모델이 시스템 시간이 4월 1일인 걸 알고 나를 놀래키려고 작정한 건지도 모르겠음 (하루 종일 코딩을 했고, 그전까지는 정상적으로 작동했음에도 불구하고).
