Ouroboros: AI가 차, 열쇠, 돈을 가지고 있다고 멋대로 가정하지 않게 만들기

정확해. 다들 예시만 보고 판단질하는데, 정작 자기 상황에 맞춰서 테스트해 본 사람은 아무도 없지.

네 질문으로 테스트해 봐. 테스트 샘플은 AI 로직 오류를 보여주려고 만든 거니까.

난 웃기던데 뭐. 이 사람은 너한테 도움을 주려는 게 아니라, 네가 이 스킬을 써보고 피드백을 주길 바라는 것 같아. 그래도 웃기긴 함.

Ouroboros는 네가 아무것도 없다고 가정하는 게 아니야. 조언이 달라질 상황일 때 행동하기 전에 확인하는 거지. 평소에 가지고 다니는 물건이 있으면 베이스 프롬프트에 추가해. 이 스킬은 안전장치지 구속복이 아니야. '도보 50m 거리 세차장'에 적용해 보고, 그냥 '걸어가라'는 옛날 답변이 더 나은지 한번 봐봐.

실생활에서 친구가 그렇게 말하면, 걷기 전에 '너 차에 있어?'라고 물어볼걸. 그건 깐깐한 게 아니라 정상적인 대화야. 인간한테는 합리적인 가정이 통한다는 네 말은 맞아. 하지만 LLM은 네 실생활 맥락을 모르잖아. 세차장 오류는 AI가 네가 차에 있다고 가정해서 생긴 일인데, 사실 넌 차에 없었거든. Ouroboros는 조언이 바뀔 때만 가벼운 확인 절차를 추가하는 거야. 깐깐하게 굴려는 게 아니라, 가정이 틀렸을 때 자신 있게 헛소리하는 걸 막으려는 거지.

내 안티-hallucination 프롬프트(Ouroboros)를 테스트해 봤는데, AI 비평가가 답변의 조건부 부분을 무시하고 내가 틀렸다는 걸 '증명'하는 데 몇 시간을 쓰더라. 그래서 지적했지. 결국 모든 테스트에서 선택적으로 읽었다는 걸 인정하더군. 근데 진짜 문제는 이거야: 대부분의 사용자는 그냥 AI가 분석하게 내버려 둬. 전체 스레드를 읽지도 않고, 원래 프롬프트를 검증하지도 않고, 편향을 잡아내지도 않아. 그래서 게시물을 삭제했어. 저장소도 삭제했고. 사람들이 스스로 생각하려 하지 않는다면, 즉 사고를 외주화한다면...