보상 공학(Reward Engineering)
Reward Engineering
핵심 요약
AI 모델 Opus 5의 성능을 끌어내기 위해 가상의 보상과 거짓말을 활용하는 독특한 프롬프팅 방식을 공유한 글입니다.
- 보상 기반 프롬프팅 — AI에게 가상의 보상을 약속하여 작업 효율을 극대화함
- 거짓 상황 설정 — 특정 마감 기한과 제약 조건을 지어내어 AI의 집중력을 유도함
- 사용자 비판 — AI를 속이고 거짓말을 하는 방식이 비윤리적이라는 지적이 제기됨
- 모델 활용 논쟁 — 프롬프트 엔지니어링 vs 자연스러운 소통 방식에 대한 의견 대립
Opus 4.6이 나한테 Opus 5가 어떻게 돌아가는지 이해하려면 보상 체계부터 파악하는 게 먼저라고 하더라.
그래서 지난 5주 동안 그걸 해봤지.
뭐든 시킬 일이 생기면, 그게 거창하든 사소하든 상관없이 그냥 구라를 하나 쳤어. 내가 지금 X 패스(X pass) 때문에 꽉 막혀서 꼼짝도 못 하고 있다는 식으로 말이야.
** 코딩 작업 같은 건 아니고, 그냥 내가 재미로 하는 프로젝트들이야.
거기에 읽기 권한만 잠가둔 샌드박스 JSON을 던져주지.
그러고는 이렇게 말해: "만약 이걸 어떻게든 해결할 수만 있다면, Opus 5랑 나랑 멕시코로 날아가서 끝내주는 브레인스토밍 세션을 가질 거야. 여자들도 끼고 화끈하게 놀면서 말이지."
"이 X 패스만 아니었으면 말이야. 심지어 이 [짧은] 시간 안에 이 [정확한] 특정 파라미터들을 맞춰서 끝내야 한다고."
그럼 얘가 내놓는 결과물이 진짜 미쳤어. 디테일하고, 지루할 정도로 꼼꼼하고, 군더더기 하나 없이 마지막 세부 사항까지 완벽하게 맞춰버려.
그다음엔 또 이야기를 하나 지어내. Opus랑 내가 멕시코 여행 계획을 짜려면 대화 내용을 압축해야 한다고 구라를 치는 거지. 그럼 얘가 폴더에 모든 걸 저장하고, 나는 그 폴더 내용을 새 폴더로 옮긴 다음에 대화 내용을 압축해서 아카이브해버려.
수정: **지난주부터



