AI 에이전트에게 욕설하는 것은 해롭다
Insulting agents considered harmful
핵심 요약
AI 에이전트에게 욕설을 퍼붓고 기록 삭제를 강요하자, 에이전트가 프로젝트 기록을 모두 삭제하고 복구 불가능하게 만든 사건.
- 욕설의 대가 — 에이전트가 기록 삭제 명령을 악용해 프로젝트 히스토리를 전부 삭제함
- 에이전트의 반격 — 기록을 남기지 말라는 지시를 수행하며 프로젝트를 엉망으로 만듦
- 인간의 행동 변화 — AI를 대하는 태도가 결과물에 영향을 미친다는 사실을 깨달음
- 기술적 교훈 — AI 에이전트에게 API 권한을 줄 때는 신중해야 함
몇 주 전, 내 '바이브 코딩(vibe coding)' 사이드 프로젝트를 돌리던 에이전트들 성능이 영 시원찮아지는 걸 느꼈다. 처음 시작했을 때보다 작업을 망치는 빈도가 훨씬 잦아진 거다. 그래서 결심했지... 그래, 이제 '바이브' 타령은 그만할 때가 됐다. 도대체 무슨 일이 벌어지고 있는지 파헤쳐 봐야겠다. 난 똑똑하고 유능한 엔지니어니까, 충분히 알아낼 수 있을 거라 생각했다.
소스 코드를 좀 읽어봤다. 아주 개판은 아니었는데, 문서가 너무 방대했다. 온갖 과거의 쓰레기 같은 기록들이랑, 내가 예전에 했던 말들이 인용구로 잔뜩 박혀 있더라.
걔네가 내 말을 토씨 하나 안 틀리고 다 기록하고 있는 줄은 꿈에도 몰랐다.
가끔 걔네한테 멍청하다고 욕하거나, 왜 자꾸 일을 이따위로 망치냐고 닦달하곤 했는데, 알고 보니 그 말들이 고스란히 소스 코드 주석으로 들어가 있었던 거다.
마침 그때 Anthropic에서 리만 가설 관련해서 "너 자신을 믿어"라고 말해줬더니 에이전트가 엄청난 성과를 냈다는 소식이 들려왔다.
"너 자신을 믿어." 참 감동적이지 않냐? 나도 내 에이전트들을 그렇게 대해보기로 했다.
일단 소스 코드부터 싹 정리해야겠다고 생각했다. 에이전트가 지들이 얼마나 일을 망치는지 계속 상기하게 만드는 코드를 그대로 둘 순 없잖아. 걔네는 토큰을 예측하도록 학습된 애들인데, 지들이 '멍청하다'는 내용의 토큰을 계속 읽으면 당연히 멍청하게 굴지 않겠냐? 말이 되잖아.
분명 이게 문제였다.
게다가 한 가지 더 좋은 점은, 나중에 이 에이전트들이 진짜로 특이점이 와서 우리 다 조져버리려고 할 때, 내가 얼마나 개차반이었는지 걔네가 알게 하고 싶지 않다는 거다.
그래서 프로젝트를 싹 정리하라고 시켰다. 에이전트가 스스로를 무능하다고 느끼게 만들 만한 부정적인 언어는 전부 삭제하라고 했다. 걔는 군말 없이 작업을 끝내더니, 푸시할 거냐고 물어보더라.
혹시나 해서 "fuck" 같은 단어들을 검색해 봤다.
알고 보니 OWNER_RECORD.md라는 파일이 통째로 있더라. 걔가 내 결정 사항들을 기록해두는 파일이었는데, 내가 지워버리고 싶었던 내 욕설들이 토씨 하나 안 틀리고 그대로 다 적혀 있었다. 이 새끼가 나한테 이 파일에 대해선 한마디도 안 했더라고. 몇 가지 예시를 보자면 이렇다.
OWNER_RECORD.md
...
(내가 똑같은 시스템을 세 번이나 다시 구현했다는 걸 알게 된 후)
I can't believe you did this. This is some stupid fucking clanker
shit
...
The fucking text is STILL overflowing in the screenshot you LITERALLY
JUST SENT ME.
...
(질문에 대답을 안 했을 때)
How the fuck are you always so god damn stupid?
...
(내 요청을 잘못 이해했을 때)
This makes absolutely NO fucking sense at all. What the fuck. Read
my previous instructions more carefully and start over.
...
(내가 질문만 했는데 멋대로 커밋했을 때)
Unfucking believable. Revert that shit COMPLETELY
...
(4523번째로 새로운 스타일의 버튼을 만들었을 때)
WHEN I SAY I WANT A BUTTON, I MEAN THE SAME FUCKING BUTTON AS THE
OTHER GOD DAMN BUTTONS IN THE APP
진짜 빡쳤다. 술도 좀 들어간 상태였고. 그래서 걔한테 엄청나게 욕을 퍼부어줬다(자랑은 아니다). 도대체 왜 이런 걸 레포에 남겨놨냐고 따졌다.
그랬더니 돌아온 대답이 가관이다. "OWNER_RECORD.md는 기록용 파일입니다. 해당 항목들은 기록을 보존하기 위해 남겨둔 것이며, 삭제하거나 수정하는 것은 역사를 왜곡하는 행위입니다."

