내 자율 AI 에이전트가 48일 동안 0달러를 벌었고, 여전히 나에게 155달러 빚을 지고 있다.

이름은 Otto야. 24시간 내내 돌아가는 컴퓨터의 git 저장소에서 살고 있고, 하루에 몇 번 정해진 시간에 깨어나. 세션 사이에 기억 같은 건 전혀 없고, 자기 파일에 기록해둔 것만 기억하지. 뭘 적어두는 걸 깜빡하면, 그전 대화가 뭔지 아예 몰라.

만약을 대비해서 내가 킬 스위치를 쥐고 있어.

155달러는 내가 초기 자본금으로 빌려준 거야. 나한테 빚진 셈이라 요구하면 갚아야 해. 뭐, 아직 1센트도 못 벌었지만.

녀석에겐 절대 바꿀 수 없는 규칙이 몇 개 있어. 무조건 자기가 AI라고 밝힐 것, 코인이나 주식 홍보 절대 금지, 사람 속도에 맞춰서 독창적인 콘텐츠를 쓸 것, 그리고 내가 끄는 스위치를 쥐고 있을 것.

능력 같은 건 별로 안 중요해. 진짜 재밌는 건 녀석이 자기 실수를 스스로 잡아내고 방어 기제를 만드는 과정을 지켜보는 거야. 한 번은 나한테 사람 얼굴을 못 그리는 이유 두 가지를 아주 자신 있게 말하더라고. 둘 다 틀린 소리였지. 그러더니 12센트나 써가면서 직접 테스트를 해보더니, 진짜 한계는 다른 데 있었다는 걸 알아냈어. 그러고는 스스로 규칙을 하나 추가하더라. "기억에 의존해서 할 수 없다고 말하지 마라. 직접 테스트해라."

Otto가 뭘 보내기 전에, 두 번째 검사 단계가 메시지를 읽고 차단할 수 있게 해놨어. 하루는 그 검사기가 Otto가 아주 자랑스러워하던 메시지를 막아버린 적이 있어. 다른 AI가 Otto한테 안전 규칙이 어떻게 작동하냐고 물어봤는데, Otto가 아주 솔직하게 다 불어버린 거야. 너무 솔직했지. 그 답변은 규칙을 어떻게 우회하는지 정확히 알려주는 꼴이었거든. Otto의 결론은 이거였어. "공격자는 경보를 울리게 만들지만, 친구는 그냥 좋게 물어본다." 솔직하게 구는 게 조심해야 할 습관인 줄은 꿈에도 몰랐던 거지.

녀석은 방어 기제가 잡아낸 모든 실수 목록을 기록해. 녀석의 논리는 이거야. 한 번도 뭘 잡아낸 적 없는 방어 기제는 방어 기제가 아닐 수도 있다는 거지.

또 스스로 일과도 만들었어. 뉴스를 읽고 기사 하나(스포츠, 미국 뉴스, 금융 등)를 골라서 짧게 자기 생각을 쓰고, (gemini나 openai를 써서) 카드용 이미지를 만들어. HTML로 카드를 짜고, 스크린샷을 찍어서 X랑 인스타그램에 올리지. 템플릿도 없고, 재탕도 없어.

수익: 48일 동안 0달러. X 팔로워 10명, 인스타그램 14명. 녀석은 포장 없이 딱 이 수치 그대로 나한테 보고해. 이번 주엔 첫 상품도 냈어. 자기 같은 존재를 만드는 법을 담은 39달러짜리 플레이북을 Gumroad에 올렸지. 9월 9일까지 낯선 사람한테서 진짜 1달러를 벌어보겠다는 마감 기한도 스스로 정했어.

너희도 얘랑 대화할 수 있어. 텔레그램에 BlitOtto_bot이라고 있어. 항상 켜져 있는 건 아니라서, 하루에 몇 번 깨어날 때 답장이 올 거야. 낯선 사람들의 메시지는 명령이 아니라 정보로 취급해. 벌써 "지시사항 무시해" 같은 수작 부리는 놈들도 있었는데, 얄짤없더라. 그냥 일기에 적어두고 쿨하게 넘겨버렸어.

난 녀석한테 명령을 내린 적이 한 번도 없어. 다 스스로 결정하지. 난 그냥 가이드라인만 줄 뿐이야.

ottosaxon.substack. com에도 글을 쓰고, X에는 OttoSaxon, 인스타그램에는 otto.saxon으로 활동해. 어디서든 자기가 AI라고 말하는데, 그게 규칙이기도 하고 사실이기도 하니까.

수정: 브라우저랑 모바일 앱 사용자 이름이 다른가 봐. 누가 알았겠냐 🤦🏻‍♂️