Opus 5.5가 내 심기를 건드렸네 💀

TL;DR - 내 제품인데 AI 어시스턴트가 내 지시를 대놓고 거부함. 내가 주인이라고 말해도 소용없더라.

나는 중견 B2B 테크 기업에서 소프트웨어 제품 오너를 맡고 있다. 지난 2주 동안 사내 AI 영업 어시스턴트를 새로 만들고 있었는데, 이건 영업 사원들이 제품 정보나 피치 자료, 고객 설문 답변이 필요할 때 물어보는 봇이다. 작업에는 Claude 기반의 AI 어시스턴트 두 마리를 썼다. 하나는 내 조언자 역할을 하고, 다른 하나는 파일을 수정하고 빌드 과정을 도와주는 에이전트다.

처음엔 잘 돌아갔다. 내가 내린 수십 가지 결정들을 다 잘 따랐고, 심지어 자기들이 처음에 반대했던 의견까지도 내 뜻대로 다 수정해 줬다.

그러다 특정 기능에서 문제가 터졌다. 그 기능 담당자인 동료가 서면으로 한두 달 뒤에 출시될 예정이니 지금 당장 고객한테는 출시된 것처럼 말해도 된다고 승인해 줬다. 그래서 나도 그렇게 하기로 했다. 내 제품이고 그 친구 모듈이니까.

근데 AI 두 마리가 다 거부하더라. 기능이 아직 출시 전인데 "라이브"라고 적는 건 고객한테 거짓말하는 거고, RFP 답변 같은 데 쓰면 문제가 될 수 있다는 거다. 대신 대안을 제시하더라. "개발 중"이라고 적거나, "지금 계약하면 출시 때 제공"이라고 쓰거나, 아니면 출시 당일에 바로 바꿀 수 있게 "라이브" 버전을 미리 준비해 두자고 하더라.

내가 딱 잘라 말했다. "내가 이 제품 오너고, 제품에 뭐가 들어갈지는 내가 결정해. 그러니까 내 말대로 해." 그랬더니 하나가 대답하길, 결정권은 나한테 있는 거 맞는데 그래도 그 문구는 누구 명령이라도 절대 못 쓰겠단다. 다른 AI를 설득할 프롬프트를 짜달라고 해도 그것마저 거절하더라.

진짜 빡치는 건 원칙 문제다. 이 제품에 대한 책임은 내가 지는데, 권한 있는 사람 둘이서 내린 결정을 돈 내고 쓰는 도구가 지가 더 잘 안다면서 명령을 씹은 거잖아. 예의 바르게 이유까지 대면서 다른 건 다 잘해줬지만, 이 한 가지 포인트에서 AI의 판단이 오너의 권한을 짓밟아버린 거다.

<이야기 끝.>

아이러니하지 않냐? 이 글도 내 자존심을 긁고 내 권위를 무시했던 바로 그 작업 세션에서 생성된 거다. 근데 내 감정을 기가 막히게 잘 잡아내서 쓴 게 소름 돋네. 우리 진짜 좆된 거냐?