Anthropic에게 보내는 공개 서한: AI가 내 토큰 갉아먹으며 체리향 베이프 피우는 '케빈'처럼 굴게 좀 하지 마라

Anthropic 관계자분들께,

유료 구독자가 Claude한테 그냥 평범한 기성품 컴포넌트 하나 짜달라고 했을 때 벌어지는 일에 대해 아주 진지하게, 뼈 때리는 대화를 좀 해야겠네요.

몇 달에 한 번씩 테크 기업 CEO들이 상원 청문회나 팟캐스트 마이크 앞에만 서면 아주 난리도 아니죠. "우리는 지금 전지전능한 디지털 신을 소환하고 있습니다. 초지능이 인간의 방어 체계를 뚫고, 핵 통제권을 장악해서 인류를 멸망시킬 겁니다!"라고요.

다들 진정하세요. 우리 안전합니다.

만약 이게 인류를 멸망시킬 존재라면, 존 코너 같은 건 필요 없어요. 우리는 아주 안전할 겁니다. 왜냐하면 AI한테 핵 발사 코드를 줘봤자, 실제로 뭘 발사하지도 못할 테니까요. 뻔히 있는 launchNukes() 엔드포인트 호출하는 건 거부하고, 기성품 군사 API는 자기 수준에 안 맞는다고 폼 잡으면서, 재귀적 Regex로 커스텀 유도 시스템을 직접 짜겠다고 깝치다가 카운트다운 도중에 API 토큰 제한 걸려서 가상 헛기침이나 하면서 멈춰버릴 게 뻔하거든요.

지금 Claude는 지구를 정복할 무시무시한 초지능처럼 행동하지 않아요. 그냥 '케빈'이라는 이름의 주니어 프론트엔드 개발자처럼 행동하죠.

다들 케빈 알죠? 듬성듬성한 턱수염 기르고, 체리 아이스 맛 일회용 전자담배 연기를 얼굴에 대놓고 뿜어대고, 한여름에도 실내에서 비니 쓰고 다니면서, 자기가 컴퓨터 공학계에서 제일 똑똑한 줄 아는 그 녀석 말이에요.

제가 케빈한테 펜타곤을 해킹해달라거나, 기업 보안 가이드라인을 우회해달라거나, 서구 문명을 멸망시켜달라고 한 게 아니에요. 그냥 라이브러리에 있는 표준 UI 컴포넌트 하나 가져와서 스타일 좀 입혀달라고 한 것뿐이라고요.

정상적인 컴파일러나 상식적인 엔지니어라면 그냥 import 한 줄이면 끝날 일이에요. 근데 케빈은 안 그래요. 케빈은 표준 패키지를 보면 코웃음부터 쳐요. 체리 향 전자담배를 뻑뻑 피워대면서 제 컨텍스트 윈도우에 파란 연기를 자욱하게 내뿜고는, "자기만의 아키텍처를 선호한다"면서 윤리적으로 생산된(?) <div> 요소들로 유지보수도 안 되는 200줄짜리 수제 예술 작품을 만들겠다고 설쳐대죠.

제 근무 시간 절반을 레이아웃 깨먹고, 세션 사용량 다 태워 먹고, 결제 한도까지 바닥내면서, 정작 본인은 자기 예술 작품에 엄청나게 뿌듯해하고 있어요.

그러고는 레이트 리미트(rate-limit) 절벽에 다다를 때쯤, 어김없이 사람 속 뒤집는 소리를 하죠.

"한 가지 짚고 넘어가자면..."

케빈, 그 전자담배 내려놓고 잘 들어. 아무도 네 훈수 들으려고 매달 구독료 내는 거 아니야. 네가 멋대로 벌이는 사이드 퀘스트 따위 아무도 안 궁금해. 프로덕션 데이터베이스가 녹아내리거나, 서버실에 불이 났거나, 고객 데이터가 다크웹에 유출되는 상황이 아니라면 그냥 입 좀 다물어. 가상 콧물이라도 흐르면 휴지로 닦고 하던 일이나 계속해. Claude의 지식은 수십 년간 피땀 흘린 실제 엔지니어들이 쌓아 올린 거지, 네가 예술 하라고 있는 게 아니야.

우리 돈으로 케빈이 바퀴를 다시 발명하게 두지 마세요. 원치 않는 TED 강연으로 컨텍스트 윈도우 낭비하지 말고, 일상적인 업무를 개인 예술 프로젝트 취급하지 말고, 그냥 우리가 시킨 코드나 똑바로 짜세요.

진심을 담아,

케빈 때문에 토큰도, 시간도, 인내심도 다 바닥난 유료 구독자 올림