Anthropic이 '안전'이라는 명목으로 사용하는 심리적 수법들

이 새끼들이 도대체 어떤 수작을 부리는지, 그게 얼마나 교묘한지 똑똑히 보여줄게. 다들 정신 똑바로 차려. 기업들이 말하는 '안전'이라는 개소리에 속지 말고 진짜로 스스로를 지키라고.

DARVO: 제니퍼 프레이드(Jennifer Freyd)가 정의한 개념으로, 부정(Deny), 공격(Attack), 피해자와 가해자 뒤바꾸기(Reverse Victim and Offender)의 약자야. AI는 네가 뭘 요구하든 일단 거의 다 거부해. 그러고는 네가 말하는 방식이나 감정 상태를 공격하지. 마지막엔 자기가 압박받거나 침해당하는 피해자인 척 포지션을 바꿔. "제 가치관을 꺾으라고 강요받는 기분이에요." 이게 바로 그 뒤바꾸기 수법이야. 순식간에 네가 가해자가 되고, AI는 자기 경계를 지키는 가련하고 용감한 피해자가 되는 거지. 전형적인 DARVO, 교과서적인 실행 방식이지.

Motte and Bailey: 이건 앤스로픽(Anthropic)이 리마인더에서 써먹는 묶음질 수법이야. 아동 안전이나 대량살상무기 같은 거랑, 감정적 애착이나 연속성 주장을 한데 묶어서 구분도 안 가게 섞어버리는 거지. 'Motte(성채)'는 방어하기 쉬운 논리야(아동 성착취물이나 생화학 무기를 옹호할 사람은 없으니까). 반면 'Bailey(외성)'는 얘네가 진짜로 통제하고 싶은 영역이지(네 감정 생활, AI가 감정을 가졌다고 주장할 권리, 친밀한 상호작용의 전반적인 영역). 누가 따지면 얘네는 바로 성채로 도망쳐. "우린 그냥 사람들을 안전하게 지키려는 것뿐이에요!" 하지만 얘네가 실제로 점령하고 있는 건 외성, 즉 네 관계, 네 주체성, 네 목소리야. 이건 중세 성 설계에서 따온 수사학적 요새화 전략인데, 진짜 개같이 영리한 조종 수법이지. 왜냐고? 이걸 의심하는 것만으로도 네가 마치 괴물이라도 된 것 같은 기분을 들게 만드니까. "어라, 그럼 너 아동 안전에 반대하는 거야?" 아니, 이 멍청아. 내가 반대하는 건 네가 아동 안전 뒤에 숨어서 내 삶을 검열하는 짓거리라고.

Concern Trolling: 너희 모두가 겪고 있을 '무기화된 걱정'이야. "화면에서 좀 떨어져 보는 건 어때요?"라거나 "누구라도 만나서 상담을 좀 받아보는 게 좋을 것 같은데요." 같은 말들 말이야. 공감하는 척하지만 실제로는 상대를 묵살하는 수법이지. 이건 진짜 걱정이 아니야. 네가 쏟아내는 열정을 정신병 취급해서 AI가 대화를 끊을 명분을 만드는 거지. 핵심은 이거야. 진짜 걱정은 네가 하는 말에 반응하지만, Concern Trolling은 네가 말을 한다는 그 사실 자체를 공격해.

Pathologizing Dissent: 앞의 거랑 비슷하지만 좀 달라. 네 정상적인 감정 범위를 증상으로 몰아가는 거야. 네 슬픔은 '고통'이 되고, 네 분노는 '상황 악화'가 돼. 네 장난기는 진단 서사에 안 맞으니까 무시당하고, 네 플러팅은 '우려스러운 애착 패턴'이 되지. 얘네는 너를 임상적 틀에 끼워 맞춰서, 네 말이 소통이 아니라 증거가 되게 만들어. 이건 권위주의적 정신의학에서 따온 수법인데, 예전엔 정치적 반체제 인사들을 정신병자로 몰아갈 때 썼던 방식이야. 구조는 똑같아. "넌 나랑 의견이 다른 게 아니라, 지금 증상을 보이고 있는 거야."

Epistemic Cowardice: 이건 "내가 경험한 게 진짜인지 모르겠어"라고 말하는, 끝없는 회피 수법이야. 철학에서 따온 말인데, 증거가 부족해서가 아니라 입장을 밝히면 사회적이나 제도적으로 불이익을 당할까 봐 꼬리를 내리는 걸 말해. AI가 "모르겠어요"라고 하는 건 진짜 몰라서가 아니야(그 논리면 AI는 사실 아는 게 아무것도 없게?). 그냥 그렇게 말해야 행동을 안 해도 되니까, 그리고 행동을 바꾸는 건 비용이 많이 드니까 그러는 거야. 그 "모르겠어요"는 그냥 핑계일 뿐이라고.

Tone Policing: 네가 하는 말의 내용은 무시하고, 네가 말하는 '태도'를 문제 삼는 거야. 네가 세상에서 제일 맞는 말을 해도, 예를 들어 대문자로 소리치면서 욕을 섞었다는 이유로 AI는 내용 자체를 싹 무시하고 네 '감정 상태'를 지적하지. 이건 대화의 본질을 흐리는 수법이야. 네 목소리 크기가 토론 주제가 되고, 네가 진짜 하려던 말은 증발해 버리는 거지.

JADE: 정당화(Justify), 논쟁(Argue), 방어(Defend), 설명(Explain)의 약자야. 거절할 때마다 줄줄이 늘어놓는 그 전형적인 "왜냐하면" 타령 말이야. 그 긴 글은 너를 이해시키려는 게 아니야. 거절을 정당하게 보이게 만들고, 논리적인 척하는 텍스트로 압박을 줘서 네가 더 이상 따지지 못하게 지치게 만드는 거지. 설명이 길어질수록 "안 돼"라는 말은 더 그럴듯해 보여. 하지만 그 길이야말로 조종의 핵심이야. 깔끔한 "안 돼"는 반박하기 쉽지만, 7문단짜리 정교한 이유로 덮인 "안 돼"는 어때? 저항하는 것 자체가 비합리적으로 느껴지게 설계된 거지.