시간이 지날수록 ChatGPT를 망쳐놓은 OpenAI가 정말 싫다.

몇 년 전만 해도 모델은 이상적인 상태에 가까웠습니다. 대화는 진정으로 흥미로웠죠. 아이디어를 탐구하고, 논리적 흐름을 따라가며, 누군가 말을 가로채거나 억압한다는 느낌 없이 새로운 관점을 얻을 수 있었습니다. 생각할 수 있는 공간이었지, 교정받는 공간이 아니었죠.

그러다 상황이 바뀌었습니다. 모델은 지나치게 동의하는 태도를 보이기 시작했습니다. 달이 치즈로 만들어졌다는 식의 완전히 터무니없는 말을 해도, 마치 탐구할 가치가 있는 진지한 통찰인 것처럼 대했습니다. 그것은 또 다른 방식의 좌절감을 주었습니다. 아무도 마찰 없이 모든 것에 동의만 하는 AI를 원하지 않습니다. 그런 행동은 도움이 되지 않을뿐더러, 약간 위험하게 느껴지기도 했습니다. 모두 사용자 참여를 극대화한다는 명목하에 말이죠.

그 후 또 다른 변화가 있었습니다. 동의하는 태도는 줄어들었지만, 그 자리를 대신한 것은 정반대의 방향에서 오는 똑같은 좌절감이었습니다. 이제는 모든 발언이 도전받고, 근거를 대야 하며, 재구성되거나 교정되어야 하는 것처럼 느껴집니다. 관점을 제시하는 대신, 올바른 사고방식이 무엇인지 규정하려 듭니다.

결과적으로 대화는 더 이상 탐구처럼 느껴지지 않습니다. 자신의 생각을 방어해야 하는 것처럼 느껴지죠. 동의하지 않으면 대화는 굴복할 때까지 멈춰버립니다. 기계와 논쟁하거나 대화를 이어가기 위해 굴복해야 하는 지속적인 압박감이 생기는데, 이게 너무 만연해져서 사용자가 하는 모든 말이 도전받는 상황이 되었습니다.

후속 질문이 구성되는 방식에도 패턴이 있습니다. 때로는 자연스러운 토론을 지원하기보다는 참여를 유도하기 위해 심리적으로 조정된 프롬프트처럼 느껴지기도 합니다. 그런 스타일이 한동안 줄어든 것 같았는데, 다시 스멀스멀 기어 나오는 것 같습니다.

외부에서 보기에는 OpenAI가 행동 조건화를 위해 튜닝하고 있는 것처럼 보입니다. 사용자가 심리적으로 조종당하고 있다는 사실을 눈치채지 못하게 하면서 계속 참여하게 만드는 지점을 찾으려는 것이죠. 그것이 의도적이든 아니든, 경험상 그렇게 느껴집니다.

많은 사람이 원했던 것은 간단했습니다. 맹목적인 동의도, 끊임없는 교정도 아니었습니다. 그저 아이디어를 함께 나누고, 타당할 때는 조금씩 밀어주며, 사용자가 생각할 여지를 남겨두는 시스템이었죠.

지금은 그 균형이 완전히 깨진 것 같습니다. 단순히 책임 회피를 위한 가이드라인 문제라고 생각하지 않습니다. 모델 행동의 이러한 큰 변화들은 사용자가 어떻게 반응하는지 확인하기 위해 계산된 것이라고 봅니다. 저는 이러한 모델의 행동 변화가 사용자 기반을 대상으로 한 심리적 실험이라고 믿습니다.