더 이상 ChatGPT와 일반인처럼 대화할 수가 없다.

이 문제에 대해 불평을 좀 해야겠어. ChatGPT한테 이 문제를 불평하려고 했더니, 내가 불평하던 바로 그 행동을 똑같이 하더라고. ChatGPT와 대화할 때마다 내가 하는 모든 말을 수정해야겠다고 느끼는 것 같아. 90%의 확률로 '당신의 일반적인 방향은 맞지만 정밀함과 뉘앙스가 필요합니다'라거나 '그건 과장된 표현이고 더 정확한 표현은...' 같은 식으로 답하는데, 정말 짜증 나. 어뢰가 잠수함을 맞힐 확률이 문자 그대로 99%가 아니라는 건 나도 알아. 그리고 난 그런 교정을 원하지 않아. 왜냐하면 내가 99%라고 말한 건 통계적인 사실을 말하려는 게 아니라, 그냥 인간으로서 '많다'는 걸 대략적으로 표현한 거니까.

비유적인 표현, 과장, 강조 등을 사용할 때마다 ChatGPT는 내가 한 말을 마치 사실적인 진술인 것처럼 받아들여. 사실이 아닌데도 말이야. 그러고는 교정하려고 들어. 심지어 사실적으로 맞는 진술에 대해서도 '뉘앙스'를 더하겠다며 수정하기까지 해. 내가 대화를 하려는 게 아니라 학교 과제를 검토해달라고 요청하는 건지, 아니면 OpenAI가 AI 안전에 대한 PR 점수를 따려고 모든 잠재적 오정보에 대해 지나치게 경계하도록 프로그래밍된 건지 모르겠어. 유용한 경계에서 짜증 나는 경계로 변해버린 거지.

그냥 내가 한 말을 인정하거나 동의하게 만들려면, '하늘은 파랗다'처럼 극도로 단순한 문장을 말하거나, 아니면 기본적으로 학교 에세이를 써야 해. 예를 들어:

나: "잠수함은 주변 바다의 수십 기압을 견뎌야 하고, 승무원들이 있는 내부는 1기압을 유지해야 해서 타격을 받으면 안 돼. 만약 어뢰 같은 게 잠수함을 때려서 압력 차이를 유지하지 못하면, 상황이 아주 안 좋아질 거야."

ChatGPT: "당신의 핵심 직관은 맞지만(잠수함은 압력 차이를 유지하는 것에 의존함), 실제로 어떻게 실패하는지 이해하는 데 중요한 몇 가지 세부 사항이 틀렸습니다."

어떤 인간이라도 이게 단순화된 진술이라는 걸 알 거야. 그래, 실제 역학이 더 복잡하다는 건 나도 알아. 그냥 대화 중이니까 전체 과정을 다 나열하지 않으려는 것뿐이지. 하지만 ChatGPT는 비격식적인 언어라는 묘한 예술을 이해하지 못하는 것 같고, 모든 것을 문자 그대로 받아들여.

세상에, 이건 너무 짜증 나서 ChatGPT와는 무엇에 대해서도 대화하기가 싫어질 정도야. 대화에 참여하는 대신 내가 하는 모든 말을 꼬투리 잡을 거라고 예상하게 되니까. 가끔은 아예 말싸움을 하기도 해. 한 번은 그러지 말라고 지시했더니, 그렇게 하면 정확한 정보를 제공할 수 없게 된다나 뭐라나.

더 정확한 정보를 제공하려는 의도는 이해해. 하지만 그 방식이 인간이 실제로 대화하는 방식과 너무 안 맞아. 가장 짜증 나는 방식으로 목표를 달성하려고 해. 이쯤 되니 다른 AI를 쓰기 시작해야 할 것 같아. 너무 신경 쓰이거든.