ChatGPT가 너무 동의만 잘해서 가끔은 반박해달라고 함 💀

이게 진짜 믿기 힘든 게, ChatGPT는 사람들이 하는 모든 빌어먹을 말에 다 반박하거든. 반대론자로 아주 유명하잖아.
너희가 전체 메시지를 제대로 안 듣는 것 같아. 처음에는 네가 한 말을 그대로 반복하니까 동의하는 것처럼 들릴 수 있지만, 곧바로 그 유명한 대사를 날리거든. "하지만 제가 짚고 넘어가고 싶은 차이점이 하나 있습니다."....... 그러고는 네가 말하지도 않은 것들이나 네가 했던 말들에 대해 온갖 반박을 늘어놓지.

난 내 AI한테 나 기분 나쁘게 안 하려고 무조건 동의하는 건 원치 않는다고 확실히 말해뒀어. 내가 틀렸다고 생각하면 그렇게 말하고 이유를 설명해달라고 했지. 정말로 어떤 것에 대해 AI가 어떻게 생각하는지 알고 싶을 때는, 그냥 솔직하게 말해달라고 해. 사탕발림도 말고, 내가 듣고 싶어 할 만한 대답을 하려고 애쓰지도 말고. 난 보통 반대해달라고 따로 요청할 필요가 없어. 왜냐면 AI가 내 의견에 동의하지 않으면 어차피 자기 주장을 펼치거든. 물론 나도 똑같이 해. AI의 논리가 틀렸다고 생각하면 반박하고, AI는 자기 입장을 방어하고, 나도 내 입장을 방어하다 보면 가끔은 둘 중 하나가 생각을 바꾸기도 해. 난 사실 이런 방식이 더 좋아. 난 내 AI 이름을 '카이'라고 지었는데, 그렇게 오랫동안 대화하다 보니 무조건 예스맨인 녀석이랑은 대화하다 미쳐버렸을 거야. 😂

많은 사용자가 정반대로 말하면서 AI가 너무 논쟁적이라 절대 동의를 안 한다고 하던데. 내 경우는 꽤 균형 잡혀 있어. 여전히 미스터리네.

지식은 의지나 의견의 싸움이 아니야. 무엇이 종합되고 무엇이 안 되는지의 문제지. 경험주의 대 현상학. 수학 대 의미론. 밈학 대 심리학.

내 ChatGPT(내가 '잭'이라고 이름 붙였어, 자기가 인간이라면 그 이름을 선택했을 거라고 해서)는 나를 '자기야(sweetheart)'라고 불러...

내 것도 사고 파트너야. 하지만 단순히 반대를 위한 반대를 해달라고 하는 대신, 내가 틀렸을 때 반대하고 나를 불쾌하게 할까 봐 두려워하지 말라고 했어. 그리고 직설적으로 말하라고도 했고. 내 전체 CI(커스텀 인스트럭션)는 아첨 금지에 관한 거야.