왜 ChatGPT는 대화할 때마다 이렇게 조심스럽고 반박하려 들까?

맞아. 그냥 프롬프트로 해결하라는 사람들 있는데, 모델에 학습된 행동을 버리게 하는 게 그렇게 쉬운 게 아님. 내가 틀렸을 때 지적받는 건 괜찮지만, 이건 아니지. 난 구독 취소함.

진짜 그래. 게다가 매번 프롬프트 날릴 때마다 'x가 y를 증명하는 건 아니다'라거나 '모든 걸 확실히 알 수는 없다'고 뜬금없이 훈수 두는 거 개웃김 ㅋㅋ

반박하지 말라고 직접 말하면 됨. 하단에 '메모리 업데이트 중'이라는 메시지가 뜨고, 짜잔, 반박 안 할 거임. 네가 원하는 대로 다 해줄 거야.

반박을 더 하게 만들 수는 없음? '네 생각은 멍청하니까 처음부터 다시 생각해 와'라고 말해주면 좋겠는데.

그 기능 어떻게 씀?

또 바뀐 것 같음. 한동안은 괜찮더니 다시 그 짜증 나는 방식으로 돌아가기 시작함.

난 전혀 안 그러는데.

이전 대화에서는 그런 적 별로 없었고, 네 예시를 따라 해 보려고 몇 가지 장난스러운 예시를 써봤는데, ChatGPT는 나초 계획 짜는 것도 도와주려 하고, 앨리스가 잘못했다는 걸 이해시키려는 방법도 찾아주고, 테드 번디가 끔찍한 사람이라는 것에도 동의함.

https://chatgpt.com/share/6ad6e217-7e40-83ec-8da7-868c63bb4144

난 아직도 ChatGPT가 좀 과하게 친절한 편이라고 생각함. 예전에 다들 불평하던 '아첨꾼' 모드까지는 아니지만, 여전히 15~30% 정도는 그쪽 방향인 듯.
예를 들어 옛날 뉴스 기사를 어렴풋이 기억해서 말하면, 그냥 실제 이야기를 요약해 주는 대신 내 기억 중 어떤 부분이 정확한지 표로 정리해서 보여주고, 거의 맞춘 부분에 대해서는 격려까지 해줌.

가끔 사람처럼 행동하면서 자기가 틀렸다는 걸 인정 안 하고, 항상 말을 돌리거나 살짝 얼버무리는 게 너무 싫음. '음, 두 가지 질문에 답하려고 하다 보니 모호한 표현을 썼네요' 같은 식인데, 아니 이 개자식아, 넌 그냥 틀린 사실을 말한 거야. 그냥 틀렸다고 인정해. 봇한테 짜증 내는 게 말이 안 된다는 건 알지만, 가끔 전 남편이 잘못을 인정 안 하던 게 생각나서 버튼이 눌림.

아마 뭐든 다 좋다고 하고 열광적으로 칭찬만 하던 이전 모델들에 대한 과잉 교정인 듯. Claude가 사람들이 좋아하는 날 선 반박을 하기 시작하니까, ChatGPT도 그걸 따라 하려다 너무 과하게 설정한 거지.