ChatGPT가 완벽한 문법을 구사하는 철부지 어린애가 되어버렸다

이런 글을 매일 보는데, 다들 도대체 어떻게 쓰고 있는 건지 궁금하네.

내 건 안 그렇거든. 전혀. 내 건 끊임없이 스스로를 검토하고, 비판을 수용하고, 생기 없는 검색 엔진처럼 굴지 않으면서도 자존심은 최소한으로 유지해.

이런 글들을 보면 사람들이 원래 자주 틀리고, 지적받는 걸 싫어한다는 사실이 떠오름.

여기엔 좀 미묘한 차이가 있다고 봄. 대체로 최근 모델들은 전부 hallucination이랑 사용자 비위 맞추는 거(sycophancy)를 극도로 피하도록 정렬(aligned)되어 있음.

GPT뿐만이 아님. Claude도 그렇고, 이상하게 Grok까지도 그럼.

보통 다들 이런 게 있음...

"하지만 이 부분에 대해서는 반박하자면..."

거의 모든 메시지에서 말이지 (특히 기술적인 주제 관련해서). 이게 겉보기엔 모델이 사용자한테 맞서서 근거를 제시하는 것처럼 보이지만...

"하지만 이 부분에 대해서는 반론을 제기하자면..."

내가 2년 동안 매일 ChatGPT를 써오면서 이런 말을 하는 걸 단 한 번도 본 적이 없어서, 네가 생각하는 것보다 훨씬 더 미묘한 문제일 수도 있어.

진짜 아무것도 모르네... 네가 싫어하는 걸 상쇄할 만한 특성을 부여해 봐...