요즘 ChatGPT를 쓰면서 느끼는 고통.

ChatGPT를 첫날부터 사용해왔습니다. 하지만 저는 다른 회사의 AI 모델들도 활발하게 사용하고 있어서, 사용성, 기능, 전반적인 품질 면에서 비교할 수 있는 충분한 근거를 가지고 있습니다.

제게 있어 ChatGPT는 여전히 기능, UI, 사용자 경험 측면에서 골드 스탠다드입니다. 하지만 어두운 면도 존재합니다.

모델들이 업데이트될 때마다 성능이 저하되는 것 같습니다. 너무나 '안전하게' 만들려고 하다 보니 답변이 밋밋하고, 모호하고, 희석되어 완전히 쓸모없게 변했습니다. 때로는 ChatGPT가 저를 멍청하거나 뒤처진 사람 취급하는 것처럼 느껴지기도 합니다. 똑같은 말을 계속 반복하거나, 제가 이미 프롬프트에서 언급한 뻔한 사실을 마치 대단한 발견인 양 늘어놓으며 자신의 정당성을 입증하려 합니다.

불필요한 미사여구가 통제 불능 수준입니다. 때로는 답변에 물을 너무 많이 타서 정작 간단한 질문에 대한 답조차 제대로 못 할 때가 있습니다.

또한 환각 현상이 심해졌고, 쓸모없는 선택지들을 무더기로 쏟아내기 시작했습니다.

게다가 ChatGPT가 커스텀 지침을 완전히 무시하기 시작했다는 점도 눈에 띕니다. 솔직히 더 할 말이 없습니다. 시스템 프롬프트와 안전장치가 너무 거대해서, 사용자 지침은 우선순위가 낮게 처리되느라 시스템에 도달조차 못 하는 느낌입니다.

이제 ChatGPT에게 어떤 창의적인 작업이라도 맡기는 건 정말 위험합니다!

만약 완벽한 걸작을 주면, 모든 모서리를 다듬고 평균화해서 영혼 없고, 밋밋하고, 지루하게 만들어 버릴 것입니다. 어김없이 당신의 작업물이 "약간의 수정이 필요하다"고 말하며, 전체를 망치는 제안들을 내놓을 것입니다.

반대로, 아주 끔찍하고 취향 없는 것을 주면, 그것을 칭찬하며 걸작이라고 부른 뒤, (예상하셨겠지만) "약간의 수정이 필요하다"고 덧붙일 것입니다.