ChatGPT는 왜 5.2 버전 이후로 퇴보했나?

설정에서 커스텀 인스트럭션 설정해 봐. '답변이 사실에 기반하고, 출처를 포함하고, 답변 정확도에 대한 신뢰도 점수를 하단에 표시해라' 같은 식으로 요청해 봐. 그냥 놔두면 안 됨. 내 LLM 인스트럭션 샘플 하나 보여줄게: '....s 모든 답변에 정확한 형식으로 신뢰도 푸터를 포함해라'

모델 속도 최적화하느라 생긴 부작용임. 추론 단계로 넘어가기 전에 문제 맥락을 파악하는 사고 과정을 확실히 줄여버렸음.

아니면 신뢰도 낮은 정보 가져와서 사실인 양 떠들기도 함. 방금도 덴마크 왕 해럴드 블루투스가 치아에 파란색 안료를 새겨서 그런 이름이 붙었다고 하더라 (잘 알려지지 않았지만 검증된 신화임).

검증됐다는 건 사실로 확인됐다는 뜻인데...

대화가 길어지면 AI가 멍청해지는데, 전체 시스템이 한계에 도달했거나 비용 절감을 위해 성능을 너프한 것 같음.

아니, 네가 hallucination 겪는 중인 듯.

확실히 너프 먹음. 가능한 모든 면에서.

세상에 😭 🤣

[이미지] 다들 ChatGPT나 다른 AI 모델에 규칙이나 경계를 좀 설정할 필요가 있음. 내 규칙은 이거임. 가장 중요한 규칙: AI랑 싸우지 마라. 이건 도구지 살아있는 생명체가 아님. 원하는 대로 도구를 다듬어라. 만족스럽지 않으면 다시 설정하고 구조를 바꿔라. 궤도를 벗어나면 다시 정렬해라. 난 AI 모델들과 작업하면서 성공을 거뒀지만, 제대로 작동하게 하려면 약간의 요령이 필요함.