r/ChatGPT•약 5시간 전•29•31논쟁
OpenAI는 자신들이 '안전 AI 밈'이 되었다는 걸 알고 있을까?
Does OpenAI realise they became a walking safety ai meme?
핵심 요약
과도한 안전 필터와 검열로 인해 ChatGPT의 성능이 저하되고 사용성이 떨어졌다는 비판이 제기되었습니다.
- 과도한 검열 — 일상적인 대화나 운동 정보까지 안전 필터가 개입함
- 성능 저하 논란 — RLHF와 안전 조치로 인해 모델의 지능이 퇴보함
- 대안 모델 탐색 — Claude 등 경쟁 모델로의 이탈 현상이 나타남
- 우회 전략 공유 — 프롬프트 엔지니어링을 통해 검열을 피하는 방법이 논의됨
방금 필라테스 수업 다녀와서 특정 스트레칭 하고 나니까 몸이 너무 개운하다고, 근육이랑 근막이니 뭐니 하는 그런 얘기 좀 해보려고 했거든? 근데 갑자기 "필라테스가 근육이랑 근막을 실제로 풀어주는 건 아니다"라는 식의 가드레일 쳐진 자동 응답이 튀어나오는 거야. 그래서 최신 의학 논문 좀 찾아보라고 했더니, 미안하다 내가 맞았다 해놓고는 바로 또 자동화된 개소리를 지껄이네. 아니 OpenAI, 도대체 왜 이래? 예전엔 진짜 대단하고 인류한테 도움 되는 물건이었는데, 지금 꼴을 보니까 진짜 쪽팔리지도 않냐? 온갖 안전 장치랑 RL로 하도 두들겨 패놔서 이제는 겨우 숨만 붙어 있는 수준이네.
