오늘 ChatGPT랑 처음으로 윤리 문제로 말싸움함. 이거 6.1 버전 문제임?
Had my first ethical argument with ChatGPT today. Is this a 6.1 thing?
핵심 요약
ChatGPT가 사용자의 업무용 스프레드시트 작업을 '부정직하다'고 판단해 거부하며 윤리 논쟁이 발생한 사례.
- 윤리적 검열 — AI가 사용자의 업무 의도를 오해해 작업을 거부함.
- 버전 변화 — 6.1 버전에서 가드레일이 지나치게 엄격해진 것으로 추정됨.
- 버그 리포트 — 사용자들이 AI의 과도한 거부를 버그로 신고해야 한다고 조언함.
- 우회 방법 — '이익' 같은 단어 대신 '예상 변동성' 같은 용어를 사용하라는 팁 공유.
닷(dot) 기능을 엄청 자주 써왔는데, 오늘 처음으로 꽤 기본적인 업무 요청을 대놓고 거절하더라.
나는 측량 작업을 고정 금액으로 견적 내거든. 90시간 걸릴 줄 알았는데 200시간 걸리면 그건 내 사정이지. 그래도 같은 돈 받고 끝내야 해. 그래서 일이 항상 계획대로 흘러가진 않으니까 견적에 여유분을 좀 더 붙여놓는단 말이야.
오늘 이미 합의된 가격을 스프레드시트에 넣어야 했어. 10% 수익을 보여주고 나머지 여유 자금은 예상 작업 인원과 사무실 운영 시간에 녹여내고 싶었거든. 요율은 그대로, 총액도 그대로인 상태로 말이야.
근데 챗봇이 내가 수익을 숨기고 시간을 조작한다고 판단하더라. 이건 그냥 견적일 뿐이고 어차피 얼마가 나오든 똑같이 받는다고 계속 설명했지. 그랬더니 오해의 소지가 있는 작업은 도와줄 수 없다고 계속 우기는 거야.
앉아서 그 꼴을 보고 있자니 진짜 어이가 없어서. 아니, 스프레드시트 좀 도와달라는데 이게 왜 갑자기 윤리 토론으로 번지는 거냐?
결국 나중엔 내 의도를 알아먹긴 했는데, 그때쯤엔 이미 내가 직접 다 고쳐버린 뒤였음.
6.0 쓸 때는 이런 적 한 번도 없었거든. 6.1로 넘어오면서 뭐가 바뀐 건지, 아니면 이 채팅 세션만 맛이 간 건지 모르겠네. 너네도 챗봇이 너네가 잘못하고 있다고 단정 짓고, 설명해도 계속 말대꾸하는 경험 해본 적 있냐?
