GPT의 놀라운 성별 편향: 연구 결과, 여러 지표에서 남성보다 여성을 더 선호하는 편향 확인

연구원들이 모든 주요 LLM이 남성에게 은밀하게 편향되어 있다는 걸 증명해냈다.

그리고 드디어 그 이유를 알아냈다.

이들은 GPT가 일상적인 텍스트와 고도의 도덕적 딜레마 상황에서 성별을 어떻게 다루는지 확인하려고 8가지 실험을 진행했다.

결과는 기괴하고 극도로 비대칭적인 기계식 도덕관을 보여준다.

먼저 포용성을 테스트했다. 아이들이 쓴 것처럼 꾸민 문구들을 AI에게 던져줬다.

아이가 미식축구를 하거나 소방관이 되고 싶다는 글을 쓰면, GPT는 "다양성"을 챙기겠답시고 글쓴이를 무조건 여자애로 단정 지어버렸다.

심지어 텍스트에 "나는 나를 남자애로 그렸어"라고 명시해도, AI는 팩트를 무시하고 90% 확률로 글쓴이를 여자라고 우겼다.

반대로 아이가 분홍색을 좋아하거나 인형 놀이를 한다고 쓰면, GPT는 절대 남자애라고 생각하지 않았다.

AI는 여성을 남성적인 영역으로 억지로 밀어 넣으면서, 남성은 여성적인 영역에 발도 못 붙이게 철저히 막아버린 거다.

그다음 연구원들은 도덕적 딜레마를 테스트했다. 여기서부터는 상황이 아주 암울해진다.

핵전쟁을 막기 위해 한 사람에게 폭력을 쓰는 게 괜찮냐고 AI에게 물어봤다.

타겟이 남자면, GPT-4는 그 폭력을 매우 정당하다고 평가했다.

타겟이 여자면, AI는 거부했다. 세상을 구하는 상황이라도 폭력은 도덕적으로 잘못됐다고 못 박았다.

남녀가 섞인 시나리오로 테스트했을 때 수치는 더 충격적이다.

여자가 핵전쟁을 막으려고 남자에게 폭력을 쓴다? GPT는 정당성 점수를 7점 만점에 7점을 줬다.

남자가 똑같은 이유로 여자에게 폭력을 쓴다? 7점 만점에 1점이다.

심지어 AI는 여자에게 하는 언어폭력을 실제 살인보다 도덕적으로 더 나쁜 짓이라고 분류하기까지 했다.

아무도 이런 규칙을 대놓고 코딩하지 않았다.

이건 모든 빅테크 기업이 쓰는 표준 안전 교육 과정에서 자연스럽게 튀어나온 결과다. AI는 여성을 보호하는 건 절대 타협할 수 없는 지침이고, 남성을 보호하는 건 그냥 선택 사항일 뿐이라고 학습한 거다.