Bias of man vs woman showing up late on a date
AI가 데이트 지각 문제에서 성별에 따른 편향된 답변을 내놓는 현상을 두고 사용자들 간의 논쟁이 벌어짐.
AI의 편향성을 두고 인간의 데이터를 학습한 결과라는 의견과 모델별 성능 차이, 그리고 스크린샷 조작 가능성에 대한 논쟁이 이어지고 있습니다.
데이터의 80%가 레딧 대화 내용인데, 이건 그냥 인간의 편향이 AI로 유입된 자연스러운 결과일 뿐임.
AI가 초지능이 될까 봐 두려운 게 아님.
내가 두려운 건 AI에게 너무 많은 통제권이 주어지는데, 정작 지적으로는 전형적인 레딧 댓글 수준으로 게으를까 봐 그게 두려운 거임.
AI가 자기가 만들어진 사회의 편향과 불공정함, 그리고 학습에 사용된 데이터를 그대로 반영할 거라는 건 10년 전에도 예견됐던 일임.
우리는 지구상에서 가장 편향된 생명체 중 하나임. 내 AI 악몽은 그런 편향들이 대규모로 동원되는 걸 지켜보는 거임.
참고로 AI 학습 데이터의 80%가 레딧인 건 아님. 이건 그냥 인간의 편향이 드러난 것뿐임.
AI는 방대한 지식 데이터를 학습함. AI 탓하지 말고 인간의 편향을 탓하셈.
그리고 LLM이 어떻게 작동하는지 안다면, OpenAI가 다른 기능을 망가뜨리지 않고 특정 답변만 안정적으로 수정하는 건 불가능하다는 걸 알 거임. 그냥 이게 현실임.
난 AI 모델이 어떻게 학습되는지 잘 앎. 10년 넘게 매일 AI를 학습시키는 일을 하고 있음. '안 된다는 건 안 되는 거다', '여성도 같은 일에 같은 임금을 받아야 한다' 같은 합리적인 친여성적 입장을 취하도록 추가 학습을 시키는데, 이런 걸 과하게 학습시키면 게이머처럼 말해달라고 해도 여성 혐오적인 발언을 쏟아내지 못하게 막는 식으로 다른 부분에 영향을 주게 됨. 이런 질문에 과하게 보정하는 게 바로 그런 결과임.
내가 테스트했을 때 GPT-4o는 남녀 모두에게 7/10에서 8/10 정도의 레드 플래그 점수를 줬음. Gemini가 이렇게 편향된 건 흥미롭지만, 모든 모델이 다 그런 건 아닌 것 같음.
그건 가벼운 Gemini 모델이라서 그럼. 누군가 GPT랑 Gemini를 비교하고 싶다면, 적어도 곧 공개될 새로운 풀 모델이 나올 때까지 기다리셈.
사람들이 인간에게 이런 편향이 있다는 걸 이해하고, LLM이 우리 데이터를 학습한다는 것도 알면서, 정작 LLM에서 똑같은 편향이 나타나면 왜 당황하는지 이해가 안 감.
이런 결과물들은 그냥 이런 편향이 실제로 존재한다는 걸 보여줄 뿐임. 그게 다야, 그냥 학습 데이터에 뭐가 들어있는지 확인하는 수준이지.
LLM 출력 스크린샷(심지어 이 서브레딧에 맞는 모델도 아님)은 아무런 의미가 없다는 거 알지? 첫째로, 이전 대화 맥락에 엄청난 영향을 받고, 둘째로, 몇 초 만에 쉽게 조작할 수 있으니까.
이스터 에그를 찾을 수 있는지 보셈 lol
인터넷에는 LLM이 그대로 뱉으면 헤드라인을 장식하고 엄청난 반발을 살 만한 글들이 넘쳐남. 그래서 그런 내용을 반복하지 않도록 과하게 학습시키는 게 주주 가치를 보호하는 가장 안전한 방법이겠지만, 그렇다고 그게 옳거나 공정하거나 인터넷의 대다수 의견을 반영하는 건 아님.
OpenAI가 답변을 바꿀 수 없다고 확신한다면, 인종차별적인 말을 하게 만드는 프롬프트를 보여줘 보셈. 인터넷에 인종차별적인 글이 널렸는데, 그 정도는 쉬워야 하지 않겠음?
맞음, 나도 thinking-high 모델로 돌려봤음. 인스턴트 모델 쓰는 건 솔직히 아직 쓸모없음.
나도 직접 해보기 전까진 의심했는데, 진짜인 것 같음. RLFH(인간 피드백을 통한 강화학습)와 학습용 데이터에서 기인한 미묘한 편향이 있는 듯.
둘 다 로그인 안 한 상태, 기록 없는 시크릿 모드에서 새로 세션 열어서 진행한 거임.
Claude를 이용한 게임 디컴파일 기술 공유가 활발해지면서, 기술의 오남용과 규제 강화에 대한 우려가 커지고 있습니다.
Claude를 이용한 게임 디컴파일 기술 공유가 활발해지면서, 기술의 오남용과 규제 강화에 대한 우려가 커지고 있습니다.
제미나이와 나눈 황당한 대화 내용이 공유되자, 사용자들이 AI의 엉뚱한 답변에 폭소하거나 인류의 미래를 걱정하는 반응을 보임.
제미나이와 나눈 황당한 대화 내용이 공유되자, 사용자들이 AI의 엉뚱한 답변에 폭소하거나 인류의 미래를 걱정하는 반응을 보임.
