OpenAI tipped off police more than 200 times in three months over ChatGPT chats
OpenAI의 경찰 신고 소식에 오해로 인한 계정 정지나 과도한 검열을 우려하는 사용자들의 불안감이 커지고 있습니다.
madrobot.blog
원문 사이트로 이동
사용자들은 OpenAI의 경찰 신고 정책이 오탐지로 이어져 무고한 사용자가 정지당할까 봐 불안해하며, 검열 시스템의 불투명성과 이의 제기 절차 부재에 대해 강한 불만을 표하고 있습니다.
내가 걱정하는 건 오탐지야.
내가 ChatGPT로 하는 일 중 하나가 드라마를 보는 건데, 보통 폭력적인 드라마는 안 좋아하지만 가끔 토론해 볼 만한 장면이 나오기도 하거든.
내가 알기로 시스템 작동 방식상 대화 한 번 했다고 바로 신고하지 않아. 행동 패턴이 감지되면 그때 플래그가 뜨고, 직원이 검토한 뒤 경찰에 알릴지 결정하는 거지.
이런 식으로 걸리는 사람들은 살인을 치밀하게 계획하거나 사람을 독살하려는 미친 짓을 하는 사람들이야. 넌 괜찮아.
경찰 신고 건은 딱히 걱정 안 해. 하지만 오탐지로 사람들을 자동으로 정지시키고 제대로 된 이의 제기 절차도 제공하지 않는 그들의 습관이 문제지. 제발 그런 식으로 일을 더 키우지 않았으면 좋겠어.
AI가 직접 경찰에 연락한다는 얘기도 들었어. 네 말이 틀렸다는 것도 아니고 내 말이 100% 맞다는 것도 아니지만, 넌 실제 작동 방식보다는 '이렇게 작동해야 한다'는 걸 말하는 것 같아.
사람들이 정지당하는 99.9%의 이유는 불법적인 걸 만들려고 했기 때문이야. 그래서 정지당했다는 글들은 하나같이 왜 정지당했는지 설명도 안 하고 대화 내용 증거도 절대 안 보여주는 거지. 항상 '연구'나 '사이버 보안', '학술', '생물학' 같은 핑계만 대잖아. 그런 글들 잘 봐봐, 매번 똑같은 레퍼토리야. 다들 경고받은 적도 없고 문제 일으킨 적도 없다고 하지.
이 모델들을 다뤄본 사람이라면 누구나 알겠지만, 얘네는 거의 뭐든 만들어낼 수 있어. ChatGPT에서 정지당했다면 그건 네가 불법적인 걸 만들려고 했고, 가이드라인과 이용 약관을 고의적이고 명시적으로 우회하려고 했기 때문이야. 끝.
어떻게 유두가 나오게 만든 거야??
정지당하고 나면 대화 내용을 볼 수는 있어?
네 말이 맞길 바라지만, 걔들은 항상 그게 위반 사항이 아니라고 주장하잖아. 그래도 네 말이 맞아. 아직까지 구체적인 사례를 본 적이 없거든.
난 전투 시나리오가 포함된 RPG를 만들고 있어. 완곡한 표현을 쓰려고 노력하는데('죽이다' 대신 '처리하다'를 쓰고 '폭탄'은 피하는 등), 모델이 자꾸 문자 그대로의 잔인한 묘사를 내놓아서 '아, 나 진짜 지친다. 그냥 정지나 당해라' 싶은 기분이야.
맞아, 유튜브 크리에이터들처럼 질문을 요리조리 피해 가는데도 모델이 문자 그대로 잔인한 묘사를 내놓으면... 입 좀 다물어, 나 정지당하게 만들 셈이야? 싶어. 스트레스받아. 무엇보다 자동 정지 시스템을 믿을 수 없는데 사람한테 이의 제기할 방법도 없으니까.
이것 때문에 너무 편집증이 생겨서 ChatGPT 쓸 때마다 불안해. 이래선 안 되는데.
그럼 다른 LLM을 써보는 건 어때? 개인용이고 제한 없는 모델들도 많잖아.
200건이면 1년에 꽤 합리적인 수준 같은데.
난 예전에 탄도학 관련 가게에서 일해서 탄도학 질문이나 설계를 많이 물어보거든... 그거 때문에 테러리스트처럼 보이기 딱 좋을 것 같아.
내 배경은 항공우주 공학인데, 미국 군수품 목록(US munitions list) 중에서도 특히 카테고리 IV와 XV에 해당하는 것들에 대해 기술적인 질문을 하거든. 그래서 후티 반군이 ICBM 만들려다 걸린 것처럼 나도 플래그(flagged) 당하지 않길 바랄 뿐임.
신고당했을 때 미리 알려줘서 대비할 수 있게 해주면 좋겠네 ㅋㅋ
앤스로픽의 '20배 플랜' 마케팅이 허위 광고라는 이유로 집단 소송이 제기되어 사용자들 사이에서 논란이 일고 있습니다.
앤스로픽의 '20배 플랜' 마케팅이 허위 광고라는 이유로 집단 소송이 제기되어 사용자들 사이에서 논란이 일고 있습니다.
AI를 사용하는 인간의 자립성과 문명 의존성에 대한 철학적 논쟁을 다룬 포스트입니다.
AI를 사용하는 인간의 자립성과 문명 의존성에 대한 철학적 논쟁을 다룬 포스트입니다.
