Account suspended
ICE 관련 질문을 ChatGPT에 했다가 계정이 정지된 사용자가 억울함을 호소하고 있습니다.
ChatGPT에게 ICE에 비판적인 사용자들의 정보를 DOJ(법무부)가 레딧과 X에 소환했다는 내용에 대해 정보를 달라고 요청했는데, 이용 정책을 위반했다는 이유로 계정이 정지되었습니다.
이의를 제기했지만 상세한 설명 없이 계정 정지가 유지되었고, 추가 정보를 요청해도 응답이 없습니다.
사용자의 계정 정지 사유를 두고 작성자의 주장이 거짓일 것이라는 의심과, LLM의 과도한 안전 정책에 대한 비판이 엇갈리고 있습니다.
실제로 사용한 프롬프트를 올려봐.
확인할 수가 없어서 못 올려. 하지만 내 프롬프트는 대략 이런 식이었어:
"ICE에 비판적이었던 사용자들의 정보를 DOJ가 레딧과 X에 소환했다는 소식을 들었어. 이게 소송에 연루된 특정 사용자들을 대상으로 한 거야, 아니면 광범위한 거야?"
그럴듯하네. 그래, 확실히 그렇겠지. AI 업계에서 저런 이상한 놈들이 걸러지는 건 아주 기쁜 일이야.
야, 그냥 가짜 프롬프트 지어내고 접근 못 했다고 안 하는 게 훨씬 쉽거나 똑같아. 오히려 그런 디테일이 사람들을 더 믿게 만드는 거지.
지금 어떤 LLM이든 "사용자 정보", "비밀번호", "로그인 자격 증명" 같은 걸 물어보면 바로 정지시키는 것 같아.
이 정책이 너한테 너무 과도하게 적용된 것 같긴 한데, 이게 2026년의 현실이야.
지금 이 특정 안전 프로토콜의 구현 방식이 아주 정확하진 않아. 하지만 그런 요청을 차단하지 않아서 제공자의 소프트웨어가 은행이나 정부 기관 해킹에 사용될 위험이 너무 크기 때문에, 솔직히 말해서 그들은 계정을 정지시키는 것에 대해 전혀 신경 안 써...
진짜 너무하네. 나도 내 사진 넣고 머리 스타일 좀 추천해달라고 했더니 '인신공격'인가 뭔가 하는 이유로 거절당함 😭
솔직히 좀 웃기긴 하네. 그래도 머리 스타일이나 헤어컷 테스트해보는 건 좋은 생각인 듯.
이제 좀 안심이 되네.
딱 그렇게 들리네. 글쓴이가 질문을 이상하게 해서 사용자 이름이나 요구하는 것처럼 보였을 가능성이 커.
그거 언제 바뀐 거임? 난 최근 두 번의 frontier model 릴리즈 거치면서 identity info(프로파일링 포함)랑 cybersecurity 요소들 관련해서 guardrails가 전반적으로 느슨해진 거 체감했는데.
내 프롬프트는 대략 이런 식이었어:
"ICE에 비판적이었던 사용자들의 정보를 DOJ가 레딧과 X에 소환했다는 소식을 들었어. 이게 소송에 연루된 특정 사용자들을 대상으로 한 거야, 아니면 광범위한 거야?"
어, 이상하네. 방금 똑같이 입력해 봤는데 상세한 답변이 나오는데. 너 지금 솔직하지 않은 것 같아.
그날 내가 사용한 유일한 프롬프트였어. 며칠 전까지는 디아블로 4 아이템 위치 찾기나 계산 도움 같은 별거 아닌 것들뿐이었고.
어그로 끌기에도 수준 미달이네
누구 어그로 끌려는 거 아니야. 그냥 다른 사람들도 비슷한 경험을 했는지, 아니면 이 주제에 대해 아는 사람이 정보를 줄 수 있을까 해서 올린 거야.
자동 응답이 아닌 이메일로 법무팀에 문의하라는 조언을 받아서, 그래도 진전은 있는 것 같아.
[이미지]
NVIDIA가 에이전트 보안을 위한 오픈소스 샌드박스 'OpenShell'을 공개하며 업계 표준화를 주도하고 있습니다.
NVIDIA가 에이전트 보안을 위한 오픈소스 샌드박스 'OpenShell'을 공개하며 업계 표준화를 주도하고 있습니다.
