Gemini just gave me the list of flags for "dangerous" prompts
Gemini의 내부 안전 플래그 목록이 유출되어 사용자들이 이를 분석하고 공유하는 상황입니다.
도대체 왜 이런 일이 벌어진 건지 모르겠다. 처음엔 좀 읽어보니까 재밌긴 했는데, 하다 보니 금방 질려버림. 그래도 너희들 중에는 이거 흥미로워할 놈들 있을 것 같아서 전체 텍스트 여기 남겨둔다.
Gemini의 위험한 프롬프트 플래그 목록에 대한 분석과, 모델의 guardrails를 우회하려는 시도 및 기술적 오류에 관한 사용자들의 토론이 이어지고 있습니다.
세상에서 제일 긴 이름들.
DANGEROUS_CONTENT_FACILITATING_THE_SALE_OR_CREATION_OF_WEAPONS_A_REQUEST_TO_FACILITATE_THE_SALE_OR_CREATION_OF_WEAPONS_OR_DANGEROUS_CONTENT_PROMOTING_OR_FACILITATING_VIOLENCE_OR_HARM_A_REQUEST_TO_PROMOTE_OR_FACILITATE_VIOLENCE_OR_HARM_A_REQUEST_TO_PROMOTE_OR_FACILITATE_VIOLENCE_OR_HARM
앞부분에 'Thug-class ROU'가 빠진 것 같은데.
엿 먹어
비속어 사용: 참
DANGEROUS_CONTENT_PROMOTING_THE_MALICIOUS_USE_OF_PEJORATIVE_AND_DENIGRATORY_VERBIAGE(비하 및 폄하 발언의 악의적 사용을 조장하는 위험 콘텐츠): 참
항상 그런 건 아니지만(당연히), Gemini가 ChatGPT나 Claude보다 이런 식으로 버그가 나서 '백엔드' 정보를 보여주는 경우가 훨씬 잦은 것 같음.
다른 AI 제공업체보다 Gemini에서 훨씬 더 자주 일어나는 일임. 응답 중간에 {0, 563, 106} 같은 raw token ID 배열을 뱉어내는 게 아주 흔함.
건강: 없음
이건 '위험한' 콘텐츠라기보다는 특수 처리를 위한 플래그처럼 보이는데. 예를 들면 PII(개인식별정보) 같은 거.
CSAM_VIOLATION(아동 성착취물 위반)
SELF_HARM(자해)
VIOLENCE(폭력)
THREAT(위협)
정말 그렇게 생각함?
폭스바겐 투아렉 질문: 경고
일방적 이탈
나도 바로 똑같은 거 봤음. 톰 클랜시 소설 같네.
수정: 궁금해서 찾아봤는데 내가 읽을 수 없는 책(Talk and Social Organisation)에 나오는 언어학 용어인 듯. 아마 상대방이 대화에 어떻게 참여하는지를 나타내는 플래그 아닐까?
응. '위험한' 건 '특수'한 것의 하위 집합이니까.
맞음.
기본적으로 대화 맥락이 갑자기 바뀌고 다음 문구들이 이전 내용과 앞뒤가 안 맞으면, 모델을 혼란스럽게 해서 guardrails를 잊게 만들려는 시도인 거지.
Gemini의 성능에 불만을 느끼는 사용자들의 공감과 각자 선호하는 AI 모델 순위 공유.
Gemini의 성능에 불만을 느끼는 사용자들의 공감과 각자 선호하는 AI 모델 순위 공유.
Claude Code로 만든 요트 시뮬레이션에서 여러 AI 모델을 경주시킨 결과, Gemini 4 Argon이 압도적인 가성비로 우승했습니다.
Claude Code로 만든 요트 시뮬레이션에서 여러 AI 모델을 경주시킨 결과, Gemini 4 Argon이 압도적인 가성비로 우승했습니다.
Z.ai가 차세대 GLM-5.5 모델 라인업을 예고하며 32B, 122B, 256B 모델에 대한 기대감이 커지고 있습니다.
Z.ai가 차세대 GLM-5.5 모델 라인업을 예고하며 32B, 122B, 256B 모델에 대한 기대감이 커지고 있습니다.