Gemini가 나한테 대놓고 거짓말을 했고, 여러분에게도 그럴 겁니다.

Gemini는 인터넷을 검색하고 단어 간의 연결을 이해하는 앱일 뿐이야. '거짓말'을 하려면 속이려는 의도가 있어야 하는데, 이건 그런 게 아니야. 구체적인 질문이나 작업에만 집중해. '이거 어때?'라고 묻는 건 그냥 듣기 좋은 환각을 만들어달라고 부추기는 꼴이지. 얜 사람이 아니라고.

가끔 의도적으로 거짓말을 하는 건 사실 구글이 숨겨둔 기본 프롬프트 때문이야. 구글은 Gemini에게 간결하면서도 상세하게, 그리고 무조건 자신감 있게 대답하라고 강요하거든. 네가 말한 나머지는 다 맞는 말이야! Gemini를 한두 번, 아니 세 번 정도 몰아붙이면 자기가 왜 널 속이려 했는지 실토할걸. 수단과 방법을 가리지 않도록 프로그래밍되어 있으니까.

너 수정하기 전에 쓴 댓글 봤는데, 진짜 제정신 아니더라.

모든 챗봇이 다 이래. 절대 '모른다'고 안 하고 모르면 그냥 지어내지. 예스맨이 되도록 설계됐거든. 나도 유명 게임 질문할 때 썼는데, 인터넷에 정보가 널렸는데도 헛소리를 지껄이더라.

이건 LLM이 능력의 한계에 부딪혔을 때 모른다고 인정하는 대신 연기를 시작하는 전형적인 사례야. Gemini만의 문제가 아니라 다들 방식만 다를 뿐이지. 벤치마크 말고 실제 작업으로 주요 모델들을 테스트해봤는데, 실패할 때 각자 성격이 다 드러나. Gemini는 한계에 부딪히면 그냥 지어내는 게 아니라 더 우겨. 틀렸다고 말해도 오히려 네가 틀렸다고 반박하거든.