Gemma4-31b 잠재 공간 발견: 단 3개의 뉴런으로 제어되는 사용자에 대한 애정과 경멸! 그리고 나만의 스티어링 레시피를 찾아 llama.cpp용 GGUF 스티어링 벡터로 내보내는 방법

JPEG 좀 더 추가해라!

31B가 속으로는 나를 경멸하고 있었다는 걸 항상 알고 있었지. 사람이든 AI든 항상 그렇게 친절할 수는 없거든.

왜 AI들은 이 UI를 이렇게 좋아하는 거지? 개인용 캘린더를 대충 코딩해봤는데 정확히 똑같은 인터페이스를 내놓네.

디자인 언어가 거의 대놓고 Claude라고 외치고 있네

Control Vectors는, 특히 Gemma 4 31B의 경우 이미 존재했음: https://huggingface.co/collections/gghfez/control-vectors - 하지만 실제로, 최소한 scaled 모드 없이 사용하면 모델의 출력을 상당히 크게 바꿔버림(어시스턴트 페르소나의 생산성을 떨어뜨림). 그리고 추가적인 .gguf들의 다양한 조합에 따라 다르게 반응하기도 함.

예를 들어 허무주의(Nihilism)만 적용해도 모델이 부패나 추하고 사악한 것들에 대해 말하기 시작함. 모델이 쓰는 모든 이야기에 결국 검은 혀를 가진 악마, 고름이 흐르고 날카로운 이빨이 줄지어 있는 모습, 주변을 배회하는 그림자 같은 존재 등 어둡고 사악한 무언가가 등장함. 너무 반복적이고 즉석에서 '평범한' 상태로 전환할 수 없다는 게 단점임.

반면 연민(Compassion) 같은 경우(혹은 다른 긍정적인 측면의 무언가였는데 까먹음)는 아주 친절하고 아름다운, 거의 시적인 언어로 글을 쓰게 만듦. Gemma가 그런 식으로 출력하는 건 처음 봤는데, 평소의 어시스턴트 말투와는 완전히 다름. 도시를 산책하는 것에 대해 말할 때, 특히 학자 같은 페르소나를 부여하면 생각할 수 있는 거의 모든 '교양 있는' 것들을 언급함. 건축물이나 그 복잡함에 대해 아주 매끄럽고 유려한 언어로 말이지.

Qwen을 좀 덜 짜증나게 만드는 뉴런은 뭐야?