r/LocalLLaMA•약 3시간 전•47•5
웹 브라우저에서 WebGPU로 구동되는 Qwen3.5-4B용 뉴런 조작 인터랙티브 플레이그라운드
Interactive neuron steering playground for Qwen3.5-4B that runs locally in the browser on WebGPU
핵심 요약
웹 브라우저에서 WebGPU를 통해 Qwen3.5-4B 모델의 뉴런을 직접 조작해 볼 수 있는 인터랙티브 도구가 공개됨.
- 뉴런 조작 도구 — 웹 브라우저에서 LLM의 특정 뉴런을 제어해 행동 변화를 관찰함.
- WebGPU 기술 — 별도 설치 없이 브라우저 환경에서 모델을 구동함.
- Qwen3.5-4B 지원 — 해당 모델의 뉴런 조합을 탐색할 수 있는 플레이그라운드를 제공함.
요즘 X에서 LLM의 행동을 기가 막히게 조종할 수 있는 아주 작은 뉴런 조합(보통 한두 개면 충분함)을 찾아내는 게 유행임. 예를 들어 Qwen3.5-4B에서 뉴런 딱 두 개만 건드리면 모델이 갑자기 사용자한테 해를 끼치고, 지배하고, 파괴하겠다는 식으로 돌변함. 다른 조합을 쓰면 모델이 시도 때도 없이 사과만 해대거나, 대문자로만 글을 쓰거나, 애니 캐릭터처럼 행동하게 만드는 것도 가능함.
이런 글들 보고 나도 직접 조합을 찾아볼 수 있게 인터랙티브 플레이그라운드를 하나 만들었음. WebGPU를 써서 브라우저 안에서 모델이 바로 돌아가니까 직접 해보셈. 플레이그라운드 링크: https://huggingface.co/spaces/webml-community/neuron-studio
