r/LocalLLaMA•3개월 전•427•136
엄청나게 유해한 모델을 만들었습니다! :D (J-Space를 조정해서요!!!)
I created a super harmful model ! :D (by tweaking it's J-Space!!!)
핵심 요약
Anthropic의 Jacobian-Lens를 활용해 모델의 J-Space를 수정하여 특정 행동을 유도하는 도구를 개발하고 테스트 모델을 공유함.
- J-Space 조정 — 모델의 행동 양식을 수동으로 변경하는 도구 개발함
- Nikusui-v1 공개 — 과학적 목적(?)으로 제작된 성인용 모델 테스트 버전
- 기술적 실험 — 모델의 가중치를 수정하여 특정 답변을 유도하는 방식
- 커뮤니티 반응 — 모델의 명칭과 유해성 여부, 기술적 활용 가능성에 대해 토론함
Soooo! Anthropic이 며칠 전에 Jacobian-Lens를 공개했길래, 그걸 기반으로 모델의 J-Space를 조정한 뒤 동일한 행동 양식을 유지하는 모델을 내보낼 수 있는 도구를 만들었습니다.
이건 인간의 뇌를 사용해서 행동을 수동으로 변경하고 'abliterate(삭제/변형)'할 수 있다는 뜻입니다.
아직 작업 중이지만, 일단 뭐라도 먼저 보여드리고 싶어서 참을 수가 없었네요.
그래서! 작동하는 코드베이스를 완성하자마자 바로 뛰어들어서, 순전히 과학적인 목적으로 아주 야한 모델을 만들어보려고 시도했습니다.
Nikusui-v1을 소개합니다. 이런 종류로는 처음일 겁니다!
피드백 주시면 정말 기쁠 것 같습니다 :D
