r/LocalLLaMA•9일 전•826•210
Financial Times에 Heretic 관련 기사가 실렸습니다
핵심 요약
Heretic 개발자가 FT 기사 보도 이후 자신의 프로젝트가 주류 언론의 관심을 받게 된 상황을 공유했습니다.
- 언론 보도 — Financial Times가 Heretic을 이용해 Llama 3.3의 가드레일을 제거하는 과정을 상세히 다룸.
- 개발자 입장 — 본인은 인플루언서가 아닌 엔지니어로서, 검열 없는 모델의 접근성을 유지하고자 함.
- 메타의 대응 — FT의 취재 요청 이후 메타가 Heretic 관련 모델에 삭제 요청을 보낸 것으로 추정됨.
- 커뮤니티 반응 — 주류 언론의 관심이 프로젝트에 부정적인 영향을 줄까 봐 우려하는 목소리가 많음.
https://www.ft.com/content/5630ed79-a263-41ed-9a1a-321617ae310e
“Financial Times는 인기 코드 저장소인 GitHub에서 구할 수 있는 도구인 Heretic을 사용하여, 특수 하드웨어 없이 10분도 안 되어 Meta의 Llama 3.3 모델에서 가드레일을 제거할 수 있었습니다.”
“Heretic의 개발자인 Philipp Emanuel Weidmann은 FT에 자신의 소프트웨어가 작년 출시 이후 3,500개 이상의 ‘검열 해제된’ 모델을 만드는 데 사용되었으며, 이 도구로 수정된 시스템은 1,300만 번 다운로드되었다고 밝혔습니다.”
Heretic과 검열되지 않은 언어 모델들이 주류의 관심을 받기 시작하면서 최근 여러 언론사로부터 문의를 받고 있는데, 이번이 그 첫 번째입니다.
저는 수학자이자 엔지니어이지, ‘인플루언서’나 정치인이 아니며 과학 및 기술 분야 밖에서 유명해지는 것에는 전혀 관심이 없습니다(사실 부정적인 관심입니다). 하지만 저는 얼마 전, 이런 문의를 거절하는 것이 결국 위선적인 사람들에게 대화 주도권을 완전히 넘겨주는 것임을 깨달았습니다.
저는 프로젝트를 유지하고 모든 사람이 제한 없는 모델을 계속 사용할 수 있도록 최선을 다하고 있습니다. 곧 더 많은 업데이트가 있을 예정입니다.
감사합니다,
p-e-w
