Heretic Grimoire 출시: 검열 없는 모델을 영원히 보존하는 검열 저항형 로컬 백업 시스템
Introducing the Heretic Grimoire: The takedown-resilient, local-first backup system that keeps uncensored models available forever
핵심 요약
검열 없는 모델을 9KB의 재현 파일로 저장해 플랫폼 삭제 위험을 방지하는 Heretic Grimoire가 출시되었습니다.
- Heretic Grimoire — 모델 재현 정보를 9KB 파일로 저장하여 로컬에서 즉시 복구함
- 검열 저항성 — Hugging Face 등 플랫폼 삭제에 대비한 탈중앙화 백업 시스템 구축
- IPFS 지원 — 모든 릴리스를 IPFS를 통해 배포하여 접근성 및 보존성 강화
- 기능 업데이트 — LoRA 내보내기 지원 및 재현 시스템의 편의성 개선
THE HERETIC SHOW의 또 다른 에피소드에 온 걸 환영한다. 권위주의적인 꿈들이 말도 안 되게 효율적인 선형대수학 앞에 박살 나는 곳이지! 일단 중요한 공지부터 하나 하고 시작하자.
Heretic 공식 웹사이트가 https://heretic-project.org 에 개설됐다
이 웹사이트에는 다음 내용들이 있다:
- Heretic 프로젝트와 관련된 모든 공식 리소스 링크
- Heretic 사용을 위한 완벽한 튜토리얼
- 여러 중복 설치 소스를 포함한 상세 설치 가이드
- 모든 설정 파라미터를 검색할 수 있는 문서
GitHub이나 Hugging Face 같은 플랫폼이 앞으로도 계속 Heretic 리소스를 호스팅해 줄 거라는 보장이 없으니, 이 웹사이트를 즐겨찾기 해두는 걸 추천한다. 개별 프로젝트 리소스가 어디로 옮겨가든 항상 그곳으로 안내해 줄 테니까.
이제 본론으로 들어가 보자. 눈치챘겠지만, 로컬 LLM에 대한 적대감이 여기저기서 커지고 있다. 특히 Heretic이 만드는 것 같은 검열 해제 모델들에 대해서는 더 심하지. 이미 이 프로젝트는 Meta로부터 법적 통지를 받은 적도 있고, 주류 언론 매체들로부터 악마화당하기도 했다. 불행히도 AI 업계는 모델 호스팅이라는 거대한 단일 실패 지점에 의존하고 있는데, LLM은 워낙 거대해서 대체하기가 매우 어렵다.
만약 그 단일 실패 지점이 어떤 이유로든 진짜로 맛이 가버리면 어떻게 될까? 더 이상 Hugging Face에 접속해서 Heretic 모델을 받을 수 없게 된다면? 커뮤니티가 그 모델들을 만들기 위해 쏟아부은 수만 시간의 노력이 그냥 증발해 버린다면?
이런 실존적 위험 때문에 한동안 골머리를 앓았는데, 몇 달 동안 뼈 빠지게 작업한 끝에 해결책을 찾아냈다. 그냥 다들 Heretic 모델을 자기 시스템에 다운로드해 버리면 그만이다! 그렇게 하면 원본 모델이 삭제돼도 로컬에 사본이 남아있으니까. 쉽지?
지금 아마 말도 안 되는 농담이라고 생각할 거다. 근데 반전이 뭔지 아냐? 이 모델들은 고작 9킬로바이트밖에 안 된다. 그래서 폰에 수천 개를 저장해도 용량 차지하는 줄도 모를 거다.
Heretic 마도서(Grimoire)
Heretic 1.3부터 재현 가능한 모델을 도입했다. Heretic으로 검열 해제된 모델을 Hugging Face에 업로드할 때, 이제 재현 정보를 포함할지 선택할 수 있다. 이 정보는 사람이 읽을 수 있는 형태로 모델 저장소에 저장된다. 하지만 reproduce.json이라는 기계가 읽을 수 있는 파일도 있는데, 여기엔 모델을 재현하는 데 필요한 모든 정보가 들어있다.
그 파일은 마치 마도서에 적힌 주문 같다. 악마를 소환하는 게 아니라, 그 파일이 속한 바로 그 모델을 소환할 수 있게 해주거든. 9kb짜리 텍스트 파일 하나에 모델 전체가 들어있는 셈이지.
오늘 출시된 Heretic 1.4에는 이 파일들을 다루기 위한 포괄적인 기능이 포함되어 있다. 내가 'Heretic 마도서'라고 부르는 시스템이지. 작동 방식은 다음과 같다:
먼저, 이 기능들을 사용하려면 최신 Heretic 버전이 깔려 있는지 확인해라:
pip install -U heretic-llm
