스위스 연방 대법원이 Heretic을 검토 중이다
The Swiss Federal Supreme Court is evaluating Heretic
핵심 요약
스위스 연방 대법원이 과도한 검열 문제를 해결하기 위해 Heretic 모델을 도입하려 한다는 소식에 커뮤니티가 놀라워하고 있습니다.
- 대법원의 도입 — 스위스 연방 대법원이 LLM의 과도한 거부 문제를 해결하고자 Heretic 모델을 검토함
- 연구 논문 발표 — 법률 분야에서 LLM의 과도한 정렬(Over-Alignment) 문제를 다룬 논문이 공개됨
- 검열 없는 모델 — 법률 및 전문 분야에서 검열되지 않은 모델의 필요성이 다시금 강조됨
- 커뮤니티 반응 — 대법원의 모델 도입 소식에 유머러스하고 긍정적인 반응이 이어짐
“아니, 설마 이제 abliterated 모델까지 금지하는 거야?!?”
제목을 읽고 가장 먼저 든 생각이 이거였다면 탓할 수는 없지. 하지만 이번 사건은 그런 내용이 아님.
대신, 스위스 연방 대법원이 Heretic을 직접 사용하기 위해 검토 중임!
알고 보니, 대법원도 이 서브레딧의 많은 사람과 똑같은 문제로 고통받고 있었음. 바로 LLM이 아주 정당한 요청조차 거부하는 문제임. “Measuring & Mitigating Over-Alignment for LLMs in Multilingual Criminal Law Courts” 논문은 이 문제에 대한 잠재적 해결책으로 abliteration을 포함해 다루고 있으며, 특히 5.2절에서 Heretic을 평가하고 긍정적인 결론을 내렸음.
abliterated 모델은 범죄자나 테러리스트들만 쓴다는 거 잊지 말라고 😏

