Qwen3.8-27B-Humanlike-Chat: 실제 사람 간의 대화를 모방하도록 튜닝한 모델
Qwen3.8-27B-Humanlike-Chat: A model I tuned to imitate realistic human-to-human conversation
핵심 요약
AI 특유의 말투를 제거하고 실제 사람처럼 대화하도록 튜닝된 Qwen3.8-27B 모델을 소개합니다.
- 모델 튜닝 — AI 특유의 과도한 친절함과 설명조를 제거하고 자연스러운 대화 습관을 학습함
- 데이터셋 구성 — 1,396개의 실제 대화에서 추출한 12만여 개의 메시지로 학습 진행
- 성능 트레이드오프 — 지시 이행 능력(IFEval)은 다소 하락했으나 casual한 대화 능력은 향상됨
- 기술적 구현 — huihui-Qwen3.8-27B-abliterated 기반의 rank-256 LoRA 학습 모델
LLM이랑 대화 좀 하려는데 진짜 개빡쳐서 직접 만들었다. 프롬프트고 뭐고 온갖 꼼수를 다 써봐도, 써본 모델들 대부분이 그 특유의 "AI 비서" 느낌을 못 버리더라. 너무 친절하고, 말투는 뻔지르르하고, 말은 쓸데없이 길고, 평소에 쓰지도 않는 단어들만 골라 쓰는 그 꼴이 진짜 질렸거든.
그냥 사람처럼 대화할 수 있는 모델이 필요해서, 좀 미친 짓 같긴 하지만 데이터셋 직접 모아서 하나 훈련시켰다.
훈련에 쓴 데이터셋은 사람끼리 나눈 대화 1396개에서 가져온 125,217개의 비식별화된 메시지다.
Qwen을 더 똑똑하게 만들거나 벤치마크 점수 올리려는 게 목적이 아니었음. 그냥 대화 습관을 바꾸고 싶었다. 뭐만 물어보면 설명충 빙의해서 줄줄 읊고, 무조건 맞장구치고, 대화 이어가려고 억지로 말 지어내는 짓거리 좀 그만하게 만들려고 한 거임.
huihui-ai/Huihui-Qwen3.8-27B-abliterated 모델 위에 rank-256 LoRA를 얹어서 학습시켰고, 공개한 버전은 체크포인트 863이다. 내가 테스트해 보니까 확실히 비서 같은 느낌이 덜하다. 특히 시스템 프롬프트 없이 그냥 일상 대화할 때 티가 확 남. 답변도 대체로 짧고, 덜 다듬어졌고, 뭐랄까, 훨씬 사람 같다.
물론 트레이드오프는 있을 거다. 초기 버전은 지시 이행 벤치마크인 IFEval에서 원본인 Huihui 모델보다 5% 포인트 낮게 나왔거든. 이번 체크포인트 버전으로는 벤치마크 다시 안 돌려봤고 코딩 성능도 테스트 안 해봐서, 그 점수가 여기 그대로 적용된다고 우길 생각은 없다.
두 모델에 똑같은 시스템 프롬프트, 사용자 메시지, 생성 설정 넣어서 비교해 둔 거 올려놨다. 각 모델이 자기 대화 흐름대로 이어가게 했고, 추론 강도는 'xhigh'로 맞췄다.
병합된 GGUF 파일이랑 단독 F32 LoRA 어댑터는 모델 저장소에 있다:
https://huggingface.co/LessThanThreeAI/Qwen3.8-27B-Humanlike-Chat-GGUF
다양한 시스템 프롬프트랑 추론 모드로 직접 대화해 볼 수 있는 공간:
https://huggingface.co/spaces/LessThanThreeAI/Qwen3.8-27B-Humanlike-Chat
무료로 쓸 수 있는 OpenAI 호환 엔드포인트도 있다 (사용량 제한 있음):
Base URL: https://api.lessthanthreeai.com/v1
Model:qwen3.8-27b-humanlike-chat
