나: 이번 주에 쏟아지는 새 모델들 때문에 지쳤지만, 그래도 멋진 신작들 덕분에 여전히 신남.

27b가 충족 못 시키는 니 니즈가 뭔데? 그냥 대충 느낌만 내는 코딩(예를 들어 프롬프트 하나 던져주고 알아서 다 해주길 바라는 거) 말고는 나한테는 진짜 엄청 잘 작동하던데.

코딩처럼 딱 정해진 작업에만 좋음. 코딩 외에는 아는 게 없어서 현실 세계 문제 해결하려고 하면 자주 꼬이거나 엉뚱한 가정을 해버림.

내 솔로 DnD5 캠페인에서 DM 역할을 제대로 수행하는 걸 완전히 실패함. 주사위 굴리기, 스킬, 전투 시스템까지 전부 다 구축했거든. 시스템 입력값으로 15k 토큰을 넣었는데 그냥 완전히 망쳐버림. 라운드, 턴 순서, 데미지 수치, 버프, 적 지능 같은 걸 다 까먹어서 전투가 제대로 안 돌아감. 근데 GLM5.2는 꽤 잘 돌아감. 전투가 너무 정신없어지거나 적이 너무 많아지면, 아니면... 마법사 결투 같은 거 할 때만 좀 맛이 가기 시작함.

게임 룰까지 시뮬레이션 시키느라 시간 낭비하지 마셈. 모델은 다른 부분에 집중하게 하고 계산은 직접 하는 게 나음. 그래야 걔가 굴린 주사위 값 검증하고 오류 잡느라 시간 버리는 거 줄이고, 게임 자체에 집중할 수 있음.

아 그쪽으론 별로일 수 있겠네. 27b 모델의 한계인 듯. Gemma4 31b가 그런 작업은 더 잘한다고 들었는데, 그거 써봄?

Qwen은 전반적으로 rp/스토리 쓰기에는 별로인 듯. 가능하면 Gemma 4 써봐 (파인튜닝 필요 없음). 생각보다 괜찮음. GLM 같은 걸 48GB VRAM에서 로컬로 돌릴 수 있으면 좋을 텐데...

난 GLM4.7 로컬로 돌릴 수 있는데, 내 DND5 워크플로우에는 그것도 부족하더라. GLM5.0 이상은 돼야 쓸만함.

우리 둘 다 모델한테 정확히 뭘 요구하고 있는지 레딧에 말 안 하고 있잖아. 그리고 아무도 그 긴 텍스트 덩어리 읽고 싶어 하지도 않고.

그냥 내가 하는 작업은 학습 데이터에 거의 없다는 것만 알려줄게.