r/LocalLLaMA•약 2개월 전•108•6

llama.cpp에 DeepSeek v4 Flash 0731 툴 콜링 수정 사항 추가됨

Fix for Deep Seek v4 Flash 0731 tool calling has been added to llama cpp

핵심 요약

llama.cpp에 DeepSeek v4 Flash 0731 툴 콜링 관련 버그 수정이 적용되었습니다.

툴 콜링 수정 — DeepSeek v4 Flash 0731 모델의 툴 콜링 기능이 개선됨
llama.cpp 업데이트 — 메인 레포지토리에 관련 PR이 병합됨
성능 안정화 — 기존에 발생하던 루핑 및 오작동 문제가 해결됨

이 풀 리퀘스트는 약 12시간 전에 llama.cpp 메인 레포지토리에 추가되었습니다.

어제까지만 해도 루핑 현상과 성능 저하를 겪었는데, 이번 수정 이후로는 아무런 문제가 없습니다.

https://github.com/ggml-org/llama.cpp/pull/26269

원문

커뮤니티 목록

r/LocalLLaMA•약 2개월 전•108•6

llama.cpp에 DeepSeek v4 Flash 0731 툴 콜링 수정 사항 추가됨

Fix for Deep Seek v4 Flash 0731 tool calling has been added to llama cpp

핵심 요약

llama.cpp에 DeepSeek v4 Flash 0731 툴 콜링 관련 버그 수정이 적용되었습니다.

툴 콜링 수정 — DeepSeek v4 Flash 0731 모델의 툴 콜링 기능이 개선됨
llama.cpp 업데이트 — 메인 레포지토리에 관련 PR이 병합됨
성능 안정화 — 기존에 발생하던 루핑 및 오작동 문제가 해결됨

이 풀 리퀘스트는 약 12시간 전에 llama.cpp 메인 레포지토리에 추가되었습니다.

어제까지만 해도 루핑 현상과 성능 저하를 겪었는데, 이번 수정 이후로는 아무런 문제가 없습니다.

https://github.com/ggml-org/llama.cpp/pull/26269

주요 댓글

r/localllama

사용자들은 이번 llama cpp 업데이트가 툴 콜 루프 문제를 해결해 줄 것으로 기대하며, 기존에 모델 탓으로 돌렸던 버그들이 사실은 서버 문제였을 가능성에 주목하고 있습니다.

이거 덕분에 바로 위에 글 올렸던 그 사람 문제 해결됐으면 좋겠네 ㅋㅋ

이거 보니까 내가 툴 콜 루프 때문에 걸렀던 모델들이 사실은 서버 템플릿 버그였던 게 얼마나 많았을지 궁금해지네. 나도 딱 이 문제 때문에 테스트하다가 하나 버렸는데 llama cpp 업데이트되고 나서 다시 테스트 안 해봤거든. 너는 모든 호출에서 루프가 걸렸어, 아니면 세션이 좀 진행된 뒤에 그랬어?

프롬프트 2~3개 정도에서 루프 돌던데 별로 깊지도 않음

좋네, 이제 사고 과정이랑 툴 콜링이 같이 보이는 걸 확인할 수 있겠어.

원문r/LocalLLaMA