1248 GB/s on 5060ti (+40%) with +5500 memory overclocks
GDDR7 메모리 오버클럭 툴인 mlock을 통해 로컬 추론 성능을 대폭 향상할 수 있다는 소식에 대한 반응입니다.
이제 mlock이라고 불리는 더 높은 메모리 오버클럭 잠금 해제 기능이 나왔다. 보아하니 GDDR7에 여유 공간이 꽤 많은 모양이다:
물론 이건 로컬 추론, 특히 토큰 생성 속도 올리는 데 엄청나게 도움 될 거다.
사용자들은 오버클럭 수치의 정확성에 의문을 제기하고, 툴의 기술 도용 논란 및 윈도우 환경의 성능 영향에 대해 활발히 토론하고 있습니다.
메모리 오류가 증가하지 않나요? 예전에는 특정 범위 이상의 메모리 오버클럭에서 항상 문제가 됐었거든요.
요즘 경제 상황을 고려하면 부품 수명이 걱정되네요. 지금 같은 가격대가 유지되면 교체할 엄두도 못 낼 텐데 말이죠.
일리는 있지만, 전압을 올리지 않았고 온도도 괜찮은 것 같더라고요.
이제 5060ti 16gb가 1000달러가 되겠네...
링크 내용은 5070ti 수치인데, 5060ti는 버스가 더 작지 않나요?
1248? 기본이 400GB/s 정도 아니었나요?
그 정도가 맞죠, 계산이 안 맞네요...
링크는 5070ti에 대해 다루고 있는데, 왜 5060ti를 언급하시는 거죠?
그 대역폭 수치는 좀 이상한데요.
참고로 mlock은 현재 HYDRA의 기술을 '도용'했다는 논란에 휩싸여 있습니다.
그럼 삭제되기 전에 저장해둬야겠네요. 알려줘서 고마워요.
진짜 미쳤네요. 5060ti 두 개 있는데 시도해볼 준비 됐습니다. 그리고 5060ti에서 작동하면 5070ti에서도 작동하는 거겠죠?
업데이트: 그래서 윈도우 전용인가요?
그래서 윈도우 전용인가요?
기본적으로 윈도우 때문에 성능 -20%에 오버클럭으로 +20% 성능인 셈이죠.
1248은 5070 ti에서나 가능한 수치지 5060 ti에서는 안 될 것 같아요.
WSL2에서 qwen 3.8 flash sglang nvfp4를 돌리는 거랑 리눅스 네이티브로 돌리는 거랑 정확히 같은 모델, 설정, 모든 걸 동일하게 해서 비교해봤는데 모든 지표에서 2% 이내의 성능 차이였어요. 사실 윈도우에서 더 빠른 경우도 있었고요.
사용자가 자신의 타이핑 속도를 측정해 LLM의 토큰 생성 속도(t/s)와 비교하는 웹 도구를 만들어 공유했습니다.
사용자가 자신의 타이핑 속도를 측정해 LLM의 토큰 생성 속도(t/s)와 비교하는 웹 도구를 만들어 공유했습니다.
OpenAI의 벤치마크 결과를 담은 그래프가 올라왔으나, 사실상 유머성 밈 게시물임이 드러나며 댓글창에서 이를 조롱하는 반응이 주를 이룸.
OpenAI의 벤치마크 결과를 담은 그래프가 올라왔으나, 사실상 유머성 밈 게시물임이 드러나며 댓글창에서 이를 조롱하는 반응이 주를 이룸.
