Kimi K3 weights now released.
Kimi K3 모델 가중치 공개 소식에 사용자들은 램 다운로드 농담과 하드웨어 사양 자랑으로 화답함.
Kimi K3 가중치가 드디어 공개됨!
Kimi K3의 엄청난 파라미터 규모와 하드웨어 요구 사양 때문에 다들 놀라워하면서도 개인이 돌리기엔 무리라는 반응이 지배적임.
허깅페이스에서 램은 어떻게 다운로드함?
hf download ram
쉿... VRAM을 위한 숨겨진 -v 플래그가 있음. 너만 알고 있어.
RAM을 다운로드할 수는 없잖아? 응. 난 할 거야.
OpenAI 최신 모델이 대신 해킹해 줄 거임
생각 중
음, 사용자가 나보고 자기 대신 컴퓨팅 자원을 확보해달라네. SpaceX Colossus 데이터 센터에 GPU가 있으니까, 거기로 접속해 봐야겠다. 로그인 정보는 대충 elonmusk/420blazeitDarkMAGA로 추측해 보고...
1단계: 구글 드라이브 가입
2단계: ~5TB 인스턴스 설정. 돈 좀 들 거임
3단계: 그 클라우드를 스왑 디스크로 설정
4단계: Kimi가 그걸 쓰도록 지정
5단계: 새로 얻은 자유를 즐기셈
하루에 토큰 하나씩
야, 인터넷 연결만 좋으면 2-3t/d는 찍을 수 있을지도 모르지.
미친, 활성 파라미터가 104B네
나도 딱 이 반응이었음 ㅋㅋ 2.8T-A104B는 진짜 미쳤다 ㅋㅋ... 이건 내가 졌다, 못 돌릴 듯. 이거 제대로 돌리려면 8-way B300이나 MI350X, 아니면 Rubin NVL8이나 그 정도 클러스터는 있어야 함. 괴물 같은 놈이네.
내 64GB RAM에 전문가 하나는 넣을 수 있겠지 하고 농담하려고 했는데. 아니네, 그것조차 안 됨. :)
MXFP4로 출시했으니까 55GB RAM 정도면 가능할걸!
사용자가 자신의 타이핑 속도를 측정해 LLM의 토큰 생성 속도(t/s)와 비교하는 웹 도구를 만들어 공유했습니다.
사용자가 자신의 타이핑 속도를 측정해 LLM의 토큰 생성 속도(t/s)와 비교하는 웹 도구를 만들어 공유했습니다.
사이버 보안 전문가가 Claude를 활용해 며칠 걸리던 고난도 CTF 문제를 단 2시간 만에 해결한 경험담.
사이버 보안 전문가가 Claude를 활용해 며칠 걸리던 고난도 CTF 문제를 단 2시간 만에 해결한 경험담.
