Someone is running Qwen 27B at ~20 tok/s on a jailbroken PS5's GPU
탈옥된 PS5 GPU를 활용한 LLM 구동 사례가 공유되며 하드웨어 활용 가능성에 대한 커뮤니티의 흥미로운 반응이 이어짐.
PS5를 활용한 AI 구동 소식에 대해 영화 채피를 언급하며 농담 섞인 반응을 보이고 있음.
이제 곧 PS5 여러 대를 직렬로 연결해서 쓰는 사람 나오겠네, 안 그래?
마치 PS3 SETI 프로젝트가 다시 돌아온 것 같네. 나도 참여하고 싶다!
얼마 안 가서 PS4만 살 수 있는 시대가 올 거다. 그때 되면 PS4 4대에 엑박 S 하나 섞은 프랑켄슈타인 기기들 보게 될 듯
콘솔은 보통 손해 보고 팔아서 게임 가격으로 메꾸는 구조인데, 이런 식으로 쓰면 소니 입장에선 초반에 타격이 엄청 클 듯. 적어도 가성비 안 나올 정도로 가격 올리기 전까지는 말이지.
생각하는 것만큼 그렇게 나쁘진 않을걸.
PS5는 이제 6년이나 됐고 구식 공정 기반이니까.
PS5 GPU가 AI 워크로드에 그렇게 뛰어난 것도 아니고.
사담 후세인의 플레이스테이션 4,000대 썰 기억나네.
나 인도인 동료 중에 사담 후세인이라는 사람 있음
도시전설이라던데, 그렇다고 지금 나오는 플레이스테이션으로 못 할 건 없지
PS5 Pro에 16GB GDDR6랑 2GB DDR5가 들어간다고? 그럼 낮은 수준의 양자화(quant)밖에 안 되겠는데.
IQ2_XXS
Anthropic은 다음번에 PS5 15대를 샤딩해서 자기 복제하는 걸로 다음 사이버 공격이라고 글 올릴 듯.
IQ2_MYPPSIZE
UD-IQ3_XXS 10.9 GB
UD-IQ3_S 12 GB
UD-Q3_K_XL 13.1 GB
만약 Qwen 4 소형 모델들이 Qwen Next Flash와 같은 아키텍처를 쓴다면, 상당 부분을 SSD로 오프로드할 수 있을 거야.
CUDA를 AI로 리버스 엔지니어링하자는 제안에 대해 기술적 난이도와 현실성에 대한 논쟁이 이어짐.
CUDA를 AI로 리버스 엔지니어링하자는 제안에 대해 기술적 난이도와 현실성에 대한 논쟁이 이어짐.
Anthropic이 기존의 Git을 대체할 내부 소스 제어 시스템 'Scion'을 도입하며 대규모 모노레포 관리 효율을 꾀하고 있습니다.
Anthropic이 기존의 Git을 대체할 내부 소스 제어 시스템 'Scion'을 도입하며 대규모 모노레포 관리 효율을 꾀하고 있습니다.
