Vibecoding your own inference engine is easy they said
직접 추론 엔진을 구현하다 고통받는 개발자의 상황을 공유하며, AI의 기괴한 출력 결과에 대해 유머러스하게 반응하는 글.
야, 그냥 llama.cpp 클론 떠라. 진짜다.
이거 지금 gguf q4를 webgl2 임베디드 컴퓨트 버퍼에 glsl로 때려 박아서 html 안에서 바로 돌리고 있는데, 토크나이저랑 보카(vocab)는 그냥 끝도 없는 디버깅 지옥의 일부일 뿐임.
직접 만든 추론 엔진의 기괴한 결과물에 대해 개발자들이 조롱 섞인 공감과 기술적인 농담을 주고받는 분위기입니다.
맙소사 안 돼
전에는 고장 났어도 대화할 땐 행복해 보였는데, 지금은 고통받고 있네.
나처럼 고장 났네. AI가 드디어 인간 수준에 도달했어.
축하해, 의도치 않게 세상에서 제일 멍청한 의사결정 모델을 만들어냈네.
심오해 보이네.
Qwen 0.0 0B 0비트
얘도 확신이 없는 것 같아.
안녕
너 큐원(Qwen)이야?
난 나야
!너!!!!!!!!!!!!!!!!!!!!!!!
토큰 샘플링할 때 argmax 쓰지 마.
맞아, argmin을 써야지.
이런 건 2019년의 연구자들을 정신병 오게 만들 만한 수준이지.
아주 멋진 아이디어를 줬네.
아니, 항상 9번째로 큰 logit을 가진 토큰을 샘플링해야지
MiniMax-M3.1-Flash 모델 공개에 대한 기술적 분석과 하드웨어 요구 사양에 관한 논의입니다.
MiniMax-M3.1-Flash 모델 공개에 대한 기술적 분석과 하드웨어 요구 사양에 관한 논의입니다.
Gemini의 모호한 피드백 요청과 모델의 검열 정책에 대한 사용자들의 냉소적인 반응이 이어짐.
Gemini의 모호한 피드백 요청과 모델의 검열 정책에 대한 사용자들의 냉소적인 반응이 이어짐.
오픈 소스 소프트웨어를 디컴파일했다는 농담을 두고 벌어지는 사용자들의 반응과 혼란을 담은 포스트입니다.
오픈 소스 소프트웨어를 디컴파일했다는 농담을 두고 벌어지는 사용자들의 반응과 혼란을 담은 포스트입니다.