LocalJev?
구조화된 출력을 생성하는 Jev 모델의 오픈 소스 구현 가능성을 묻는 질문에 개발자들이 즉각적인 클론을 내놓으며 화답함.
Jev는 입력 텍스트에서 구조화된 출력(선택지)을 뽑아내는 모델이야. 보아하니 Doom을 플레이(실행하는 게 아니라!)할 수도 있는 모양이네.
https://typesafe.ai/blog/introducing-system-one-models-and-jev
이런 종류의 모델을 구현해 놓은 오픈 소스가 이미 있을까?
Jev 모델의 오픈 소스 구현에 대한 관심이 높으며, 개발자들이 빠르게 클론을 제작하거나 기존의 유사 모델들을 공유하며 활발하게 정보를 교류하고 있음.
이거랑 비슷한 모델들 꽤 많음. 예: https://huggingface.co/knowledgator/gliformer-large-v1 그냥 제로샷 분류 인코더들임. 써볼 만함.
ㅇㅇ knowledgator의 gli-class 모델들 다 추천함. 우리도 NER이나 분류 같은 인제스트 파이프라인에 엄청 쓰고 있는데 결과 아주 좋음.
나 예전에 GLiNER 썼었는데, 그 모델 진짜 인상적이었음. 당시 LLM이랑 성능은 비슷한데 처리량은 100배 빨랐거든.
고마워! 기능적으로 충분히 비슷하고 바로 쓸 수 있네. 딱 내가 찾던 거임!
방금 만들었음 https://github.com/TheoLeeCJ/openjev (Qwen 4B 래핑해서 로짓값 가져오면 됨)
거의 다 왔네, 디퓨전 모델 쓰면 진짜 openjev가 되는 거임. DiffusionGemma는 어때?
우리가 알기로는 클로즈드 소스임. 그리고 위에 친구가 말했듯이 공개된 지 24시간도 안 됐어. 좀 진정해. 그래도 로컬에서 돌려보면 재밌긴 하겠다.
중부 표준시로 자정쯤에 발견해서 대기자 명단 등록했음. 제브 당장 내놔!
야, 발표된 지 24시간도 안 됐는데 뭘 기대하는 거냐?
Jev가 디퓨전 모델은 아니지 않나?
참고로 이건 그냥 인터페이스를 LLM으로 감싼 것뿐이지, 실제 Jev는 아님 (그쪽에서 주장하는 결과값이 나오는 것도 아님).
Jev와 Qwen Reranker 비교 결과
아 그리고 브라우저 데모도 있음 openjev.com (0.6이랑 0.8B만 가능, 성능은 좀 낮음)
잘했네, 빠르다! 발표 보자마자 누군가 바이브 코딩으로 LLM 래퍼 만들어서 24시간 안에 오픈 소스 나올 줄 알았음. Jev는 그냥 LLM 위에 얹은 새로운 인터페이스/제품/추론 방식이지 새로운 기술이 아니니까. GPT-3 시절에도 이미 보정 연구는 있었음. 확률 출력이나 병렬 추론은 LLM한테는 자연스러운 거임. 편리한 프레임워크나 vLLM 인터페이스가 나와서 아무 오픈 모델로나 로컬 배포할 수 있게 되면 좋겠다...
와, 진짜 똥퀄이네
NVIDIA가 에이전트 보안을 위한 오픈소스 샌드박스 'OpenShell'을 공개하며 업계 표준화를 주도하고 있습니다.
NVIDIA가 에이전트 보안을 위한 오픈소스 샌드박스 'OpenShell'을 공개하며 업계 표준화를 주도하고 있습니다.
Claude Opus 5.5의 성능 저하 여부를 실시간으로 추적하는 오픈소스 벤치마크 도구 'LiveNerf'가 공개되어 큰 호응을 얻고 있습니다.
Claude Opus 5.5의 성능 저하 여부를 실시간으로 추적하는 오픈소스 벤치마크 도구 'LiveNerf'가 공개되어 큰 호응을 얻고 있습니다.
