tencent/Hy-Memory-30B-A3B · Hugging Face
메모리 작업에 특화된 30B 모델 Hy-Memory-30B-A3B에 대한 커뮤니티의 반응과 토론입니다.
huggingface.co
원문 사이트로 이동
흥미로운 포인트: "3B 활성 모델이 메모리 측면에서 Opus 5를 이긴다" (이게 무슨 뜻이든 간에 :D)
텐센트의 새로운 모델 구조에 대해 인간의 뇌 구조와 비교하는 진지한 분석부터 램, DDR9, 원한의 서 등 엉뚱한 농담을 섞은 반응들이 주를 이룹니다.
그러니까 그냥 메모리 제공자들을 위해 훈련된 모델이네. 세션 요약이나 압축, 엔티티 식별 및 작성 같은 거 하는. 뭐, 괜찮네.
즉, pi blackhole이 작동하는 방식에 딱 들어맞는다는 뜻이지. reflector나 dropper로 다른 모델을 선택할 수 있게 해주니까. 난 생각 없이 observer를 메인 모델로 계속 쓰는데, 그게 더 자주 활성화되거든. 그리고 나도 남들처럼 VRAM이 부족해서 llama의 router 모드는 모델 1개로만 설정해 둠.
그래도 벤치마크 결과는 확인해봐야지. 난 관찰 기억력 때문에 여전히 Qwen 3.6 35b 쓰고 있는데, 내 하드웨어에서 이거보다 나은 걸 못 봤거든. 이것도 한번 시도해볼 만하겠네.
동물이나 인간의 뇌를 보면 "기능적 분석"을 통해 각기 다른 기능을 담당하는 10가지 종류의 네트워크가 있다는 걸 알 수 있지. 아마 텐센트도 똑같은 걸 시도하는 것 같아. 하나가 다 하는 거대한 네트워크 대신, 각자 전문화된 작은 네트워크 여러 개가 협력하는 방식이지.
진짜 개쩌네.
근데 30B 모델이라 VRAM을 꽤 많이 잡아먹지 않나? 🤔 Qwen 600M이나 그 정도 수준의 임베딩 모델을 쓰라고 권장하는 mem0이랑 비교하면 말이야. https://github.com/mem0ai/mem0
메모리, 그 게임 말하는 거야?
그 게임: 방금 졌음
DDR5도 생성할 수 있나?
램을 다운로드할 수는 없잖아.
와! 이건 에이전트의 장기 작업(long-horizon tasks)을 완전히 바꿔놓을 수 있는 물건이네! 이 모델만 빼고 말이지, 왜냐면 이건 표준 어텐션을 사용하거든.
모델이 스스로 컨텍스트를 관리한다는 건 정말 좋은 아이디어야. 난 CLM(Context Language Models <- 이 논문은 CLM으로 파인튜닝된 Qwen3.5-9B가 일반적인 요약 방식보다 장기 작업을 더 잘하고 비용도 저렴하게 처리할 수 있다는 걸 보여줌) 시스템에만 익숙한데, 실제로 pi-coding-agent에서 pi-clm으로 CLM을 테스트해보니 꽤 잘 작동하더라고. 내 테스트 결과, 모델이 CLM이 어떻게 작동하는지 이해하고만 있다면 일반적인 요약 압축 방식보다 훨씬 더 뛰어난 성능을 보여줬어. 이해 못 하면 서서히 맛이 가버리지만.
장점: 그러니까 이 모델은 그걸 이해한다는 거지! 스스로 컨텍스트를 관리할 수 있고! 장기 작업을 수행할 수 있어!
단점: 표준 어텐션. 더 말할 필요가 있을까? 기본적으로 131k 컨텍스트에서 그 컨텍스트를 저장하려면 12GB 정도의 RAM이 필요한데, Qwen3.6-35B-A3B 같은 건 1.2GB 정도밖에 안 쓰거든.
결론은, 좋은 아이디어야! 모델을 돌릴 수만 있다면 말이지.
젠장. 이 쪼끄만 게... 빌어먹을.
더 게임 졌다
DDR9 설계하고 생산할 수 없으면 아무 소용 없지.
추천해준 영상 설명이 정말 훌륭했다고 말하고 싶었어!
DeepSeek V4.1 Flash가 오픈 웨이트 모델 벤치마크에서 1위를 차지했다는 소식에 대한 커뮤니티 반응입니다.
DeepSeek V4.1 Flash가 오픈 웨이트 모델 벤치마크에서 1위를 차지했다는 소식에 대한 커뮤니티 반응입니다.
사용자가 AI를 활용해 서버가 종료된 게임의 오프라인 패치를 제작하여 게임 보존의 새로운 가능성을 보여주었습니다.
사용자가 AI를 활용해 서버가 종료된 게임의 오프라인 패치를 제작하여 게임 보존의 새로운 가능성을 보여주었습니다.
