Drummer의 Orion 26B A4B v1 및 v1.1 출시! ... 그리고 새로운 프로젝트 공개

첫 번째 Orion 모델은 가이드가 있는 스토리텔링에 완벽함. 특히 "Not because (...). Not because (...)" 같은 구조에서 약간의 반복이 있긴 하지만, 그 외에는 매우 창의적이고 새로운 모델이라 환각 현상이 거의 없음.

Skyfall 31B 같은 모델이 더 나왔으면 좋겠음. Orion은 아직 안 써본 것 같은데 한번 시도해 봐야겠네!

좋은 소식이네, 새로운 모델 만들어줘서 고마워! 그냥 궁금해서 묻는 건데, Fallen 시리즈 모델은 왜 더 이상 안 만드는 거야?

u/TheLocalDrummer 혹시 미디엄 사이즈 모델 출시 계획은 없음? 지금은 30b 아니면 100b 이상인 것 같아서... 아니면 라이선스가 좀 더 제한적인(Apache나 MIT가 아닌) 미디엄 모델이라도.

이 새로운 모델은 아주 유망해 보임: https://huggingface.co/ricursiveAI/Ripple-65B-Preview

헤이! BeaverNet 스트레스 테스트를 해봤는데 서비스 저하 없이 동시에 200개의 스트림을 지원할 수 있더라고. 사실 지금 BeaverNet에 등록된 모델들을 다 합쳐도 최대 25개 스트림 정도라 기술적으로는 그렇게 많은 스트림을 돌릴 수도 없긴 해.

지금은 저렴한 서버에서 돌리고 있는데, 비용 부담 없이 수직적으로 확장해서 동시 스트림을 5배 더 지원하게 만들 수 있어. 만약 어떤 놀라운 이유로 1000개 이상의 동시 스트림을 지원해야 한다면, BeaverNet은 수평적 확장도 가능하게 설계되어 있어.