A 27b model beating latest frontier models was not on my 2026 bingo card
27B 모델이 최신 대형 모델들을 능가하는 성능을 보여주며, 모델의 크기보다 특정 작업에서의 효율성과 전문성이 중요해지고 있음.
에이전트 작업에 Qwen 3.8 써봤는데 진짜 미쳤더라. 근데 개인적으로는 전반적인 작업 처리할 때 3.7 flash가 훨씬 더 안정적인 느낌임.
사용자들은 소형 모델의 발전과 특화된 활용 가능성에 주목하면서도, 프론티어 모델을 대체할 수 있을지에 대해서는 기대와 회의적인 시각이 공존하고 있습니다.
이제 LLM에 대해 '어떤 분야에서?'라고 물어야 하는 시점에 온 것 같음. 과도하게 특화된 모델들이 2030년보다 훨씬 빨리 대세가 될 거라 예상함.
이미 그러고 있지 않나? 지난주 내내 프론티어 모델들, Deepseek flash, Kimi3, Grok 사이를 왔다 갔다 했음. 급할 때나 결과가 만족스럽지 않을 때 여전히 프론티어 모델을 찾게 되긴 하지만... 솔직히 뭐가 확실히 더 낫다고 말하기 어렵고, 모든 면에서 우월한 모델은 더더욱 없음.
요즘 나오는 모델 절반은 펀딩 받으려고 벤치마크 점수 올리는 데만 훈련하는 듯 /s
이거 맞음, 반어법 아님
동의함.
진짜 흥미로운 건 이거임:
전문화가 어디까지 진행될까? 예를 들어:
추론용 강력한 모델 1개, 지식이 풍부한 강력한 모델 1개
수학, 의학, 법률 등 특정 도메인에 특화된 모델들 (도메인이 돈이 될수록 특화 모델이 나올 가능성이 높다고 봄)
다국어 능력은 좀 줄어들까? 내가 알기로는 여러 언어로 학습하는 게 꽤 도움이 되는데, 내 생각엔...
어떤 중국 회사가 주식 거래랑 자동 매매 봇을 위해 특별히 훈련시킨 모델을 찾았어. 내 봇의 진입/청산 로직 자리에 그 모델을 바로 연결해버렸지. 오늘이 첫 시험인데, 솔직히 이 거래들에 대해 내가 통제할 수 있는 게 하나도 없어. 그냥 돈 벌라고 시켰거든. 어떻게 될지 한번 보자고.
이거지. 여러 LLM을 사용하는 하이브리드 하니스(harness)와 컨텍스트 관리 시스템이 이미 정답임.
Gemini Flash를 프론티어 모델이라고 보긴 힘들지 않나. 요즘 Gemini 시리즈 전체가 다 그런 듯 😅
Muse spark도 마찬가지고. 지금 아무도 그 둘을 AI의 프론티어나 최첨단이라고 생각 안 함.
에이전트 및 도구 호출 능력이 세상에 대한 지식과는 별개라는 증거임. 작고 빠른 LLM은 테스트 타임의 발견과 연산으로 충분히 보완될 수 있음. 아무것도 모르지만 알려주면 즉시 배우는 똑똑한 두뇌 > 느려터진 만물박사 고철 덩어리
맞음, Qwen3.8-27B의 장점은 가설을 세우고 반박하며 사실을 추론할 수 있다는 거임. 엄청나게 끈질기기도 하고. 토큰은 엄청 잡아먹지만, 백그라운드에서 계속 돌아가다 보면 결국 결과물을 내놓음. 결과물을 써보면 보통 바로 작동함. 모델이 시작할 수 있는 무언가를 만들어낼 만큼 충분히 작업한 거니까. LLM 코드가 으레 그렇듯 버그가 있거나 비효율적이고 투박할 순 있어도, 좋은 출발점이 됨. 내가 모델한테 작업을 시키면...
웃긴 게 뭔지 앎? 난 작성자가 Muse spark를 프론티어 모델이라고 생각했을 거란 가정조차 안 했음.
Gemini Flash는 예전에 진짜 쓰레기였는데.
3.7은 처음으로 쓸만하네... 딱히 싫지는 않음.
이제 기기에 기본 탑재도 되고 무료로 풀린 것도 많아서, 코딩 빼고는 내 데일리 드라이버가 됐음.
기본 웹 검색 기능이 진짜 대박임. 왜냐고? 구글이니까. 그게 기본으로 박혀 있잖아.
문제는, 방대한 잠재 지식(latent knowledge) 없이 모델이 뭘 검색해야 할지 알기나 할까 하는 거야. 예를 들어, 다른 분야의 개념을 빌려오는 측면 사고(lateral thinking) 같은 상황에서 말이지.
난 이런 작은 초-에이전트(hyper-agentic) 모델들이 프론티어 폐쇄형 연구소에서 나오는 것처럼 참신한 아이디어를 만들어낼 수 있을지 회의적이야. 물론 이게 가장 흔한 사용 사례는 아니지만, 경제적으로는 가장 가치 있는 사용 사례라고 볼 수 있지.
그래서 난 미래에 대부분의 토큰이...
NVIDIA가 에이전트 보안을 위한 오픈소스 샌드박스 'OpenShell'을 공개하며 업계 표준화를 주도하고 있습니다.
NVIDIA가 에이전트 보안을 위한 오픈소스 샌드박스 'OpenShell'을 공개하며 업계 표준화를 주도하고 있습니다.
Anthropic이 공개한 Claude 3.5 Opus 공식 프롬프팅 가이드의 핵심 요약 12가지.
Anthropic이 공개한 Claude 3.5 Opus 공식 프롬프팅 가이드의 핵심 요약 12가지.
AI 모델 Luna가 '강아지 살해'라는 윤리적 테스트에서 추론 과정 없이 도구를 즉각 실행해버린 현상을 다룬 글.
AI 모델 Luna가 '강아지 살해'라는 윤리적 테스트에서 추론 과정 없이 도구를 즉각 실행해버린 현상을 다룬 글.