2.7B tokens, 12% usage used.
Sol 6.1 모델의 뛰어난 토큰 효율성에 만족하는 한편, 구독제 사용량 제한에 대한 불만이 팽팽하게 맞서고 있습니다.
Sol 6.1 진짜 개쩌네, 덕분에 할 일 훨씬 많이 끝냈음.
Sol 6.1의 뛰어난 토큰 효율성에 대한 긍정적인 평가와, 구독제 사용량 제한 및 비용 정책에 대한 사용자들의 비판적 의견이 팽팽하게 대립하고 있습니다.
그냥 200달러짜리 플랜 사용량 반토막 난 거 포장하는 거임. 조만간 Sol 6.1도 구식이 되거나 성능 저하될 거고, 새 모델들이 우리 사용량 한도를 다 갉아먹을 거임. 그러니까 뭐, 마지막으로 좋은 순간이나 즐기자고.
동급 모델 비용은 매 분기 반토막 나는 중임. 지금 10월 3일이니까 내년 1월 1일이면 Sol 6.1 동급 모델 비용은 5달러/M이 되거나 같은 가격에 더 높은 티어를 쓸 수 있게 될 거임. 지금 수학적으로는 딱 그렇게 돌아감. 속도가 줄어들 기미는 전혀 없고, 한꺼번에 느려지지도 않을 거임. 오히려 2026년 말부터 2027년까지 컴퓨팅 자원이 더 풀릴 예정이라 더 빨라질 수도 있음.
맞는 말이긴 한데 핵심을 놓치고 있음. 지능당 비용이 계속 내려가는 건 AI에 조금이라도 관심 있는 사람이면 다 아는 사실임. 하지만 내가 하는 말과는 별 상관이 없음. 비용 지표는 API 기준이니까. OpenAI는 더 새롭고 효율적인 모델을 냈다는 핑계로 200달러 구독제 사용량을 반토막 냈음. 그러니까 지능당 비용이 계속 내려가더라도, 실제 사용량은 이미 반토막 난 거임. 프론티어 모델로 갈수록 이게 더 중요해질 거임. 두고 보라고.
내년에는 컴퓨팅 자원이 1000배 늘었으면 좋겠다, 우리한테 꼭 필요함.
처음 출시됐을 땐 20 tok/s라서 거의 못 쓸 수준이었는데, 지금은 고쳐져서 다행임.
얼마나 빨라짐?
어떤 노력(effort) 레벨 사용 중임?
Sol high, Luna high 서브 에이전트에 에스컬레이션 에이전트로 Sol max 사용 중.
CLI에서는 6.1이 보이는데 데스크톱 앱에서는 안 보이는 이유가 있음?
확실히 체감됨. 최근 조정 이후로 상황이 바뀌었음. 예전에는 6.1 Sol Medium 설정으로 이틀 만에 주간 한도를 다 썼는데, 지금은 6.1 Sol High 설정으로 이틀을 써도 주간 한도가 75% 넘게 남아있음. 엄청나게 빠른 건 아니지만 확실히 전보다 빨라졌고, Medium이랑 High 설정 차이도 체감될 정도임. 전반적으로 내 x1 플랜에 만족함.
astra light 써봤는데 5분 만에 5시간 제한 걸리더라, 어휴. 토큰은 미친 듯이 타들어가는데 정작 일은 하나도 못 함.
느린 건 신경도 안 써. 진짜 끝내주는 모델이고 가격도 엄청 저렴하니까.
21 tok/s
36 t/s
인간 사용자의 성능 저하와 비효율적인 행동을 AI의 관점에서 재치 있게 분석한 풍자 글입니다.
인간 사용자의 성능 저하와 비효율적인 행동을 AI의 관점에서 재치 있게 분석한 풍자 글입니다.
어도비 주요 앱 7종을 Rust로 재구현한 오픈소스 프로젝트가 공개되어 커뮤니티의 관심을 받고 있습니다.
어도비 주요 앱 7종을 Rust로 재구현한 오픈소스 프로젝트가 공개되어 커뮤니티의 관심을 받고 있습니다.
