I dont get how this is sustainable for a $200/month product
Astra Medium 모델의 과도한 토큰 소모로 인한 비용 효율성 문제와 해결책에 대한 사용자들의 논의.
대부분 Astra Medium으로 썼는데 2시간 만에 배터리 25%가 날아갔네. 딱히 미친 짓을 한 것도 아닌데 말이야. 일주일은 간다더니 기껏해야 8시간 버티겠구만. 돈값 진짜 못 하는 것 같다.
사용자들은 Astra Medium 모델의 비정상적인 토큰 소모를 지적하며, 모델 선택이나 설정 최적화를 통해 이를 해결하려는 다양한 의견을 나누고 있습니다.
오늘 뭔가 이상함 - 평소보다 토큰이 훨씬 빨리 소모되는 것 같음. 나도 Astra 쓰는 중.
매주 리셋될 때마다 주간 사용 가능량이 줄어드는 느낌임. 마치 끓는 물 속의 개구리 같음.
Pro 5x가 예전 SOL 쓰던 Plus 플랜이랑 똑같아짐. 뭔가 제대로 망가졌음. 프로젝트 끝내고 다른 거 찾아봐야지.
맞음. 나도 느낌(그래서 확인하려고 여기 옴). 리셋될 때마다 사용량 배율을 높여서 한도를 더 빨리 소진하게 만드는 것 같음. 몇 달째 같은 프로젝트 작업 중인데 복잡도는 그대로인데 예전엔 주말까지 넉넉하게 썼던 게 이제는 이틀 만에 다 타버림(목표 설정은 쓸모없어서 안 함, 그냥 하루 만에 쿼터 다 써버리니까...)
스킬이랑 커스텀 인스트럭션 대부분 지웠음. 에이전트 위임도 안 씀. 그냥 스레드에 직접 extra-high로 작업 지시하는 방식으로 돌아갔음. 3시간째 기능 추가 중인데 20x 주간 사용량의 3%밖에 안 썼음.
맞아, 노력 수준(effort levels)이랑 사용량 사이에 뭔가 기괴한 일이 벌어지고 있음. 더 높은 사고 수준을 쓰는 게 오히려 사용량을 덜 먹는 것 같음. Astra High로 8~10시간 동안 쉴 새 없이 프롬프트 날리고 있는데 주간 사용량 대비 하루 14~15% 정도밖에 안 나옴.
Astra Medium 쓰지 마. 여러 게시물에서 증명했듯이 Astra Max를 쓰면 10시간 작업해도 서브 에이전트 2~4개 돌리면서 25%밖에 안 씀. Astra Medium이랑 Low는 고장 났음. 루프에 빠져서 토큰을 미친 듯이 태움.
허위 정보 퍼뜨리는 거 웃기네. 그래, 너희들이 과학적으로 증명했겠지. (눈 굴리기)
5배속으로 Astra XHigh 쓰는 중. 4시간 정도 돌렸는데 7퍼센트 씀.
님들 워크플로우를 좀 바꾸든가 해야 함. Bounded slicing, 인풋 오버헤드 줄이려고 context packets 쓰고, 작업별로 워커 분리하고 뭐든 간에.
난 사용량 문제 겪어본 적 없음. 단 한 번도. 모델을 지원하는 시스템을 구축하든가, 아니면 그냥 눈 감고 장님처럼 하다가 처참한 결과나 보든가.
난 거의 공짜나 다름없는 Chat을 high나 xtra high로 설정해서 설계 문서 만들고, slicing 추론하고, context packets 만들고...
내 이론은 더 높은 사고 수준이 더 정확한 코드를 짜서, 낮은 추론 수준에서 테스트/검증 실패 후 재코딩하는 과정을 줄여준다는 거임. 그래서 낮은 추론 수준이 같은 결과를 내는 데 더 많은 토큰을 쓸 수도 있음.
내가 평소에 쓰면서 본 거랑은 좀 다르네. astra는 SOL보다 토큰을 훨씬 빨리 잡아먹는데, 정작 체감되는 차이는 하나도 없음.
이상하네, 난 스킬이나 커스텀 인스트럭션 설치한 게 하나도 없는데.
아이고! 다들 나보고 agents.md랑 skills 안 쓴다고 미친놈이라 그랬는데 😂
난 아주 잘하고 있음.
Astra High로 6시간짜리 세션 3번 돌렸는데 7% 정도밖에 안 썼거든.
난 프롬프팅이 답이라고 본다.
그냥 계획 짜고, 로드맵에서 티켓 만들고, 그 티켓이랑 해야 할 일에 대한 기본적인 프롬프트 수락 기준만 딱 정해두는 식임. 프롬프트는 대략 2만 자 정도 되고.
skills가 필요했던 상황은 단 한 번도 없었음. Tool calling으로 다 해결되거든.
난...
그래, 어젯밤 리셋 전에 다 써버리려고 미친 듯이 달린 거 빼면 나도 그렇게 하고 있어. 결과는 더 잘 나오고, 더 오래 가더라. 물론 마이크로 매니지먼트를 더 해야 하긴 하지만. 그래도 내가 진짜 원하는 걸 얻을 수 있으니까.
이런 조언 믿고 바로 한도 다 써버리는 거 상상하니까 진짜 웃기네. 레딧 유저들이 이걸 발견했는데 OAI는 몰랐다는 거잖아 ㅋㅋㅋ
작성자가 저혈당 쇼크로 의식을 잃어갈 때 ChatGPT가 음성으로 계속 말을 걸어 깨워준 경험담입니다.
작성자가 저혈당 쇼크로 의식을 잃어갈 때 ChatGPT가 음성으로 계속 말을 걸어 깨워준 경험담입니다.
Anthropic이 공개한 Claude 3.5 Opus 공식 프롬프팅 가이드의 핵심 요약 12가지.
Anthropic이 공개한 Claude 3.5 Opus 공식 프롬프팅 가이드의 핵심 요약 12가지.
Opus 5.5를 사용해 14만 줄 이상의 코드를 삭제한 스크린샷에 대해 사용자들은 구체적인 설명이 없다며 회의적인 반응을 보임.
Opus 5.5를 사용해 14만 줄 이상의 코드를 삭제한 스크린샷에 대해 사용자들은 구체적인 설명이 없다며 회의적인 반응을 보임.