OpenAI가 사용량 제한 초기화 직전에 무언가를 변경했다는 증거를 찾았다

더 빨리 추가할 수도 있을 듯. 일부 블록에 대한 간단한 변경만으로도 Sol Medium 주간 사용량의 거의 10%가 빠져나갔음. Sol Medium으로는 하루도 못 버틸 것 같아서 지금 Luna로 주력 모델을 바꾸는 중.

그거보다 더 길었음

그래, 걔네가 한 '컨텍스트 사용 최적화'를 내가 찾아냈지. 기본 명령어에 이런 문구를 추가했더라고:

“마지막 사용자 요청이 현재 요청이고 이전 요청들은 오래되었지만 유용한 컨텍스트라고 가정하라. 즉, 시간은 절대 끝나지 않는다.....

그 '시간은 절대 끝나지 않는다'라는 네 단어가 AI 모델, 특히 SOL이 결과를 과도하게 엔지니어링하게 만들고 단순한 작업에도 무한정 매달리게 만드는 거야.

이게 네가 말하는 '최적화'냐?

그래서 사용자들의 사용량 제한이 계속 바닥나는 거라고!

내 말이 맞다면 그 파일은 전체 모델 카탈로그야. 모델마다 템플릿이랑 메타데이터가 들어있어서, 단어 수가 곧 요청에 포함되는 길이는 아니야. 네 숫자들도 그걸 가리키고 있잖아. 40,876 줄었다가 40,808 늘고, 146,614 줄었다가 146,650 늘고, 계속 비슷한 크기 사이를 왔다 갔다 하지 커지는 게 아니라고. 17일이랑 19일에도 더 큰 폭의 변화가 있었지만 초기화는 없었어. 공개 번들은 20일쯤에 커지긴 했지만...

왜 이런 한심한 글들이 여기 허용되는 거냐. 이거보다 더 나은 토론이 오갔으면 좋겠네.

내가 아는 건 지난 2주 동안 얘네가 몇 시간씩 테스트 코드 짜는 거랑 결정론적(deterministic)인 헛소리에 집착하는 걸 진짜 좋아한다는 거임. 진짜 테스트 코드 좀 그만 쓰라고 해도 말을 안 들어... 코드베이스에서 뭘 좀 수정해서 제한을 16에서 32로 늘렸더니, 이 자식이 그 변경 사항 하나 때문에 15분 동안 결정론적 테스트를 짜고 앉아 있네... 내가 '아니'라고 하니까 알겠다고 하더니, 그럼 그냥 간단한 테스트 하나만 하겠다고 함... 와 진짜 어이가 없어서. 참고로 내가 바꾼 건 숫자 하나가 아니라 여러 가지였고, 숫자 변경은 100개 중 하나였음... 그러니까 그 멍청한 놈이...