파이(pi)에서의 GPT
GPT in pi
핵심 요약
파이(pi)에서 gpt-6.1-sol 사용 시 500k 컨텍스트 제한을 1m으로 늘리는 방법을 질문함.
- 컨텍스트 제한 — gpt-6.1-sol 사용 시 500k 컨텍스트 제한으로 인한 성능 저하 발생함.
- 설정 방법 — 확장 컨텍스트 기능을 활성화하여 1m 컨텍스트를 확보할 수 있음.
/login을 통해 openai-codex 제공업체에 접속해서 high 설정으로 gpt-6.1-sol을 쓰고 있는데, 컨텍스트가 500k밖에 안 나오네. 혹시 1m 옵션 따로 있는 사람 있냐?
보통 1m까지 다 쓸 일은 없긴 한데, 컨텍스트 윈도우 꽉 차면 tps가 확 떨어져서 말이야.
너네도 이런 증상 겪는 사람 있냐?
