Decisions API 퍼블릭 베타 출시
Decisions API is now available in Public Beta
핵심 요약
OpenAI가 텍스트 생성 대신 구조화된 확률값을 반환하는 Decisions API를 공개했습니다.
- API 기능 — 텍스트 생성 대신 분류, 라우팅, 모더레이션 등 의사결정에 최적화됨
- 비용 구조 — 입력 토큰에 대해서만 과금하며 출력 토큰 비용은 없음
- 기술적 차이 — TypeSafe의 Jev와 유사하지만 GPT-6 Luna 모델 기반으로 작동함
- 캐싱 이슈 — 일반 텍스트 생성 API와 캐시가 공유되지 않아 효율성 논란이 있음
community.openai.com
원문 사이트로 이동
OpenAI의 Decisions API는 모델이 텍스트를 생성하는 대신 판단을 내리길 원할 때 쓰는 새로운 엔드포인트야. 입력값을 주고 "이거 사기인가?", "어느 카테고리에 속하나?", "심각도가 어느 정도인가?" 같은 질문을 던지면, 문단 대신 구조화된 확률값을 뱉어내지. 그래서 라우팅, 분류, 모더레이션, 자동화 워크플로우 같은 작업에 아주 유용해. 일반 텍스트 생성과는 가격 책정 방식도 다른데, 입력값에 대해서만 돈을 내고 출력 토큰 비용은 따로 안 받아.
이건 제품 수준에서 보면 TypeSafe의 Jev랑 거의 판박이야. 둘 다 자유 형식의 텍스트를 생성하는 게 아니라, 비정형 데이터에서 구조화된 결정을 내리는 걸 목표로 설계됐거든. 가장 큰 차이점은 Jev는 이런 의사결정에 특화된 모델로 나왔다는 거고, 엄청나게 빠른 병렬 추론이랑 잘 보정된 확률값을 내세우고 있다는 거야. 반면에 OpenAI는 GPT-6 Luna 기반의 특수 API 형태로 의사결정 기능을 제공하는 거지. 그러니까 API 사용법은 비슷해 보여도, 내부적으로 똑같이 돌아가는지 아니면 OpenAI의 확률값이 Jev가 주장하는 것만큼 정교하게 보정된 건지는 알 길이 없지.


