오픈AI가 9월 29일(현지 시각, 한국 시간 9월 30일) DevDay에서 OpenAI Decisions API를 공개했습니다. TypeSafe Jev가 나온 지 약 2주 만에 같은 방식의 판단 API를 내놓은 것입니다. GPT-6 Luna가 개발자가 미리 정한 선택지 중 하나를 고르며, 응답 시간은 0.15초로 일반 Luna 호출보다 약 10배 빠르다고 오픈AI는 설명합니다.
출처: X @OpenAIDevs
OpenAI Decisions API란: 질문과 선택지를 정하면 GPT-6 Luna가 고른다
개발자가 질문과 가능한 답 목록을 정하고, 텍스트나 이미지를 맥락으로 보내면 GPT-6 Luna가 그중 하나를 반환합니다. 오픈AI가 든 예시는 고객 문의와 문의를 넘길 팀 목록을 함께 보내는 방식입니다. 앱은 결과를 받아 문의를 담당 팀에 바로 배정할 수 있습니다.
공식 용도는 콘텐츠 분류, 요청 라우팅, 에이전트의 다음 행동 선택입니다. 현재는 테스트용으로 선정된 일부 API 고객에게만 제한 프리뷰로 제공되며, 오픈AI는 며칠 안에 더 넓게 출시할 계획이라고 밝혔습니다. OpenAI DevDay 리캡
0.15초, 일반 Luna 호출보다 10배 빠르다
오픈AI 발표 슬라이드에 따르면 Decisions API의 작업 완료 시간은 150밀리초, 같은 판단을 일반 GPT-6 Luna API로 처리하면 1.6초입니다. 약 10배 차이입니다. 모델은 자유롭게 문장을 이어 쓰는 대신 허용된 선택지 안에서 답을 고르므로 결과 형식이 일정하고, 분류 라벨을 바꿀 때마다 별도 분류기를 다시 학습시킬 필요도 없습니다.
Decisions API 자체의 가격은 아직 공개되지 않았습니다. GPT-6 Luna 일반 API 가격은 입력 토큰 100만 개당 0.10달러, 출력 토큰 100만 개당 0.50달러입니다. OpenAI API 가격표
먼저 이 구조를 들고나온 TypeSafe Jev
이 구조를 먼저 제품으로 내놓은 곳은 TypeSafe입니다. InstructGPT 연구에 참여했던 Diogo Almeida의 TypeSafe는 9월 15일(현지 시각, 한국 시간 9월 16일) Jev를 공개했습니다. Jev는 문장을 생성하지 않고 여러 선택지의 확률을 계산하는 의사결정 전용 모델입니다.
TypeSafe는 출시 발표에서 Jev가 기존 대화형 모델보다 20~200배 빠르고 40~400배 저렴하다고 밝혔습니다. 가격은 입력 토큰 100만 개당 0.042달러이며 출력 토큰은 무료입니다. 선택지마다 확률을 제공하므로 확률이 높은 판단은 자동 처리하고, 애매한 경우만 사람에게 넘기는 흐름을 만들 수 있습니다.
출처: X @CompleteSkeptic
출처: X @CompleteSkeptic
2주 만에 판단 레이어가 제품군이 됐다
Cua는 컴퓨터 조작 에이전트에 Jev를 판단 레이어로 연결하는 jev-use 개발 프리뷰를 macOS·Windows·Linux용으로 공개했습니다. Cua가 측정한 2048 게임 실행에서는 Astra가 294.9초와 약 1.45달러를 쓴 작업을 Jev가 44.9초와 약 0.00108달러에 마쳤습니다. 이 실행에서는 약 5배 빠르고 비용은 약 1,000분의 1이었습니다.
출처: X @trycua
9월 28일 Claude Code에서는 작업마다 필요한 추론 강도를 Jev가 골라 적용하는 reflex-router가 나왔습니다.
출처: X @ziyacivan
오픈 모델 쪽에서는 Jev를 평가자로 삼아 Qwen3.5-9B를 미세조정한 Nimble이 등장했습니다. Google의 DiffusionGemma는 확산 방식으로 한 번에 선택지 확률 분포를 내는 접근을 보여줍니다.
출처: X @madiator
출처: X @googlegemma
모든 LLM에 Jev 같은 판단 모드가 기본으로 들어갈 거라고 예상했지만, 오픈AI는 생각보다 빠르게 대응했습니다.
dots, Agents API와 같은 날 나온 이유
오픈AI는 같은 날 상시 에이전트 dots와 Agents API의 컴퓨터 사용 기능도 발표했습니다. Agents API는 Codex 하네스의 멀티 에이전트 조정, 도구 검색, 컨텍스트 압축을 관리형 서비스로 제공하고 컴퓨터 사용 기능을 더했습니다. Agents API 공식 소개 · 컴퓨터 사용 문서
24시간 일하는 에이전트는 어떤 메일에 답할지, 다음에 어떤 작업을 열지 같은 작은 판단을 쉬지 않고 내려야 합니다. 매번 큰 모델에 맡기면 느리고 비용도 커집니다. Jev 같은 모델을 에이전트의 판단 레이어로 붙이면 한 작업에서 가능한 판단 횟수까지 달라질 수 있습니다.
분기문 자리에 모델 호출이 들어간다
Jev는 작은 팀이 2주 만에 새로운 모델 범주를 열 수 있다는 점을 보여줬고, 오픈AI는 가장 작은 모델 Luna로 그 범주에 들어왔습니다. 이미 오픈AI API를 쓰는 개발자에게는 계정 하나로 판단 레이어를 붙이는 길이 생겼습니다.
TypeSafe는 공개된 가격과 확률 보정, 정확도로 경쟁하게 됩니다. Decisions API의 가격과 정확도가 공개되는 정식 출시 뒤에는 두 접근을 실제 조건에서 비교할 수 있습니다. 소프트웨어 안에서 AI 판단의 단가가 떨어질수록, 사람이 규칙으로 짜던 분기문 자리에 모델 호출이 들어가는 속도도 빨라질 것 같습니다.
