에이전트가 다음 행동이나 사용할 모델을 골라야 할 때마다 범용 언어 모델을 호출하면, 판단 한 번마다 지연과 비용이 쌓입니다. Microsoft Decision-1은 이런 선택을 정해진 후보 안에서 빠르게 점수화하도록 만든 의사결정 모델입니다. Microsoft가 10월 9일(미국 현지 기준, 한국 시각 10월 10일) 소개했으며, 현재 Microsoft Foundry와 OpenRouter에서 이용할 수 있습니다.
일반적인 챗봇처럼 답변 문장을 길게 생성하는 대신, 입력 상황과 고정된 선택지에 대해 각 선택지의 보정 확률을 반환합니다. 예·아니오, 객관식, 평점뿐 아니라 기준표에 따라 AI 응답이나 에이전트 행동을 평가하는 작업도 지원합니다. 라우팅, 분류, 우선순위 지정, 검증처럼 결과를 곧바로 소프트웨어에서 처리할 업무가 주된 대상입니다.
선택지를 점수로 바꾸는 단일 호출 모델
Microsoft는 Alibaba의 Qwen3.5-9B를 바탕으로 Decision-1을 후훈련했다고 밝혔습니다. Foundry 모델 카드에 따르면 학습에는 공개 데이터와 Microsoft 팀이 만든 합성 데이터가 사용됐습니다. 기반 모델이 Qwen이라고 해서 Decision-1의 별도 가중치까지 공개됐다는 뜻은 아닙니다.
호출할 때는 판단할 상황과 가능한 답을 함께 제시합니다. 모델은 한 번의 호출에서 각 답의 확률을 구조화된 형태로 돌려줍니다. 애플리케이션은 그 점수를 기준으로 다음 도구를 고르거나, 검토가 필요하면 사람에게 넘기는 흐름을 만들 수 있습니다.
예를 들어 에이전트가 제안한 행동을 ‘진행’, ‘다시 시도’, ‘중단’, ‘사람에게 전달’ 가운데 평가할 수 있습니다. 들어온 요청을 분류해 알맞은 모델로 보내거나, 정해 둔 품질 기준으로 생성 결과를 채점하는 데도 쓸 수 있습니다.
35배는 Microsoft 자체 평가의 P50 지연시간 비교
Microsoft는 공식 발표에서 블라인드 상태로 유지한 36개 벤치마크와 약 15만 개 문항을 비교해 Decision-1이 가장 높은 정확도를 기록했다고 밝혔습니다. 평가 범위에는 라우팅, 순위 결정, 긴 문맥, 다국어, 분포 외 데이터, 추론과 안전성 작업이 포함됐습니다.
속도에 관해 발표가 명시한 핵심 수치는 중앙값 지연시간인 P50입니다. Microsoft 자체 비교에서 Decision-1의 P50 지연시간은 GPT-6 Sol보다 약 35배 짧았고, 비교군 가운데 다음으로 빠른 Quyet-1.0-Large보다 4.5배 짧았다고 합니다. 이는 해당 평가에서 측정한 지연시간 비교이며, 모든 입력과 배포 환경에서 처리량이나 생성 속도가 같은 배율로 빨라진다는 뜻은 아닙니다.
발표 페이지에는 비교 실행의 하드웨어·지역, 동시 요청 수, 반복 횟수와 입력별 세부 조건이 모두 제시돼 있지 않습니다. 따라서 35배 수치는 Microsoft가 공개한 자체 벤치마크 결과로 읽어야 합니다. Microsoft는 별도 견고성 평가에서 입력 표현을 여덟 방식으로 바꿨을 때 선택 결과가 평균 1.3% 달라졌고, 선택지 설명을 바꾸거나 순서를 뒤집고 섞은 조건에서는 선택이 바뀌지 않았다고 보고했습니다.
분류 데모와 컴퓨터 사용 데모는 Microsoft Command Line 발표 페이지에서 확인할 수 있습니다.
출처: X @satyanadella
출처: X @msdev
자유 대화와 생성보다 분류·검증에 맞습니다
Decision-1은 텍스트 입력을 받으며 문맥 길이는 최대 32,768토큰입니다. 설명문을 만들어 내거나 자유 형식으로 질문에 답하는 모델은 아닙니다. 번역, 요약, 대화처럼 답변 자체를 생성해야 하거나 입력에 없는 지식을 찾아야 하는 작업에도 적합하지 않습니다.
신용, 고용, 주거, 보험, 교육, 의료, 법률처럼 사람에게 중대한 결과를 주는 결정을 이 모델 하나에 맡기지 말라는 내용도 모델 카드에 포함돼 있습니다. 확률 점수를 어떤 임계값에서 실행으로 연결할지, 불확실한 사례를 보류하거나 사람에게 넘길지는 이를 사용하는 서비스가 정해야 합니다.
Foundry와 OpenRouter에서 시작할 수 있습니다
Microsoft Foundry 모델 카탈로그에서 Microsoft-Decision-1을 찾아 프로젝트에 배포한 뒤 Playground 또는 API로 호출하면 됩니다. Microsoft Foundry 소개 페이지는 공개 프리뷰라고 표현하고, 카탈로그 모델 카드는 GA로 표시하는 등 상태 문구가 서로 다릅니다. 실제 사용 가능 범위와 배포 조건은 로그인한 구독의 카탈로그 화면에서 확인하는 편이 안전합니다.
OpenRouter 모델 페이지에서도 모델 ID microsoft/microsoft-decision-1로 호출할 수 있습니다. 발표 당시 Microsoft 글에는 OpenRouter가 곧 제공될 예정이라고 적혀 있었지만, 현재 OpenRouter 페이지에는 모델이 활성 상태로 올라와 있습니다. 발표 뒤 제공이 시작된 셈입니다.
Microsoft 발표와 OpenRouter 페이지에 표시된 가격은 입력 토큰 100만 개당 0.042달러, 출력 토큰 무료입니다. Foundry에서는 지역과 배포 조건에 따라 가격 표시가 달라질 수 있으므로 배포 전에 구독 화면의 실제 비용을 확인하세요. 두 경로 모두 입력 문맥은 최대 32,768토큰으로 안내합니다.
함께 읽기: OpenAI Decisions API 공개: Jev 2주 만에 GPT-6 Luna가 0.15초에 선택지를 고른다, Unsloth Laya 로컬 실행: RAM 4GB PC에서 AI 의사결정 모델을 Jev 호환 API로 띄운다, CLM-8B: System One의 9배 빠른 의사결정 모델 Jev.
