퍼플렉시티 Decisions API 공개: 선택지별 확률을 내는 pplx-decider-v1-27b, 가중치까지 공개

퍼플렉시티 Decisions API와 pplx-decider-v1-27b의 선택지별 확률 출력, 분류·에이전트 라우팅 활용법, 입력 가격과 로컬 실행 조건을 소개합니다.

Huuush발행 2026.10.02 · 8분 read에디터: Jay Kim

3줄 요약

  1. pplx-decider-v1-27b는 텍스트·이미지를 읽고 글 대신 질문별 확률을 반환합니다.
  2. Decisions API는 noul·choice·score 세 형식을 지원해 분류와 라우팅에 활용할 수 있습니다.
  3. 입력은 100만 토큰당 0.04달러이며 Apache-2.0 가중치는 CUDA 환경에서 로컬 실행할 수 있습니다.
체스판 화면을 보고 다음 수를 고르는 의사결정 모델 시연

정말 모든 게 Jev가 되고 있습니다. 이번에는 퍼플렉시티가 Decisions API와 멀티모달 의사결정 모델 pplx-decider-v1-27b를 공개했습니다. Qwen3.8-27B를 미세 조정한 모델로, 답변을 길게 생성하는 대신 정해진 선택지별 확률을 바로 출력해 고객 문의 분류나 에이전트 라우팅 같은 작업에 쓸 수 있습니다. 가격은 입력 100만 토큰당 0.04달러이고 출력 토큰은 무료이며, 모델 가중치까지 Hugging Face에 공개됐습니다.

체스판 화면을 보고 다음 수를 고르는 의사결정 모델 시연

퍼플렉시티 개발자 계정은 한국 시간 10월 2일 03:24 11개 벤치마크 결과와 함께 Decisions API를 발표했습니다.

X 게시물을 불러오는 중입니다.

X 게시물을 불러오지 못했습니다. 잠시 후 다시 시도해 주세요.

X에서 원문 보기

출처: X @perplexitydevs

pplx-decider-v1-27b: 글 대신 확률을 내는 의사결정 모델

텍스트와 JSON, 이미지까지 언어 모델처럼 읽지만 글을 쓰지는 않습니다. 예/아니오의 가능성, 직접 정한 선택지별 확률, 기준표 단계별 확률을 돌려줍니다. 답장을 쓰거나 코드를 짜거나 이유를 설명하지는 않습니다. 판단은 돌려받은 숫자를 임계값과 비교해 내 코드가 합니다. 채팅 모델에 라벨을 묻고 답을 파싱하던 분류·라우팅·기준표 채점 자리에 맞습니다. 문맥 길이는 250k 토큰이며 라이선스는 Apache-2.0입니다.

2026년 9월 7,210행 고정 패널 정확도이며 pplx-decider 결과는 Perplexity API로 측정했습니다.

벤치마크JevQwen3.8-27Bpplx-decider-v1-27b
WinoGrande90.70%73.10%83.30%
FinancialPhraseBank76.98%75.68%84.18%
RAGTruth77.27%61.53%88.80%
JudgeBench78.57%68.86%78.29%
BBH94.27%72.80%82.80%
JevBench public hard73.27%72.28%70.30%
TabFact89.80%78.60%90.60%
ContractNLI77.45%80.78%80.78%
Circa84.60%87.00%89.20%
Belebele95.00%93.20%94.00%
TruthfulQA binary92.00%82.80%85.40%
Overall84.51%74.76%85.71%

전체 정확도는 85.71%로 Jev(84.51%)와 바탕 모델 Qwen3.8-27B(74.76%)보다 높고, RAGTruth·FinancialPhraseBank·TabFact·Circa에서 가장 높습니다.

세 가지 질문 타입: noul, choice, score

타입묻는 것돌려받는 것
noul예/아니오예일 확률(0~1)
choice내가 정한 선택지 중 하나(1~255개)선택지별 확률, 가장 높은 선택지와 confidence
score순서 있는 기준표(최대 10단계)단계별 확률과 기대 점수

한 요청에서 같은 내용(state)에 관한 질문을 1~128개까지 이름을 붙여 한꺼번에 보낼 수 있습니다.

Decisions API 사용법

console.perplexity.ai에서 발급한 Perplexity API 키면 사용할 수 있습니다. POST https://api.perplexity.ai/v1/decisions에 Bearer 인증을 붙여 JSON을 보냅니다.

curl -X POST https://api.perplexity.ai/v1/decisions \
  -H "Authorization: Bearer $PERPLEXITY_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "pplx-decider-v1-27b",
    "state": {
      "title": "Battery died after two weeks",
      "review": "The headphones sound great, but the battery stopped charging after two weeks."
    },
    "questions": {
      "defect": {
        "type": "noul",
        "instructions": "Does the review report a product defect?"
      },
      "sentiment": {
        "type": "choice",
        "instructions": "What is the overall sentiment of the review?",
        "criteria": {
          "positive": "Mostly satisfied",
          "mixed": "Praise and complaints in one review",
          "negative": "Mostly dissatisfied"
        }
      },
      "severity": {
        "type": "score",
        "instructions": "How severe is the reported problem?",
        "criteria": ["Cosmetic", "Inconvenient", "Product unusable"]
      }
    }
  }'

defect는 결함 보고일 확률이 94%입니다. sentiment는 mixed가 95%로 가장 높습니다. severity의 1.78은 Inconvenient(1)와 Product unusable(2) 사이에서 2에 가깝습니다. confidence는 가장 높은 확률과 다른 값이며, 2위 선택지가 가까울수록 낮아집니다.

이미지는 state 배열에 넣고 PNG·JPEG·WebP base64 data URL로 보냅니다. HTTP 이미지 URL은 400 오류를 반환합니다. 이미지당 32×32 픽셀 타일 2,048개까지 허용하며, 1440×1440과 2048×1024는 가능하지만 1600×1310은 초과합니다. 한도를 넘으면 약 1분 뒤 504가 날 수 있습니다. 이미지 1메가픽셀당 입력 토큰은 약 1,000개입니다.

항목한도
질문요청당 1~128개
Choice 선택지1~255개
Score 단계1~10단계
입력262,144 토큰 미만
요청 본문32MiB
호출 빈도조직당 초당 10회

9월 30일 측정에서 수백 토큰 요청은 2초 미만, 약 9만 토큰은 5초, 약 19만 토큰은 14초, 한도 직전 요청은 23초였습니다. 클라이언트 타임아웃은 30초면 충분합니다.

어디에 쓰나: 고객 문의 분류부터 에이전트 라우팅까지

공식 티켓 분류 쿡북은 문의 12건을 건마다 질문 3개로 분류하고, 에스컬레이션할 때만 Agent API로 넘깁니다. 퍼플렉시티는 모델 기반 분류기로 강화학습(RL) 롤아웃을 모니터링해 학습을 빠르게 하고 RL 환경과 모델 행동의 문제를 고칩니다.

공동 창업자 Denis Yarats는 체스판 스크린샷만 보고 양쪽 수를 모두 두는 시연을 실시간 영상으로 올렸습니다. 수마다 API로 약 140ms에 수를 고릅니다.

X 게시물을 불러오는 중입니다.

X 게시물을 불러오지 못했습니다. 잠시 후 다시 시도해 주세요.

X에서 원문 보기

출처: X @denisyarats

가격과 로컬 실행

입력 100만 토큰당 0.04달러이며 출력 토큰은 무료이고 요청당 수수료는 없습니다. 응답의 usage.input_tokens로 비용을 계산하며 API 키를 소유한 조직에 청구됩니다.

CEO Aravind Srinivas는 며칠 안에 가격을 더 낮추겠다고 밝혔습니다(10월 2일 06:37).

X 게시물을 불러오는 중입니다.

X 게시물을 불러오지 못했습니다. 잠시 후 다시 시도해 주세요.

X에서 원문 보기

출처: X @AravSrinivas

Hugging Face에서 가중치를 받을 수 있습니다. Python 3.12 이상과 가중치 약 49GiB 및 작업 메모리를 담을 CUDA GPU가 필요합니다.

uvx --from huggingface-hub hf download perplexity-ai/pplx-decider-v1-27b inference.py --local-dir .
uv run inference.py
from inference import Decider

model = Decider.from_pretrained("perplexity-ai/pplx-decider-v1-27b")
result = model.predict(
    "My Stripe integration keeps failing. Please help ASAP.",
    {
        "type": "choice",
        "instructions": "Which team should handle this request?",
        "criteria": {
            "billing": "Charges and refunds",
            "technical_support": "Integration errors",
            "sales": "Questions about buying a product",
        },
    },
)
print(result)  # Selected choice and calibrated probabilities.

noul 질문은 {"type": "noul", "instructions": "Does this message express urgency?"}처럼 보낼 수 있고, 이미지에는 images=["screenshot.png"] 또는 uv run inference.py --image screenshot.png를 사용합니다.

Jev 이후 몇 주 만에 생긴 시장

  1. TypeSafe Jev는 한국 시간 9월 16일 04:33에 공개됐습니다. 뒤이어 선택지와 확률을 중심으로 한 의사결정 모델 흐름이 빠르게 이어졌습니다.

    X 게시물을 불러오는 중입니다.

    X 게시물을 불러오지 못했습니다. 잠시 후 다시 시도해 주세요.

    X에서 원문 보기

    출처: X @typesafeai

  2. OpenAI는 9월 30일 03:34 GPT-6 Luna 기반 Decisions API를 발표했습니다.

    X 게시물을 불러오는 중입니다.

    X 게시물을 불러오지 못했습니다. 잠시 후 다시 시도해 주세요.

    X에서 원문 보기

    출처: X @OpenAIDevs

  3. Liquid AI는 9월 30일 03:35 첫 의사결정 모델 d1을 공개했습니다.

    X 게시물을 불러오는 중입니다.

    X 게시물을 불러오지 못했습니다. 잠시 후 다시 시도해 주세요.

    X에서 원문 보기

    출처: X @liquidai

  4. Ollama는 9월 30일 13:25 로컬 의사결정 모델을 지원하며 ollama pull nimble로 시작할 수 있다고 알렸습니다.

    X 게시물을 불러오는 중입니다.

    X 게시물을 불러오지 못했습니다. 잠시 후 다시 시도해 주세요.

    X에서 원문 보기

    출처: X @ollama

  5. Inception Labs는 10월 1일 04:12 Mercury Decide를 발표하고 OpenRouter의 inception/mercury-decide로 연결했습니다.

    X 게시물을 불러오는 중입니다.

    X 게시물을 불러오지 못했습니다. 잠시 후 다시 시도해 주세요.

    X에서 원문 보기

    출처: X @_inception_ai

  6. 10월 2일 03:24 퍼플렉시티는 pplx-decider-v1-27b를 공개하고 가중치도 열었습니다.

새로운 AI 구조 하나가 몇 주 만에 하나의 시장이 되어가고 있습니다.

자주 묻는 질문

예/아니오 확률, 선택지별 확률 또는 순서형 기준표의 기대 점수와 단계별 확률을 반환합니다.

입력 100만 토큰당 0.04달러이며 출력 토큰은 무료입니다.

Python 3.12 이상과 약 49GiB 가중치 및 작업 메모리를 담을 CUDA GPU가 필요합니다.

함께 보면 좋은 글

출처

작성자 소개

제이킴유니버스

제이킴유니버스

AI 자동화와 홈페이지 제작으로 업무 시간을 줄이고 매출을 만듭니다.