상세 컨텐츠

본문 제목

OpenAI Decisions API 공개 베타 | 글 말고 확률만 받는다, 입력 100만 토큰 $0.10으로 분류·라우팅하기

서버·개발/코드 노트

by 사이 (SAI) 2026. 10. 15. 02:00

본문

728x90
반응형

문의 메일이 들어올 때마다 정말 알고 싶은 건 "결제 문제인가, 기술 문제인가" 한 줄입니다. 그런데 지금까지는 모델에게 문장을 쓰게 한 다음 그 문장을 코드로 다시 읽어야 했습니다. OpenAI가 10월 6일 공개 베타로 연 Decisions API는 이 단계를 건너뜁니다. 글을 쓰지 않고, 조건이 참일 확률이나 고른 선택지, 점수만 돌려줍니다(질문에 따라 답 대신 거절이 올 수도 있습니다).

입력 100만 토큰에 $0.10이고 출력 요금은 없습니다. OpenAI 문서는 Responses API보다 약 10배 빠르다고 적었고, 정식 출시(GA)는 몇 주 안에 될 것으로 예상한다고 밝혔습니다. 아래에서 요청 형식, 질문 유형 세 가지, 비용 계산, 그리고 쓰기 전에 알아 둘 한계를 순서대로 정리합니다.

Decisions API는 POST /v1/decisions로 보내는 판정 전용 API다. 현재 gpt-6-luna만 지원하고, predicate(참일 확률)·choice(고정 선택지)·score(단계별 점수) 세 가지 질문에 숫자와 값으로 답한다. 요금은 입력 100만 토큰당 $0.10이며 출력·캐시 요금은 없다. 공개 베타라 형식이 바뀔 수 있고, "10배 빠름"은 OpenAI의 설명이다.

1. Decisions API는 무엇이고, 글 생성 API와 뭐가 다른가

밤 책상 위 노트북 화면에 길이가 다른 초록 막대 세 개가 떠 있고, 옆 나무 편지 정리함에 분류·연결·점수 꼬리표가 붙은 장면

OpenAI 문서는 Decisions API를 "텍스트, 이미지, 또는 둘 다를 평가해 정해진 형식의 답을 돌려주는 API"라고 소개합니다. 조건이 참일 확률, 정해 둔 선택지 중 하나, 기준표에 따른 점수 중 하나를 받고, 이 답으로 콘텐츠를 분류하거나 요청을 연결하거나 일의 우선순위를 정하라는 설명입니다.

요청은 세 부분입니다. model은 판정을 맡을 모델이고 지금은 gpt-6-luna만 됩니다. input은 질문들이 함께 보는 근거로, 글 한 덩어리이거나 글과 이미지가 든 사용자 메시지입니다. questions는 무엇을 판정할지로, 질문마다 유형과 지시문, 선택지나 점수 단계를 적습니다. 응답은 answers 배열이고, 질문마다 붙인 name이 그대로 돌아와 어느 답인지 구분합니다.

Decisions API, Structured Outputs, 함수 호출의 차이와 고르는 기준을 세로로 정리한 도식

하고 싶은 일 쓸 도구 (OpenAI 문서 기준)
확률·선택·점수 같은 답 하나가 필요하다 Decisions API (POST /v1/decisions)
내 JSON 형식의 결과를 만들고 싶다. 추출한 필드나 설명 글 Responses API의 Structured Outputs
모델이 도구를 호출하며 인자를 채우게 하고 싶다 함수 호출(function calling)

아래는 문서 맨 위 부분입니다. 공개 베타이고 GA를 몇 주 안에 예상한다는 문장, gpt-6-luna가 유일한 모델이라는 문장, SDK 최소 버전이 함께 나옵니다.

OpenAI 개발자 문서 Decisions 가이드 상단: 텍스트와 이미지를 10배 빠르게 판정, 공개 베타이며 GA는 몇 주 안, gpt-6-luna만 지원, POST /v1/decisions 엔드포인트, SDK 최소 버전
출처: OpenAI 개발자 문서 Decisions 가이드 갈무리

주의 공개 베타입니다. 문서가 "GA를 몇 주 안에 예상한다"고 적었으니, 지금 붙이는 코드는 정식 출시 때 응답 형식이나 가격이 달라질 수 있다고 생각하고 쓰는 편이 안전합니다.

2. 질문 유형 세 가지: 참일 확률, 고르기, 점수

질문 유형 세 가지 카드: predicate는 조건이 참일 확률, choice는 정한 선택지 중 하나와 확률·확신도, score는 단계별 확률의 가중 평균

유형 언제 쓰나 돌려주는 값
predicate 조건 확인. 눈에 보이는 파손, 문단 관련성 probability: 조건이 참일 확률 0~1
choice 선택지 하나 고르기. 담당 부서, 콘텐츠 분류 choice: 내가 준 값 하나, 선택지별 probabilities, confidence
score 순서가 있는 단계로 평가. 문제의 심각도 score: 단계 번호의 확률 가중 평균, 단계별 확률, confidence

문서의 선택형 예시는 고객 불만을 부서로 보내는 요청입니다. "주문 결제가 두 번 됐다"는 문장을 넣고 billing·technical·shipping·other 중 하나를 고르게 합니다. 문서는 선택지로 모든 경우를 덮지 못할 때를 대비해 other 같은 예비 선택지를 두고, 그 결과는 일반 검토 대기열로 보내라고 권합니다.

선택형 요청 예시 (공식 문서의 형식, 키는 본인 값으로)

curl https://api.openai.com/v1/decisions \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-6-luna",
    "input": "I was charged twice for my order.",
    "questions": [{
      "type": "choice",
      "name": "department",
      "instructions": "Which department should handle this complaint?",
      "choices": [
        {"value": "billing", "description": "Payments, invoices, and refunds."},
        {"value": "technical", "description": "Problems using the product."},
        {"value": "shipping", "description": "Delivery and tracking."},
        {"value": "other", "description": "Requests outside these categories."}
      ]
    }]
  }'

아래 움직이는 화면은 이 요청과 문서가 보여 준 응답 예시(일러스트 발췌)를 터미널처럼 재구성한 것입니다. 직접 호출한 결과가 아니고, 줄이 길어 선택지 설명은 줄여 적었습니다.

맥 터미널에서 curl로 Decisions API에 고객 불만 문장을 보내고, 응답으로 choice가 billing, 확률 0.95와 confidence 0.93이 돌아오는 과정을 재구성한 화면
재구성한 예시 화면(요청은 공식 문서 형식, 응답은 문서의 예시 응답. 직접 호출한 결과가 아님)

응답의 choice는 내가 준 값 중 하나(여기서는 billing)이고, probabilities에는 선택지별 확률이, confidence에는 확신도가 따로 들어옵니다. 같은 요청에 질문을 여러 개 넣어도 됩니다. 질문마다 유형을 달리할 수 있고, 앞 답에 따라 다음 질문이 달라지는 판정은 요청을 나눠 보내라는 것이 문서의 안내입니다.

핵심 이미지를 함께 판정한다면 가이드는 사진을 인라인 base64 데이터 URL로 보내라고 안내하고, 외부 HTTP·HTTPS 주소와 file_id는 이 엔드포인트가 지원하지 않는다고 적었습니다. 그런데 API 레퍼런스에는 공개 HTTP(S) 주소도 가능하다는 표현이 있어 두 문서가 어긋납니다. 확실한 base64 방식으로 먼저 보내고, 주소 방식은 직접 시험해 확인하세요.

3. 점수형 응답은 어떻게 읽나: 1.1은 무슨 뜻일까

점수형은 단계마다 기준을 적고 낮은 단계부터 순서대로 나열합니다. 문서 예시는 "Safari에서만 내보내기가 실패한다"는 문장을 세 단계(겉보기만 이상, 우회 방법 있음, 완전히 막힘)로 평가합니다. 단계 번호는 0부터 시작합니다.

응답의 score는 단계별 확률로 가중 평균을 낸 값이라 단계 사이에 걸칠 수 있습니다. 문서 예시에서 확률이 0.1, 0.7, 0.2이면 0×0.1 + 1×0.7 + 2×0.2 = 1.1이 됩니다. 1.1은 "우회 방법 있음(1) 쪽에 가깝고 약간 더 심각한 쪽으로 기울었다"는 뜻으로 읽으면 됩니다.

맥 터미널에서 점수형 요청을 보내고, 응답으로 score 1.1과 단계별 확률 0.1, 0.7, 0.2, confidence 0.55가 돌아오며 계산식이 주석으로 붙는 재구성 화면
재구성한 예시 화면(요청은 공식 문서 형식, 응답은 문서의 예시 응답. 마지막 줄 계산은 설명용 주석)

문서는 답을 쓰는 기준도 짚습니다. 확률이나 점수를 곧바로 정답으로 쓰기보다, 내 서비스에서 라벨이 붙은 예시로 라우팅·필터링·검토의 임계값을 정하고, 오탐과 미탐 중 어느 쪽 비용이 큰지를 보고 기준선을 고르라는 내용입니다.

4. 가격은 얼마인가: 입력만 내고 출력은 무료

OpenAI 문서는 gpt-6-luna 기준으로 입력 100만 토큰당 $0.10이고, 입력 토큰에만 요금을 내며 캐시 읽기·캐시 쓰기·출력 토큰 요금은 없다고 밝혔습니다. 지역 처리 할증과 긴 컨텍스트 입력 배수는 적용됩니다. 같은 모델을 다른 방식으로 부를 때는 해당 모델의 일반 가격을 따릅니다.

OpenAI 문서 Pricing and availability 문단: gpt-6-luna 입력 100만 토큰당 0.10달러, 캐시 읽기·쓰기·출력 토큰 요금 없음, 지역 처리 할증과 긴 컨텍스트 배수 적용, ZDR과 HIPAA, 미국·유럽 데이터 레지던시
출처: OpenAI 개발자 문서 Decisions 가이드 갈무리

항목 (100만 토큰당, USD) Decisions API GPT-6 Luna 일반 호출
입력 $0.10 $0.10
출력 요금 없음 $0.50
캐시 읽기·쓰기 요금 없음 일반 가격표를 따름

Luna의 일반 가격은 OpenAI가 GPT-6 Sol과 Luna를 소개하며 밝힌 표(입력 $0.10, 출력 $0.50)입니다. 입력 단가가 같으니 차이는 출력에서 납니다. 한 달 치로 어림해 보면 이렇습니다.

한 달 비용 계산 예시: 하루 3천 건, 건당 입력 500토큰이면 월 4,500만 토큰, Decisions API는 4.5달러, 같은 Luna를 Responses API로 쓰면 건당 출력 100토큰 가정에서 9달러

주의 위 계산은 제 가정입니다. 질문의 지시문과 선택지 설명도 요청에 들어가므로 입력 토큰에 잡힐 것으로 보이지만, 문서에는 세는 방식이 적혀 있지 않습니다. 이미지가 몇 토큰으로 계산되는지도 마찬가지입니다. 실제 요금은 소량으로 먼저 돌려 대시보드의 사용량에서 확인하세요.

데이터 쪽 조건도 문서에 있습니다. Decisions API는 자격이 되는 고객에게 데이터 보존 제로(ZDR)와 HIPAA 용도를 지원하고, 데이터 상주와 지역 처리는 미국과 유럽(EEA와 스위스)에서 지원합니다. 자격 요건과 필요한 계약은 OpenAI의 데이터 제어 문서를 따로 확인해야 합니다.

5. 10배 빠르다는 말은 어떻게 읽어야 하나

문서는 "Responses API보다 약 10배 빠르다"고 적고, 개발자 포럼의 공개 베타 공지는 "Responses API로 쓰는 GPT-6 Luna보다 최대 10배 빠르다"고 적었습니다. 두 문장이 조금 다르고, 어떤 입력 길이와 어떤 조건에서 쟀는지는 문서에 나오지 않습니다. 그래서 이 글에서는 속도를 OpenAI의 설명으로만 전하고, 내 서비스에서 얼마나 빠른지는 같은 입력으로 직접 재야 한다고 봅니다.

포럼에는 한 개발자가 직접 시험해 올린 글도 있습니다. [커뮤니티 후기] 앞면이 70% 나오게 조작한 동전 문제를 1,000번 물었더니, predicate 형식은 앞면이 약 70%로 기대대로 나왔는데 choice 형식은 98%가 앞면으로 쏠렸다는 보고입니다. 선택지 순서를 바꾸면 확률도 달라졌다고 합니다. 개인 시험이고 OpenAI가 확인한 내용은 아닙니다.

핵심 제 판단으로는 돌려받은 확률을 "진짜 확률"로 믿지 말고, 점수가 높은 쪽을 고르는 순위 신호로 보는 편이 안전합니다. 선택지를 바꿔 가며 같은 입력을 몇 번 돌려 결과가 흔들리는지 보고, 임계값은 내 데이터로 정하세요. 같은 계열 도구와 결과를 맞춰 보고 싶다면 Jev 사용법 총정리와 Cloudflare Clef 판정 모델 글에서 같은 문장을 넣어 본 예를 볼 수 있습니다.

6. 어디에 쓰고, 어디에는 쓰지 말까

쓸 만한 곳과 쓰지 말아야 할 곳 도식: 문의 분류·라우팅, 심각도 점수, 콘텐츠·사진 검토는 적합, 설명 글, 연쇄 판정은 부적합, 이미지 주소 방식은 문서 확인 필요

반응형
상황 질문 유형 비고
고객 문의를 담당 부서로 보내기 choice 예비 선택지(other)를 두고 낮은 확신은 사람에게
이슈의 심각도를 순서 있게 매기기 score 단계마다 기준을 겹치지 않게 적기
사진에 파손이 보이는가, 이 문단이 질문과 관련 있는가 predicate 임계값을 정해 검토 대상만 골라내기

반대로 판정만으로는 모자란 일도 있습니다. 근거 문장이 필요한 설명, 필드를 뽑아 내 JSON으로 만드는 추출, 도구 인자를 채우는 호출은 문서가 Responses API 쪽 도구를 권한 영역입니다. 이어지는 판정이 앞 답에 달려 있다면 요청을 나눠야 하고, 외부 주소의 이미지를 그대로 넘기는 방식은 문서마다 설명이 달라 확인이 필요합니다. 문서에는 음성 요청에서 할 일을 고르는 Live API 연동 안내도 따로 있습니다.

핵심 처음 시작한다면 플레이그라운드(platform.openai.com/decisions)에서 내 서비스의 실제 문장 스무 개를 넣어 보세요. 질문 문구와 선택지 순서를 바꿔 가며 답이 안정적인지 보고, 괜찮으면 같은 요청 모양으로 API에 옮기면 됩니다. 쓰는 모델의 종료 일정이 걱정된다면 OpenAI API 종료 일정 글도 함께 보세요.

Q. Decisions API는 무료로 쓸 수 있나요?

유료입니다. 문서가 입력 100만 토큰당 $0.10을 적었고 출력 요금은 없습니다. 무료 사용 한도는 문서에 적혀 있지 않습니다.

Q. 운영 중인 서비스에 바로 붙여도 되나요?

공개 베타이고 OpenAI가 GA를 몇 주 안에 예상한다고 밝혔습니다. 응답 형식이나 가격이 바뀔 수 있으니, 제 판단으로는 베타 동안은 기존 분류 경로를 남겨 두고 일부 트래픽부터 붙이는 편이 안전합니다.

Q. 한국어 문장도 잘 판정하나요?

문서에는 언어별 성능 설명이 없습니다. 한국어 입력은 내 서비스의 실제 문장으로 시험해 임계값을 정해야 합니다.

Q. gpt-6-luna 말고 다른 모델을 고를 수 있나요?

지금은 gpt-6-luna만 지원됩니다. 문서 표의 model 필드 설명에도 현재 이 모델만 가능하다고 적혀 있습니다.

Q. 이미지 주소(URL)를 그대로 넣으면 안 되나요?

가이드는 인라인 base64 데이터 URL만 받는다고 안내합니다. 다만 API 레퍼런스에는 공개 HTTP(S) 주소도 가능하다는 표현이 있어 두 문서가 어긋납니다. 확실한 base64 방식으로 먼저 보내고, 주소 방식은 직접 시험해 확인하세요.

3줄 핵심 요약

  1. Decisions API는 POST /v1/decisions로 글 대신 확률·선택·점수를 받는 판정 전용 공개 베타 API이고, 지금은 gpt-6-luna만 지원한다.
  2. 요금은 입력 100만 토큰당 $0.10이며 출력·캐시 요금은 없다. 같은 Luna를 일반 호출하면 출력이 $0.50이라 분류처럼 출력이 짧은 일에서 차이가 난다. 지역 할증과 긴 컨텍스트 배수는 따로 붙는다.
  3. "10배 빠름"은 OpenAI의 설명이고 choice 답이 한쪽으로 쏠린다는 시험 보고도 있다. 플레이그라운드에서 내 문장 스무 개로 임계값부터 정하고 일부 트래픽부터 붙이자.

마치며

판정 API의 매력은 코드가 단순해진다는 점입니다. 문장을 파싱하는 단계가 사라지고, 확률 하나로 분기하면 됩니다. 그 단순함이 맞는지는 내 데이터가 알려 줍니다. 오늘은 내 서비스에서 가장 자주 하는 분류 문장 스무 개를 모아 플레이그라운드에 넣어 보고, 답이 흔들리는 문장에는 어떤 공통점이 있는지 적어 두세요. 그 메모가 임계값과 예비 선택지를 정해 줍니다.

NEXT READ

이어서 읽어 볼 글

01  Jev 사용법 총정리 · 글 대신 판정을 돌려주는 AI의 사용법

02  Cloudflare Clef, 무료로 받는 판정 AI · Jev와 성적·속도를 비교한 글

03  OpenAI API 종료 일정 2026 · 10월 23일부터 꺼지는 모델과 대체 모델

#OpenAIDecisionsAPI,#DecisionsAPI,#GPT6Luna,#OpenAIAPI,#판정API,#분류API,#AI라우팅,#토큰가격,#AI개발,#코드노트

728x90
반응형

관련글 더보기

댓글 영역