Gemini Decisions API 출시: confidence 해석·분류 밖 입력·비용 점검

텍스트·이미지·음성 입력을 정해진 선택지로 나누고 모호한 입력은 별도 검토 경로에 남기는 개념을 표현한 AI 생성 편집 이미지다. 실제 제품 화면이나 내부 구조도가 아니다.

요청을 문서 검색으로 보낼지, 빌드 오류 분석으로 보낼지만 정하면 되는데 긴 답변을 생성하고 JSON을 파싱하고 있었다면 새로운 선택지가 생겼다.

Google은 2026년 11월 11일 Gemini Decision 1과 Decisions API를 공개했다. 정해진 선택지의 확률을 반환하는 전용 모델로, 문장을 토큰 단위로 생성하는 대신 제한된 선택 문제를 평가한다. Google 공식 발표, Gemini API 변경 기록

실무에서 먼저 확인할 부분은 confidence가 높다는 이유만으로 “예”라고 처리하지 않는 것, 어느 선택지에도 맞지 않는 입력을 별도로 다루는 것, 출력 토큰이 0이어도 입력 비용과 한도가 남는다는 점이다.

1. 어떤 작업을 맡길 수 있나

모델 ID는 gemini-decision-1이다. 텍스트·이미지·음성·영상·PDF를 입력으로 받으며 세 가지 질문 유형을 제공한다.

noul: 예/아니오 질문의 “예” 확률.

choice: 지정한 후보 중 하나와 후보별 확률.

score: 순서가 있는 평가 기준의 확률 가중 점수와 단계별 확률.

한 요청은 최대 1,000개 질문을 다룰 수 있다. 전체 문맥 한도 262,144토큰에는 공유 입력과 모든 질문이 함께 들어간다. 따라서 질문 수만 1,000개 이하라고 해서 항상 유효한 요청이 되는 것은 아니다. 모델 명세, 요청 한도

도구를 선택하는 데 사용할 수 있지만 모델 자체가 함수 호출이나 텍스트 생성을 지원하는 것은 아니다. 선택 결과에 따라 무엇을 실행할지는 애플리케이션이 결정한다. 설명문, 임의 필드 추출, 도구 인자 생성이 필요하다면 기존 생성형 API가 여전히 필요하다. 모델 지원 기능

2. confidence 0.97이 “예 97%”는 아니다

이진 질문에서 noul은 “예”의 확률이며, confidence는 더 가능성 높은 답의 확률이다. 공식 정의는 max(noul, 1 - noul)이다. 예를 들어 다음 응답은 “아니오” 쪽 확신이 높은 경우다.

따라서 “개발 문의인가?”의 결과를 처리할 때 confidence >= 0.9만 검사하면 범위 밖 입력을 통과시킬 수 있다. 예가 필요한 조건은 noul을 검사해야 한다. 공식 문서상 이 확률은 0.01~0.99 범위이므로 0.99를 초과해야 통과하는 조건도 만들지 않는다. 확률과 confidence 정의

choice에도 별도 함정이 있다. 어느 후보에도 맞지 않는 입력이어도 후보들에 확률을 배분한다. 명시적인 other 선택지, 범위 확인용 이진 질문, 검토 경로를 설계해야 한다. 높은 확신 하나만으로 범위 적합성을 보장할 수는 없다. choice 주의사항

3. 질문 간 의존성은 코드에서 처리하기

공유 입력으로 “개발 문의인가?”와 “어느 큐로 보낼까?”를 함께 물을 수 있다. 다만 질문은 서로의 답을 보지 않는다. 질문 키도 모델에 전달되지 않으므로 in_scope라는 키만 넣지 말고 instructions에 판단 조건을 완전하게 적어야 한다. 다중 질문과 요청 명세

아래는 API 호출 코드가 아니라 JSON 응답의 answers를 받은 뒤 실행할 로컬 분기 함수다. 첫 질문의 키를 in_scope, 두 번째를 queue로 정하고, 큐 후보를 docs·build·other로 정의했다고 가정한다.

0.90과 0.85는 흐름을 보여주는 예시 기준이다. 실제 서비스에서는 정답이 붙은 한국어 입력으로 오분류 비용과 검토량을 비교해 정한다. 함수가 반환하는 값도 처리 큐 이름일 뿐 배포·삭제·외부 연락 같은 행동의 승인으로 쓰지 않는다.

이 함수는 네트워크 없이 13개 로컬 검사로 확인했다. 정상 분류와 임계값 경계, 확신 높은 “아니오”, 낮은 분류 확신, other·미등록 큐, 누락 응답, 문자열·불리언·NaN·범위 밖 확률을 포함했다. 이는 분기 로직 검증이며 Gemini의 실제 정확도·지연·응답 품질을 측정한 결과는 아니다.

HTTP 오류나 API 안전 필터 차단은 유효한 분류 결과와 별도로 처리해야 한다. 오류를 “문제 없음”으로 바꾸는 기본값을 두지 않는 편이 안전하다.

4. 출력 토큰 0과 무료는 다르다

공식 유료 요금은 입력 100만 토큰당 US$0.10이다. 출력 토큰 과금은 없지만 질문마다 instructions·criteria 등 입력 토큰이 추가된다. 한 요청의 공유 입력은 질문 수와 무관하게 한 번 계산된다. Batch API와 문맥 캐시는 지원하지 않는다. 공식 요금표

가령 공유 입력이 10,000토큰이고 질문 10개의 추가 토큰이 합계 1,000토큰이라면, 해당 요청의 입력 요금 단순 계산은 11,000 ÷ 1,000,000 × 0.10 = US$0.0011이다. 실제 토큰화·세금·재시도는 반영하지 않은 산술 예시이며, “질문을 추가해도 비용이 같다”는 뜻은 아니다.

무료 계층도 있지만 요금표에는 제품 개선에 데이터가 사용될 수 있다고 명시돼 있다. 회사 로그·고객 음성·내부 문서를 넣기 전에 해당 이용 조건과 조직의 데이터 정책을 확인한다. 무료·유료 데이터 이용 차이

요청 수뿐 아니라 입력 TPM도 병목이 된다. 공개된 무료 계층 한도는 200 RPM·50,000 TPM·10,000 RPD이며 실제 적용 한도는 프로젝트에서 확인해야 한다. API 키를 추가해도 프로젝트 단위 한도가 늘어나는 것은 아니다. 공식 속도 제한