Decisions API
分類やリクエストの振り分けなど、回答の範囲が限られる問題に向けたOpenAIのAPI
今回の変化
Decisions APIが公開ベータから正式提供に移行した。分類やリクエストの振り分けといった小さな選択を個別の処理として切り出し、開発者が明確に定めた回答の範囲で性能を評価できるようにする。
読み解く要点AI支援による分析
頻繁に生じる小さな選択を個別に評価できる処理として切り出すことで、開発者は待ち時間や誤判定がどこで発生するかを把握しやすくなる。実際の効率改善は、判定結果をキュー、確認工程、権限ルールにどうつなぐかに左右される。
以下はこの対象を主題とする記事を起点にした解説です。対象全体の評価ではありません。
事実を整理する
01公開ベータから正式提供へ
OpenAIは10月22日、GPT-6 Lunaを使うDecisions APIの正式提供を発表した。公開ベータと比べ、プロンプトキャッシュ、ネイティブなJSON入力、GPT-Liveとの連携が加わり、1回のリクエストで扱える質問数の上限は400に増えた。
02質問と回答の範囲を先に決める
開発者は質問、文脈、適用する選択肢や評価段階を指定する。APIは、条件が成立する推定確率、あらかじめ指定した選択肢のいずれか、または順序のある各段階をそれぞれの確率で重みづけして算出したスコアを返す。分類やリクエストの振り分けなどに使う仕組みだ。
H/ACC の視点
小さな選択を個別に検証できる処理にする
H/ACC編集部の解釈：繰り返し発生する小さな選択を専用APIに切り出すことで、開発者は特定のタスクについて応答時間や誤判定を比較できる。会話全体がどれだけ滑らかに進むかだけで、システムを評価する必要はなくなる。回答の範囲を明確にし、アプリケーションの記録を残しておけば、エラーの分類や、問題が起きたケースの再生もしやすくなる。
カスタマーサポートの振り分けを例にすると、アプリケーションは、リクエストをどのキューに入れたか、その後に振り分けを変更したか、いつ有人対応に切り替えたかを記録できる。モデルの出力を判断材料としつつ、結果を受け入れる条件や後続処理の権限は、モデルの外側でアプリケーションが設定する。これらの工程がつながって初めて、判断の高速化を、より円滑なサービスにつなげられる可能性が生まれる。
今後の観察点AI支援による分析
- 同じ実リクエスト群を使って現行の振り分け方法と比べたとき、応答時間の中央値、95パーセンタイルの所要時間、誤振り分け率はそれぞれどう変わるか？
- 質問の表現、入力言語、カテゴリの分布を変えた後も、誤振り分け率と有人対応へ切り替える割合を、あらかじめ設定した範囲内に保てるか？
この判断の限界
- 公開資料にある性能の数値は、タスクや比較条件がそれぞれ異なる。本記事ではAPIを呼び出しておらず、速度、精度、コストの独立した追試も行っていない。
- 確率とスコアはモデルの出力である。自動で処理を実行する根拠として十分かどうかは実際のタスクで検証する必要があり、結果の採用と引き継ぎのルールはアプリケーション側で定める必要がある。