L’API Decisions d’OpenAI cible les petits choix qui ralentissent les workflows d’IA

La nouvelle API Decisions d’OpenAI cible une partie des logiciels d’IA qui apparaît rarement dans les démonstrations de lancement : le petit choix effectué entre deux étapes plus importantes.

Cette demande doit-elle être envoyée à la facturation ou au support technique ? Un document est-il suffisamment complet pour passer à l’étape suivante du workflow ? Une commande shell générée semble-t-elle assez sûre pour être exécutée automatiquement ? Un assistant vocal doit-il poser une question de clarification, transférer la conversation ou continuer ?

Ces décisions sont faciles à décrire et coûteuses à mal exécuter. Si une application en prend une à chaque message entrant, document, transaction ou résultat d’outil, la latence s’accumule. Le coût de l’envoi de chaque question à un modèle polyvalent augmente lui aussi. Une mauvaise classification peut également envoyer une tâche dans la mauvaise file, exposer des informations au mauvais opérateur ou déclencher une action qui aurait dû attendre une validation humaine.

OpenAI a rendu l’API Decisions généralement disponible le 22 octobre 2026. Elle fonctionne avec GPT-6 Luna et renvoie des réponses typées plutôt qu’un paragraphe : une probabilité, un choix parmi un ensemble prédéfini ou un score établi selon une grille ordonnée. OpenAI affirme que ce point d’accès est conçu pour répondre à ces questions délimitées jusqu’à 10 fois plus vite qu’en utilisant GPT-6 Luna via l’API Responses. L’entreprise annonce un tarif de 0,10 $ par million de tokens d’entrée, sans facturation des tokens de sortie pour ce point d’accès.

Cette combinaison rend Decisions intéressante pour les équipes qui développent déjà des produits d’IA. Elle l’est moins comme remplaçante d’un assistant généraliste. La question utile n’est pas de savoir si le modèle sait raisonner. Il s’agit de déterminer si une équipe peut définir une décision assez précisément pour la mesurer, lui appliquer un seuil raisonnable et maintenir l’action qui en découle dans un workflow contrôlé.

Ce que l’API renvoie réellement

Le point d’accès accepte des éléments de preuve communs et une ou plusieurs questions. Ces éléments peuvent être du texte, une conversation ordonnée comprenant des appels d’outils et leurs résultats, des images ou du JSON structuré. Chaque question possède un type, un nom, des instructions et, lorsque c’est pertinent, un ensemble de choix autorisés ou de niveaux de score ordonnés.

Un predicate estime si une condition est vraie et renvoie une probabilité comprise entre zéro et un. Cela convient à des questions comme « Ce ticket décrit-il un débit en double confirmé par l’historique de la commande ? » ou « Cette image montre-t-elle des dommages visibles ? »

Un choice sélectionne une valeur dans un ensemble prédéfini. Un système de routage peut proposer billing, technical_support, account_access et human_review. Une application vocale peut choisir continue, clarify, transfer ou end_call.

Un score évalue une entrée selon des niveaux ordonnés, par exemple une gravité faible, moyenne ou élevée. La réponse comprend les probabilités associées aux niveaux ainsi qu’une moyenne pondérée par les probabilités. Cette moyenne peut se situer entre deux niveaux, ce qui est utile pour classer des éléments, mais dangereux si un développeur la traite comme une mesure miraculeusement précise.

Le point d’accès peut poser jusqu’à 400 questions dans une seule requête, contre une limite de 200 questions pendant la bêta publique. C’est utile lorsque de nombreux attributs indépendants peuvent être évalués à partir des mêmes éléments de preuve. Cela ne signifie pas qu’il faut regrouper les décisions dépendantes. Si la question deux ne doit être posée qu’après la réponse à la question une, des requêtes séparées rendent le flux de contrôle plus facile à examiner et à tester.

La sortie typée de l’API constitue sa principale différence. Un modèle généraliste peut recevoir pour instruction de renvoyer du JSON, mais le développeur doit tout de même valider cette sortie et gérer les valeurs malformées ou ambiguës. Decisions limite l’espace des réponses au niveau de l’API. Cela réduit le travail d’analyse, sans pour autant rendre le jugement sous-jacent correct.

Où l’intégrer dans une véritable application

Les cas d’usage les plus solides sont les décisions répétitives avec un ensemble de réponses limité et une étape suivante clairement définie. Il faut voir ce point d’accès comme une couche de jugement rapide au sein d’un programme existant, et non comme un employé autonome.

Un workflow documentaire pourrait l’utiliser pour déterminer si un certificat téléversé contient les champs requis, identifier une catégorie de document et envoyer l’élément vers la file appropriée. L’extraction du document peut toujours nécessiter un système distinct. Decisions répond à la question plus étroite de savoir ce qui doit se passer ensuite.

Un système de support pourrait classer un ticket, estimer son urgence et déterminer si le message du client contient suffisamment d’informations pour rédiger une première réponse. Un résultat peu fiable pourrait être envoyé dans une file destinée aux humains au lieu de servir à déclencher une réponse automatique.

Un système d’orchestration d’agents pourrait utiliser une question à choix pour sélectionner l’outil suivant parmi un ensemble restreint et vérifié. Par exemple, une requête entrante pourrait être orientée vers un outil de recherche, une consultation de compte, une fonction de planification ou une étape de clarification. Le modèle choisit parmi ces options ; l’application reste responsable des autorisations, de la validation des arguments, des limites de débit et de l’exécution.

Un workflow de sécurité ou d’exploitation pourrait évaluer une action proposée avant son exécution. OpenAI cite Datadog, qui utilise le point de terminaison pour évaluer les commandes shell générées par des agents avant une remédiation autonome. Ce schéma peut être utile, mais il ne doit pas être considéré comme une frontière de sécurité complète. Un score produit par un modèle peut apporter un signal supplémentaire pour la revue. Il ne remplace ni les listes blanches de commandes, ni le sandboxing, ni les contrôles d’identité, ni les restrictions du système de fichiers, ni une politique d’approbation.

Les applications vocales sont un autre cas d’usage naturel, car une décision lente est immédiatement perceptible par la personne qui parle. Decisions propose désormais une intégration native avec GPT-Live et peut être déclenchée à mesure que les transcriptions d’entrée ou de sortie arrivent. Une application peut décider si l’assistant doit demander une précision, transférer un appel ou mettre à jour l’état d’une interaction. OpenAI affirme que Speak a réduit, lors de tests, le délai avant son action suivante de 1,4 seconde à 0,13 seconde grâce à cette intégration. Il s’agit d’un résultat communiqué par le fournisseur, et non d’une garantie pour toutes les architectures vocales, mais cela montre pourquoi un point de terminaison spécialisé peut compter davantage dans une boucle interactive que dans un traitement par lots.

L’architecture pratique : modèle, seuil, action

Une implémentation fiable nécessite trois couches distinctes.

La première couche est la question. Elle doit décrire des éléments observables et distinguer des réponses voisines. « Est-ce que c’est bien ? » n’est pas une question adaptée à la production. « Le message contient-il une demande d’annulation d’un abonnement payant, plutôt qu’une demande d’informations sur les tarifs ? » s’en rapproche beaucoup plus.

La deuxième couche est la politique qui interprète la réponse. Une probabilité de 0,82 ne signifie pas que l’application doit agir. L’équipe doit déterminer si 0,82 suffit pour un routage automatique, si 0,55 doit déclencher une revue et si certaines catégories exigent toujours l’intervention d’une personne, quel que soit le niveau de confiance.

La troisième couche est l’action. Le modèle ne doit pas se voir accorder une autorité étendue simplement parce qu’il a renvoyé un choix valide. L’application doit associer une valeur autorisée à une fonction connue et rejeter tout ce qui ne figure pas dans cette correspondance. Les opérations sensibles doivent nécessiter une autorisation indépendante et, le cas échéant, une confirmation humaine.

Cette séparation permet aussi l’évaluation. Les équipes peuvent modifier un seuil sans réécrire le prompt. Elles peuvent comparer les décisions du modèle à des exemples annotés. Elles peuvent mesurer les faux positifs et les faux négatifs en fonction du coût de chaque erreur. Un filtre antifraude, un routeur de support et une file de modération de contenu ne devraient pas utiliser le même seuil simplement parce qu’ils reposent sur la même API.

Les recommandations d’OpenAI pour les développeurs soulignent un point similaire : utilisez des exemples annotés issus de l’application pour définir les seuils. Ce conseil peut facilement passer inaperçu, car le point de terminaison renvoie des probabilités et des niveaux de confiance qui semblent quantitatifs. Ces valeurs ne sont utiles pour classer et router les demandes que si elles ont été calibrées sur les propres données de l’organisation.

La conception des prompts devient une conception de politiques

Même une décision étroite dépend fortement des éléments et des consignes qui lui sont fournis. Le prompt doit définir ce qui constitue un élément probant, la marche à suivre lorsque les éléments manquent et la manière de distinguer un cas limite d’un cas évident.

Supposons qu’une équipe souhaite router des factures. Une question faible pourrait demander au modèle de « choisir le bon service ». Une question destinée à la production préciserait les services disponibles, les champs qui permettent d’identifier chacun d’eux, la signification d’un document incomplet et la règle à appliquer lorsque les signaux sont contradictoires. Elle pourrait aussi inclure explicitement l’option human_review, au lieu de contraindre le modèle à choisir une file métier lorsque l’entrée est ambiguë.

Les exemples doivent couvrir les cas habituels comme les cas d’échec. Incluez des messages courts, des messages longs, des langues mélangées si le produit les accepte, des dossiers contradictoires, des champs manquants, du JSON mal formé et des tentatives d’injection d’instructions dans les éléments fournis. Ces éléments sont des données. Ils ne doivent pas pouvoir réécrire la politique de décision.

Pour les décisions fondées sur des images, définissez précisément ce que le modèle peut voir et ce qu’il ne peut pas établir. Une photo peut montrer une bosse, sans prouver la cause du dommage. Une capture d’écran peut afficher un message d’erreur, sans démontrer que le compte a été compromis. L’espace des réponses doit tenir compte de cette distinction.

Lorsque plusieurs questions portent sur le même document source ou la même conversation, placez les éléments réutilisables dans l’entrée partagée et faites varier les instructions liées à la question. L’API prend en charge la mise en cache des prompts pour ce type de scénario. La documentation précise que le préfixe réutilisable doit contenir au moins 1 024 tokens et que les entrées mises en cache bénéficient d’un tarif réduit. Le cache peut diminuer les coûts et la latence, mais les développeurs doivent alors comprendre les limites du cache et éviter de placer dans un préfixe réutilisable des informations propres à l’appelant ou sensibles, qui pourraient être réemployées dans un mauvais contexte.

Le coût est faible, mais le volume change la donne

Le tarif publié pour Decisions est de 0,10 $ par million de tokens d’entrée non mis en cache, contre 0,01 $ par million de tokens pour les entrées mises en cache. L’endpoint ne facture pas les tokens de sortie. À première vue, cela rend presque gratuites de nombreuses tâches de routage.

La facture réelle dépend de la quantité d’éléments transmis avec chaque question. Un document de politique, un historique de conversation ou une sortie d’outil répétés peuvent être bien plus volumineux que l’instruction elle-même. Envoyer le même contexte imposant séparément pour chaque décision annule l’intérêt d’un petit classifieur. Le cache est utile lorsque le préfixe reste stable, mais les écritures dans le cache et le traitement régional peuvent ajouter des coûts.

Les équipes devraient mesurer le coût par tâche métier terminée plutôt que le coût par appel API. Si un classifieur rejette un élément et l’envoie dans une file de traitement manuel, l’appel au modèle peut être peu coûteux alors que l’ensemble du processus ralentit. Si un routage automatique déclenche une mauvaise action en aval, le coût de la correction peut largement dépasser celui des tokens.

L’endpoint peut poser plusieurs questions indépendantes dans une seule requête. Cela peut réduire les frais de requête, mais ne doit pas servir de prétexte pour poser toutes les questions imaginables sur chaque élément. Les questions supplémentaires accroissent la complexité, rendent l’évaluation plus difficile et peuvent inciter les équipes à agir sur des scores que personne n’a validés.

Un pilote raisonnable enregistre au minimum le nombre de tokens d’entrée, le taux de succès du cache, les percentiles de latence, la répartition des réponses, le taux de revue, le taux de correction et le délai d’exécution en aval. Pour les produits interactifs, la latence p95 compte davantage que la moyenne. Pour les files de traitement administratif, le débit et la charge de travail des réviseurs peuvent être plus importants.

Confidentialité et contrôles régionaux

L’API prend en charge la résidence de l’inférence aux États-Unis et en Europe, et OpenAI indique que la conservation nulle des données est accessible aux clients éligibles. La documentation destinée aux développeurs mentionne également la prise en charge de la norme HIPAA pour les clients éligibles et décrit la disponibilité de Private Link. Ces contrôles sont utiles, mais l’organisation qui déploie le système doit encore vérifier l’éligibilité, les contrats, la configuration de l’endpoint et les éventuelles limitations des fonctionnalités.

Le traitement régional ne constitue pas à lui seul une stratégie complète de confidentialité. Une équipe doit encore déterminer si l’entrée contient des données personnelles, s’il est nécessaire d’envoyer le dossier complet, combien de temps les journaux de l’application conservent la requête et la réponse, et qui peut consulter les rapports d’utilisation. Lorsque c’est possible, la rédaction et la minimisation doivent intervenir avant l’appel au modèle.

Le JSON structuré ne rend pas automatiquement les informations sensibles sûres. Un dossier client transmis comme input_json reste une donnée client. Les images restent sensibles si elles contiennent des visages, des adresses, des informations médicales ou des écrans confidentiels. La bonne question n’est pas de savoir si l’API accepte le format, mais si le workflow fournit une raison défendable de transmettre ces informations.

La même prudence s’applique à la mise en cache des prompts. Réutiliser un document de référence stable est efficace. Réutiliser un préfixe contenant les informations privées d’un client dans des requêtes sans rapport est une erreur de conception. Les clés et les limites du cache doivent faire partie de l’analyse des flux de données, et non être ajoutées après coup lors de l’optimisation des performances.

Ce que Decisions ne remplace pas

L’endpoint n’est pas un système général d’extraction. Si l’application a besoin d’un objet riche comportant de nombreux champs, d’une explication écrite ou d’une sortie conforme à un schéma personnalisé, l’API Responses avec Structured Outputs peut être plus adaptée. Si le modèle doit demander un outil avec des arguments, l’appel de fonctions peut constituer une abstraction plus claire.

Ce n’est pas un moteur de règles. Une règle déterministe est préférable lorsque la condition peut être exprimée exactement. Par exemple, un compte ne devrait pas être déclaré éligible parce qu’un modèle estime avec assurance que son solde est inférieur à un seuil. L’application peut comparer directement le solde.

Ce n’est pas, à lui seul, un mécanisme d’approbation de sécurité. Le choix « sûr » produit par un modèle n’autorise pas une action irréversible. Pour tout ce qui peut dépenser de l’argent, modifier des droits d’accès, envoyer un message à l’extérieur, changer des données de production ou exécuter du code, il faut appliquer des permissions, des listes d’autorisation, un bac à sable, des plafonds de transaction, des étapes d’approbation et des journaux d’audit.

Ce n’est pas non plus un remplacement de la revue humaine dans les cas ambigus ou à fort impact. Une réponse typée est plus facile à exploiter qu’un texte libre, mais une sérialisation propre peut donner à un jugement incertain une apparence d’autorité excessive. Le système doit conserver le niveau de confiance, les références aux éléments probants et la raison de l’escalade.

Un petit pilote capable de produire des éléments utiles

Une équipe qui envisage cet endpoint devrait commencer par une décision récurrente dont le résultat est déjà mesurable. Il vaut mieux ne pas démarrer avec un workflow dont la réussite dépend de cinq appels de modèle et de plusieurs relais mal définis.

Commencez par réunir un échantillon de données réelles et demandez à des évaluateurs qualifiés d’indiquer l’action correcte. Gardez ces étiquettes séparées des prompts utilisés pour les tests. Incluez les exemples difficiles et limites, au lieu de ne retenir que les cas évidents.

Définissez ensuite un ensemble fini de réponses. Ajoutez human_review lorsque l’incertitude constitue une issue légitime. Précisez ce que chaque réponse autorise et ce qu’elle n’autorise pas. Si l’action ne peut pas être formulée clairement, la décision est probablement trop large.

Testez ensuite trois modes de fonctionnement : le routage automatique au-dessus d’un seuil élevé, la revue dans une zone intermédiaire et un repli sûr sous le seuil inférieur. Comparez ces résultats au processus actuel. Un pilote qui se contente de rapporter la précision du modèle sans mesurer la charge des évaluateurs ni les erreurs en aval ne répondra pas à la question métier.

Consignez suffisamment d’informations pour pouvoir reconstituer une décision, sans stocker davantage de données sensibles que nécessaire. Enregistrez la version de la question, le modèle, le seuil, la réponse, le niveau de confiance, l’action effectuée et la correction ultérieure. Si un prompt change, traitez ce changement comme une mise à jour logicielle et relancez l’évaluation sur le jeu de test.

Enfin, faites tourner l’endpoint en parallèle du workflow existant avant de lui permettre de piloter des actions. Le mode miroir peut révéler les désaccords du modèle avec les opérateurs expérimentés, les situations où les éléments probants sont incomplets et les exceptions dissimulées derrière une décision supposée simple.

Qui devrait l’essayer — et qui devrait attendre

L’API Decisions mérite d’être testée par les équipes qui ont déjà un problème précis de classification, de routage, de scoring ou d’escalade, qui peuvent définir les résultats autorisés et qui disposent d’assez d’exemples étiquetés pour évaluer les changements. Elle est particulièrement prometteuse lorsque le principal goulot d’étranglement est la latence répétée lors d’une interaction en direct, ou lorsque chaque petite décision envoyée dans un workflow génératif plus important coûte trop cher.

Elle peut aussi convenir aux produits qui doivent évaluer plusieurs questions indépendantes à partir du même texte, de la même image ou du même enregistrement structuré. La mise en cache des prompts et les contrôles régionaux renforcent l’intérêt pour les charges de travail qui reposent sur un contexte partagé stable et des exigences claires en matière de données.

Les équipes devraient attendre si elles cherchent encore un cas d’usage, si elles sont incapables d’expliquer à quoi ressemble une réponse correcte ou si elles prévoient de laisser l’endpoint choisir arbitrairement des outils et des actions. Un faible prix par token ne compense pas une politique mal définie. De même, une réponse rapide ne doit pas servir à masquer l’absence d’autorisation, de revue ou de contrôles d’audit.

La portée plus large de cette version est architecturale. Les applications d’IA s’éloignent d’une requête unique et volumineuse qui tenterait de comprendre, décider et agir en une seule fois. Un système plus maintenable sépare ces tâches : un modèle peut interpréter les éléments probants, un endpoint de décision borné peut choisir parmi des options examinées, et un logiciel classique peut appliquer les permissions et exécuter le résultat.

Cette séparation n’éliminera pas les erreurs des modèles. Elle les rend plus faciles à mesurer, à contenir et à corriger. Pour la plupart des équipes, c’est la raison concrète de tester Decisions : non pas parce que chaque workflow a besoin d’un endpoint d’IA supplémentaire, mais parce que certains workflows ont besoin d’une couche de décision plus petite et plus responsable.