Mardi technique :Maîtriser AgentOps pour le déploiement de l'IA en entreprise

Les agents d'IA passent des démonstrations aux charges de travail de production qui touchent des données réelles, des systèmes réels et des résultats commerciaux réels. Selon le rapport 2025 AI Agents Insights de G2, 57 % des entreprises ont déjà des agents IA en production, un signal clair que ce n'est plus expérimental. Cependant, le déploiement en production s'accompagne d'une nouvelle classe de charges opérationnelles :contrôle d'accès aux outils, auditabilité, détection des dérives et prévention des coûts incontrôlables.

Ce changement exige une nouvelle discipline opérationnelle pour les responsables informatiques et technologiques.

AgentOps, abréviation de Agent Operations, est un ensemble émergent de pratiques permettant de gérer le cycle de vie complet des agents d'IA en production. Il étend les principes du DevOps et du MLOps aux systèmes agentiques, en mettant l'accent sur la fiabilité, la gouvernance, la transparence, la sécurité et le contrôle des coûts.

Contrairement aux opérations logicielles traditionnelles, AgentOps doit faire face à un comportement non déterministe, à une utilisation autonome des outils et à un raisonnement dépendant du contexte. Ce sont des défis que la surveillance conventionnelle ne peut pas résoudre, et qui ont été démontrés dans de nouvelles recherches. Wang et coll. (2025) formalisent cela dans leur enquête, « A Survey on AgentOps », proposant un cadre opérationnel en quatre étapes (surveillance, détection des anomalies, analyse des causes profondes et résolution) spécifiquement adapté aux systèmes d'agents basés sur un grand modèle de langage (LLM).

Cet article présente les meilleures pratiques pratiques pour les AgentOps d'entreprise. Il couvre les objectifs et les garde-fous, la connectivité des outils et des données, l'orchestration des processus de longue durée, la gouvernance du cycle de vie, les modèles d'intervention humaine et l'optimisation continue grâce à l'évaluation et à la télémétrie opérationnelle. Plus tard, nous mappons ces pratiques sur la façon dont UiPath Platform™ prend en charge l'orchestration agentique en production.

Une liste de contrôle AgentOps que vous pouvez réutiliser

Avant de mettre les agents en production, les équipes doivent être capables de répondre clairement à ces questions :

• Savons-nous de quoi chaque agent est responsable et à qui appartient-il ?

• Pouvons-nous contrôler quels outils l’agent est autorisé à utiliser et avec quelles entrées ?

• Pouvons-nous expliquer ce que l'agent a fait lors d'une exécution donnée, y compris les outils qu'il a appelés et les données qu'il a utilisées ?

• Pouvons-nous valider le comportement des agents avant la publication, pas seulement les résultats, mais aussi le choix de l'outil et le chemin d'exécution ?

• Pouvons-nous détecter les dérives et les régressions en utilisant des critères d’évaluation cohérents dans le temps ?

• Pouvons-nous limiter et prévoir les facteurs de coûts tels que les appels de modèle, les tentatives, la taille du contexte et la durée de l'orchestration ?

• Pouvons-nous déployer les modifications en toute sécurité avec le contrôle de version, la promotion de l'environnement et les restaurations ?

• Avons-nous un modèle clair d'intervention humaine pour les actions et les exceptions à fort impact ?

De l'invite à l'agent opérationnel :objectifs, garde-fous et confiance

Un agent de production a besoin d’un objectif défini, de contraintes et de responsabilités. Il doit être clair sur le résultat dont il est responsable, les politiques auxquelles il doit obéir, les preuves ou justifications requises et quand s'en remettre à une personne.

La première bonne pratique consiste à définir les objectifs, les limites et les règles de remontée de chaque agent avant le déploiement.

Les organisations doivent appliquer plusieurs niveaux de gouvernance afin que le comportement des agents reste aligné sur les exigences de sécurité et de conformité. Au minimum, la gouvernance doit déterminer qui peut créer et publier des agents d’IA, quels modèles peuvent être utilisés, quelles données et quels outils sont accessibles au moment de l’exécution et quelles actions sont autorisées sans surveillance humaine.

Les agents d'IA doivent être limités par des garde-fous d'outils qui définissent quels outils peuvent être appelés, quelles entrées sont autorisées, quels effets secondaires sont autorisés et quand un appel d'outil doit être bloqué ou acheminé vers un humain.

Grâce à des expériences de développement low-code et codé, les équipes doivent être en mesure de définir les règles de leur agent (comportement, accès aux outils et contraintes d'exécution) de manière structurée, fiable et transparente. La notation, les évaluations et la surveillance intégrées aident à maintenir des performances cohérentes des agents et à éviter les dérives et les régressions.

Tout aussi important, les équipes ont besoin d’un moyen sûr de tester le comportement d’un agent avant qu’il ne soit connecté aux systèmes en direct. Être capable de valider et de générer de nouveaux scénarios d'exécution avant la production grâce à des simulations permet de détecter rapidement la fragilité de l'intégration, de réduire les surprises d'exécution et de garantir que les agents se comporteront de manière fiable lorsqu'ils seront connectés à des applications d'entreprise réelles. Les utilisateurs doivent être en mesure de générer des scénarios d'entrée que leur agent pourrait rencontrer et, le cas échéant, de simuler des appels d'outils lors des exécutions de débogage et d'évaluation de bout en bout. Cela permet de voir plus facilement si l'agent sélectionne les bons outils, transmet des entrées valides, gère les échecs des outils avec élégance et produit les résultats attendus sans risquer les systèmes ou les données en direct.

Connecter les agents IA aux outils et aux données de l'entreprise

Pour créer de la valeur commerciale, les agents d'IA doivent se connecter aux applications d'entreprise telles que la gestion de la relation client (CRM), la planification des ressources de l'entreprise (ERP), la billetterie, les référentiels de connaissances et les API internes, y compris les systèmes dépourvus d'API propres.

L’une des meilleures pratiques clés d’AgentOps est l’accès contrôlé aux outils. Les outils doivent être explicites, régis et vérifiables. En pratique, cela signifie qu’un agent ne doit pas exécuter d’actions arbitraires de manière incontrôlée. Il doit fonctionner via des interfaces approuvées avec des entrées et sorties définies, une validation, une journalisation et une gestion des erreurs.

Chaque appel d'outil doit être observable et auditable afin que les opérateurs puissent comprendre ce qui s'est passé et pourquoi.

Des approches standardisées en matière d'outils et de contexte de publication peuvent aider les équipes à évoluer en toute sécurité. Par exemple, les serveurs MCP (Model Context Protocol) offrent un moyen structuré d'exposer les ressources de l'entreprise aux agents dans un format cohérent et détectable tout en appliquant les contrôles d'authentification, d'autorisation et de stratégie. La standardisation permet également la réutilisation entre les agents et les flux de travail, afin que les ressources d'automatisation fiables puissent être partagées en toute sécurité et de manière cohérente.

Les organisations ont également besoin de modèles de déploiement flexibles. Un agent d'IA peut compléter un processus déterministe par un raisonnement, être exposé en tant qu'outil réutilisable ou s'exécuter en tant que composant autonome orchestré dans le cadre d'un flux de travail métier plus large. La flexibilité est importante car elle permet une adoption progressive tout en préservant le contrôle, la sécurité et la fiabilité opérationnelle.

Gouvernance du cycle de vie :gérer les agents en tant qu'actifs de l'entreprise

À mesure que les déploiements d’agents évoluent, les organisations doivent traiter les agents comme des actifs d’entreprise. Les meilleures pratiques incluent la tenue d'un inventaire des agents, une propriété claire, la gestion des versions, les autorisations et la visibilité sur ce que chaque agent touche.

Les dirigeants et les équipes de gestion des risques ont besoin de réponses claires sur les agents qui existent, à qui ils appartiennent, à quelles données et systèmes ils accèdent, quels processus en dépendent et quelles versions s'exécutent dans quels environnements.

Cette approche du cycle de vie dépend de l’identité, de la gestion des accès et de la traçabilité. Les agents doivent s’exécuter sous une identité étendue avec les autorisations de moindre privilège. La gouvernance doit déterminer qui peut créer, déployer et exploiter des agents, ainsi que quels comportements d'exécution sont autorisés. Les approches low-code et codées peuvent toutes deux jouer un rôle. Le low-code peut rendre la logique révisable et collaborative, tandis que les chemins codés peuvent permettre une validation renforcée, des bibliothèques partagées et une application standardisée des politiques entre les équipes.

La transparence est tout aussi importante. AgentOps de niveau production nécessite la capacité de comprendre ce que l'agent IA a fait, quels outils il a appelés, quelles entrées et sorties ont été impliquées et pourquoi il a pris une décision. Cette traçabilité prend en charge les audits, l'examen des incidents et l'instauration de la confiance entre les parties prenantes techniques et commerciales.

C'est grâce à la visibilité opérationnelle au niveau de l'instance que cela devient concret à grande échelle. Les équipes ont besoin de vues globales sur l'ensemble du parc d'agents, notamment de la possibilité de rejouer les sessions, de visualiser les tendances de fiabilité par agent ou par version, et de comprendre quelles intégrations sont utilisées le plus fréquemment et lesquelles échouent.

Ces points de vue sont importants, car sans eux, les organisations finissent par gérer leurs agents dans l'ignorance, incapables de déterminer si une hausse des coûts est causée par un seul agent mal configuré ou par un problème systémique au sein de la flotte.

Human-in-the-loop comme modèle de première classe

La surveillance humaine reste essentielle pour de nombreux flux de travail d'entreprise. La meilleure façon de concevoir des étapes intégrant l’humain est de les planifier de manière proactive, et non seulement comme une solution de repli. Les gens peuvent approuver des actions à fort impact, corriger les résultats, fournir le contexte manquant ou prendre le relais dans des scénarios d'exception.

AgentOps doit prendre en charge les étapes explicites de l'activité humaine telles que les approbations, les révisions et la gestion des exceptions. Les agents doivent être configurés pour évoluer en fonction de seuils de confiance, du risque de transaction ou de contraintes politiques. Cela crée un modèle opérationnel contrôlé dans lequel l’IA gère les cas de routine et où les gens gouvernent les cas extrêmes et les décisions à enjeux élevés.

Optimisation continue :garantir la fiabilité et l'amélioration des agents IA

Le déploiement d'un agent est le début de son cycle de vie, pas la fin. En production, les agents sont confrontés à de nouvelles entrées, à des données en évolution et à des systèmes changeants. Une préoccupation émergente majeure est la dérive des agents, où les agents en production fonctionnent différemment que lors de l'évaluation en raison de changements dans les objectifs, le contexte, le raisonnement ou les interactions avec les outils. La dérive peut se manifester de plusieurs manières. La répartition des tâches entrantes change, les données sous-jacentes ou les sources de connaissances changent, le comportement LLM évolue selon les versions du modèle ou les intégrations avec des outils externes se dégradent.

La détection continue des dérives doit être une responsabilité essentielle d'AgentOps, calculée à intervalles réguliers, comparée aux références et déclenchant une correction lorsque les seuils sont dépassés.

Une philosophie de développement axée sur l'évaluation traite les évaluations comme des artefacts de premier ordre tout au long de ce cycle de vie, et non comme des portes ponctuelles. Les évaluations au moment de la conception et après le déploiement forment une boucle continue qui définit la qualité, la mesure de manière cohérente et guide les itérations sécurisées à mesure que les agents évoluent.

Évaluations au moment de la conception et de l'exécution ancrées par un signal de qualité cohérent

Au moment de la conception, les évaluations établissent à quoi ressemble le « bien » avant qu’un agent n’atteigne la production, couvrant à la fois les résultats et les comportements importants, tels que la sélection des outils, les décisions intermédiaires et les trajectoires d’exécution.

Après le déploiement, les mêmes critères peuvent être appliqués aux exécutions de production réelles à l'aide de traces d'exécution. Les résultats des deux phases doivent être intégrés dans un signal de performance cohérent pour suivre la qualité au fil du temps, comparer les versions et détecter les régressions plus tôt, tout en permettant aux équipes d'explorer les causes profondes.

Optimisation, feedback et mémoire dans le cadre de la boucle

Les résultats de l’évaluation font plus que mesurer la qualité. Ils doivent activement promouvoir l’amélioration. Les retours humains et les résultats opérationnels peuvent être liés aux évaluations et aux traces, élargissant ainsi la suite de régression et, le cas échéant, informant la mémoire des agents gouvernés.

Ensemble, l'évaluation, les boucles de rétroaction contrôlées et les pratiques de mémoire disciplinées créent un système dans lequel les agents s'améliorent grâce à des changements mesurables, explicables et continuellement validés.

La gestion des coûts en tant que discipline AgentOps

Les agents IA introduisent des inducteurs de coûts dynamiques liés au comportement d'exécution. Les appels de modèle, l'utilisation des outils, les tentatives, la durée de l'orchestration et la taille du contexte s'additionnent.

Le coût doit être traité dès le début comme une préoccupation de première classe.

Les équipes doivent être en mesure de comparer l'efficacité des versions d'agent avant le déploiement, d'identifier les trajectoires inutiles ou les appels d'outils inutiles, et d'identifier un contexte surdimensionné avant qu'il ne devienne coûteux en production.

En production, les organisations ont besoin d'une visibilité sur les coûts par exécution, par agent et globalement, afin que les opérateurs, les administrateurs et les dirigeants travaillent à partir de la même source de vérité. Les limites et les alertes aident à éviter les dépenses incontrôlées, tandis que les contrôles d'orchestration tels que les tentatives, les délais d'attente et les chemins d'escalade limitent l'exécution. Ensemble, cela permet une optimisation continue des coûts où les changements sont évalués à la fois pour la qualité et l'efficacité avant la publication et validés avec des données d'exécution réelles après le déploiement.

Standardisation et déploiement à l'échelle de l'entreprise

La mise à l’échelle de l’automatisation agentique nécessite un modèle opérationnel reproductible dans lequel les nouveaux agents héritent par défaut de modèles éprouvés. La standardisation réduit les variations entre les équipes tout en garantissant que les contrôles de qualité, de sécurité et de coûts sont appliqués de manière cohérente. Des structures réutilisables, des contrats d'outils cohérents et des approches d'évaluation partagées aident les équipes à avancer plus rapidement sans réapprendre les mêmes leçons.

Au moment de l'exécution, les organisations bénéficient d'un plan de contrôle unifié qui régit l'exécution, quelle que soit la manière dont les agents sont créés. Les préoccupations courantes telles que les approbations, les tentatives, la gestion des exceptions et l'implication humaine doivent être mises en œuvre une seule fois et réutilisées dans les flux de travail. Les actifs, les politiques et les garde-fous partagés doivent propager les améliorations à l'ensemble du parc d'agents, tout en prenant en charge à la fois le low-code et le code afin que les équipes puissent passer de l'expérimentation à une production renforcée sans interrompre le cycle de vie ni perdre de visibilité sur les coûts et l'utilisation à mesure que l'échelle augmente.

Comment UiPath prend en charge AgentOps en pratique

Objectifs, garde-fous et confiance

UiPath fournit une base de confiance et de gouvernance conçue pour aligner le comportement des agents sur les exigences de sécurité et de conformité de l'entreprise. Les organisations peuvent appliquer plusieurs niveaux de gouvernance :

• Gouvernance agentique :des garde-fous politiques au niveau de la plate-forme imposent l'accès des développeurs, l'utilisation du LLM, la vérification de la valeur du score de l'agent lors des événements de publication et l'accès aux données. Les agents peuvent être conçus avec un LLM et des garde-fous d'outils qui limitent la manière dont les agents interagissent avec les systèmes d'entreprise, notamment quels outils peuvent être appelés, quelles entrées sont autorisées, quels effets secondaires sont autorisés et quand un appel d'outil doit être bloqué ou acheminé vers un humain.

• Gouvernance informatique :UiPath fournit une identité pour les artefacts exécutables, un contrôle d'accès basé sur les rôles (RBAC), une détection en vol des informations personnelles identifiables (PII) et une gouvernance des données pour protéger les automatisations agents sensibles. L’accès est intentionnel et transparent.

• Gouvernance de l'infrastructure :résidence des données, chiffrement, limites du réseau, renforcement de la sécurité et conformité à des normes telles que le Règlement général sur la protection des données (RGPD), la Loi sur la portabilité et la responsabilité en matière d'assurance maladie de 1996 (HIPAA), le Programme fédéral de gestion des risques et des autorisations (FedRAMP®) et ISO 27001.

UiPath prend également en charge le renforcement de la confiance avant la production grâce à des simulations. Les utilisateurs peuvent utiliser le langage naturel pour générer des scénarios d'entrée que leur agent pourrait rencontrer lorsqu'il est invoqué. Ils peuvent également choisir de simuler les appels d’outils dans les exécutions de débogage et d’évaluation de bout en bout pour comprendre la trajectoire. Cela permet de valider la sélection des outils, l'exactitude des saisies, la résilience aux pannes des outils et les résultats attendus sans risquer les systèmes ou les données en direct.

Connectivité des outils et des données

Dans la plateforme UiPath, les « outils » sont des intégrations et des automatisations concrètes avec des entrées et sorties définies, une validation, une journalisation et une gestion des erreurs. Chaque appel d’outil peut être surveillé, tracé et régi.

UiPath prend également en charge les serveurs MCP comme moyen standardisé d'exposer les ressources d'automatisation et d'entreprise aux agents. Les serveurs MCP agissent comme des passerelles gouvernées qui publient des outils, des actions et du contexte dans un format cohérent et détectable tout en appliquant les contrôles d'authentification, d'autorisation et de politique. Les serveurs MCP permettent en outre la réutilisation entre les agents et les flux de travail, garantissant ainsi que les mêmes actifs d'automatisation fiables peuvent être partagés en toute sécurité et de manière cohérente.

UiPath prend en charge des modèles de déploiement flexibles. Un agent peut être intégré pour augmenter un processus déterministe avec un raisonnement, exposé via MCP en tant qu'agent ou outil réutilisable, ou déployé en tant que composant agentique autonome orchestré dans le cadre d'un flux de travail métier plus large dans UiPath Maestro™.

Gouvernance et traçabilité du cycle de vie

Chaque agent peut s'exécuter sous une identité étendue avec des autorisations de moindre privilège. La gouvernance de la plateforme détermine qui peut créer, déployer et exploiter des agents, ainsi que les comportements d'exécution autorisés. Les approches low-code et codées aident à maintenir une gouvernance à grande échelle.

Le service de traçage UiPath fournit un journal d'exécution détaillé de l'état de l'agent, des appels d'outils et des explications du raisonnement LLM dans la boucle de l'agent. Ceci est disponible au moment de la conception, au moment de l'évaluation et au moment de l'exécution pour tous les agents gérés dans UiPath et est extensible via OTEL aux fournisseurs de business intelligence pris en charge.

UiPath présente des vues globales sur l'ensemble du parc d'agents, y compris les rediffusions de sessions, les tableaux de bord des taux d'échec qui révèlent les tendances de fiabilité par agent ou version, et les statistiques d'utilisation des outils.

Modèles humains dans la boucle

UiPath prend en charge les étapes explicites de l'activité humaine telles que les approbations, les révisions et la gestion des exceptions. Les agents peuvent être configurés pour évoluer en fonction de seuils de confiance, de risques de transaction ou de contraintes politiques.

Évaluation, optimisation et mémoire contrôlée

Les résultats de l'évaluation au moment de la conception et de l'exécution sont intégrés dans Agent Score, un signal de performance cohérent permettant de suivre la qualité au fil du temps, de comparer les versions et de détecter rapidement les régressions.

Les fonctionnalités d'optimisation d'UiPath Maestro™ et Agent Builder d'UiPath Studio évaluent les données d'évaluation et d'exécution pour créer des suggestions d'amélioration mesurées qui peuvent être réappliquées dans les définitions correspondantes. Les retours humains et les résultats opérationnels peuvent être liés aux évaluations et aux traces, élargissant ainsi la suite de régression et, le cas échéant, informant la mémoire des agents gouvernés.

Gestion des coûts et exécution limitée

UiPath offre une visibilité sur les coûts par exécution, par agent et globalement. Les limites strictes de licence et les alertes évitent les dépenses inconsidérées, tandis que les contrôles d'orchestration tels que les tentatives, les délais d'attente et les chemins d'escalade limitent l'exécution.

Standardisation et orchestration

Au moment de l'exécution, UiPath Maestro agit comme un plan de contrôle unificateur qui régit l'exécution quelle que soit la manière dont les agents sont créés. Les préoccupations courantes telles que les approbations, les tentatives, la gestion des exceptions et l'implication humaine sont mises en œuvre une seule fois et réutilisées dans les flux de travail. Les actifs, les politiques et les garde-fous partagés propagent les améliorations à l'ensemble de la flotte d'agents IA.

Résumé

AgentOps transforme les agents IA en une capacité d'entreprise durable. Cela exige gouvernance, transparence, ingénierie de fiabilité, rigueur d’évaluation et contrôle des coûts.

La combinaison de Maestro et d'Agent Builder dans UiPath Studio sur la plateforme UiPath répond à ces exigences en associant la création et l'évaluation d'agents à une orchestration et une gouvernance d'entreprise durables. Ensemble, ils soutiennent un modèle d'entreprise dans lequel les agents gèrent l'interprétation et la planification, les automatisations exécutent des étapes déterministes et les gens gardent fermement le contrôle grâce aux approbations et à la surveillance.

C’est la base dont les entreprises ont besoin pour faire évoluer l’automatisation agentique de manière sûre et crédible. Les agents d'IA fonctionnent comme des actifs gouvernés au sein de processus métier réels, avec une responsabilité claire, des performances mesurables et une amélioration continue.