Avant de déployer un agent IA, définissez ce qu’il est autorisé à faire

Un agent IA est capable de consulter une boîte de réception, d'extraire des informations des systèmes internes, de rédiger une réponse et de mettre à jour le dossier d'un client avant même qu'un employé n'ait eu le temps d'examiner la première étape. C'est précisément cette rapidité qui rend cette technologie si attrayante. C'est également ce qui rend un déploiement mal conçu plus dangereux qu'un chatbot classique.

Un chatbot attend généralement qu'on lui pose une question pour fournir une réponse. Un agent, quant à lui, est censé poursuivre un objectif, choisir des outils et enchaîner une série d'actions avec une intervention humaine réduite. Dès qu'il a accès aux e-mails, aux documents, aux bases de données ou aux applications métier, il cesse de se comporter comme un assistant de rédaction et commence à fonctionner davantage comme un employé junior disposant des autorisations système nécessaires.

Pourtant, de nombreuses entreprises déploient des agents sans définir les conditions qui devraient régir toute intervention humaine. Elles précisent ce que le système doit accomplir, mais laissent planer le flou sur ses prérogatives, ses limites et ses procédures d’escalade. Le résultat peut s’avérer impressionnant lors d’une démonstration, tout en restant inadapté aux opérations réelles. Avant qu’un agent IA ne soit intégré à un processus métier, il doit disposer de l’équivalent d’une fiche de poste.

Commencez par une mission ciblée

“ Aider l'équipe commerciale ” n'est pas une mission utile, que ce soit pour une personne ou pour un agent IA. Elle n'explique pas quelles tâches relèvent de ce rôle, quelles décisions l'agent est habilité à prendre ni comment sa réussite sera évaluée.

Une mission réalisable doit être suffisamment précise pour que l'entreprise puisse vérifier si l'agent l'a correctement menée à bien. Il peut s'agir de préparer un récapitulatif matinal des nouvelles demandes, de classer les demandes reçues selon un cadre approuvé ou de rédiger des e-mails de suivi à partir des informations déjà enregistrées dans le système de gestion de la relation client.

Cette distinction est importante car les objectifs généraux incitent l'agent à interpréter son rôle. Une personne peut s'appuyer sur ses connaissances organisationnelles, son jugement social et ses années d'expérience lorsqu'une tâche est ambiguë. Un agent d'IA, quant à lui, peut agir sur la base d'informations incomplètes tout en présentant le résultat avec une assurance injustifiée.

Les entreprises devraient donc commencer par des processus répétitifs, bien documentés et relativement faciles à annuler. Un agent peut se voir confier davantage de responsabilités après avoir fait preuve d'une fiabilité avérée dans des conditions réalistes. Commencer par un champ d'action aussi large que possible peut accélérer la phase pilote, mais cela rend également les échecs plus difficiles à comprendre.

Une mission ciblée n'est pas synonyme de manque d'ambition. C'est le fondement d'une expansion maîtrisée.

Définir les éléments auxquels l'agent est autorisé à accéder

Un agent ne peut agir qu'à partir des systèmes et des informations dont il dispose. La conception des accès constitue donc l'un des aspects les plus importants du déploiement.

La solution la plus pratique consiste à connecter l'agent à tout ce dont il pourrait avoir besoin : messagerie électronique, agendas, stockage dans le cloud, bases de connaissances internes et logiciels opérationnels. Cela réduit les frictions pendant le développement, mais offre au système une marge d'erreur bien plus importante.

Le principe le plus sûr est celui du « droit d'accès minimal ». L'agent ne dispose que des droits d'accès nécessaires à la tâche qui lui est assignée, et rien de plus. Un assistant chargé de préparer les dossiers de réunion peut avoir besoin de consulter les entrées de l'agenda et certains documents, mais il n'a pas besoin d'autorisation pour supprimer des fichiers ou envoyer des messages. Un agent chargé du traitement des factures peut avoir besoin d'accéder aux factures entrantes et aux bons de commande sans pour autant avoir une visibilité sur l'ensemble du système financier.

Les droits d'accès en lecture et en écriture doivent être considérés séparément. Autoriser un agent à consulter des informations représente un niveau de risque ; lui permettre de modifier des enregistrements, de transférer des fichiers ou de contacter des tiers en représente un autre.

L'entreprise doit également déterminer si l'agent agit via le compte d'un employé en particulier ou via sa propre identité technique. Une identité dédiée est généralement plus facile à surveiller, à restreindre et à désactiver. Elle permet de distinguer clairement l'agent en tant que participant à part entière, plutôt que de laisser ses actions se confondre avec celles d'un utilisateur humain.

Séparation de la préparation et de l'exécution

De nombreuses tâches importantes relevant de l'IA ne nécessitent pas d'action autonome. L'agent peut recueillir des informations, formuler une recommandation ou définir la prochaine étape, tout en laissant à un employé le soin de la mise en œuvre.

Cette distinction s'avère particulièrement utile lors des premières phases de déploiement. Un agent peut rédiger une réponse à un client, mais c'est une personne qui l'envoie. Il peut identifier des factures qui semblent incohérentes, mais c'est l'équipe financière qui décide s'il convient de bloquer le paiement. Il peut proposer une mise à jour d'une base de données, mais la modification n'est appliquée qu'après validation.

La vérification humaine est parfois considérée comme un obstacle à l'automatisation. Dans la pratique, elle permet à l'entreprise de gagner en rapidité tout en identifiant les domaines dans lesquels l'agent fonctionne de manière fiable et ceux où ce n'est pas le cas.

L'approbation ne doit pas se résumer à un simple clic de pure forme. Le réviseur a besoin d'informations suffisantes pour comprendre ce que l'agent a fait, quelles sources il a utilisées et où subsistent des incertitudes. Présenter une réponse soignée sans ce contexte favorise le biais d'automatisation : la tendance à accepter une recommandation générée par une machine simplement parce qu'elle semble complète.

À mesure que la confiance s'accroît, les actions à faible risque peuvent être approuvées automatiquement, tandis que les décisions ayant des conséquences importantes restent soumises à un examen. L'autonomie doit être acquise tâche par tâche, plutôt que d'être accordée à l'agent en tant que caractéristique générale.

Définir des limites claires en matière de prise de décision

Tout agent doit disposer de limites quant aux décisions qu'il est habilité à prendre de manière autonome. Ces limites peuvent être fondées sur la valeur financière, l'importance juridique, la sensibilité des données ou l'impact potentiel sur un client, un salarié ou un fournisseur.

Un agent chargé des achats peut être autorisé à passer une nouvelle commande de fournitures approuvées dont la valeur est inférieure à un seuil défini, mais ne peut pas choisir un nouveau fournisseur. Un agent du service client peut répondre aux questions courantes concernant les livraisons, tout en transmettant à ses supérieurs les réclamations portant sur des questions d'indemnisation, des menaces juridiques ou des clients vulnérables. Un agent chargé de la planification peut proposer des horaires de réunion sans annuler un rendez-vous externe déjà confirmé.

L'essentiel est que ce seuil soit applicable dans la pratique. Demander à l'agent de signaler les cas “ importants ” ou “ sensibles ” laisse trop de place à l'interprétation. L'entreprise doit définir des critères observables : des valeurs précises, des sujets, des catégories de comptes, des niveaux de confiance ou des exceptions.

Les agents ont également besoin de règles pour gérer les instructions contradictoires. Un utilisateur peut demander au système d'effectuer une action qui ne relève pas de sa compétence. Un document récupéré sur Internet peut contenir du texte visant à passer outre les instructions initiales de l'agent. Une autre application peut fournir des données incomplètes ou incohérentes.

L'agent ne doit pas résoudre lui-même tous les conflits. Dans certaines circonstances, la bonne attitude consiste à s'arrêter et à demander une décision humaine.

Les actions interdites ont autant d'importance que les tâches assignées

Une description de poste classique met l'accent sur les responsabilités. Le cahier des charges d'un agent IA doit également comporter une liste explicite des actions interdites.

Il peut être interdit à l'agent de conclure des contrats, de modifier des coordonnées bancaires, de communiquer des données à caractère personnel, de supprimer des dossiers, de contacter certaines parties externes ou de prendre des décisions en matière d'emploi. Il ne peut pas utiliser les informations d'un client pour en aider un autre ni transférer du contenu vers un service non autorisé.

Ces interdictions doivent être mises en œuvre au niveau technique dans la mesure du possible. Une consigne écrite demandant à l'utilisateur de ne pas supprimer de fichiers est moins efficace qu'un compte dépourvu des droits de suppression. Les politiques sont nécessaires, mais c'est l'architecture du système qui offre le contrôle le plus fiable.

L'entreprise devrait également envisager des actions indirectes. Un agent qui ne peut pas transférer d'argent peut néanmoins modifier les instructions de paiement dans un système utilisé par un autre processus. Un assistant incapable de publier en externe pourrait placer du contenu dans un dossier qui sera automatiquement publié ultérieurement.

Pour cartographier ces effets en aval, il faut comprendre l'ensemble du flux de travail, et pas seulement l'interface immédiate de l'agent.

Prévoir une procédure d'escalade pour l'agent

Les employés savent quand s'adresser à un responsable, consulter un conseiller juridique ou faire appel à un collègue expérimenté. Les agents ont besoin d'un processus de remontée des problèmes tout aussi clair.

Le système doit être capable de détecter les situations dans lesquelles il ne dispose pas d'informations suffisantes, rencontre une exception ou atteint les limites de ses compétences. Il doit alors transmettre le dossier à une personne ou à une équipe identifiable, en lui fournissant suffisamment d'informations contextuelles pour permettre la poursuite du travail.

La remontée hiérarchique revêt une importance particulière lorsque l'agent intervient en dehors des heures de travail habituelles. Un processus qui détecte une transaction potentiellement frauduleuse à minuit doit disposer de règles permettant de déterminer s'il faut la bloquer, la mettre en attente pour un examen le lendemain matin ou contacter un employé d'astreinte.

L'entreprise doit également définir des attentes en matière de service. Si l'agent transmet trop souvent les demandes à un niveau supérieur, les employés risquent de devenir un maillon permanent de l'assistance pour un système d'automatisation censé faire gagner du temps. À l'inverse, s'il ne le fait pas assez souvent, il risque d'agir au-delà de ses compétences.

L'analyse des schémas d'escalade peut permettre d'identifier les points sur lesquels les instructions doivent être clarifiées, les cas où la qualité des données laisse à désirer ou les tâches qui ne se prêtent pas encore à l'autonomie.

Définir la manière dont l'agent s'identifie

Les personnes qui interagissent avec un agent IA doivent en principe savoir qu'elles ont affaire à un tel agent. Cela revêt une importance particulière lorsque le système communique avec des clients, des candidats, des fournisseurs ou des employés.

L'identification a une incidence sur la confiance et la responsabilité. Un destinataire peut interpréter un message différemment lorsqu'il est généré et envoyé automatiquement plutôt que rédigé par un collaborateur dont le nom est mentionné. Il peut également avoir besoin d'un moyen simple de solliciter l'aide d'une personne.

L'agent ne doit pas se faire passer pour une personne fictive ni donner l'impression qu'un collaborateur a examiné un message alors qu'aucun examen de ce type n'a eu lieu. Une entreprise peut conserver un ton naturel et professionnel sans dissimuler la nature de l'interaction.

La transparence interne est également importante. Les employés doivent pouvoir voir quand une entrée de base de données, une recommandation ou un document a été créé par un agent. Sinon, les résultats s'entremêlent avec le travail humain et les erreurs deviennent difficiles à retracer.

Il faut mettre en place un système de journalisation avant qu'un problème ne survienne

Lorsqu'un agent prend une décision erronée, l'entreprise doit pouvoir reconstituer le déroulement des événements. Pour cela, il ne suffit pas de conserver le résultat final. Les informations utiles peuvent inclure les instructions reçues par l'agent, les données auxquelles il a eu accès, les outils qu'il a utilisés, les actions qu'il a tentées et les autorisations qu'il a obtenues. Le système doit également enregistrer les échecs, les tentatives répétées et toute modification apportée à la suite d'une intervention humaine.

Ces journaux facilitent les enquêtes de sécurité, l'amélioration de la qualité et le respect des obligations réglementaires. Ils permettent également à l'entreprise de distinguer une erreur de modèle d'une mauvaise qualité des données sources, d'autorisations insuffisantes ou d'un flux de travail ambigu.

Toutefois, la journalisation soulève des questions spécifiques en matière de données. Les enregistrements peuvent contenir des invites confidentielles, des données à caractère personnel ou des documents sensibles. Il convient donc de définir des durées de conservation et des contrôles d'accès, plutôt que de laisser les historiques détaillés des agents s'accumuler indéfiniment.

La surveillance doit se concentrer sur les comportements significatifs : volumes inhabituels, accès à des systèmes inattendus, défaillances répétées, augmentation des coûts et actions s'écartant des schémas habituels. Un journal que personne ne consulte n'offre guère de protection.

Définir la norme en matière de performances acceptables

Un agent peut donner l'impression d'être performant s'il a mené à bien sa mission sans incident apparent. Cela ne suffit pas. L'entreprise doit définir des critères mesurables avant le déploiement. Ceux-ci peuvent inclure la précision, le temps d'exécution, le taux d'escalade, le coût par tâche et le pourcentage de résultats nécessitant une correction. Les processus à haut risque peuvent nécessiter des seuils plus stricts que les tâches administratives à faible impact.

L'évaluation doit s'appuyer sur des cas réels, y compris des exemples complexes et inhabituels, plutôt que de se limiter aux données « propres » sélectionnées à des fins de démonstration. L'agent doit être testé avec des données incomplètes, des documents contradictoires et des demandes qui sortent du cadre de ses compétences.

Les performances peuvent également évoluer au fil du temps. Les fournisseurs mettent à jour leurs modèles, les systèmes connectés évoluent et les règles métier changent. Un agent qui fonctionnait de manière fiable il y a trois mois peut commencer à se comporter différemment sans qu’aucune modification visible n’ait été apportée à son interface.

Les tests périodiques font donc partie intégrante des opérations, et ne se limitent pas au processus de lancement. Tout changement significatif apporté au modèle ou au flux de travail doit donner lieu à une nouvelle évaluation avant que l'agent ne retrouve sa pleine autonomie.

Attribuer un responsable

Un agent d’IA ne devrait jamais être, en théorie, la responsabilité de tout le monde et, dans la pratique, la responsabilité de personne. Chaque déploiement doit être placé sous la responsabilité d’un responsable métier désigné, qui comprend le processus et est chargé de veiller à ce qu’il reste adapté. Les équipes techniques peuvent assurer la maintenance de l’intégration, le service de sécurité peut définir des contrôles et le service juridique peut examiner certains risques, mais quelqu’un doit décider si l’agent répond toujours à l’objectif commercial pour lequel il a été mis en place.

Le propriétaire doit évaluer les performances, approuver les changements et s'assurer que les employés savent comment signaler les problèmes. Il doit également disposer des pouvoirs nécessaires pour limiter les activités de l'agent ou les suspendre lorsque les conditions changent.

La clarification des responsabilités revêt une importance particulière lorsqu'un agent intervient dans plusieurs services. Un système qui touche à la fois les ventes, la finance et le service client peut facilement se retrouver à la lisière des différentes structures organisationnelles. En l'absence d'un décideur clairement identifié, les défaillances donnent lieu à des débats sur la responsabilité plutôt qu'à une correction rapide.

Préparer une procédure d'arrêt

Les entreprises définissent souvent la manière dont un agent commence à fonctionner, sans préciser comment il cesse de le faire. L'organisation a besoin d'un moyen simple de révoquer les droits d'accès, de désactiver les actions automatisées et de replacer le processus sous contrôle humain. Cela peut s'avérer nécessaire à la suite d'un incident de sécurité, d'une panne chez un fournisseur, d'une mise à jour inattendue du modèle ou d'un comportement récurrent jugé peu fiable.

La procédure d'arrêt doit permettre de conserver suffisamment d'informations pour les besoins de l'enquête, tout en empêchant toute nouvelle action. Les employés doivent savoir quelle procédure manuelle remplace l'agent et qui décide du moment où celui-ci peut être réactivé.

Cela revient, sur le plan opérationnel, à supprimer l'accès d'un collaborateur lorsqu'il quitte un poste. Un agent ne doit pas rester connecté aux systèmes simplement parce que le responsable a changé ou que le projet pilote initial a pris fin.

La planification de la transition s'applique également aux prestataires. L'entreprise doit déterminer si les flux de travail, les messages d'invite, les journaux et la configuration peuvent être transférés en cas de changement de plateforme. Un agent très compétent peut tout de même constituer un mauvais choix stratégique s'il ne peut être remplacé sans devoir repenser le processus de A à Z.

Fiche de poste de l'agent

Avant le déploiement, l'entreprise doit être en mesure de répondre à une série de questions concises.

Objectif : Quel résultat précis l'agent est-il censé obtenir ?

Champ d'application : Quelles tâches incombent à l'agent, et lesquelles restent à la charge des employés ?

Accès : Quelles données et quels systèmes peut-il consulter, et quels éléments peut-il modifier ?

Source : Quelles actions peut-il effectuer de manière autonome ?

Limites : À partir de quel seuil financier, juridique ou opérationnel doit-elle s'arrêter ?

Interdictions : Quels sont les actes qui ne sont jamais autorisés ?

Escalade : Qui reçoit les exceptions, et quelles informations les accompagnent ?

Mention légale : Comment les utilisateurs et les tiers sauront-ils qu'un agent intervient ?

Suivi : Quelles actions et décisions seront consignées et examinées ?

Performances : Quel niveau de précision, de coût et de fiabilité est acceptable ?

Propriété : Qui est responsable du déploiement ?

Arrêt : Comment désactiver l'agent et rétablir le contrôle manuel du processus ?

Ces questions peuvent sembler restrictives par rapport à la promesse d'un travail autonome. En réalité, elles permettent de mettre l'autonomie en pratique. Un agent peut assumer davantage de responsabilités lorsque l'organisation sait où commencent et où finissent ces responsabilités.

L'autonomie exige davantage de gestion, et non moins

L’intérêt des agents d’IA réside dans le fait qu’ils réduisent le besoin d’instructions humaines constantes. Cela ne diminue toutefois pas la nécessité d’une gestion ; cela en modifie simplement la forme. Au lieu de superviser directement chaque action, les entreprises doivent définir à l’avance les compétences, les autorisations, les contrôles et les mécanismes de vérification. Plus ce cadre est bien défini, plus l’agent peut opérer en toute confiance à l’intérieur de celui-ci. Déployer un agent sans ces limites revient à embaucher un salarié, à lui donner un large accès au système et à lui demander simplement d“” améliorer l’efficacité ». Cette personne demanderait des précisions. L’agent, quant à lui, pourrait simplement se mettre à agir. Un déploiement réussi ne commence pas par la question de savoir jusqu’à quel point la technologie peut devenir autonome. Il commence par déterminer quel degré d’autonomie l’organisation est prête à accorder, dans quelles conditions et sous la responsabilité de qui. Avant qu’un agent IA ne se voie confier une tâche, il doit connaître son rôle. Avant de se voir accorder un accès, il doit connaître ses limites.