En bref
Un agent IA est un système qui poursuit un objectif en enchaînant des actions de façon autonome : il appelle des outils, lit et écrit des données, et déclenche d'autres systèmes sans validation humaine à chaque étape. identifiable les évalue un par un avec l'Indice IA, sur les six propriétés du référentiel iDIA, parce qu'un agent porte un risque que l'évaluation d'un modèle seul ne capte pas.
Qu'est-ce qu'un agent IA ?
Publié le · mis à jour le · Wissam Daibess
Un agent IA poursuit un objectif donné en décidant lui-même de la suite d'actions à mener. Il appelle des outils, consulte et modifie des données, déclenche d'autres systèmes, et recommence jusqu'à ce que l'objectif soit atteint ou abandonné.
La différence tient à l'autonomie de la chaîne. Un modèle répond à une requête et s'arrête. Un agent enchaîne, et chaque maillon de la chaîne agit sur des systèmes réels.
Cette autonomie est la raison d'être des agents. Elle est aussi la raison pour laquelle ils se gouvernent différemment.
En quoi un agent diffère-t-il d'un modèle d'IA ?
Un modèle produit une sortie que quelqu'un lit avant d'agir. La supervision est structurellement présente : elle se trouve entre la sortie et la conséquence.
Un agent supprime cet intervalle sur la plupart de ses étapes. La supervision doit donc être conçue et posée explicitement, aux points où elle compte, plutôt que d'être héritée du flux de travail.
Les conséquences se déplacent aussi. Une erreur de modèle produit un mauvais texte. Une erreur d'agent produit un courriel envoyé, un enregistrement modifié, une commande passée.
Comment évalue-t-on un agent IA ?
L'Indice IA évalue les agents un par un, sur les six propriétés du référentiel iDIA : Imputable, Gouvernée, Sécuritaire, Souveraine, Supervisée, Reproductible. Chaque propriété se note sur preuve documentée, jamais sur déclaration.
Trois propriétés portent l'essentiel du poids sur un agent. Imputable : qui répond des actions posées par l'agent, nommément. Supervisée : où se trouvent les points d'arrêt humains, et sur quel critère de risque ils ont été placés. Reproductible : peut-on rejouer une décision passée de l'agent et expliquer un écart.
L'évaluation est annuelle et continue. Un agent dont on change l'outillage, le modèle sous-jacent ou le périmètre de données n'est plus l'agent qui a été évalué.
Quels risques un agent autonome introduit-il ?
Le cadre AI Risk SOLN distingue deux origines. La gouvernance couvre les dommages internes, le plus souvent non intentionnels : un agent qui dépasse son mandat, accède à des données hors de son périmètre, ou agit sur un système qu'on ne lui destinait pas.
La sécurité couvre les attaques externes et intentionnelles. Un agent qui lit du contenu non fiable élargit la surface d'injection de commandes, et chaque outil auquel il a accès devient une capacité offerte à l'attaquant qui prend la main.
S'ajoute la question souveraine : par où transitent les données que l'agent manipule, et sous quelle juridiction. Un agent qui appelle plusieurs fournisseurs répartit cette réponse entre eux.
Pour aller plus loin
Questions fréquentes
Un agent IA doit-il être évalué séparément de son modèle ?
Oui. Le modèle et l'agent portent des risques différents. L'Indice IA évalue les agents un par un, parce que l'autonomie de la chaîne d'actions crée une exposition que l'évaluation du modèle seul ne capte pas.
Quelles propriétés du référentiel iDIA pèsent le plus sur un agent ?
Imputable, Supervisée et Reproductible. Elles répondent aux trois questions qu'un conseil d'administration pose sur un agent : qui en répond, où l'humain intervient, et peut-on rejouer une décision passée.
À quelle fréquence réévaluer un agent ?
L'évaluation est annuelle, et continue dès qu'un changement matériel survient. Un changement d'outillage, de modèle sous-jacent ou de périmètre de données produit un agent différent de celui qui a été évalué.
La Loi 25 s'applique-t-elle aux agents IA ?
Dès qu'un agent traite un renseignement personnel, les obligations québécoises s'appliquent, y compris sur les décisions automatisées. L'autonomie de l'agent ne réduit pas les obligations de l'organisation.
Un agent peut-il obtenir la désignation Pratique IA Responsable ?
La désignation s'accorde à une organisation, pas à un agent. Les agents entrent dans l'inventaire évalué, et leur profil compte dans l'Indice IA qui décide de la désignation.