AI Act et agents IA : ce que les équipes doivent préparer

L'AI Act oblige les équipes à regarder l'IA autrement. Un agent n'est pas seulement une interface plus pratique. C'est un système capable d'analyser, proposer, automatiser et parfois agir. Plus l'agent se rapproche de l'exécution, plus la question devient sérieuse : que fait-il, avec quelles données, sous quel contrôle, et qui valide ?

Classer les usages avant de classer le produit

La première erreur consiste à vouloir classer toute la plateforme d'un seul bloc. Une plateforme d'agents peut servir à écrire un résumé, générer du code, préparer un devis, analyser un document ou déclencher une action. Ces usages n'ont pas le même niveau de risque. La bonne approche consiste à tenir un registre des cas d'usage, avec finalité, utilisateurs, données traitées, fournisseurs de modèles, niveau d'autonomie et points de validation.

La transparence doit être visible

L'utilisateur doit savoir quand il interagit avec un système IA, ce que le système peut faire, ce qu'il ne peut pas garantir, et quelles actions restent sous contrôle humain. Une page de transparence IA n'est pas un détail marketing. C'est un élément de confiance : elle explique les agents, les modèles, les limites, les logs, les fournisseurs et les décisions sensibles.

Le contrôle humain n'est pas optionnel

Les agents utiles travaillent vite. C'est précisément pour cela qu'ils doivent être encadrés. Paiement, signature, suppression, envoi externe, accès à un secret, mise en production : ces actions doivent demander une validation humaine. Un bon système d'agents ne cherche pas à supprimer l'humain. Il le place au bon endroit, au moment où sa décision compte.

Documenter les fournisseurs de modèles

Une plateforme qui route entre plusieurs modèles doit savoir expliquer où partent les données. Fournisseur, région, politique d'entraînement, durée de conservation, garanties contractuelles : ces éléments doivent être suivis. Le BYOK ajoute une nuance intéressante : le client garde la maîtrise de ses clés, mais la plateforme doit quand même expliquer comment elles sont utilisées et protégées.

Préparer la preuve

La conformité n'est pas seulement une promesse. Il faut pouvoir prouver. Logs d'exécution, version des prompts critiques, registre des validations, historique des décisions, incidents, sous-traitants, transferts et tests de sécurité. Les équipes qui préparent cette preuve tôt gagneront du temps, de la confiance et des cycles commerciaux.

Le bon standard produit

Pour une plateforme d'agents, le standard moderne est simple : transparence par défaut, minimisation des données, validation humaine sur le sensible, logs consultables et documentation claire. Ce n'est pas un frein à l'autonomie. C'est ce qui permet de la vendre sérieusement.