Un agent IA peut-il se tromper ?
Oui. Un modèle de langage produit le texte le plus plausible au regard de ce qu’il lit, de sorte que, lorsqu’une information lui fait défaut, il peut en énoncer une qui paraît exacte sans l’être, qu’il s’agisse d’un montant, d’une date, d’une clause ou d’une disponibilité. Interrogé deux fois sur la même question, un même modèle ne fournit d’ailleurs pas toujours la même réponse.
Dans une entreprise, le coût d’une erreur dépend de ce que l’agent est autorisé à faire. Un agent qui prépare un brouillon n’entraîne, au pire, qu’une relecture plus longue ; un agent qui envoie de lui‑même un courriel à un client, ou qui modifie une fiche dans votre logiciel métier, expose en revanche l’entreprise à une erreur dont ses clients subissent directement les effets. Quatre mesures, prises dès la conception de l’agent, permettent d’en limiter la portée :
- Limiter les droits de l’agent à la lecture tant que ses résultats n’ont pas été vérifiés, et ne lui accorder l’écriture qu’au terme d’une période d’essai.
- Maintenir une validation humaine avant tout envoi destiné à l’extérieur, à tout le moins durant la phase de démarrage.
- Lui imposer pour seules sources vos tarifs, vos conditions et vos documents, avec pour consigne explicite de s’arrêter pour vous alerter lorsque l’information n’y figure pas.
- Constituer un jeu d’essais tiré de cas réels et le rejouer à chaque modification de l’agent ou de son modèle.
Que prévoit le RGPD lorsqu’un agent traite des données personnelles ?
Un agent qui lit des courriels, des fiches clients ou des candidatures traite des données personnelles. Le règlement général sur la protection des données (RGPD) s’applique donc, et trois de ses dispositions appellent une attention particulière dans le cas des agents :
- La sous-traitance, régie par l’article 28. Le prestataire qui construit ou exploite l’agent et l’éditeur du modèle qu’il utilise traitent tous deux les données pour votre compte. Vous ne pouvez faire appel qu’à des sous-traitants présentant des garanties suffisantes, et chacun d’eux ne peut recourir à un autre sous-traitant qu’avec votre autorisation écrite. Il convient donc de demander la liste de ces sous-traitants ainsi que le lieu où les données sont traitées.
- La décision automatisée, encadrée par l’article 22. Toute personne a le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé lorsque celle-ci produit des effets juridiques à son égard ou l’affecte de manière significative. Un agent qui écarterait de lui‑même une candidature ou refuserait un dossier entrerait dans ce cadre.
- Les catégories particulières de données, visées à l’article 9. Les données de santé, les données biométriques ou celles qui révèlent des opinions politiques ou religieuses font l’objet d’une interdiction de principe, assortie d’exceptions limitées, si bien qu’un agent ne devrait en traiter aucune sans analyse juridique préalable.
En pratique, il est recommandé de ne transmettre au modèle que les données strictement nécessaires à la tâche et de fixer une durée de conservation pour les informations que l’agent enregistre.
Vos informations confidentielles sont-elles exposées ?
Une information n’est protégée au titre du secret des affaires que si son détenteur prend des « mesures de protection raisonnables » pour en préserver le caractère secret, conformément à l’article L151-1 du code de commerce. Confier des tarifs négociés, des conditions contractuelles ou des listes de clients à un outil dont vous ignorez les conditions d’utilisation peut dès lors fragiliser cette protection. Trois mesures permettent de la préserver :
- Obtenir par écrit la confirmation que l’éditeur du modèle utilise ou non vos données pour entraîner ses modèles, et dans quelles conditions.
- Recourir exclusivement à des comptes d’entreprise couverts par un contrat, et jamais à des comptes personnels gratuits.
- Restreindre les dossiers et les boîtes que l’agent peut consulter à ceux dont il a effectivement besoin.
Quelles obligations le règlement européen sur l’intelligence artificielle impose-t-il ?
Le règlement (UE) 2024/1689, dit « AI Act », entre en application par étapes. Il a été modifié par le règlement (UE) 2026/1744 du 8 juillet 2026, publié au Journal officiel le 24 juillet 2026, qui a reporté les obligations relatives aux systèmes à haut risque.
Dates d’application pertinentes pour une PME, d’après le texte publié sur EUR-Lex (consulté le 14/10/2026)| Date | Dispositions applicables |
|---|
| 2 février 2025 | Pratiques interdites et obligation de maîtrise de l’IA par le personnel (chapitres I et II) |
|---|
| 2 août 2025 | Règles applicables aux modèles d’IA à usage général |
|---|
| 2 août 2026 | Application générale, notamment des obligations de transparence de l’article 50 |
|---|
| 2 décembre 2026 | Marquage des contenus générés par les systèmes déjà mis sur le marché (article 50, paragraphe 2) |
|---|
| 2 décembre 2027 | Systèmes à haut risque de l’annexe III, dont le recrutement et la sélection des candidats |
|---|
| 2 août 2028 | Systèmes à haut risque intégrés à des produits réglementés (annexe I) |
|---|
Pour la plupart des agents déployés dans une PME, l’obligation la plus tangible découle de l’article 50, selon lequel un système destiné à échanger directement avec des personnes doit être conçu de telle sorte qu’elles sachent s’adresser à une IA, sauf lorsque le contexte le rend évident. Un agent qui répond à vos clients doit donc s’identifier comme tel. Un agent chargé de trier des candidatures relève quant à lui des usages à haut risque énumérés à l’annexe III.
L’article 4 imposait par ailleurs aux entreprises utilisatrices d’un système d’IA de garantir un niveau suffisant de maîtrise de l’IA par leur personnel. Le règlement de 2026 a assoupli cette exigence, qui consiste désormais à prendre des mesures pour soutenir cette maîtrise. La formation des personnes chargées de relire les résultats de l’agent demeure, à cet égard, la précaution la plus utile.
Comment prévenir la dérive des coûts et la dépendance à l’égard d’un fournisseur ?
Les appels au modèle étant facturés à l’usage, une boucle mal conçue, un volume inattendu ou un document particulièrement long peuvent multiplier le montant de la facture mensuelle. Les éditeurs de modèles permettent toutefois de fixer un plafond de dépense mensuel ; chez Anthropic, une fois ce plafond atteint, les requêtes sont refusées jusqu’à ce qu’il soit relevé ou que le mois suivant commence.
La dépendance revêt quant à elle deux formes. La première tient au modèle, car les éditeurs retirent régulièrement leurs anciennes versions et un agent qui s’appuie sur un modèle retiré cesse de fonctionner ; Anthropic annonce un préavis d’au moins 60 jours et a, par exemple, retiré Claude Haiku 3.5 le 19 février 2026. La seconde tient au prestataire, puisque, si l’agent n’existe que dans son outil ou sur son serveur, en changer impose de tout reconstruire. Trois exigences, à poser dès la signature, permettent de maîtriser à la fois les coûts et la dépendance :
- Fixer un plafond de dépense, assorti d’une alerte déclenchée avant qu’il soit atteint.
- Exiger que le modèle utilisé soit nommé dans la documentation et que tout changement de modèle soit testé avant d’être appliqué.
- Obtenir par écrit le droit à l’export de l’agent, de sa documentation et de la liste des accès à révoquer au terme du contrat.
Quelles précautions exiger avant la mise en service ?
Liste de contrôle
Avant toute mise en service, trois éléments sont nécessaires : une fiche de cadrage décrivant ce que l’agent lit, ce qu’il décide et ce qu’il est autorisé à faire ; une validation humaine préalable aux envois destinés à l’extérieur, sauf exception convenue par écrit ; un journal de chaque action, que vous pouvez consulter. S’y ajoutent un accord de sous-traitance signé avant tout accès à vos données, une mention claire de l’IA à l’intention des personnes qui échangent avec l’agent, un plafond de dépense, un moyen d’interrompre l’agent sans dépendre d’un tiers et la garantie d’un export au terme de la collaboration.
Un agent IA ne constitue pas toujours le dispositif approprié. Lorsque la tâche obéit à des règles fixes, un workflow dépourvu d’IA se révèle plus prévisible et moins coûteux, l’IA ne se justifiant que lorsqu’il faut lire ou interpréter un contenu variable.
Comment Nodva applique-t-elle ces précautions ?
Nodva conçoit et met en place des automatisations et des agents IA pour les TPE et les PME. Les précautions exposées dans ce guide figurent dans sa charte publiée, qu’il s’agisse de la relecture humaine des documents générés, de l’identification des agents auprès de vos clients, de l’accord de sous-traitance conforme à l’article 28 du RGPD signé avant tout accès à vos données, ou de la remise sans frais de l’export, de la documentation et de la liste des accès à révoquer à la fin de l’abonnement. Les données de santé relèvent pour leur part d’un cadre spécifique et font l’objet d’une étude séparée.