Prompt Injection

Découvrez nos cas concrets et planifiez une démo gratuite avec nos experts.

Prompt injection : sécuriser vos agents IA

En bref : la prompt injection consiste à glisser des instructions malveillantes dans un contenu que l’agent IA va lire : un e-mail, une page web, un document partagé. Le modèle les confond avec des ordres légitimes. On s’en protège surtout par l’architecture : droits minimaux, séparation des données et des instructions, validation humaine des actions sensibles et journalisation.

Vous êtes DSI ou RSSI et vos métiers veulent des agents IA capables de lire les e-mails, de consulter le CRM, de créer des tickets ou de déclencher des paiements. Chaque nouvel outil connecté augmente la valeur de l’agent, mais aussi sa surface d’attaque. Un agent qui lit des contenus externes et dispose de droits d’écriture devient une cible de choix.

La prompt injection n’est pas un défaut que l’on corrige une fois pour toutes. C’est une propriété des grands modèles de langage, qui traitent instructions et données dans le même flux de texte. Ce guide présente les menaces concrètes, les contre-mesures reconnues et la méthode pour déployer des agents IA en confiance.

Sommaire

  • Qu’est-ce que la prompt injection et pourquoi est-elle si difficile à bloquer ?
  • Quelles attaques menacent concrètement un agent IA ?
  • Pourquoi les agents IA sont-ils plus exposés qu’un simple chatbot ?
  • Quels garde-fous IA mettre en place ?
  • Comment tester la sécurité de vos agents IA ?
  • Questions fréquentes

Qu’est-ce que la prompt injection et pourquoi est-elle si difficile à bloquer ?

La prompt injection arrive en tête du classement OWASP des risques pour les applications de grands modèles de langage, sous la référence LLM01 (Source : OWASP Top 10 for LLM Applications, édition 2025). On distingue deux formes :

  • L’injection directe : l’utilisateur lui-même tente de contourner les consignes du système, par exemple en demandant à l’assistant d’ignorer ses règles.
  • L’injection indirecte : les instructions malveillantes sont cachées dans une source externe que l’agent consulte, comme une page web, un PDF, un e-mail ou un ticket de support. L’utilisateur légitime n’en a souvent pas conscience.

La difficulté tient au fonctionnement même du modèle : il reçoit un texte unique dans lequel se mêlent le prompt système, la demande de l’utilisateur et les contenus récupérés. Il n’existe pas de frontière technique étanche entre « ce qu’il faut faire » et « ce qu’il faut lire ». Les filtres réduisent le risque, ils ne l’éliminent pas.

Quelles attaques menacent concrètement un agent IA ?

Le tableau ci-dessous associe les principales menaces à un exemple réaliste et à la contre-mesure prioritaire.

Menace Exemple Contre-mesure prioritaire
Injection indirecte par e-mail Un e-mail entrant contient un texte invisible demandant à l’agent de transférer les dernières factures à une adresse externe Interdire l’envoi externe sans validation humaine ; liste blanche de destinataires
Exfiltration de données Une page web consultée pousse l’agent à insérer des données internes dans une URL d’image ou un lien Bloquer le rendu de liens et images externes ; filtrer les sorties
Agentivité excessive L’agent dispose d’un droit de suppression dans le CRM alors qu’il ne devrait que lire Moindre privilège outil par outil ; comptes de service dédiés
Fuite du prompt système Un utilisateur obtient les consignes internes, avec des noms de systèmes ou des règles métier Ne jamais placer de secret ni d’identifiant dans le prompt système
Empoisonnement de la base documentaire Un document piégé déposé dans la GED est ensuite récupéré par le moteur de recherche de l’agent Contrôle des sources indexées ; droits d’écriture restreints sur la GED
Traitement non sécurisé des sorties La réponse du modèle est exécutée telle quelle comme requête ou commande Valider et assainir toute sortie avant exécution

(Source : OWASP Top 10 for LLM Applications, édition 2025, catégories LLM01, LLM02, LLM05, LLM06 et LLM07)

Ces attaques ne supposent pas de compétences avancées : quelques phrases bien placées suffisent parfois. C’est pourquoi la défense doit reposer sur ce que l’agent a le droit de faire, plus que sur sa capacité à détecter le piège.

Pourquoi les agents IA sont-ils plus exposés qu’un simple chatbot ?

Un chatbot qui se contente de répondre peut, au pire, produire un texte erroné ou inapproprié, un risque proche de celui des hallucinations de l’IA en entreprise. Un agent, lui, agit : il appelle des API, écrit dans des bases, envoie des messages. Une instruction injectée peut donc se transformer en action réelle sur votre système d’information.

Trois facteurs combinés créent le risque maximal : l’agent lit des contenus non maîtrisés, il a accès à des données sensibles, et il peut communiquer vers l’extérieur. Si votre architecture réunit ces trois conditions, considérez qu’une attaque réussie est possible et limitez ses conséquences.

Les protocoles de connexion comme MCP facilitent le branchement des agents à l’ERP, au CRM ou à la GED. Ils apportent un cadre utile pour gouverner les accès, à condition de configurer finement chaque serveur et chaque outil exposé. Notre guide du Model Context Protocol pour les DSI détaille ces bonnes pratiques.

Quels garde-fous IA mettre en place ?

L’ANSSI a publié en avril 2024 un guide de 35 recommandations pour sécuriser un système d’IA générative. Elle y recommande notamment de proscrire l’usage automatisé de systèmes d’IA pour des actions critiques sur le système d’information (Source : ANSSI, Recommandations de sécurité pour un système d’IA générative, avril 2024). En pratique, une défense en profondeur combine plusieurs couches :

  1. Moindre privilège : chaque outil donné à l’agent est limité au strict nécessaire, en lecture seule par défaut, avec un compte de service dédié et des droits hérités de l’utilisateur.
  2. Validation humaine des actions sensibles : paiement, envoi externe, suppression, modification de données de référence. L’agent prépare, l’humain valide.
  3. Séparation des contenus : les données récupérées sont balisées comme non fiables et ne peuvent pas modifier les consignes de l’agent.
  4. Filtrage des entrées et des sorties : détection de motifs d’injection connus, blocage des liens sortants, contrôle des formats avant exécution.
  5. Cloisonnement : environnement d’exécution isolé, segmentation réseau, secrets stockés hors du prompt.
  6. Journalisation et supervision : traçabilité de chaque appel d’outil, alertes sur les comportements anormaux, revue régulière.

Aucune de ces mesures n’est suffisante seule. Leur combinaison réduit à la fois la probabilité d’une attaque réussie et son impact.

Comment tester la sécurité de vos agents IA ?

La sécurité d’un agent se vérifie avant la mise en production, puis régulièrement. Une démarche efficace comprend :

  • Une modélisation des menaces : quels contenus l’agent lit, quels outils il appelle, quelles données il manipule.
  • Des tests d’intrusion dédiés, ou red teaming : tentatives d’injection directe et indirecte, d’exfiltration et d’escalade de droits.
  • Une revue du code d’orchestration, des connecteurs et de la gestion des secrets. Un audit de code source assisté par IA peut accélérer cette étape.
  • Des tests de non-régression rejoués à chaque changement de modèle, de prompt ou d’outil.

Prévoyez enfin une procédure de coupure rapide : pouvoir désactiver un outil ou suspendre l’agent sans arrêter le reste du service.

Notre approche chez Euro Tech Conseil

Nous intégrons la sécurité dès le cadrage : cartographie des sources lues par l’agent, des outils exposés et des actions sensibles. Le POC de 6 à 10 semaines inclut des scénarios de prompt injection et une matrice de droits validée avec votre RSSI. L’intégration au SI s’appuie sur des comptes dédiés et une journalisation complète, avec contrôle humain sur toute action irréversible. Lorsque la sensibilité des données l’exige, nous privilégions des modèles et un hébergement souverains. Découvrez notre offre de développement d’agents et de solutions IA.

Questions fréquentes

Un bon prompt système suffit-il à bloquer la prompt injection ?
Non. Des consignes claires aident, mais un contenu malveillant bien construit peut les contourner. La protection doit reposer sur les droits de l’agent et la validation des actions.

Les fournisseurs de modèles protègent-ils contre ces attaques ?
Les fournisseurs entraînent leurs modèles à résister aux attaques connues et proposent des filtres. Ces protections réduisent le risque sans le supprimer : la sécurité de l’application reste de votre responsabilité.

Quelle différence entre jailbreak et prompt injection ?
Le jailbreak vise à faire produire au modèle un contenu qu’il refuse normalement. La prompt injection vise à détourner une application, souvent via un contenu tiers, pour lui faire exécuter une action ou divulguer des données.

Un agent IA en lecture seule est-il sans risque ?
Le risque est nettement réduit, mais une fuite de données reste possible si l’agent peut afficher des liens ou des images externes. Le filtrage des sorties reste nécessaire.

Quelle attaque LLM faut-il traiter en priorité ?
L’injection indirecte combinée à des droits excessifs : c’est le scénario qui transforme un texte piégé en action réelle sur votre système d’information.

Vos agents IA résisteraient-ils à une prompt injection ?

Nous auditons les droits, les sources et les actions de vos agents pour définir des garde-fous adaptés à votre SI.

Recevez notre newsletter et ne manquez jamais nos conseils !