Accueil
Cybersécurité

Prompt injection : protéger votre chatbot IA

Óliver Vega Lora · CTO de Webimpacto
Publié: · 7 min de lecture

Qu'est-ce que le prompt injection

Un assistant IA reçoit des instructions de l'entreprise (ce qu'il peut dire, comment il doit répondre) et les messages de l'utilisateur. Le prompt injection consiste à glisser de nouvelles instructions pour que le modèle leur obéisse plutôt qu'à celles de l'entreprise.

L'OWASP, l'organisation de référence en sécurité web, le place en tête de sa liste des risques pour les applications basées sur des modèles de langage.

Il existe deux variantes. La directe, quand l'attaquant écrit dans le chat. Et l'indirecte, quand l'instruction est cachée dans un contenu que l'assistant lit : un avis, la description d'un produit, un e-mail ou une page web.

Ce qui peut mal tourner dans une boutique

Les dégâts dépendent de ce que l'assistant a à sa portée. Voici les cas que nous voyons le plus souvent en auditant des assistants e-commerce :

  • Fuite de données : l'assistant affiche les commandes, adresses ou e-mails d'autres clients.
  • Remises ou promesses fausses : l'assistant propose un prix, un code promo ou une condition que la boutique n'accorde pas.
  • Actions non autorisées : annuler des commandes, changer des adresses ou lancer des retours sans vérifier à qui ils appartiennent.
  • Fuite des instructions internes, des fournisseurs ou des marges qui ne devraient pas sortir de l'équipe.
  • Atteinte à l'image de marque : des réponses offensantes ou fausses que quelqu'un capture et publie.

Comment le protéger

La règle de base est de traiter le modèle comme un utilisateur à qui l'on ne fait pas entièrement confiance. Les protections importantes se placent en dehors de lui :

  • Accès minimal : l'assistant ne voit que les données dont il a besoin, et uniquement celles du client identifié.
  • Les actions sensibles (remboursements, changements d'adresse, remises) passent par des règles du système ou par une personne, jamais par le seul jugement du modèle.
  • Identification du client avant de parler d'une commande précise.
  • Contenu externe marqué comme donnée, pas comme instruction, et vérifié avant d'être transmis au modèle.
  • Limites d'utilisation par utilisateur pour freiner les attaques automatisées.
  • Journalisation des conversations conforme au RGPD pour détecter les abus et améliorer les règles.

Le tester avant de le publier

Avant d'ouvrir un assistant au public, il vaut mieux l'attaquer de façon contrôlée : essayer de lui faire révéler ses instructions, afficher les données d'un autre client, inventer une remise ou contourner une vérification. Chaque tentative qui réussit devient une nouvelle règle en dehors du modèle.

Ces tests se répètent à chaque changement des outils de l'agent, des données auxquelles il accède ou du modèle qu'il utilise.

Questions fréquentes

Peut-on éviter complètement le prompt injection ?

Aujourd'hui, aucune technique ne l'évite à cent pour cent. C'est pourquoi la protection efficace limite ce que l'assistant peut voir et faire, et confie les décisions sensibles à des règles du système ou à une personne.

Un chatbot qui répond seulement aux questions court-il aussi un risque ?

Le risque est moindre s'il n'accède pas aux données clients et ne peut pas agir, mais il existe : il peut donner de fausses informations, promettre des conditions que vous ne proposez pas ou révéler ses instructions internes. Il vaut mieux le tester quand même avant de le publier.

Quel rapport entre le RGPD et un chatbot IA ?

Un chatbot qui traite des données personnelles doit informer l'utilisateur, limiter les données qu'il collecte et les conserver de façon sécurisée. Si l'assistant peut montrer les données d'un client à une autre personne, c'est un problème de sécurité, mais aussi une violation de données personnelles.

On l’applique à votre activité ?

Nous vous disons ce que nous ferions dans votre cas, sans engagement. Une personne de l’équipe vous répond.

Demander une proposition
Par
Óliver Vega Lora
CTO de Webimpacto · Webimpacto

Responsable technique de Webimpacto. Il dirige les équipes de développement qui construisent, migrent et maintiennent des boutiques sur Shopify, PrestaShop, Adobe Commerce, VTEX et WooCommerce.