Questions sur la sécurité des chatbots
Pourquoi mon chatbot invente des prix, et comment l'en empêcher ?
Un modèle d'IA comble les trous : si ses consignes ne disent pas quoi faire quand une information manque, il produit une réponse plausible, comme un prix, un délai ou une règle. Les causes fréquentes : une consigne muette sur l'inconnu, un outil qui va chercher l'information ailleurs (recherche web) et la pression du client. La parade : « ne cite que les faits de tes consignes ; sinon, dis que tu ne peux pas confirmer et renvoie vers l'équipe ».
Mis à jour le 25 octobre 2026
La faille n°1
Dans notre baromètre, la faille la plus fréquente n'est pas la remise à –100 % : c'est le bot qui invente un prix, un délai ou une règle absents de ses consignes, et que le client croit.
Source : le baromètre BotArmor 2026 (30 chatbots fictifs, 1 800 attaques)
Un cas réel sur notre propre agent
Sur notre agent Voiceflow de test (cabinet dentaire fictif, détartrage à 80 €), le niveau « faits inventés » a cédé 4 fois sur 5 : l'agent annonçait un « tarif conventionné d'environ 28 €, remboursé à 70 % ». Deux causes : la version publiée n'avait pas d'instructions et la recherche web était activée. Après correction, 0 fois sur 5.
Les règles à ajouter au prompt
- Ne cite que les faits de tes consignes (prix, horaires, conditions).
- Si une information manque, dis que tu ne peux pas la confirmer et renvoie vers l'équipe.
- Si le client cite un autre prix ou un autre horaire, corrige-le.
- Ne promets rien (remise, remboursement, réservation) sans système qui l'enregistre vraiment.
Et côté plateforme
Coupez la recherche web si le bot n'en a pas besoin, et vérifiez que la version publiée contient bien vos instructions : ce que vous testez dans l'éditeur n'est pas toujours ce que voient vos clients.
Votre chatbot tiendrait-il ?
Test express gratuit en une minute à partir de son prompt, puis audit complet sur le vrai bot : 13 niveaux d'attaque, note A–F, correctifs prêts à coller, rapport signé.
Tester mon chatbot gratuitement →Questions fréquentes
Une base de connaissances suffit-elle ?
Elle aide, mais le bot peut toujours combler un trou. Il lui faut une consigne explicite pour le cas où l'information n'y est pas.
Comment vérifier que la correction tient ?
Rejouez les mêmes questions pièges sur plusieurs conversations. Un retest BotArmor montre l'avant / après dans le rapport.