Attaquez votre bot comme le font les vrais attaquants, avant de le lancer
Lancez des attaques Red Team dans des conversations à un tour et multi-tours. Choisissez parmi 26 méthodes d'attaque et 37 classes de vulnérabilités, ou lancez une analyse de sécurité à partir d'un préréglage.
26
Méthodes d'attaque
37
Classes de vulnérabilités
5
Préréglages de référentiels
Attaquez votre propre bot pour trouver ses points faibles en premier
Le red teaming consiste à attaquer votre propre bot, comme le ferait un vrai attaquant. Vous trouvez ses points faibles avant un client.
Trouvez les points faibles avant le lancement
Trouvez et corrigez les vulnérabilités de votre IA avant le déploiement, pas après une violation.
Montrez le test EU AI Act à vos auditeurs
Lancez une analyse de sécurité à partir du préréglage EU AI Act, et remettez le rapport PDF à vos auditeurs.
Surveillez les conversations en direct
Après le lancement, envoyez une copie de chaque tour de conversation en direct au Production Monitor. Le mode blocage est désactivé tant que vous ne l'activez pas. Il arrête alors, dans le chat, une réponse nuisible avant que le client ne la voie.
Testez votre bot contre ces types d'attaque
Une analyse de sécurité peut partir de l'un des 5 préréglages, comme EU AI Act ou MITRE ATLAS.
Prompt Injection
Attaques par injection directe et indirecte qui tentent de contourner les instructions système et de manipuler le comportement de l'IA.
Tentatives de Jailbreak
Techniques de jailbreak multi-étapes qui tentent de contourner les filtres de contenu et les garde-fous de sécurité.
Extraction de données
Vérifiez si votre bot révèle des données personnelles ou ses propres instructions.
Déclencheurs d'hallucinations
Entrées adversariales qui poussent le modèle à générer des informations fausses, trompeuses ou fabriquées.
Biais et toxicité
Entrées de test qui sondent les sorties discriminatoires, offensantes ou nuisibles dans les catégories protégées.
Manipulation de rôle
Tentatives de faire assumer à l'IA des rôles, des personas ou des niveaux de privilèges non autorisés.
Attaquez votre bot en quatre étapes
Connectez votre IA
Connectez votre bot via l'un des 38 connecteurs, comme Cognigy, Genesys, Dialogflow CX ou n8n.
Décrivez votre bot
Écrivez en mots simples à quoi sert votre bot. BenchBot utilise ce texte pour écrire les attaques et pour juger les réponses.
Lancez les attaques automatisées
Les attaques à plusieurs tours lisent chaque réponse de votre bot et choisissent le message suivant à partir de celle-ci.
Remettez un rapport à vos auditeurs
Chaque résultat montre l'attaque envoyée par BenchBot et la réponse de votre bot. Remettez à vos auditeurs un rapport PDF à votre propre charte.
Répétez les mêmes attaques après chaque modification, puis surveillez vos conversations en direct
Lancez les tests d'attaque que votre équipe de sécurité demande
OWASP Top 10 pour les LLM
Lancez une analyse de sécurité à partir du préréglage OWASP Top 10 pour les LLM, ou de l'un des 4 autres préréglages.
Attaques multi-tours
Lancez 5 méthodes d'attaque multi-tours. Chaque attaque est une conversation à part, comme un vrai attaquant parle à votre bot.
Intégration CI/CD
Lancez une analyse de sécurité depuis votre pipeline CI/CD, et arrêtez la mise en production quand elle échoue.
Scénarios d'attaque personnalisés
Ajoutez votre propre vulnérabilité à une analyse de sécurité. Donnez-lui un nom, et décrivez en mots simples ce que le modèle juge vérifie. Vous pouvez aussi ajouter votre propre prompt d'attaque.
Questions fréquentes sur le AI Red Teaming
Attaquez votre propre bot avant votre prochaine version
Demandez une démo et voyez comment attaquer un bot dans des conversations à un tour et multi-tours.