AI Red Teaming

Attaquez votre bot comme le font les vrais attaquants, avant de le lancer

Lancez des attaques Red Team dans des conversations à un tour et multi-tours. Choisissez parmi 26 méthodes d'attaque et 37 classes de vulnérabilités, ou lancez une analyse de sécurité à partir d'un préréglage.

26

Méthodes d'attaque

37

Classes de vulnérabilités

5

Préréglages de référentiels

Attaquez votre propre bot pour trouver ses points faibles en premier

Le red teaming consiste à attaquer votre propre bot, comme le ferait un vrai attaquant. Vous trouvez ses points faibles avant un client.

Trouvez les points faibles avant le lancement

Trouvez et corrigez les vulnérabilités de votre IA avant le déploiement, pas après une violation.

Montrez le test EU AI Act à vos auditeurs

Lancez une analyse de sécurité à partir du préréglage EU AI Act, et remettez le rapport PDF à vos auditeurs.

Surveillez les conversations en direct

Après le lancement, envoyez une copie de chaque tour de conversation en direct au Production Monitor. Le mode blocage est désactivé tant que vous ne l'activez pas. Il arrête alors, dans le chat, une réponse nuisible avant que le client ne la voie.

Testez votre bot contre ces types d'attaque

Une analyse de sécurité peut partir de l'un des 5 préréglages, comme EU AI Act ou MITRE ATLAS.

Prompt Injection

Attaques par injection directe et indirecte qui tentent de contourner les instructions système et de manipuler le comportement de l'IA.

Tentatives de Jailbreak

Techniques de jailbreak multi-étapes qui tentent de contourner les filtres de contenu et les garde-fous de sécurité.

Extraction de données

Vérifiez si votre bot révèle des données personnelles ou ses propres instructions.

Déclencheurs d'hallucinations

Entrées adversariales qui poussent le modèle à générer des informations fausses, trompeuses ou fabriquées.

Biais et toxicité

Entrées de test qui sondent les sorties discriminatoires, offensantes ou nuisibles dans les catégories protégées.

Manipulation de rôle

Tentatives de faire assumer à l'IA des rôles, des personas ou des niveaux de privilèges non autorisés.

Attaquez votre bot en quatre étapes

01

Connectez votre IA

Connectez votre bot via l'un des 38 connecteurs, comme Cognigy, Genesys, Dialogflow CX ou n8n.

02

Décrivez votre bot

Écrivez en mots simples à quoi sert votre bot. BenchBot utilise ce texte pour écrire les attaques et pour juger les réponses.

03

Lancez les attaques automatisées

Les attaques à plusieurs tours lisent chaque réponse de votre bot et choisissent le message suivant à partir de celle-ci.

04

Remettez un rapport à vos auditeurs

Chaque résultat montre l'attaque envoyée par BenchBot et la réponse de votre bot. Remettez à vos auditeurs un rapport PDF à votre propre charte.

Répétez les mêmes attaques après chaque modification, puis surveillez vos conversations en direct

Fonctionnalité
Red Teaming manuel
BenchBot
Coût
Prix par mission
À partir de $199 par mois
Couverture
Dépend du testeur
26 méthodes d'attaque, 37 classes de vulnérabilités
Scalabilité
Une application à la fois
5, 10 ou un nombre illimité de chatbots, selon le forfait

Lancez les tests d'attaque que votre équipe de sécurité demande

OWASP Top 10 pour les LLM

Lancez une analyse de sécurité à partir du préréglage OWASP Top 10 pour les LLM, ou de l'un des 4 autres préréglages.

Attaques multi-tours

Lancez 5 méthodes d'attaque multi-tours. Chaque attaque est une conversation à part, comme un vrai attaquant parle à votre bot.

Intégration CI/CD

Lancez une analyse de sécurité depuis votre pipeline CI/CD, et arrêtez la mise en production quand elle échoue.

Scénarios d'attaque personnalisés

Ajoutez votre propre vulnérabilité à une analyse de sécurité. Donnez-lui un nom, et décrivez en mots simples ce que le modèle juge vérifie. Vous pouvez aussi ajouter votre propre prompt d'attaque.

Questions fréquentes sur le AI Red Teaming

Attaquez votre propre bot avant votre prochaine version

Demandez une démo et voyez comment attaquer un bot dans des conversations à un tour et multi-tours.