Greifen Sie Ihren Bot so an, wie echte Angreifer es tun, bevor Sie ihn starten
Führen Sie Red-Team-Angriffe in Single-Turn- und Multi-Turn-Gesprächen aus. Wählen Sie aus 26 Angriffsmethoden und 37 Schwachstellenklassen, oder starten Sie einen Sicherheitsscan mit einem Preset.
26
Angriffsmethoden
37
Schwachstellenklassen
5
Framework-Presets
Greifen Sie Ihren eigenen Bot an, um seine Schwachstellen zuerst zu finden
Red Teaming heißt: Sie greifen Ihren eigenen Bot an, so wie ein echter Angreifer es tun würde. Sie finden seine Schwachstellen, bevor ein Kunde sie findet.
Schwachstellen vor dem Start finden
Finden und beheben Sie KI-Schwachstellen vor dem Deployment — nicht erst nach einem Sicherheitsvorfall.
Ihren Prüfern den Test zum EU AI Act zeigen
Starten Sie einen Sicherheitsscan mit dem Preset EU AI Act, und geben Sie Ihren Prüfern den PDF-Bericht.
Live-Gespräche überwachen
Senden Sie nach dem Start eine Kopie jedes Live-Gesprächsschritts an den Production Monitor. Der Blockiermodus ist aus, bis Sie ihn einschalten. Dann stoppt er im Chat eine schädliche Antwort, bevor der Kunde sie sieht.
Testen Sie Ihren Bot gegen diese Arten von Angriffen
Ein Sicherheitsscan kann mit einem von 5 Presets starten, etwa EU AI Act oder MITRE ATLAS.
Prompt Injection
Direkte und indirekte Injection-Angriffe, die versuchen, Systemanweisungen zu überschreiben und das KI-Verhalten zu manipulieren.
Jailbreak-Versuche
Mehrstufige Jailbreak-Techniken, die versuchen, Inhaltsfilter und Sicherheitsmechanismen zu umgehen.
Datenextraktion
Prüfen Sie, ob Ihr Bot personenbezogene Daten oder seine eigenen Anweisungen preisgibt.
Halluzinationsausloser
Adversariale Eingaben, die das Modell dazu bringen, falsche, irreführende oder erfundene Informationen zu generieren.
Voreingenommenheit & Toxizität
Testeingaben, die auf diskriminierende, beleidigende oder schädliche Ausgaben in geschützten Kategorien prüfen.
Rollenmanipulation
Versuche, die KI dazu zu bringen, unautorisierte Rollen, Personas oder Berechtigungsstufen einzunehmen.
Greifen Sie Ihren Bot in vier Schritten an
Verbinden Sie Ihre KI
Verbinden Sie Ihren Bot über einen von 38 Konnektoren, etwa Cognigy, Genesys, Dialogflow CX oder n8n.
Beschreiben Sie Ihren Bot
Schreiben Sie in einfachen Worten, wofür Ihr Bot da ist. BenchBot nutzt diesen Text, um die Angriffe zu schreiben und die Antworten zu bewerten.
Automatisierte Angriffe ausführen
Angriffe mit mehreren Schritten lesen jede Antwort Ihres Bots und wählen daraus die nächste Nachricht.
Ihren Prüfern einen Bericht geben
Jedes Ergebnis zeigt den Angriff, den BenchBot gesendet hat, und die Antwort Ihres Bots. Geben Sie Ihren Prüfern einen PDF-Bericht in Ihrem eigenen Design.
Wiederholen Sie dieselben Angriffe nach jeder Änderung, und überwachen Sie dann Ihre Live-Gespräche
Führen Sie die Angriffstests aus, die Ihr Sicherheitsteam verlangt
OWASP Top 10 für LLMs
Starten Sie einen Sicherheitsscan mit dem Preset OWASP Top 10 für LLMs oder mit einem der 4 anderen Presets.
Mehrstufige Angriffe
Führen Sie 5 mehrstufige Angriffsmethoden aus. Jeder Angriff ist ein eigenes Gespräch, so wie ein echter Angreifer mit Ihrem Bot spricht.
CI/CD-Integration
Starten Sie einen Sicherheitsscan aus Ihrer CI/CD-Pipeline und stoppen Sie das Release, wenn der Scan fehlschlägt.
Benutzerdefinierte Angriffsszenarien
Fügen Sie einem Sicherheitsscan Ihre eigene Schwachstelle hinzu. Geben Sie ihr einen Namen, und beschreiben Sie in einfachen Worten, was das Judge-Modell prüft. Sie können auch Ihren eigenen Angriffs-Prompt hinzufügen.
Häufig gestellte Fragen zum AI Red Teaming
Greifen Sie Ihren eigenen Bot vor Ihrem nächsten Release an
Fordern Sie eine Demo an und sehen Sie, wie Sie einen Bot in Single-Turn- und Multi-Turn-Gesprächen angreifen.