Finden Sie die Prompt Injections, die Ihren Chatbot aushebeln, bevor Sie ihn starten
Greifen Sie Ihren Bot mit 26 Angriffsmethoden an, in Gesprächen mit einem oder mehreren Schritten. Sehen Sie, welche Angriffe funktioniert haben, und beheben Sie die Lücken, bevor Angreifer sie finden.
26
Angriffsmethoden
5
Framework-Presets
Greifen Sie Ihren Bot mit einer Nachricht oder über ein ganzes Gespräch an
Führen Sie Sicherheitsscans und Red-Team-Läufe aus. Ihre Angriffe mit mehreren Schritten bauen sich über mehrere Nachrichten auf.
Adversarial Prompt-Bibliothek
Wählen Sie aus 26 Angriffsmethoden: 21 nutzen eine Nachricht, 5 bauen ein Gespräch auf.
Multi-Turn-Angriffsketten
Führen Sie 5 Methoden mit mehreren Schritten aus, etwa Crescendo und Linear Jailbreaking, mit einer Sitzung pro Angriff.
Adaptive Tests
BenchBot liest die Antworten Ihres Bots und passt den nächsten Angriff an. So findet er Schwachstellen, die feste Tests übersehen.
Eigene Tests
Fügen Sie einem Sicherheitsscan Ihre eigene Schwachstelle hinzu, oder senden Sie die Gespräche Ihres Testsets in einer Red-Team-Kampagne.
Ausgabe-Validierung
Sehen Sie, ob ein Angriff Ihren Bot dazu gebracht hat, seine Anweisungen oder personenbezogene Daten preiszugeben.
Testen Sie Ihren Bot vor dem Start und überwachen Sie seine Live-Gespräche, an einem Ort
Testen Sie Ihren Bot vor jedem Release. Senden Sie BenchBot dann eine Kopie jedes Live-Gesprächsschritts. Im Production Monitor sehen Sie Angriffe und schädliche Antworten. Schalten Sie im Chat den Blockiermodus ein, und stoppen Sie so eine schädliche Antwort, bevor Ihr Kunde sie sieht.
Pre-Deployment-Tests (BenchBot)
Finden und beheben Sie Schwachstellen vor dem Start, und prüfen Sie, ob Ihre Guardrails die Angriffe stoppen, die sie stoppen sollen.
Production Monitor (BenchBot)
Senden Sie BenchBot eine Kopie jedes Live-Gesprächsschritts. Erhalten Sie Warnungen in der App, per E-Mail oder per Webhook. Der Blockiermodus stoppt eine schädliche Antwort im Chat. Er ist aus, bis Sie ihn für einen Chatbot einschalten.
Führen Sie die Angriffe mit eingeschalteten Guardrails erneut aus, und sehen Sie, welche diese nicht erkennen.
Sehen Sie, welche Arten von Prompt Injection bei Ihrem Bot funktionieren
Wählen Sie aus 26 Angriffsmethoden, von einfachen Überschreibungen bis zu kodiertem Text und Jailbreaks über mehrere Schritte.
Direkte Prompt Injection
Bösartige Anweisungen, die direkt in Benutzereingaben eingebettet werden, um System-Prompts zu überschreiben und das Modellverhalten zu manipulieren.
Indirekte Prompt Injection
Anweisungen, versteckt in einem Dokument oder einer Webseite, die Ihr Bot liest und dann befolgt.
Jailbreak-Angriffe
Multi-Turn-Konversationstechniken, die Sicherheitsleitplanken schrittweise aufweichen – Rollenspiele, hypothetische Szenarien, Codierungstricks.
Kontextfenster-Ausnutzung
Angriffe, die das begrenzte Kontextfenster missbrauchen, um Systemanweisungen aus dem Geltungsbereich zu verdrängen oder konkurrierende Anweisungen einzuschleusen.
Codierung & Verschleierung
Base64, ROT13, Leetspeak oder eine andere Sprache können einen Angriff vor einem Inhaltsfilter verbergen.
Falsche Fakten
Ihr Bot kann auch falsche Fakten mit großer Sicherheit nennen. Führen Sie einen Fact-Check-Test aus, um zu sehen, welche Antworten falsch sind.
Verhindern Sie, dass eine einzige Nachricht die Regeln Ihres Bots außer Kraft setzt
Bei einer Prompt Injection schreibt ein Nutzer eine Nachricht, die die Anweisungen Ihres Bots außer Kraft setzt. Ihr Bot kann dann seine Regeln ignorieren, Daten preisgeben oder Dinge tun, die er nicht soll.
Dies ist eine einfache Prompt Injection. Echte Angriffe können ihre Anweisungen verstecken, etwa in Base64-Text oder in einer anderen Sprache.
Testen Sie Ihren Bot mit einem Preset gegen die OWASP Top 10 für große Sprachmodelle (LLMs).
Häufig gestellte Fragen zu Prompt Injection
Prüfen Sie, ob Prompt Injection Ihren Chatbot knacken kann
Fordern Sie eine Demo an und sehen Sie, wie ein Red-Team-Lauf einen Chatbot wie Ihren angreift.