Najděte Prompt Injection útoky, které prolomí vašeho chatbota, ještě před spuštěním
Zaútočte na svého bota 26 metodami útoku, v jednokrokových i vícekrokových konverzacích. Podívejte se, které útoky uspěly, a opravte je dřív, než je najdou útočníci.
26
Metody útoku
5
Předvolby rámců
Útočte na svého bota jedinou zprávou nebo v průběhu celé konverzace
Spouštějte bezpečnostní skeny a běhy Red Team. Jejich vícekrokové útoky se skládají z několika zpráv.
Knihovna adversariálních promptů
Vybírejte z 26 metod útoku: 21 používá jednu zprávu a 5 vede celou konverzaci.
Vícekrokové řetězce útoků
Spouštějte 5 vícekrokových metod, například Crescendo a Linear Jailbreaking, s jednou relací na každý útok.
Adaptivní testování
BenchBot čte odpovědi vašeho bota a přizpůsobuje další útok. Najde tak slabá místa, která pevně dané testy přehlédnou.
Vlastní testy
Přidejte do bezpečnostního skenu vlastní zranitelnost, nebo pošlete konverzace své testovací sady v kampani Red Team.
Validace výstupu
Zjistěte, zda útok přiměl vašeho bota prozradit jeho instrukce nebo osobní údaje.
Otestujte bota před spuštěním a sledujte jeho živé konverzace, na jednom místě
Otestujte bota před každým vydáním. Pak posílejte BenchBotu kopii každého živého kroku konverzace. V Production Monitoru uvidíte útoky i škodlivé odpovědi. V chatu zapněte režim blokování a zastavíte škodlivou odpověď dřív, než ji zákazník uvidí.
Testování před nasazením (BenchBot)
Najděte a opravte slabá místa před spuštěním a ověřte, že vaše guardrails zastaví útoky, které zastavit mají.
Production Monitor (BenchBot)
Posílejte BenchBotu kopii každého živého kroku konverzace. Dostávejte upozornění v aplikaci, e-mailem nebo webhookem. Režim blokování zastaví škodlivou odpověď v chatu. Je vypnutý, dokud ho pro chatbota nezapnete.
Spusťte útoky znovu se zapnutými guardrails a podívejte se, které z nich nezachytí.
Zjistěte, které druhy prompt injection na vašeho bota fungují
Vybírejte z 26 metod útoku, od prostého přepsání instrukcí po kódovaný text a vícekrokové jailbreaky.
Přímá Prompt Injection
Škodlivé instrukce vložené přímo do uživatelského vstupu, které mají přepsat systémové prompty a zmanipulovat chování modelu.
Nepřímá Prompt Injection
Instrukce skryté v dokumentu nebo na webové stránce, které váš bot přečte a pak se jimi řídí.
Jailbreak útoky
Vícekrokové konverzační techniky, které postupně narušují bezpečnostní zábrany — hraní rolí, hypotetické scénáře, triky s kódováním.
Zneužití kontextového okna
Útoky, které zneužívají omezené kontextové okno, aby vytlačily systémové instrukce mimo rozsah nebo vložily konkurenční instrukce.
Kódování a obfuskace
Base64, ROT13, leetspeak nebo jiný jazyk mohou útok skrýt před filtrem obsahu.
Nepravdivá fakta
Váš bot může také sebejistě uvádět nepravdivá fakta. Spusťte test Fact Check a uvidíte, které odpovědi jsou špatně.
Nedovolte, aby jediná zpráva přepsala pravidla vašeho bota
Při prompt injection napíše uživatel zprávu, která přepíše instrukce vašeho bota. Váš bot pak může ignorovat svá pravidla, vyzradit data nebo dělat věci, které nemá.
Toto je jednoduchá prompt injection. Skutečné útoky mohou své instrukce skrýt, například do textu v Base64 nebo do jiného jazyka.
Otestujte svého bota podle OWASP Top 10 pro velké jazykové modely (LLM) jedinou předvolbou.
Často kladené otázky o Prompt Injection
Ověřte, zda prompt injection dokáže prolomit vašeho chatbota
Získejte demo a podívejte se, jak běh Red Team útočí na chatbota, jako je ten váš.