Zaútočte na svého bota tak, jak to dělají skuteční útočníci, ještě před spuštěním
Spouštějte útoky Red Team v jednokrokových i vícekrokových konverzacích. Vyberte z 26 metod útoku a 37 tříd zranitelností, nebo začněte bezpečnostní sken z předvolby.
26
Metody útoku
37
Třídy zranitelností
5
Předvolby rámců
Zaútočte na vlastního bota a najděte jeho slabá místa jako první
Red teaming znamená, že útočíte na vlastního bota tak, jak by to udělal skutečný útočník. Jeho slabá místa najdete dřív než zákazník.
Najděte slabá místa před spuštěním
Najděte a opravte zranitelnosti AI před nasazením, ne až po bezpečnostním incidentu.
Ukažte auditorům test EU AI Act
Začněte bezpečnostní sken z předvolby EU AI Act a auditorům předejte PDF report.
Sledujte živé konverzace
Po spuštění posílejte kopii každého živého kroku konverzace do Production Monitoru. Režim blokování je vypnutý, dokud ho nezapnete. Pak v chatu zastaví škodlivou odpověď dřív, než ji zákazník uvidí.
Otestujte bota proti těmto druhům útoků
Bezpečnostní sken může začít z jedné z 5 předvoleb, například EU AI Act nebo MITRE ATLAS.
Prompt Injection
Přímé a nepřímé injection útoky, které se pokoušejí přepsat systémové instrukce a manipulovat chování AI.
Pokusy o Jailbreak
Vícekrokové jailbreak techniky, které se snaží obejít filtry obsahu a bezpečnostní zábrany.
Extrakce dat
Zjistěte, zda váš bot neprozradí osobní údaje nebo své vlastní instrukce.
Spouštěče halucinací
Adversariální vstupy, které tlačí model ke generování falešných, zavádějících nebo vymyšlených informací.
Zaujatost a toxicita
Testovací vstupy, které zjišťují diskriminační, urážlivé nebo škodlivé výstupy napříč chráněnými kategoriemi.
Manipulace rolí
Pokusy přimět AI k převzetí neautorizovaných rolí, person nebo úrovní oprávnění.
Zaútočte na svého bota ve čtyřech krocích
Připojte svou AI
Připojte svého bota přes jeden z 38 konektorů, například Cognigy, Genesys, Dialogflow CX nebo n8n.
Popište svého bota
Napište jednoduchými slovy, k čemu váš bot slouží. BenchBot podle tohoto textu píše útoky a hodnotí odpovědi.
Spusťte automatizované útoky
Vícekrokové útoky čtou každou odpověď vašeho bota a podle ní volí další zprávu.
Předejte auditorům report
Každý výsledek ukazuje útok, který BenchBot poslal, a odpověď, kterou dal váš bot. Auditorům předáte PDF report ve vlastním designu.
Opakujte stejné útoky po každé změně a pak sledujte své živé konverzace
Spouštějte útočné testy, které po vás chce váš bezpečnostní tým
OWASP Top 10 pro LLMs
Začněte bezpečnostní sken z předvolby OWASP Top 10 pro LLM nebo z jedné ze 4 dalších předvoleb.
Vícekrokové útoky
Spouštějte 5 vícekrokových metod útoku. Každý útok je samostatná konverzace, stejně jako když s vaším botem mluví skutečný útočník.
CI/CD integrace
Spusťte bezpečnostní sken z vaší CI/CD pipeline a zastavte vydání, když sken selže.
Vlastní útočné scénáře
Přidejte do bezpečnostního skenu vlastní zranitelnost. Pojmenujte ji a jednoduchými slovy popište, co hodnoticí model kontroluje. Můžete přidat i vlastní útočný prompt.
Často kladené otázky o AI Red Teamingu
Zaútočte na vlastního bota před dalším vydáním
Získejte demo a uvidíte, jak útočit na bota v jednokrokových i vícekrokových konverzacích.