Napadnite svog bota kao što to rade pravi napadači, prije nego ga pokrenete
Pokrećite Red Team napade u jednoturnim i višeturnim razgovorima. Birajte između 26 metoda napada i 37 klasa ranjivosti ili pokrenite sigurnosno skeniranje od predloška.
26
Metode napada
37
Klase ranjivosti
5
Predlošci okvira
Napadnite vlastitog bota da prvi pronađete njegove slabe tačke
Red teaming znači da napadate vlastitog bota, kao što bi to uradio pravi napadač. Njegove slabe tačke pronalazite prije kupca.
Pronađite slabe tačke prije pokretanja
Pronađite i popravite ranjivosti AI prije implementacije, a ne nakon proboja.
Pokažite revizorima EU AI Act test
Pokrenite sigurnosno skeniranje od predloška EU AI Act i dajte revizorima PDF izvještaj.
Pratite razgovore uživo
Nakon pokretanja šaljite kopiju svakog koraka razgovora uživo u Production Monitor. Način blokiranja je isključen dok ga ne uključite. Tada u chatu zaustavlja štetan odgovor prije nego što ga kupac vidi.
Testirajte bota protiv ovih vrsta napada
Sigurnosno skeniranje može početi od jednog od 5 predložaka, kao što su EU AI Act ili MITRE ATLAS.
Prompt Injection
Direktni i indirektni injection napadi koji pokušavaju zaobići sistemske instrukcije i manipulirati ponašanjem AI.
Pokušaji jailbreaka
Višestepene jailbreak tehnike koje pokušavaju zaobići filtere sadržaja i sigurnosne zaštite.
Ekstrakcija podataka
Provjerite otkriva li vaš bot lične podatke ili vlastite upute.
Okidači halucinacija
Neprijateljski ulazi koji prisiljavaju model da generira lažne, obmanjujuće ili izmišljene informacije.
Pristranost i toksičnost
Testni ulazi koji ispituju diskriminirajuće, uvredljive ili štetne izlaze u zaštićenim kategorijama.
Manipulacija ulogama
Pokušaji da se AI prisili na preuzimanje neovlaštenih uloga, persona ili nivoa privilegija.
Napadnite svog bota u četiri koraka
Povežite svoj AI
Povežite svog bota preko jednog od 38 konektora, kao što su Cognigy, Genesys, Dialogflow CX ili n8n.
Opišite svog bota
Jednostavnim riječima napišite čemu vaš bot služi. BenchBot koristi ovaj tekst da napiše napade i ocijeni odgovore.
Pokrenite automatizirane napade
Napadi od više koraka čitaju svaki odgovor vašeg bota i na osnovu njega biraju sljedeću poruku.
Dajte revizorima izvještaj
Svaki rezultat prikazuje napad koji je BenchBot poslao i odgovor koji je dao vaš bot. Dajte revizorima PDF izvještaj u vlastitom dizajnu.
Ponovite iste napade nakon svake promjene, a zatim pratite svoje razgovore uživo
Pokrećite testove napada koje traži vaš sigurnosni tim
OWASP Top 10 za LLM
Pokrenite sigurnosno skeniranje od predloška OWASP Top 10 za LLM ili od jednog od 4 druga predloška.
Višeturni napadi
Pokrenite 5 višeturnih metoda napada. Svaki napad je zaseban razgovor, onako kako pravi napadač razgovara s vašim botom.
CI/CD integracija
Pokrenite sigurnosno skeniranje iz vašeg CI/CD pipelinea i zaustavite izdanje kada skeniranje ne prođe.
Prilagođeni scenariji napada
Dodajte vlastitu ranjivost u sigurnosno skeniranje. Dajte joj ime i jednostavnim riječima opišite šta model za ocjenjivanje provjerava. Možete dodati i vlastiti prompt napada.
Često postavljana pitanja o AI Red Teaming-u
Napadnite vlastitog bota prije sljedećeg izdanja
Zatražite demo i pogledajte kako napasti bota u jednoturnim i višeturnim razgovorima.