Botunuza Yayından Önce Gerçek Saldırganlar Gibi Saldırın
Tek turlu ve çok turlu konuşmalarda Red Team saldırıları çalıştırın. 26 saldırı yöntemi ve 37 güvenlik açığı sınıfı arasından seçin ya da bir güvenlik taramasını bir ön ayarla başlatın.
26
Saldırı yöntemi
37
Güvenlik açığı sınıfı
5
Çerçeve ön ayarı
Zayıf Noktalarını İlk Siz Bulmak İçin Kendi Botunuza Saldırın
Red teaming, kendi botunuza gerçek bir saldırganın yapacağı gibi saldırmanız demektir. Zayıf noktalarını bir müşteriden önce bulursunuz.
Zayıf Noktaları Yayından Önce Bulun
AI güvenlik açıklarını dağıtımdan önce bulun ve düzeltin, bir ihlalden sonra değil.
Denetçilerinize EU AI Act Testini Gösterin
Bir güvenlik taramasını EU AI Act ön ayarıyla başlatın ve denetçilerinize PDF raporu verin.
Canlı Konuşmaları İzleyin
Yayından sonra her canlı konuşma adımının bir kopyasını Production Monitor'e gönderin. Engelleme modu siz açana kadar kapalıdır. Açtığınızda sohbette zararlı bir yanıtı müşteri görmeden durdurur.
Botunuzu Bu Saldırı Türlerine Karşı Test Edin
Bir güvenlik taraması, EU AI Act veya MITRE ATLAS gibi 5 ön ayardan biriyle başlayabilir.
Prompt Injection
Sistem talimatlarını geçersiz kılmaya ve AI davranışını manipüle etmeye çalışan doğrudan ve dolaylı injection saldırıları.
Jailbreak Girişimleri
İçerik filtrelerini ve güvenlik korumalarını atlamaya çalışan çok adımlı Jailbreak teknikleri.
Veri Çıkarma
Botunuzun kişisel verileri ya da kendi talimatlarını açığa çıkarıp çıkarmadığını görün.
Halüsinasyon Tetikleyicileri
Modeli yanlış, yanıltıcı veya uydurma bilgiler üretmeye zorlayan düşmanca girdiler.
Önyargı ve Toksisite
Korunan kategorilerde ayrımcı, saldırgan veya zararlı çıktıları araştıran test girdileri.
Rol Manipülasyonu
AI'yı yetkisiz roller, kişilikler veya ayrıcalık seviyeleri üstlenmeye zorlamaya yönelik girişimler.
Botunuza Dört Adımda Saldırın
AI'nızı Bağlayın
Botunuzu Cognigy, Genesys, Dialogflow CX veya n8n gibi 38 bağlayıcıdan biriyle bağlayın.
Botunuzu Tanımlayın
Botunuzun ne işe yaradığını sade sözcüklerle yazın. BenchBot bu metni saldırıları yazmak ve yanıtları değerlendirmek için kullanır.
Otomatik Saldırıları Çalıştırın
Çok adımlı saldırılar botunuzun her yanıtını okur ve sonraki mesajı ona göre seçer.
Denetçilerinize Bir Rapor Verin
Her sonuç, BenchBot'un gönderdiği saldırıyı ve botunuzun verdiği yanıtı gösterir. Denetçilerinize kendi tasarımınızda bir PDF rapor verin.
Her Değişiklikten Sonra Aynı Saldırıları Tekrarlayın, Ardından Canlı Konuşmalarınızı İzleyin
Güvenlik Ekibinizin İstediği Saldırı Testlerini Çalıştırın
LLM'ler İçin OWASP Top 10
Bir güvenlik taramasını OWASP Top 10 for LLMs ön ayarıyla veya diğer 4 ön ayardan biriyle başlatın.
Çok Turlu Saldırılar
5 çok turlu saldırı yöntemi çalıştırın. Her saldırı, gerçek bir saldırganın botunuzla konuştuğu gibi ayrı bir konuşmadır.
CI/CD Entegrasyonu
CI/CD hattınızdan bir güvenlik taraması başlatın ve tarama başarısız olduğunda sürümü durdurun.
Özel Saldırı Senaryoları
Bir güvenlik taramasına kendi güvenlik açığınızı ekleyin. Ona bir ad verin ve değerlendirme modelinin neyi kontrol ettiğini sade sözcüklerle anlatın. Kendi saldırı prompt'unuzu da ekleyebilirsiniz.
AI Red Teaming Hakkında Sıkça Sorulan Sorular
Bir Sonraki Sürümünüzden Önce Kendi Botunuza Saldırın
Demo alın ve bir bota tek turlu ve çok turlu konuşmalarda nasıl saldıracağınızı görün.