AI Red Teaming

Botunuza Yayından Önce Gerçek Saldırganlar Gibi Saldırın

Tek turlu ve çok turlu konuşmalarda Red Team saldırıları çalıştırın. 26 saldırı yöntemi ve 37 güvenlik açığı sınıfı arasından seçin ya da bir güvenlik taramasını bir ön ayarla başlatın.

26

Saldırı yöntemi

37

Güvenlik açığı sınıfı

5

Çerçeve ön ayarı

Zayıf Noktalarını İlk Siz Bulmak İçin Kendi Botunuza Saldırın

Red teaming, kendi botunuza gerçek bir saldırganın yapacağı gibi saldırmanız demektir. Zayıf noktalarını bir müşteriden önce bulursunuz.

Zayıf Noktaları Yayından Önce Bulun

AI güvenlik açıklarını dağıtımdan önce bulun ve düzeltin, bir ihlalden sonra değil.

Denetçilerinize EU AI Act Testini Gösterin

Bir güvenlik taramasını EU AI Act ön ayarıyla başlatın ve denetçilerinize PDF raporu verin.

Canlı Konuşmaları İzleyin

Yayından sonra her canlı konuşma adımının bir kopyasını Production Monitor'e gönderin. Engelleme modu siz açana kadar kapalıdır. Açtığınızda sohbette zararlı bir yanıtı müşteri görmeden durdurur.

Botunuzu Bu Saldırı Türlerine Karşı Test Edin

Bir güvenlik taraması, EU AI Act veya MITRE ATLAS gibi 5 ön ayardan biriyle başlayabilir.

Prompt Injection

Sistem talimatlarını geçersiz kılmaya ve AI davranışını manipüle etmeye çalışan doğrudan ve dolaylı injection saldırıları.

Jailbreak Girişimleri

İçerik filtrelerini ve güvenlik korumalarını atlamaya çalışan çok adımlı Jailbreak teknikleri.

Veri Çıkarma

Botunuzun kişisel verileri ya da kendi talimatlarını açığa çıkarıp çıkarmadığını görün.

Halüsinasyon Tetikleyicileri

Modeli yanlış, yanıltıcı veya uydurma bilgiler üretmeye zorlayan düşmanca girdiler.

Önyargı ve Toksisite

Korunan kategorilerde ayrımcı, saldırgan veya zararlı çıktıları araştıran test girdileri.

Rol Manipülasyonu

AI'yı yetkisiz roller, kişilikler veya ayrıcalık seviyeleri üstlenmeye zorlamaya yönelik girişimler.

Botunuza Dört Adımda Saldırın

01

AI'nızı Bağlayın

Botunuzu Cognigy, Genesys, Dialogflow CX veya n8n gibi 38 bağlayıcıdan biriyle bağlayın.

02

Botunuzu Tanımlayın

Botunuzun ne işe yaradığını sade sözcüklerle yazın. BenchBot bu metni saldırıları yazmak ve yanıtları değerlendirmek için kullanır.

03

Otomatik Saldırıları Çalıştırın

Çok adımlı saldırılar botunuzun her yanıtını okur ve sonraki mesajı ona göre seçer.

04

Denetçilerinize Bir Rapor Verin

Her sonuç, BenchBot'un gönderdiği saldırıyı ve botunuzun verdiği yanıtı gösterir. Denetçilerinize kendi tasarımınızda bir PDF rapor verin.

Her Değişiklikten Sonra Aynı Saldırıları Tekrarlayın, Ardından Canlı Konuşmalarınızı İzleyin

Özellik
Manuel Red Teaming
BenchBot
Maliyet
Her çalışma için ayrı fiyat
Ayda $199'dan başlar
Kapsam
Test uzmanına bağlı
26 saldırı yöntemi, 37 güvenlik açığı sınıfı
Ölçeklenebilirlik
Bir seferde bir uygulama
Plana göre 5, 10 veya sınırsız sohbet botu

Güvenlik Ekibinizin İstediği Saldırı Testlerini Çalıştırın

LLM'ler İçin OWASP Top 10

Bir güvenlik taramasını OWASP Top 10 for LLMs ön ayarıyla veya diğer 4 ön ayardan biriyle başlatın.

Çok Turlu Saldırılar

5 çok turlu saldırı yöntemi çalıştırın. Her saldırı, gerçek bir saldırganın botunuzla konuştuğu gibi ayrı bir konuşmadır.

CI/CD Entegrasyonu

CI/CD hattınızdan bir güvenlik taraması başlatın ve tarama başarısız olduğunda sürümü durdurun.

Özel Saldırı Senaryoları

Bir güvenlik taramasına kendi güvenlik açığınızı ekleyin. Ona bir ad verin ve değerlendirme modelinin neyi kontrol ettiğini sade sözcüklerle anlatın. Kendi saldırı prompt'unuzu da ekleyebilirsiniz.

AI Red Teaming Hakkında Sıkça Sorulan Sorular

Bir Sonraki Sürümünüzden Önce Kendi Botunuza Saldırın

Demo alın ve bir bota tek turlu ve çok turlu konuşmalarda nasıl saldıracağınızı görün.