Chatbotunuzu Bozan Prompt Injection Saldırılarını Yayına Almadan Önce Bulun
Botunuza tek adımlı ve çok adımlı konuşmalarda 26 saldırı yöntemiyle saldırın. Hangi saldırıların işe yaradığını görün ve saldırganlar bulmadan önce düzeltin.
26
Saldırı yöntemi
5
Çerçeve ön ayarı
Botunuza Tek Bir Mesajla ya da Bütün Bir Konuşma Boyunca Saldırın
Güvenlik taramaları ve Red Team çalıştırmaları yapın. Bunların çok adımlı saldırıları birkaç mesaj boyunca gelişir.
Düşmanca Prompt Kütüphanesi
26 saldırı yöntemi arasından seçin: 21'i tek mesaj kullanır, 5'i bir konuşma kurar.
Çok Turlu Saldırı Zincirleri
Crescendo ve Linear Jailbreaking gibi 5 çok adımlı yöntemi, her saldırı için bir oturumla çalıştırın.
Uyarlanabilir Test
BenchBot, botunuzun yanıtlarını okur ve bir sonraki saldırısını uyarlar. Böylece sabit testlerin kaçırdığı zayıf noktaları bulur.
Kendi Testleriniz
Bir güvenlik taramasına kendi güvenlik açığınızı ekleyin ya da test setinizdeki konuşmaları bir Red Team kampanyasında gönderin.
Çıktı Doğrulama
Bir saldırının botunuza talimatlarını veya kişisel verileri açıklatıp açıklatmadığını görün.
Botunuzu Yayından Önce Test Edin ve Canlı Konuşmalarını Tek Yerden İzleyin
Botunuzu her sürümden önce test edin. Ardından BenchBot'a her canlı konuşma adımının bir kopyasını gönderin. Production Monitor'de saldırıları ve zararlı yanıtları görürsünüz. Sohbette engelleme modunu açın; zararlı bir yanıtı müşteriniz görmeden durdurursunuz.
Dağıtım Öncesi Test (BenchBot)
Yayından önce zayıf noktaları bulup düzeltin ve koruma mekanizmalarınızın durdurması gereken saldırıları durdurduğunu kontrol edin.
Production Monitor (BenchBot)
BenchBot'a her canlı konuşma adımının bir kopyasını gönderin. Uygulamada, e-postayla veya webhook ile uyarı alın. Engelleme modu sohbetteki zararlı bir yanıtı durdurur. Siz bir chatbot için açana kadar kapalıdır.
Saldırıları koruma mekanizmalarınız açıkken yeniden çalıştırın ve hangilerini kaçırdıklarını görün.
Hangi Prompt Injection Türlerinin Botunuzda İşe Yaradığını Görün
Basit talimat geçersiz kılmalardan kodlanmış metne ve çok adımlı jailbreak saldırılarına kadar 26 saldırı yöntemi arasından seçin.
Doğrudan Prompt Injection
Sistem promptlarını geçersiz kılmak ve model davranışını manipüle etmek için doğrudan kullanıcı girdisine gömülmüş kötü amaçlı talimatlar.
Dolaylı Prompt Injection
Botunuzun okuyup ardından uyguladığı, bir belgeye veya web sayfasına gizlenmiş talimatlar.
Jailbreak Saldırıları
Güvenlik önlemlerini kademeli olarak aşındıran çok turlu konuşma teknikleri — rol yapma, varsayımsal senaryolar, kodlama hileleri.
Bağlam Penceresi İstismarı
Sistem talimatlarını kapsam dışına itmek veya rakip talimatlar enjekte etmek için sınırlı bağlam penceresini kötüye kullanan saldırılar.
Kodlama ve Gizleme
Base64, ROT13, leetspeak veya başka bir dil, bir saldırıyı içerik filtresinden gizleyebilir.
Yanlış Olgular
Botunuz yanlış olguları da kendinden emin bir şekilde söyleyebilir. Hangi yanıtların yanlış olduğunu görmek için bir Fact Check testi çalıştırın.
Tek Bir Mesajın Botunuzun Kurallarını Geçersiz Kılmasını Önleyin
Prompt injection saldırısında bir kullanıcı, botunuzun talimatlarını geçersiz kılan bir mesaj yazar. Botunuz bu durumda kurallarını yok sayabilir, veri sızdırabilir veya yapmaması gereken şeyler yapabilir.
Bu basit bir prompt injection örneğidir. Gerçek saldırılar talimatlarını gizleyebilir, örneğin Base64 metninde ya da başka bir dilde.
Botunuzu tek bir ön ayarla büyük dil modelleri (LLM) için OWASP Top 10'a karşı test edin.
Prompt Injection Hakkında Sıkça Sorulan Sorular
Prompt Injection'ın Chatbot'unuzu Kırıp Kıramayacağını Kontrol Edin
Demo alın ve bir Red Team çalıştırmasının sizinkine benzer bir chatbota nasıl saldırdığını görün.