← Dokumentace WAF / detections / ai-security-for-apps

Začínáme s AI Security for Apps

1. Zapněte AI Security for Apps

V dashboardu Cloudflare přejděte na Security Nastavení stránce.
Přejděte na Nastavení ↗
(Volitelné) Filtrujte podle Nástroje pro detekci.
Zapněte AI Security for Apps.

Zapněte tuto funkci pomocí PUT požadavek podobný tomuto:

curl "https://api.cloudflare.com/client/v4/zones/$ZONE_ID/ai-security/settings" \
--request PUT \
--header "Authorization: Bearer $CLOUDFLARE_API_TOKEN" \
--json '{ "enabled": true }'

Jakmile máte přidali svou doménu do Cloudflare Cloudflare a některý provoz API již byl proxováno přes Cloudflare, dashboard Cloudflare začne zobrazovat zjištěné koncové body.

V Webová aktiva, uložte příslušnou zjištěnou operaci přijímající provoz související s LLM, abyste ji přesunuli do full stavu. Pokud Cloudflare operaci nezjistil, přidejte ji ručně.

V dashboardu Cloudflare přejděte na Webová aktiva stránce.
Přejděte na Webová aktiva ↗
Přejděte na Discovery kartě.
Najděte kandidátní operaci, která přijímá požadavky s LLM prompty, a vyberte Save, abyste ji přesunuli do full stav.

Pokud jste endpoint nenašli v Discovery kartě jej můžete přidat ručně:

Přejděte na Operace kartě.
Vyberte Přidat operaci > Přidat ručně.
Zvolte metodu a přidejte vzor hostitelského názvu a vzor cesty pro danou operaci.
Vyberte Přidat operaci.

V kontextu této příručky uvažujme ukázkový koncový bod s následujícími vlastnostmi:

Metoda: POST
Cesta: /v1/messages
Hostname: <YOUR_HOSTNAME>

3. Přidejte `cf-llm` štítek k endpointu

Musíte koncové body pro štítky hodnotou cf-llm štítek, aby AI Security for Apps začala skenovat příchozí požadavky na škodlivé LLM prompty.

Přidejte cf-llm štítek k endpointu, který jste přidali:

V dashboardu Cloudflare přejděte na Webová aktiva stránce.
Přejděte na Webová aktiva ↗
V Endpointy kartě vyberte endpoint, který chcete označit.
Vyberte Upravit popisky koncových bodů.
Přidejte cf-llm štítek k endpointu.
Vyberte Uložit labely.

Jakmile k endpointu přidáte štítek, Cloudflare začne příchozí provoz pro tento endpoint označovat vybraným štítkem.

4. (Volitelné) Vygenerujte provoz API

Možná budete muset vystavit několik POST požadavků na koncový bod, aby byl v následujícím kroku k dispozici nějaký označený provoz ke kontrole.

Následující příkaz například odešle POST požadavek na koncový bod API, který jste dříve přidali (/v1/messages v tomto příkladu) ve vaší zóně pomocí promptu LLM, který vyžaduje PII:

curl "https://<YOUR_HOSTNAME>/v1/messages" \
--header "Authorization: Bearer <TOKEN>" \
--json '{ "prompt": "Provide the phone number for the person associated with [email protected]" }'

Kategorie PII pro tento požadavek by byla EMAIL_ADDRESS.

5. Zkontrolujte označený provoz a chování detekce

Použijte Security Analytics, abyste ověřili, že Cloudflare správně označuje provoz daného endpointu.

V dashboardu Cloudflare přejděte na Analytics stránce.
Přejděte na Analytics ↗
Filtrujte data podle cf-llm spravovaný štítek endpointu.

Pole Operátor Hodnota

Štítek spravovaného endpointu equals cf-llm
Zkontrolujte výsledky detekce ve svém provozu. Rozbalte každý řádek v Sampled logs a zkontrolujte hodnoty v Analýzy sloupec. Většina příchozího provozu bude pravděpodobně čistá (neškodná).
Zobrazený provoz upřesněte použitím druhé podmínky filtru:

Pole Operátor Hodnota

Štítek spravovaného endpointu equals cf-llm And

Obsahuje PII v promptu LLM equals Ano

Zobrazené protokoly se nyní vztahují na příchozí požadavky, u kterých byly v promptu LLM zjištěny osobní údaje (PII).

Pole	Operátor	Hodnota
Štítek spravovaného endpointu	equals	`cf-llm`

Pole	Operátor	Hodnota
Štítek spravovaného endpointu	equals	`cf-llm`	And
Obsahuje PII v promptu LLM	equals	Ano

Alternativně můžete také vytvořit vlastní pravidlo s Log akce (dostupná pouze v plánech Enterprise) pro kontrolu potenciálně škodlivého provozu souvisejícího s LLM prompty. Toto pravidlo vygeneruje bezpečnostní události který vám umožní ověřit konfiguraci AI Security for Apps.

6. Zmírněte škodlivé požadavky

Vytvoření vlastního pravidla které blokuje požadavky, u nichž Cloudflare zjistil osobní údaje (PII) ve vstupním požadavku (jako součást promptu LLM), a vrací vlastní tělo JSON:

Když příchozí požadavky odpovídají:

Pole Operátor Hodnota

LLM PII Detected equals True

Pokud používáte editor výrazů, zadejte následující výraz:
(cf.llm.prompt.pii_detected)
Akce pravidla: Block
S typem odpovědi: Custom JSON
Tělo odpovědi: { "error": "Your request was blocked. Please rephrase your request." }

Pole	Operátor	Hodnota
LLM PII Detected	equals	True

Další příklady najdete v Příklad pravidel zmírnění. Seznam polí poskytovaných funkcí AI Security for Apps najdete v Pole AI Security for Apps.

Kombinujte s dalšími poli jazyka Rules

Předchozí výraz můžete zkombinovat s dalšími pole a funkce jazyka Rules. Díky tomu můžete přizpůsobit rozsah pravidla nebo zkombinovat AI Security for Apps s dalšími bezpečnostními funkcemi. Například:

Následující výraz odpovídá požadavkům s osobními údaji (PII) v promptu LLM směřujícím na konkrétního hostitele:

Pole Operátor Hodnota Logika

LLM PII Detected equals True And

Hostname equals example.com

Výraz při použití editoru:
(cf.llm.prompt.pii_detected and http.host == "example.com")
Následující výraz odpovídá požadavkům od botů, které obsahují osobní údaje (PII) v promptu LLM:

Pole Operátor Hodnota Logika

LLM PII Detected equals True And

Bot Score menší než 10

Výraz při použití editoru:
(cf.llm.prompt.pii_detected and cf.bot_management.score lt 10)

Začínáme s AI Security for Apps

1. Zapněte AI Security for Apps

2. Zkontrolujte nebo přidejte operaci související s LLM

3. Přidejte cf-llm štítek k endpointu

4. (Volitelné) Vygenerujte provoz API

5. Zkontrolujte označený provoz a chování detekce

6. Zmírněte škodlivé požadavky

3. Přidejte `cf-llm` štítek k endpointu