← Dokumentace WAF / detections
AI Security for Apps
Aplikace, které používají velké jazykové modely (LLM) jsou vystaveny hrozbám specifickým pro způsob, jakým LLM zpracovávají vstup: útokům typu prompt injection, expozici PII v promptech a promptům na nebezpečná témata.
AI Security for Apps (dříve Firewall for AI) doplňuje vaše stávající pravidla WAF o detekce navržené přímo pro tyto hrozby specifické pro LLM. Funguje nezávisle na modelu: detekce fungují bez ohledu na to, jaký LLM používáte.
- Detekce PII, Detekuje osobní identifikační údaje (PII) ve vstupních promptech, jako jsou telefonní čísla, e-mailové adresy, čísla sociálního zabezpečení a čísla kreditních karet.
- Detekce nebezpečných a vlastních témat, Detekuje prompty týkající se nebezpečných témat, jako jsou násilné trestné činy nebo nenávistné projevy, nebo vlastní témata specifická pro vaši organizaci.
- Detekce prompt injection, Detekuje prompty navržené tak, aby obešly zamýšlené chování vašeho LLM, například pokusy přimět model ignorovat své instrukce nebo odhalit svůj systémový prompt.
Když je AI Security for Apps povolena, prohledává příchozí požadavky na koncové body označené cf-llm pro prompty LLM, které mohou obsahovat hrozby. Detekce v současné době zpracovává pouze požadavky s typem obsahu JSON (application/json).
Na základě výsledků skenování Cloudflare naplní Detekční pole AI, pole, která můžete použít ve výrazech pravidel WAF. Tato pole můžete použít dvěma způsoby:
- Sledujte: Filtrujte podle
cf-llmštítek v Security Analytics, abyste zkontrolovali výsledky detekce v rámci celého provozu. - Zmírněte: Použijte pole v vlastní pravidla nebo pravidla rate limitingu k blokování nebo vyzývání k ověření požadavků na základě výsledků detekce.
Dostupnost
Možnosti AI Security for Apps se liší podle plánu Cloudflare:
| Možnost | Free | Pro | Business | Enterprise |
|---|---|---|---|---|
| LLM endpoint discovery, Automaticky identifikuje koncové body využívající AI napříč vašimi webovými vlastnostmi | Ano | Ano | Ano | Ano |
| AI Security Log Mode Ruleset, Předpřipravená sada pravidel, která spolu s výsledky detekce zaznamenává celé tělo požadavku | Ne | Ne | Ne | Placený doplněk |
| Detekční pole AI, Detekce PII, hodnocení prompt injection, detekce nebezpečných témat, vlastní témata | Ne | Ne | Ne | Placený doplněk |
Chcete-li získat přístup k AI Security Log Mode Ruleset a povolte Detekční pole AI, obraťte se na tým spravující váš účet.
AI Security for Apps je součástí Cloudflare Web Application Firewall (WAF), WAF musí být ve vaší zóně povoleno, než se detekční pole naplní daty a bude možné je použít ve výrazech pravidel.
Další zdroje
- AI Gateway, Sledujte, řiďte a ukládejte do mezipaměti požadavky vůči poskytovatelům LLM.
- Jaká jsou rizika OWASP Top 10 pro LLM? ↗, Přehled nejběžnějších bezpečnostních rizik pro aplikace využívající LLM.
