← Документация WAF / detections
Безопасность ИИ для приложений
Приложения, которые используют большие языковые модели (LLMs) подвержены угрозам, характерным для того, как LLM обрабатывают входные данные: атакам с внедрением промптов (prompt injection), раскрытию персональных данных (PII) в промптах и промптам на небезопасные темы.
AI Security for Apps (ранее Firewall for AI) дополняет ваши существующие правила WAF механизмами обнаружения, нацеленными именно на такие угрозы, специфичные для LLM. Функция не привязана к конкретной модели: обнаружение работает независимо от того, какую LLM вы используете.
- Обнаружение PII, Обнаруживайте персональные данные (PII) во входящих промптах, такие как номера телефонов, адреса электронной почты, номера социального страхования и номера банковских карт.
- Обнаружение небезопасных и пользовательских тем, Обнаруживайте промпты, связанные с небезопасными темами, такими как насильственные преступления или язык вражды, а также пользовательские темы, специфичные для вашей организации.
- Обнаружение prompt injection, Обнаруживайте промпты, предназначенные для обхода заданного разработчиком поведения вашей LLM, например попытки заставить модель игнорировать её инструкции или раскрыть её системный промпт.
Когда AI Security for Apps включена, она сканирует входящие запросы к эндпоинты с меткой cf-llm для запросов (prompts) к LLM, которые могут содержать угрозы. В настоящее время обнаружение обрабатывает только запросы с типом содержимого JSON (application/json).
На основе результатов сканирования Cloudflare заполняет Поля обнаружения AI, поля, которые можно использовать в выражениях правил WAF. Использовать эти поля можно двумя способами:
- Отслеживайте: Отфильтруйте по
cf-llmметка в Security Analytics чтобы просмотреть результаты обнаружения по всему вашему трафику. - Противодействуйте: Используйте поля в пользовательские правила или правила ограничения частоты запросов чтобы блокировать запросы или запрашивать их проверку на основании результатов обнаружения.
Доступность
Возможности AI Security for Apps зависят от тарифного плана Cloudflare:
| Возможность | Free | Pro | Business | Enterprise |
|---|---|---|---|---|
| LLM endpoint discovery, Автоматически выявляйте конечные точки на основе AI на всех ваших веб-ресурсах | Да | Да | Да | Да |
| AI Security Log Mode Ruleset, готовый набор правил, который логирует полное тело запроса вместе с результатами обнаружения | Нет | Нет | Нет | Платное дополнение |
| Поля обнаружения AI, обнаружение PII, оценка внедрения промптов, обнаружение небезопасных тем, пользовательские темы | Нет | Нет | Нет | Платное дополнение |
Чтобы получить доступ к AI Security Log Mode Ruleset и включите Поля обнаружения AI, свяжитесь со своей командой по работе с аккаунтом.
AI Security for Apps встроен в Cloudflare Web Application Firewall (WAF), WAF должен быть включён в вашей зоне, прежде чем поля обнаружения смогут заполняться и использоваться в выражениях правил.
Дополнительные ресурсы
- AI Gateway, Отслеживайте, контролируйте и кэшируйте запросы к провайдерам LLM.
- Какие риски OWASP Top 10 актуальны для LLM? ↗, Общие сведения о наиболее распространённых рисках безопасности для приложений на основе LLM.
