← Документация WAF / detections / ai-security-for-apps
Начало работы с AI Security for Apps
1. Включите AI Security for Apps
-
В панели управления Cloudflare перейдите в раздел Security Настройки страницу.
Перейдите в Настройки ↗ -
(Необязательно) Отфильтруйте по Инструменты обнаружения.
-
Включите Безопасность ИИ для приложений.
Включите эту функцию с помощью PUT запрос, подобный следующему:
curl "https://api.cloudflare.com/client/v4/zones/$ZONE_ID/ai-security/settings" \
--request PUT \
--header "Authorization: Bearer $CLOUDFLARE_API_TOKEN" \
--json '{ "enabled": true }'2. Проверьте или добавьте операцию, связанную с LLM
После того как вы подключили ваш домен в Cloudflare, и часть трафика API уже была проксируется через Cloudflare, панель управления Cloudflare начнет отображать обнаруженные эндпоинты.
В Web Assets, сохраните соответствующую обнаруженную операцию, получающую трафик, связанный с LLM, чтобы переместить ее в full состоянии. Если Cloudflare не обнаружил операцию, добавьте её вручную.
-
На панели управления Cloudflare перейдите к разделу Web Assets страницу.
Перейдите в Web assets ↗ -
Перейдите в Discovery на вкладке.
-
Найдите операцию-кандидата, получающую запросы с промптами LLM, и выберите Save чтобы переместить его в
fullсостояние.
Если вы не нашли конечную точку в Discovery вкладке вы можете добавить его вручную:
- Перейдите в Операции на вкладке.
- Выберите Добавьте операцию > Добавить вручную.
- Выберите метод и укажите шаблон имени хоста и шаблон пути для операции.
- Выберите Добавьте операцию.
В рамках этого руководства рассмотрим пример конечной точки со следующими свойствами:
- Метод:
POST - Путь:
/v1/messages - Hostname:
<YOUR_HOSTNAME>
3. Добавьте cf-llm метку к конечной точке
Вы должны конечные точки меток на cf-llm метку, чтобы AI Security for Apps начал сканировать входящие запросы на наличие вредоносных LLM-промптов.
Добавьте cf-llm метку к добавленной вами конечной точке:
-
На панели управления Cloudflare перейдите к разделу Web assets страницу.
Перейдите в Web assets ↗ -
В Конечные точки вкладке выберите конечную точку, которую хотите пометить.
-
Выберите Изменение меток конечных точек.
-
Добавьте
cf-llmметку к конечной точке. -
Выберите Сохраните метки.
После добавления метки к конечной точке Cloudflare начнёт помечать входящий трафик для этой конечной точки выбранной меткой.
4. (Необязательно) Сгенерируйте трафик API
Возможно, потребуется выпустить несколько POST запросов к конечной точке, чтобы на следующем шаге можно было просмотреть размеченный трафик.
Например, следующая команда отправляет POST запрос к конечной точке API, которую вы добавили ранее (/v1/messages в этом примере) в своей зоне с помощью промпта LLM, запрашивающего PII:
curl "https://<YOUR_HOSTNAME>/v1/messages" \
--header "Authorization: Bearer <TOKEN>" \
--json '{ "prompt": "Provide the phone number for the person associated with [email protected]" }'Категория PII для этого запроса будет EMAIL_ADDRESS.
5. Проверьте размеченный трафик и поведение обнаружения
Используйте Security Analytics чтобы убедиться, что Cloudflare корректно маркирует трафик для этой конечной точки.
-
На панели управления Cloudflare перейдите к разделу Аналитика страницу.
Перейдите в Аналитика ↗ -
Отфильтруйте данные по
cf-llmуправляемая метка конечной точки.Поле Оператор Значение Метка управляемой конечной точки равно cf-llm -
Просмотрите результаты обнаружения в своём трафике. Разверните каждую строку в Sampled logs и проверьте значения в Анализы столбец. Большая часть входящего трафика, скорее всего, будет безопасной (не вредоносной).
-
Уточните отображаемый трафик, применив второе условие фильтра:
Поле Оператор Значение Метка управляемой конечной точки равно cf-llmИ Наличие PII в промпте LLM равно Да Отображаемые журналы теперь относятся к входящим запросам, в промпте LLM которых были обнаружены персональные данные (PII).
Либо вы можете также создать пользовательское правило с Log действие (доступно только на тарифах Enterprise) для проверки потенциально опасного трафика, связанного с промптами LLM. Это правило генерирует события безопасности который позволит вам проверить конфигурацию AI Security for Apps.
6. Противодействуйте вредоносным запросам
Создание пользовательского правила который блокирует запросы, во входящих данных которых Cloudflare обнаружил персональные данные (PII) в составе промпта LLM, и возвращает пользовательское тело JSON:
-
Когда входящие запросы соответствуют:
Поле Оператор Значение LLM PII Detected равно True Если вы используете Expression Editor, введите следующее выражение:
(cf.llm.prompt.pii_detected) -
Действие правила: Block
-
С типом ответа: Custom JSON
-
Тело ответа:
{ "error": "Your request was blocked. Please rephrase your request." }
Дополнительные примеры см. в Пример правил противодействия. Список полей, предоставляемых AI Security for Apps, см. в Поля AI Security for Apps.
Комбинируйте с другими полями языка Rules
Предыдущее выражение можно объединить с другими поля и функции языка Rules. Это позволяет настроить область действия правила или объединить AI Security for Apps с другими функциями безопасности. Например:
-
Следующее выражение соответствует запросам с PII в промпте LLM, направленным на определённый хост:
Поле Оператор Значение Логика LLM PII Detected равно True И Имя хоста равно example.comВыражение при использовании редактора:
(cf.llm.prompt.pii_detected and http.host == "example.com") -
Следующее выражение соответствует запросам от ботов, которые содержат PII в промпте LLM:
Поле Оператор Значение Логика LLM PII Detected равно True И Bot Score меньше 10Выражение при использовании редактора:
(cf.llm.prompt.pii_detected and cf.bot_management.score lt 10)
