← Cloudflare AI Gateway / ai-gateway / integrations
Агенты для написания кода
Агенты для написания кода отправляют запросы к модели поставщику от вашего имени. Направив агента на AI Gateway вместо поставщика, вы получаете возможность наблюдать за этим трафиком и контролировать его, не меняя привычный рабочий процесс.
Зачем направлять агента для написания кода через AI Gateway
Маршрутизация агента для написания кода через AI Gateway даёт вам следующие возможности:
- Observability, просматривайте каждый запрос, количество токенов и задержку на панели управления.
- Кеширование, возвращают кэшированные ответы для повторяющихся запросов.
- Ограничение скорости запросов, ограничивайте объем запросов с помощью ограничение частоты запросов.
- Отслеживание затрат, распределяйте расходы по сессиям и моделям.
- Data Loss Prevention, проверяйте промпты и ответы на наличие секретов, учетных данных и других конфиденциальных данных с помощью DLP.
Настройка агента
Следуйте руководству по настройке для вашего агента для написания кода:
Защитите конфиденциальный код с помощью DLP
Агенты для написания кода регулярно отправляют поставщикам моделей исходный код, конфигурационные файлы и фрагменты кода. Этот трафик может содержать ключи API, данные клиентов или другую конфиденциальную информацию. Поскольку AI Gateway находится между агентом и поставщиком, вы можете проверять и контролировать этот трафик, не изменяя сам агент.
Data Loss Prevention (DLP) проверяет тела запросов и ответов на соответствие профили обнаружения и либо помечает, либо блокирует совпадения. Используйте это, чтобы отслеживать секреты, учётные данные или регулируемые данные, покидающие агента (или возвращающиеся к нему).
Проверьте, что всё работает
После настройки инструмента убедитесь, что трафик доходит до AI Gateway.
-
Отправьте промпт из агента для написания кода.
-
На панели управления Cloudflare перейдите к разделу AI Gateway страницу.
Перейдите в AI Gateway ↗ -
Выберите свой шлюз, затем выберите Журналы. Убедитесь, что запрос отображается с указанием модели, количества токенов и задержки.
Подробнее о логах см. в Логирование.