← Cloudflare AI Gateway / ai-gateway / configuration

Управление шлюзами

Для управления AI Gateway доступно несколько вариантов.

AI Gateway может автоматически создать шлюз для вас. Если вы полностью опустите gateway ID в запросе, AI Gateway по умолчанию использует default в качестве ID шлюза. Если шлюз с именем default существует в вашем аккаунте, AI Gateway создаст его при первом аутентифицированном запросе.

Это означает, что вы можете начать отправлять запросы, не создавая шлюз заранее: AI Gateway создаёт шлюз автоматически.

Запрос, который вызывает автоматическое создание, должен быть аутентифицирован. При использовании REST API, стандартный Authorization заголовка достаточно. При использовании нативные эндпойнты провайдера по адресу gateway.ai.cloudflare.com, укажите корректный cf-aig-authorization заголовок. Для привязок Workers AI вместо заголовка используется идентификатор аккаунта из самой привязки.

Автоматически созданный шлюз по умолчанию использует следующие настройки:

После создания вы можете редактировать настройки шлюза по умолчанию так же, как и настройки любого другого шлюза. Если вы удалите шлюз по умолчанию, отправка нового аутентифицированного запроса к default ID шлюза снова создаст его автоматически.

По умолчанию запросы Workers AI используют Стандартный биллинг, который списывает средства с вашего аккаунта Cloudflare в конце каждого платёжного цикла.

Чтобы использовать предоплаченные кредиты AI Gateway для запросов Workers AI:

1. Пополнить кредиты в ваш аккаунт Cloudflare.
2. В панели управления Cloudflare перейдите в AI > AI Gateway и выберите свой шлюз.
3. Перейдите в Настройки и найдите Биллинг Workers AI.
4. Выберите Единый биллинг.
5. Выберите Save.

Запросы Workers AI, направленные через этот шлюз, будут списываться с баланса кредитов AI Gateway в режиме реального времени.

Вы можете настроить свой шлюз так, чтобы он автоматически повторял неудачные запросы к вышестоящим провайдерам. Это полезно, если вы не контролируете клиент и не можете реализовать повторные попытки или логику отсрочки на стороне клиента.

Чтобы настроить параметры повторных попыток:

1. Войдите в Панель управления Cloudflare ↗ и выберите свой аккаунт.
2. Перейдите в AI > AI Gateway и выберите свой шлюз.
3. Перейдите в Настройки и найдите Retry Requests раздел.
4. Включите переключатель, чтобы включить автоматические повторные попытки.
5. Настройте следующие параметры:
   • Количество повторных попыток, максимальное количество повторных попыток (до 5).
   • Задержка, базовая задержка между повторными попытками. Доступные значения: 100ms, 500ms, 1 second, 2 seconds, 3 seconds или 5 seconds.
   • Задержка, стратегия задержки для последующих повторных попыток: Constant, Linear или Exponential.
6. Выберите Save.

Эти настройки по умолчанию на уровне шлюза применяются ко всем запросам, направленным через шлюз. Заголовки на уровне отдельного запроса могут переопределять эти значения по умолчанию, см. Обработка запросов для получения подробностей.

Для более сложных сценариев отказоустойчивости, где нужно переключаться между разными провайдерами, см. Dynamic Routing.

Удаление шлюза необратимо и не может быть отменено.