← Cloudflare AI Gateway / ai-gateway / features
Unified Billing
Unified Billing позволяет вызывать Workers AI и подключаться к различным провайдерам ИИ (таким как OpenAI, Anthropic и Google AI Studio), получая единый счет от Cloudflare. Чтобы использовать Unified Billing, необходимо приобрести и внести кредиты на свой аккаунт Cloudflare в панели управления Cloudflare, которые затем можно расходовать через AI Gateway.
Комиссия в размере 5% взимается со всех кредитов, приобретенных через Unified Billing. Например, при покупке кредита на 100 долларов будет списано 105 долларов. Цены провайдеров на инференс передаются без наценки: вы платите те же тарифы за токен, что и при прямом обращении к провайдеру.
Предварительные требования
- Убедитесь, что в вашем аккаунте Cloudflare есть загружено достаточное количество кредитов.
- Убедитесь, что у вас есть аутентифицированный ваш AI Gateway.
- Чтобы использовать кредиты для Workers AI, задайте в настройках шлюза Биллинг Workers AI параметр в Единый биллинг.
Пополнить кредиты
Чтобы загрузить кредиты для AI Gateway:
-
На панели управления Cloudflare перейдите к разделу AI Gateway страницу.
Перейдите в AI Gateway ↗Доступные кредиты карточка в правом верхнем углу показывает, сколько кредитов AI Gateway доступно на вашем аккаунте в данный момент.
-
В Доступные кредиты, выберите Управление.
-
Если в вашем аккаунте не указан способ оплаты, AI Gateway предложит добавить способ оплаты для покупки кредитов. Добавьте способ оплаты.
-
Выберите Пополнение кредитов.
-
Укажите количество кредитов, которое хотите приобрести, затем выберите Подтвердите и оплатите.
Автопополнение
Вы можете настроить AI Gateway так, чтобы он автоматически пополнял ваши кредиты, когда их количество опускается ниже определённого порога. Чтобы настроить auto top-up:
-
На панели управления Cloudflare перейдите к разделу AI Gateway страницу.
Перейдите в AI Gateway ↗ -
В Доступные кредиты, выберите Управление.
-
Выберите Настройка автопополнения кредитов.
-
Выберите порог и сумму пополнения для функции auto top-up.
Когда баланс опускается ниже установленного порога, AI Gateway автоматически применяет сумму auto top-up к вашему аккаунту.
Приоритет учётных данных
Когда запрос поступает в AI Gateway, учётные данные определяются в следующем порядке:
- Ключ провайдера в запросе, если запрос содержит данные аутентификации поставщика (например,
Authorizationзаголовок), AI Gateway передаёт его поставщику без изменений. BYOK и Unified Billing при этом не задействуются. - BYOK (сохраненный ключ), если в запросе нет ключа поставщика, а у шлюза есть сохранённый ключ для провайдера в разделе
defaultпсевдоним, используется этот ключ. - Unified Billing, если ни один из вариантов выше не подходит, запрос обрабатывается с использованием управляемых Cloudflare учетных данных и оплачивается из вашего кредитного баланса Cloudflare.
Использование Unified Billing
Unified Billing работает двумя способами: через привязку AI или через HTTP API. В обоих случаях кредиты списываются с вашего аккаунта автоматически, без необходимости в ключах API провайдера.
Чтобы использовать кредиты для Workers AI, настроить параметр биллинга Workers AI для шлюза как Единый биллинг. Запросы Workers AI, направленные через этот шлюз, списываются с баланса предоплаченных кредитов в реальном времени. В привязке AI укажите ID шлюза третьим аргументом для env.AI.run(). Для запросов REST API укажите cf-aig-gateway-id заголовок. Предоплаченные кредиты открывают доступ к моделям Workers AI, которые иначе требуют план Workers Paid, и предоставляют более высокие лимиты скорости запросов для передовых моделей.
AI binding
Вызывайте любую модель из списка в каталог моделей с помощью env.AI.run(). Сюда входят как модели Workers AI, так и сторонние модели таких провайдеров, как OpenAI, Anthropic и Google.
const resp = await env.AI.run(
"openai/gpt-4.1-mini",
{
messages: [{ role: "user", content: "What is Cloudflare?" }],
},
{
gateway: { id: "my-gateway" },
},
);См. ссылка на привязку для полного описания API.
HTTP API
Вызывайте поддерживаемого провайдера через AI Gateway REST API без передачи ключа API провайдера.
REST API
Используйте Cloudflare API для вызова моделей сторонних разработчиков. Передайте токен Cloudflare API в Authorization заголовок:
# Run `wrangler whoami` to get your account ID to replace $CLOUDFLARE_ACCOUNT_ID,
# and `wrangler auth token` to get an auth token to replace $CLOUDFLARE_API_TOKEN.
curl -X POST "https://api.cloudflare.com/client/v4/accounts/$CLOUDFLARE_ACCOUNT_ID/ai/v1/chat/completions" \
--header "Authorization: Bearer $CLOUDFLARE_API_TOKEN" \
--header "Content-Type: application/json" \
--data '{
"model": "openai/gpt-4.1-mini",
"messages": [{"role": "user", "content": "What is Cloudflare?"}]
}'См. REST API подробнее обо всех доступных конечных точках.
Собственные эндпойнты провайдеров AI Gateway
Вы также можете обращаться к провайдерам напрямую через нативные эндпойнты провайдера с помощью cf-aig-authorization заголовок для аутентификации:
HTTP API поддерживает следующих провайдеров:
Spend limits
Задайте правила лимита расходов на отдельных шлюзах, чтобы ограничить расходы по модели, провайдеру или пользовательским измерениям метаданных, таким как пользователь или команда.
Zero Data Retention (ZDR)
Zero Data Retention (ZDR) направляет трафик Unified Billing через эндпойнты провайдеров, которые не сохраняют промпты и ответы. Включите ее с помощью параметра уровня шлюза zdr параметр, который соответствует конфигурациям вышестоящих провайдеров с поддержкой ZDR. Этот параметр применяется только к запросам Unified Billing, использующим учетные данные, управляемые Cloudflare. Он не распространяется на BYOK или другие запросы AI Gateway.
ZDR не управляет логированием в AI Gateway. Чтобы отключить логирование запросов и ответов в AI Gateway, измените настройки логирования отдельно в Логирование.
В настоящее время ZDR поддерживается для:
Если ZDR включён для провайдера, который его не поддерживает, AI Gateway переключается на стандартную (не-ZDR) конфигурацию Unified Billing.
Конфигурация по умолчанию
Чтобы задать ZDR по умолчанию для Unified Billing в панели управления:
- Войдите в Панель управления Cloudflare ↗ и выберите свой аккаунт.
- Перейдите в AI > AI Gateway.
- Выберите свой шлюз.
- Перейдите в Настройки и переключите Zero Data Retention (ZDR).
Чтобы задать ZDR по умолчанию для Unified Billing через API:
- Создание API-токена со следующими разрешениями:
AI Gateway - ReadAI Gateway - Edit
- Получите ваш Account ID.
- Отправьте
PUTзапрос чтобы обновить шлюз и добавитьzdr: trueилиzdr: falseв теле запроса.
Переопределение для каждого запроса (cf-aig-zdr)
Используйте cf-aig-zdr заголовок, чтобы переопределить настройку шлюза по умолчанию для одного запроса Unified Billing. Установите значение true чтобы принудительно включить ZDR, или false чтобы отключить ZDR для запроса.
# Run `wrangler whoami` to get your account ID to replace $CLOUDFLARE_ACCOUNT_ID,
# and `wrangler auth token` to get an auth token to replace $CLOUDFLARE_API_TOKEN.
curl -X POST "https://api.cloudflare.com/client/v4/accounts/$CLOUDFLARE_ACCOUNT_ID/ai/v1/chat/completions" \
--header "Authorization: Bearer $CLOUDFLARE_API_TOKEN" \
--header "Content-Type: application/json" \
--header "cf-aig-zdr: true" \
--data '{
"model": "openai/gpt-4.1-mini",
"messages": [
{
"role": "user",
"content": "Explain Zero Data Retention."
}
]
}'