← Cloudflare AI Gateway / ai-gateway / configuration

Custom costs

AI Gateway позволяет задавать Custom Costs на уровне запроса. Благодаря этой функции показатели затрат точно отражают ваши уникальные тарифы, переопределяя стандартные или публичные затраты на модель.

Чтобы добавить Custom Costs к своим запросам API, используйте cf-aig-custom-cost заголовок. Он позволяет задать стоимость за токен отдельно для входных (отправленных) и выходных (полученных) токенов.

• per_token_in: Согласованная стоимость входного токена (за токен).
• per_token_out: Согласованная стоимость выходного токена (за токен).

Количество знаков после запятой не ограничено, что обеспечивает точные расчёты стоимости независимо от того, насколько малы значения.

Custom costs будут отображаться в логах с подчёркиванием, что позволяет легко определить, когда применено пользовательское ценообразование.

В этом примере, если у вас согласованная цена $1 за миллион входных токенов и $2 за миллион выходных токенов, включите cf-aig-custom-cost заголовок, как показано ниже.

curl https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/openai/chat/completions \
  --header "Authorization: Bearer $TOKEN" \
  --header 'Content-Type: application/json' \
  --header 'cf-aig-custom-cost: {"per_token_in":0.000001,"per_token_out":0.000002}' \
  --data ' {
        "model": "gpt-4o-mini",
        "messages": [
          {
            "role": "user",
            "content": "When is Cloudflare’s Birthday Week?"
          }
        ]
      }'