← Cloudflare AI Gateway / ai-gateway / configuration

Custom costs

AI Gateway umožňuje nastavit vlastní náklady na úrovni jednotlivého požadavku. Díky této funkci mohou metriky nákladů přesně odpovídat vašemu vlastnímu ceníku a přepsat tak výchozí nebo veřejné náklady modelu.

Chcete-li k API požadavkům přidat custom costs, použijte cf-aig-custom-cost hlavička. Tato hlavička umožňuje určit cenu za token zvlášť pro vstup (odeslané tokeny) i výstup (přijaté tokeny).

• per_token_in: Sjednaná cena vstupního tokenu (za token).
• per_token_out: Sjednaná cena výstupního tokenu (za token).

Počet desetinných míst není nijak omezen, takže výpočty nákladů zůstávají přesné bez ohledu na to, jak malé hodnoty jsou.

Custom costs se v protokolech zobrazují podtržené, takže snadno poznáte, kdy byla použita vlastní cena.

V tomto příkladu, pokud máte sjednanou cenu $1 za milion vstupních tokenů a $2 za milion výstupních tokenů, zahrňte cf-aig-custom-cost hlavičku, jak je uvedeno níže.

curl https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/openai/chat/completions \
  --header "Authorization: Bearer $TOKEN" \
  --header 'Content-Type: application/json' \
  --header 'cf-aig-custom-cost: {"per_token_in":0.000001,"per_token_out":0.000002}' \
  --data ' {
        "model": "gpt-4o-mini",
        "messages": [
          {
            "role": "user",
            "content": "When is Cloudflare’s Birthday Week?"
          }
        ]
      }'