INTEGRITY Dokumentace

Unified Billing

Unified Billing umožňuje uživatelům volat Workers AI a připojovat se k různým poskytovatelům AI (například OpenAI, Anthropic nebo Google AI Studio) a dostávat jednotnou fakturu od Cloudflare. Chcete-li Unified Billing používat, musíte si v Cloudflare dashboardu zakoupit a načíst kredity do svého účtu Cloudflare, které pak můžete utrácet v AI Gateway.

Poplatek ve výši 5 % se vztahuje na všechny kredity zakoupené prostřednictvím Unified Billing. Nákup kreditu za $100 tak například povede k účtování $105. Ceny za inferenci od poskytovatelů se přeposílají bez přirážky, platíte stejné sazby za token jako přímo u poskytovatele.

Požadavky

Dobít kredity

Chcete-li načíst kredity pro AI Gateway:

  1. V dashboardu Cloudflare přejděte na AI Gateway stránce.

    Přejděte na AI Gateway ↗

    Dostupné kredity v pravém horním rohu zobrazuje, kolik kreditů AI Gateway máte aktuálně na svém účtu.

  2. V Dostupné kredity, vyberte Správa.

  3. Pokud váš účet nemá k dispozici žádnou platební metodu, AI Gateway vás vyzve k jejímu přidání, abyste mohli zakoupit kredity. Přidejte platební metodu.

  4. Vyberte Doplnění kreditů.

  5. Zadejte množství kreditů, které chcete zakoupit, a poté vyberte Potvrdit a zaplatit.

Automatické dobití

AI Gateway můžete nakonfigurovat tak, aby automaticky doplnil vaše kredity, jakmile klesnou pod určitou hranici. Chcete-li nakonfigurovat auto top-up:

  1. V dashboardu Cloudflare přejděte na AI Gateway stránce.

    Přejděte na AI Gateway ↗
  2. V Dostupné kredity, vyberte Správa.

  3. Vyberte Nastavení automatického doplňování kreditů.

  4. Zvolte práh a částku pro automatické dobití.

Pokud váš zůstatek klesne pod nastavenou hranici, AI Gateway automaticky připíše na váš účet částku auto top-upu.

Priorita přihlašovacích údajů

Když požadavek dorazí do AI Gateway, přihlašovací údaje se řeší v tomto pořadí:

  1. Klíč poskytovatele v požadavku : pokud požadavek obsahuje autentizaci poskytovatele (například Authorization hlavičku), AI Gateway ji předá poskytovateli beze změny. BYOK ani Unified Billing se v tomto případě nepoužijí.
  2. BYOK (uložený klíč) : pokud požadavek neobsahuje klíč poskytovatele a gateway má uložený klíč pro poskytovatele v části default alias, použije se tento klíč.
  3. Unified Billing : pokud neplatí ani jedna z výše uvedených možností, je požadavek obsloužen pomocí přihlašovacích údajů spravovaných Cloudflare a účtován z vašeho kreditního zůstatku Cloudflare.

Použít Unified Billing

Unified Billing funguje dvěma způsoby: prostřednictvím AI bindingu nebo prostřednictvím HTTP API. Oba způsoby automaticky odečítají kredity z vašeho účtu, aniž by vyžadovaly API klíče poskytovatele.

Chcete-li použít kredity pro Workers AI, nakonfigurovat nastavení fakturace Workers AI daného gateway jako Jednotné účtování. Požadavky Workers AI směrované přes tuto gateway se odečítají z vašeho zůstatku předplacených kreditů v reálném čase. V AI bindingu uveďte ID gateway ve třetím argumentu env.AI.run(). U požadavků REST API uveďte cf-aig-gateway-id hlavička. Předplacené kredity poskytují přístup k modelům Workers AI, které by jinak vyžadovaly plán Workers Paid, a zajišťují vyšší limity počtu požadavků pro špičkové modely.

AI binding

Zavolejte libovolný model uvedený v katalog modelů pomocí env.AI.run(). Zahrnuje to jak modely Workers AI, tak modely třetích stran od poskytovatelů jako OpenAI, Anthropic a Google.

const resp = await env.AI.run(
	"openai/gpt-4.1-mini",
	{
		messages: [{ role: "user", content: "What is Cloudflare?" }],
	},
	{
		gateway: { id: "my-gateway" },
	},
);

Viz reference na binding pro úplný přehled rozhraní API.

HTTP API

Zavolejte podporovaného poskytovatele přes REST API AI Gateway bez nutnosti uvádět API klíč poskytovatele.

REST API

Pomocí Cloudflare API volejte modely třetích stran. Svůj token Cloudflare API předejte v Authorization hlavičku:

# Run `wrangler whoami` to get your account ID to replace $CLOUDFLARE_ACCOUNT_ID,
# and `wrangler auth token` to get an auth token to replace $CLOUDFLARE_API_TOKEN.
curl -X POST "https://api.cloudflare.com/client/v4/accounts/$CLOUDFLARE_ACCOUNT_ID/ai/v1/chat/completions" \
  --header "Authorization: Bearer $CLOUDFLARE_API_TOKEN" \
  --header "Content-Type: application/json" \
  --data '{
    "model": "openai/gpt-4.1-mini",
    "messages": [{"role": "user", "content": "What is Cloudflare?"}]
  }'

Viz REST API pro další podrobnosti o všech dostupných koncových bodech.

Nativní koncové body poskytovatelů v AI Gateway

Poskytovatele můžete také volat přímo přes nativní koncové body poskytovatele pomocí cf-aig-authorization hlavičku k ověření:

HTTP API podporuje následující poskytovatele:

Limity útrat

Nastavte pravidla pro limity útrat na jednotlivých branách pro omezení výdajů, a to podle modelu, poskytovatele nebo vlastních rozměrů metadat, jako je uživatel nebo tým.

Zero Data Retention (ZDR)

Zero Data Retention (ZDR) směruje provoz Unified Billing přes koncové body poskytovatelů, které neukládají prompty ani odpovědi. Povolte ji pomocí nastavení na úrovni gateway zdr nastavení, které odpovídá konfiguracím upstream poskytovatelů podporujících ZDR. Toto nastavení se vztahuje pouze na požadavky Unified Billing, které používají přihlašovací údaje spravované Cloudflare. Nevztahuje se na BYOK ani jiné požadavky AI Gateway.

ZDR neřídí protokolování AI Gateway. Chcete-li v AI Gateway vypnout protokolování požadavků a odpovědí, upravte nastavení protokolování samostatně v Protokolování.

ZDR je v současné době podporováno pro:

Pokud je ZDR povoleno u poskytovatele, který ho nepodporuje, AI Gateway přejde zpět na standardní konfiguraci Unified Billing (bez ZDR).

Výchozí konfigurace

Chcete-li v dashboardu nastavit ZDR jako výchozí pro Unified Billing:

  1. Přihlaste se do Cloudflare dashboard a vyberte svůj účet.
  2. Přejděte na AI > AI Gateway.
  3. Vyberte svůj gateway.
  4. Přejděte na Nastavení a přepněte Zero Data Retention (ZDR).

Chcete-li nastavit ZDR jako výchozí pro Unified Billing pomocí API:

  1. Vytvořte token API s následujícími oprávněními:
    • AI Gateway - Read
    • AI Gateway - Edit
  2. Získejte svůj ID účtu.
  3. Odešlete PUT požadavek k aktualizaci gateway a zahrňte zdr: true nebo zdr: false v těle požadavku.

Přepsání na požadavek (cf-aig-zdr)

Použijte cf-aig-zdr hlavičku pro přepsání výchozího nastavení brány u jednoho požadavku Unified Billing. Nastavte ji na true k vynucení ZDR, nebo false k vypnutí ZDR pro daný požadavek.

Požadavek Unified Billing se ZDR
# Run `wrangler whoami` to get your account ID to replace $CLOUDFLARE_ACCOUNT_ID,
# and `wrangler auth token` to get an auth token to replace $CLOUDFLARE_API_TOKEN.
curl -X POST "https://api.cloudflare.com/client/v4/accounts/$CLOUDFLARE_ACCOUNT_ID/ai/v1/chat/completions" \
  --header "Authorization: Bearer $CLOUDFLARE_API_TOKEN" \
  --header "Content-Type: application/json" \
  --header "cf-aig-zdr: true" \
  --data '{
    "model": "openai/gpt-4.1-mini",
    "messages": [
      {
        "role": "user",
        "content": "Explain Zero Data Retention."
      }
    ]
  }'