INTEGRITY Dokumentace

← Cloudflare AI Gateway / ai-gateway / configuration

Spravovat gateways

Pro správu AI Gateway máte k dispozici několik různých možností.

Vytvořit gateway

Výchozí brána

AI Gateway za vás může gateway vytvořit automaticky. Pokud ID gateway v požadavku úplně vynecháte, AI Gateway ve výchozím stavu použije default jako ID gateway. Pokud neexistuje žádná gateway s názvem default existuje ve vašem účtu, AI Gateway ji vytvoří při prvním ověřeném požadavku.

To znamená, že můžete začít odesílat požadavky, aniž byste museli nejprve vytvořit gateway: AI Gateway vytvoření gateway zajistí za vás.

Požadavek, který spouští automatické vytvoření, musí být autentizovaný. Při použití REST API, standardní Authorization hlavička stačí. Při použití nativní koncové body poskytovatele na gateway.ai.cloudflare.com, uveďte platný cf-aig-authorization hlavička. U vazeb Workers AI se místo hlavičky použije identita účtu z dané vazby.

Automaticky vytvořený výchozí gateway používá následující nastavení:

Nastavení Výchozí hodnota
Ověřování On
Shromažďování protokolů On
Ukládání do mezipaměti Vypnuto (TTL 0)
Omezení četnosti požadavků Vypnuto
fakturace Workers AI Standardní fakturace

Po vytvoření můžete výchozí nastavení gateway upravovat jako u jakékoli jiné gateway. Pokud výchozí gateway odstraníte, novým ověřeným požadavkem na default ID brány ji znovu automaticky vytvoří.

Vytvořit gateway ručně

Přejděte na AI Gateway ↗
  1. Přihlaste se do Cloudflare dashboard ↗ a vyberte svůj účet.
  2. Přejděte na AI > AI Gateway.
  3. Vyberte Create Gateway.
  4. Zadejte své Název gateway. Poznámka: název brány má limit 64 znaků.
  5. V Fakturace Workers AI, zvolte, jak se účtují požadavky na Workers AI přes tuto bránu:
    • Standardní fakturace účtuje váš účet Cloudflare na konci každého fakturačního cyklu.
    • Jednotné účtování odečítá se z vašeho zůstatku předplacených kreditů AI Gateway v reálném čase.
  6. Vyberte Vytvořit.

Chcete-li nastavit AI Gateway pomocí API:

  1. Vytvořte token API s následujícími oprávněními:

    • AI Gateway - Read
    • AI Gateway - Edit

  2. Získejte svůj ID účtu.

  3. Pomocí daného tokenu API a Account ID odešlete POST požadavek do Cloudflare API.

Upravit gateway

Chcete-li upravit AI Gateway v dashboardu:

  1. Přihlaste se do Cloudflare dashboard ↗ a vyberte svůj účet.
  2. Přejděte na AI > AI Gateway.
  3. Vyberte svůj gateway.
  4. Přejděte na Nastavení a podle potřeby aktualizujte.

Chcete-li upravit AI Gateway, odešlete PUT požadavek do Cloudflare API.

Nakonfigurovat fakturaci Workers AI

Požadavky Workers AI ve výchozím nastavení používají Standardní fakturace, který na konci každého fakturačního cyklu zatíží váš účet Cloudflare.

Chcete-li použít předplacené kredity AI Gateway pro požadavky Workers AI:

  1. Dobít kredity do vašeho účtu Cloudflare.
  2. V Cloudflare dashboardu přejděte na AI > AI Gateway a vyberte svou gateway.
  3. Přejděte na Nastavení a najděte Fakturace Workers AI.
  4. Vyberte Jednotné účtování.
  5. Vyberte Save.

Požadavky Workers AI směrované přes tento gateway se v reálném čase odečítají z kreditového zůstatku AI Gateway.

Opakování požadavků

Gateway můžete nakonfigurovat tak, aby automaticky opakoval neúspěšné požadavky na upstream poskytovatele. To se hodí, pokud nemáte kontrolu nad klientem a nemůžete implementovat opakování požadavků nebo logiku backoff na straně klienta.

Chcete-li nakonfigurovat nastavení opakování:

  1. Přihlaste se do Cloudflare dashboard ↗ a vyberte svůj účet.
  2. Přejděte na AI > AI Gateway a vyberte svou gateway.
  3. Přejděte na Nastavení a najděte Retry Requests sekce.
  4. Zapnutím přepínače povolíte automatická opakování.
  5. Nakonfigurujte následující nastavení:
    • Počet opakování : maximální počet opakování (až 5).
    • Zpoždění : základní prodleva mezi opakováními. Dostupné hodnoty: 100ms, 500ms, 1 sekunda, 2 sekundy, 3 sekundy nebo 5 sekund.
    • Backoff : strategie prodlevy mezi dalšími pokusy: Constant, Linear nebo Exponential.
  6. Vyberte Save.
nastavení Retry Requests v dashboardu AI Gateway

Tyto výchozí hodnoty na úrovni gateway platí pro všechny požadavky směrované přes gateway. Hlavičky pro jednotlivé požadavky mohou tyto výchozí hodnoty přepsat, viz Zpracování požadavků s podrobnostmi.

Složitější scénáře selhání (failover) mezi různými poskytovateli najdete v Dynamic Routing.

Odstranění brány

Odstranění vaší brány je trvalé a nelze je vzít zpět.

Chcete-li odstranit AI Gateway v dashboardu:

  1. Přihlaste se do Cloudflare dashboard ↗ a vyberte svůj účet.
  2. Přejděte na AI > AI Gateway.
  3. Vyberte svůj gateway ze seznamu dostupných možností.
  4. Přejděte na Nastavení.
  5. Pro Odstranění brány, vyberte Smazat (a potvrďte smazání).

Chcete-li odstranit AI Gateway, odešlete DELETE požadavek do Cloudflare API.