← Cloudflare AI Gateway / ai-gateway / reference

Řešení potíží

Tato stránka popisuje časté problémy při používání AI Gateway. Pokud potřebujete řešení problémů specifické pro daného poskytovatele, nahlédněte do příslušné dokumentace poskytovatele.

Pokud od svého poskytovatele AI dostáváte chyby ověřování, AI Gateway nepředal platné přihlašovací údaje upstream. Zkontrolujte následující:

1. Ověřte umístění hlavičky: Ujistěte se, že váš token Cloudflare je v cf-aig-authorization, nikoli Authorization. Authorization hlavička je vyhrazena pro přihlašovací údaje poskytovatele.

2. Zkontrolujte konfiguraci podle typu koncového bodu:

   • Koncové body specifické pro poskytovatele: Potvrďte, že URL adresa vašeho požadavku obsahuje cestu poskytovatele (například /google-vertex-ai/ nebo /openai/). AI Gateway to používá k identifikaci poskytovatele a použití správných uložených přihlašovacích údajů.
   • Unified /compat/chat/completions koncový bod: Potvrďte svůj model název začíná prefixem poskytovatele (například google-vertex-ai/google/gemini-2.5-flash nebo openai/gpt-4o). AI Gateway pomocí této předpony směruje požadavek a vybírá správné uložené přihlašovací údaje.

3. Ověřte výběr klíče BYOK: Pokud máte pro poskytovatele nakonfigurováno více klíčů, zajistěte jedno z následujícího:

   • Používáte klíč s aliasem default, nebo
   • Uvedete cf-aig-byok-alias hlavičku se správným názvem aliasu

4. Ověřte konfiguraci BYOK: Pokud používáte BYOK, ověřte v dashboardu, že vaše přihlašovací údaje byly správně uloženy.

V případě problémů s ověřováním specifickým pro poskytovatele:

• Řešení problémů s Google Vertex AI

Řešení problémů s Data Loss Prevention, jako je nespouštění DLP nebo neočekávané blokování, najdete v Řešení problémů s DLP.

• Zkontrolujte, zda nemá upstream poskytovatel problémy
• Zvažte implementaci dynamické směrování se záložními modely pro dočasná selhání
• Zkontrolujte své rate limiting konfigurace

• Ověřte přímo u poskytovatele, že váš klíč API nebo přihlašovací údaje jsou platné
• Zkontrolujte stránku se stavem poskytovatele, zda nehlásí výpadky
• Zkontrolujte Protokoly AI Gateway pro podrobné informace o chybě

• Ověřte ukládání do mezipaměti je povoleno pro vaši bránu
• Zkontrolujte, zda jsou metoda požadavku a typ obsahu ukládatelné do mezipaměti
• Streamované odpovědi se ve výchozím nastavení neukládají do mezipaměti

• Zkontrolujte nastavení TTL mezipaměti
• Zkontrolujte, zda máte hlavičky požadavku, které jsou obcházení mezipaměti nebo nastavením vlastní cache key.