Developer Discord
Zapojte se do komunity Workers na Discordu, pokládejte otázky, ukazujte, co tvoříte, a diskutujte o platformě s dalšími vývojáři.
← Cloudflare AI Gateway / ai-gateway
Cloudflare AI Gateway
Sledujte a řiďte své AI aplikace.
Dostupné ve všech plánech
Cloudflare AI Gateway vám dává přehled a kontrolu nad vašimi AI aplikacemi. Po připojení aplikace k AI Gateway získáte pomocí analytiky a protokolování přehled o tom, jak ji lidé používají, a zároveň můžete řídit její škálování pomocí funkcí, jako je ukládání do mezipaměti, omezování frekvence požadavků, opakování požadavků, záložní modely a další. A co je nejlepší, stačí vám k tomu jediný řádek kódu.
Podívejte se na Úvodní návod se dozvíte, jak nakonfigurovat své aplikace s AI Gateway.
Funkce
Modely
Prozkoumejte všechny AI modely dostupné prostřednictvím AI Gateway, včetně OpenAI, Anthropic, Google a dalších.
Analytics
Zobrazte si metriky, jako je počet požadavků, tokenů a náklady na provoz vaší aplikace.
Protokolování
Získejte přehled o požadavcích a chybách.
Ukládání do mezipaměti
Obsluhujte požadavky přímo z mezipaměti Cloudflare místo od původního poskytovatele modelu, a to pro rychlejší požadavky a úsporu nákladů.
Omezení četnosti požadavků
Určete, jak se vaše aplikace škáluje, omezením počtu požadavků, které přijímá.
Opakování požadavků a záložní řešení
Zvyšte odolnost definováním opakování požadavků a záložních modelů pro případ chyby.
Vaši oblíbení poskytovatelé
Workers AI, Anthropic, Google Gemini, OpenAI, Replicate a další fungují s AI Gateway.
Související produkty
Workers AI
Spouštějte modely strojového učení poháněné serverless GPU na globální síti Cloudflare.
Vectorize
Vytvářejte full-stack aplikace AI pomocí Vectorize, vektorové databáze Cloudflare. Přidání Vectorize vám umožní provádět úlohy jako sémantické vyhledávání, doporučování nebo detekci anomálií, případně jej použít k tomu, aby LLM měl k dispozici kontext a paměť.
Další zdroje
Případy použití
Přečtěte si, jak můžete vytvářet a nasazovat ambiciózní AI aplikace do globální sítě Cloudflare.
@CloudflareDev
Sledujte @CloudflareDev na Twitteru, kde se dozvíte o novinkách v produktech a o tom, co je nového v Cloudflare Workers.
Obsah
95 stránek zrcadlených z dokumentace Cloudflare pro ai-gateway.
Pages
- Referenční dokumentace REST API
- Konfigurace
- Architektury
- Evaluations
- Funkce
- Začínáme
- Slovník hlaviček
- Integrace
- server MCP
- Modely
- Observabilita
- Platforma
- Návody
- Používání AI Gateway
Konfigurace
- Autentizovaná Gateway
- BYOK (ukládání klíčů)
- Cloudflare Access
- Custom costs
- Vlastní domény
- Custom Providers
- Fallbacks
- Spravovat gateways
- Zpracování požadavků
Evaluations
- Přidání Human Feedback pomocí dashboardu
- Přidání Human Feedback pomocí API
- Přidání human feedback pomocí Worker Bindings
- Nastavení Evaluations
Funkce
- Ukládání do mezipaměti
- Data Loss Prevention (DLP)
- Nastavit prevenci úniku dat (DLP)
- Dynamické směrování
- Konfigurace JSON
- Používání dynamické route
- Guardrails
- Nastavení Guardrails
- Podporované typy modelů
- Úvahy o používání
- Omezení četnosti požadavků
- Limity útrat
- Unified Billing
Integrace
- Agenti
- Nastavení Workers AI s AI Gateway
- Kódovací agenti
- Claude Code
- Claude Desktop
- GitHub Copilot CLI
- OpenAI Codex
- Pi
- Vercel AI SDK
Observabilita
Platforma
Návody
Používání AI Gateway
- Unified API (OpenAI compat)
- Provider Native
- Anthropic
- Azure OpenAI
- Baseten
- Amazon Bedrock
- Cartesia
- Cerebras
- Cohere
- Deepgram
- DeepSeek
- ElevenLabs
- Fal AI
- Google AI Studio
- xAI
- Groq
- HuggingFace
- Ideogram
- Mistral AI
- OpenAI
- OpenRouter
- Parallel
- Perplexity
- Replicate
- Google Vertex AI
- Workers AI
- REST API
- Universal Endpoint (zastaralý)
- Web Search
- WebSockets API
- WebSockets API mimo reálný čas
- Realtime WebSockets API
- Workers Bindings