← Cloudflare Workers AI / workers-ai / platform
Limity
Workers AI je nyní obecně dostupné. V souvislosti s tím jsme aktualizovali naše limity počtu požadavků.
Mějte na paměti, že do těchto limitů se započítávají i inference modelů v lokálním režimu přes Wrangler. Beta modely mohou mít nižší limity požadavků, dokud nedokončíme práci na výkonu a škálování.
Limity počtu požadavků jsou ve výchozím nastavení dané typem úlohy, přičemž některé limity jsou definovány podle konkrétního modelu takto:
Limity počtu požadavků podle typu úlohy
- 720 požadavků za minutu
- 3000 požadavků za minutu
- 720 požadavků za minutu
- 3000 požadavků za minutu
- 1500 požadavků za minutu
- 2000 požadavků za minutu
- 3000 požadavků za minutu
- @cf/baai/bge-large-en-v1.5 je 1500 požadavků za minutu
- 300 požadavků za minutu
- @hf/thebloke/mistral-7b-instruct-v0.1-awq je 400 požadavků za minutu
- @cf/microsoft/phi-2 je 720 požadavků za minutu
- @cf/qwen/qwen1.5-0.5b-chat je 1500 požadavků za minutu
- @cf/qwen/qwen1.5-1.8b-chat je 720 požadavků za minutu
- @cf/qwen/qwen1.5-14b-chat-awq je 150 požadavků za minutu
- @cf/tinyllama/tinyllama-1.1b-chat-v1.0 je 720 požadavků za minutu
Špičkové modely
Pro každý účet a model platí následující limity:
| Model | Standardní účtování Workers AI | Předplacené kredity AI Gateway |
|---|---|---|
| @cf/moonshotai/kimi-k2.6 | 20 požadavků za minutu | 50 požadavků za minutu |
| @cf/moonshotai/kimi-k2.7-code | 20 požadavků za minutu | 50 požadavků za minutu |
| @cf/zai-org/glm-5.2 | 20 požadavků za minutu | 50 požadavků za minutu |
Chcete-li získat navýšený limit, načtěte předplacené kredity AI Gateway a nastavte u brány Nastavení fakturace Workers AI na Jednotné účtování. Tyto limity jsou navržené pro typické agentní a programovací úlohy, kde požadavky na špičkové modely mohou trvat déle.
- 720 požadavků za minutu
- @cf/runwayml/stable-diffusion-v1-5-img2img je 1500 požadavků za minutu
- 720 požadavků za minutu