← Cloudflare AI Gateway / ai-gateway / features
Omezení četnosti požadavků
Omezování počtu požadavků řídí provoz, který se dostává k vaší aplikaci, čímž zabraňuje vysokým účtům a podezřelé aktivitě.
Parametry
Limity počtu požadavků můžete definovat jako počet požadavků odeslaných za konkrétní časový interval. Aplikaci můžete například omezit na 100 požadavků za 60 sekund.
Také můžete vybrat, zda chcete pevný nebo klouzavé technika omezování rychlosti. Při omezování rychlosti povolujeme určitý počet požadavků v rámci časového okna. Pokud jde například o pevnou rychlost, okno je založeno na čase, takže by nebylo povoleno více než x požadavků v desetiminutovém okně. Pokud jde o klouzavou rychlost, nebylo by povoleno více než x požadavků za posledních deset minut.
Pro ilustraci si představte, že máte limit deset požadavků za deset minut, počínaje 12:00. Pevné okno tedy je 12:00-12:10, 12:10-12:20 a tak dále. Pokud byste v 12:09 odeslali deset požadavků a ve 12:11 dalších deset, u strategie pevného okna by uspělo všech 20 požadavků. U strategie klouzavého okna by ale neuspěly, protože za posledních deset minut by jich bylo víc než deset.
Zpracování limitů počtu požadavků
Pokud vaše požadavky překročí povolenou rychlost, dojde k omezování počtu požadavků. To znamená, že server odpoví 429 Too Many Requests stavovým kódem a váš požadavek nebude zpracován.
Výchozí konfigurace
Chcete-li v dashboardu nastavit výchozí konfiguraci omezování počtu požadavků:
- Přihlaste se do Cloudflare dashboard ↗ a vyberte svůj účet.
- Přejděte na AI > AI Gateway.
- Přejděte na Nastavení.
- Povolit Omezování počtu požadavků.
- Upravte rychlost, časové období a metodu omezení počtu požadavků podle potřeby.
Chcete-li nastavit výchozí konfiguraci omezování počtu požadavků pomocí API:
- Vytvořte token API s následujícími oprávněními:
AI Gateway - ReadAI Gateway - Edit
- Získejte svůj ID účtu.
- Pomocí daného tokenu API a Account ID odešlete
POSTpožadavek k vytvoření nové gateway a zahrnutí hodnoty prorate_limiting_interval,rate_limiting_limit, arate_limiting_technique.
Toto chování omezování počtu požadavků se bude jednotně uplatňovat na všechny požadavky daného gateway.