← Cloudflare AI Gateway / ai-gateway / observability

Náklady

Metriky nákladů jsou k dispozici pouze pro koncové body, u kterých modely ve svých odpovědích vracejí údaje o tokenech a název modelu.

AI Gateway usnadňuje sledování a odhad nákladů na základě tokenů u všech vašich poskytovatelů AI. Díky tomu můžete:

• Pochopte a porovnejte náklady na využití u jednotlivých poskytovatelů.
• Sledujte trendy a odhadujte výdaje pomocí konzistentních metrik.
• Použijte vlastní cenovou logiku odpovídající sjednaným sazbám.

AI Gateway umožňuje uživatelům nastavit vlastní náklady při práci se speciálními ceníky nebo individuálně sjednanými sazbami. Vlastní náklady lze uplatnit na úrovni jednotlivého požadavku a po uplatnění přepíší výchozí nebo veřejné náklady modelu. Další informace o konfiguraci vlastních nákladů najdete na Custom Costs konfigurační stránka.