← Cloudflare AI Gateway / ai-gateway / observability

Analytics

Dashboard AI Gateway zobrazuje metriky týkající se požadavků, tokenů, ukládání do mezipaměti, chyb a nákladů. Tyto metriky můžete filtrovat podle času. Tyto analytické přehledy vám pomáhají porozumět vzorcům provozu, spotřebě tokenů a možným problémům u jednotlivých poskytovatelů AI. Můžete zobrazit tyto analytické přehledy:

Požadavky: Sledujte celkový počet požadavků zpracovaných AI Gateway.
Využití tokenů: Analyzujte spotřebu tokenů napříč požadavky a získejte přehled o vzorcích využití.
Náklady: Získejte přehled o nákladech spojených s používáním různých poskytovatelů AI, díky čemuž můžete sledovat výdaje, spravovat rozpočty a optimalizovat zdroje.
Chyby: Sledujte počet chyb napříč bránou, což pomáhá identifikovat a řešit problémy.
Odpovědi uložené v mezipaměti: Zobrazte si podíl odpovědí obsloužených z mezipaměti, což může pomoci snížit náklady a zvýšit rychlost.

Zobrazit analýzu

Chcete-li zobrazit analytiku v dashboardu:

Přihlaste se do Cloudflare dashboard ↗ a vyberte svůj účet.
Přejděte na AI > AI Gateway.
Ujistěte se, že máte vybraný gateway.

Data o využití můžete dotazovat pomocí GraphQL i mimo dashboard AI Gateway. Ukázkový dotaz najdete níže. Při odesílání požadavku budete potřebovat svůj token Cloudflare a musíte změnit {account_id} tak, aby odpovídalo vašemu account tagu.

Požadavek

curl https://api.cloudflare.com/client/v4/graphql \
  --header 'Authorization: Bearer TOKEN \
  --header 'Content-Type: application/json' \
  --data '{
    "query": "query{\n  viewer {\n	accounts(filter: { accountTag: \"{account_id}\" }) {\n	requests: aiGatewayRequestsAdaptiveGroups(\n    	limit: $limit\n    	filter: { datetimeHour_geq: $start, datetimeHour_leq: $end }\n    	orderBy: [datetimeMinute_ASC]\n  	) {\n    	count,\n    	dimensions {\n        	model,\n        	provider,\n        	gateway,\n        	ts: datetimeMinute\n    	}\n    	\n  	}\n    	\n	}\n  }\n}",
    "variables": {
   	 "limit": 1000,
   	 "start": "2023-09-01T10:00:00.000Z",
   	 "end": "2023-09-30T10:00:00.000Z",
   	 "orderBy": "date_ASC"
    }
}'