← Cloudflare AI Gateway / ai-gateway / observability

User Insights

Dashboard User Insights zobrazuje, kolik vaše organizace utrácí za AI, které identity jsou za tyto výdaje odpovědné a kteří uživatelé se odchylují od svého obvyklého používání. Využívá provoz, který již prochází vaším gateway, takže není potřeba žádné další nastavení.

User Insights je zdarma k dispozici všem zákazníkům AI Gateway a funguje u veškerého provozu procházejícího vaším gatewayem. Pokud vaše požadavky neobsahují identitu ani custom metadata, veškeré použití se seskupí pod jediný anonymní identifikátor a User Insights pak nedokáže rozlišit jednotlivé uživatele.

Chcete-li přiřadit využití jednotlivým uživatelům, přidejte identifikátor uživatele pomocí vlastní metadata, nebo bránu umístěte za Cloudflare Access. S Access nese každý autentizovaný požadavek ověřenou identitu, podle které můžete filtrovat útraty a analytické údaje.

V horní části stránky User Insights můžete zobrazit následující metriky platné pro celou organizaci za zvolené časové období:

• Aktivní uživatelé: Identity využívající bránu.
• Celkový počet požadavků: Požadavky brány v tomto rozsahu.
• Míra adopce: Identity IdP s alespoň jedním požadavkem.
• Tokeny na aktivního uživatele: Medián za toto časové období.
• Medián výdajů / aktivní uživatel: Pozorovaná útrata na jednu přiřazenou identitu.
• Aktivita požadavků v horních 10 %: Podíl přiřazených požadavků od nejaktivnějších uživatelů.
• Uživatelé k prošetření: Uživatelé, jejichž náklady jsou alespoň dvojnásobkem mediánu útraty.
• Pokrytí identity: Podíl požadavků přiřazených uživatelům.

User Insights vytváří základní profil běžného chování každého uživatele a označuje relace, které se od něj odchylují, což může znamenat kompromitovaný přihlašovací údaj nebo nesprávně fungujícího agenta.

Základní hodnoty se počítají za relaci, ne za požadavek. U každého uživatele vychází User Insights z 95. percentilu (p95) nákladů na relaci za posledních 30 dní. Základní hodnota je klouzavá a aktualizuje se podle toho, jak se využití mění.

Relace je označena, pokud překročí obě z následujících prahových hodnot:

• Relativní: Více než dvojnásobek vlastních nákladů uživatele na p95 relaci.
• Absolutní: Nad hodnotou p99 nákladů na relaci na úrovni organizace napříč všemi uživateli.

Musí být splněny obě prahové hodnoty. Tím se zamezí tomu, aby byly jako podezřelé označeny drobné výkyvy u uživatelů s nízkým využitím i běžné nákladově náročné relace u uživatelů s vysokým využitím.

Označení uživatelé se zobrazují ve filtrovaném zobrazení spolu s relacemi, které toto označení vyvolaly, a jejich náklady. User Insights požadavky neblokuje.

Vyberte uživatele a zobrazte si podrobnosti o jeho využití:

• Spend: Celková pozorovaná útrata uživatele v tomto rozsahu.
• Požadavky: Celkový počet požadavků uživatele na bránu.
• Tokeny: Celkový počet tokenů spotřebovaných uživatelem.
• Požadavky v mezipaměti gateway: Počet požadavků obsloužených z mezipaměti.
• Požadavky s chybou: Počet požadavků, které vrátily chybu.
• Míra úspěšnosti mezipaměti: Podíl požadavků obsloužených z mezipaměti.
• Relace: Přibližný počet relací odvozený z metadat požadavku.
• Nejpoužívanější model: Model, kterému uživatel odeslal nejvíce požadavků.
• Nejpoužívanější poskytovatel: Poskytovatel, kterému uživatel odeslal nejvíce požadavků.
• Naposledy viděno: Nejnovější aktivita z trendu denní útraty.
• Aktivní dny: Počet dnů, kdy uživatel v tomto rozsahu odesílal provoz.
• Pokrytí identity: Podíl požadavků uživatele přiřazených k identitě.