← Cloudflare AI Gateway / ai-gateway / integrations

Kódovací agenti

Kódovací agenti za vás odesílají požadavky na modely poskytovateli. Pokud agenta nasměrujete na AI Gateway místo přímo na poskytovatele, získáte přehled nad tímto provozem a možnost ho řídit, aniž byste museli měnit svůj způsob práce.

Proč směrovat agenta pro psaní kódu přes AI Gateway

Směrování kódovacího agenta přes AI Gateway vám přináší:

Observabilita : zobrazte si každý požadavek, počet tokenů a latenci na dashboardu.
Ukládání do mezipaměti : vrátí odpovědi uložené v mezipaměti pro opakované prompty.
Omezení četnosti požadavků : omezte objem požadavků pomocí rate limiting.
Sledování nákladů : rozdělte výdaje podle relací a modelů.
Data Loss Prevention : skenujte prompty a odpovědi a hledejte tajné klíče, přihlašovací údaje a další citlivá data pomocí DLP.

Nastavit svého agenta

Postupujte podle průvodce nastavením svého kódovacího agenta:

Chraňte citlivý kód pomocí DLP

Kódovací agenti běžně posílají poskytovatelům modelů zdrojový kód, konfigurační soubory a úryvky kódu. Tento provoz může obsahovat API klíče, zákaznická data nebo jiný citlivý materiál. Protože AI Gateway stojí mezi agentem a poskytovatelem, můžete tento provoz kontrolovat a řídit, aniž byste museli agenta jakkoli měnit.

Data Loss Prevention (DLP) prohledává těla požadavků a odpovědí podle profily detekce a shody buď označí, nebo zablokuje. Použijte ji k zachycení tajných klíčů, přihlašovacích údajů nebo regulovaných dat opouštějících agenta (nebo se k němu vracejících).

Ověřte, že to funguje

Po nakonfigurování nástroje ověřte, že provoz dosahuje AI Gateway.

Odešlete prompt z kódovacího agenta.
V dashboardu Cloudflare přejděte na AI Gateway stránce.
Přejděte na AI Gateway ↗
Vyberte svůj gateway a poté vyberte Protokoly. Ověřte, že se požadavek zobrazuje s modelem, počtem tokenů a latencí.

Další informace o protokolech najdete v Protokolování.