← Cloudflare AI Gateway / ai-gateway / tutorials
Použití Pruna P-video prostřednictvím AI Gateway
Tento tutoriál ukazuje, jak zavolat P-video od Pruny ↗ model na Replicate přes AI Gateway.
Předpoklady
- A účet Cloudflare ↗
- A účet Replicate ↗ s API tokenem
1. Získejte token API Replicate
- Přejděte na replicate.com ↗ a zaregistrujte si účet.
- Po přihlášení přejděte na replicate.com/settings/api-tokens ↗.
- Vyberte Vytvoření tokenu a pojmenujte jej.
- Zkopírujte token a uložte ho na bezpečné místo.
2. Vytvořte AI Gateway
- Přihlaste se do Cloudflare dashboard ↗ a vyberte svůj účet.
- Přejděte na AI > AI Gateway.
- Vyberte Create Gateway.
- Zadejte své Název gateway. Poznámka: název brány má limit 64 znaků.
- V Fakturace Workers AI, zvolte, jak se účtují požadavky na Workers AI přes tuto bránu:
- Standardní fakturace účtuje váš účet Cloudflare na konci každého fakturačního cyklu.
- Jednotné účtování odečítá se z vašeho zůstatku předplacených kreditů AI Gateway v reálném čase.
- Vyberte Vytvořit.
Chcete-li nastavit AI Gateway pomocí API:
-
Vytvořte token API s následujícími oprávněními:
AI Gateway - ReadAI Gateway - Edit
-
Získejte svůj ID účtu.
-
Pomocí daného tokenu API a Account ID odešlete
POSTpožadavek do Cloudflare API.
Poznamenejte si ID účtu a Název gateway pro použití v dalších krocích.
Chcete-li do svého gateway přidat autentizaci, projděte si Autentizovaná Gateway.
3. Sestavte URL adresu gateway
Nahraďte standardní základní adresu URL rozhraní Replicate API adresou URL AI Gateway:
# Instead of:
https://api.replicate.com/v1
# Use:
https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/replicatePokud je například vaše ID účtu abc123 a vaše gateway je my-gateway:
https://gateway.ai.cloudflare.com/v1/abc123/my-gateway/replicate4. Vygenerujte video
Předpovědi P-video se obvykle dokončí do 30 sekund. Protože to je v rámci 60sekundového synchronního limitu Replicate, můžete použít Prefer: wait hlavičku k odeslání požadavku a získání výsledku jediným voláním:
curl https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/replicate/predictions \
--header "Authorization: Bearer {replicate_api_token}" \
--header "cf-aig-authorization: Bearer {cloudflare_api_token}" \
--header "Content-Type: application/json" \
--header "Prefer: wait" \
--data '{
"version": "prunaai/p-video",
"input": {
"prompt": "A cat walking through a field of flowers in slow motion",
"duration": 5,
"aspect_ratio": "16:9",
"resolution": "720p",
"fps": 24
}
}'Authorization: váš Replicate API token (ověřuje se u Replicate).cf-aig-authorization: váš Cloudflare API token (pro autentizované gateway).Prefer: wait: blokuje, dokud se predikce nedokončí, namísto toho, aby se okamžitě vrátil.
Úplný seznam dostupných vstupních parametrů najdete v stránka modelu prunaai/p-video ↗ na Replicate.
Po dokončení predikce odpověď obsahuje output pole s adresou URL vygenerovaného videosouboru.
5. (Volitelně) Použijte asynchronní dotazování pro delší požadavky
Pokud váš požadavek může překročit 60 sekund (například u delšího trvání nebo vyššího rozlišení), použijte místo toho asynchronní režim. Odešlete požadavek bez Prefer: wait hlavičku:
curl https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/replicate/predictions \
--header "Authorization: Bearer {replicate_api_token}" \
--header "cf-aig-authorization: Bearer {cloudflare_api_token}" \
--header "Content-Type: application/json" \
--data '{
"version": "prunaai/p-video",
"input": {
"prompt": "A cat walking through a field of flowers in slow motion",
"duration": 5,
"aspect_ratio": "16:9",
"resolution": "720p",
"fps": 24
}
}'Odpověď obsahuje predikci id:
{
"id": "xyz789...",
"status": "starting",
"urls": {
"get": "https://api.replicate.com/v1/predictions/xyz789...",
"cancel": "https://api.replicate.com/v1/predictions/xyz789.../cancel"
}
}Dotazujte se na stav predikce, dokud se nedokončí:
curl https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/replicate/predictions/{prediction_id} \
--header "Authorization: Bearer {replicate_api_token}" \
--header "cf-aig-authorization: Bearer {cloudflare_api_token}"Provádějte polling, dokud status je succeeded (nebo failed). Po dokončení output pole obsahuje adresu URL vygenerovaného videosouboru.
Další kroky
Odtud můžete:
- Použijte protokolování ke sledování požadavků a ladění problémů.
- Nastavení rate limiting k řízení využití.
- Použijte jiné modely na Replicate nebo naše další podporovaní poskytovatelé přes AI Gateway.