← Cloudflare Workers AI / workers-ai / guides / tutorials

Model Llama 3.2 11B Vision Instruct na Cloudflare Workers AI

Než začnete, ujistěte se, že máte následující:

1. A účet Cloudflare ↗ s povolenými Workers a Workers AI.
2. Váš CLOUDFLARE_ACCOUNT_ID a CLOUDFLARE_AUTH_TOKEN.
   • API token můžete vygenerovat v dashboardu Cloudflare v sekci API Tokens.
3. Nainstalovaný Node.js pro práci s Cloudflare Workers (nepovinné, ale doporučené).

Při prvním použití Llama 3.2 11B Vision Instruct model musíte souhlasit s licencí společnosti Meta a zásadami přijatelného použití.

curl https://api.cloudflare.com/client/v4/accounts/$CLOUDFLARE_ACCOUNT_ID/ai/run/@cf/meta/llama-3.2-11b-vision-instruct \
  -X POST \
  -H "Authorization: Bearer $CLOUDFLARE_AUTH_TOKEN" \
  -d '{ "prompt": "agree" }'

Nahraďte $CLOUDFLARE_ACCOUNT_ID a $CLOUDFLARE_AUTH_TOKEN za skutečné ID účtu a token.

1. Vytvořte projekt Worker Nový projekt Worker vytvoříte pomocí create-cloudflare CLI (C3). Tento nástroj zjednodušuje nastavení a nasazování nových aplikací do Cloudflare.

   Spusťte v terminálu následující příkaz:

npm create cloudflare@latest -- llama-vision-tutorial

Při nastavení vyberte následující možnosti:

• Pro S čím byste chtěli začít?, vyberte Hello World example.
• Pro Jakou šablonu chcete použít?, vyberte Worker only.
• Pro Jaký jazyk chcete použít?, vyberte JavaScript.
• Pro Chcete používat git pro správu verzí?, vyberte Yes.
• Pro Chcete nasadit svou aplikaci?, vyberte No (před nasazením provedeme ještě několik změn).

Po dokončení nastavení se vytvoří nový adresář s názvem llama-vision-tutorial se vytvoří.

2. Přejděte do adresáře své aplikace Přepněte se do adresáře projektu:

   cd llama-vision-tutorial

3. Struktura projektu Váš llama-vision-tutorial adresář bude obsahovat:

   • Worker „Hello World“ na src/index.ts.
   • A wrangler.json konfigurační soubor pro správu nastavení nasazení.

Upravte src/index.ts (nebo index.js pokud nepoužíváte TypeScript) a nahraďte jeho obsah následujícím kódem:

export interface Env {
  AI: Ai;
}

export default {
  async fetch(request, env): Promise<Response> {
    const messages = [
      { role: "system", content: "You are a helpful assistant." },
      { role: "user", content: "Describe the image I'm providing." },
    ];

    // Replace this with your image data encoded as base64 or a URL
    const imageBase64 = "data:image/png;base64,IMAGE_DATA_HERE";

    const response = await env.AI.run("@cf/meta/llama-3.2-11b-vision-instruct", {
      messages,
      image: imageBase64,
    });

    return Response.json(response);
  },
} satisfies ExportedHandler<Env>;

1. Otevřete Konfigurační soubor Wrangler a přidejte následující konfiguraci:

{
	"env": {},
	"ai": {
		"binding": "AI"
	}
}

env = { }

[ai]
binding = "AI"

2. Uložte soubor.

Následujícím příkazem nasaďte svůj Worker:

wrangler deploy

1. Po nasazení získáte pro svůj Worker jedinečnou adresu URL (např. https://llama-vision-tutorial.<your-subdomain>.workers.dev).
2. Použijte nástroj, jako je curl nebo Postman pro odeslání požadavku svému Workeru:

curl -X POST https://llama-vision-tutorial.<your-subdomain>.workers.dev \
  -d '{ "image": "BASE64_ENCODED_IMAGE" }'

Nahraďte BASE64_ENCODED_IMAGE za skutečný řetězec obrázku zakódovaný v base64.

Odpověď bude obsahovat výstup modelu, například popis nebo odpověď na váš prompt na základě poskytnutého obrázku.

Příklad odpovědi:

{
	"result": "This is a golden retriever sitting in a grassy park."
}