← Cloudflare Workers AI / workers-ai / configuration

Workers Bindings

Workers poskytuje bezserverové prostředí pro spouštění kódu, ve kterém můžete vytvářet nové aplikace nebo rozšiřovat ty stávající.

Chcete-li používat Workers AI s Workers, musíte vytvořit binding. Vazby umožňují vašim Workerům pracovat s prostředky Cloudflare Developer Platform, jako je Workers AI. Vazby vytvoříte na Cloudflare Dashboardu nebo úpravou souboru Soubor Wrangler.

Chcete-li připojit Workers AI ke svému Workeru, přidejte následující na konec souboru Wrangler:

{
	"ai": {
		"binding": "AI" // i.e. available in your Worker on env.AI
	}
}

[ai]
binding = "AI"

Pages Functions umožňují vytvářet full-stack aplikace pomocí Cloudflare Pages spouštěním kódu v síti Cloudflare. Functions jsou ve skutečnosti Workers.

Vazbu Workers AI ve své Pages Function musíte nakonfigurovat prostřednictvím Cloudflare dashboardu. Viz Workers AI bindings s pokyny.

async env.AI.run() spustí model. Jako první parametr přijímá model a jako druhý objekt.

const answer = await env.AI.run('@cf/meta/llama-3.1-8b-instruct', {
    prompt: "What is the origin of the phrase 'Hello, World'"
});

Parametry

• model string povinné

  • Model, který se má spustit.

  Podporované možnosti

  • stream boolean volitelné
    • Vrací datový proud výsledků, jakmile jsou dostupné.

const answer = await env.AI.run('@cf/meta/llama-3.1-8b-instruct', {
    prompt: "What is the origin of the phrase 'Hello, World'",
    stream: true
});

return new Response(answer, {
    headers: { "content-type": "text/event-stream" }
});