← Cloudflare Workers AI / workers-ai / configuration

Workers Bindings

Workers предоставляет бессерверную среду выполнения, которая позволяет создавать новые приложения или расширять уже существующие.

Чтобы использовать Workers AI вместе с Workers, необходимо создать Workers AI привязка. Привязки позволяют вашим Workers взаимодействовать с ресурсами, например Workers AI, на платформе Cloudflare Developer Platform. Привязки создаются на дашборде Cloudflare либо путём обновления своего файл Wrangler.

Чтобы привязать Workers AI к своему Worker, добавьте следующее в конец файла Wrangler:

{
	"ai": {
		"binding": "AI" // i.e. available in your Worker on env.AI
	}
}

[ai]
binding = "AI"

Pages Functions позволяют создавать full-stack приложения на Cloudflare Pages, выполняя код в сети Cloudflare. По сути Functions это Workers.

Чтобы настроить привязку Workers AI в Pages Function, необходимо использовать панель управления Cloudflare. См. Привязки Workers AI с инструкциями.

async env.AI.run() запускает модель, принимая модель в качестве первого параметра и объект в качестве второго.

const answer = await env.AI.run('@cf/meta/llama-3.1-8b-instruct', {
    prompt: "What is the origin of the phrase 'Hello, World'"
});

Параметры

• model string обязательно

  • Модель, которую нужно запустить.

  Поддерживаемые параметры

  • stream boolean необязательно
    • Возвращает поток результатов по мере их появления.

const answer = await env.AI.run('@cf/meta/llama-3.1-8b-instruct', {
    prompt: "What is the origin of the phrase 'Hello, World'",
    stream: true
});

return new Response(answer, {
    headers: { "content-type": "text/event-stream" }
});