← Cloudflare Workers AI / workers-ai / features / function-calling

Традиционный

На этой странице показано, как выполнять традиционный вызов функций, определённый отраслевыми стандартами. Workers AI также предлагает embedded function calling, что значительно проще, чем традиционный вызов функций.

При традиционном вызове функций вы задаёте массив инструментов с именем, описанием и аргументами. В примере ниже показано, как передать инструмент с именем getWeather в запросе на инференс к модели.

Пример традиционного вызова функций

const response = await env.AI.run("@hf/nousresearch/hermes-2-pro-mistral-7b", {
	messages: [
		{
			role: "user",
			content: "what is the weather in london?",
		},
	],
	tools: [
		{
			name: "getWeather",
			description: "Return the weather for a latitude and longitude",
			parameters: {
				type: "object",
				properties: {
					latitude: {
						type: "string",
						description: "The latitude for the given location",
					},
					longitude: {
						type: "string",
						description: "The longitude for the given location",
					},
				},
				required: ["latitude", "longitude"],
			},
		},
	],
});

return new Response(JSON.stringify(response.tool_calls));

Затем LLM вернёт объект JSON с необходимыми аргументами и именем вызванного инструмента. Этот объект JSON можно передать дальше, чтобы выполнить вызов API.

[
	{
		"arguments": { "latitude": "51.5074", "longitude": "-0.1278" },
		"name": "getWeather"
	}
]

Рабочий пример вызова функций можно найти в нашем демо-приложение ↗.