← Cloudflare Workers AI / workers-ai / features / function-calling / embedded

Справочник API

Узнайте больше о справочнике API для embedded function calling.

Этот метод-обёртка позволяет выполнять embedded function calling. В него передаются привязка AI, модель, входные данные (messages массив и tools массив) и необязательные настройки.

• AI BindingAi
  • Привязку AI, например env.AI.
• modelBaseAiTextGenerationModels
  • Идентификатор модели, поддерживающей вызов функций. Например, @hf/nousresearch/hermes-2-pro-mistral-7b.
• inputОбъект
  • messagesRoleScopedChatInput[]
  • toolsAiTextGenerationToolInputWithFunction[]
• configОбъект
  • streamFinalResponseboolean optional
  • maxRecursiveToolRunsnumber optional
  • strictValidationboolean optional
  • verboseboolean optional
  • trimFunctionboolean optional: для trimFunction, вы можете передать ему autoTrimTools, это ещё один вспомогательный метод, который мы разработали для автоматического выбора нужных инструментов (с помощью LLM) перед отправкой запроса на инференс. Это означает, что ваш итоговый запрос на инференс будет содержать меньше входных токенов.

Этот метод позволяет автоматически создавать схемы инструментов на основе спецификаций OpenAPI, так что вам не придётся вручную писать или жёстко задавать схемы инструментов в коде. Вы можете передать спецификацию OpenAPI для любого API в формате JSON или YAML.

createToolsFromOpenAPISpec имеет входной параметр config, который позволяет выполнять переопределения, если нужно передать такие заголовки, как Authentication или User-Agent.

• specstring
  • Спецификация OpenAPI в формате JSON или YAML либо URL-адрес удалённой спецификации OpenAPI.
• configConfig необязательно - параметры конфигурации для функции createToolsFromOpenAPISpec
  • overridesConfigRule[] необязательно
  • matchPatternsRegExp[] optional
  • options Object необязательно { verbose boolean необязательно }