← Cloudflare AI Gateway / ai-gateway / usage / providers

Azure OpenAI

Azure OpenAI ↗ позволяет применять алгоритмы обработки естественного языка к вашим данным.

Конечная точка

https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/azure-openai/{resource_name}/{deployment_name}

Предварительные требования

Для запросов к Azure OpenAI вам потребуется:

AI Gateway account ID
AI Gateway gateway name
Ключ API Azure OpenAI
Имя ресурса Azure OpenAI
Имя развертывания Azure OpenAI (также известное как имя модели)

Структура URL

Новый базовый URL будет использовать приведенные выше данные в следующей структуре: https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/azure-openai/{resource_name}/{deployment_name}. Затем вы можете добавить свой эндпойнт и api-version в конец базового URL, например .../chat/completions?api-version=2023-05-15.

Примеры

cURL

Пример запроса fetch

curl 'https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway}/azure-openai/{resource_name}/{deployment_name}/chat/completions?api-version=2023-05-15' \
  --header 'Content-Type: application/json' \
  --header 'api-key: {azure_api_key}' \
  --data '{
  "messages": [
    {
      "role": "user",
      "content": "What is Cloudflare?"
    }
  ]
}'

Используйте `openai` JavaScript SDK

JavaScript

import { AzureOpenAI } from "openai";

const azure_openai = new AzureOpenAI({
  apiKey: "{azure_api_key}",
  baseURL: `https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway}/azure-openai/{resource_name}/`,
  apiVersion: "2023-05-15",
  defaultHeaders: { "cf-aig-authorization": "{cf-api-token}" }, // if authenticated
});

const result = await azure_openai.chat.completions.create({
  model: '{deployment_name}',
  messages: [{ role: "user", content: "Hello" }],
});