← Cloudflare AI Gateway / ai-gateway / usage / providers

Azure OpenAI

Azure OpenAI ↗ umožňuje aplikovat na vaše data algoritmy zpracování přirozeného jazyka.

Endpoint

https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/azure-openai/{resource_name}/{deployment_name}

Předpoklady

Při zasílání požadavků na Azure OpenAI budete potřebovat:

ID účtu AI Gateway
Název gateway AI Gateway
API klíč Azure OpenAI
Název prostředku Azure OpenAI
Název nasazení Azure OpenAI (také název modelu)

Struktura URL

Vaše nová base URL bude mít podle výše uvedených údajů tuto strukturu: https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/azure-openai/{resource_name}/{deployment_name}. Poté můžete na konec základní adresy URL připojit svůj koncový bod a api-version, například .../chat/completions?api-version=2023-05-15.

Příklady

cURL

Příklad požadavku fetch

curl 'https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway}/azure-openai/{resource_name}/{deployment_name}/chat/completions?api-version=2023-05-15' \
  --header 'Content-Type: application/json' \
  --header 'api-key: {azure_api_key}' \
  --data '{
  "messages": [
    {
      "role": "user",
      "content": "What is Cloudflare?"
    }
  ]
}'

Použijte `openai` JavaScript SDK

JavaScript

import { AzureOpenAI } from "openai";

const azure_openai = new AzureOpenAI({
  apiKey: "{azure_api_key}",
  baseURL: `https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway}/azure-openai/{resource_name}/`,
  apiVersion: "2023-05-15",
  defaultHeaders: { "cf-aig-authorization": "{cf-api-token}" }, // if authenticated
});

const result = await azure_openai.chat.completions.create({
  model: '{deployment_name}',
  messages: [{ role: "user", content: "Hello" }],
});