INTEGRITY Dokumentace

← Cloudflare AI Gateway / ai-gateway / usage / providers

Mistral AI

Mistral AI ↗ vám pomáhá rychle vyvíjet aplikace s pokročilými modely AI od Mistralu.

Endpoint

https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/mistral

Předpoklady

Při odesílání požadavků do Mistral AI budete potřebovat:

Struktura URL

Vaše nová base URL bude mít podle výše uvedených údajů tuto strukturu: https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/mistral/.

Poté můžete připojit koncový bod, který chcete volat, například: v1/chat/completions

Vaše výsledná URL adresa tak bude vypadat takto: https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/mistral/v1/chat/completions.

Příklady

cURL

Příklad požadavku fetch
curl -X POST https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/mistral/v1/chat/completions \
 --header 'content-type: application/json' \
 --header 'Authorization: Bearer MISTRAL_TOKEN' \
 --data '{
    "model": "mistral-large-latest",
    "messages": [
        {
            "role": "user",
            "content": "What is Cloudflare?"
        }
    ]
}'

Použijte @mistralai/mistralai balíček s JavaScriptem

Pokud používáte @mistralai/mistralai balíček, můžete nastavit svůj endpoint takto:

Příklad v JavaScriptu
import { Mistral } from "@mistralai/mistralai";

const client = new Mistral({
	apiKey: MISTRAL_TOKEN,
	serverURL: `https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/mistral`,
});

await client.chat.create({
	model: "mistral-large-latest",
	messages: [
		{
			role: "user",
			content: "What is Cloudflare?",
		},
	],
});

Koncový bod kompatibilní s OpenAI

K modelům Mistral můžete přistupovat také pomocí schématu OpenAI API prostřednictvím REST API. Odesílejte své požadavky na:

https://api.cloudflare.com/client/v4/accounts/{account_id}/ai/v1/chat/completions

Zadejte:


{
"model": "mistral/{model}"
}