← Cloudflare AI Gateway / ai-gateway / usage / providers

Mistral AI

Mistral AI ↗ помогает быстро создавать приложения на основе продвинутых моделей ИИ от Mistral.

Конечная точка

https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/mistral

Предварительные требования

Отправляя запросы к Mistral AI, вам потребуется следующее:

AI Gateway Account ID
AI Gateway gateway name
API-токен Mistral AI
Название модели Mistral AI

Структура URL

Новый базовый URL будет использовать приведенные выше данные в следующей структуре: https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/mistral/.

Затем можно добавить нужный эндпойнт, например: v1/chat/completions

В итоге ваш URL будет выглядеть так: https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/mistral/v1/chat/completions.

Примеры

cURL

Пример запроса fetch

curl -X POST https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/mistral/v1/chat/completions \
 --header 'content-type: application/json' \
 --header 'Authorization: Bearer MISTRAL_TOKEN' \
 --data '{
    "model": "mistral-large-latest",
    "messages": [
        {
            "role": "user",
            "content": "What is Cloudflare?"
        }
    ]
}'

Используйте `@mistralai/mistralai` пакет с JavaScript

Если вы используете @mistralai/mistralai пакет, вы можете настроить конечную точку следующим образом:

Пример на JavaScript

import { Mistral } from "@mistralai/mistralai";

const client = new Mistral({
	apiKey: MISTRAL_TOKEN,
	serverURL: `https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/mistral`,
});

await client.chat.create({
	model: "mistral-large-latest",
	messages: [
		{
			role: "user",
			content: "What is Cloudflare?",
		},
	],
});

OpenAI-совместимый эндпойнт

Вы также можете обращаться к моделям Mistral через схему OpenAI API, используя REST API. Отправляйте свои запросы на:

https://api.cloudflare.com/client/v4/accounts/{account_id}/ai/v1/chat/completions

Укажите:


{
"model": "mistral/{model}"
}