INTEGRITY Документация

← Cloudflare AI Gateway / ai-gateway / usage / providers

Cohere

Cohere ↗ создавать модели ИИ, разработанные для решения реальных бизнес-задач.

Конечная точка

https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/cohere

Структура URL

При отправке запросов к Cohere ↗, замените https://api.cohere.ai/v1 в URL, который вы сейчас используете с https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/cohere.

Предварительные требования

Для запросов к Cohere убедитесь, что у вас есть следующее:

Примеры

cURL

Запрос
curl https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/cohere/v1/chat \
  --header 'Authorization: Token {cohere_api_token}' \
  --header 'Content-Type: application/json' \
  --data '{
  "chat_history": [
    {"role": "USER", "message": "Who discovered gravity?"},
    {"role": "CHATBOT", "message": "The man who is widely credited with discovering gravity is Sir Isaac Newton"}
  ],
  "message": "What year was he born?",
  "connectors": [{"id": "web-search"}]
}'

Использование Cohere SDK с Python

Если используется cohere-python-sdk ↗, задайте эндпойнт следующим образом:

Python

import cohere
import os

api_key = os.getenv('API_KEY')
account_id = '{account_id}'
gateway_id = '{gateway_id}'
base_url = f"https://gateway.ai.cloudflare.com/v1/{account_id}/{gateway_id}/cohere/v1"

co = cohere.Client(
  api_key=api_key,
  base_url=base_url,
)

message = "hello world!"
model = "command-r-plus"

chat = co.chat(
  message=message,
  model=model
)

print(chat)

OpenAI-совместимый эндпойнт

Вы также можете обращаться к моделям Cohere через схему OpenAI API, используя REST API. Отправляйте свои запросы на:

https://api.cloudflare.com/client/v4/accounts/{account_id}/ai/v1/chat/completions

Укажите:


{
"model": "cohere/{model}"
}