INTEGRITY Документация

REST API

Это руководство проведёт вас через настройку и развёртывание первого проекта Workers AI. Вы будете использовать Workers AI REST API, чтобы поэкспериментировать с большой языковой моделью (LLM).

Предварительные требования

Зарегистрируйтесь для получения Аккаунт Cloudflare если вы ещё этого не сделали.

1. Получите API token и Account ID

Для использования REST API вам понадобятся API token и Account ID.

Чтобы получить эти значения:

  1. На панели управления Cloudflare перейдите к разделу Workers AI страницу.

    Перейдите в Workers AI ↗
  2. Выберите Использование REST API.

  3. Получите свой API-токен:

    1. Выберите Создайте API-токен Workers AI.
    2. Проверьте предзаполненную информацию.
    3. Выберите Создать API-токен.
    4. Выберите Скопируйте API-токен.
    5. Сохраните это значение для дальнейшего использования. Этот токен будет виден в вашем профиле.
  4. Для Получить Account ID, скопируйте значение для Account ID. Сохраните это значение для использования в будущем.

2. Запустите модель через API

После создания API-токена пройдите аутентификацию и отправляйте запросы к API, указывая этот токен в запросе.

Вы будете использовать Выполнение модели ИИ конечную точку для запуска @cf/meta/llama-3.1-8b-instruct модель:

curl https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/run/@cf/meta/llama-3.1-8b-instruct \
  -H 'Authorization: Bearer {API_TOKEN}' \
  -d '{ "prompt": "Where did the phrase Hello World come from" }'

Замените значения для {ACCOUNT_ID} и {API_TOKEN}.

Ответ API будет выглядеть примерно так:

{
	"result": {
		"response": "Hello, World first appeared in 1974 at Bell Labs when Brian Kernighan included it in the C programming language example. It became widely used as a basic test program due to simplicity and clarity. It represents an inviting greeting from a program to the world."
	},
	"success": true,
	"errors": [],
	"messages": []
}

В этом примере выполнения используется @cf/meta/llama-3.1-8b-instruct модель, но вы можете использовать любую из моделей в каталог моделей Workers AI. Если вы используете другую модель, вам потребуется заменить {model} названием нужной вам модели.

Пройдя это руководство, вы создали учетную запись Cloudflare (если у вас её ещё не было) и API-токен, предоставляющий права на чтение Workers AI для вашей учетной записи. Вы выполнили @cf/meta/llama-3.1-8b-instruct модель с помощью команды cURL из терминала и получили ответ на свой запрос в формате JSON.