INTEGRITY Dokumentace

REST API

Tento návod vás provede nastavením a nasazením prvního projektu Workers AI. K experimentování s velkým jazykovým modelem (LLM) použijete REST API Workers AI.

Předpoklady

Zaregistrujte si účet Cloudflare pokud jste to ještě neudělali.

1. Získejte API token a ID účtu

K použití REST API potřebujete svůj API token a Account ID.

Chcete-li tyto hodnoty získat:

  1. V dashboardu Cloudflare přejděte na Workers AI stránce.

    Přejděte na Workers AI ↗
  2. Vyberte Použití REST API.

  3. Získejte svůj API token:

    1. Vyberte Vytvořte API Token pro Workers AI.
    2. Zkontrolujte předvyplněné informace.
    3. Vyberte Create API Token.
    4. Vyberte Kopírovat API Token.
    5. Uložte si tuto hodnotu pro budoucí použití. Tento token bude viditelný ve vašem profilu.
  4. Pro Získejte ID účtu, zkopírujte hodnotu pro ID účtu. Tuto hodnotu si uložte pro budoucí použití.

2. Spusťte model přes API

Po vytvoření API tokenu se ověřte a odesílejte požadavky na API s tímto tokenem uvedeným v požadavku.

Použijete Spustit AI model endpoint ke spuštění @cf/meta/llama-3.1-8b-instruct model:

curl https://api.cloudflare.com/client/v4/accounts/{ACCOUNT_ID}/ai/run/@cf/meta/llama-3.1-8b-instruct \
  -H 'Authorization: Bearer {API_TOKEN}' \
  -d '{ "prompt": "Where did the phrase Hello World come from" }'

Nahraďte hodnoty pro {ACCOUNT_ID} a {API_TOKEN}.

Odpověď z API bude vypadat následovně:

{
	"result": {
		"response": "Hello, World first appeared in 1974 at Bell Labs when Brian Kernighan included it in the C programming language example. It became widely used as a basic test program due to simplicity and clarity. It represents an inviting greeting from a program to the world."
	},
	"success": true,
	"errors": [],
	"messages": []
}

Tento příklad spuštění používá @cf/meta/llama-3.1-8b-instruct model, ale můžete použít kterýkoli z modelů v Katalog modelů Workers AI. Pokud používáte jiný model, budete muset nahradit {model} za název modelu, který chcete použít.

Dokončením tohoto návodu jste vytvořili účet Cloudflare (pokud jste jej ještě neměli) a token API, který uděluje oprávnění ke čtení Workers AI ve vašem účtu. Spustili jste @cf/meta/llama-3.1-8b-instruct model pomocí příkazu cURL z terminálu a obdrželi jste odpověď na svůj prompt ve formátu JSON.