← Cloudflare Workers AI / workers-ai / configuration

Hugging Face Chat UI

Používejte Workers AI s Chat UI ↗, open-source chatovací rozhraní od Hugging Face.

Budete potřebovat následující:

• A účet Cloudflare ↗
• Váš ID účtu
• API token pro Workers AI

Nejprve se rozhodněte, jak budete odkazovat na svoje Account ID a API token (buď přímo ve svém .env.local pomocí CLOUDFLARE_ACCOUNT_ID a CLOUDFLARE_API_TOKEN proměnných nebo v konfiguraci endpointu).

Poté postupujte podle zbytku pokynů k nastavení v GitHub repozitář Chat UI ↗.

Při nastavování modelů zadejte cloudflare koncový bod.

{
  "name" : "nousresearch/hermes-2-pro-mistral-7b",
  "tokenizer": "nousresearch/hermes-2-pro-mistral-7b",
  "parameters": {
    "stop": ["<|im_end|>"]
  },
  "endpoints" : [
    {
      "type": "cloudflare",
      // optionally specify these if not included in .env.local
      "accountId": "your-account-id",
      "apiToken": "your-api-token"
      //
    }
  ]
}

Tato šablona funguje s libovolným modely pro generování textu které začínají na @hf .