← Cloudflare Workers AI / workers-ai / guides / tutorials

Doladění modelů pomocí AutoTrain od HuggingFace

Doladění AI modelu vám umožňuje přidat k modelu další trénovací data. Workers AI umožňuje Low-Rank Adaptation, LoRA, adaptéry která vám umožní naše modely doladit.

V tomto tutoriálu prozkoumáme, jak vytvořit vlastní LoRAs. Zaměříme se na Doladění LLM pomocí AutoTrain ↗.

Začněte vytvořením souboru CSV (Comma Separated Values, tedy hodnot oddělených čárkou). Tento soubor bude mít pouze jeden sloupec s názvem text. Hlavičku nastavte přidáním slova text na samostatném řádku.

Nyní musíte vymyslet, co chcete do svého modelu přidat.

Příklady formátů najdete níže:

### Human: What is the meaning of life? ### Assistant: 42.

Pokud trénovací řádek obsahuje znaky nového řádku, měli byste ho uzavřít do uvozovek.

"human: What is the meaning of life? \n bot: 42."

Některé modely, jako Mistral, poskytují konkrétní chat template/formát instrukcí ↗

<s>[INST] What is the meaning of life? [/INST] 42</s>

Otevřete HuggingFace Autotrain Advanced Notebook ↗

Aby měl váš AutoTrain dostatek paměti, budete muset zvolit jiný Runtime. V nabídce v horní části Notebooku vyberte Runtime > Change Runtime Type. Zvolte A100.

Notebook obsahuje několik interaktivních částí, které budeme muset upravit.

Upravte následující pole

• project_name: Zvolte popisný název, který si později zapamatujete
• model_name: Vyberte jeden z oficiálních základních modelů HuggingFace, které podporujeme:
  • mistralai/Mistral-7B-Instruct-v0.2
  • google/gemma-2b-it
  • google/gemma-7b-it
  • meta-llama/llama-2-7b-chat-hf

Ačkoli to pro použití AutoTrain není nutné, vytvoření účet HuggingFace ↗ vám pomůže uchovávat artefakty finetuningu v přehledném repozitáři, ke kterému se můžete kdykoli později vrátit.

Pokud nastavení HuggingFace neprovedete, soubory si i tak můžete stáhnout z Notebooku.

Postupujte podle pokynů v poznámkovém bloku ↗ k vytvoření účtu a tokenu, pokud je to potřeba.

Stačí upravit jen několik z těchto polí, aby vše fungovalo na Cloudflare Workers AI.

• quantization: Změňte rozevírací seznam na none
• lora-r: Změňte hodnotu na 8

Notebooky mají strukturu složek, ke které se dostanete kliknutím na ikonu složky v levém navigačním panelu.

Vytvořte složku s názvem data.

Soubor CSV můžete přetáhnout přímo do notebooku.

Ujistěte se, že se jmenuje train.csv

V nabídce Notebooku vyberte Runtime > Run All.

Postupně projde všemi buňkami notebooku, nejprve provede instalace a poté nakonfiguruje a spustí vaši relaci AutoTrain.

Toto může chvíli trvat v závislosti na velikosti souboru train.csv.

Pokud narazíte na následující chybu, jde o chybu Out of Memory. Zkuste přepnout na výkonnější GPU backend.

subprocess.CalledProcessError: Command '['/usr/bin/python3', '-m', 'autotrain.trainers.clm', '--training_config', 'blog-instruct/training_params.json']' died with <Signals.SIGKILL: 9>.

Pokud jste provedli push na HuggingFace, najdete tam novou kartu modelu, kterou jste pojmenovali, v project_name výše. Karta modelu je ve výchozím nastavení soukromá. Přejděte k souborům a stáhněte soubory uvedené níže.

Ve svém Notebooku najdete i potřebné soubory. Nová složka, která odpovídá vašemu project_name tam bude.

Stáhněte si následující soubory:

• adapter_model.safetensors
• adapter_config.json

Musíte přidat jeden řádek do svého adapter_config.json které jste stáhli.

"model_type": "mistral"

Kde model_type je architektura. Aktuální platné hodnoty jsou mistral, gemma, a llama.

Jakmile máte své soubory připravené, můžete je přidat do svého účtu.

Můžete použít buď REST API nebo Wrangler.

Jakmile máte svůj nový fine tune připravený, můžete a použijte ho ve svých inferenčních požadavcích.