INTEGRITY Dokumentace

Fine-tunes

Přečtěte si, jak pomocí Workers AI získat doladěnou inferenci.

Doladěná inference pomocí adaptérů LoRA

Nahrajte adaptér LoRA a spusťte doladěnou inferenci s jedním z našich základních modelů.


Co je doladění (fine-tuning)?

Doladění (fine-tuning) je obecný pojem pro úpravu AI modelu pokračováním v jeho trénování na dalších datech. Cílem doladění je zvýšit pravděpodobnost, že výstup modelu bude odpovídat vaší datové sadě. Trénování modelu od nuly není pro mnoho případů použití praktické, protože bývá nákladné a časově náročné. Doladěním existujícího předtrénovaného modelu využijete jeho schopnosti a zároveň dosáhnete požadovaného výsledku.

Low-Rank Adaptation (LoRA) je konkrétní metoda doladění, kterou lze použít na různé architektury modelů, nejen na LLM. V klasických metodách doladění se váhy předtrénovaného modelu obvykle přímo upravují nebo spojují s dalšími doladěnými váhami. LoRA naproti tomu nechává doladěné váhy a předtrénovaný model oddělené, takže samotný předtrénovaný model zůstává beze změny. Výsledkem je, že modely lze natrénovat tak, aby byly přesnější při konkrétních úlohách, například při generování kódu, při vytváření určité osobnosti nebo při generování obrázků v daném stylu.