← Cloudflare Workers AI / workers-ai / features

Fine-tunes

Узнайте, как использовать Workers AI для получения fine-tuned инференса.

Дообучение представляет собой общий термин, обозначающий изменение модели ИИ путем продолжения ее обучения на дополнительных данных. Цель дообучения состоит в том, чтобы повысить вероятность того, что результат генерации будет похож на ваш набор данных. Обучение модели с нуля нецелесообразно для многих сценариев использования, поскольку это может быть дорого и долго. Дообучая уже предобученную модель, вы получаете выгоду от её возможностей и одновременно решаете нужную вам задачу.

Low-Rank Adaptation ↗ (LoRA) представляет собой особый метод дообучения, применимый к самым разным архитектурам моделей, а не только к LLM. В традиционных методах дообучения веса предобученной модели обычно либо изменяют напрямую, либо объединяют с дополнительными весами тонкой настройки. LoRA же, наоборот, позволяет хранить веса тонкой настройки отдельно от предобученной модели, оставляя саму модель неизменной. В результате модель можно точнее настроить под конкретные задачи: например, писать код, придерживаться определённой личности или создавать изображения в заданном стиле.