← Cloudflare AI Gateway / ai-gateway / observability

Затраты

Метрики стоимости доступны только для эндпойнтов, где модели возвращают данные о токенах и название модели в своих ответах.

AI Gateway упрощает мониторинг и оценку затрат на основе токенов для всех ваших AI-провайдеров. Это может помочь вам:

• Изучайте и сравнивайте затраты на использование у разных провайдеров.
• Отслеживайте тренды и оценивайте расходы, используя единые метрики.
• Применяйте собственную логику ценообразования в соответствии с согласованными тарифами.

AI Gateway позволяет пользователям задавать Custom Costs при работе по специальным ценовым соглашениям или согласованным тарифам. Custom Costs можно применять на уровне запроса, и в этом случае они переопределяют стандартные или публичные затраты на модель. Дополнительную информацию о настройке Custom Costs см. в Custom Costs странице конфигурации.