INTEGRITY Документация

Создайте свой первый AI Gateway с помощью Workers AI

Этот туториал проведёт вас через создание вашего первого AI Gateway с помощью Workers AI в панели управления Cloudflare. Он рассчитан на новичков, которые только начинают знакомиться с AI Gateway и Workers AI. Создание AI Gateway позволяет пользователю эффективно управлять запросами к ИИ и защищать их, используя модели ИИ для таких задач, как генерация контента, обработка данных или предиктивный анализ, с повышенным контролем и производительностью.

Зарегистрируйтесь и войдите

  1. Регистрация: Если у вас нет аккаунта Cloudflare, зарегистрироваться.
  2. Войти: откройте панель управления Cloudflare, войдя в Панель управления Cloudflare.

Создайте шлюз

Затем создайте новый AI Gateway.

Перейдите в AI Gateway ↗
  1. Войдите в Панель управления Cloudflare и выберите свой аккаунт.
  2. Перейдите в AI > AI Gateway.
  3. Выберите Create Gateway.
  4. Введите свой Название шлюза. Примечание: имя шлюза ограничено 64 символами.
  5. В Биллинг Workers AI, выберите, как будут оплачиваться запросы к Workers AI через этот шлюз:
    • Стандартный биллинг списывает средства с вашего аккаунта Cloudflare в конце каждого платёжного цикла.
    • Единый биллинг списывается с баланса предоплаченных кредитов AI Gateway в режиме реального времени.
  6. Выберите Создание.

Чтобы настроить AI Gateway через API:

  1. Создание API-токена со следующими разрешениями:

    • AI Gateway - Read
    • AI Gateway - Edit
  2. Получите ваш Account ID.

  3. Используя этот API-токен и Account ID, отправьте POST запрос в Cloudflare API.

Подключите своего провайдера ИИ

  1. В разделе AI Gateway выберите созданный вами шлюз.
  2. Выберите Workers AI в качестве провайдера, чтобы настроить эндпойнт специально для Workers AI. Вы получите URL-адрес эндпойнта для отправки запросов.

Отправьте свой первый запрос

  1. Перейдите в AI > Workers AI в Cloudflare dashboard.

  2. Выберите Использование REST API и выполните шаги по созданию и копированию API-токена и Account ID.

  3. Отправьте запрос с помощью REST API. Замените $CLOUDFLARE_ACCOUNT_ID и $CLOUDFLARE_API_TOKEN с вашим фактическим ID аккаунта и API-токеном:

    # Run `wrangler whoami` to get your account ID to replace $CLOUDFLARE_ACCOUNT_ID,
    # and `wrangler auth token` to get an auth token to replace $CLOUDFLARE_API_TOKEN.
    curl -X POST "https://api.cloudflare.com/client/v4/accounts/$CLOUDFLARE_ACCOUNT_ID/ai/v1/chat/completions" \
      --header "Authorization: Bearer $CLOUDFLARE_API_TOKEN" \
      --header "cf-aig-gateway-id: default" \
      --header "Content-Type: application/json" \
      --data '{
        "model": "@cf/moonshotai/kimi-k2.6",
        "messages": [{"role": "user", "content": "What is Cloudflare?"}]
      }'

Ожидаемый результат будет выглядеть примерно так:

{"result":{"response":"I'd be happy to explain what Cloudflare is.\n\nCloudflare is a cloud-based service that provides a range of features to help protect and improve the performance, security, and reliability of websites, applications, and other online services. Think of it as a shield for your online presence!\n\nHere are some of the key things Cloudflare does:\n\n1. **Content Delivery Network (CDN)**: Cloudflare has a network of servers all over the world. When you visit a website that uses Cloudflare, your request is sent to the nearest server, which caches a copy of the website's content. This reduces the time it takes for the content to load, making your browsing experience faster.\n2. **DDoS Protection**: Cloudflare protects against Distributed Denial-of-Service (DDoS) attacks. This happens when a website is overwhelmed with traffic from multiple sources to make it unavailable. Cloudflare filters out this traffic, ensuring your site remains accessible.\n3. **Firewall**: Cloudflare acts as an additional layer of security, filtering out malicious traffic and hacking attempts, such as SQL injection or cross-site scripting (XSS) attacks.\n4. **SSL Encryption**: Cloudflare offers free SSL encryption, which secure sensitive information (like passwords, credit card numbers, and browsing data) with an HTTPS connection (the \"S\" stands for Secure).\n5. **Bot Protection**: Cloudflare has an AI-driven system that identifies and blocks bots trying to exploit vulnerabilities or scrape your content.\n6. **Analytics**: Cloudflare provides insights into website traffic, helping you understand your audience and make informed decisions.\n7. **Cybersecurity**: Cloudflare offers advanced security features, such as intrusion protection, DNS filtering, and Web Application Firewall (WAF) protection.\n\nOverall, Cloudflare helps protect against cyber threats, improves website performance, and enhances security for online businesses, bloggers, and individuals who need to establish a strong online presence.\n\nWould you like to know more about a specific aspect of Cloudflare?"},"success":true,"errors":[],"messages":[]}%

Просмотр Analytics

Отслеживайте свой AI Gateway, чтобы просматривать метрики использования.

  1. Перейдите в AI > AI Gateway в панели управления.
  2. Выберите свой шлюз, чтобы просмотреть такие метрики, как количество запросов, использование токенов, эффективность кэширования, ошибки и примерная стоимость. Вы также можете включить дополнительные настройки, например логирование и ограничение скорости запросов.

Необязательно: дальнейшие шаги

Чтобы узнать больше о работе с Workers, см. Руководства.

Если у вас есть вопросы, нужна помощь или вы хотите поделиться своим проектом, присоединяйтесь к сообществу разработчиков Cloudflare на Discord чтобы пообщаться с другими разработчиками и командой Cloudflare.