← Cloudflare Workers / workers / languages / python / packages

Langchain

LangChain ↗ это самый популярный фреймворк для создания AI-приложений на основе больших языковых моделей (LLM).

LangChain публикует несколько пакетов Python. Среда выполнения Workers предоставляет следующие из них:

langchain ↗ (версия 0.1.8)
langchain-core ↗ (версия 0.1.25)
langchain-openai ↗ (версия 0.0.6)

Начало работы

Клонируйте cloudflare/python-workers-examples репозиторий и запустите пример LangChain:

git clone https://github.com/cloudflare/python-workers-examples
cd python-workers-examples/langchain
uv run pywrangler dev

Пример кода

from workers import WorkerEntrypoint, Response
from langchain_core.prompts import PromptTemplate
from langchain_openai import OpenAI

class Default(WorkerEntrypoint):
    async def fetch(self, request):
        prompt = PromptTemplate.from_template("Complete the following sentence: I am a {profession} and ")
        llm = OpenAI(api_key=self.env.API_KEY)
        chain = prompt | llm

        res = await chain.ainvoke({"profession": "electrician"})
        return Response(res.split(".")[0].strip())