降低 LLM 延迟是构建响应迅速的 AI 应用的工程师面临的最关键挑战之一。虽然大型语言模型（LLM）的能力持续增强，但它们逐 token 的生成方式会给最终用户带来令人沮丧的瓶颈，而漫长的等待时间会直接导致参与度下降和应用流失。因此，优化推理管线的速度是开发者的一项核心要求。本指南概述了如何配置提示词缓存、实现响应流式传输、构建边缘网络路由，以及使用无服务器配置来削减处理延迟。 [!TIP] 性能指标提示： 在测量 API 延迟时，请将首个 Token 时间（TTFT）与整体生成速度区分开来。较低的 TTFT 会让应用对用户产生即时的感觉，即便整个输出生成需要数秒，因为文本会立即开始渲染。 要点总结： 提示词缓存： 复用静态前缀头...
Cloudflare Workers
关于Cloudflare Workers的指南、教程和示例，这是一个在网络边缘部署快速、可扩展且安全应用的无服务器平台。
使用全新的 OpenAI Realtime API 构建低延迟音频管道，使开发人员能够在生产环境中推出类似人类的对话式语音智能体。传统上，构建语音界面意味着将三个独立的模型层链接在一起：自动语音识别（ASR）、基于文本的 LLM 逻辑层，以及文本转语音（TTS）合成。该多步骤管道引入了显著的往返网络延迟，使得自然对话变得不可能。通过持久的 WebSocket 连接进行原生音频处理改变了这一现状，将网络延迟降低到 300 毫秒以下。本指南阐述了如何建立连接状态、流式传输原始音频缓冲区以及优化会话配置。 [!IMPORTANT] API 安全警告：切勿在客户端浏览器脚本中直接公开您的 OpenAI API 密钥。始终通过安全的边缘中间...
构建 Cloudflare Workers AI 智能体是从简单的 AI 提示词过渡到自适应工作流的下一步。这些被称为 AI 智能体（AI Agent）的系统使用大语言模型（LLM）来调用外部工具、做出决策并自主执行任务。虽然传统的智能体运行需要沉重的服务器，但本教程将向您展示如何使用 Cloudflare Workers 和 LangChain.js 构建并托管无服务器的 AI 智能体。 TL;DR 了解 AI 智能体：智能体使用 LLM 做出决策并调用外部 API（工具/tools）来自主解决用户查询。 在边缘（edge）端使用 LangChain.js：LangChain.js 与 Cloudflare Workers 轻量级...
本 Cloudflare Workers AI 教程将向您展示如何直接在 Cloudflare 的全球边缘网络上部署和运行机器学习模型。借助 Cloudflare Workers AI ，您可以在靠近用户的地方执行大型语言模型（LLMs）、文本翻译、图像生成和语音转文字，而无需管理复杂的 GPU 服务器。以下步骤涵盖了如何配置 Wrangler、编写 fetch 处理程序、运行 Llama 模型以及优化边缘 API 成本。 TL;DR 无服务器运行 AI 模型；Cloudflare Workers AI 管理底层 GPU 基础设施，仅按活跃计算量计费。 在 wrangler.toml 中配置绑定（bindings）；...
Cloudflare Workers 与 AWS Lambda 都是无服务器计算平台，但它们的起点不同。Lambda 是庞大 AWS 生态系统中确立的无服务器标准；Workers 则是边缘原生的，为低延迟和全球分发而生。2026 年，两者都很出色，正确的选择取决于你的工作负载和现有技术栈。本指南从真正重要的维度对比 Cloudflare Workers vs AWS Lambda。 要点速览（TL;DR） Workers 在轻量的 V8 isolates 上于 edge 运行，cold start 几乎为零，并默认全球分发 Lambda 在 AWS 区域中以 microVM 模型运行，支持众多语言运行时，并与 AWS 生态系统深度集...
Cloudflare Workers 让你无需管理服务器，就能在靠近用户的边缘运行后端代码。对 API 而言，近乎为零的冷启动、全球分发与紧密集成的存储三者结合，使 Workers 在 2026 年成为极具吸引力的平台。本指南讲解 Cloudflare Workers API 的结构，以及它与传统后端有何不同。 要点速览 Cloudflare Workers 在边缘的 Cloudflare 全球网络上运行你的代码，因此请求可在靠近用户处以近乎为零的冷启动被处理 Worker 通过 fetch 处理器处理传入请求；你按方法与路径进行路由，并返回标准的 Response 对象 Workers 直接绑定到存储：D1（SQLite）、KV（...
如果 Cloudflare Images 是你图片栖身之处，那么 Cloudflare Image Transformations 就是让它们变快的引擎。它在图片被请求的那一刻调整尺寸、压缩并将其转换为现代格式，只使用你已经拥有的原图。没有构建步骤，没有预生成的缩略图，没有把你的存储弄得杂乱的单独副本。你在 URL 中请求想要的尺寸和格式，Cloudflare 便在边缘生成它并缓存。 本指南是我关于在 Cloudflare 上托管图片的概述的实用伴篇。它讲解运行转换的两种方式、重要的参数、在 2026 年的成本，以及如何在 WordPress 和 PrestaShop 上将这一切自动化。 摘要 转换从单张原图按需调整尺寸、压缩并将图...
在过去十年的大部分时间里，运行一个 AI 模型意味着租用 GPU 服务器、管理驱动程序，并且无论是否有请求进来都要为那些硬件付费。Cloudflare Workers AI 彻底改变了这种模式：你像调用 Worker 中任何其他函数一样调用一个 AI 模型，它运行在分布于 Cloudflare 全球网络的 GPU 上，而你只为所用付费。无需预置服务器，无需照看 GPU，推理就在你的用户附近发生。 本指南解释 Workers AI 是什么、你可以运行哪些模型、在 Neurons 定价模型下它的成本，以及如何从代码中调用它，其中包括一个实用的图片生成示例。它是我持续的 Cloudflare 攻略的一部分，旨在于边缘构建快速、现代的应用。...
多年来，对于"我该把这个部署到 Cloudflare 的哪里"这个问题，答案很简单：静态站点和前端放到 Pages，无服务器逻辑放到 Workers。到了 2026 年，这条界线已经模糊，因为 Workers 现在可以直接提供静态资源，这意味着单个 Worker 就能托管你的整个站点，前端和后端合二为一。这改变了 Cloudflare 自己对新项目的建议，在你选边站之前，值得先弄清楚原因。 本指南解释每个产品是什么，向静态资源的转变如何改变了 Cloudflare Pages vs Workers 的抉择，并为新项目以及任何在考虑是否迁移的人给出明确的建议。 摘要 Pages 是面向静态站点和前端框架的 git 连接托管，...
无服务器计算为应用代码解决了"没有服务器要管理"的问题，但数据库却是个尴尬的掉队者。你可以在边缘以毫秒级运行一个 Worker，然后眼睁睁看着它等待一个位于遥远单一区域的数据库。Cloudflare D1 弥合了这道鸿沟：它是一个真正的 SQL 数据库，构建在 SQLite 之上，存在于 Cloudflare 的网络上，并直接绑定到你的 Workers。你编写普通的 SQL，只为实际运行的查询付费。 本指南解释 D1 是什么、花费多少、如何从 Worker 查询它，以及何时应选择它而非 KV 或传统的 Postgres 数据库。 摘要 D1 是构建在 SQLite 之上的无服务器 SQL 数据库，直接绑定到 Cloudflare...