Flue + Cloudflare Workers AI：免API Key的内置AI网关详解

Flue Cloudflare Workers AI免API Key的内置AI网关详解【免费下载链接】flueThe sandbox agent framework.项目地址: https://gitcode.com/GitHub_Trending/flue1/flueFlue 是运行在 Cloudflare Workers 上的 AI Agent 框架它的杀手级特性是内置 AI 网关全程免 API Key。你不需要向任何模型厂商申请密钥、不需要在配置里存放秘密——一行代码声明模型所有 AI 调用就自动走 Cloudflare 自家的 Workers AI 与 AI Gateway授权和计费直接跟随你的 Workers 账号还有每日免费额度可用。为什么可以跳过 API Key传统做法是注册模型厂商账号 → 申请 API Key → 存入环境变量或密钥管理服务 → 代码里读密钥发起 HTTP 调用。任何一步出错Agent 就跑不起来。Flue 在 Cloudflare 目标环境下走了一条完全不同的路自动注册cloudflare内置 provider当你的项目部署到 Cloudflare 时cloudflare/...这类模型前缀开箱即用无需任何额外配置不经过 HTTP走 Workers AI 绑定模型调用通过 Worker 环境的env.AI.run(...)完成绑定本身就是一份凭证——授权和计费跟随 Worker 本体详见 workers-ai-provider.ts 中Keyless: the binding itself is the credential的设计没有密钥就没有密钥泄露不需要配置 secret、不需要担心.env泄露、团队协作零门槛。计费按 Workers AI 的 Neurons 单位、跟随你的 Cloudflare 账号结算并带有每日免费额度对新手非常友好。快速上手三步配置方法第 1 步声明 AI 绑定在项目根目录的wrangler.jsonc中加一段配置即可参考示例项目 wrangler.jsonc{ ai: { binding: AI } }第 2 步一行代码声明模型一个 Flue Agent 就是一个带use agent指令的普通 TypeScript 函数参考 with-cloudflare-binding.tsuse agent; import { useModel } from flue/runtime; export function Assistant() { useModel(cloudflare/cf/moonshotai/kimi-k2.6); return You process direct requests using a Cloudflare Workers AI binding.; }cloudflare/之后的一切都会原样作为模型 ID 传给 Workers AI——既可以是cf/...的托管模型也可以是网关模型 ID如openai/gpt-5.5。第 3 步本地开发与部署npx vite dev # 本地 workerd 运行 npx vite build # 构建 npx wrangler deploy # 部署全程无需wrangler secret put因为你根本没有任何密钥可存。内置 AI 网关免费获得的三大能力默认情况下每一次cloudflare/...调用都会自动经过 Cloudflare 的 AI Gateway网关 ID 为default你零配置就获得了能力说明️ 响应缓存相同请求命中缓存省钱又提速 请求日志每次模型调用都有可检索的日志条目 预算控制在 Cloudflare 控制台为网关设置用量上限如果你需要更精细的调优可以在app.ts中用 cloudflareBindingProvider 覆盖默认网关用户注册优先于生成的默认配置setProvider( cloudflareBindingProvider({ binding: env.AI, gateway: { id: my-gateway, cacheTtl: 300, metadata: { tenant: acme } }, // ...或 gateway: false 完全绕过 AI 网关 }), );网关支持的选项完整定义见 gateway.tsid指定网关 IDskipCache/cacheTtl/cacheKey缓存行为控制metadata/collectLog/eventId日志与关联标识requestTimeoutMs对首个响应分片的时限约束通过cf-aig-request-timeout头下发。模型怎么选两种前缀的差别模型写法走向适用场景cloudflare/cf/xxxWorkers AI 托管模型OpenAI 兼容格式免 Key 调用 Workers AI 模型库cloudflare/openai/xxx、cloudflare/anthropic/xxx经 AI Gateway 转发免 Key 调用网关代理的厂商模型openai/gpt-5.5无前缀Flue 直连 OpenAI provider需要用自己的厂商 API Key一个容易混淆的点cloudflare/openai/gpt-5.5是通过 Cloudflare 计费的而openai/gpt-5.5走的是你自己的 OpenAI 密钥——写法只差一个前缀账单归属完全不同。生产级可靠性框架替你兜底Flue 的 Workers AI 通道内置了多项稳定性机制新手无需感知细节⏱️流空闲超时模型流超过 5 分钟默认没有吐出一个字节请求会失败并按可重试错误自动重试避免返回 200 后再也不说话的悬挂流截断即重试SSE 流异常中断无结束帧会被识别为传输层瞬时故障安全重试而不是污染会话会话亲和通过x-session-affinity头把同一会话的请求钉在相同模型实例上让厂商侧的前缀缓存生效精确的网关日志关联每条响应读取自身的cf-aig-log-id头并发下也不会把日志记错请求。小结场景推荐做法刚上手、想快速跑通用cloudflare/cf/...免 Key 零配置需要多厂商模型统一管理用cloudflare/vendor/...走 AI Gateway已有厂商密钥、要求直连保留厂商原生前缀 密钥一句话总结Flue 把连接 AI这件事从密钥管理问题降级成了一个字符串前缀——在 Cloudflare 上部署 Agent模型调用天然自带网关、缓存、日志与免费额度。进一步阅读模型选择与 provider 机制models.mdCloudflare 部署完整指南deploy/cloudflare.mdCloudflare 官方示例项目examples/cloudflare/内置 provider 源码packages/runtime/src/cloudflare/【免费下载链接】flueThe sandbox agent framework.项目地址: https://gitcode.com/GitHub_Trending/flue1/flue创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考