LLMKit

CF Workers + Durable Objects 的 AI API 网关，支持 11 家 LLM 提供商的成本追踪与限流

仓库地址：https://github.com/smigolsmigol/llmkit

项目简介

CF Workers + Durable Objects 的 AI API 网关，支持 11 家 LLM 提供商的成本追踪与限流。该项目运行在 Cloudflare Workers 边缘运行时上，依托全球边缘网络分发，个人使用者基于 Cloudflare 免费套餐即可自部署运行。

关键技术

  • AI 网关
  • Durable Objects
  • 限流
  • 成本追踪

来源

收录自 awesome-cloudflare「加速」分类——一个持续整理的 Cloudflare 优秀开源项目清单。