第 1 节 / 引用

各家怎么说自己

下面每段都出自其后链接的文件;省略号表示我们截短了,其他一字未改。

LiteLLM

Open Source AI Gateway for 100+ LLMs. Self-hosted. Enterprise-ready. Call any LLM in OpenAI format.

Production-ready gateway - virtual keys, spend tracking, guardrails, load balancing, and an admin dashboard out of the box

BerriAI/litellm · README.md (2026-09-26 阅读)

Portkey Gateway

Smart caching: Cache responses from LLMs to reduce costs and improve latency.

Manage MCP servers with enterprise auth & observability using MCP Gateway

Portkey-AI/gateway · README.md (2026-09-26 阅读;两行都指向 Portkey 自己的文档)

Agent Router(原名 Envoy AI Gateway)

Agent Router gives application teams one consistent, OpenAI-compatible API for every model and tool, from hosted providers to self-hosted inference and MCP servers. Platform teams keep credentials, routing, quotas, failover, and usage attribution in one place, enforced by Envoy and Envoy Gateway.

Envoy AI Gateway is now Agent Router, an Agentic AI Foundation project. Same code, same maintainers, same release cadence and Apache 2.0 license. Nothing you deploy is renamed:

envoyproxy/ai-gateway · README.md (2026-09-26 阅读)。如果你搜的是「Envoy AI Gateway」,两个名字都在结果里出现就是这个改名造成的。

Unified AI System(我们)

Self-hosted model routing gateway and agent control plane for OpenAI, Anthropic, Gemini and A2A agents behind one OpenAI-compatible API, protocol-first. MCP server security, governed tools, prompt enhancement, virtual-key budgets, cache, observability, audit chain and agent governance. Zero-key local first run; public preview.

这是我们自己仓库的描述字段,所以第 4 节把它拆成可核验的条目,而不留在口号层面。

第 2 节

各家 LICENSE 文件的写法

  • Unified AI System:Apache-2.0,整仓一个许可证。
  • Agent Router:它的 README 在改名那段里写明「Apache 2.0 license」,见上方引文。
  • Portkey Gateway:它的 LICENSE 文件以 MIT 条款开头。
  • LiteLLM:它的 LICENSE 是分段授权的,第一行就是 "Portions of this software are licensed as follows",也就是同一棵树里不同部分适用不同条款。把别人项目接进自己基础设施之前,这条值得自己打开文件看一眼——这也是本条存在的理由。

许可证不是功能,也不说明网关能做什么;它说明你 fork 之后同意的是什么。看文件,别看徽章。

第 3 节 / 有用的部分

交出 agent 流量之前,该问任何一家的三个问题

  1. 事后我能不能拿出「谁花了多少」的记录,而且这份记录能交给审计? 问清楚记录存在哪里、保留多久、能不能防篡改。一个仪表盘不是一份记录。
  2. 不给任何 provider 凭据时它会怎样? 要么直接拒绝(这完全可以,只要明说),要么有一个能在笔记本上演示的本地模式。 要命令,先跑一遍,再听介绍。
  3. 不用相信任何文档,我怎么验证发布出来的制品到底暴露了什么? 对一个暴露工具的网关来说,这是第 1 问的供应链版本:目录里的描述是文字,镜像才是产品。

这三个问题不是修辞。你可以把它们逐条丢给 LiteLLM、Portkey、Agent Router 或者我们, 而任何一个像样的回答都是一条命令或一页文档的链接,不是一句话。

第 4 节 / 我们的答案

我们的说法,以及每条怎么核验

  • 防篡改记录。网关写的是只追加的审计链,而不是可编辑的日志; 覆盖什么、不覆盖什么见 安全文档索引。
  • 零凭据可跑。缺省 provider 是本机 fake,一条文档命令就能起服务并打印增强后的提示词; 运行结果会自报 mode=fake、providerCalled=false、 credentialRequired=false,逐字段解释在 免凭据证据指南里,包括这三个字段不能证明什么。
  • 制品可核验。 node tools/verify-image-roster.mjs 0.8.0 通过普通 HTTPS 读取发布镜像, 把每个层 blob 与 manifest 声明的摘要比对,然后打印该镜像真正包含的工具清单。 这一页存着八个 tag 的实测读数。
  • MCP 的两个方向。我们既对外提供 MCP,也把上游 MCP server 与 OpenAPI 3 操作收进一个受治理的入口: 具体做法见 OpenAPI 转 MCP, 为什么操作界面是命令行而不是控制台见 终端优先。
  • 我们弱的地方。我们不宣传 100+ 或 200+ provider;上面那段自述里点到的聊天接口与 MCP、A2A 路径就是我们的范围, provider 数量本来也不是质量指标。老实说:这是一个 Public Preview,星数个位数,不是大型系统的首选默认答案。

第 5 节 / 保质期

这一页会怎样过期

三种方式,而且都可以核验:某个项目改名(Envoy AI Gateway 已经这样做了);README 里的句子被挪走 (照上面的链接去看那份文件的提交历史,别信这一页);或者我们自己的界面变了,让第 4 节不再描述今天真能跑的东西 —— 所以那一条一条都挂在命令或仓库内文档上,而不是挂在一个数字上。

如果你发现某段引文与链接里的文件已经不一致,那是这一页的缺陷: 开一个 issue 并附上那一行,我们会改日期和文本,不会反过来改引文。

自托管软件的 Public Preview。真实 provider 缺省关闭;本页不声称生产可用、L5 自主或 AGI。 列出另外三个项目是为了让读者更容易找到它们;本页不代表它们,也没有获得它们的背书。