一家 2021 年成立、公开融资只有 2100 万美元的公司,2026 年 6 月 24 日把英国的 Seldon 买了下来。Seldon 从 2014 年就在做模型部署,比大多数 MLOps 公司都老。
买它的叫 TrueFoundry,注册在旧金山,团队一百人上下。8 月它又开源了 TrueForge——一个 Agent harness,到今天 6,485 星,官方 benchmark 说比 Claude Managed Agents 便宜最多 75%。
三件事连起来,路线很清楚:它不造 Agent,它管 Agent 的进出。
一、它到底是什么
一句话:企业 AI 网关,三道门。
- LLM Gateway:一个 API 接 1000 多个模型,路由、fallback、限流、预算、token 计费都在这一层;
- MCP Gateway + Registry:把 MCP server 收进目录,统一认证、授权、审计,工具不再散落在各人电脑上;
- Agent Gateway:不管 Agent 用什么框架写的(LangChain、CrewAI、纯手写),注册进来统一跑,带身份、RBAC、trace、成本归因、重试。
底下还有模型服务、微调、prompt 生命周期、GPU 编排、全链路观测。Kubernetes 原生,VPC、本地机房、气隙环境都能装——这是它跟 SaaS 网关最大的区别:模型 key 和数据不出你的域。
三个网关分开,是为了把三种风险分开管:模型的风险是钱(跑飞、重复调用、选错贵模型),工具的风险是权(Agent 拿到不该拿的 token,调了不该调的接口),Agent 的风险是身份(谁授权它跑、跑了什么、能不能回放)。混在一个框里,出了事分不清是哪一层。
二、为什么有人买
企业里 Agent 的麻烦不在写,在管:哪个团队用了哪个模型、一天烧多少钱、调了哪些工具、有没有越权、出事能不能查。TrueFoundry 把这些收在一个控制面里。
客户名单不弱:NVIDIA、Mastercard、CVS、Comcast、Siemens Healthineers、NetApp,9 月还签了澳洲的 Sportsbet,自托管在它自己的 AWS 里。
官方说网关每天过 1 万亿 token——厂商口径,听听就好。
买 Seldon 补的是另一半。Seldon 做了十二年模型服务,强项是把模型塞进 K8s、做推理扩缩、A/B 和漂移检测。TrueFoundry 原来强在网关和治理,模型怎么跑起来要靠别人;收进来之后,从「管调用」到「管部署」才算闭环。这笔交易没披露金额,但方向不难读。
三、上手
SaaS 注册就能试,也有自托管。最小路径不用改代码:配好模型 provider 的 key,拿一个 gateway token,把 OpenAI SDK 的 base_url 指过来,原来的调用就能跑。
MCP 和 Agent 再一层层加:先把 MCP server 注册进目录,再让 Agent 走 Agent Gateway。开源那半是 TrueForge,可以本地跑,适合先验证再上平台。
要注意它假设你已经有一套 K8s 和身份体系。没有 IAM、没有现成的模型配额制度,先把这两样理清楚再接网关,不然只是把混乱搬了个地方。
四、实话
第一,它是「管」的平台,不是「搭」的平台。没有画布、没有拖拽,Agent 还得自己写。要可视化去看 Dify,要流程编排看 n8n。
第二,融资不大。2100 万美元做到这个客户名单不容易,但也意味着支持力度和路线图要看它自己的节奏;Seldon 整合得好不好,2027 年才看得出来。
第三,自托管是卖点也是成本。K8s、GPU、网关三套东西都要人维护,小团队玩不转。
第四,那些数字都是厂商自己的口径:1 万亿 token/天、便宜 75%,对照组和 workload 没公开,别当第三方结论。
怎么选:公司里 Agent 多到数不清、模型账单开始失控、合规要审计,这种「管不过来」的痛,TrueFoundry 正中;只有一两个 Agent 的团队,先用 LiteLLM 或 Portkey 这类轻网关就够了。