Oumi 是什么?9,425 星的「造 AI 的 AI」,把微调、评测、部署压进一个 Agent(基础篇)

Oumi 是什么?9,425 星的「造 AI 的 AI」,把微调、评测、部署压进一个 Agent(基础篇)

这半年看下来,Agent 平台的竞争基本挤在两件事上:连接器够不够多,画布顺不顺手。Oumi 选了第三条路。它不给你一个现成的 Agent,而是让一个叫 FAiE 的 Agent 帮你在自己的数据上训出一个模型,再把模型装回 Agent 里。11 月 4 日,它把这条链路从「半自动」推到了「全自动」。

它到底是什么

Oumi 是一家西雅图公司,注册主体是 Oumi PBC(公益公司),五位联创里有人参与过 Google PaLM 的训练。产品分两层。

第一层是开源框架。GitHub 上 9,425 星、Apache-2.0、798 个 fork,最新版 v0.9 发布于 2026 年 9 月。覆盖范围很全:10M 到 400B+ 参数的模型都能训,SFT、LoRA、QLoRA、DPO、GRPO 都在里面;支持工具调用训练,环境可以是数据库、HTTP 端点、查表或模拟环境,GRPO 跑在 verl 上;评测除了标准 benchmark,还有一个多标准的 RubricJudge;推理接 vLLM 和 SGLang,一条 oumi deploy 起专用端点;调度能落到笔记本、Slurm 集群、AWS、Azure、GCP、Lambda、Modal。另外有个 oumi-mcp,能把 Oumi 挂进 Claude 或 Cursor 里用。

第二层是托管平台。核心是 FAiE(Frontier AI Engineer),流程五步:先跟你确认任务和输出格式,再让你挑 judge 模型生成评测器,然后合成和清洗数据(生成前等你批准),接着 SFT、on-policy 蒸馏、DPO 或 GRPO,最后部署并对生产流量做监控回流。11 月 4 日新加的是 Bring Your Own Harness:你原来那套 Agent 框架不用换,接进来就能用生产里的失败样本做评估集和训练数据。

Oumi FAiE 闭环:业务目标、评测器、数据合成、训练、部署与生产监控回流
Oumi 的 FAiE 闭环:评测器和数据合成两步都留了人工确认,生产里的失败样本会回流成下一轮训练数据。

跟 Dify、Langflow 不是一回事

拿它跟 Dify 这类平台比是错位的。画布型平台把模型当黑盒,卖的是编排;Oumi 把权重、数据、配方都交给你,官网叫「三级主权」:有自己的权重,有自己的流程,能独立重建。

所以它对应的是「某个任务必须做准」的场景,比如临床文本的词义消歧、博客里那个 3B 的 text-to-SQL,而不是「三天搭个客服机器人」。想先看整张地图的,可以翻一下之前那篇 十家 Agent 平台横评。

怎么上手

想白嫖:仓库里有五个 Colab,覆盖 Tour、LoRA 微调、蒸馏、LLM-as-a-Judge、GRPO,点开就能跑。

想写代码:pip install oumi,然后用 recipes 里的配置直接 oumi train、oumi evaluate、oumi infer、oumi deploy。配置驱动,不用自己写训练循环。

想用平台:注册送额度,企业邮箱 50 美元、个人邮箱 25 美元,Free 档有效期三个月;Pro 25 美元一个月,之后按量。价格摊开看(官网公开价):Agent 本身按 token 算,输入 6.25 美元/百万、输出 31.25 美元/百万;评测 1,000 次判定 1 美元;数据合成 1,000 行 1 美元;SFT 按训练 token 算,16B 以下 0.49 美元/百万,80.1 到 300B 是 6 美元/百万;on-policy 蒸馏 A100 2.9 美元、H100 4 美元每 GPU 小时;生产推理 A100 3 美元、H100 8 美元、H200 6.5 美元、B200 10 美元每 GPU 小时,按开机时长计。自带 OpenAI、Anthropic、Google 的 key,Oumi 不收推理差价。

说几句实话

第一,门槛不在平台,在数据。「什么算对」这件事 FAiE 替不了你,评测器选错,后面训出来的就是精致的错误。官网流程里每一步都留了人工确认,不是走过场。

第二,9,425 星不算大。Dify 16 万、Langflow 15.6 万,n8n 更不用说。星数少意味着模板少,踩坑基本靠自己读文档,遇到 verl、vLLM 的版本问题没人替你趟。

第三,开源不等于免费。代码是 Apache-2.0,但托管平台按 token 和 GPU 小时收钱;自己部署就是把账单换成显卡和运维。H100 推理 8 美元一小时是按 uptime 算的,挂着不干活也烧。

第四,案例页上列了 Microsoft、Google、IBM、Intel、Citi、Walmart,这是官网自述,没给合同细节;NYT 拿 Oumi 评估 Google AI Overviews 准确率的说法来自第三方数据库,我没找到官方通稿,当传闻看。融资是 2025 年 1 月的 1,000 万美元种子轮,投后估值 4,000 万美元,Venrock 和 Obvious Ventures 领投,名单里还有 Mozilla Ventures 和 Hugging Face 的 Clément Delangue。

适合谁:有私有数据、要把某一类任务做准、并且愿意维护一条训练流水线的团队。不适合谁:想拖拽三天上线、不想碰数据集和评测的人,Coze 那种更省事。

2026 年的分水岭已经很清楚:上半场比谁会编排,下半场比谁能让模型在自己的数据上变强。Oumi 押的是下半场,代价是你得真的懂一点训练。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注