GitHub 双响:audio.cpp 把语音塞进 C++,小米 MiMo-Code 给终端 Agent 装上记忆
这两天刷 GitHub,两个新项目同时冒出来,一个是纯 C++ 的语音推理引擎,一个是小米开源的终端编程 Agent。一个解决”语音模型太重太难装”,一个解决”终端 Agent 关掉就失忆”。都不是套壳 demo,都能直接上手。
audio.cpp:3.2K 星,纯 C++ 搞定 100 多个语音模型
项目地址:https://github.com/0xShug0/audio.cpp
这个项目的动机一句话说清:你想试一个 TTS 或 ASR 模型,结果要开 Conda 环境、装几十个 Python 包、天天处理依赖冲突。作者烦了,索性用 C++ 重写了一套。
事实摆一下:3.2K 星、366 fork,2026 年 6 月 23 日建仓,现在还在每天提交,纯 C++,底层跑 ggml,明确写了 No Python dependency。
覆盖范围是真的广。TTS、STT、VAD(语音活动检测)、声音克隆、变声、音乐生成、说话人分离(diarization)、音源分离,全在一个运行时里。发布节奏也能看出投入:v0.5 时是 44 个模型家族,v0.6 涨到 49 个家族、70 多个变体,v0.8.2(9 月 23 日)当天就上了 NVIDIA Nemotron 3 分离模型的 day-zero 支持,带流式和批量推理。
性能数字我核对了 README,都是项目自己给的基准,不是媒体吹的:
- CUDA 下多条 TTS 路径比 Python 参考实现快 1.8 倍到 8 倍,端到端延迟降 45%–85%
- GGUF 的 Q8 量化包最高快 1.53 倍,峰值显存降约 37%(Higgs Audio、Fish Audio、Voxtral 这几条路径)
- Apple Silicon 上 VoxCPM2 实测快 2.56 倍
- Qwen3-TTS 从默认精度切到 q8_0,峰值显存降 25%,内存降 3.7%
- Supertonic 3 在 RTX5090 上 3 分钟出 10 小时音频,CUDA 最高 200 倍实时,CPU 也有 6 倍以上,流式首字延迟 47ms
- VibeVoice 1.5B 不量化、10 步扩散,18.2 分钟生成 93.9 分钟播客,约 5.15 倍实时
平台覆盖 Windows / Linux / macOS,后端有 CUDA、AMD 的 HIP/ROCm(早期支持)、Apple Silicon 的 Metal、Vulkan,还有纯 CPU。带原生 WebUI,还新增了 Arena 面板,可以拿同一段输入排队跑多个模型或多个 GGUF 变体做对比。
小米 MiMo-Code:13.6K 星,OpenCode 的 fork
项目地址:https://github.com/XiaomiMiMo/MiMo-Code
小米的 MiMo 系列在 GitHub 上开了个编程助手。13.6K 星、1.4K fork,TypeScript,6 月 10 日建仓,MIT 协议。
关键信息先说了:它是 OpenCode 的 fork。作者自己 README 里写明的,保留了 OpenCode 的多 provider、TUI、LSP、MCP、插件这些核心能力,然后往上加料:
- 持久记忆:SQLite FTS5 全文索引,
MEMORY.md存项目知识和架构决策,checkpoint.md是 checkpoint-writer 子 Agent 自动维护的状态快照,notes.md给 Agent 当临时便签 - 上下文管理:自动决定何时存档;上下文快满了就从 checkpoint + 项目记忆 + 任务进度重建上下文;用 token 预算控制注入量;
/context-limit可以让压缩点比模型自身窗口提前 - 子 Agent 编排 + 目标驱动的自主循环
- Dream & Distill 自进化:
/dream扫最近的会话轨迹,把值得留的知识提进项目记忆、顺手删掉过期的;/distill发现你反复手动做的活,把高置信的打包成可复用的 skill、子 Agent 或命令
内置 agent 包括 sales、skill-creator、super-research、xlsx-official 这几个。
实话
audio.cpp 我给高分。理由是它解决的痛点太具体了——语音模型生态的依赖地狱是每个本地玩家都撞过的墙。3 个月从零做到 49 个模型家族,性能数据自己敢往 README 上贴,也老老实实列了短板:GGUF 只是容器不是通用架构适配器,现成的 llama.cpp / whisper.cpp 的 GGUF 文件不能直接用;Metal 和 Apple XCFramework 打包在框架重构后还没重测。
MiMo-Code 我保留意见。技术上没毛病,fork 一个成熟项目加记忆和自进化,是聪明的做法,三个月 1.36 万星说明市场认。但有两件事得盯着:一是 fork 的更新怎么跟,OpenCode 迭代很快,跟不上就是负担;二是 USE_RESTRICTIONS.md 这份额外限制文件,MIT 源码配使用限制,后续商业化怎么解释得看小米自己怎么说。
一句话总结:这两个项目指向同一件事——2026 年大家卷的不再是”谁的 Agent 更聪明”,而是”谁的 Agent 更能干活、更能扛住长期使用”。audio.cpp 让语音能力变成一个能随手调用的底层库,MiMo-Code 让编程 Agent 变成一个跨会话的长期工位。方向比数量重要。
想了解更多硬核折腾记录,可以翻翻 godsun.pro 和本站 ai.godsun.pro。
by 数码罗记·godsun.pro