开源圈最近有个反常现象:一边是 Agent 框架满天飞,一边是能把 Agent 真正跑起来的东西缺得厉害。这次挖到两个项目,一个负责讲清楚 Agent 到底怎么运作,另一个负责让 Agent 不花一分钱跑在你自己的机器上。
39K 星的国产开源书:把 Agent 拆成公式
bojieli/ai-agent-book《深入理解 AI Agent:设计原理与工程实践》,李博杰著,目前 39138 星、4317 fork,Apache 2.0。它最狠的地方不是内容多,而是一开头就把 Agent 定义成了一个公式:
Agent = LLM + 上下文 + 工具
十章正文,103 个配套实验,全部开源,PDF/EPUB 可以直接下离线看。仓库里还挂了 14 个语言的社区翻译版本,包括繁体中文、俄语、日语、韩语,翻译进度由社区自己维护。实验分本地项目和外部复现两条轨道,跟着敲一遍比看十篇二手解读都值。
作者最近在啃 2.0 版,章节结构正在重组,第 6 到第 9 章换成了「交互:观察与动作空间的扩展」「Agent 的评估」「模型后训练」「Agent 的持续进化」。这个调整本身透露了行业的共识:光会调工具已经不够了,评估、后训练、持续进化才是下一阶段的硬骨头。
1.7K 星的 Magnitude:让 Agent 跑在你自己 CPU 上
magnitudedev/magnitude,Apache 2.0,开源推理服务器,定位一句话说清:让你现在用的 Agent 直接跑本地模型。README 里点名的兼容列表里有 OpenCode、Hermes、OpenClaw、Claude Code、Codex、Cline,还有 Pi 和 Oh My Pi。
它的卖点是把「选模型」这件最烦的事自动化了。装完之后不是让你自己配 llama.cpp 或者 vLLM,而是让 Agent 自己去干:
Set up local models for me with the Magnitude CLI. Install it with
npm i -g @magnitudedev/cli, then run magnitude docs onboarding
你的 Agent 会读你的 CPU、内存和带宽,给出一份带 tok/s 预估的推荐模型清单,你挑完之后它自己下载、自己调参、自己切过去。里面还带了 speculative decoding、并发、按需加载和内存吃紧时自动卸载这些工程细节,不是 demo 级别的东西。平台覆盖 macOS 和 Linux,Windows 走 WSL。
项目今年 6 月才建仓,四个月 1.7K 星,不算爆款但方向非常准——它吃的是 Agent 最痛的那块成本。
说点实话
先说 ai-agent-book。它的 103 个实验和 14 语言翻译对中文圈来说是真福利,但翻译滞后是必然的,想跟最新章节对齐就盯中文原版。另外 PDF 是 GitHub Actions 构建的,main 一推送就重建,章节归属随时会变,别把旧 PDF 的章节号当准。
Magnitude 这边得泼点冷水。1.7K 星、13 个 open issue,这个体量离生产可用还有距离,Rust + C++ + Svelte 多语言栈在 ARM 设备上能不能跑顺,我没实测不敢打包票。它宣传的「按你的硬件推荐模型」,实际效果高度依赖显存/内存——核显或低内存机器大概率被推荐到小模型,性能是否对得起你的 Agent 场景,同样得自己试。README 里那句 “no minimum” 听着友好,翻译过来就是「什么都能跑,只是快慢自己受着」。
真正值得留意的组合是:先读明白书里的评估和上下文工程章节,再拿 Magnitude 把本地模型接进去实测。理论落地这一套,比盲目换模型有意义得多。
by 数码罗记 · godsun.pro