AI前沿速递|book-to-skill把书变成Agent技能、jcode 27MB内存跑编码Agent、AirLLM单卡啃Kimi K3、李博杰Agent教材开源
这周的 GitHub 热榜没有”XX 平替 XX”的大新闻,倒是四个方向扎堆冒头:把书变成 Agent 能直接调用的技能、把编码 Agent 的内存压到 27MB、用 4GB 显存啃下 2.8 万亿参数的模型、以及一本中文 Agent 教材被作者整本开源。知识、效率、算力、教程,正好是这波 Agent 基建的四块拼图。
1. book-to-skill — ⭐16.8k,把吃灰的技术书变成 Agent 的”肌肉记忆”
项目:virgiliojr94/book-to-skill | Python | MIT
问题很真实:买书一时爽,三个月后连第七章讲啥都想不起来。直接问 Agent?要么幻觉,要么”我没有这本书的内容”。翻 PDF?给你一堆页码。book-to-skill 的思路是把 PDF 蒸馏成一个符合 Agent Skills 开放标准的 skill:一本 400 页的书变成一份约 4000 token 的 SKILL.md(核心心智模型 + 章节索引),每章一个约 1000 token 的文件按需加载,外加 glossary、patterns、cheatsheet。
核心亮点:
- 省 token 是硬指标:回答一个问题比把整本书塞进上下文省 24-51 倍(作者在真实书籍上测的)
- 章节文件按需加载,不问到那章就不占上下文预算
- 兼容 Claude Code / Copilot CLI / Amp,同一套 SKILL.md 格式通吃
- 全程本地处理,书的内容不上传;工具本身不携带任何书的内容
上手方式:
git clone https://github.com/virgiliojr94/book-to-skill
# 装好后在 Agent 里直接:
/book-to-skill ./my-book.pdf
# 之后这样提问:
/my-book 第三章 讲的是什么
实话:没实测。转换质量取决于 PDF 排版和模型理解力,扫描版大概率翻车;版权上作者也划了红线——生成的 skill 别往外传。适合家里有技术书吃灰、想让 Agent 记住书里细节的人。
2. jcode — ⭐16k,内存最省的编码 Agent 壳,27.8MB 起步
项目:1jehuang/jcode | Rust | MIT
编码 Agent 现在是”驻留进程”,会话一多内存就爆——作者 README 的实测:OpenCode 开 10 个会话吃掉 3.2GB,Claude Code 2.3GB。jcode 用 Rust 重写整个 TUI,单会话最低 27.8MB(关本地 embedding),开语义记忆约 167MB;10 个会话 260MB,首帧 14ms,而 Claude Code 首帧要 3.4 秒。
核心亮点:
- 10 会话 260MB,对比 OpenCode 3.2GB / Claude Code 2.3GB,差一个数量级
- 自带语义记忆:每轮对话向量化入库,自动召回相关记忆,不靠工具烧 token
- Swarm 模式:同仓库多 Agent 协作,文件被改会互相通知;主 Agent 还能自己拉”小弟”并行干活
- 登录流全家桶:Claude / OpenAI / Gemini / Copilot / 阿里云 / MiniMax / LM Studio / Ollama 都能接
上手方式:
brew tap 1jehuang/jcode && brew install jcode
# Linux/macOS 也有一行脚本安装,支持 Windows 原生和 Termux
jcode login --provider openai
实话:内存数据是作者自测的,我没跑 benchmark 验证;harness 新项目迭代极快,插件生态还没起来。适合多开会话的”Agent 大户”和跑不动 Claude Code 的老机器。
3. AirLLM — ⭐28.2k,4GB 显存跑 70B,本周连 Kimi K3 都啃了
项目:lyogavin/airllm | Python | Apache-2.0
老项目翻红现场。AirLLM 的核心是”分层推理”:一次只往显存里放一层权重,算完换下一层,不量化、不蒸馏、不剪枝。2023 年底首发就能让 70B 跑在 4GB 卡上,上周刚宣布支持 Kimi K3(2.8T 参数,目前开源最大模型),实测单卡 3.72GB 显存跑完。
核心亮点:
- 70B 单 4GB 卡、Llama 3.1 405B 单 8GB、DeepSeek-V3 671B 约 12GB、Kimi K3 2.8T 不到 4GB
- 稀疏 MoE 模型按 expert 流式加载,只加载 token 实际路由到的专家
- v3.0 加了 FP8 支持,Qwen3-235B 压到约 3GB
- 用法跟 transformers 一致,一个 AutoModel 搞定
上手方式:
pip install airllm
# 然后像普通 transformers 一样加载模型即可
实话:没实测。分层推理换来的代价是慢——吞吐和并发别指望,适合个人玩具、跑推理脚本、验证想法;生产级服务别想。适合只有入门显卡还想玩大模型的折腾党。
4. ai-agent-book — ⭐30k,李博杰把《深入理解 AI Agent》整本开源了
项目:bojieli/ai-agent-book | Apache-2.0
本周涨了近万星的中文仓库。李博杰把《深入理解 AI Agent:设计原理与工程实践》全书正文、编译版 PDF、十章配套代码全扔 GitHub 上,还带在线版和多语言翻译。
核心亮点:
- 10 章从 Agent 基础讲到上下文工程、记忆、工具、多 Agent 编排,配按章代码和可运行实验
- 实验覆盖真实 API 调用,
uv sync一把装齐依赖,还给了 .env 模板 - 在线版直接读:bojieli.github.io/ai-agent-book
- Apache-2.0,欢迎 PR 勘误、补实验、加翻译(已有英日韩俄等 13 种语言目录)
上手方式:
git clone https://github.com/bojieli/ai-agent-book
cd ai-agent-book && uv sync
# 跑实验前在 .env 里配好模型 API Key
实话:我只看了 README 和目录,没跑实验;书里的实验要真金白银烧 API Key,克隆仓库不等于实验完成。适合想系统学 Agent 工程、而不是刷碎片教程的人。
今晚的观察
这周四个项目其实是一条线:Agent 从”能不能跑”卷到了”跑得省不省”。book-to-skill 省 token、jcode 省内存、AirLLM 省显存,连教材都开始把”省”当方法论教。另一个信号是知识层开始有标准——Agent Skills 开放标准正被 Copilot CLI、Claude Code 这些主流客户端共同接受,书、文档、经验都能变成 Agent 按需加载的资产。接下来拼的,是谁的 Agent 更会”过日子”。
以上项目均未深度实测,信息来自各仓库 README 与官方文档,上手前请自行验证。
by 数码罗记·godsun.pro