AI前沿速递|book-to-skill把书变成Agent技能、jcode 27MB内存跑编码Agent、AirLLM单卡啃Kimi K3、李博杰Agent教材开源

AI前沿速递|book-to-skill把书变成Agent技能、jcode 27MB内存跑编码Agent、AirLLM单卡啃Kimi K3、李博杰Agent教材开源

AI前沿速递|book-to-skill把书变成Agent技能、jcode 27MB内存跑编码Agent、AirLLM单卡啃Kimi K3、李博杰Agent教材开源

这周的 GitHub 热榜没有”XX 平替 XX”的大新闻,倒是四个方向扎堆冒头:把书变成 Agent 能直接调用的技能、把编码 Agent 的内存压到 27MB、用 4GB 显存啃下 2.8 万亿参数的模型、以及一本中文 Agent 教材被作者整本开源。知识、效率、算力、教程,正好是这波 Agent 基建的四块拼图。

1. book-to-skill — ⭐16.8k,把吃灰的技术书变成 Agent 的”肌肉记忆”

项目:virgiliojr94/book-to-skill | Python | MIT

问题很真实:买书一时爽,三个月后连第七章讲啥都想不起来。直接问 Agent?要么幻觉,要么”我没有这本书的内容”。翻 PDF?给你一堆页码。book-to-skill 的思路是把 PDF 蒸馏成一个符合 Agent Skills 开放标准的 skill:一本 400 页的书变成一份约 4000 token 的 SKILL.md(核心心智模型 + 章节索引),每章一个约 1000 token 的文件按需加载,外加 glossary、patterns、cheatsheet。

核心亮点:

  • 省 token 是硬指标:回答一个问题比把整本书塞进上下文省 24-51 倍(作者在真实书籍上测的)
  • 章节文件按需加载,不问到那章就不占上下文预算
  • 兼容 Claude Code / Copilot CLI / Amp,同一套 SKILL.md 格式通吃
  • 全程本地处理,书的内容不上传;工具本身不携带任何书的内容

上手方式:

git clone https://github.com/virgiliojr94/book-to-skill
# 装好后在 Agent 里直接:
/book-to-skill ./my-book.pdf
# 之后这样提问:
/my-book 第三章 讲的是什么

实话:没实测。转换质量取决于 PDF 排版和模型理解力,扫描版大概率翻车;版权上作者也划了红线——生成的 skill 别往外传。适合家里有技术书吃灰、想让 Agent 记住书里细节的人。

2. jcode — ⭐16k,内存最省的编码 Agent 壳,27.8MB 起步

项目:1jehuang/jcode | Rust | MIT

编码 Agent 现在是”驻留进程”,会话一多内存就爆——作者 README 的实测:OpenCode 开 10 个会话吃掉 3.2GB,Claude Code 2.3GB。jcode 用 Rust 重写整个 TUI,单会话最低 27.8MB(关本地 embedding),开语义记忆约 167MB;10 个会话 260MB,首帧 14ms,而 Claude Code 首帧要 3.4 秒。

核心亮点:

  • 10 会话 260MB,对比 OpenCode 3.2GB / Claude Code 2.3GB,差一个数量级
  • 自带语义记忆:每轮对话向量化入库,自动召回相关记忆,不靠工具烧 token
  • Swarm 模式:同仓库多 Agent 协作,文件被改会互相通知;主 Agent 还能自己拉”小弟”并行干活
  • 登录流全家桶:Claude / OpenAI / Gemini / Copilot / 阿里云 / MiniMax / LM Studio / Ollama 都能接

上手方式:

brew tap 1jehuang/jcode && brew install jcode
# Linux/macOS 也有一行脚本安装,支持 Windows 原生和 Termux
jcode login --provider openai

实话:内存数据是作者自测的,我没跑 benchmark 验证;harness 新项目迭代极快,插件生态还没起来。适合多开会话的”Agent 大户”和跑不动 Claude Code 的老机器。

3. AirLLM — ⭐28.2k,4GB 显存跑 70B,本周连 Kimi K3 都啃了

项目:lyogavin/airllm | Python | Apache-2.0

老项目翻红现场。AirLLM 的核心是”分层推理”:一次只往显存里放一层权重,算完换下一层,不量化、不蒸馏、不剪枝。2023 年底首发就能让 70B 跑在 4GB 卡上,上周刚宣布支持 Kimi K3(2.8T 参数,目前开源最大模型),实测单卡 3.72GB 显存跑完。

核心亮点:

  • 70B 单 4GB 卡、Llama 3.1 405B 单 8GB、DeepSeek-V3 671B 约 12GB、Kimi K3 2.8T 不到 4GB
  • 稀疏 MoE 模型按 expert 流式加载,只加载 token 实际路由到的专家
  • v3.0 加了 FP8 支持,Qwen3-235B 压到约 3GB
  • 用法跟 transformers 一致,一个 AutoModel 搞定

上手方式:

pip install airllm
# 然后像普通 transformers 一样加载模型即可

实话:没实测。分层推理换来的代价是慢——吞吐和并发别指望,适合个人玩具、跑推理脚本、验证想法;生产级服务别想。适合只有入门显卡还想玩大模型的折腾党。

4. ai-agent-book — ⭐30k,李博杰把《深入理解 AI Agent》整本开源了

项目:bojieli/ai-agent-book | Apache-2.0

本周涨了近万星的中文仓库。李博杰把《深入理解 AI Agent:设计原理与工程实践》全书正文、编译版 PDF、十章配套代码全扔 GitHub 上,还带在线版和多语言翻译。

核心亮点:

  • 10 章从 Agent 基础讲到上下文工程、记忆、工具、多 Agent 编排,配按章代码和可运行实验
  • 实验覆盖真实 API 调用,uv sync 一把装齐依赖,还给了 .env 模板
  • 在线版直接读:bojieli.github.io/ai-agent-book
  • Apache-2.0,欢迎 PR 勘误、补实验、加翻译(已有英日韩俄等 13 种语言目录)

上手方式:

git clone https://github.com/bojieli/ai-agent-book
cd ai-agent-book && uv sync
# 跑实验前在 .env 里配好模型 API Key

实话:我只看了 README 和目录,没跑实验;书里的实验要真金白银烧 API Key,克隆仓库不等于实验完成。适合想系统学 Agent 工程、而不是刷碎片教程的人。

今晚的观察

这周四个项目其实是一条线:Agent 从”能不能跑”卷到了”跑得省不省”。book-to-skill 省 token、jcode 省内存、AirLLM 省显存,连教材都开始把”省”当方法论教。另一个信号是知识层开始有标准——Agent Skills 开放标准正被 Copilot CLI、Claude Code 这些主流客户端共同接受,书、文档、经验都能变成 Agent 按需加载的资产。接下来拼的,是谁的 Agent 更会”过日子”。

以上项目均未深度实测,信息来自各仓库 README 与官方文档,上手前请自行验证。

by 数码罗记·godsun.pro

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注