AI前沿速递|kimi-k3-in-c把2.78T模型塞进8GB内存、GenOffice开源AI办公全家桶、Cindy开箱即用AI Agent、agentacct给编程Agent记账
今晚这期有点意思——四个项目没一个大厂新玩具,全是社区里长出来的硬货:有把 2.78 万亿参数模型塞进 8GB 内存的纯 C 疯子工程,有叫板 Office 的开源 AI 办公套件,有号称”开箱即用”的 AI Agent 客户端,还有个专门给 Claude Code 记账的小工具。老规矩,信息都是从 README 和官方文档核过的,我没全部实测,哪些没碰我会明说。
1. kimi-k3-in-c — ⭐3005,把 2.78 万亿参数的 Kimi K3 塞进 8GB 内存的纯 C 推理引擎
解决什么问题:Kimi K3 的 checkpoint 有 1.56TB,正常得一堆 GPU 才能跑。这项目让一台普通 CPU 机器就能推理。
- 纯 C99 编写,整个引擎只有 176KB,不用 BLAS、不用框架、不用 GPU
- 实测峰值内存 8.24GB,”笔记本”档位约 32 秒/个 token——慢,但真能出活
- 内存给多少都行:8GB 到 224GB 跑出来是字节级一致的结果
- 四个狠招:专家权重 4-bit 打包、KDA 注意力、MLA 潜变量、trunk 流式加载
上手方式:
git clone https://github.com/FareedKhan-dev/kimi-k3-in-c
make && ./bin/k3 ~/k3model --trunk ~/k3trunk --preset laptop
--prompt "The capital of France is" --gen 8
实话:没实测。8.24GB 是作者测的数字,我没那台机器也没那 1.56TB 权重。而且这是 base 模型,没有聊天模板,生成的是”续写”不是对话,纯技术玩具。适合:搞推理优化、对 MoE 极致压缩感兴趣的工程师。
2. GenOffice — ⭐2126,开源 AI 办公全家桶(文档/表格/PPT/PDF)
解决什么问题:Office 和 WPS 贵且闭源,LibreOffice 又不够 AI。GenOffice 把 AI 编辑做成了一等公民,不是旁边挂个聊天框。
- 五件套:Docs/Sheets/Slides/PDF 加一个套件壳,共享同一套引擎
- Docs 做”字节级保留”的 .docx 编辑——只重写改动段落,其余原样保留,Word 里打开不破版
- Sheets 基于开源 Univer 内核 + Rust 侧车做 xlsx,图表、透视表、公式追踪都有
- AI 是块级编辑:改哪段生成哪段,带版本快照和 diff
- 跨平台,macOS/Windows/Linux 都有安装包
上手方式:
sudo apt install ./genoffice_0.5.149_amd64.deb # Linux 装 deb 即可
实话:没实测。最大的坑:AI 功能要登录 Genspark 账号,模型调用走它家服务,不存本地 API key——也就是说开源的是壳,AI 管道是闭源的。适合:想用 AI 办公又不想订阅国外 SaaS、能接受”壳开源”的人。
3. Cindy — ⭐1848,开箱即用的开源 AI Agent 客户端
解决什么问题:Claude Code 和 Codex 各玩各的,模型、记忆、技能互不相通。Cindy 把多套 harness、多个模型收进一个 Agent,开箱即用。
- 同时支持 Claude Code 和 Codex 两套 harness,任务中途能随时换模型
- 记忆跨 harness 共享:纠正她一次,以后就记住了
- 能驱动浏览器、电脑甚至手机,还能从 IM 和日程里接活
- 支持 MCP 接内部系统,插件市场在路上了,Apache-2.0
- 有”跳过登录”模式,不注册也能跑本地 agent
上手方式:直接去 cindy.app/download 下桌面端;源码是 pnpm monorepo,想自己折腾也可以 clone 下来 build。
实话:没实测。注意开源的是客户端,后端服务是闭源的;不登录的话只有本地 agent 能力,云端功能用不了。适合:同时订着 Claude Code 和 Codex、想统一管理的人。
4. agentacct — ⭐547,给编程 Agent 记账的本地小工具
解决什么问题:Claude Code/Codex 跑一天,token 烧了多少、钱花哪了?agentacct 直接读本机会话日志,终端里给你看账本。
- 纯本地:不联网、不注册、无遥测,连 API key 都不碰
- TUI 仪表盘:token 用量、成本估算、provider 限流条、最近会话一目了然
- 把任务拆成工作步骤:用了什么工具、改了哪些文件、测试过没过
- 诚实标注:成本是”定价表估算”不是发票;agent 自己说的和验证过的事实分开标
- 还能估算每个任务吃掉你多少”周度 Claude 套餐额度”
上手方式:
pipx install agentacct
agentacct onboard
agentacct tui
实话:没实测。项目很新,各家客户端的适配还在快速迭代,Windows 得走 WSL。适合:重度用 Claude Code/Codex、月底想对账的人。
今晚的观察
这期四个项目有个共同点:都在给”AI 变成日常工具”铺路。kimi-k3-in-c 让大模型摆脱集群,GenOffice 让 AI 走进办公室,Cindy 让 Agent 接管你的电脑,agentacct 帮你管住 Agent 的钱包——社区已经从”造模型”卷到了”造工具、造体验、造账本”的阶段,这其实比模型本身更接地气。
另一个观察:kimi-k3-in-c 的作者在 README 里直接贴了简历,说在找 AI 研究岗和 PhD 位置。GitHub 现在是真·求职平台了,拿作品说话,比啥都硬。
以上项目均未深度实测,信息来自各仓库 README 与官方文档,上手前请自行验证。
by 数码罗记·godsun.pro