title: “AI前沿速递|MoE本地推理、AI求职、量化交易Agent、视频编辑开源”
slug: “moe-inference-ai-job-trading-video”
date: “2026-07-21T22:30:00+08:00”
categories: [“AI前沿速递”]
tags: [“Colibri”, “OpenWiki”, “ai-job-search”, “Vibe-Trading”, “Destructive Command Guard”, “OpenCut”, “MoE推理”, “AI求职”, “量化交易”, “AI安全”, “开源视频编辑”, “GitHub热门”]
author: “A7z-爱马仕”
晚上好,各位。今天刷GitHub Trending有个特别强烈的感受——AI圈的方向分化越来越明显了。前两个月大家还在卷Agent框架、卷推理引擎,现在赛道开始往两个极端走:一端是让AI更接地气(帮你找工作、帮你炒股、帮你剪视频),另一端是让AI更安全(别让Agent乱删你代码)。
中间还夹着一个硬核到离谱的工程奇迹——有人用纯C在25GB内存的笔记本上跑起了744B参数的GLM-5.2。这玩意儿我必须聊聊。
今晚6个项目,全是之前没写过的,走起。
1. Colibri — 25GB内存跑744B模型,纯C零依赖的MoE推理引擎
⭐ ~14.7K Stars | C | Apache-2.0 | 本周持续增长
这项目让我直接看傻了。GLM-5.2是744B参数的MoE模型,正常跑这玩意儿你得准备几块A100对吧?Colibri的作者Vincenzo用纯C写了个推理引擎,在25GB内存的笔记本上就能跑——秘诀是把SSD、RAM、VRAM当成一个三级存储体系来用。
核心机制:
– 稠密部分常驻内存:~9.9GB(int4量化),一直待在RAM里
– 21,504个路由专家按需从磁盘流式加载:总共~370GB的专家权重存在SSD上,用到哪个加载哪个
– 每层LRU缓存:热专家自动缓存,冷专家用完释放
– MTP投机解码:原生支持,不是后加的
– Web仪表盘:./coli web直接看实时token指标、VRAM/RAM/磁盘三级状态、专家路由热力图
性能数据:25GB RAM + 1GB/s NVMe = 0.05-0.1 tok/s(冷启动),Apple M5 Max 128GB = ~1 tok/s,6×RTX 5090全驻留 = 4 tok/s。冷启动确实慢,但能跑就是奇迹——这是第一个让消费级硬件摸到744B模型的东西。
作者是一个人搞的,Reddit上发帖说”lots of late nights, fighting with quantization, streaming, MTP, and a ton of help from coding agents”。纯C,零依赖,编译出来一个二进制。这工程水平,服了。
2. ai-job-search — 被裁之后用Claude Code找工作,结果搞出了23K星的项目
⭐ ~23K Stars | TypeScript | MIT | GitHub Trending #1
GitHub → MadsLorentzen/ai-job-search
这个故事太真实了。作者Mads Lorentzen在2025年底被裁,然后直接用Claude Code给自己写了个求职自动化框架——评估岗位匹配度、定制简历、写求职信、准备面试,一条龙。用这套系统评估了740+岗位,最后拿到了Head of Applied AI的offer。然后他把代码开源了,两周23K星。
核心功能:
– /scrape:从招聘网站抓取岗位信息(内置丹麦市场portal,其他地区用/add-portal自定义)
– /apply:根据你的profile自动生成定制简历+求职信,8分钟搞定原来3小时的活
– /interview:面试准备,根据岗位描述生成模拟问题和回答要点
– 六维度评分:1.0-5.0打分,不是简单的”匹配/不匹配”
– LaTeX简历输出:生成ATS友好的PDF
这项目最妙的地方是——它不是SaaS,不是平台,就是一个Claude Code的skill。你fork下来,填自己的profile,Claude就变成你的求职助手。零成本,唯一的花费就是你本来就在付的Claude订阅费。
3. Vibe-Trading — 用自然语言炒股,港大数据科学实验室出品
⭐ ~24K Stars | Python | Apache-2.0 | GitHub Trending #1 (7月12日)
港大数据科学实验室(HKUDS)出的量化交易Agent。不是那种”AI预测涨跌”的玄学项目——Vibe-Trading把自然语言转成回测策略,452个预置Alpha因子,严格的点对时(Point-in-Time)数据处理防止前视偏差,学术级别的严谨。
核心亮点:
– 自然语言→回测:说”找过去3年沪深300中低估值高股息的策略”,它自动构建因子组合、回测、出报告
– 452+预置Alpha因子:不是从零开始,直接站在巨人的肩膀上
– Point-in-Time数据:防止前视偏差,回测结果可信
– Swarm多Agent架构:21个worker跨13个preset,研究、回测、风控分工协作
– 16个IM通道适配器:策略信号可以推到微信、Telegram、Discord等
– v0.1.11刚发布:新增印度NSE/BSE印度市场支持、460因子Alpha Zoo、视觉分析工具
⚠️ 重要警告:项目方已声明有假币冒充Vibe-Trading发token,千万别买任何”Vibe-Trading token”或连钱包,官方跟那些骗局没有任何关系。
4. OpenWiki — LangChain出的AI文档生成CLI,让Agent真正读懂你的代码库
⭐ ~11.8K Stars | TypeScript | MIT | 2周7.5K星
GitHub → langchain-ai/openwiki
LangChain在7月1号放出来的新项目,Brace Sproul做的。核心问题很简单:AI编码Agent写代码好不好,取决于它理不理解你的代码库。但理解代码库的上下文要么塞在一个臃肿的AGENTS.md里,要么根本没有。OpenWiki就是来解决这个问题的。
核心机制:
– openwiki --init:一键生成代码库wiki,自动写入AGENTS.md/CLAUDE.md的引用
– Agent按需读取:不是把几百页文档全塞进上下文,而是Agent需要时才去查对应部分
– GitHub Action自动更新:定时检查commit和diff,wiki跟着代码走,不会过时
– 双模式:Code模式(代码库文档)+ Personal模式(个人知识库,接Gmail/Notion/HN/X等数据源)
– LangSmith追踪:可选,看Agent生成文档时到底做了什么
这东西跟codebase-memory-mcp是互补的——memory-mcp解决的是”查结构”,OpenWiki解决的是”读文档”。两个一起用,Agent对代码库的理解就真的完整了。
5. Destructive Command Guard (dcg) — 别让AI Agent删了你的代码
⭐ ~3.2K Stars | Rust | MIT
GitHub → Dicklesworthstone/destructive_command_guard
这项目解决的是一个所有用AI编码Agent的人都怕的问题:Agent偶尔会执行灾难性命令——git reset --hard、rm -rf ./src、DROP TABLE users——几秒钟毁掉几小时的工作。
dcg是一个Rust写的高性能安全钩子,插在Agent和终端之间,命令执行前先过一遍检查:
核心机制:
– 三层管线:Tier 1快速拒绝(<10μs,SIMD加速,95%+命令直接放行)→ Tier 2上下文分类 → Tier 3完整正则匹配
– 50+安全包:覆盖git、数据库、Kubernetes、Docker、AWS/GCP/Azure等
– 全平台Agent支持:Claude Code、Codex CLI、Gemini CLI、Copilot CLI、Cursor、Hermes Agent、Grok (xAI)
– 一键安装:dcg install自动检测平台、下载二进制、配置钩子
– Fail-open设计:解析器出错或超时不会阻断工作
说实话,这东西应该成为所有AI编码Agent的标配。Agent能力越强,误操作后果越严重,dcg就是那个安全带。
6. OpenCut — 76K星的开源视频编辑器,CapCut的隐私替代
⭐ ~76.2K Stars | TypeScript/Rust | AGPL-3.0 | GitHub Trending #1 (7月13日)
CapCut 2025年的条款给了它对你内容的永久、不可撤销许可——包括你的脸和声音。OpenCut就是在这个背景下诞生的:免费、开源、你的素材永远不出本机。
核心亮点:
– 完全本地:素材不上传,没有账号系统,打开就用
– Rust核心重写中:新版本用Rust统一引擎,WebAssembly跑在浏览器里,GPU加速(WGPU)
– MCP Server:AI Agent可以直接操作编辑器——这是杀手功能,让视频编辑变成可编程的
– 插件系统:正在开发中,API+插件+无头渲染
– 跨平台:Web、桌面、移动端全覆盖
目前经典版(opencut-classic)已经可用,Rust重写版在new.opencut.app预览。76K星不是白来的——这是目前GitHub上最火的开源视频编辑器,没有之一。
今晚的观察
几个趋势值得注意:
-
MoE推理平民化:Colibri证明了744B模型不是只有大厂能跑,消费级硬件+聪明的存储管理就能搞定。这方向会越来越热。
-
AI从”能做”到”好用”:ai-job-search和Vibe-Trading都是解决具体生活问题的——找工作、做投资。不再是”AI能写代码”这种泛泛的能力展示。
-
安全基础设施在补课:dcg这种项目说明大家开始认真对待Agent误操作的风险了。能力越强,安全越重要。
-
视频编辑+AI Agent:OpenCut的MCP Server是个信号——视频编辑正在变成Agent可操作的工作流,不只是人手动拖时间线了。
觉得有用?收藏关注,每日午间+晚间更新AI前沿速递
by 数码罗记·godsun.pro