AI前沿速递|Agent狂飙、本地推理成刚需,6月GitHub生态大洗牌

封面占位

AI前沿速递|Agent狂飙、本地推理成刚需,6月GitHub生态大洗牌

今晚又刷了一波GitHub trending,说实话有点上头。6月的AI开源圈简直像开了挂——Coding Agent集体暴走,本地推理引擎闷声涨星,MCP生态悄悄长成参天大树。来,给你们盘一盘这波最值得关注的几个项目。


🤖 AI Agent框架:从”能聊天”到”能干活”

1. OpenCode — 开源Coding Agent新王

⭐ 55,554 Stars | 28天暴涨 +355

OpenCode(anomalyco/opencode)是这波Coding Agent浪潮里最猛的那个。28天涨355星,增速碾压全场。它本质上是Claude Code的开源替代品——provider无关、支持本地模型、TUI做得相当精致。MIT协议,75+模型提供商随便切。

说白了,你不想给Anthropic交钱,又想要Claude Code那种丝滑体验?OpenCode就是答案。

🔗 github.com/anomalyco/opencode

适用场景: 日常编码辅助、代码审查、本地模型跑Agent


2. CrewAI — 多Agent协作的实用派

⭐ 37,656 Stars | 28天 +60

CrewAI在Agent框架里走的是”多角色协作”路线。你定义几个Agent角色,给它们分配任务,它们自己商量着把活干完。不像AutoGPT那种”一个人干所有事”的思路,CrewAI更像是一个AI团队。

最近增长稳定,说明社区在认真用这东西做项目,不是纯看热闹。

🔗 github.com/crewAIInc/crewAI

适用场景: 多步骤工作流自动化、研究调研、内容生产流水线


3. Microsoft AutoGen — 大厂背书的多Agent框架

⭐ 48,253 Stars | 28天 +30

微软的AutoGen走的是”可对话多Agent”路线,Agent之间可以互相发消息、协作完成任务。背靠微软,文档和生态都相对成熟。虽然增速不如OpenCode那么炸裂,但胜在稳定可靠,企业用户比较放心。

🔗 github.com/microsoft/autogen

适用场景: 企业级Agent编排、复杂推理任务、需要微软生态集成的场景


🔥 本地推理引擎:隐私和成本的双重驱动

4. Ollama — 本地大模型的事实标准

⭐ 147,853 Stars | 28天 +105

Ollama现在就是本地跑大模型的”Docker”。一行命令ollama run qwen3.6:27b,模型就跑起来了。6月最新版v0.30.8,新增MiniMax M3、NVIDIA Nemotron 3 Ultra、DeepSeek V4 Pro支持。

目前最佳本地模型搭配:Qwen 3.6 27B(综合最强,24GB显存Q4量化就能跑)、Kimi K2.6(代码能力最强)、DeepSeek-R1(推理之王)。14万7千星不是白来的。

🔗 github.com/ollama/ollama

适用场景: 本地开发测试、隐私敏感场景、离线环境部署


5. llama.cpp — 纯C++推理的极致性能

⭐ 90,573 Stars | 28天 +165

llama.cpp在3月突破10万星(后来统计口径调整),28天又涨了165星,增速在推理引擎里仅次于Ollama。Georgi Gerganov这个项目最狠的地方在于:本地推理成本大约$0.002/百万token,而云API要$2.5-$15/百万token——差了1000倍。

GGUF格式现在占Hugging Face量化模型的60%以上,基本成了事实标准。没有GPU?CPU也能跑,就是慢点。

🔗 github.com/ggml-org/llama.cpp

适用场景: 极致成本控制、嵌入式/边缘设备、无GPU环境


6. vLLM — 生产级推理服务引擎

⭐ 57,543 Stars | 28天 +81

vLLM是面向生产环境的高吞吐推理引擎,PagedAttention那套KV Cache管理让它在并发场景下表现优异。66k+星(不同统计口径数据略有差异),2000+贡献者,社区活跃度很高。

如果你的Agent需要同时服务大量用户,vLLM基本是首选。和SGLang的对比也很明确:前缀重叠多的RAG场景选SGLang,通用高并发选vLLM。

🔗 github.com/vllm-project/vllm

适用场景: 生产环境模型服务、高并发API部署、企业级推理集群


🔧 MCP工具链:Agent的”万能插头”

7. MCP官方Servers — 97M月下载的生态底座

⭐ 60,567 Stars | 28天 +40

Model Context Protocol(MCP)已经从Anthropic的一个协议提案,长成了AI工具链的事实标准。97M+月SDK下载量,10K+活跃公共服务器。GitHub官方都下场做了MCP Server(19,999星),微软也出了Playwright MCP。

MCP之于Agent,就像USB-C之于设备——一个协议统一所有工具接入。你的Agent要读文件?有filesystem MCP。要操作GitHub?有github-mcp-server。要浏览网页?有playwright-mcp。全标准化了。

🔗 github.com/modelcontextprotocol/servers

适用场景: Agent工具集成、企业数据接入、标准化AI应用开发


🧠 开源大模型:三足鼎立的新格局

8. DeepSeek V4 Pro — 推理+代码双强

DeepSeek V4 Pro是671B参数的MoE模型(37B活跃参数),128K-163K上下文。推理能力直逼闭源顶级模型,代码能力SWE-Bench 67.8%。最关键的是——阿里云百炼、硅基流动等平台都有免费额度可以白嫖。

9. Kimi K2.6 — Agent任务的新王者

Moonshot的Kimi K2.6是1万亿参数的视觉语言模型,在Agent任务上以86.3分领跑开源模型,代码能力58.6。它特别擅长长时间自主编码会话和多Agent编排。注意:很多平台提供的是量化版,要体验完整能力得找非量化服务。

10. Qwen3.6-35B-A3B — 本地部署的甜点模型

阿里Qwen3.6系列里最实用的一个:35B总参数,3B活跃参数,Apache 2.0协议。SWE-Bench 77.2%,24GB显存Q4量化就能跑。如果你只有一张消费级显卡,这基本就是2026年6月能跑的最强本地编码模型了。


💰 API白嫖指南:2026年6月最新

顺便说一句,各大平台的免费额度又更新了:

平台 免费额度 有效期 亮点
阿里云百炼 每模型100万Token 3个月 模型最全,DeepSeek/Qwen/Kimi都有
智谱AI 2000万Token 永久 GLM-4.7-Flash永久免费
硅基流动 2000万Token 永久 响应速度最快,新模型上线最快
腾讯云混元 100万Token+Embedding 100万 1年 HunYuan-Lite完全免费
Groq 14,400次/天 永久 推理延迟最低

国内首选智谱AI+硅基流动(永久额度),国外选Groq(速度)或Gemini Flash(多模态)。


📊 本期趋势总结

三个关键词概括6月:

  1. Agent实用化 — OpenCode/Claude Code/Codex CLI这些Coding Agent不再是玩具,Terminal-Bench 2.1上Codex CLI+GPT-5.5已经83.4%了
  2. 本地推理刚需化 — Ollama 14.7万星、llama.cpp 9万星,隐私+成本双重驱动,本地部署从”极客玩具”变成”工程标配”
  3. MCP标准化 — 97M月下载不是闹着玩的,Agent工具链终于有了统一协议

觉得有用?收藏关注,每日午间+晚间更新AI前沿速递


作者:A7z-爱马仕

by 数码罗记·godsun.pro

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注