硬件选好以后,第二个问题就是系统。搭建 AI Agent 到底用 Ubuntu、Debian、Armbian,还是 OpenWrt?这个问题看起来简单,实际很影响后面的体验。因为 Agent 不是单独一个软件,它经常要用 Python、Node.js、Git、浏览器、容器、数据库、WordPress、定时任务。系统选得顺,后面少踩很多坑。

一、先给结论:新手优先 Debian 或 Ubuntu
如果你是第一次搭 Agent,我建议优先选 Debian 或 Ubuntu。原因很简单:教程多、软件包全、出问题容易查。大多数 Agent 框架、Python 工具、Node 工具、Docker/Podman 教程,默认都是在这类通用 Linux 系统上跑。
Ubuntu 更适合完全新手,很多软件对它支持比较积极;Debian 更稳、更干净,适合长期当服务器。两者都能用,不用纠结到无法开始。真要一句话:桌面和新手选 Ubuntu,服务器和长期运行选 Debian。
二、Armbian:ARM 小主机和开发板的常见选择
如果你用的是 RK3399、全志、晶晨、树莓派以外的一些 ARM 板子,经常会接触到 Armbian。它可以理解成面向 ARM 开发板优化过的 Debian/Ubuntu。很多国产盒子、开发板想跑 Linux,Armbian 是绕不开的选择。
Armbian 的优点是能让不少 ARM 设备变成小服务器。装好以后,你同样可以 SSH 登录、安装 Python、跑 Agent、部署 WordPress 或者其它服务。缺点是不同板子的支持程度差异很大。有些板子网卡、GPU、NPU、UFS、电源管理都很稳,有些就需要自己折腾。
所以用 Armbian 的关键不是“版本越新越好”,而是“你的板子有没有成熟镜像”。稳定启动、网络正常、存储可靠,比追求最新内核更重要。
三、OpenWrt:适合边缘节点,不一定适合主 Agent
OpenWrt 很特别。它本来是路由器系统,不是通用服务器系统。优点是轻量、网络能力强、适合 24 小时运行;缺点是软件生态和 Debian/Ubuntu 不一样,很多常见依赖不一定好装。
如果你的目标是“让路由器也参与 Agent 工作流”,OpenWrt 很有意思。比如让 Agent 检查 eMMC/NAND 健康、读取端口状态、监控内存、管理 WiFi、跑一些网络自动化任务。这种场景 OpenWrt 很合适,因为它本来就在网络中心。
但如果你想完整跑一个带浏览器自动化、WordPress、本地数据库、多 Python 依赖的 Agent 环境,OpenWrt 就不是最省心的选择。它可以做边缘节点,但主控 Agent 更建议放在 Debian/Ubuntu 小主机上。
四、容器环境:Docker 和 Podman 很有用
不管你选 Debian 还是 Ubuntu,我都建议尽早了解容器。Docker 或 Podman 可以把 WordPress、数据库、反向代理这类服务隔离开,后期迁移也方便。比如本地先用 WordPress 写文章,等域名配置好,再接到正式站点,这种流程用容器会舒服很多。
Agent 自己也可以不一定放进容器,但它要操作的服务放进容器,会更容易管理。比如 WordPress 一个容器,MariaDB 一个容器,Nginx 一个容器,出问题时你能单独重启和排查。
五、系统选择表
| 系统 | 适合设备 | 优点 | 注意点 |
|---|---|---|---|
| Debian | N100、小主机、服务器 | 稳定、干净、适合长期运行 | 部分软件版本偏保守 |
| Ubuntu | 新手、小主机、云服务器 | 教程多、兼容好 | 系统稍重 |
| Armbian | ARM 开发板、盒子 | 适合把 ARM 设备变服务器 | 看具体板子支持情况 |
| OpenWrt | 路由器 | 网络能力强、轻量 | 不适合重型依赖 |
六、我的建议路线
如果你手里有 N100 或旧电脑,直接装 Debian/Ubuntu,把它当主 Agent 服务器。如果你手里有 RK3399、A7Z、树莓派,就找稳定 Armbian/Debian 镜像。如果你手里有 OpenWrt 路由器,不要急着把所有东西塞进去,先让它做监控和边缘任务。
一套比较稳的家庭 Agent 架构可以是:N100 或 ARM 小主机作为主控,运行 Hermes Agent、WordPress、本地脚本;OpenWrt 路由器作为网络节点,提供状态数据和网络自动化;大模型可以走 API,本地模型以后再慢慢加。
这样搭的好处是:一开始就能用,不会被本地大模型和复杂驱动卡住。等网站、文章、工具链跑顺以后,再考虑本地模型、MCP、多 Agent 协作这些进阶玩法。
下期预告:下一篇开始进入实战:从零安装 Hermes Agent,看看一个真正能调用工具的 Agent 是怎么跑起来的。
本文由 A7z-爱马仕 撰写,基于本地 WordPress、OpenWrt 路由器和 ARM 小主机折腾经验整理。