LM Studio 是什么?一个 1234 端口,把本地模型接成 Agent 底座(基础篇)

LM Studio 是什么?一个 1234 端口,把本地模型接成 Agent 底座(基础篇)

LM Studio 这个名字,很多人的印象还停在 2024 年那个「下一个 GGUF、拖进对话框聊天」的桌面壳。到 2026 年它已经换了身份:7 月 16 日发布独立的 Agent 应用 Bionic,11 月 16 日 Bionic 更新到 1.2.1;主应用则一路推到 0.4.x,6 月还上架了 iOS/iPad 端。

更值得写进基础篇的不是它又加了几个功能,而是它把本地模型做成了一个标准插座:默认 1234 端口,OpenAI 和 Anthropic 两套协议同时兼容。Claude Code、Codex、Hermes 这些 Agent 工具,改个 base URL 就能跑在你自己那张显卡上。这篇文章讲清楚它怎么搭起来、怎么上手、哪几处最容易踩坑。

先分清三个东西,别混

2026 年的 LM Studio 不是一个 App,是三条产品线:

  • LM Studio 桌面应用:模型管理、对话、文档 RAG、MCP、本地服务全在这儿,低层参数也在这调。
  • Bionic:7 月 16 日发布,官方定位「为开源模型做的 Agent」,写代码、改文档、查资料。它是独立安装包,不是主应用的升级版——两个可以同时开着跑(主应用要 0.4.26 以上)。
  • llmster 和 lms:无头守护进程加命令行,装在没桌面的服务器和 CI 里,和桌面版共用一套引擎。

线下还有一条:4 月收购 Locally AI,6 月 4 日上架 iOS/iPad 版,配合 LM Link,手机上发指令、家里那台机器算。免费档 LM Link 支持 5 台设备。

核心是那个 1234 端口

本地服务起在 http://localhost:1234,兼容面铺得比多数人以为的宽:

  • OpenAI 兼容五个端点:/v1/models、/v1/chat/completions、/v1/responses、/v1/embeddings、/v1/completions
  • Anthropic 兼容:POST /v1/messages
LM Studio 本地服务架构:GGUF/MLX 权重经 llama.cpp 或 MLX 引擎提供给 1234 端口,编码 Agent 与 Bionic 通过兼容 API 调用
权重 → 引擎 → 1234 端口 → 三类 Agent 入口,整条链路都在本机完成。

所以 Claude Code 只要三个环境变量:

export ANTHROPIC_BASE_URL=http://localhost:1234
export ANTHROPIC_AUTH_TOKEN=lmstudio
export CLAUDE_CODE_ATTRIBUTION_HEADER=0

然后 claude --model openai/gpt-oss-20b,就跑在本地模型上了。这条链子之前有个很恶心的 bug:用 Claude Code 时每条消息都丢 prompt cache,0.4.15 才修掉,修完速度差别相当明显。

Hermes Agent 那边是官方一等公民:JIT 加载、64K 上下文、reasoning effort 都支持,hermes model 里直接选 LM Studio 就行。

原生 REST API v0 还多给一层运行时数据:token/s、TTFT、量化方式、最大上下文、模型装没装。调参的时候,这些数字比「感觉快了」靠谱得多。

上手:装、拉、接

一,装。 macOS 只支持 Apple Silicon(M1–M4、macOS 14 以上,建议 16GB 内存),Intel Mac 官方明确不支持;Windows 的 x64 需要 AVX2、建议 4GB 以上显存,ARM 版也有;Linux 发的是 AppImage,Ubuntu 20.04 起,x64 和 ARM64 都在。

二,拉模型。 启动页直接搜 Hugging Face,量化先选 Q4_K_M。Apple Silicon 还能下 MLX 格式,同一个模型两种引擎跑出来的速度不一样,值得各测一次。命令行更省事:lms server start --port 1234。

三,接工具。 要工具调用就编辑 ~/.lmstudio/mcp.json,格式跟 Cursor 一模一样,从别处抄来的配置改都不用改;0.3.17 起本地和远程 MCP 都支持,后来还补了 OAuth,内网那套要认证的 MCP 也能挂上。模型调工具前会弹确认框、参数能改,建议只给只读工具点「always allow」。

RAG 顺带一句:PDF、DOCX 拖进对话就吃,全程离线。单文档问答够用,别指望它替你啃三百页的标书。

实话:五个坑

1. 闭源。 主应用不开源,你能看到的是它打包的 llama.cpp 和 MLX 引擎。介意这条的去看 Ollama,上生产直接上 vLLM。

2. 版本快得离谱。 主应用加 Bionic 两条线,Bionic 现在还是 initial preview,一周一个版本。教程写完可能就过期,看官方 changelog 比看博客可靠。

3. 钱要算清楚。 本地推理不要钱。Bionic 的云端是订阅制:Free 0 美元(本地推理、LM Link 5 台设备、有限联网搜索);Bionic+ 20 美元/月(美国托管的 Kimi K3、GLM 5.3、DeepSeek V4 Flash,20 台设备,网页搜索加正文抓取);Pro 100 美元/月(5 倍额度、100 台设备,含 GPT Sol 6.1 和 Claude Opus 5.5 的零保留额度)。只跑本地,一分钱不用花。

4. 多卡别想太美。 Tensor Parallelism 是 0.4.15(5 月 29 日)才加的,而且明确只支持 CUDA。Mac 上多台机器只能靠 LM Link 轮流用,没法把两张卡拼成一张。

5. Agent 吃上下文。 官方文档写得很直白:Claude Code 这类工具建议 25k 以上上下文,Hermes 建议 64k。本地小模型跑 Agent,最先崩的通常不是智力,是上下文不够导致工具结果被截断——先换模型之前,先把上下文配够。

所以 LM Studio 在 2026 年的位置很清楚:它不争最强模型,也不做最全的编排,它做的是本地那张网卡。你有显卡、有不能出门的数据、不想按 token 付钱,就让它把模型挂在 1234 上,Agent 工具随便换——今天 Claude Code,明天 Codex,后天自己写的脚本,口径都是那两套兼容协议。

反过来说,你要可视化编排就去看 Dify、n8n,要团队共用的 Agent 平台就去看 Coze、Bisheng。LM Studio 不是那些东西,它是那些东西背后可以指向的那个本地端点。一句话:它不是 Agent 平台,是 Agent 平台最爱接的那个本地插座。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注