本地大模型工具推荐：Ollama 与 LM Studio 怎么玩

把模型装进自己电脑

担心数据上云、想离线跑模型、折腾 Agent——本地大模型是趋势。Ollama 和 LM Studio 让普通人也能一键跑 Llama、Qwen、Gemma。

两位选手

工具 形态 上手
Ollama 命令行 + API 极客
LM Studio 图形界面 小白

Ollama：开发者的本地推理引擎

亮点

  • 一行 ollama run qwen2.5 拉起模型。
  • 暴露本地 API，方便接代码、做 RAG。
  • 跨平台，模型库丰富。

槽点

  • 纯命令行，非技术用户劝退。
  • 显存/内存占用需自己调。

适合

开发者、想接 API 做应用的人。

LM Studio：点点鼠标就跑

亮点

  • 图形界面选模型、调参数，零命令。
  • 内置聊天、兼容 OpenAI API。
  • 自动按硬件推荐模型大小。

槽点

  • 自由度不如 Ollama。
  • 大体积安装包。

适合

想体验本地 AI、不愿敲命令的人。

怎么搭

  • 体验/聊天 → LM Studio。
  • 写代码/接服务 → Ollama。
  • 两者共用 GGUF 模型文件，可互导。

评分（满分 5）

维度 Ollama LM Studio
易用性 3.5 5
开发友好 5 4
模型管理 4 4.5
综合推荐 4.4 4.3

结论

不想碰命令行用 LM Studio，要接应用用 Ollama。本地模型跑通一次，隐私和离线焦虑都少了。