首页 / AI工具 / 本地 AI 编码助手从 0 配起来:先选模型还是接 Ollama、VS Code、Claude Code 和 Codex?
AI工具

本地 AI 编码助手从 0 配起来:先选模型还是接 Ollama、VS Code、Claude Code 和 Codex?

本地 AI 编码助手从 0 配起来:先选模型还是接 Ollama、VS Code、Claude Code 和 Codex?

想在本地跑一个真正好用的 AI 编码助手,却发现网上教程要么让你先狂下 70B 模型,要么直接给你一堆插件配置,看完更懵了。

本文从 0 到 1,讲清楚最合理的搭建顺序:到底是先选模型,还是先接 Ollama、VS Code、Claude Code 和 Codex?

先选模型,还是先接工具?

正确答案是:先选模型

理由很简单——所有后续工具(Ollama、VS Code、Claude Code、Codex)都是“调用方”,模型才是真正干活的“服务方”。如果你硬件只能跑 7B 模型,却一上来就按 70B 的 prompt 模板去配,最后只会得到又慢又糊的体验。

推荐选模型的三个实际维度:

  1. 硬件匹配度:用 CanIRun.ai 测试你的显存,13B Q4 大概需要 8-10GB,34B Q4 需要 20GB 左右。
  2. 编码能力优先:目前本地编码表现较好的模型有 DeepSeek-Coder-V2、Qwen2.5-Coder、CodeLlama、Command-R 等。
  3. 上下文长度:编程场景极其依赖长上下文,优先选择支持 32K 甚至 128K 的模型。

选好模型后再去装 Ollama,会发现后续所有配置都变得顺畅很多。

第二步:用 Ollama 搭建本地服务层

Ollama 是目前最成熟的本地大模型服务框架,一行命令就能跑起来:

ollama serve
ollama run deepseek-coder-v2

推荐开启 OpenAI 兼容接口,这样后面所有工具都能用同一套协议调用:

http://localhost:11434/v1

这个接口的好处是可替换性极强。模型不行就换模型,服务地址永远不用改。

第三步:把本地模型接入主流编码工具

1. VS Code + Continue.dev

Continue 是目前本地编码体验最好的 VS Code 插件。在 ~/.continue/config.yaml 中加入:

models:
  - name: deepseek-coder-v2
    provider: ollama
    model: deepseek-coder-v2
    apiBase: http://localhost:11434

配置完成后,你就可以用 Cmd+L 呼出侧边栏,像 Copilot 一样实时补全和对话。

2. Claude Code(Claude Desktop / Claude Code)

~/.claude/settings.json 中配置本地 Ollama 服务:

{
  "models": {
    "custom": {
      "name": "deepseek-coder-v2",
      "endpoint": "http://localhost:11434/v1/chat/completions",
      "apiKey": "ollama"
    }
  }
}

同时在项目根目录创建 CLAUDE.mdAGENTS.md,写入项目规则和 Agent 工作流程,让 Claude Code 严格按照你的规范编码。

3. Codex CLI

Codex 是命令行下的 AI 编码工具,在 ~/.codex/config.toml 里指向本地服务:

providers.ollama
base_url = "http://localhost:11434/v1"
api_key = "ollama"
model = "deepseek-coder-v2"

配置完成后,你就可以在终端里直接使用 codex 命令让 AI 帮你写脚本、修复 bug、重构代码。

完整配置文件一览(建议收藏)

~/.continue/config.yaml           VS Code Continue 核心配置
~/.claude/settings.json           Claude Code 本地模型配置
~/.codex/config.toml              Codex CLI 配置
项目目录/CLAUDE.md               项目专属提示词
项目目录/AGENTS.md               Agent 工作规范

再加一个本机或局域网模型服务地址:

http://localhost:11434

这套配置的真正价值

把这套东西配完,你不是拥有了一个无敌本地程序员,而是拥有了一条可复现、可排错、可替换模型的本地 AI 编码链路。

  • 模型不行就换模型
  • 上下文不够就调 context length
  • 工具不稳就收敛权限
  • 配置失效就回到文件逐行排查

这比“下载一个最大模型,然后祈祷它聪明”要靠谱得多。

常见问题解答

Q:电脑配置一般,是不是就别玩本地 AI 了?
A:不一定。7B~14B 的量化模型在 M1/M2 芯片或 16GB 显存的 NVIDIA 卡上都能流畅运行,够日常辅助编程。

Q:Ollama、Continue、Claude Code、Codex 一定要全部装吗?
A:不需要。从 Ollama + Continue(VS Code)开始就够 80% 的使用场景,后续按需扩展。

Q:本地模型和云端 Claude-4、GPT-4o 相比差距大吗?
A:在特定领域(尤其是代码理解和项目上下文记忆),经过良好配置的本地模型已经能打平甚至超过云端,特别是当你把整个项目规则写进 CLAUDE.md 和 AGENTS.md 之后。

Q:想同时使用多个模型怎么办?
A:完全支持。你可以在不同工具里配置不同模型,比如写业务代码用 Qwen2.5-Coder,写算法用 DeepSeek-Coder-V2,随时切换。

最后建议

先花一天时间把硬件、模型、服务、客户端这条链路跑通。等你真正用起来后,你会发现:本地 AI 编码助手真正的护城河从来不是模型大小,而是你是否建立了一套可控、可迭代、可理解的本地工作流。

把这套配置保存下来,以后换电脑、换模型、换工具,都能 30 分钟内恢复战斗力。

这就是从 0 配本地 AI 编码助手的正确打开方式。

分享到: 微博