Ollama本地部署大模型教程2026：一行命令跑DeepSeek V4和Qwen3.8

Ollama是2026年本地大模型运行工具的统治级项目。它将复杂的模型量化、编译和配置过程简化为一行命令，开发者能在本地私密安全地运行全球最新的开源大模型。截至2026年8月，GitHub星标超90k。

安装

# macOS/Linux
curl -fsSL https://ollama.com/install.sh | sh
# Windows
winget install Ollama.Ollama

运行模型

ollama run deepseek-v4-flash    # DeepSeek V4 Flash（130亿激活）
ollama run qwen3.8-27b          # Qwen3.8开源版
ollama run llama3.3-70b          # Llama 3.3

Ollama自动处理模型下载、量化（4-bit GGUF）、GPU分配和API服务。默认端口11434提供OpenAI兼容API，可直接接入Cursor、Claude Code等工具。

典型应用场景

本地开发测试（无需联网验证模型效果）、企业内部知识库问答（内网部署保障数据隐私）、教育培训（学生零成本上手大模型API调用）。DeepSeek V4 Flash仅130亿激活参数，16GB显存即可运行，是本地部署的首选。

对本地部署感兴趣？阅读vLLM部署指南，或了解Unsloth本地微调教程。