Ollama部署Qwen3.8-Max教程：本地运行阿里开源2.4万亿参数模型

日期：2026-08-14 | 分类：AI工具教程

项目简介

2026年8月13日，阿里巴巴正式开放Qwen3.8-Max模型权重。2.4万亿总参数，激活950亿，稀疏MoE架构，100万Token上下文。Arena排行榜仅次于Claude系列。Ollama支持4bit量化本地部署。

环境要求

• GPU：≥48GB显存（A6000/A100）运行4bit量化
• 或 Mac Studio M4 Ultra（128GB统一内存）
• 磁盘空间：≥80GB（4bit量化模型）
• Ollama ≥ 0.5.0

安装Ollama

# macOS
brew install ollama

# Linux
curl -fsSL https://ollama.com/install.sh | sh

# Windows
# 下载 https://ollama.com/download/OllamaSetup.exe

拉取Qwen3.8-Max

# 4bit量化版（推荐）
ollama pull qwen3.8-max:4b

# 查看已下载模型
ollama list

# 启动推理服务
ollama serve  # 默认端口11434

命令行对话

ollama run qwen3.8-max:4b

>>> 帮我写一个Python装饰器，计算函数执行时间
import time
from functools import wraps

def timing(func):
    @wraps(func)
    def wrapper(*args, **kwargs):
        start = time.time()
        result = func(*args, **kwargs)
        print(f"{func.__name__} 执行耗时: {time.time()-start:.4f}秒")
        return result
    return wrapper

Python API调用

import requests

response = requests.post('http://localhost:11434/api/chat', json={
    "model": "qwen3.8-max:4b",
    "messages": [{"role": "user", "content": "解释MoE架构"}],
    "stream": False
})
print(response.json()['message']['content'])

接入OpenClaw

# OpenClaw配置文件中设置
# ~/.openclaw/config.yaml
model:
  provider: ollama
  model: qwen3.8-max:4b
  base_url: http://localhost:11434

OpenAI兼容API

from openai import OpenAI

client = OpenAI(base_url="http://localhost:11434/v1", api_key="ollama")
response = client.chat.completions.create(
    model="qwen3.8-max:4b",
    messages=[{"role": "user", "content": "你好"}]
)

性能参考

相关阅读

• Qwen3.8-Max深度解析
• Ollama本地LLM部署教程

📚 常见问题

Ollama部署Qwen3.8-Max是什么？

2026年8月13日，阿里巴巴正式开放Qwen3.8-Max模型权重。2.4万亿总参数，激活950亿，稀疏MoE架构，100万Token上下文。Arena排行榜仅次于Claude系列。Ollama支持4bit量化本地部署。

如何上手Ollama部署Qwen3.8-Max？

Qwen3.8-Max深度解析