Dify搭建私有RAG知识库教程：上传文档即可AI问答

为什么选择Dify

Dify是2026年最流行的开源LLM应用开发平台，GitHub星标超过60k。内置完整的RAG流水线，支持可视化拖拽构建AI应用，无需代码即可搭建企业级知识库问答系统。对比 AnythingLLM，Dify功能更强大但部署稍复杂。

一、Docker部署Dify

# 克隆仓库
git clone https://github.com/langgenius/dify.git
cd dify/docker

# 复制环境变量
cp .env.example .env

# 启动所有服务
docker compose up -d

启动后访问 http://localhost:3000 即可看到Dify控制台。首次需要注册管理员账号。

二、配置大模型API

进入「设置」→「模型供应商」，选择你的模型来源：

• OpenAI：填入API Key即可使用GPT-4o
• DeepSeek：填入API Key，性价比极高
• Ollama本地模型：填入 http://localhost:11434，零成本
• 通义千问/智谱：国内模型直接接入

三、创建知识库

点击顶部「知识库」Tab → 创建知识库：

1. 选择数据源：上传本地文件（PDF/Word/Excel/TXT/Markdown）或输入网页URL自动爬取
2. 文本分段：设置分段长度（建议500-1000 tokens）和重叠度（建议50-100）
3. 选择Embedding模型：推荐 bge-large-zh（中文）或 text-embedding-3-small（英文）
4. 检索设置：选择「混合检索」（向量+全文），准确率最高

四、创建AI问答应用

1. 回到首页 → 创建应用 → 选择「聊天助手」
2. 在「上下文」中关联刚创建的知识库
3. 配置提示词：你是文档分析助手，基于知识库内容回答问题，不知道就说不知道
4. 选择模型（推荐DeepSeek V3，便宜好用）
5. 发布并测试

五、API调用

curl -X POST 'http://localhost:3000/v1/chat-messages' \
  -H 'Authorization: Bearer app-xxx' \
  -H 'Content-Type: application/json' \
  -d '{
    "query": "公司报销流程是什么？",
    "inputs": {},
    "response_mode": "blocking"
  }'

六、优化建议

• 文档质量比模型重要：清理PDF中的页眉页脚、表格转文本
• 用Q&A分段模式：让模型自动生成问答对，检索更精准
• 开启重排序：Rerank模型可提升检索准确率20%+
• 多知识库组合：不同部门的数据建不同库，按需关联