AnythingLLM搭建私有知识库教程：无需代码的AI文档问答系统

AnythingLLM简介

AnythingLLM是2026年最受欢迎的零代码AI知识库工具，GitHub星标超过30k。上传PDF/Word/TXT文件即可提问，完全无需编程。对比 Dify，AnythingLLM更简单易用，适合非技术用户快速搭建私有知识库。

一、Docker一键部署

docker run -d \
  --name anythingllm \
  -p 3001:3001 \
  -e STORAGE_DIR=/app/server/storage \
  -v anythingllm_data:/app/server/storage \
  mintplexlabs/anything-llm

访问 http://localhost:3001 即可使用。

二、配置AI模型

方案A：使用Ollama本地模型（免费）

# 先安装Ollama并下载模型
ollama pull qwen2.5:7b

# 在AnythingLLM中配置
# 设置 → LLM Provider → Ollama
# Base URL: http://host.docker.internal:11434
# Model: qwen2.5:7b

详细Ollama安装参考 Ollama部署教程。

方案B：使用DeepSeek API（便宜）

# 设置 → LLM Provider → Generic OpenAI
# Base URL: https://api.deepseek.com/v1
# API Key: sk-xxx
# Model: deepseek-chat

三、创建Workspace和上传文档

1. 点击「New Workspace」，命名（如「公司文档」）
2. 进入Workspace → 「Documents」→ 上传文件
3. 支持格式：PDF、Word、TXT、Markdown、Excel
4. 上传后点击「Save and Embed」自动向量化
5. 在聊天框提问即可基于文档内容回答

四、使用技巧

• 分段大小：建议设为1000 tokens，太大检索不准太小缺上下文
• 多Workspace：不同项目建不同Workspace，互不干扰
• 引用来源：AnythingLLM会标注回答来源的文档段落
• 批量上传：支持拖拽批量上传文件

五、与Dify对比

• AnythingLLM：零代码、5分钟部署、适合个人/小团队
• Dify：功能更全、支持工作流、适合企业级应用

两者都支持 DeepSeek 作为后端模型，可以按需选择。