vLLM本地部署教程:高性能大模型推理引擎怎么搭

分类:AI效率工具 · 2026-08-01 · AI Tools Hub

什么是MarkItDown

MarkItDown是微软开源的文档转换工具,将PDF、Word、Excel、PowerPoint、HTML等格式一键转换为Markdown。13万Star,是AI时代最流行的文档预处理工具。

支持格式

输入格式输出保留元素
PDFMarkdown文字、表格、图片描述
Word (.docx)Markdown标题、段落、表格、图片
Excel (.xlsx)Markdown表格单元格数据、公式结果
PowerPointMarkdown幻灯片文字、备注
HTMLMarkdown正文、链接、图片
音频Markdown语音转文字(需Whisper)

一、安装

pip install markitdown

# 或安装完整版(含所有依赖)
pip install 'markitdown[all]'

二、命令行使用

# 单文件转换
markitdown report.pdf > report.md

# Word转Markdown
markitdown proposal.docx > proposal.md

# Excel转Markdown表格
markitdown data.xlsx > data.md

# 批量转换
for f in *.pdf; do
    markitdown "" > ".md"
done

三、Python API

from markitdown import MarkItDown

md = MarkItDown()

# 转换PDF
result = md.convert("report.pdf")
print(result.text_content)

# 转换Word
result = md.convert("proposal.docx")
print(result.text_content)

# 转换并直接喂给AI
from openai import OpenAI
client = OpenAI()

result = md.convert("contract.pdf")
response = client.chat.completions.create(
    model="gpt-4o",
    messages=[
        {"role": "system", "content": "你是法律顾问,分析以下合同"},
        {"role": "user", "content": result.text_content}
    ]
)
提示:MarkItDown是 LangChain RAG 系统的最佳文档预处理工具,转换后的Markdown可以直接切片存入向量数据库。

四、实用场景

📚 常见问题

vLLM本地部署是什么?

MarkItDown是微软开源的文档转换工具,将PDF、Word、Excel、PowerPoint、HTML等格式一键转换为Markdown。13万Star,是AI时代最流行的文档预处理工具。

如何上手vLLM本地部署?

RAG知识库:企业文档批量转Markdown→切片→向量数据库