vLLM本地部署教程:高性能大模型推理引擎怎么搭

分类:AI命令行工具 · 2026-08-01 · AI Tools Hub

什么是Gemini CLI

Gemini CLI是Google开源的命令行AI助手,让你在终端直接使用Gemini模型。支持对话、代码生成、文件分析、Google搜索、Shell命令执行。基于Gemini 2.5 Pro,100万Token上下文窗口,Apache 2.0开源协议,免费使用(Google账号认证即可)。

核心功能

功能说明
AI对话终端里直接和Gemini聊天
代码生成自然语言→代码
文件分析读取文件内容并分析
Google搜索内置Google搜索能力
Shell执行执行命令行操作
多模态支持图片识别
MCP扩展通过MCP协议扩展能力

一、安装

# 前置要求:Node.js 20+
node -v  # 确认v20+

# 方式1:npm全局安装(推荐)
npm install -g @google/gemini-cli

# 方式2:临时体验(不安装)
npx https://github.com/google-gemini/gemini-cli

# 方式3:Homebrew(macOS)
brew install gemini-cli

# 验证
gemini --version

二、首次认证

# 启动
gemini

# 首次运行会引导认证:
# 1. 选择主题(颜色方案)
# 2. 选择认证方式 → 推荐 "Login with Google"
# 3. 浏览器自动打开Google登录页面
# 4. 登录并授权
# 5. 回到终端即可使用

使用API Key认证(替代方案)

# 从Google AI Studio获取API Key
# https://aistudio.google.com/apikey

# 设置环境变量
export GEMINI_API_KEY="sk-xxx"

# Windows PowerShell
 = "sk-xxx"

三、基本用法

# 交互模式
gemini
> 帮我写一个Python函数,读取CSV文件并统计每列的空值率

# 带初始提问启动
gemini "解释这段代码的作用"

# 分析文件
cat error.log | gemini "分析这个错误日志"

# 多文件分析
gemini "对比这两个文件的差异" file1.py file2.py

# 图片识别
gemini "这张图里有什么" image.png

四、GEMINI.md:项目配置

# 在项目根目录创建 GEMINI.md
# Gemini CLI每次启动自动读取

# 示例 GEMINI.md:
# 项目:电商网站
# 技术栈:Next.js + TypeScript + Tailwind
# 构建:npm run build
# 测试:npm test
# 代码规范:使用函数组件,禁止class组件

五、实用场景

1. 代码生成

gemini
> 用React写一个Todo组件,支持增删改查和本地存储

2. Bug调试

gemini
> 运行npm test报错TypeError: Cannot read property 'map' of undefined
> 帮我定位问题

3. 文档生成

gemini
> 读取src/api目录下所有文件,生成API文档

4. Git辅助

gemini
> 查看git diff,生成commit message

六、MCP扩展

# Gemini CLI支持MCP协议扩展
# 可连接GitHub、数据库、浏览器等外部服务

# 示例:连接GitHub MCP
# 在配置文件中添加MCP server配置
# Gemini CLI即可读取GitHub仓库信息、创建Issue等
提示:Gemini CLI和 Claude Code 类似都是终端AI工具,但Gemini CLI免费(Google账号认证),Claude Code需要付费API。也可以配合 Aider 使用。

📚 常见问题

vLLM本地部署是什么?

Gemini CLI是Google开源的命令行AI助手,让你在终端直接使用Gemini模型。支持对话、代码生成、文件分析、Google搜索、Shell命令执行。基于Gemini 2.5 Pro,100万Token上下文窗口,Apache 2.0开源协议,免费使用(Google账号认证即可)。

如何上手vLLM本地部署?

Ollama本地部署大模型教程