New API：Go语言自托管LLM统一网关

项目简介

New API 是一个用Go语言编写的自托管LLM网关，以45.6k星数成为最热门的LLM网关项目之一。它将OpenAI、Claude、Gemini、Mistral、DeepSeek等数十个AI提供商统一到一个OpenAI兼容API中，内置完整的计费系统、用户管理、令牌配额、模型路由和负载均衡功能。New API特别适合AI API分销商、企业内部AI平台和需要精细成本控制的团队使用。

对于需要编程工具路由的开发者，推荐参考 OpenCodex本地代理教程 了解如何将LLM路由到Codex和Claude Code。

核心功能与架构

安装指南

New API支持Docker、二进制和源码编译三种方式：

# 方式一：Docker Compose（推荐）
docker run -d --name new-api \
  -p 3000:3000 \
  -v /home/data/new-api:/data \
  -e SQL_DSN="root:password@tcp(db:3306)/new-api" \
  -e REDIS_CONN=redis://localhost:6379 \
  --restart always \
  calciumion/new-api:latest

# 方式二：二进制下载
wget https://github.com/new-api/new-api/releases/latest/download/new-api-linux-amd64
chmod +x new-api-linux-amd64
./new-api-linux-amd64 --port 3000

# 方式三：源码编译
git clone https://github.com/new-api/new-api.git
cd new-api
go build -o new-api
./new-api --port 3000

# 初始化后访问管理面板
# http://localhost:3000  默认账号: root/123456

使用示例

配置完成后，所有调用使用OpenAI兼容格式：

# 通过New API调用（与OpenAI SDK完全兼容）
import openai

client = openai.OpenAI(
    api_key="sk-newapi-your-token",
    base_url="http://localhost:3000/v1"
)

# 调用GPT-4
response = client.chat.completions.create(
    model="gpt-4o",
    messages=[{"role": "user", "content": "你好"}]
)

# 调用Claude（通过同一端点）
response = client.chat.completions.create(
    model="claude-3.5-sonnet",
    messages=[{"role": "user", "content": "写一首诗"}]
)

# 流式输出
stream = client.chat.completions.create(
    model="gpt-4o",
    messages=[{"role": "user", "content": "讲故事"}],
    stream=True
)
for chunk in stream:
    print(chunk.choices[0].delta.content, end="")

管理面板中关键配置：

# 1. 添加渠道（提供商）
渠道类型: OpenAI
名称: OpenAI官方
Base URL: https://api.openai.com
密钥: sk-xxx（支持多个，逗号分隔）
模型: gpt-4o,gpt-4-turbo,gpt-3.5-turbo
权重: 10

# 2. 模型重定向
设置 → 模型重定向:
  gpt-4 → openai/gpt-4o
  claude-3 → anthropic/claude-3.5-sonnet

# 3. 令牌配额
用户管理 → 生成令牌:
  名称: 项目A
  额度: $100
  过期时间: 2026-12-31
  限制模型: gpt-4o,gpt-3.5-turbo

与同类网关对比