LLM 提供商指南

LibreFang 包含全面的模型目录,覆盖 6 个原生 LLM 驱动32 个提供商90+ 个内置模型


快速设置

# 选择一个提供商 - 设置环境变量即可
export GEMINI_API_KEY="your-key"      # 免费额度可用
export GROQ_API_KEY="your-key"        # 免费额度可用
export ANTHROPIC_API_KEY="your-key"
export OPENAI_API_KEY="your-key"

LibreFang 在启动时自动检测哪些提供商已配置 API 密钥。


提供商参考

1. Anthropic

属性
显示名称Anthropic
驱动原生 Anthropic (Messages API)
环境变量ANTHROPIC_API_KEY
基础 URLhttps://api.anthropic.com
免费额度
模型数3

可用模型:

  • claude-opus-4-20250514 (旗舰)
  • claude-sonnet-4-20250514 (智能)
  • claude-haiku-4-5-20251001 (快速)

2. OpenAI

属性
显示名称OpenAI
驱动OpenAI 兼容
环境变量OPENAI_API_KEY
基础 URLhttps://api.openai.com/v1
免费额度
模型数6

可用模型:

  • gpt-4.1 (旗舰)
  • gpt-4o (智能)
  • o3-mini (智能)
  • gpt-4.1-mini (平衡)
  • gpt-4o-mini (快速)
  • gpt-4.1-nano (快速)

3. Google Gemini

属性
显示名称Google Gemini
驱动原生 Gemini
环境变量GEMINI_API_KEYGOOGLE_API_KEY
基础 URLhttps://generativelanguage.googleapis.com
免费额度
模型数5

4. Groq

属性
显示名称Groq
驱动OpenAI 兼容
环境变量GROQ_API_KEY
基础 URLhttps://api.groq.com/openai/v1
免费额度
模型数8

5. DeepSeek

属性
显示名称DeepSeek
驱动OpenAI 兼容
环境变量DEEPSEEK_API_KEY
基础 URLhttps://api.deepseek.com/v1
免费额度
模型数3

6. Ollama (本地)

属性
显示名称Ollama
驱动OpenAI 兼容
环境变量无需
基础 URLhttp://localhost:11434/v1
免费额度本地运行
模型数取决于本地安装

7. ChatGPT (会话认证)

属性
显示名称ChatGPT (Session Auth)
驱动ChatGPT 会话驱动
环境变量CHATGPT_SESSION_TOKEN
基础 URLhttps://chatgpt.com/backend-api
免费额度使用你的 ChatGPT 订阅
模型数5

设置:

  1. 运行 librefang auth chatgpt 通过浏览器会话认证
  2. 或者: export CHATGPT_SESSION_TOKEN="your-session-token"

说明: 使用 ChatGPT 内部后端 API,利用你现有的 ChatGPT 订阅 (Plus/Team/Enterprise)。

8. GitHub Copilot

属性
显示名称GitHub Copilot
驱动Copilot OAuth 驱动
环境变量GITHUB_TOKEN (自动 OAuth)
基础 URLhttps://api.githubcopilot.com
免费额度需要 Copilot 订阅
模型数2

设置:

  1. 确保你有活跃的 GitHub Copilot 订阅
  2. 运行 librefang auth copilot 通过 GitHub 设备流认证

9. Moonshot (Kimi)

属性
显示名称Moonshot (Kimi)
驱动OpenAI 兼容
环境变量MOONSHOT_API_KEY
基础 URLhttps://api.moonshot.ai/v1
别名kimi, kimi2
模型数5

可用模型:

  • kimi-k2.5 (旗舰) -- 最新 Kimi 模型
  • kimi-k2 (旗舰) -- 强推理能力
  • moonshot-v1-128k (智能) -- 128K 上下文
  • moonshot-v1-32k (平衡)
  • moonshot-v1-8k (快速)

10. Qwen (通义千问)

属性
显示名称Qwen (Alibaba)
驱动OpenAI 兼容
环境变量DASHSCOPE_API_KEY
基础 URLhttps://dashscope.aliyuncs.com/compatible-mode/v1
别名dashscope, model_studio
模型数11

可用模型:

  • qwen3-235b-a22b (旗舰) -- Qwen3 MoE 235B
  • qwen-max (旗舰)
  • qwen-plus (智能)
  • qwen-coder-plus (智能) -- 代码专用
  • qwen-long (平衡) -- 100万上下文窗口
  • qwen-turbo (快速)

11. 智谱 AI (GLM)

属性
显示名称Zhipu AI (GLM)
驱动OpenAI 兼容
环境变量ZHIPU_API_KEY
基础 URLhttps://open.bigmodel.cn/api/paas/v4
别名glm
模型数6

可用模型:

  • glm-5-20250605 (旗舰) -- 最新 GLM-5
  • glm-4-plus (智能) -- 128K 上下文
  • glm-4-long (平衡) -- 100万上下文窗口
  • glm-4-flash (快速) -- 免费

说明: GLM-4 Flash 完全免费,适合开发和测试。

12. MiniMax

属性
显示名称MiniMax (International)
驱动OpenAI 兼容
环境变量MINIMAX_API_KEY
基础 URLhttps://api.minimax.io/v1
模型数6

13. MiniMax (国内)

属性
显示名称MiniMax (China)
驱动OpenAI 兼容
环境变量MINIMAX_CN_API_KEY
基础 URLhttps://api.minimaxi.com/v1
模型数6

说明: 国内版本的 MiniMax,服务器位于中国大陆。

14. 百度千帆 (ERNIE)

属性
显示名称Baidu Qianfan
驱动OpenAI 兼容
环境变量QIANFAN_API_KEY
基础 URLhttps://qianfan.baidubce.com/v2
别名baidu
模型数3

可用模型:

  • ernie-4.5-8k (智能) -- 百度旗舰模型
  • ernie-4.0-turbo-8k (平衡)
  • ernie-speed-128k (快速) -- 免费,128K 上下文

15. 火山引擎 (豆包)

属性
显示名称Volcano Engine (Doubao)
驱动OpenAI 兼容
环境变量VOLCENGINE_API_KEY
基础 URLhttps://ark.cn-beijing.volces.com/api/v3
别名doubao
模型数4

可用模型:

  • doubao-seed-1-6-251015 (智能) -- 豆包旗舰,256K 上下文
  • doubao-seed-code (智能) -- 代码专用
  • doubao-seed-2-0-lite (平衡)
  • doubao-seed-2-0-mini (快速)

说明: 火山引擎是字节跳动的云平台。豆包是字节跳动自研的大语言模型。

16. Venice.ai

属性
显示名称Venice.ai
驱动OpenAI 兼容
环境变量VENICE_API_KEY
基础 URLhttps://api.venice.ai/api/v1
模型数3

17. Chutes.ai

属性
显示名称Chutes.ai
驱动OpenAI 兼容
环境变量CHUTES_API_KEY
基础 URLhttps://llm.chutes.ai/v1
模型数5

说明: 提供开源模型的无服务器推理服务,价格有竞争力。

18. Z.AI

属性
显示名称Z.AI
驱动OpenAI 兼容
环境变量ZHIPU_API_KEY
基础 URLhttps://api.z.ai/api/paas/v4
别名z.ai

说明: Z.AI 是智谱 AI 模型的国际端点,共享 ZHIPU_API_KEY


支持的提供商列表

提供商驱动免费额度
Anthropic原生
OpenAIOpenAI 兼容
Gemini原生
GroqOpenAI 兼容
DeepSeekOpenAI 兼容
OpenRouterOpenAI 兼容
TogetherOpenAI 兼容
MistralOpenAI 兼容
FireworksOpenAI 兼容
CohereOpenAI 兼容
PerplexityOpenAI 兼容
xAIOpenAI 兼容
AI21OpenAI 兼容
CerebrasOpenAI 兼容
SambaNovaOpenAI 兼容
HuggingFaceOpenAI 兼容
ReplicateOpenAI 兼容
ChatGPT会话驱动订阅
GitHub CopilotOAuth 驱动订阅
Moonshot (Kimi)OpenAI 兼容
Qwen (通义千问)OpenAI 兼容
智谱 AI (GLM)OpenAI 兼容
MiniMaxOpenAI 兼容
MiniMax (国内)OpenAI 兼容
百度千帆 (ERNIE)OpenAI 兼容
火山引擎 (豆包)OpenAI 兼容
Venice.aiOpenAI 兼容
Chutes.aiOpenAI 兼容
Z.AIOpenAI 兼容
OllamaOpenAI 兼容本地
vLLMOpenAI 兼容本地
LM StudioOpenAI 兼容本地

模型目录

按能力分类

旗舰模型:

  • claude-opus-4-20250514
  • gpt-4.1

智能模型:

  • claude-sonnet-4-20250514
  • gpt-4o
  • gemini-2.0-flash-exp

快速模型:

  • claude-haiku-4-5-20251001
  • gpt-4o-mini
  • gpt-4.1-nano
  • llama-3.1-70b-versatile

每个 Agent 的模型覆盖

可以在 agent 级别覆盖默认模型:

[model]
provider = "groq"
model = "llama-3.3-70b-versatile"

模型路由

ModelRouter 根据任务复杂度自动选择模型:

  • 简单任务 → 快速/便宜模型
  • 复杂任务 → 智能/昂贵模型

成本追踪

LibreFang 跟踪每个模型的使用成本:

# 查看全局预算
curl http://127.0.0.1:4200/api/budget

# 查看每个 agent 的成本
curl http://127.0.0.1:4200/api/budget/agents

后备提供商

配置后备提供商以提高可靠性:

[[fallback_providers]]
provider = "groq"
model = "llama-3.1-70b-versatile"
api_key_env = "GROQ_API_KEY"

API 端点

# 列出可用模型
curl http://127.0.0.1:4200/api/models

# 列出提供商
curl http://127.0.0.1:4200/api/providers