# .env — OpenAI（带推理的生产环境）
LLM_API_KEY=sk-...
LLM_BASE_URL=https://api.openai.com/v1
LLM_MODEL=gpt-5.4
FAST_LLM_MODEL=gpt-5-nano
LLM_REASONING_EFFORT=medium

# .env — OpenAI（预算推理）
LLM_API_KEY=sk-...
LLM_BASE_URL=https://api.openai.com/v1
LLM_MODEL=o3
FAST_LLM_MODEL=gpt-5-nano
LLM_REASONING_EFFORT=medium

---

### Google Gemini

Gemini 模型通过 Google 的 OpenAI 兼容端点提供强大的性能和有竞争力的定价。3.x 代（2025 年末及以后）是一个重大飞跃 — Gemini 3 Flash 的性能超越 2.5 Pro，同时速度快 3 倍。

**推荐模型：**
- 稳定版 (GA)：`gemini-2.5-pro`（主要）+ `gemini-2.5-flash`（快速）— 生产就绪
- 最新版 (Preview)：`gemini-3.1-pro-preview`（主要）+ `gemini-3-flash-preview`（快速）— 最佳性能，但为预览状态

**基础 URL：** `https://generativelanguage.googleapis.com/v1beta/openai/`

**推理：** 兼容性端点支持 `reasoning_effort` — 设置 `LLM_REASONING_EFFORT=medium`，开箱即用。

| 模型 | 输入 $/MTok | 输出 $/MTok | 状态 |
|---|---|---|---|
| `gemini-3.1-pro-preview` | $2.00 | $12.00 | Preview |
| `gemini-3-flash-preview` | $0.50 | $3.00 | Preview |
| `gemini-2.5-pro` | $1.25 | $10.00 | 稳定 GA |
| `gemini-2.5-flash` | $0.30 | $2.50 | 稳定 GA |
| `gemini-2.5-flash-lite` | $0.10 | $0.40 | 稳定 GA |

```bash

```bash
# .env — Gemini (latest preview)
LLM_API_KEY=AIza...
LLM_BASE_URL=https://generativelanguage.googleapis.com/v1beta/openai/
LLM_MODEL=gemini-3.1-pro-preview
FAST_LLM_MODEL=gemini-3-flash-preview
LLM_REASONING_EFFORT=medium

# .env — DeepSeek（经济实惠）
LLM_API_KEY=sk-...
LLM_BASE_URL=https://api.deepseek.com
LLM_MODEL=deepseek-chat
FAST_LLM_MODEL=deepseek-chat

# .env — DeepSeek（带推理）
LLM_API_KEY=sk-...
LLM_BASE_URL=https://api.deepseek.com
LLM_MODEL=deepseek-reasoner
FAST_LLM_MODEL=deepseek-chat

# .env — Qwen
LLM_API_KEY=sk-...
LLM_BASE_URL=https://dashscope.aliyuncs.com/compatible-mode/v1
LLM_MODEL=qwen3.5-plus
FAST_LLM_MODEL=qwen-turbo

# .env — ChatGLM
LLM_API_KEY=...
LLM_BASE_URL=https://open.bigmodel.cn/api/paas/v4
LLM_MODEL=glm-5
FAST_LLM_MODEL=glm-4-flash

# .env — MiniMax
LLM_API_KEY=...
LLM_BASE_URL=https://api.minimaxi.com/v1
LLM_MODEL=MiniMax-M2.5
FAST_LLM_MODEL=MiniMax-M2.5-Lightning

---

### 本地模型 (Ollama)

在您自己的硬件上完全运行模型 — 无需 API 密钥，完全离线。Ollama 开箱即用地暴露一个 OpenAI 兼容的端点。开源生态系统已经发生了巨大变化 — Qwen 3.5、Llama 4 和 GPT-OSS（OpenAI 的首批开放权重模型）都已可用。

**基础 URL：** `http://localhost:11434/v1`

**按 VRAM 推荐的模型：**

| VRAM | 主 LLM | 快速 LLM | 备注 |
|---|---|---|---|
| 8 GB | `qwen3.5:9b` / `gemma3:4b` | `qwen3.5:4b` | Qwen 3.5 9B 是该级别的佼佼者 |
| 16 GB | `gpt-oss:20b` / `deepseek-r1:14b` | `qwen3.5:9b` | GPT-OSS 20B 针对智能体进行了优化 |
| 24 GB | `qwen3:32b` / `deepseek-r1:32b` | `qwen3.5:9b` | Qwen 3 32B 最适合工具调用 |
| 48 GB+ | `llama3.3:70b` / `gpt-oss:120b` | `qwen3.5:14b` | 接近前沿质量 |

**最适合工具调用：** Qwen 3/3.5 (32B+)、GLM-4.7、GPT-OSS、Mistral — 这些模型具有明确的函数调用训练。14B+ 参数的模型是可靠工具调用的最低要求；强烈推荐 32B+ 及以上。

<Warning>
**工具调用质量在本地模型中差异很大。** 并非所有模型都能可靠地生成有效的函数调用。在生产环境中使用之前，请使用智能体工作流测试您选择的模型。一般规则：14B 最低要求，32B+ 推荐用于智能体任务。
</Warning>

```bash
# .env — Ollama（平衡配置，16GB VRAM）
LLM_API_KEY=ollama
LLM_BASE_URL=http://localhost:11434/v1
LLM_MODEL=gpt-oss:20b
FAST_LLM_MODEL=qwen3.5:9b
LLM_CONTEXT_SIZE=32768
LLM_MAX_OUTPUT_TOKENS=8192

# .env — Ollama（智能体优化，24GB VRAM）
LLM_API_KEY=ollama
LLM_BASE_URL=http://localhost:11434/v1
LLM_MODEL=qwen3:32b
FAST_LLM_MODEL=qwen3.5:9b
LLM_CONTEXT_SIZE=32768
LLM_MAX_OUTPUT_TOKENS=8192

```bash
# .env — Gemini via relay (Google native protocol)
LLM_API_KEY=your-relay-key
LLM_BASE_URL=https://relay.example.com/gemini
LLM_MODEL=gemini-2.5-pro

# .env — 通过中继的 GPT（OpenAI 兼容协议）
LLM_API_KEY=your-relay-key
LLM_BASE_URL=https://relay.example.com/v1
LLM_MODEL=gpt-5.4

1. FIM One 在 URL 路径中看到 `/claude` → 检测到 **Anthropic 原生**协议
2. 模型被前缀化为 `anthropic/claude-sonnet-4-6` 用于 LiteLLM 路由
3. 请求使用 Anthropic 的 `/v1/messages` 格式和 `x-api-key` 认证头
4. `reasoning_effort=medium` 被转换为 Anthropic 的原生 `thinking` 参数（不是 OpenAI 的 `reasoning_effort`）

<Warning>
如果相同的中继 URL 改为 `https://my-relay.example.com/v1`，则会缺少 `/claude` 提示 — FIM One 将回退到 OpenAI 兼容协议，向 Claude 原生端点发送 `/v1/chat/completions` 请求，这会失败。**URL 路径很重要。**
</Warning>

### 为什么这很重要

- **Anthropic 原生端点**为您提供适当的 `reasoning_content` 支持（扩展思考在 UI 中可见）、正确的工具调用格式和 `x-api-key` 身份验证 — 使用 OpenAI 兼容转换时会丢失这些功能。
- **Google 原生端点**为您提供原生 Gemini 参数和 `x-goog-api-key` 身份验证。
- **OpenAI 兼容**是通用后备方案，适用于任何中继，但提供商特定功能（如扩展思考输出）可能不可用。

<Note>
如果您的中继平台使用非标准路径约定（例如，URL 中没有 `/claude` 或 `/anthropic`），FIM One 会回退到 OpenAI 兼容协议 — 这适用于大多数用例。为了获得完整的原生协议支持，您可以通过管理员模型配置 UI 显式设置 `provider` 字段。
</Note>

---

## 配置策略

### Main vs Fast: 何时拆分

- **拆分** 当你的主模型昂贵或缓慢时（例如，`gpt-5.4` + `gpt-5-nano`）。DAG 模式运行许多并行步骤 — 使用更便宜的快速模型可以节省大量成本。
- **相同模型** 当你的模型已经很便宜时（例如，两者都使用 `deepseek-chat`）。管理两个模型的开销不值得。

### 何时启用推理

- **启用** 用于复杂分析任务、多步骤规划和需要仔细判断的任务
- **禁用**（默认）用于常规任务、简单问答和成本敏感的部署
- 推理通常会使每个请求的成本增加 2-5 倍 — `medium` 工作量是一个很好的起点

### 上下文窗口大小调整

设置 `LLM_CONTEXT_SIZE` 以匹配您模型的实际窗口：

| 模型 | 上下文窗口 |
|---|---|
| GPT-5.4 | 272K |
| o3 / o4-mini | 200K |
| Claude Sonnet 4.6 | 200K (1M beta) |
| Gemini 2.5 Pro | 1M |
| Gemini 3.1 Pro | 1M |
| DeepSeek V3.2 | 128K |
| Qwen 3.5 Plus | 1M |
| Local (Ollama) | 4K–128K (varies) |

对于本地模型，请显式设置 `LLM_CONTEXT_SIZE` 和 `LLM_MAX_OUTPUT_TOKENS` — 默认值假设云规模的上下文窗口，本地模型无法支持。