推荐模型

FIM One 是提供商无关的 — 任何 OpenAI 兼容的端点都可以工作。本页面帮助您为您的用例选择最佳的模型组合。有关配置详情，请参阅环境变量。

FIM One 如何使用模型

FIM One 有三个模型角色：

角色	环境变量	用途
通用	`LLM_MODEL`	规划、分析、ReAct 智能体、复杂推理
快速	`FAST_LLM_MODEL`	DAG 步骤执行、上下文压缩（更便宜、更快）
推理	`REASONING_LLM_MODEL`	深度分析、复杂规划、数学证明

如果未配置，快速和推理模型将回退到通用模型。对于生产部署，至少分离为两个模型（通用 + 快速）可以获得最佳的成本/质量平衡。这些角色可以通过环境变量或通过管理 UI 的模型组功能进行配置，该功能允许一键切换模型集。有关完整的管理 UI 指南，请参阅模型管理。

Quick Selection Matrix

Provider	Main LLM	Fast LLM	Reasoning	Vision	Notes
OpenAI	`gpt-5.4`	`gpt-5.4-mini` / `gpt-5.4-nano`	✅ `reasoning_effort`	✅ All	Best native tool-calling; GPT-5.4 is latest flagship (Mar 2026)
Anthropic	`claude-sonnet-4-6`	`claude-haiku-4-5`	✅ via LiteLLM	✅ All	Native API routing; full `reasoning_content` support; 1M context GA
Google Gemini	`gemini-2.5-pro` / `gemini-3.1-pro-preview`	`gemini-2.5-flash` / `gemini-3-flash-preview`	✅ `reasoning_effort`	✅ All	2.5 is stable GA; 3.x is preview; `gemini-3-pro-preview` shut down Mar 9
DeepSeek	`deepseek-chat` (V3.2)	`deepseek-chat`	✅ `deepseek-reasoner`	❌	Text-only; V4 (Apr 2026) will add vision
Qwen (Alibaba)	`qwen3.5-plus` / `qwen3-max`	`qwen3.5-flash` / `qwen-turbo`	✅ `enable_thinking` on `qwen3-max`	⚠️ qwen3.5 only	Strongest Chinese language; qwq/reasoning text-only
ChatGLM (Zhipu)	`glm-4.7`	`glm-4.7-flash`	`glm-5`	⚠️ GLM-4.6V	Forced FC not supported; vision requires separate VLM model
MiniMax	`MiniMax-M2.7`	`MiniMax-M2.5`	❌	❌	Text-only; M2.7 latest (Mar 2026); 80.2% SWE-Bench
Kimi (Moonshot)	`kimi-k2.5`	`kimi-k2`	✅ `kimi-k2-thinking`	⚠️ K2.5 only	K2-thinking text-only; forced FC not supported with thinking
Ollama (local)	`qwen3.5` / `llama4`	`qwen3.5:9b`	❌	Varies	Fully offline, no API key; Llama 4 supports vision

Vision indicates whether the model accepts image input. This is required for Intelligent Document Processing (IDP) — if your model doesn’t support vision, IDP will fall back to text-only extraction. Providers marked ⚠️ have vision on some models but not others; check the specific model you’re using.Chat attachments follow the same flag: with a text-only model an attached image is not sent, and the model receives its file name only. The chat composer says so before you send, based on the model the turn would actually use (agent setting, then the active model group, then the system default). Document text is unaffected — a PDF or DOCX still has its content extracted and injected.

This table lists the combinations we recommend, not the full set of providers FIM One supports. xAI (Grok), ByteDance Doubao, Mistral and any OpenAI-compatible relay all work; see the Provider Capability Matrix for the complete list and how each one is routed.

结构化输出兼容性

FIM One的DAG规划器需要模型返回有效的结构化JSON。在内部，它按顺序尝试三个提取级别：

原生函数调用 — 通过工具调用API强制模型输出与模式匹配的JSON。最可靠。
JSON模式 — 请求response_format: json_object。保证有效的JSON，但不强制执行模式合规性。
纯文本提取 — 作为最后手段从自由格式文本中解析JSON。

支持第1级（带强制tool_choice的原生FC）的模型能提供最佳的规划可靠性。如果模型仅达到第2级，其输出质量取决于它遵循提示指令的程度——较弱的模型可能产生有效的JSON但不匹配预期结构。

提供商	强制函数调用	JSON模式	规划可靠性
OpenAI (GPT-5.x, o3)	✅ 完全支持	✅	⭐⭐⭐ 优秀
Anthropic (Claude 4.x)	⚠️ 与思考模式冲突	✅	⭐⭐⭐ 优秀（强大的指令遵循能力补偿）
Google Gemini (2.5/3.x)	✅ 完全支持	✅	⭐⭐⭐ 优秀
Mistral	✅ 完全支持	✅	⭐⭐ 良好
xAI (Grok 4.1)	✅ 完全支持	✅	⭐⭐ 良好
DeepSeek (V3.2)	✅ 在`deepseek-chat`上支持；❌ 在`deepseek-reasoner`上不支持，其思考模式拒绝它	✅	⭐⭐ 良好
Qwen (3.x)	✅ 支持	✅	⭐⭐ 良好
ByteDance (Doubao Seed)	✅ 完全支持	✅	⭐⭐ 良好
Kimi (K2.5)	⚠️ 仅在思考模式下支持`auto`；强制工具选择需要关闭思考模式（`kimi-k2`）	✅	⭐ 一般 — 可能产生格式错误的计划
ChatGLM (GLM-4.7/5)	❌ 不支持（仅`auto`）	✅	⭐ 一般
MiniMax (M2.5/M2.7)	✅ 完全支持，思考模式不影响	✅	⭐⭐ 良好
本地 (Ollama)	因模型而异	因模型而异	⭐ 一般 — 推荐32B+

此表是选择辅助工具。权威的、代码锚定的版本（包括每个提供商接受哪些tool_choice状态以及FIM One在被拒绝时的处理方式）在提供商能力矩阵中。

如果看到错误”failed to generate a valid task plan”，说明模型的结构化输出能力不足以进行DAG规划。将主LLM切换到评级为⭐⭐⭐或⭐⭐及以上的模型，或禁用DAG模式并改用更简单的ReAct智能体。

思维/推理兼容性

不同的提供商以根本不同的方式实现”思维”（思维链推理）。这很重要，因为思维模式可能与工具调用冲突，并且输出根据提供商的不同而出现在不同的位置。FIM One 透明地处理所有这些——此表可帮助您了解底层发生的情况。

关键概念

可选启用 — 思考功能默认关闭；你可以通过 API 参数（例如 reasoning_effort）启用它。可以按调用选择性地禁用。
始终启用 — 模型始终进行思考；没有 API 参数可以关闭它。你需要切换到非思考模型变体才能避免它。
模型级别 — 思考功能由你选择的模型 ID 决定（例如 deepseek-reasoner vs deepseek-chat），而不是由参数决定。

兼容性矩阵

提供商	如何启用	可禁用？	推理输出	强制FC冲突？
OpenAI (GPT-5.x)	`reasoning_effort` 参数	✅ 可选	内部（对用户不可见）	✅ 工具+推理通过Responses API一起运行（自动；chat-completions回退强制`reasoning_effort: "none"`）
OpenAI (o系列)	始终启用	❌	内部（计数但不返回）	✅ 无冲突
Anthropic (Claude 4.x)	`reasoning_effort` → `thinking`	✅ 可选	API `reasoning_content` 字段 → 推理面板	❌ 强制FC+推理=400错误
Google Gemini (2.5/3.x)	`reasoning_effort` 参数	✅ 可选	内部	✅ 无冲突
DeepSeek	模型变体（`deepseek-reasoner`）	模型级	API `reasoning_content` 字段 → 推理面板	❌ 在`deepseek-reasoner`上被拒绝，在`deepseek-chat`上被接受
Qwen (3.x)	`enable_thinking` 参数，在提供商端设置	✅ 可选	内容中的`<think>`标签	✅ 无冲突
MiniMax (M2.7)	始终启用	❌	内容中的`<think>`标签	✅ 无冲突
ChatGLM (GLM-5)	模型变体	模型级	未外部化	❌ 不支持强制FC，无论是否启用推理
Kimi (K2-thinking)	模型变体	模型级	API字段	❌ 启用推理时仅支持`auto`

此表后的各提供商详情，包括每个effort级别的转换方式以及推理是否在后续轮次中重放，位于提供商能力矩阵的表C。

FIM One 如何处理每种情况

API级别的 reasoning_content（Claude、DeepSeek）：推理字段直接从API响应读取并在UI的推理面板中显示。无需后处理。 内容中的 <think> 标签（MiniMax、Qwen、QwQ及其他开源衍生版本）：FIM One自动从内容字段中移除 <think>...</think> 标签，并将思考文本重新路由到推理面板。这对流式和非流式响应都适用。 强制FC与思考冲突是按提供商划分的，而不是思考模型的通用属性。Claude拒绝这种组合，但其思考是可选的，因此FIM One通过传递 reasoning_effort=None 为该次调用关闭思考，原生函数调用继续进行。Kimi也拒绝这种组合，其思考由模型id而非参数选择，因此解决方案是为思考模型禁用原生函数调用。MiniMax在每次调用时都进行思考，并且接受强制函数调用，这就是为什么没有解决方案适用于它。 回退链：如果强制函数调用因任何原因失败，FIM One自动回退：原生FC → JSON模式 → 纯文本提取。这种三层方法确保规划即使在工具调用支持不完整的提供商上也能工作。

如果您使用始终进行思考的模型（MiniMax M2.7、deepseek-reasoner）作为主LLM，思考输出将出现在每个智能体迭代的推理面板中。这是正常的——它不会影响功能，您可以看到模型的推理过程。

提供商详情

OpenAI

最经过实战检验的选择。OpenAI模型拥有最好的原生函数调用（工具调用）支持，这直接影响智能体的可靠性。GPT-5系列（2025年8月+）相比GPT-4是一个重大的代际飞跃。 推荐模型：

主力：gpt-5.4（最新旗舰版，2026年3月——100万+上下文，计算机使用）或o3（最佳推理准确度）
快速：gpt-5.4-mini（ $0.75/$ 4.50每百万token）或gpt-5.4-nano（最便宜， $0.20/$ 1.25每百万token）
预算快速：gpt-5-mini（ $0.25/$ 2.00）和gpt-5-nano（ $0.05/$ 0.40）以更低价格继续可用
旧版：gpt-4.1（仍在API中，100万上下文，适合编码）

推理： 设置LLM_REASONING_EFFORT=medium——原生支持o系列和GPT-5.x模型。GPT-5.4支持reasoning_effort，级别为none、low、medium、high、xhigh。o系列需要max_completion_tokens而非max_tokens，LiteLLM会自动处理。注意：/v1/chat/completions拒绝将工具与推理结合的GPT-5.x请求，因此FIM One直接调用Responses API处理GPT-5.x，两者可以协同工作。该路径还会将每个回合的加密推理传递到下一个回合，因此构建多步骤答案的智能体会保留已经推导出的内容，而不是在每次工具调用时重新推导。没有/v1/responses路由的端点会回退到聊天完成，在智能体工具使用步骤中显式设置reasoning_effort: "none"，FIM_GPT5_RESPONSES_MODE可以手动强制任一回退。OpenAI兼容端点上的其他模型系列保持在聊天完成上：它们从Responses中获益无多，代理垫片可能会严重缓冲流式传输。GPT-5.4需要temperature=1，FIM One通过LiteLLM的参数过滤（drop_params）自动处理。

模型	输入$/百万token	输出$/百万token	上下文
`gpt-5.4`	$2.50	$15.00	1,050K（超过272K收费）
`gpt-5.4-mini`	$0.75	$4.50	400K
`gpt-5.4-nano`	$0.20	$1.25	400K
`o3`	$2.00	$8.00	200K
`o4-mini`	$1.10	$4.40	200K
`gpt-5-mini`	$0.25	$2.00	400K
`gpt-5-nano`	$0.05	$0.40	400K

# .env — OpenAI (production with reasoning)
LLM_API_KEY=sk-...
LLM_BASE_URL=https://api.openai.com/v1
LLM_MODEL=gpt-5.4
FAST_LLM_MODEL=gpt-5.4-nano
LLM_REASONING_EFFORT=medium

# .env — OpenAI (budget reasoning)
LLM_API_KEY=sk-...
LLM_BASE_URL=https://api.openai.com/v1
LLM_MODEL=o3
FAST_LLM_MODEL=gpt-5.4-nano
LLM_REASONING_EFFORT=medium

Anthropic (Claude)

Claude在细致推理和复杂多步骤任务中表现卓越。FIM One通过LiteLLM连接，自动通过其原生API路由Anthropic模型。当前版本为Claude 4.6（2026年2月）。 推荐模型：

主模型：claude-sonnet-4-6（能力与成本的最佳平衡—— $3/$ 15 per MTok）
快速模型：claude-haiku-4-5（快速且便宜—— $1/$ 5 per MTok）
高级模型：claude-opus-4-6（能力最强，最大输出128K—— $5/$ 25 per MTok）

基础URL： https://api.anthropic.com/v1/ Opus 4.6和Sonnet 4.6拥有1M上下文窗口（自2026年3月13日GA——无需beta头）。Haiku 4.5拥有200K上下文窗口。 推理： 设置LLM_REASONING_EFFORT=medium。LiteLLM通过原生API路由Anthropic模型，因此reasoning_content（扩展思考）完全返回并在UI”thinking”步骤中可见。Claude 4.6及更新版本使用自适应思考（thinking: {type: "adaptive"}加output_config.effort）替代手动budget_tokens，FIM One直接发出而不依赖LiteLLM的映射。Anthropic在思考活跃时需要temperature=1，系统会为你强制执行：请求构建器在Anthropic路由上固定该值，在完全拒绝采样参数的模型上则移除temperature。不要手动设置LLM_TEMPERATURE=1。详见扩展思考。

# .env — Anthropic Claude
LLM_API_KEY=sk-ant-...
LLM_BASE_URL=https://api.anthropic.com/v1/
LLM_MODEL=claude-sonnet-4-6
FAST_LLM_MODEL=claude-haiku-4-5
LLM_REASONING_EFFORT=medium

Google Gemini

Gemini 模型通过 Google 的 OpenAI 兼容端点提供强大的性能和具有竞争力的定价。3.x 代（2025 年末及以后）是一个重大飞跃 — Gemini 3 Flash 的性能超越 2.5 Pro，同时速度快 3 倍。注意：gemini-3-pro-preview 已于 2026 年 3 月 9 日关闭 — 请改用 gemini-3.1-pro-preview。 推荐模型：

稳定版 (GA)：gemini-2.5-pro（主要）+ gemini-2.5-flash（快速）— 生产就绪
最新版 (Preview)：gemini-3.1-pro-preview（主要）+ gemini-3-flash-preview（快速）+ gemini-3.1-flash-lite-preview（预算快速）— 最佳性能，但处于预览状态

基础 URL： https://generativelanguage.googleapis.com/v1beta/openai/ 推理： 兼容性端点支持 reasoning_effort — 设置 LLM_REASONING_EFFORT=medium 即可开箱即用。

模型	输入 $/MTok	输出 $/MTok	状态
`gemini-3.1-pro-preview`	$2.00	$12.00	Preview
`gemini-3-flash-preview`	$0.50	$3.00	Preview
`gemini-3.1-flash-lite-preview`	$0.25	$1.50	Preview (Mar 2026)
`gemini-2.5-pro`	$1.25	$10.00	Stable GA
`gemini-2.5-flash`	$0.30	$2.50	Stable GA
`gemini-2.5-flash-lite`	$0.10	$0.40	Stable GA

# .env — Gemini (stable)
LLM_API_KEY=AIza...
LLM_BASE_URL=https://generativelanguage.googleapis.com/v1beta/openai/
LLM_MODEL=gemini-2.5-pro
FAST_LLM_MODEL=gemini-2.5-flash
LLM_REASONING_EFFORT=medium

# .env — Gemini (latest preview)
LLM_API_KEY=AIza...
LLM_BASE_URL=https://generativelanguage.googleapis.com/v1beta/openai/
LLM_MODEL=gemini-3.1-pro-preview
FAST_LLM_MODEL=gemini-3-flash-preview
LLM_REASONING_EFFORT=medium

DeepSeek

DeepSeek 提供市场上最佳的成本/性能比。V3.2（2025年12月）将聊天和推理系列统一为单一模型，定价极低。 模型 ID（均由 V3.2 支持）：

deepseek-chat — 通用目的（非思考模式）
deepseek-reasoner — 链式思考推理模式，返回 reasoning_content

基础 URL： https://api.deepseek.com 定价：

0.28/

0.42 每百万令牌（缓存命中：$0.028）— 迄今为止最便宜的前沿级 API。 输出限制： deepseek-chat 最大输出为 8K 令牌（必须通过 max_tokens 显式设置）。deepseek-reasoner 最大输出为 64K 令牌（包括链式思考）。

V4 预计 2026 年 4 月：万亿参数多模态模型，具有 1M 上下文窗口。发布时预期会有新的模型 ID。

# .env — DeepSeek (budget-friendly)
LLM_API_KEY=sk-...
LLM_BASE_URL=https://api.deepseek.com
LLM_MODEL=deepseek-chat
FAST_LLM_MODEL=deepseek-chat

# .env — DeepSeek (with reasoning)
LLM_API_KEY=sk-...
LLM_BASE_URL=https://api.deepseek.com
LLM_MODEL=deepseek-reasoner
FAST_LLM_MODEL=deepseek-chat

中文国内模型

所有主要的中文模型提供商都提供 OpenAI 兼容的端点。这些模型特别擅长处理中文任务，并提供具有竞争力的本地定价。

Qwen / 通义千问 (阿里云)

Qwen 3.5（2026年2月）是最新一代——397B MoE旗舰模型在MMLU-Pro上的表现超越GPT-5.2。提供最强的中文语言支持和最便宜的前沿级定价（约$0.11/MTok输入）。

基础URL（中国）： https://dashscope.aliyuncs.com/compatible-mode/v1
基础URL（全球）： https://dashscope-intl.aliyuncs.com/compatible-mode/v1
主力： qwen3.5-plus（旗舰，1M上下文， $0.11/$ 0.66 per MTok）或 qwen3-max（256K，最强）
快速： qwen3.5-flash（ $0.055/$ 0.22 per MTok）或 qwen-turbo（ $0.04/$ 0.08 per MTok）
推理： qwen3-max 配合 enable_thinking: true 参数（没有单独的 qwen3-max-thinking 模型ID）

# .env — Qwen (China)
LLM_API_KEY=sk-...
LLM_BASE_URL=https://dashscope.aliyuncs.com/compatible-mode/v1
LLM_MODEL=qwen3.5-plus
FAST_LLM_MODEL=qwen3.5-flash

# .env — Qwen (Global)
LLM_API_KEY=sk-...
LLM_BASE_URL=https://dashscope-intl.aliyuncs.com/compatible-mode/v1
LLM_MODEL=qwen3.5-plus
FAST_LLM_MODEL=qwen3.5-flash

ChatGLM / 智谱

GLM-4.7 和 GLM-5（2026）是最新的模型。GLM-5 是 745B MoE 旗舰模型，在编码/智能体任务上接近 Claude Opus 级别。

Base URL（国内）： https://open.bigmodel.cn/api/paas/v4
Base URL（Z.AI 国际）： https://api.z.ai/api/paas/v4
主要： glm-4.7（强大的编码能力，Z.AI 上 $0.60/$ 2.20）
快速： glm-4.7-flash（免费层级！）或 glm-4.7-flashx（ $0.07/$ 0.40，更高吞吐量）
推理： glm-5（745B MoE 旗舰模型， $1.00/$ 3.20）

不支持强制 tool_choice — 仅 "auto" 有效。

某些 HTTP 客户端会自动在 base URL 后追加 /v1。智谱使用 /v4 — 确保您的客户端不会强制使用 OpenAI 风格的路径后缀，否则会出现 404 错误。

# .env — ChatGLM (domestic)
LLM_API_KEY=...
LLM_BASE_URL=https://open.bigmodel.cn/api/paas/v4
LLM_MODEL=glm-4.7
FAST_LLM_MODEL=glm-4.7-flash

# .env — ChatGLM (Z.AI international)
LLM_API_KEY=...
LLM_BASE_URL=https://api.z.ai/api/paas/v4
LLM_MODEL=glm-4.7
FAST_LLM_MODEL=glm-4.7-flash

MiniMax

MiniMax M2.7（2026年3月18日）是最新模型，开放权重，在SWE-Bench上得分80.2%。M2.5仍可作为快速/预算选项使用。 MiniMax为不同地区提供两个独立的API端点：

Base URL（全球/海外版）: https://api.minimax.io/v1 — 用于中国大陆以外的用户
Base URL（中国/国内版）: https://api.minimaxi.com/v1 — 用于中国大陆用户（注意minimaxi中多了一个i）
主要: MiniMax-M2.7
快速: MiniMax-M2.5
速度: MiniMax-M2.7-highspeed（成本提高2倍，延迟更低）

模型	输入 $/MTok	输出 $/MTok
`MiniMax-M2.7`	$0.30	$1.20
`MiniMax-M2.7-highspeed`	$0.60	$2.40
`MiniMax-M2.5`	$0.30	$1.20
`MiniMax-M2.5-highspeed`	$0.60	$2.40

# .env — MiniMax (global endpoint)
LLM_API_KEY=...
LLM_BASE_URL=https://api.minimax.io/v1
LLM_MODEL=MiniMax-M2.7
FAST_LLM_MODEL=MiniMax-M2.5

# .env — MiniMax (China mainland endpoint)
LLM_API_KEY=...
LLM_BASE_URL=https://api.minimaxi.com/v1
LLM_MODEL=MiniMax-M2.7
FAST_LLM_MODEL=MiniMax-M2.5

Kimi / 月之暗面 (Moonshot)

Kimi K2.5（2026年1月）具有256K上下文和强大的编码性能（在开源模型中SWE-Bench达到76.8%）。

基础URL（全球）: https://api.moonshot.ai/v1
基础URL（中国）: https://api.moonshot.cn/v1
主要: kimi-k2.5
快速: kimi-k2（非思考模式，函数调用有效）
推理: kimi-k2-thinking（ $0.47/$ 2.00 per MTok）

强制tool_choice仅在思考模式关闭时有效。启用思考模式时，仅支持"auto"。

# .env — Kimi (Global)
LLM_API_KEY=...
LLM_BASE_URL=https://api.moonshot.ai/v1
LLM_MODEL=kimi-k2.5
FAST_LLM_MODEL=kimi-k2

# .env — Kimi (China)
LLM_API_KEY=...
LLM_BASE_URL=https://api.moonshot.cn/v1
LLM_MODEL=kimi-k2.5
FAST_LLM_MODEL=kimi-k2

本地模型 (Ollama)

在自己的硬件上完全运行模型 — 无需 API 密钥，完全离线。Ollama 开箱即用地暴露一个 OpenAI 兼容的端点。开源生态已经发生了巨大变化 — Qwen 3.5、Llama 4 和 GPT-OSS（OpenAI 的首批开放权重模型）都已可用。 基础 URL： http://localhost:11434/v1 按 VRAM 推荐的模型：

VRAM	主 LLM	快速 LLM	备注
8 GB	`qwen3.5:9b` / `gemma3:4b`	`qwen3.5:4b`	Qwen 3.5 9B 是该层级的佼佼者
16 GB	`gpt-oss:20b` / `deepseek-r1:14b`	`qwen3.5:9b`	GPT-OSS 20B 针对智能体进行了优化
24 GB	`qwen3:32b` / `deepseek-r1:32b`	`qwen3.5:9b`	Qwen 3 32B 最适合工具调用
48 GB+	`llama3.3:70b` / `gpt-oss:120b`	`qwen3.5:14b`	接近前沿质量

最适合工具调用： Qwen 3/3.5 (32B+)、GLM-4.7、GPT-OSS、Mistral — 这些模型具有明确的函数调用训练。参数为 14B+ 的模型是可靠工具调用的最低要求；强烈推荐 32B+ 及以上。

工具调用质量在本地模型中差异很大。 并非所有模型都能可靠地生成有效的函数调用。在生产环境中使用之前，请使用智能体工作流测试您选择的模型。一般规则：14B 最低要求，32B+ 推荐用于智能体任务。

# .env — Ollama (balanced, 16GB VRAM)
LLM_API_KEY=ollama
LLM_BASE_URL=http://localhost:11434/v1
LLM_MODEL=gpt-oss:20b
FAST_LLM_MODEL=qwen3.5:9b
LLM_CONTEXT_SIZE=32768
LLM_MAX_OUTPUT_TOKENS=8192

# .env — Ollama (agent-optimized, 24GB VRAM)
LLM_API_KEY=ollama
LLM_BASE_URL=http://localhost:11434/v1
LLM_MODEL=qwen3:32b
FAST_LLM_MODEL=qwen3.5:9b
LLM_CONTEXT_SIZE=32768
LLM_MAX_OUTPUT_TOKENS=8192

第三方中继平台

许多用户通过单个中继（代理）服务访问多个模型提供商。FIM One 根据 URL 路径模式自动检测正确的 API 协议 — 只需填入 LLM_BASE_URL 即可工作。

工作原理

当您的基础 URL 指向第三方中继时，FIM One 检查 URL 路径以确定要使用的协议：

URL 路径包含	检测到的协议	认证头	主要优势
`/v1`（或无匹配）	OpenAI 兼容	`Authorization: Bearer`	通用回退，适用于大多数中继
`/claude` 或 `/anthropic`	Anthropic 原生	`x-api-key`	完整的 `reasoning_content`（扩展思考）支持
`/gemini`	Google 原生	`x-goog-api-key`	原生 Gemini 参数转换

解析顺序： 显式数据库提供商字段 > 域名匹配（官方 API） > URL 路径提示（中继平台） > OpenAI 兼容回退。

示例：一个中继，三个协议

使用单个中继账户，您可以通过简单地更改基础 URL 路径来访问不同的提供商：

# .env — Claude via relay (Anthropic native protocol)
LLM_API_KEY=your-relay-key
LLM_BASE_URL=https://relay.example.com/anthropic
LLM_MODEL=claude-sonnet-4-6

# .env — Gemini via relay (Google native protocol)
LLM_API_KEY=your-relay-key
LLM_BASE_URL=https://relay.example.com/gemini
LLM_MODEL=gemini-2.5-pro

# .env — GPT via relay (OpenAI compatible protocol)
LLM_API_KEY=your-relay-key
LLM_BASE_URL=https://relay.example.com/v1
LLM_MODEL=gpt-5.4

无需额外配置 — 身份验证标头、参数格式和响应解析都会自动切换。

步骤详解：路径检测如何工作

以下是一个具体示例，展示了配置中继时内部发生的情况：

# .env — Claude via a relay platform
LLM_API_KEY=your-relay-key
LLM_BASE_URL=https://my-relay.example.com/claude
LLM_MODEL=claude-sonnet-4-6
LLM_REASONING_EFFORT=medium

FIM One 在 URL 路径中看到 /claude → 检测到 Anthropic 原生协议
模型被前缀为 anthropic/claude-sonnet-4-6 用于 LiteLLM 路由
请求使用 Anthropic 的 /v1/messages 格式和 x-api-key 认证头
reasoning_effort=medium 被转换为 Anthropic 的原生 thinking 参数（不是 OpenAI 的 reasoning_effort）

如果相同的中继 URL 改为 https://my-relay.example.com/v1，则会缺少 /claude 提示 — FIM One 会回退到 OpenAI 兼容协议，向 Claude 原生端点发送 /v1/chat/completions 请求，这会失败。URL 路径很重要。

为什么这很重要

Anthropic原生端点为你提供适当的reasoning_content支持（扩展思考在UI中可见）、正确的工具调用格式和x-api-key身份验证——这些功能在使用OpenAI兼容翻译时会丢失。
Google原生端点提供原生Gemini参数和x-goog-api-key身份验证。
OpenAI兼容是通用后备方案，适用于任何中继，但提供商特定功能（如扩展思考输出）可能不可用。

如果你的中继平台使用非标准路径约定（例如，URL中没有/claude或/anthropic），FIM One会回退到OpenAI兼容协议——这对大多数用例都有效。要获得完整的原生协议支持，你可以通过管理员模型配置UI显式设置provider字段。

中继的故障方式与直接提供商不同，其中大多数故障是无声的：丢弃的参数、被剥离的缓存断点、永远不会出错的缓冲流。症状列表详见中继/代理陷阱。

中继是尽力而为的。 FIM One的文档化行为仅对第一方端点有保证，即OpenAI、Anthropic、Google和其他直接提供自有模型的供应商。中继可以工作且被广泛使用，包括对于只能通过这种方式访问的模型，但中继对请求的处理不在我们的控制范围内，因此它们不提供此类保证。没有任何东西被主机名阻止：能力按端点探测，不支持的行为会自行回退。在报告模型层错误之前，请针对第一方端点重现该问题。

配置策略

主模型 vs 快速模型：何时拆分

拆分当你的主模型昂贵或缓慢时（例如，gpt-5.4 + gpt-5.4-nano）。DAG 模式运行许多并行步骤 — 使用更便宜的快速模型可以节省大量成本。
相同模型当你的模型已经很便宜时（例如，两者都使用 deepseek-chat）。管理两个模型的开销不值得。

何时启用推理

启用用于复杂分析任务、多步骤规划和需要仔细判断的任务
禁用（默认）用于日常任务、简单问答和成本敏感的部署
推理通常会使每个请求的成本增加 2-5 倍 — medium 工作量是一个很好的起点

上下文窗口大小调整

设置 LLM_CONTEXT_SIZE 以匹配您的模型实际窗口：

模型	上下文窗口
GPT-5.4	1,050K (超过272K收费)
o3 / o4-mini	200K
Claude Opus 4.6	1M
Claude Sonnet 4.6	1M
Claude Haiku 4.5	200K
Gemini 2.5 Pro	1M
Gemini 3.1 Pro	1M
DeepSeek V3.2	128K
Qwen 3.5 Plus	1M
Local (Ollama)	4K–128K (因型号而异)

对于本地模型，请明确设置 LLM_CONTEXT_SIZE 和 LLM_MAX_OUTPUT_TOKENS — 默认值假设云规模的上下文窗口，本地模型无法支持。

为什么选 FIM One

快速入门

配置

集成

功能

扩展 FIM One

FIM One 如何使用模型

Quick Selection Matrix

结构化输出兼容性

思维/推理兼容性

关键概念

兼容性矩阵

FIM One 如何处理每种情况

提供商详情

OpenAI

Anthropic (Claude)

Google Gemini

DeepSeek

中文国内模型

Qwen / 通义千问 (阿里云)

ChatGLM / 智谱

MiniMax

Kimi / 月之暗面 (Moonshot)

本地模型 (Ollama)

第三方中继平台

工作原理

示例：一个中继，三个协议

步骤详解：路径检测如何工作

为什么这很重要

配置策略

主模型 vs 快速模型：何时拆分

何时启用推理

上下文窗口大小调整

​FIM One 如何使用模型

​Quick Selection Matrix

​结构化输出兼容性

​思维/推理兼容性

​关键概念

​兼容性矩阵

​FIM One 如何处理每种情况

​提供商详情

​OpenAI

​Anthropic (Claude)

​Google Gemini

​DeepSeek

​中文国内模型

​Qwen / 通义千问 (阿里云)

​ChatGLM / 智谱

​MiniMax

​Kimi / 月之暗面 (Moonshot)

​本地模型 (Ollama)

​第三方中继平台

​工作原理

​示例：一个中继，三个协议

​步骤详解：路径检测如何工作

​为什么这很重要

​配置策略

​主模型 vs 快速模型：何时拆分

​何时启用推理

​上下文窗口大小调整

FIM One 如何使用模型

Quick Selection Matrix

结构化输出兼容性

思维/推理兼容性

关键概念

兼容性矩阵

FIM One 如何处理每种情况

提供商详情

OpenAI

Anthropic (Claude)

Google Gemini

DeepSeek

中文国内模型

Qwen / 通义千问 (阿里云)

ChatGLM / 智谱

MiniMax

Kimi / 月之暗面 (Moonshot)

本地模型 (Ollama)

第三方中继平台

工作原理

示例：一个中继，三个协议

步骤详解：路径检测如何工作

为什么这很重要

配置策略

主模型 vs 快速模型：何时拆分

何时启用推理

上下文窗口大小调整