FIM One 如何使用模型
FIM One 有三个模型角色：
如果未配置，快速和推理模型将回退到通用模型。对于生产部署，至少分离为两个模型（通用 + 快速）可以获得最佳的成本/质量平衡。
这些角色可以通过环境变量或通过管理 UI 的模型组功能进行配置，该功能允许一键切换模型集。有关完整的管理 UI 指南，请参阅 模型管理。
快速选择矩阵
结构化输出兼容性
FIM One 的 DAG 规划器需要模型返回有效的结构化 JSON。在内部，它按顺序尝试三个提取级别：- 原生函数调用 — 通过工具调用 API 强制模型输出与架构匹配的 JSON。最可靠。
- JSON 模式 — 请求
response_format: json_object。保证有效的 JSON，但不强制架构合规性。 - 纯文本提取 — 作为最后手段从自由格式文本中解析 JSON。
tool_choice 的原生 FC）的模型提供最佳的规划可靠性。如果模型仅达到第 2 级，其输出质量取决于它遵循提示指令的程度 — 较弱的模型可能会生成与预期结构不匹配的有效 JSON。
思维/推理兼容性
不同的提供商以根本不同的方式实现”思维”（思维链推理）。这很重要，因为思维模式可能与工具调用冲突，并且输出根据提供商的不同而出现在不同的位置。FIM One 透明地处理所有这些——此表可帮助您了解底层发生的情况。关键概念
- 可选启用 — 思考功能默认关闭；你可以通过 API 参数（例如
reasoning_effort）启用它。可以按调用选择性地禁用。 - 始终启用 — 模型始终进行思考；没有 API 参数可以关闭它。你需要切换到非思考模型变体才能避免它。
- 模型级别 — 思考功能由你选择的模型 ID 决定（例如
deepseek-reasonervsdeepseek-chat），而不是由参数决定。
兼容性矩阵
FIM One 如何处理每种情况
API 级别的reasoning_content（Claude、DeepSeek）：推理字段直接从 API 响应读取，并在 UI 推理面板中显示。无需后处理。
内容中的 <think> 标签（MiniMax、Qwen、QwQ 和其他开源衍生版本）：FIM One 自动从内容字段中剥离 <think>...</think> 标签，并将思考文本重新路由到推理面板。这适用于流式和非流式响应。
强制 FC + 思考冲突（Claude、Kimi）：当 FIM One 需要强制函数调用时（例如，在 DAG 规划的结构化输出提取期间），它通过传递 reasoning_effort=None 为该特定调用临时禁用思考。这之所以有效，是因为 Claude 的思考是可选的——不发送该参数意味着没有思考，从而避免 400 错误。对于无法禁用思考的提供商（MiniMax），强制 FC 工作正常，因为这些提供商不会拒绝该组合。
回退链：如果强制函数调用因任何原因失败，FIM One 会自动回退：原生 FC → JSON 模式 → 纯文本提取。这种三层方法确保规划即使在提供商工具调用支持不完整的情况下也能工作。
如果您使用始终进行思考的模型（MiniMax M2.7、DeepSeek R1）作为主 LLM，思考输出将出现在每个智能体迭代的推理面板中。这是正常的——它不会影响功能，您可以看到模型的推理过程。
提供商详情
OpenAI
最经过实战检验的选项。OpenAI 模型具有最好的原生函数调用（工具调用）支持，这直接影响智能体的可靠性。GPT-5 系列（2025 年 8 月+）相比 GPT-4 是一个重大的代际飞跃。 推荐模型：- 主力：
gpt-5.4（最新旗舰版，2026 年 3 月 — 1M+ 上下文，计算机使用）或o3（最佳推理准确度） - 快速：
gpt-5.4-mini（4.50 每 MTok）或gpt-5.4-nano（最便宜 1.25 每 MTok） - 预算快速：
gpt-5-mini（2.00）和gpt-5-nano（0.40）以更低价格继续可用 - 遗留：
gpt-4.1（仍在 API 中，1M 上下文，适合编码）
LLM_REASONING_EFFORT=medium — 与 o 系列和 GPT-5.x 模型原生兼容。GPT-5.4 支持 reasoning_effort，级别为 none、low、medium、high、xhigh。o 系列需要 max_completion_tokens 而不是 max_tokens，LiteLLM 会自动处理。注意：当工具存在于 /v1/chat/completions 中时，GPT-5.x 仍会丢弃 reasoning_effort — FIM One 在智能体工具使用步骤中会静默丢弃它，以便工作流不中断运行。GPT-5.4 需要 temperature=1 — FIM One 通过 LiteLLM 的参数过滤（drop_params）自动处理。
Anthropic (Claude)
Claude 在细致推理和复杂多步骤任务中表现出色。FIM One 通过 LiteLLM 连接，自动通过其原生 API 路由 Anthropic 模型。当前版本是 Claude 4.6（2026 年 2 月）。 推荐模型：- 主要：
claude-sonnet-4-6（能力和成本的最佳平衡 — 15 per MTok） - 快速：
claude-haiku-4-5（快速且便宜 — 5 per MTok） - 高级：
claude-opus-4-6（最强大，128K 最大输出 — 25 per MTok）
https://api.anthropic.com/v1/
Opus 4.6 和 Sonnet 4.6 拥有 1M 上下文窗口（自 2026 年 3 月 13 日正式发布 — 无需 beta 标头）。Haiku 4.5 拥有 200K 上下文窗口。
推理： 设置 LLM_REASONING_EFFORT=medium — LiteLLM 通过原生 API 路由 Anthropic 模型，因此 reasoning_content（扩展思考）完全返回并在 UI”思考”步骤中可见。Claude 4.6 模型支持自适应思考（thinking: {type: "adaptive"}），替代手动 budget_tokens — LiteLLM 自动处理转换。启用扩展思考时，Anthropic 要求 temperature=1 — 在 .env 或模型配置中设置 LLM_TEMPERATURE=1。详见 Extended Thinking。
Google Gemini
Gemini 模型通过 Google 的 OpenAI 兼容端点提供强大的性能和具有竞争力的定价。3.x 代（2025 年末及以后）是一个重大飞跃 — Gemini 3 Flash 的性能超越 2.5 Pro，同时速度快 3 倍。注意：gemini-3-pro-preview 已于 2026 年 3 月 9 日关闭 — 请改用 gemini-3.1-pro-preview。
推荐模型：
- 稳定版 (GA)：
gemini-2.5-pro（主要）+gemini-2.5-flash（快速）— 生产就绪 - 最新版 (Preview)：
gemini-3.1-pro-preview（主要）+gemini-3-flash-preview（快速）+gemini-3.1-flash-lite-preview（预算快速）— 最佳性能，但处于预览状态
https://generativelanguage.googleapis.com/v1beta/openai/
推理： 兼容性端点支持 reasoning_effort — 设置 LLM_REASONING_EFFORT=medium 即可开箱即用。
DeepSeek
DeepSeek 提供市场上最佳的成本/性能比。V3.2（2025年12月）将聊天和推理系列统一为单一模型，定价极低。 模型 ID（均由 V3.2 支持）：deepseek-chat— 通用目的（非思考模式）deepseek-reasoner— 链式思考推理模式，返回reasoning_content
https://api.deepseek.com
定价： 0.42 每百万令牌（缓存命中：$0.028）— 迄今为止最便宜的前沿级 API。
输出限制： deepseek-chat 最大输出为 8K 令牌（必须通过 max_tokens 显式设置）。deepseek-reasoner 最大输出为 64K 令牌（包括链式思考）。
V4 预计 2026 年 4 月：万亿参数多模态模型，具有 1M 上下文窗口。发布时预期会有新的模型 ID。
中文国内模型
所有主要的中文模型提供商都提供 OpenAI 兼容的端点。这些模型特别擅长处理中文任务，并提供具有竞争力的本地定价。Qwen / 通义千问 (阿里云)
Qwen 3.5（2026年2月）是最新一代——397B MoE旗舰模型在MMLU-Pro上的表现超越GPT-5.2。提供最强的中文语言支持和最便宜的前沿级定价（约$0.11/MTok输入）。- 基础URL（中国）：
https://dashscope.aliyuncs.com/compatible-mode/v1 - 基础URL（全球）：
https://dashscope-intl.aliyuncs.com/compatible-mode/v1 - 主力：
qwen3.5-plus（旗舰，1M上下文，0.66 per MTok）或qwen3-max（256K，最强） - 快速：
qwen3.5-flash（0.22 per MTok）或qwen-turbo（0.08 per MTok） - 推理：
qwen3-max配合enable_thinking: true参数（没有单独的qwen3-max-thinking模型ID）
ChatGLM / 智谱
GLM-4.7 和 GLM-5（2026）是最新的模型。GLM-5 是 745B MoE 旗舰模型，在编码/智能体任务上接近 Claude Opus 级别。- Base URL（国内）：
https://open.bigmodel.cn/api/paas/v4 - Base URL（Z.AI 国际）：
https://api.z.ai/api/paas/v4 - 主要：
glm-4.7（强大的编码能力，Z.AI 上 2.20） - 快速：
glm-4.7-flash（免费层级！）或glm-4.7-flashx（0.40，更高吞吐量） - 推理：
glm-5（745B MoE 旗舰模型，3.20）
tool_choice — 仅 "auto" 有效。
MiniMax
MiniMax M2.7（2026年3月18日）是最新模型，开放权重，在SWE-Bench上得分80.2%。M2.5仍可作为快速/预算选项使用。 MiniMax为不同地区提供两个独立的API端点：- Base URL（全球/海外版）:
https://api.minimax.io/v1— 用于中国大陆以外的用户 - Base URL（中国/国内版）:
https://api.minimaxi.com/v1— 用于中国大陆用户（注意minimaxi中多了一个i） - 主要:
MiniMax-M2.7 - 快速:
MiniMax-M2.5 - 速度:
MiniMax-M2.7-highspeed（成本提高2倍，延迟更低）
Kimi / 月之暗面 (Moonshot)
Kimi K2.5（2026年1月）具有256K上下文和强大的编码性能（在开源模型中SWE-Bench达到76.8%）。- 基础URL（全球）:
https://api.moonshot.ai/v1 - 基础URL（中国）:
https://api.moonshot.cn/v1 - 主要:
kimi-k2.5 - 快速:
kimi-k2（非思考模式，函数调用有效） - 推理:
kimi-k2-thinking（2.00 per MTok）
tool_choice仅在思考模式关闭时有效。启用思考模式时，仅支持"auto"。
本地模型 (Ollama)
在自己的硬件上完全运行模型 — 无需 API 密钥，完全离线。Ollama 开箱即用地暴露一个 OpenAI 兼容的端点。开源生态已经发生了巨大变化 — Qwen 3.5、Llama 4 和 GPT-OSS（OpenAI 的首批开放权重模型）都已可用。 基础 URL：http://localhost:11434/v1
按 VRAM 推荐的模型：
最适合工具调用： Qwen 3/3.5 (32B+)、GLM-4.7、GPT-OSS、Mistral — 这些模型具有明确的函数调用训练。参数为 14B+ 的模型是可靠工具调用的最低要求；强烈推荐 32B+ 及以上。
第三方中继平台
许多用户通过单个中继（代理）服务访问多个模型提供商。FIM One 根据 URL 路径模式自动检测正确的 API 协议 — 只需填入LLM_BASE_URL 即可工作。
工作原理
当您的基础 URL 指向第三方中继时，FIM One 检查 URL 路径以确定要使用的协议：
解析顺序： 显式数据库提供商字段 > 域名匹配（官方 API） > URL 路径提示（中继平台） > OpenAI 兼容回退。
示例：一个中继，三个协议
使用单个中继账户，您可以通过简单地更改基础 URL 路径来访问不同的提供商：步骤详解：路径检测如何工作
以下是一个具体示例，展示了配置中继时内部发生的情况：- FIM One 在 URL 路径中看到
/claude→ 检测到 Anthropic 原生协议 - 模型被前缀为
anthropic/claude-sonnet-4-6用于 LiteLLM 路由 - 请求使用 Anthropic 的
/v1/messages格式和x-api-key认证头 reasoning_effort=medium被转换为 Anthropic 的原生thinking参数（不是 OpenAI 的reasoning_effort）
为什么这很重要
- Anthropic 原生端点为您提供适当的
reasoning_content支持（UI 中可见的扩展思考）、正确的工具调用格式和x-api-key身份验证 — 使用 OpenAI 兼容转换时会丧失这些功能。 - Google 原生端点为您提供原生 Gemini 参数和
x-goog-api-key身份验证。 - OpenAI 兼容是通用后备方案，适用于任何中继，但提供商特定功能（如扩展思考输出）可能不可用。
如果您的中继平台使用非标准路径约定（例如，URL 中没有
/claude 或 /anthropic），FIM One 会回退到 OpenAI 兼容协议 — 这适用于大多数用例。为了获得完整的原生协议支持，您可以通过管理员模型配置 UI 显式设置 provider 字段。配置策略
主模型 vs 快速模型：何时拆分
- 拆分当你的主模型昂贵或缓慢时（例如，
gpt-5.4+gpt-5.4-nano）。DAG 模式运行许多并行步骤 — 使用更便宜的快速模型可以节省大量成本。 - 相同模型当你的模型已经很便宜时（例如，两者都使用
deepseek-chat）。管理两个模型的开销不值得。
何时启用推理
- 启用 用于复杂分析任务、多步骤规划和需要仔细判断的任务
- 禁用（默认）用于日常任务、简单问答和成本敏感的部署
- 推理通常会使每个请求的成本增加 2-5 倍 —
medium工作量是一个很好的起点
上下文窗口大小调整
设置LLM_CONTEXT_SIZE 以匹配您的模型实际窗口：
对于本地模型，请明确设置
LLM_CONTEXT_SIZE 和 LLM_MAX_OUTPUT_TOKENS — 默认值假设云规模的上下文窗口，本地模型无法支持。