메인 콘텐츠로 건너뛰기
FIM One은 공급자에 무관합니다 — 모든 OpenAI 호환 엔드포인트가 작동합니다. 이 페이지는 사용 사례에 맞는 최적의 모델 조합을 선택하는 데 도움을 줍니다. 구성 세부 사항은 환경 변수를 참조하세요.

​
FIM One이 모델을 사용하는 방식

FIM One에는 두 개의 모델 슬롯이 있습니다:
슬롯환경 변수용도
Main LLMLLM_MODEL계획, 분석, ReAct 에이전트, 복잡한 추론
Fast LLMFAST_LLM_MODELDAG 단계 실행, 컨텍스트 압축 (더 저렴하고 빠름)
FAST_LLM_MODEL이 설정되지 않으면 LLM_MODEL로 폴백됩니다. 프로덕션 배포의 경우, 두 개의 모델로 분리하면 최적의 비용/품질 균형을 얻을 수 있습니다.

​
빠른 선택 매트릭스

제공자주요 LLM빠른 LLM추론참고
OpenAIgpt-5.4 / o3gpt-5-mini / gpt-5-nano✅ reasoning_effort최고의 기본 도구 호출; GPT-5.4는 최신 플래그십
Anthropicclaude-sonnet-4-6claude-haiku-4-5✅ LiteLLM 경유기본 API 라우팅; 전체 reasoning_content 지원
Google Geminigemini-2.5-pro / gemini-3.1-pro-previewgemini-2.5-flash / gemini-3-flash-preview✅ reasoning_effort2.5는 안정적 GA; 3.x는 미리보기
DeepSeekdeepseek-chat (V3.2)deepseek-chat✅ deepseek-reasoner최고의 비용/성능; V4 임박
Qwen (Alibaba)qwen3.5-plus / qwen3-maxqwen-turbo✅ qwen3-max-thinking가장 강력한 중국어 지원
ChatGLM (Zhipu)glm-5glm-4-flash❌GLM-5는 744B MoE; glm-4-flash 무료 계층
MiniMaxMiniMax-M2.5MiniMax-M2.5-Lightning❌오픈 가중치, 강력한 코딩 (80.2% SWE-Bench)
Kimi (Moonshot)kimi-k2.5kimi-k2.5❌256K 컨텍스트, 강력한 코딩
Ollama (로컬)qwen3.5 / llama4qwen3.5:9b❌완전 오프라인, API 키 불필요

​
제공자 세부 정보

​
OpenAI

가장 검증된 옵션입니다. OpenAI 모델은 최고의 네이티브 함수 호출(도구 호출) 지원을 제공하며, 이는 에이전트 안정성에 직접적인 영향을 미칩니다. GPT-5 패밀리(2025년 8월 이후)는 GPT-4에 비해 주요 세대 도약입니다. 권장 모델:
  • 메인: gpt-5.4 (최신 플래그십, 2026년 3월 — 내장 컴퓨터 사용) 또는 o3 (최고의 추론 정확도)
  • 빠름: gpt-5-mini (MTok당 0.25/0.25/2.00) 또는 gpt-5-nano (MTok당 0.05/0.05/0.40로 가장 저렴)
  • 레거시: gpt-4.1 (API에서 여전히 사용 가능, 1M 컨텍스트, 코딩에 적합) — 2026년 2월 ChatGPT에서 중단됨
추론: LLM_REASONING_EFFORT=medium을 설정하세요 — o-series 및 GPT-5.x 모델과 기본적으로 작동합니다. o-series는 max_tokens 대신 max_completion_tokens을 필요로 하며, LiteLLM이 자동으로 처리합니다. 참고: GPT-5.x는 /v1/chat/completions에서 reasoning_effort와 도구 호출을 함께 지원하지 않습니다 — FIM One은 에이전트 도구 사용 단계에서 이를 자동으로 제거하여 워크플로우가 중단 없이 실행되도록 합니다. GPT-5.x는 temperature=1만 지원합니다 — FIM One은 LiteLLM의 매개변수 필터링(drop_params)을 통해 자동으로 처리합니다.
모델입력 $/MTok출력 $/MTok컨텍스트
gpt-5.4$2.50$15.00272K
o3$2.00$8.00200K
o4-mini$1.10$4.40200K
gpt-5-mini$0.25$2.00—
gpt-5-nano$0.05$0.40—
# .env — OpenAI (프로덕션 추론 포함)
LLM_API_KEY=sk-...
LLM_BASE_URL=https://api.openai.com/v1
LLM_MODEL=gpt-5.4
FAST_LLM_MODEL=gpt-5-nano
LLM_REASONING_EFFORT=medium

# .env — OpenAI (예산 추론)
LLM_API_KEY=sk-...
LLM_BASE_URL=https://api.openai.com/v1
LLM_MODEL=o3
FAST_LLM_MODEL=gpt-5-nano
LLM_REASONING_EFFORT=medium

​
Anthropic (Claude)

Claude는 미묘한 추론과 복잡한 다단계 작업에 탁월합니다. FIM One은 LiteLLM을 통해 연결되며, Anthropic 모델을 자동으로 네이티브 API를 통해 라우팅합니다. 현재 세대는 Claude 4.6(2026년 2월)입니다. 권장 모델:
  • Main: claude-sonnet-4-6 (기능과 비용의 최적 균형 — 3/3/15 per MTok)
  • Fast: claude-haiku-4-5 (빠르고 저렴함 — 1/1/5 per MTok)
  • Premium: claude-opus-4-6 (가장 강력함, 최대 출력 128K — 5/5/25 per MTok)
Base URL: https://api.anthropic.com/v1/ 모든 현재 Claude 모델은 확장 사고를 지원하며 200K 컨텍스트 윈도우(베타에서 1M)를 가지고 있습니다. 추론: LLM_REASONING_EFFORT=medium을 설정하세요 — LiteLLM은 Anthropic 모델을 네이티브 API를 통해 라우팅하므로, reasoning_content(확장 사고)가 완전히 반환되고 UI의 “thinking” 단계에서 표시됩니다. 확장 사고가 활성화되면 Anthropic은 temperature=1을 요구합니다 — .env 또는 모델 구성에서 LLM_TEMPERATURE=1을 설정하세요. 자세한 내용은 Extended Thinking을 참조하세요.

​
.env — Anthropic Claude

LLM_API_KEY=sk-ant-… LLM_BASE_URL=https://api.anthropic.com/v1/ LLM_MODEL=claude-sonnet-4-6 FAST_LLM_MODEL=claude-haiku-4-5 LLM_REASONING_EFFORT=medium 

---

### Google Gemini

Gemini 모델은 Google의 OpenAI 호환 엔드포인트를 통해 경쟁력 있는 가격으로 강력한 성능을 제공합니다. 3.x 세대(2025년 말 이후)는 큰 도약입니다 — Gemini 3 Flash는 2.5 Pro보다 성능이 우수하면서 3배 더 빠릅니다.

**권장 모델:**
- 안정적(GA): `gemini-2.5-pro` (주요) + `gemini-2.5-flash` (빠름) — 프로덕션 준비 완료
- 최신(Preview): `gemini-3.1-pro-preview` (주요) + `gemini-3-flash-preview` (빠름) — 최고 성능, 하지만 preview 상태

**Base URL:** `https://generativelanguage.googleapis.com/v1beta/openai/`

**추론:** `reasoning_effort`는 호환성 엔드포인트에서 지원됩니다 — `LLM_REASONING_EFFORT=medium`을 설정하면 즉시 작동합니다.

| 모델 | 입력 $/MTok | 출력 $/MTok | 상태 |
|---|---|---|---|
| `gemini-3.1-pro-preview` | $2.00 | $12.00 | Preview |
| `gemini-3-flash-preview` | $0.50 | $3.00 | Preview |
| `gemini-2.5-pro` | $1.25 | $10.00 | Stable GA |
| `gemini-2.5-flash` | $0.30 | $2.50 | Stable GA |
| `gemini-2.5-flash-lite` | $0.10 | $0.40 | Stable GA |

```bash
# .env — Gemini (stable)
LLM_API_KEY=AIza...
LLM_BASE_URL=https://generativelanguage.googleapis.com/v1beta/openai/
LLM_MODEL=gemini-2.5-pro
FAST_LLM_MODEL=gemini-2.5-flash
LLM_REASONING_EFFORT=medium

# .env — Gemini (최신 미리보기)
LLM_API_KEY=AIza...
LLM_BASE_URL=https://generativelanguage.googleapis.com/v1beta/openai/
LLM_MODEL=gemini-3.1-pro-preview
FAST_LLM_MODEL=gemini-3-flash-preview
LLM_REASONING_EFFORT=medium

​
DeepSeek

DeepSeek는 시장에서 최고의 비용/성능 비율을 제공합니다. V3.2(2025년 12월)는 채팅과 추론 라인을 단일 모델로 통합했으며, 매우 저렴한 가격입니다. 모델 ID (모두 V3.2로 지원됨):
  • deepseek-chat — 범용(비사고 모드)
  • deepseek-reasoner — 사고의 연쇄 추론 모드, reasoning_content 반환
기본 URL: https://api.deepseek.com 가격: MTok당 0.28/0.28/0.42 (캐시 히트: $0.028) — 지금까지 가장 저렴한 최첨단 API입니다.
V4가 임박했습니다 (2026년 3월): 1M 컨텍스트 윈도우를 가진 조 단위 매개변수 멀티모달 모델. 출시 시 새로운 모델 ID를 예상하세요. 
# .env — DeepSeek (예산 친화적)
LLM_API_KEY=sk-...
LLM_BASE_URL=https://api.deepseek.com
LLM_MODEL=deepseek-chat
FAST_LLM_MODEL=deepseek-chat

# .env — DeepSeek (추론 포함)
LLM_API_KEY=sk-...
LLM_BASE_URL=https://api.deepseek.com
LLM_MODEL=deepseek-reasoner
FAST_LLM_MODEL=deepseek-chat

​
중국 국내 모델

모든 주요 중국 모델 제공자는 OpenAI 호환 엔드포인트를 제공합니다. 이들은 중국어 작업에 특히 강력하며 경쟁력 있는 로컬 가격을 제공합니다.

​
Qwen / 通义千问 (Alibaba Cloud)

Qwen 3.5 (2026년 2월)는 최신 세대입니다 — 397B MoE 플래그십이 MMLU-Pro에서 GPT-5.2를 능가합니다.
  • Base URL: https://dashscope.aliyuncs.com/compatible-mode/v1
  • International: https://dashscope-intl.aliyuncs.com/compatible-mode/v1
  • Main: qwen3.5-plus (플래그십, 1M 컨텍스트) 또는 qwen3-max (조 단위 파라미터)
  • Fast: qwen-turbo (빠르고 저렴함)
  • Reasoning: qwen3-max-thinking (GPT-5.2-Thinking과 유사)
# .env — Qwen
LLM_API_KEY=sk-...
LLM_BASE_URL=https://dashscope.aliyuncs.com/compatible-mode/v1
LLM_MODEL=qwen3.5-plus
FAST_LLM_MODEL=qwen-turbo

​
ChatGLM / 智谱

GLM-5 (2026)는 최신 플래그십 모델입니다 — 총 744B 파라미터 (40B 활성), 코딩/에이전트 작업에서 Claude Opus 수준에 접근합니다.
  • Base URL: https://open.bigmodel.cn/api/paas/v4
  • Main: glm-5 (플래그십)
  • Fast: glm-4-flash (무료 티어 사용 가능!)
일부 HTTP 클라이언트는 base URL에 /v1을 자동으로 추가합니다. Zhipu는 /v4를 사용합니다 — 클라이언트가 OpenAI 스타일의 경로 접미사를 강제하지 않도록 하세요. 그렇지 않으면 404 오류가 발생합니다.
# .env — ChatGLM
LLM_API_KEY=...
LLM_BASE_URL=https://open.bigmodel.cn/api/paas/v4
LLM_MODEL=glm-5
FAST_LLM_MODEL=glm-4-flash

​
MiniMax

MiniMax M2.5 (2026년 2월)는 오픈 가중치이며 SWE-Bench에서 80.2%의 점수를 획득했습니다.
  • Base URL (중국): https://api.minimaxi.com/v1
  • Base URL (글로벌): https://api.minimax.io
  • Main: MiniMax-M2.5
  • Fast: MiniMax-M2.5-Lightning
# .env — MiniMax
LLM_API_KEY=...
LLM_BASE_URL=https://api.minimaxi.com/v1
LLM_MODEL=MiniMax-M2.5
FAST_LLM_MODEL=MiniMax-M2.5-Lightning

​
Kimi / 월지암면 (Moonshot)

Kimi K2.5 (2026년 1월)는 256K 컨텍스트를 가지고 있으며 강력한 코딩 성능(오픈소스 모델 중 SWE-Bench 76.8%)을 제공합니다.
  • Base URL: https://api.moonshot.ai/v1
  • Model: kimi-k2.5
# .env — Kimi
LLM_API_KEY=...
LLM_BASE_URL=https://api.moonshot.ai/v1
LLM_MODEL=kimi-k2.5
FAST_LLM_MODEL=kimi-k2.5

​
로컬 모델 (Ollama)

자신의 하드웨어에서 모델을 완전히 실행하세요 — API 키가 필요 없고, 완전히 오프라인입니다. Ollama는 기본적으로 OpenAI 호환 엔드포인트를 제공합니다. 오픈소스 환경이 극적으로 변했습니다 — Qwen 3.5, Llama 4, GPT-OSS(OpenAI의 첫 번째 오픈 가중치 모델)가 모두 사용 가능합니다. 기본 URL: http://localhost:11434/v1 VRAM별 권장 모델:
VRAM메인 LLM빠른 LLM참고
8 GBqwen3.5:9b / gemma3:4bqwen3.5:4bQwen 3.5 9B는 이 계층에서 최고
16 GBgpt-oss:20b / deepseek-r1:14bqwen3.5:9bGPT-OSS 20B는 에이전트 최적화됨
24 GBqwen3:32b / deepseek-r1:32bqwen3.5:9bQwen 3 32B는 도구 호출에 최적
48 GB+llama3.3:70b / gpt-oss:120bqwen3.5:14b거의 최첨단 수준의 품질
도구 호출에 최적: Qwen 3/3.5 (32B+), GLM-4.7, GPT-OSS, Mistral — 이들은 명시적 함수 호출 학습을 받았습니다. 14B+ 파라미터를 가진 모델이 안정적인 도구 호출의 최소 요구사항이며, 32B+가 강력히 권장됩니다.
도구 호출 품질은 로컬 모델 간에 크게 다릅니다. 모든 모델이 유효한 함수 호출을 안정적으로 생성하는 것은 아닙니다. 프로덕션에서 사용하기 전에 에이전트 워크플로우로 선택한 모델을 테스트하세요. 일반적인 규칙: 최소 14B, 에이전트 작업에는 32B+ 권장.
# .env — Ollama (균형잡힌, 16GB VRAM)
LLM_API_KEY=ollama
LLM_BASE_URL=http://localhost:11434/v1
LLM_MODEL=gpt-oss:20b
FAST_LLM_MODEL=qwen3.5:9b
LLM_CONTEXT_SIZE=32768
LLM_MAX_OUTPUT_TOKENS=8192

# .env — Ollama (에이전트 최적화, 24GB VRAM)
LLM_API_KEY=ollama
LLM_BASE_URL=http://localhost:11434/v1
LLM_MODEL=qwen3:32b
FAST_LLM_MODEL=qwen3.5:9b
LLM_CONTEXT_SIZE=32768
LLM_MAX_OUTPUT_TOKENS=8192

​
제3자 릴레이 플랫폼

많은 사용자가 단일 릴레이(프록시) 서비스를 통해 여러 모델 제공자에 액세스합니다. FIM One은 URL 경로 패턴을 기반으로 올바른 API 프로토콜을 자동으로 감지합니다. LLM_BASE_URL을 입력하기만 하면 작동합니다.

​
작동 방식

기본 URL이 타사 릴레이를 가리킬 때, FIM One은 URL 경로를 검사하여 사용할 프로토콜을 결정합니다:
URL 경로 포함감지된 프로토콜인증 헤더주요 이점
/v1 (또는 일치 없음)OpenAI 호환Authorization: Bearer범용 폴백, 대부분의 릴레이와 호환
/claude 또는 /anthropicAnthropic 네이티브x-api-key전체 reasoning_content (확장 사고) 지원
/geminiGoogle 네이티브x-goog-api-key네이티브 Gemini 매개변수 변환
해결 순서: 명시적 DB 제공자 필드 > 도메인 일치 (공식 API) > URL 경로 힌트 (릴레이 플랫폼) > OpenAI 호환 폴백.

​
예시: 하나의 릴레이, 세 가지 프로토콜

단일 릴레이 계정으로 기본 URL 경로를 변경하기만 하면 다양한 공급자에 액세스할 수 있습니다:

​
.env — Claude via relay (Anthropic native protocol)

LLM_API_KEY=your-relay-key LLM_BASE_URL=https://relay.example.com/anthropic LLM_MODEL=claude-sonnet-4-6 

```bash
# .env — Gemini via relay (Google native protocol)
LLM_API_KEY=your-relay-key
LLM_BASE_URL=https://relay.example.com/gemini
LLM_MODEL=gemini-2.5-pro

# .env — 릴레이를 통한 GPT (OpenAI 호환 프로토콜)
LLM_API_KEY=your-relay-key
LLM_BASE_URL=https://relay.example.com/v1
LLM_MODEL=gpt-5.4
추가 구성이 필요하지 않습니다 — 인증 헤더, 매개변수 형식 및 응답 파싱이 모두 자동으로 전환됩니다.

​
단계별: 경로 감지 작동 방식

릴레이를 구성할 때 내부적으로 어떤 일이 발생하는지 보여주는 구체적인 예시입니다: 
# .env — 릴레이 플랫폼을 통한 Claude
LLM_API_KEY=your-relay-key
LLM_BASE_URL=https://my-relay.example.com/claude
LLM_MODEL=claude-sonnet-4-6
LLM_REASONING_EFFORT=medium
  1. FIM One이 URL 경로에서 /claude를 감지 → Anthropic 네이티브 프로토콜 감지
  2. 모델은 LiteLLM 라우팅을 위해 anthropic/claude-sonnet-4-6으로 접두사 지정
  3. 요청은 x-api-key 인증 헤더와 함께 Anthropic의 /v1/messages 형식 사용
  4. reasoning_effort=medium은 Anthropic의 네이티브 thinking 파라미터로 변환 (OpenAI의 reasoning_effort 아님)
동일한 릴레이 URL이 https://my-relay.example.com/v1이었다면, /claude 힌트가 없어서 FIM One은 OpenAI 호환 프로토콜로 폴백되어 Claude 네이티브 엔드포인트에 /v1/chat/completions 요청을 보내게 되어 실패합니다. URL 경로가 중요합니다.

​
이것이 중요한 이유

  • Anthropic 네이티브 엔드포인트는 적절한 reasoning_content 지원(UI에서 확장된 사고 표시), 올바른 도구 호출 형식, x-api-key 인증을 제공합니다 — OpenAI 호환 변환을 사용할 때 손실되는 기능입니다.
  • Google 네이티브 엔드포인트는 네이티브 Gemini 매개변수와 x-goog-api-key 인증을 제공합니다.
  • OpenAI 호환은 범용 폴백이며 모든 릴레이에서 작동하지만, 공급자별 기능(예: 확장된 사고 출력)은 사용할 수 없을 수 있습니다.
릴레이 플랫폼이 비표준 경로 규칙을 사용하는 경우(예: URL에 /claude 또는 /anthropic이 없음), FIM One은 OpenAI 호환 프로토콜로 폴백됩니다 — 대부분의 사용 사례에서 작동합니다. 완전한 네이티브 프로토콜 지원을 위해 관리자 모델 구성 UI를 통해 provider 필드를 명시적으로 설정할 수 있습니다.

​
구성 전략

​
Main vs Fast: 언제 분할할지

  • 분할 메인 모델이 비싸거나 느릴 때 (예: gpt-5.4 + gpt-5-nano). DAG 모드는 많은 병렬 단계를 실행합니다 — 더 저렴한 빠른 모델을 사용하면 상당한 비용을 절감할 수 있습니다.
  • 동일 모델 모델이 이미 저렴할 때 (예: 둘 다 deepseek-chat). 두 모델을 관리하는 오버헤드는 그만한 가치가 없습니다.

​
추론을 활성화해야 할 때

  • 활성화: 복잡한 분석 작업, 다단계 계획, 신중한 판단이 필요한 작업
  • 비활성화 (기본값): 일상적인 작업, 간단한 Q&A, 비용에 민감한 배포
  • 추론은 일반적으로 요청당 비용을 2-5배 증가시킵니다 — medium 수준의 노력이 좋은 시작점입니다

​
컨텍스트 윈도우 크기 조정

LLM_CONTEXT_SIZE를 모델의 실제 윈도우와 일치하도록 설정하세요:
모델컨텍스트 윈도우
GPT-5.4272K
o3 / o4-mini200K
Claude Sonnet 4.6200K (1M 베타)
Gemini 2.5 Pro1M
Gemini 3.1 Pro1M
DeepSeek V3.2128K
Qwen 3.5 Plus1M
Local (Ollama)4K–128K (다양함)
로컬 모델의 경우 LLM_CONTEXT_SIZE와 LLM_MAX_OUTPUT_TOKENS를 명시적으로 설정하세요. 기본값은 로컬 모델이 지원할 수 없는 클라우드 규모의 컨텍스트 윈도우를 가정합니다.