TAB-QA-028 · Q&A · 2026-08-25 · David 시스템·IT

AI 모델 라우터 서비스 비교

질문하기 페이지에 Claude 외 여러 AI 에이전트(Gemini 등)를 한번에 선택 가능하게 하는 라우터 서비스들을 찾아 장단점·가격을 비교하고 추천해줘.

문서번호 TAB-QA-028 주제 시스템·IT 일시 2026-08-25질문자 David 원본 30. Queries

2026-08-25 Q&A - David

Query

질문: 질문하기 페이지에 Claude 외 여러 AI 에이전트(Gemini 등)를 한번에 선택 가능하게 하는 라우터 서비스들을 찾아 장단점·가격을 비교하고 추천해줘.
배경: /ask에 Gemini 무료 티어를 추가하려던 논의에서, 모델마다 별도 연동 코드를 짜는 대신 “AI 라우터/애그리게이터”(단일 OpenAI 호환 API로 여러 공급사 모델에 접근) 서비스를 쓰는 게 낫지 않겠냐는 아이디어로 시작됨.
일시: 2026-08-25 16:30

Answer

전제 조건 (TAB /ask의 특수성)

  • 서버리스 아키텍처: Cloudflare Pages Functions 위에서 동작 — 항상 켜져 있는 별도 서버 운영은 부담.
  • 저볼륨: 하루 몇 건 수준의 사내 질문(전체 사용자 소수) — 대규모 팀용 요금제는 과함.
  • 이미 Anthropic API 키 보유: ANTHROPIC_API_KEY가 Cloudflare Pages secret으로 이미 등록돼 있음 — BYOK(Bring Your Own Key) 지원 여부가 비용에 큰 영향.
  • 내부 데이터 민감성: 질문 컨텍스트에 매출·리베이트 등 내부 수치가 실림 — 신뢰도 낮은 신생 서비스에 대한 리스크 고려 필요.

후보 비교

서비스성격요금 구조무료/저비용 사용
OpenRouter가장 널리 쓰이는 표준, 검증된 트랙레코드월정액 없음, 순수 종량제BYOK 시 월 $25,000 규모까지 수수료 0%
OrcaRouter신생 서비스자체 마진 없음(zero-markup), 선택적 Team $49/월BYOK 지원, 회사 신뢰도 정보 불명확
Portkey / Requesty엔터프라이즈용 — 관측성·거버넌스·감사로그 강점(Portkey는 2026-05 Palo Alto Networks에 인수됨)월 $49부터(로그 10만건 한도, 초과 시 추가과금)소규모 무료 티어 있으나 한도 낮음
LiteLLM오픈소스, 직접 서버 호스팅코어 기능(프록시·관리 UI·키 관리·비용 추적) 완전 무료(MIT)무제한 무료 — 서버는 직접 운영 필요

장단점

OpenRouter

  • 장점: 업계 표준급 인지도·안정성, 200개 이상 모델(Claude·Gemini·GPT 등 포함), 모델별 수수료 없이 공급사 원가 그대로(0% 마진), 이미 보유한 Anthropic API 키를 그대로 연결(BYOK)하면 사실상 무료로 라우팅, 연동은 base_url만 바꾸면 끝(OpenAI 호환 포맷).
  • 단점: 신용카드로 크레딧 충전 시 5.5%(최소 $0.80) 수수료 — BYOK로 쓰면 이 수수료 자체가 거의 발생 안 함.

OrcaRouter

  • 장점: OpenRouter와 거의 동일한 모델(zero-markup, BYOK, OpenAI 호환), 200개 이상 모델.
  • 단점: 회사 설립 시점·평판 정보를 찾기 어려운 신생 서비스 — 내부 매출·리베이트 데이터가 오가는 도구를 검증 안 된 곳에 맡기는 리스크.

Portkey / Requesty

  • 장점: 상세 로그·비용 대시보드·팀 권한 관리 등 기업용 기능이 풍부.
  • 단점: 월 $49부터 시작하는 구독제 — TAB처럼 하루 몇 건 수준 사용량엔 완전히 과한 스펙과 비용.

LiteLLM

  • 장점: 진짜 완전 무료(오픈소스), 데이터가 제3자 서버를 거치지 않고 직접 각 공급사로만 나감(프라이버시 측면 최선).
  • 단점: Cloudflare Pages Functions(서버리스) 구조와 안 맞음 — 항상 켜져 있는 별도 서버(예: GCP 무료 e2-micro VM)를 직접 운영·관리해야 함, 유지보수 부담 증가.

추천

OpenRouter를 추천한다.

  1. BYOK로 사실상 무료 — 기존 ANTHROPIC_API_KEY를 OpenRouter에 그대로 연결하면 Claude 사용에 추가 수수료가 붙지 않는다(월 $25,000 규모까지 무료 한도라 TAB 볼륨엔 전혀 문제없음).
  2. 검증된 신뢰도 — 신생 OrcaRouter보다 훨씬 오래·널리 쓰인 서비스라, 내부 비즈니스 데이터가 오가는 도구를 맡기기에 안심된다(다만 어떤 라우터를 쓰든 “제3자가 트래픽을 중계한다”는 사실 자체는 동일 — 이를 완전히 피하려면 LiteLLM 자체 호스팅뿐인데, 그 경우 서버 운영 부담이 생긴다).
  3. 월정액 없음 — Portkey/Requesty의 $49/월은 TAB 사용량에 비해 지나치게 큰 스펙이다.
  4. Gemini만 단독으로 추가하고 싶다면, 라우터 없이 Gemini 자체 무료 티어를 직접 붙이는 것도 여전히 선택지다 — 라우터는 “여러 모델을 하나로 통합”할 때 강점이 있다.

결정 보류 사항

David가 “조금 더 고민해보고 결정” 하기로 함 — 아직 실제 연동 작업은 착수하지 않았다. 진행하기로 결정되면 functions/api/ask.js에 OpenRouter 분기 추가 + ask.html 모델 선택지에 Gemini(및 필요시 다른 모델) 추가가 다음 단계.

Referenced Pages

  • (해당 없음 — 위키 내부 문서 대신 아래 외부 출처 기반 리서치)

Sources

Gaps Identified

Knowledge Gap

가격·수수료율은 조사 시점(2026-08-25) 기준이며 각 서비스가 자주 요금제를 바꾸므로, 실제 도입 결정 전 해당 서비스 공식 pricing 페이지에서 재확인이 필요하다. OrcaRouter의 회사 신뢰도(설립일·투자 현황·SOC2 등 컴플라이언스 인증 여부)는 공개 정보로 확인하지 못했다.

ℹ️ 提问 问题：请在提问页面中查找可以一次性选择 Claude 以外的多个 AI 智能体（Gemini 等）的路由服务，比较它们的优缺点·价格，并给出推荐。 背景：讨论源于计划在 /ask 中加入 Gemini 免费层级时产生的想法——与其为每个模型单独编写对接代码，不如使用"AI 路由/聚合"服务（通过单一 OpenAI 兼容 API 访问多家供应商的模型）。 时间：2026-08-25 16:30

回答

前提条件（TAB /ask 的特殊性）

  • 无服务器架构：运行在 Cloudflare Pages Functions 之上——运营一台常驻的独立服务器负担较大。
  • 低使用量：每天仅几笔的公司内部提问（全体用户为少数）——大型团队套餐的规格过剩。
  • 已持有 Anthropic API 密钥：ANTHROPIC_API_KEY 已作为 Cloudflare Pages secret 注册——是否支持 BYOK（Bring Your Own Key）对成本影响很大。
  • 内部数据敏感性：提问上下文中包含销售额·返利等内部数据——需要考虑将其交给可信度较低的新兴服务的风险。

候选服务比较

服务 性质 计费结构 免费/低成本使用
OpenRouter 使用最广泛的标准，经过验证的业绩记录 无月费，纯按量计费 BYOK 时最高 $25,000/月 规模内手续费为 0%
OrcaRouter 新兴服务 无自身加价（zero-markup），可选 Team 套餐 $49/月 支持 BYOK，公司可信度信息不明确
Portkey / Requesty 面向企业——可观测性·治理·审计日志方面见长（Portkey 已于 2026-05 被 Palo Alto Networks 收购） 起价 $49/月（日志 10 万条上限，超出后额外计费） 有小规模免费层级，但额度较低
LiteLLM 开源，自行托管服务器 核心功能（代理·管理 UI·密钥管理·成本追踪）完全免费（MIT 许可） 无限制免费——但需自行运营服务器

优缺点

OpenRouter

  • 优点：具有行业标准级的知名度与稳定性，覆盖 200 多个模型（含 Claude、Gemini、GPT 等），不对任何模型加收手续费、按供应商原价计费（0% 加价），若直接连接已有的 Anthropic API 密钥（BYOK）则路由几乎免费，接入只需更改 base_url（OpenAI 兼容格式）即可完成。
  • 缺点：使用信用卡充值时收取 5.5%（最低 $0.80）手续费——但采用 BYOK 方式使用时该手续费几乎不会产生。

OrcaRouter

  • 优点：与 OpenRouter 几乎相同的条件（zero-markup、BYOK、OpenAI 兼容），覆盖 200 多个模型。
  • 缺点：是一家很难查到成立时间·口碑信息的新兴服务——将承载内部销售额·返利数据的工具交给未经验证的服务商存在风险。

Portkey / Requesty

  • 优点：详细日志·成本仪表盘·团队权限管理等企业级功能丰富。
  • 缺点：订阅制起价 $49/月——对于 TAB 这种每天仅几笔使用量而言规格与成本完全过剩。

LiteLLM

  • 优点：真正完全免费（开源），数据不经过第三方服务器，直接发往各供应商（隐私角度最优）。
  • 缺点：与 Cloudflare Pages Functions（无服务器）架构不兼容——需要自行运营·维护一台常驻的独立服务器（例如 GCP 免费 e2-micro 虚拟机），维护负担增加。

推荐

推荐使用 OpenRouter。

  1. BYOK 方式下几乎免费——将现有的 ANTHROPIC_API_KEY 直接连接到 OpenRouter，使用 Claude 不会产生额外手续费（月度 $25,000 规模内免手续费额度，对 TAB 的使用量而言完全没有问题）。
  2. 经过验证的可信度——相比新兴的 OrcaRouter，是使用时间更长、更广泛的服务，将承载内部业务数据的工具交给它更令人安心（不过无论使用哪种路由服务，"第三方中转流量"这一事实本身是相同的——若要彻底避免这一点，只能自行托管 LiteLLM，但那样会带来服务器运营负担）。
  3. 无月费——Portkey/Requesty 的 $49/月对 TAB 的使用量而言规格过大。
  4. 若只想单独添加 Gemini，不使用路由服务、直接接入 Gemini 自身的免费层级仍然是一个选项——路由服务的优势在于"将多个模型整合为一个"。

待定事项

David 决定"再考虑一下后再决定"——目前尚未着手实际接入工作。若决定推进，下一步是在 functions/api/ask.js 中添加 OpenRouter 分支，并在 ask.html 的模型选项中添加 Gemini（及其他所需模型）。

参考页面

  • （不适用——本次为基于以下外部来源的调研，而非引用内部 Wiki 文档）

参考来源

已识别的知识缺口

⚠️ 知识缺口 价格·手续费率为调研时点（2026-08-25）的信息，各服务经常调整资费方案，在实际引入决策前需在相应服务的官方定价页面重新确认。OrcaRouter 的公司可信度（成立日期·融资情况·SOC2 等合规认证与否）未能通过公开信息确认。

ℹ️ Query Question: Find router services that let the Ask page offer multiple AI agents besides Claude (e.g. Gemini) selectable at once, compare their pros/cons and pricing, and give a recommendation. Background: This started from a discussion about adding a Gemini free tier to /ask — instead of writing separate integration code for each model, the idea was to use an "AI router/aggregator" service (a single OpenAI-compatible API that reaches many providers' models). Date: 2026-08-25 16:30

Answer

Constraints (What Makes TAB's /ask Different)

  • Serverless architecture: Runs on Cloudflare Pages Functions — running a separate always-on server is a burden.
  • Low volume: Only a handful of internal questions per day (a small pool of users overall) — large-team pricing tiers are overkill.
  • Already holds an Anthropic API key: ANTHROPIC_API_KEY is already registered as a Cloudflare Pages secret — whether a service supports BYOK (Bring Your Own Key) has a big impact on cost.
  • Sensitivity of internal data: Question context includes internal figures like sales and rebates — the risk of handing this to a less-established new service needs to be weighed.

Candidate Comparison

Service Character Pricing structure Free/low-cost usage
OpenRouter The most widely used standard, proven track record No monthly fee, pure usage-based billing 0% fee up to $25,000/month scale with BYOK
OrcaRouter A newer service Zero-markup, optional Team plan at $49/month Supports BYOK; company track record unclear
Portkey / Requesty Enterprise-oriented — strong in observability, governance, and audit logs (Portkey was acquired by Palo Alto Networks in 2026-05) Starts at $49/month (100K log cap, extra charges beyond that) Small free tier exists but with low limits
LiteLLM Open source, self-hosted Core features (proxy, admin UI, key management, cost tracking) fully free (MIT) Unlimited and free — but you must run the server yourself

Pros and Cons

OpenRouter

  • Pros: Industry-standard-level recognition and stability, 200+ models (including Claude, Gemini, GPT, etc.), no per-model markup — pricing passes through at the provider's raw cost (0% margin), routing is effectively free if you connect your existing Anthropic API key (BYOK), and integration is as simple as changing the base_url (OpenAI-compatible format).
  • Cons: A 5.5% fee (minimum $0.80) applies when topping up credit by card — but this fee is largely avoided when using BYOK.

OrcaRouter

  • Pros: Nearly identical terms to OpenRouter (zero-markup, BYOK, OpenAI-compatible), 200+ models.
  • Cons: A newer service whose founding date and reputation are hard to verify — there's risk in entrusting a tool that carries internal sales and rebate data to an unproven provider.

Portkey / Requesty

  • Pros: Rich enterprise features such as detailed logs, cost dashboards, and team permission management.
  • Cons: Subscription starting at $49/month — completely oversized in both spec and cost for TAB's handful of daily uses.

LiteLLM

  • Pros: Genuinely free (open source), and data goes directly to each provider without passing through a third-party server (best from a privacy standpoint).
  • Cons: Doesn't fit a Cloudflare Pages Functions (serverless) architecture — requires running and maintaining a separate always-on server yourself (e.g., a free GCP e2-micro VM), adding maintenance burden.

Recommendation

OpenRouter is recommended.

  1. Effectively free with BYOK — connecting the existing ANTHROPIC_API_KEY directly to OpenRouter adds no extra fee to Claude usage (the fee-free limit runs up to $25,000/month, well beyond TAB's volume).
  2. Proven reliability — being far more established and widely used than the newer OrcaRouter makes it more reassuring to entrust with a tool handling internal business data (though the fact that "a third party relays the traffic" holds true no matter which router is used — the only way to avoid that entirely is self-hosting LiteLLM, which brings its own server-operation burden).
  3. No monthly fee — Portkey/Requesty's $49/month is far larger a spec than TAB's usage warrants.
  4. If the goal is simply to add Gemini on its own, connecting directly to Gemini's own free tier without a router remains an option — a router's strength lies in consolidating multiple models into one.

Open Decision

David decided to "think it over a bit more before deciding" — actual integration work has not yet started. If it moves forward, the next steps are adding an OpenRouter branch in functions/api/ask.js and adding Gemini (and any other needed models) to the model options in ask.html.

Referenced Pages

  • (Not applicable — this research is based on the external sources below rather than internal Wiki pages.)

Sources

Gaps Identified

⚠️ Knowledge Gap Pricing and fee rates reflect the research date (2026-08-25); since these services frequently change their pricing plans, they should be re-verified on each service's official pricing page before any actual adoption decision. OrcaRouter's company credibility (founding date, funding status, SOC2 or other compliance certifications) could not be confirmed from public information.