← Home

TAB Project Wiki

2026-08-25-Q-여러-AI-모델을-한번에-이용하는-라우터-서비스-비교

Properties3
descriptionComparison of AI model aggregator/router services (OpenRouter, OrcaRouter, Portkey/Requesty, LiteLLM) that let a single API key access many providers (Claude, Gemini, GPT, etc.), evaluated for TAB's low-volume serverless /ask use case, with pricing and a recommendation.
tagsquery, tab-project, tech-research
aliases2026-08-25 Q&A - AI 라우터 서비스 비교

8 min read

2026-08-25 Q&A - AI 라우터 서비스 비교

Query

질문: 질문하기 페이지에 Claude 외 여러 AI 에이전트(Gemini 등)를 한번에 선택 가능하게 하는 라우터 서비스들을 찾아 장단점·가격을 비교하고 추천해줘.
배경: /ask에 Gemini 무료 티어를 추가하려던 논의에서, 모델마다 별도 연동 코드를 짜는 대신 “AI 라우터/애그리게이터”(단일 OpenAI 호환 API로 여러 공급사 모델에 접근) 서비스를 쓰는 게 낫지 않겠냐는 아이디어로 시작됨.
일시: 2026-08-25 16:30

Answer

전제 조건 (TAB /ask의 특수성)

  • 서버리스 아키텍처: Cloudflare Pages Functions 위에서 동작 — 항상 켜져 있는 별도 서버 운영은 부담.
  • 저볼륨: 하루 몇 건 수준의 사내 질문(전체 사용자 소수) — 대규모 팀용 요금제는 과함.
  • 이미 Anthropic API 키 보유: ANTHROPIC_API_KEY가 Cloudflare Pages secret으로 이미 등록돼 있음 — BYOK(Bring Your Own Key) 지원 여부가 비용에 큰 영향.
  • 내부 데이터 민감성: 질문 컨텍스트에 매출·리베이트 등 내부 수치가 실림 — 신뢰도 낮은 신생 서비스에 대한 리스크 고려 필요.

후보 비교

서비스성격요금 구조무료/저비용 사용
OpenRouter가장 널리 쓰이는 표준, 검증된 트랙레코드월정액 없음, 순수 종량제BYOK 시 월 $25,000 규모까지 수수료 0%
OrcaRouter신생 서비스자체 마진 없음(zero-markup), 선택적 Team $49/월BYOK 지원, 회사 신뢰도 정보 불명확
Portkey / Requesty엔터프라이즈용 — 관측성·거버넌스·감사로그 강점(Portkey는 2026-05 Palo Alto Networks에 인수됨)월 $49부터(로그 10만건 한도, 초과 시 추가과금)소규모 무료 티어 있으나 한도 낮음
LiteLLM오픈소스, 직접 서버 호스팅코어 기능(프록시·관리 UI·키 관리·비용 추적) 완전 무료(MIT)무제한 무료 — 서버는 직접 운영 필요

장단점

OpenRouter

  • 장점: 업계 표준급 인지도·안정성, 200개 이상 모델(Claude·Gemini·GPT 등 포함), 모델별 수수료 없이 공급사 원가 그대로(0% 마진), 이미 보유한 Anthropic API 키를 그대로 연결(BYOK)하면 사실상 무료로 라우팅, 연동은 base_url만 바꾸면 끝(OpenAI 호환 포맷).
  • 단점: 신용카드로 크레딧 충전 시 5.5%(최소 $0.80) 수수료 — BYOK로 쓰면 이 수수료 자체가 거의 발생 안 함.

OrcaRouter

  • 장점: OpenRouter와 거의 동일한 모델(zero-markup, BYOK, OpenAI 호환), 200개 이상 모델.
  • 단점: 회사 설립 시점·평판 정보를 찾기 어려운 신생 서비스 — 내부 매출·리베이트 데이터가 오가는 도구를 검증 안 된 곳에 맡기는 리스크.

Portkey / Requesty

  • 장점: 상세 로그·비용 대시보드·팀 권한 관리 등 기업용 기능이 풍부.
  • 단점: 월 $49부터 시작하는 구독제 — TAB처럼 하루 몇 건 수준 사용량엔 완전히 과한 스펙과 비용.

LiteLLM

  • 장점: 진짜 완전 무료(오픈소스), 데이터가 제3자 서버를 거치지 않고 직접 각 공급사로만 나감(프라이버시 측면 최선).
  • 단점: Cloudflare Pages Functions(서버리스) 구조와 안 맞음 — 항상 켜져 있는 별도 서버(예: GCP 무료 e2-micro VM)를 직접 운영·관리해야 함, 유지보수 부담 증가.

추천

OpenRouter를 추천한다.

  1. BYOK로 사실상 무료 — 기존 ANTHROPIC_API_KEY를 OpenRouter에 그대로 연결하면 Claude 사용에 추가 수수료가 붙지 않는다(월 $25,000 규모까지 무료 한도라 TAB 볼륨엔 전혀 문제없음).
  2. 검증된 신뢰도 — 신생 OrcaRouter보다 훨씬 오래·널리 쓰인 서비스라, 내부 비즈니스 데이터가 오가는 도구를 맡기기에 안심된다(다만 어떤 라우터를 쓰든 “제3자가 트래픽을 중계한다”는 사실 자체는 동일 — 이를 완전히 피하려면 LiteLLM 자체 호스팅뿐인데, 그 경우 서버 운영 부담이 생긴다).
  3. 월정액 없음 — Portkey/Requesty의 $49/월은 TAB 사용량에 비해 지나치게 큰 스펙이다.
  4. Gemini만 단독으로 추가하고 싶다면, 라우터 없이 Gemini 자체 무료 티어를 직접 붙이는 것도 여전히 선택지다 — 라우터는 “여러 모델을 하나로 통합”할 때 강점이 있다.

결정 보류 사항

David가 “조금 더 고민해보고 결정” 하기로 함 — 아직 실제 연동 작업은 착수하지 않았다. 진행하기로 결정되면 functions/api/ask.js에 OpenRouter 분기 추가 + ask.html 모델 선택지에 Gemini(및 필요시 다른 모델) 추가가 다음 단계.

Referenced Pages

  • (해당 없음 — 위키 내부 문서 대신 아래 외부 출처 기반 리서치)

Sources

Gaps Identified

Knowledge Gap

가격·수수료율은 조사 시점(2026-08-25) 기준이며 각 서비스가 자주 요금제를 바꾸므로, 실제 도입 결정 전 해당 서비스 공식 pricing 페이지에서 재확인이 필요하다. OrcaRouter의 회사 신뢰도(설립일·투자 현황·SOC2 등 컴플라이언스 인증 여부)는 공개 정보로 확인하지 못했다.

그래프 뷰