1 / 3
【개요】 Corrath는 애플리케이션과 AI 모델 제공자 사이에 놓이는 저지연 AI 게이트웨이다. 완성(completion) 요청을 프록시 계층으로 중계하면서 프롬프트 인젝션 필터링, 지출 한도 집행, 제공자 페일오버를 한 곳에서 처리한다. 설계 목표 지연은 5ms 미만이다. 여러 모델 제공자를 함께 쓰는 프로덕션 환경에서는 보안, 비용, 가용성을 각각 다른 도구로 관리해야 했다. Corrath는 이 세 가지를 게이트웨이 한 계층으로 모은다. 프롬프트 인젝션과 탈옥 지시, 적대적 페이로드, PII 유출을 실시간으로 차단하고, 개발자 키 단위로 지출 한도를 강제하며, 주 제공자 API가 중단되면 자동 회로 차단기로 백업 제공자에 요청을 넘긴다. LLM API 위에 서비스를 올려 운영하는 프로덕션 엔지니어링 팀과 플랫폼 엔지니어, 보안 책임자, 그리고 LLM API로 직접 개발하는 개발자를 위해 만들어졌다. 【핵심 기능】 • AI 게이트웨이(프록시 라우터): 완성 요청을 프록시 계층으로 라우팅하며 고가용성 페일오버, 지연 로그, 통합 스트리밍 완성을 제공한다. • 보안 방화벽: 프롬프트 인젝션, 탈옥 지시, 적대적 페이로드, PII 유출을 실시간으로 탐지하고 차단한다. • 예산 제어: 개발자 키별로 세분화된 지출 한도를 적용하고 초과 완성 호출을 자동으로 차단한다. • 비용 예측: 트래픽 패턴으로 월말 모델 청구액을 예측하고, 지출 이상 징후를 표시하며, 한도 초과 전에 Slack 경고를 보낸다. • 멀티 프로바이더 라우팅: 표준화된 문법으로 OpenAI, Claude, Gemini, Mistral, DeepSeek 사이에서 요청을 동적으로 라우팅한다. • 페일오버 보호: 주 API가 중단되면 자동 회로 차단기로 완성 요청을 백업 제공자에 재라우팅한다. 【적용 시나리오】 1. 프롬프트 인젝션과 탈옥 시도를 무력화해야 하는 경우 2. 개발자별 지출 한도를 강제하고 폭주하는 과금 루프를 잡아야 하는 경우 3. AI 제공자 장애 중에도 서비스를 유지하도록 제공자 간 페일오버가 필요한 경우 【가격 정보】 Free: $0 — 1 Project Space, 1 Vaulted API Key, 월 500 Requests, Basic Proxy Gateway Starter: $0/개월 — 5 Project Spaces, 10 Vaulted Keys, 월 50K Requests, Cost Forecasting Engine Pro: 20 Project Spaces, Unlimited API Keys, 월 500K Requests, Security Firewall 포함 Business: Unlimited Projects, Unlimited API Keys, Unlimited Requests / 월, 팀원 최대 10명 Enterprise: CUSTOM — Custom Volume Requests, 팀원 무제한, On-Premise Support SLAs, Dedicated Operations SLAs 【장점과 단점】 장점: - 보안, 비용, 가용성 관리를 서로 다른 도구로 나누지 않고 요청 경로 한 곳에서 끝내려는 프로덕션 팀에 잘 맞는다. - 제공자 교체나 장애 대응을 애플리케이션 코드가 아니라 라우팅 계층에서 흡수하므로, 여러 모델을 병행하는 팀의 운영 부담이 줄어든다. - 인젝션 차단과 지출 한도가 게이트웨이 안에서 집행되므로 요청마다 별도 검증 서비스를 호출하는 구조를 만들지 않아도 된다. 단점: - 지출 한도는 개발자 키 단위로만 적용된다. - Business 요금제의 팀원 수는 최대 10명까지이며, 그 이상의 팀 규모는 Enterprise에서 다룬다. 【자주 묻는 질문】 Q: 무료로 사용할 수 있나요? A: 네. Free 요금제는 $0으로 1 Project Space, 1 Vaulted API Key, 월 500 Requests, Basic Proxy Gateway를 제공한다. 보안 방화벽과 비용 예측 엔진 같은 기능은 상위 요금제에서 포함된다. Q: 어떤 팀에 적합한가요? A: LLM API 위에 서비스를 운영하는 프로덕션 엔지니어링 팀, 플랫폼 엔지니어, 보안 책임자, 그리고 LLM API로 개발하는 개발자에게 적합하다. Q: 주 제공자 API에 장애가 나면 어떻게 되나요? A: 자동 회로 차단기가 작동해 완성 요청을 백업 제공자로 5ms 이내에 재라우팅한다.
Free · $0 (1 Project Space, 1 Vaulted API Key, 500 Requests / mo) Starter · $0/month (5 Project Spaces, 10 Vaulted Keys, 50K Requests / mo) Pro (20 Project Spaces, Unlimited API Keys, 500K Requests / mo) Business (Unlimited Projects, Unlimited API Keys, Unlimited Requests / mo) Enterprise · CUSTOM (Custom Volume Requests, Unlimited Team Members, On-Premise Support SLAs)
표시된 가격은 미국 지역 기준가이며, 지역에 따라 다를 수 있습니다.
WPS AI는 WPS Office에 통합된 AI 어시스턴트다. 문서 작성, PPT 구성, 긴 문서 요약, 스프레드시트 수식과 데이터 처리까지 오피스 작업 전반을 AI가 보조한다. 별도의 도구를 오가지 않고 문서…
Baidu Comate는 바이두의 ERNIE 대모델을 기반으로 개발된 AI 코딩 보조 도구다. 자동 코드 생성, 단위 테스트 생성, 주석 생성, 지능형 질의응답 등을 제공해 개발자가 코딩 작업을 더 빠르고 정확하게…
UniConverter는 동영상, 오디오, 이미지를 변환하고 압축, 편집, 개선할 수 있는 AI 미디어 도구다. 특히 AI 비디오 인핸서와 업스케일러를 통해 저화질 영상을 온라인과 데스크톱에서 복원하고 업스케일할…
등록일
2026. 10. 23.
조회수
630
클릭수
1
Corrath 대신 고려해 볼 만한 도구 6건