1 / 3
【개요】 RunInfra는 오픈 가중치 모델을 호스팅하여 API로 제공하는 서비스다. 하나의 API 키로 OpenAI SDK와 Anthropic SDK를 모두 사용할 수 있어, 기존 코드를 크게 바꾸지 않고도 오픈 모델을 에이전트에 연결할 수 있다. 특히 AI 에이전트가 도구 호출마다 대화 맥락을 반복 전송하는 상황을 겨냥해 설계되었다. 에이전트 세션에서 반복되는 입력은 캐시 적중 시 캐시된 입력 요율로 청구된다. RunInfra는 세션 인식 라우팅으로 동일한 세션의 반복 호출을 캐시된 맥락을 보유한 복제본으로 보내, 캐시 적중을 높이고 캐시된 입력 비용을 낮춘다. 캐시 적중은 최선 노력 기반으로 동작한다. 이 서비스는 AI 에이전트 빌더, 부트스트랩부터 시리즈 A 단계의 스타트업, Claude Code나 OpenCode 같은 코딩 에이전트를 사용하는 개발자에게 적합하다. 다만 보호된 건강 정보(PHI) 처리를 위해서는 사용할 수 없다. 【핵심 기능】 • 호스팅 오픈 모델 추론: RunInfra가 호스팅하는 오픈 가중치 채팅 모델을 Model API를 통해 제공한다. • OpenAI 및 Anthropic SDK 호환: 하나의 API 키로 OpenAI 호환 채팅 완료와 Anthropic 호환 메시지를 모두 사용할 수 있다. • 세션 인식 라우팅 및 프롬프트 캐싱: 에이전트 세션의 반복 호출을 캐시된 맥락을 가진 복제본으로 라우팅하여 반복 입력을 캐시된 입력 요율로 청구한다. • 코딩 에이전트용 코딩 플랜: 월간 코딩 플랜은 Claude Code, opencode 및 20개 이상의 에이전트에 사용량을 제공하며, 5시간마다 및 주간으로 리셋된다. • 스트리밍: 채팅 모델 요청에 스트리밍을 지원한다. • 도구 호출 및 구조화 출력: 모델이 도구 호출을 지원하며, JSON 모드를 통해 구조화된 출력을 반환할 수 있다. 일부 모델은 이미지 입력도 받는다. 【적용 시나리오】 1. 도구 호출마다 대화 맥락을 재전송하는 AI 에이전트 실행 2. 코딩 에이전트에 오픈 모델 설정 3. OpenAI 또는 Anthropic SDK를 통해 호스팅된 오픈 가중치 채팅 모델 호출 4. 종량제 API 비용과 GPU 임대 비용 비교 【가격 정보】 Pay as you go: $5부터 (최소 $5, 게시된 가격으로 토큰당 과금, 크레딧은 1년 유효, OpenAI 호환 채팅 완료 및 Anthropic 호환 메시지) Starter: $10/월 (월 약 $12 사용량, 5시간 한도 $1.11, 주간 한도 $2.77, 무료 Standby 최대 하루 $0.20 채팅) Pro: $29/월 (월 약 $35 사용량, 5시간 한도 $3.23, 주간 한도 $8.08, 무료 Standby 최대 하루 $0.58 채팅) Team: $99/월 (월 약 $119 사용량, 5시간 한도 $10.98, 주간 한도 $27.46, 무료 Standby 최대 하루 $1.98 채팅) Enterprise: Custom (전용 인프라, 컴플라이언스, 맞춤 볼륨, 감사 로그 및 역할 기반 액세스 제어(RBAC), 맞춤 볼륨 및 계약 조건, 최대 99.99% 맞춤 SLA) 【장점과 단점】 장점: - 에이전트가 맥락을 반복 전송하는 워크로드에서 캐시된 입력 요율이 적용되어 비용 효율이 높다. - OpenAI와 Anthropic SDK를 하나의 키로 지원하므로 기존 코드베이스에 쉽게 통합할 수 있다. - 코딩 플랜은 Claude Code 등 코딩 에이전트를 쓰는 개발자에게 예측 가능한 월 비용을 제공한다. 단점: - 캐시 적중은 최선 노력 기반이므로 항상 보장되지 않는다. - 코딩 플랜의 사용량은 채팅에만 적용되며, 이미지와 오디오는 항상 종량제로 별도 과금된다. - JSON 모드는 채팅 모델별로 지원 여부가 다르다. 【자주 묻는 질문】 Q: RunInfra는 어떤 사용자에게 적합한가요? A: AI 에이전트 빌더, 초기 스타트업, Claude Code나 OpenCode 같은 코딩 에이전트를 사용하는 개발자에게 적합하다. 보호된 건강 정보 처리에는 사용할 수 없다. Q: 종량제 요금은 어떻게 시작하나요? A: Pay as you go는 셀프 서비스로, 최소 $5부터 크레딧을 충전해 게시된 가격으로 토큰당 과금된다. 크레딧은 1년간 유효하다. Q: 코딩 플랜에는 어떤 사용량이 포함되나요? A: Starter, Pro, Team 플랜은 매월 포함 사용량을 제공하며 5시간 및 주간 한도가 적용된다. 이 사용량은 채팅에만 해당되고 이미지와 오디오는 종량제로 별도 청구된다.
Pay as you go · $5 (Any amount from $5, Pay per token at published prices, Credits last a year) Starter · $10/month (About $12 of usage a month, 5-hour limit $1.11, Weekly limit $2.77) Pro · $29/month (About $35 of usage a month, 5-hour limit $3.23, Weekly limit $8.08) Team · $99/month (About $119 of usage a month, 5-hour limit $10.98, Weekly limit $27.46) Enterprise · Custom (Dedicated infrastructure, compliance, and custom volume, Audit logs and role-based access control (RBAC), Custom volume
표시된 가격은 미국 지역 기준가이며, 지역에 따라 다를 수 있습니다.
WPS AI는 WPS Office에 통합된 AI 어시스턴트다. 문서 작성, PPT 구성, 긴 문서 요약, 스프레드시트 수식과 데이터 처리까지 오피스 작업 전반을 AI가 보조한다. 별도의 도구를 오가지 않고 문서…
Baidu Comate는 바이두의 ERNIE 대모델을 기반으로 개발된 AI 코딩 보조 도구다. 자동 코드 생성, 단위 테스트 생성, 주석 생성, 지능형 질의응답 등을 제공해 개발자가 코딩 작업을 더 빠르고 정확하게…
UniConverter는 동영상, 오디오, 이미지를 변환하고 압축, 편집, 개선할 수 있는 AI 미디어 도구다. 특히 AI 비디오 인핸서와 업스케일러를 통해 저화질 영상을 온라인과 데스크톱에서 복원하고 업스케일할…
RunInfra 대신 고려해 볼 만한 도구 6건