1 / 3
【개요】 Chutes는 오픈소스 AI 모델을 위한 탈중앙화 서버리스 추론 플랫폼이다. 개발자는 OpenAI 호환 API를 통해 최첨단 오픈소스 LLM을 호출하거나, 자체 모델 컨테이너를 기밀 GPU 환경에 배포할 수 있다. 서버 관리 없이 필요한 만큼만 비용을 지불하는 방식으로, AI 기능을 제품에 통합하려는 개발자와 팀을 위한 서비스다. 특히 Intel TDX 기밀 가상머신과 NVIDIA Protected PCIe GPU를 활용해 모델을 실행하며, 실행 전에 원격 증명을 수행하고 요청 내용을 기록하지 않는다. 이는 민감한 데이터를 다루면서도 외부 인프라에서 안전하게 추론을 수행해야 하는 조직에 적합하다. LLM 채팅 완성부터 이미지·비디오·음성·음악 생성, 임베딩, 콘텐츠 모더레이션까지 다양한 모델을 카탈로그로 제공하며, 배치 작업과 임시 작업, 사용자 정의 학습 워크로드도 지원한다. 【핵심 기능】 • AI 모델 추론: OpenAI 호환 채팅 완성 엔드포인트(llm.chutes.ai)를 통해 최첨단 오픈소스 LLM을 제공한다. • TEE 보안 컴퓨팅: Intel TDX 기밀 VM과 NVIDIA Protected PCIe GPU에서 모델을 실행하며, 실행 전 증명과 요청 내용 미기록을 보장한다. • 프라이빗 Chutes 배포: 자체 컨테이너화된 모델을 전용 기밀 GPU 용량에 배포하고 자체 API 엔드포인트로 노출한다. • 멀티모달 모델 카탈로그: LLM 외에도 이미지, 비디오, 음성, 음악, 임베딩 모델을 실행할 수 있다. • 배치 및 임시 작업: 임시 작업, 배치 처리 작업, 사용자 정의 학습 워크로드를 지원한다. • 콘텐츠 모더레이션 모델: Halo guard와 같은 모더레이션 모델로 혐오 발언 및 NSFW 감지를 제공한다. 【적용 시나리오】 1. LLM 채팅 완성 2. 이미지, 비디오, 음성, 음악 생성 3. 콘텐츠 모더레이션(혐오 발언, NSFW) 【가격 정보】 Plus: $10/월 — 하루 2,000회 요청 포함, 할당량 초과 시 PAYG 요율 6% 할인, 월 $50 사용 한도, 4시간 버스트 한도 $4.17 Pro: $20/월 — 하루 5,000회 요청 포함, 할당량 초과 시 PAYG 요율 10% 할인, 월 $100 사용 한도, 4시간 버스트 한도 $8.33 Enterprise: 맞춤형 청구만 제공 — 볼륨 할인, 맞춤형 속도 제한, 전담 지원 【장점과 단점】 장점: - OpenAI 호환 API를 사용하므로 기존 코드를 크게 수정하지 않고도 오픈소스 모델로 전환할 수 있다. - 기밀 컴퓨팅 환경에서 추론이 실행되어 민감한 데이터를 다루는 조직에 적합하다. - 서버리스 방식으로 인프라 관리 부담 없이 필요한 순간에만 비용을 지불할 수 있다. - 다양한 모달리티의 모델을 하나의 플랫폼에서 활용할 수 있어 멀티모달 제품 개발에 유리하다. 단점: - TEE/보안 컴퓨팅은 confidential_compute: true로 표시된 모델에만 적용된다. - 프라이빗 Chutes 배포는 GPU 시간당 요율에 초당 과금되며, 시간당 요율의 3배에 해당하는 일회성 배포 비용이 추가된다. - 월 구독 요금제에서는 자동화 또는 대량 워크로드 사용이 제한된다. 【자주 묻는 질문】 Q: Chutes는 어떤 개발자를 대상으로 하나요? A: AI 개발자, AI 기반 제품을 프로덕션에 출시하는 팀, 프라이빗 또는 기밀 추론이 필요한 조직을 위한 플랫폼이다. Q: 무료로 사용할 수 있나요? A: 기본은 사용량 기반 과금(PAYG)이며, Plus와 Pro 월 구독 요금제를 통해 일일 요청 할당량과 요율 할인을 받을 수 있다. Q: 프라이빗 배포 비용은 어떻게 청구되나요? A: GPU 시간당 요율로 초당 과금되며, 시간당 요율의 3배에 해당하는 일회성 배포 수수료가 부과된다.
Plus · $10/month (2,000 requests/day included, 6% off PAYG rates beyond the quota, $50 monthly usage cap) Pro · $20/month (5,000 requests/day included, 10% off PAYG rates beyond the quota, $100 monthly usage cap) Enterprise (Custom billing only, Volume discounts, Custom rate limits)
표시된 가격은 미국 지역 기준가이며, 지역에 따라 다를 수 있습니다.
WPS AI는 WPS Office에 통합된 AI 어시스턴트다. 문서 작성, PPT 구성, 긴 문서 요약, 스프레드시트 수식과 데이터 처리까지 오피스 작업 전반을 AI가 보조한다. 별도의 도구를 오가지 않고 문서…
Baidu Comate는 바이두의 ERNIE 대모델을 기반으로 개발된 AI 코딩 보조 도구다. 자동 코드 생성, 단위 테스트 생성, 주석 생성, 지능형 질의응답 등을 제공해 개발자가 코딩 작업을 더 빠르고 정확하게…
UniConverter는 동영상, 오디오, 이미지를 변환하고 압축, 편집, 개선할 수 있는 AI 미디어 도구다. 특히 AI 비디오 인핸서와 업스케일러를 통해 저화질 영상을 온라인과 데스크톱에서 복원하고 업스케일할…
Chutes 대신 고려해 볼 만한 도구 6건