1 / 3
【Aperçu】 Chutes est une plateforme d'inférence serverless et décentralisée dédiée aux modèles open source. Elle permet aux développeurs d'appeler des modèles hébergés via une API compatible OpenAI, ou de déployer leurs propres conteneurs de modèles sur des GPU confidentiels. Le problème résolu est simple : accéder à des modèles open source de pointe sans gérer d'infrastructure, tout en gardant la possibilité d'exécuter ses propres modèles. L'API de complétion de chat est exposée à l'adresse llm.chutes.ai, et le paiement se fait à l'usage par défaut, avec un solde rechargé et facturé selon la consommation réelle. La plateforme s'adresse aux développeurs IA, aux équipes qui mettent des produits IA en production et aux organisations ayant besoin d'une inférence privée ou confidentielle. 【Fonctionnalités principales】 • Inférence de modèles IA : expose des LLM open source de pointe via un point de terminaison de complétion de chat compatible OpenAI sur llm.chutes.ai. • Calcul sécurisé TEE : exécute les modèles dans des VM confidentielles Intel TDX avec GPU NVIDIA Protected PCIe, attestés avant exécution, sans journalisation du contenu des requêtes. • Déploiement Private Chutes : héberge votre propre modèle conteneurisé sur une capacité GPU confidentielle dédiée et expose vos propres points de terminaison API. • Catalogue multimodale : couvre les modèles d'image, de vidéo, de parole, de musique et d'embedding en plus des LLM. • Jobs batch et éphémères : prend en charge les jobs éphémères, le traitement par lots et les charges d'entraînement personnalisées. • Modèles de modération : fournit des modèles comme Halo guard pour la détection de discours haineux et de contenu NSFW. 【Cas d'usage】 1. Complétion de chat avec des LLM open source. 2. Génération d'images, de vidéos, de parole et de musique. 3. Embeddings pour la recherche et les recommandations. 【Tarifs】 Plus : $10/month — 2 000 requêtes/jour incluses, 6 % de remise sur les tarifs PAYG au-delà du quota, plafond d'usage mensuel de $50, limite de burst de $4.17 sur 4 heures. Pro : $20/month — 5 000 requêtes/jour incluses, 10 % de remise sur les tarifs PAYG au-delà du quota, plafond d'usage mensuel de $100, limite de burst de $8.33 sur 4 heures. Enterprise : facturation personnalisée uniquement — remises sur volume, limites de débit personnalisées et support dédié. 【Avantages et inconvénients】 Avantages: - Le paiement à l'usage par défaut convient aux développeurs qui testent plusieurs modèles sans engagement mensuel. - L'attestation avant exécution et l'absence de journalisation du contenu des requêtes intéressent particulièrement les organisations soumises à des contraintes de confidentialité. - Le déploiement de ses propres conteneurs sur GPU confidentiels dédiés offre une voie intermédiaire entre l'API hébergée et l'infrastructure auto-gérée. Inconvénients: - Seuls les modèles déclarant confidential_compute: true s'exécutent dans les TEE. - Le déploiement Private Chutes est facturé à la seconde au tarif horaire du GPU, plus des frais de déploiement uniques équivalant à 3× le tarif horaire. 【Questions fréquentes】 Q: Chutes propose-t-il une API compatible avec OpenAI ? A: Oui, les modèles sont servis via un point de terminaison de complétion de chat compatible OpenAI à l'adresse llm.chutes.ai. Q: Comment fonctionne la facturation ? A: Le paiement à l'usage est le mode par défaut : vous rechargez votre solde et payez uniquement ce que vous consommez. Des plans mensuels Plus à $10/month et Pro à $20/month existent, ainsi qu'une offre Enterprise en facturation personnalisée. Q: À qui s'adresse Chutes ? A: Aux développeurs IA, aux équipes qui livrent des produits IA en production et aux organisations ayant besoin d'une inférence privée ou confidentielle. Les charges automatisées ou à fort volume sur abonnements mensuels ne sont pas l'usage visé.
Plus · $10/month (2,000 requests/day included, 6% off PAYG rates beyond the quota, $50 monthly usage cap) Pro · $20/month (5,000 requests/day included, 10% off PAYG rates beyond the quota, $100 monthly usage cap) Enterprise (Custom billing only, Volume discounts, Custom rate limits)
Les prix affichés sont des prix de référence pour les États-Unis ; les prix locaux peuvent varier.
WPS AI est un assistant d'intelligence artificielle intégré à WPS Office (en chinois). Il accompagne la rédaction de…
Baidu Comate est un assistant de codage basé sur le grand modèle ERNIE de Baidu. Il génère du code, des tests unitaires…
UniConverter est un outil de conversion et d'amélioration multimédia par IA qui traite vidéos, audios et images. Il…
6 outils similaires à considérer à la place de Chutes