
1 / 3
【Aperçu】 Auriko est un plan de contrôle IA pour l'inférence LLM. Il réunit en une seule plateforme une passerelle de modèles unifiée, un routage intelligent tenant compte des coûts entre fournisseurs, l'observabilité et des contrôles budgétaires FinOps. Concrètement, vous accédez à tous vos modèles et fournisseurs via une API unique compatible OpenAI, sans perdre les fonctionnalités propres à chaque fournisseur. Le problème visé est celui des équipes qui exécutent de l'inférence LLM en production sur plusieurs fournisseurs : coûts difficiles à suivre, tarification et mécanismes de cache de prompt propres à chaque fournisseur, et risque d'interruption en cas de défaillance d'un fournisseur. Auriko modélise la façon dont une charge de travail interagit avec la tarification de chaque fournisseur et achemine chaque requête vers le fournisseur éligible le moins coûteux. La plateforme s'adresse aux équipes et aux charges de travail de production qui font tourner de l'inférence LLM, aux développeurs qui construisent sur plusieurs fournisseurs de modèles, ainsi qu'aux projets personnels et aux utilisateurs qui explorent la plateforme. Le modèle est freemium : démarrage gratuit, montée en charge selon les besoins. 【Fonctionnalités principales】 • API unifiée : accédez à tous les modèles et fournisseurs via une seule API compatible OpenAI, en conservant les fonctionnalités spécifiques à chaque fournisseur. • Routage tenant compte des coûts : modélise l'interaction entre une charge de travail et la tarification et le cache de prompt de chaque fournisseur, puis route chaque requête vers le fournisseur éligible le moins coûteux. • Routage déterministe : sélectionne la route éligible ayant le meilleur score. • Stratégies de routage : optimisez pour le coût, la latence, le débit ou un objectif personnalisé, avec des valeurs par défaut intégrées ou votre propre stratégie. • Basculement automatique : chaque requête s'appuie sur une redondance de fournisseurs pour assurer une disponibilité continue. • Orchestration des clés : utilisez des clés BYOK, des clés de plateforme ou les deux, et maximisez l'utilisation des clés grâce au moteur d'orchestration d'Auriko. 【Cas d'usage】 1. Accéder à tous les modèles et fournisseurs via une seule API compatible OpenAI. 2. Router chaque requête vers le fournisseur le moins coûteux. 3. Optimiser l'inférence pour le coût, la latence ou le débit. 【Tarifs】 Free : $0/mois — tous les modèles, aucun markup sur les prix des fournisseurs, accès BYOK, modélisation des coûts. Pro : $89/mois — tout le plan Free, routage déterministe, plusieurs clés API et sièges, RPM plateforme illimité. Enterprise : Custom — SSO/SAML, SLA personnalisé, support dédié, facturation par facture/PO. 【Avantages et inconvénients】 Avantages: - Le plan Free permet de tester le routage et la modélisation des coûts sans frais fixes : utile pour les projets personnels et l'exploration. - Le routage tenant compte des coûts et le basculement automatique intéressent particulièrement les équipes en production qui veulent maîtriser la dépense sans sacrifier la disponibilité. - Les contrôles budgétaires au niveau workspace ou clé API donnent aux responsables FinOps un garde-fou directement dans la plateforme. Inconvénients: - Le routage déterministe est réservé au plan Pro et supérieur. - Le plan Free plafonne l'orchestration des clés à 1K RPM plateforme, 10K RPM BYOK et 5M par mois en BYOK. 【Questions fréquentes】 Q: Puis-je utiliser Auriko gratuitement ? A: Oui, le plan Free est à $0/mois, avec les coûts API facturés à l'usage et sans markup sur les prix des fournisseurs. Q: À qui s'adresse Auriko ? A: Aux équipes et charges de travail de production en inférence LLM, aux développeurs construisant sur plusieurs fournisseurs et aux utilisateurs de projets personnels qui explorent la plateforme. Q: Qu'apporte le plan Pro par rapport au plan Free ? A: Pour $89/mois, il ajoute le routage déterministe, plusieurs clés API et sièges, ainsi qu'un RPM plateforme illimité.
Free · $0/month (All models, Zero provider price markup, BYOK access) Pro · $89/month (Everything in Free, Deterministic routing, Multiple API keys & seats) Enterprise · Custom (SSO/SAML, Custom SLA, Dedicated support)
Les prix affichés sont des prix de référence pour les États-Unis ; les prix locaux peuvent varier.
WPS AI est un assistant d'intelligence artificielle intégré à WPS Office (en chinois). Il accompagne la rédaction de…
Baidu Comate est un assistant de codage basé sur le grand modèle ERNIE de Baidu. Il génère du code, des tests unitaires…
UniConverter est un outil de conversion et d'amélioration multimédia par IA qui traite vidéos, audios et images. Il…
6 outils similaires à considérer à la place de Auriko