
1 / 3
【Aperçu】 Doubleword est une API compatible OpenAI conçue pour exécuter des modèles de langage open-weight à haut débit. Elle résout le problème du coût et de la latence liés à l'inférence en temps réel en proposant des paliers asynchrones et par lots (batch) à des tarifs nettement inférieurs. Elle s'adresse aux équipes qui font tourner des agents autonomes de longue durée, des pipelines de traitement de données ou des tâches à fort volume de tokens. La plateforme permet de conserver les SDK OpenAI ou Anthropic existants et de basculer simplement en changeant l'URL de base vers api.doubleword.ai. Toutes les requêtes passent par une passerelle de modèles écrite en Rust qui gère le routage, le contrôle d'accès, la journalisation et la surveillance. 【Fonctionnalités principales】 • Inférence asynchrone : exécute des charges d'agents en arrière-plan et des lots via un moteur asynchrone basé sur une file d'attente, avec des callbacks webhook à la fin. • Inférence par lots (~24 heures) : traite de gros lots au tarif le plus réduit, avec des résultats renvoyés au fur et à mesure de leur disponibilité. • API compatible OpenAI : permet de conserver les SDK OpenAI ou Anthropic existants en modifiant l'URL de base vers api.doubleword.ai. • Passerelle de modèles : route chaque requête via une passerelle Rust qui gère le routage, les contrôles d'accès, la journalisation et la surveillance. • Autobatcher : remplacement direct qui regroupe et met en lots de manière transparente les requêtes asynchrones standard sur une fenêtre configurable pour obtenir le tarif par lots. • Streaming des résultats : renvoie les résultats des lots au fur et à mesure au lieu d'attendre la fin du lot complet. • Zero Data Retention : incluse en self-service, garantit la non-conservation des données d'inférence. • Catalogue de modèles open-weight : sert des modèles texte, vision, embedding et OCR open-weight de DeepSeek, Qwen, GLM, Kimi et d'autres. 【Cas d'usage】 1. Agents de recherche approfondie à grande échelle 2. Pipelines de traitement de données 3. Analyse de documents 【Tarifs】 Self-Service Inference : paiement à l'usage — accès à tous les principaux modèles open-weight, tarification à l'usage avec crédits prépayés, mise en cache des prompts, appel d'outils et sorties structurées, inférence asynchrone et par lots à haut débit. At-Scale Inference : sur devis — tout ce qui est disponible en self-service, plus une infrastructure dédiée pour une capacité temps réel garantie et à haut débit sans limites de débit, des limites de débit accrues et des modèles personnalisés. 【Avantages et inconvénients】 Avantages: - Les paliers asynchrones (jusqu'à 50 % de réduction par rapport au temps réel) et par lots (jusqu'à 80 % de réduction) permettent aux équipes qui consomment beaucoup de tokens de réduire fortement leurs coûts. - La compatibilité OpenAI/Anthropic et l'Autobatcher facilitent l'adoption sans réécriture majeure du code existant. - La passerelle Rust offre des performances élevées (450× moins de surcharge que LiteLLM) adaptées aux charges intensives. Inconvénients: - L'inférence asynchrone est limitée à 50 % de réduction par rapport au temps réel, et l'inférence par lots à 80 %, ce qui peut ne pas suffire pour certains besoins. - L'infrastructure dédiée sans limites de débit n'est disponible que dans l'offre At-Scale Inference. 【Questions fréquentes】 Q: Quels sont les tarifs de Doubleword ? A: Doubleword propose un paiement à l'usage pour l'offre Self-Service Inference, avec des crédits prépayés. L'offre At-Scale Inference est sur devis et inclut une infrastructure dédiée. Q: À qui s'adresse Doubleword ? A: Doubleword est destiné aux équipes qui exécutent des agents autonomes de longue durée, des pipelines de traitement par lots ou des charges à fort volume de tokens, ainsi qu'à celles qui ont besoin d'une capacité temps réel dédiée à haut débit. Q: Puis-je conserver mes SDK OpenAI ou Anthropic existants ? A: Oui, Doubleword est compatible avec les SDK OpenAI et Anthropic : il suffit de modifier l'URL de base vers api.doubleword.ai.
Self-Service Inference (Access to all major open-weight models, Usage-based pricing with prepaid credits, Prompt caching, tool calling and structured outputs) At-Scale Inference (Everything available to self-service, Dedicated infrastructure for guaranteed, high-throughput real-time capacity without rate limits, Increased rate limits)
Les prix affichés sont des prix de référence pour les États-Unis ; les prix locaux peuvent varier.
WPS AI est un assistant d'intelligence artificielle intégré à WPS Office (en chinois). Il accompagne la rédaction de…
Baidu Comate est un assistant de codage basé sur le grand modèle ERNIE de Baidu. Il génère du code, des tests unitaires…
UniConverter est un outil de conversion et d'amélioration multimédia par IA qui traite vidéos, audios et images. Il…
6 outils similaires à considérer à la place de Doubleword