
1 / 3
【Überblick】 Doubleword ist eine OpenAI-kompatible API, mit der sich Open-Weight-Modelle mit hohem Durchsatz ausführen lassen. Sie richtet sich an Teams, die autonome Agenten über lange Zeiträume betreiben, Batch-Pipelines verarbeiten oder generell hohe Token-Volumen bewältigen müssen. Der Dienst bietet asynchrone und Batch-Tarife (ca. 24 Stunden), die deutlich unter den Preisen für Echtzeit-Inferenz liegen. Die API ist so gestaltet, dass bestehende OpenAI- oder Anthropic-SDKs weiterverwendet werden können; lediglich die Basis-URL muss auf api.doubleword.ai geändert werden. Alle Anfragen laufen über ein Rust-basiertes Model-Gateway, das Routing, Zugriffskontrolle, Protokollierung und Monitoring übernimmt. Ein Autobatcher sammelt Standard-Async-Anfragen über ein konfigurierbares Zeitfenster und bündelt sie, um so die Preise der Batch-Stufe zu nutzen. Doubleword bietet eine Auswahl an Open-Weight-Modellen für Text, Vision, Embeddings und OCR von Anbietern wie DeepSeek, Qwen, GLM und Kimi. Ergebnisse von Batch-Jobs werden gestreamt, sobald sie fertig sind. Zero Data Retention ist in der Self-Service-Variante enthalten. 【Kernfunktionen】 • Asynchrone Inferenz: Hintergrund-Agenten und Batch-Workloads laufen über eine queue-basierte Engine mit Webhook-Callbacks bei Abschluss. • Batch-Inferenz (~24 Stunden): Große Batch-Jobs werden mit dem tiefsten Rabatt verarbeitet; Ergebnisse werden während der Fertigstellung gestreamt. • OpenAI-kompatible API: Bestehende OpenAI- oder Anthropic-SDKs können durch Ändern der Basis-URL auf api.doubleword.ai weiterverwendet werden. • Model-Gateway: Jede Anfrage wird über ein Rust-basiertes Gateway mit Routing, Zugriffskontrolle, Logging und Monitoring geleitet. • Autobatcher: Eine Drop-in-Ersetzung, die Standard-Async-Anfragen über ein konfigurierbares Fenster sammelt und bündelt, um Batch-Preise zu erzielen. • Zero Data Retention: In der Self-Service-Variante enthalten und bietet keine Datenspeicherung von Inferenzdaten. 【Anwendungsfälle】 1. Skalierung von Deep-Research-Agenten 2. Datenverarbeitungs-Pipelines 3. Dokumentenanalyse 【Preise】 Self-Service Inference: nutzungsbasierte Abrechnung mit Prepaid-Guthaben — Zugang zu allen wichtigen Open-Weight-Modellen, Prompt-Caching, Tool-Calling, strukturierte Ausgaben sowie asynchrone und Batch-Inferenz mit hohem Durchsatz. At-Scale Inference: individuelle Preise — dedizierte Infrastruktur für garantierte Echtzeit-Kapazität mit hohem Durchsatz ohne Ratenlimits, erhöhte Ratenlimits und benutzerdefinierte Modelle. 【Vor- und Nachteile】 Vorteile: - Teams, die bereits OpenAI- oder Anthropic-SDKs nutzen, können ohne größere Codeänderungen wechseln und von den niedrigeren Preisen für asynchrone und Batch-Verarbeitung profitieren. - Durch den Autobatcher lassen sich auch Standard-Async-Anfragen automatisch bündeln, sodass Batch-Preise ohne zusätzlichen Integrationsaufwand erzielt werden. - Das Model-Gateway mit geringem Overhead (450× weniger als LiteLLM) eignet sich für Umgebungen, in denen Zuverlässigkeit und Monitoring wichtig sind. Nachteile: - Asynchrone Inferenz bietet nur bis zu 50 % Rabatt gegenüber Echtzeit-Inferenz; der maximale Rabatt von bis zu 80 % ist an die Batch-Verarbeitung mit ca. 24 Stunden Laufzeit gebunden. - Neue Modelle werden nur auf Anfrage innerhalb von 24 Stunden hinzugefügt, was für Teams mit Bedarf an sofortiger Modellverfügbarkeit eine Einschränkung darstellen kann. 【Häufige Fragen】 Q: Wie unterscheidet sich die Preisgestaltung von Doubleword von der Echtzeit-Inferenz? A: Doubleword bietet asynchrone Inferenz mit bis zu 50 % Rabatt und Batch-Inferenz (ca. 24 Stunden) mit bis zu 80 % Rabatt gegenüber Echtzeit-Inferenz. Die Abrechnung erfolgt nutzungsbasiert mit Prepaid-Guthaben. Q: Für wen ist Doubleword geeignet? A: Doubleword richtet sich an Teams, die langlaufende autonome Agenten betreiben, sowie an Unternehmen mit Batch-Pipelines und hohen Token-Volumen. Auch Teams, die dedizierte Hochdurchsatz-Echtzeitkapazität benötigen, werden adressiert. Q: Welche Modelle sind über Doubleword verfügbar? A: Doubleword bietet Open-Weight-Modelle für Text, Vision, Embeddings und OCR von Anbietern wie DeepSeek, Qwen, GLM und Kimi. Neue Modelle werden auf Anfrage innerhalb von 24 Stunden hinzugefügt.
Self-Service Inference (Access to all major open-weight models, Usage-based pricing with prepaid credits, Prompt caching, tool calling and structured outputs) At-Scale Inference (Everything available to self-service, Dedicated infrastructure for guaranteed, high-throughput real-time capacity without rate limits, Increased rate limits)
Die angezeigten Preise sind Referenzpreise für die USA; lokale Preise können abweichen.
WPS AI ist ein KI-Assistent, der direkt in WPS Office integriert ist und mit einem großen Sprachmodell arbeitet. Er…
Baidu Comate ist ein KI-gestützter Programmierassistent, der auf dem ERNIE-Modell von Baidu basiert. Er unterstützt…
UniConverter ist ein KI-gestütztes Werkzeug zur Medienkonvertierung und -verbesserung. Es konvertiert, komprimiert,…
6 ähnliche Werkzeuge als Alternative zu Doubleword