1 / 3
【Überblick】 RunInfra ist ein Anbieter gehosteter APIs für offene Chat-Modelle (Open-Weight-Modelle), die über die Model APIs von RunInfra bereitgestellt werden. Der Dienst richtet sich an Entwickler und Teams, die KI-Agenten bauen und dabei wiederholt denselben Gesprächskontext mitsenden. Ein einziger API-Schlüssel genügt, um sowohl OpenAI-kompatible Chat Completions als auch Anthropic-kompatible Messages anzusprechen. Das Kernproblem, das RunInfra adressiert, sind wiederholte Tool-Aufrufe in Agenten-Sitzungen: Dabei wird der Kontext bei jedem Aufruf erneut übertragen. Das sessionbewusste Routing von RunInfra leitet solche Wiederholungen an die Replika weiter, die den zwischengespeicherten Kontext hält, sodass wiederholte Eingaben zum Cached-Input-Tarif abgerechnet werden. So sinken die Kosten für gecachte Eingaben. Geeignet ist RunInfra für Agenten-Entwickler, Startups von der bootstrap-Phase bis zur Series A (über das RunInfra for Startups-Programm) sowie für Entwickler, die Coding-Agenten wie Claude Code, Codex oder OpenCode nutzen. Nicht gedacht ist der Dienst für bestehende RunInfra-Kunden im Rahmen des Startup-Programms und nicht für die Verarbeitung geschützter Gesundheitsdaten (PHI). 【Kernfunktionen】 • Gehostete Open-Model-Inferenz: Stellt offene Chat-Modelle über die Model APIs von RunInfra bereit. • Kompatibilität mit OpenAI- und Anthropic-SDKs: OpenAI-kompatible Chat Completions und Anthropic-kompatible Messages unter einem API-Schlüssel. • Sessionbewusstes Routing und Prompt-Caching: Wiederholte Aufrufe einer Agenten-Sitzung werden an die Replika mit dem gecachten Kontext geleitet, sodass wiederholte Eingaben zum Cached-Input-Tarif abgerechnet werden. • Coding-Pläne für Coding-Agenten: Monatliche Coding-Pläne enthalten Nutzung für Claude Code, opencode und über 20 Agenten, mit Reset alle 5 Stunden und wöchentlich. • Streaming: Anfragen an Chat-Modelle unterstützen Streaming. • Tool Calling, JSON-Modus und Bildeingabe: Modelle unterstützen Tool Calling sowie strukturierte Ausgabe per JSON-Modus; einige Modelle akzeptieren Bildeingaben. 【Anwendungsfälle】 1. KI-Agenten betreiben, die bei jedem Tool-Aufruf den Gesprächskontext erneut senden. 2. Offene Modelle in einem Coding-Agenten einrichten. 3. Gehostete Open-Weight-Chat-Modelle über das OpenAI- oder Anthropic-SDK aufrufen. 【Preise】 Pay as you go: ab $5 (jeder Betrag ab $5) — Abrechnung pro Token zu veröffentlichten Preisen, Guthaben sind ein Jahr gültig, OpenAI-kompatible Chat Completions und Anthropic-kompatible Messages. Starter: $10/Monat — etwa $12 Nutzung pro Monat, 5-Stunden-Limit $1.11, Wochenlimit $2.77, kostenloses Standby bis $0.20 Chat pro Tag. Pro: $29/Monat — etwa $35 Nutzung pro Monat, 5-Stunden-Limit $3.23, Wochenlimit $8.08, kostenloses Standby bis $0.58 Chat pro Tag. Team: $99/Monat — etwa $119 Nutzung pro Monat, 5-Stunden-Limit $10.98, Wochenlimit $27.46, kostenloses Standby bis $1.98 Chat pro Tag. Enterprise: Individuell — dedizierte Infrastruktur, Compliance und individuelles Volumen, Audit-Logs und rollenbasierte Zugriffskontrolle (RBAC), individuelle Vertragsbedingungen, individuelle SLAs bis 99,99 %. 【Vor- und Nachteile】 Vorteile: - Wer Agenten mit vielen wiederholten Tool-Aufrufen betreibt, profitiert vom sessionbewussten Routing, weil gecachte Eingaben günstiger abgerechnet werden. - Teams, die bereits mit den OpenAI- oder Anthropic-SDKs arbeiten, können ohne zweiten Schlüssel auf offene Modelle umsteigen. Nachteile: - Cache-Treffer beim sessionbewussten Routing und Prompt-Caching sind nur Best-Effort, eine Garantie gibt es nicht. - Coding-Pläne decken nur Chat ab; Bilder und Audio bleiben immer Pay as you go. - Der JSON-Modus wird nur je nach Chat-Modell unterstützt. 【Häufige Fragen】 Q: Für wen ist RunInfra gedacht? A: Vor allem für Agenten-Entwickler, Startups von der bootstrap-Phase bis zur Series A sowie Entwickler, die Coding-Agenten wie Claude Code, Codex oder OpenCode nutzen. Q: Wie starte ich die Nutzung und was kostet der Einstieg? A: Pay as you go ist selfserve und wird über Guthaben-Aufladungen ab $5 finanziert; die Abrechnung erfolgt pro Token zu veröffentlichten Preisen. Q: Kann ich RunInfra für geschützte Gesundheitsdaten nutzen? A: Nein, die Verarbeitung geschützter Gesundheitsdaten (PHI) ist nicht vorgesehen.
Pay as you go · $5 (Any amount from $5, Pay per token at published prices, Credits last a year) Starter · $10/month (About $12 of usage a month, 5-hour limit $1.11, Weekly limit $2.77) Pro · $29/month (About $35 of usage a month, 5-hour limit $3.23, Weekly limit $8.08) Team · $99/month (About $119 of usage a month, 5-hour limit $10.98, Weekly limit $27.46) Enterprise · Custom (Dedicated infrastructure, compliance, and custom volume, Audit logs and role-based access control (RBAC), Custom volume
Die angezeigten Preise sind Referenzpreise für die USA; lokale Preise können abweichen.
WPS AI ist ein KI-Assistent, der direkt in WPS Office integriert ist und mit einem großen Sprachmodell arbeitet. Er…
Baidu Comate ist ein KI-gestützter Programmierassistent, der auf dem ERNIE-Modell von Baidu basiert. Er unterstützt…
UniConverter ist ein KI-gestütztes Werkzeug zur Medienkonvertierung und -verbesserung. Es konvertiert, komprimiert,…
6 ähnliche Werkzeuge als Alternative zu RunInfra