
1 / 3
【概述】 Doubleword 是一个兼容 OpenAI 的 API 服务,用于以高吞吐方式运行开源权重(open-weight)大语言模型。它的核心思路是把请求按实时、异步和批处理分层定价:异步推理最高可比实时推理便宜 50%,约 24 小时完成的批量推理最高可便宜 80%,从而让长时间运行的自主 agent、批量流水线和高并发任务在成本上变得可行。 使用方式很简单:保留现有的 OpenAI 或 Anthropic SDK,只需把 base URL 改为 api.doubleword.ai 即可切换。所有请求都会经过一个基于 Rust 的模型网关,由其负责路由、访问控制、日志与监控;该网关的开销比 LiteLLM 低 450 倍。 Doubleword 面向的是长时间运行的自主 agent 团队、token 消耗大的团队、批处理流水线和高并发工作负载,以及需要专用高吞吐实时容量的团队。模型目录覆盖 DeepSeek、Qwen、GLM、Kimi 等厂商的文本、视觉、embedding 和 OCR 开源权重模型,并可按需在 24 小时内新增模型。 【核心功能】 • 异步推理:通过基于队列的异步引擎运行后台 agent 与批量任务,并以 webhook 回调通知完成结果。 • 批处理推理(约 24 小时):以最深的折扣处理大批量作业,结果在完成时逐步流式返回。 • OpenAI 兼容 API:沿用现有 OpenAI 或 Anthropic SDK,只需把 base URL 改为 api.doubleword.ai。 • 模型网关:基于 Rust 的网关统一处理路由、访问控制、日志与监控。 • Autobatcher:作为可直接替换的组件,在可配置时间窗口内自动收集并合并标准异步请求,从而获得批处理档位的价格。 • 流式返回结果:批处理结果在完成时即时流式返回,无需等待整批处理结束。 【适用场景】 1. 扩展深度研究 agent 的规模 2. 数据处理流水线与文档分析 3. 合成数据生成与模型评估 【定价概览】 Self-Service Inference: 按使用量计费,使用预付费额度 — 可使用所有主流开源权重模型,包含 prompt caching、tool calling 与结构化输出,以及高吞吐异步与批处理推理;含 Zero Data Retention。 At-Scale Inference: 定制报价 — 包含自助版全部能力,并提供专用基础设施以保障无速率限制的高吞吐实时容量、更高的速率限制以及自定义模型。 【优缺点】 优点: - 对 token 消耗大、以批处理和异步为主的团队来说,分层定价能显著压低单位推理成本,尤其适合不要求即时返回的长任务。 - 兼容 OpenAI 与 Anthropic SDK,迁移成本低,已有代码基本只需改 base URL。 缺点: - 异步推理与约 24 小时批处理的高折扣以延迟为代价,需要即时响应的场景只能走实时推理。 - 专用高吞吐实时容量与自定义模型属于 At-Scale 档位,自助版无法获得。 【常见问题】 Q: Doubleword 怎么收费? A: 采用按使用量计费,自助版通过预付费额度结算;异步推理最高可比实时推理便宜 50%,约 24 小时的批处理推理最高可便宜 80%。 Q: 我需要重写现有代码才能接入吗? A: 不需要。Doubleword 提供 OpenAI 兼容 API,可继续使用现有的 OpenAI 或 Anthropic SDK,只需把 base URL 更新为 api.doubleword.ai。 Q: Doubleword 适合哪些团队? A: 适合运行长时间自主 agent、消耗大量 token、以批处理流水线和高并发任务为主的团队,以及需要专用高吞吐实时容量的团队。
Self-Service Inference (Access to all major open-weight models, Usage-based pricing with prepaid credits, Prompt caching, tool calling and structured outputs) At-Scale Inference (Everything available to self-service, Dedicated infrastructure for guaranteed, high-throughput real-time capacity without rate limits, Increased rate limits)
以下为美区参考价,其他地区的价格可能不同,请以官网实际价格为准。
WPS AI 是集成在 WPS Office 中的 AI 助手,面向日常办公与学习写作场景。它把文档写作、PPT 生成、长文阅读和表格处理这些常见任务,直接放进用户已经在用的办公软件里,减少在多个工具之间来回切换的麻烦。 在文档侧,WPS…
Baidu Comate 是百度基于文心大模型研发的 AI 编程辅助工具,面向软件开发全流程提供智能化支持。它能够自动生成代码、单元测试和注释,并通过智能问答帮助开发者快速理解项目架构与模块关系,从而提升编码效率。…
UniConverter 是一款 AI 媒体转换与增强工具,可对视频、音频和图片进行转换、压缩、编辑与画质提升。对于因压缩过度、噪点过多或分辨率偏低而显得模糊的素材,它提供 AI 视频增强与视频放大能力,帮助还原画面细节。…
共 6 个可替代 Doubleword 的相似工具