1 / 3
【概述】 Chutes 是一个去中心化的无服务器推理平台,专注为开源 AI 模型提供托管与调用服务。开发者可以通过兼容 OpenAI 的 API 直接调用已托管的模型,也可以将自己的容器化模型部署到机密 GPU 上,按使用量付费,无需自建推理基础设施。 它要解决的问题是开源模型的部署与安全调用:一方面提供统一的 chat completions 接口,让团队不必为每个模型单独搭建服务;另一方面通过 Intel TDX 机密虚拟机与 NVIDIA Protected PCIe GPU 运行模型,并在执行前完成远程认证,不记录请求内容。 Chutes 适合 AI 开发者、正在将 AI 产品投入生产环境的团队,以及对私有或机密推理有要求的组织。需要注意的是,它并不面向在月度订阅套餐上运行自动化或高并发工作负载的场景。 【核心功能】 • AI 模型推理:通过 llm.chutes.ai 上兼容 OpenAI 的 chat completions 端点调用前沿开源大语言模型。 • TEE/安全计算:模型运行在 Intel TDX 机密虚拟机与 NVIDIA Protected PCIe GPU 中,执行前完成认证,且不记录请求内容。 • Private Chutes 部署:将自有容器化模型部署到专属机密 GPU 容量上,并暴露你自己的 API 端点。 • 多模态模型目录:除大语言模型外,还可运行图像、视频、语音、音乐与 embedding 模型。 • 批处理与临时任务:支持临时任务、批处理作业以及自定义训练工作负载。 • 内容审核模型:提供 Halo guard 等审核模型,用于仇恨言论与 NSFW 检测。 【适用场景】 1. LLM 对话补全 2. 生成图像、视频、语音与音乐 3. 为搜索与推荐场景生成 embedding 数据 【定价概览】 Plus: $10/month — 每日包含 2,000 次请求,超出配额后按 PAYG 费率享受 6% 折扣,月度使用上限 $50,4 小时突发限额 $4.17 Pro: $20/month — 每日包含 5,000 次请求,超出配额后按 PAYG 费率享受 10% 折扣,月度使用上限 $100,4 小时突发限额 $8.33 Enterprise: 仅支持定制计费 — 提供批量折扣、自定义速率限制与专属支持 【优缺点】 优点: - 兼容 OpenAI 的端点意味着现有代码几乎无需改动即可切换。 - 对处理敏感数据的团队,机密计算与不记录请求内容的设计比单纯的价格优势更有价值。 缺点: - 只有声明 confidential_compute: true 的模型才会在 TEE 中运行,其余模型无法获得同等机密性保障。 - Private Chutes 部署按秒计费,费率为 GPU 小时价,并需一次性支付相当于 3 倍小时价的部署费用,前期成本较高。 【常见问题】 Q: Chutes 的付费方式是什么样的? A: 默认采用按量付费,充值账户余额后按实际用量扣费;此外还提供 Plus 与 Pro 月度套餐,以及仅支持定制计费的 Enterprise 方案。 Q: 哪些用户不适合使用月度订阅套餐? A: 需要在月度订阅套餐上运行自动化或高并发工作负载的场景不适合。 Q: 我可以部署自己的模型吗? A: 可以。Private Chutes 部署支持将自有容器化模型运行在专属机密 GPU 容量上,并对外提供你自己的 API 端点。
Plus · $10/month (2,000 requests/day included, 6% off PAYG rates beyond the quota, $50 monthly usage cap) Pro · $20/month (5,000 requests/day included, 10% off PAYG rates beyond the quota, $100 monthly usage cap) Enterprise (Custom billing only, Volume discounts, Custom rate limits)
以下为美区参考价,其他地区的价格可能不同,请以官网实际价格为准。
WPS AI 是集成在 WPS Office 中的 AI 助手,面向日常办公与学习写作场景。它把文档写作、PPT 生成、长文阅读和表格处理这些常见任务,直接放进用户已经在用的办公软件里,减少在多个工具之间来回切换的麻烦。 在文档侧,WPS…
Baidu Comate 是百度基于文心大模型研发的 AI 编程辅助工具,面向软件开发全流程提供智能化支持。它能够自动生成代码、单元测试和注释,并通过智能问答帮助开发者快速理解项目架构与模块关系,从而提升编码效率。…
UniConverter 是一款 AI 媒体转换与增强工具,可对视频、音频和图片进行转换、压缩、编辑与画质提升。对于因压缩过度、噪点过多或分辨率偏低而显得模糊的素材,它提供 AI 视频增强与视频放大能力,帮助还原画面细节。…
共 6 个可替代 Chutes 的相似工具