1 / 3
【Visão geral】 Chutes é uma plataforma de inferência serverless e descentralizada para modelos de IA de código aberto. Em vez de montar e manter infraestrutura própria de GPU, você consome modelos de ponta por meio de um endpoint de chat completions compatível com OpenAI em llm.chutes.ai, ou publica seus próprios containers de modelo em GPUs confidenciais dedicadas. O problema que resolve é o custo operacional e a complexidade de servir modelos abertos em produção: a plataforma cuida do provisionamento e da execução, e o modelo de cobrança é por uso, com recarga de saldo e pagamento apenas pelo que for consumido. É voltado a desenvolvedores de IA, equipes que colocam produtos com IA em produção e organizações que precisam de inferência privada ou confidencial. Quem trabalha com cargas automatizadas ou de alto volume em planos de assinatura mensal deve considerar outro formato de contratação. 【Recursos principais】 • Inferência de modelos de IA: disponibiliza LLMs open-source de última geração em um endpoint de chat completions compatível com OpenAI. • Computação segura com TEE: executa modelos em VMs confidenciais Intel TDX com GPUs NVIDIA Protected PCIe, com atestação antes da execução e sem registro do conteúdo das requisições. • Implantação de Chutes privados: publica seu próprio modelo em container, em capacidade dedicada de GPU confidencial, expondo seus próprios endpoints de API. • Catálogo multimodal: além de LLMs, executa modelos de imagem, vídeo, fala, música e embeddings. • Jobs em lote e efêmeros: suporta jobs efêmeros, processamento em lote e cargas personalizadas de treinamento. • Modelos de moderação de conteúdo: oferece modelos como o Halo guard para detecção de discurso de ódio e conteúdo NSFW. 【Casos de uso】 1. Conclusões de chat com LLMs por API compatível com OpenAI. 2. Geração de imagens, vídeo, fala e música com modelos abertos. 3. Geração de embeddings para busca e recomendação. 【Preços】 Plus: $10/mês — 2.000 requisições por dia incluídas, 6% de desconto nas tarifas de pagamento por uso acima da cota, teto mensal de uso de $50 e limite de burst de 4 horas de $4.17 Pro: $20/mês — 5.000 requisições por dia incluídas, 10% de desconto nas tarifas de pagamento por uso acima da cota, teto mensal de uso de $100 e limite de burst de 4 horas de $8.33 Enterprise: cobrança personalizada — descontos por volume, limites de taxa customizados e suporte dedicado 【Vantagens e desvantagens】 Vantagens: - A compatibilidade com a API da OpenAI reduz o esforço de migração para quem já tem código escrito para esse formato. - A atestação em TEE antes da execução e a ausência de registro do conteúdo das requisições interessam a organizações com dados sensíveis. - O catálogo multimodal permite cobrir chat, mídia e embeddings sem integrar provedores distintos. - O pagamento por uso atende bem a times que estão validando ou que têm demanda irregular. Desvantagens: - Apenas modelos que declaram confidential_compute: true são executados em TEEs, o que limita a proteção confidencial a esse subconjunto do catálogo. - A implantação de Chutes privados é cobrada por segundo à tarifa horária da GPU, mais uma taxa única de implantação equivalente a 3× a tarifa horária. 【Perguntas frequentes】 Q: Como funciona a cobrança do Chutes? A: O padrão é pagar por uso: você recarrega o saldo da conta e paga apenas pelo que consumir. Há também planos mensais Plus e Pro, com cotas diárias de requisições e tetos de uso. Q: Para quem o Chutes é indicado? A: Para desenvolvedores de IA, equipes que levam produtos com IA à produção e organizações que exigem inferência privada ou confidencial. Cargas automatizadas ou de alto volume em assinatura mensal não são o cenário adequado. Q: Posso rodar meu próprio modelo no Chutes? A: Sim. A implantação de Chutes privados publica seu modelo em container em capacidade dedicada de GPU confidencial, expondo seus próprios endpoints de API, com cobrança por segundo à tarifa horária da GPU.
Plus · $10/month (2,000 requests/day included, 6% off PAYG rates beyond the quota, $50 monthly usage cap) Pro · $20/month (5,000 requests/day included, 10% off PAYG rates beyond the quota, $100 monthly usage cap) Enterprise (Custom billing only, Volume discounts, Custom rate limits)
Os preços mostrados são preços de referência dos EUA; os preços locais podem variar.
O WPS AI é um assistente de inteligência artificial integrado ao WPS Office, com capacidade de grandes modelos de…
O Baidu Comate é um assistente de programação com inteligência artificial desenvolvido pela Baidu com base no modelo…
UniConverter é uma ferramenta de conversão e aprimoramento de mídia com IA que trabalha com vídeo, áudio e imagens. Ela…
6 ferramentas semelhantes a considerar em vez de Chutes