Ver categorias
Explorar
Fiverr Pro
Português
$
USD
Eu vou implantar seu LLM para produção com vLLM na sua GPU na nuvem
Joshua
Sobre este Serviço
Tradução automática
Um modelo que funciona em um notebook e um que suporta 1.000 usuários simultâneos são projetos bem diferentes. Eu faço o segundo.
Sou engenheiro sênior de infraestrutura de ML, com 7 anos de confiabilidade em produção. Recentemente: infraestrutura de serving que lida com mais de 50.000 tarefas simultâneas em menos de 100ms para mais de 1.000 usuários, construída com vLLM e SGLang, usando pools de nós GPU Kubernetes, com custo de infraestrutura 35% menor do que quando comecei.
O que você recebe:
- Seu modelo de weights abertos (Llama, Mistral, Qwen, DeepSeek) servido com vLLM
- Implantado na sua conta na nuvem: você mantém as chaves, os dados e o endpoint
- Autoescalonamento de GPU e batching ajustados para inferência, não para tráfego web
- Resultados de testes de carga, para você saber a capacidade real antes que seus usuários descubram
- Dashboards de monitoramento; runbook na versão Standard/Premium
Se seu orçamento de GPU e sua meta de latência não combinarem, eu aviso antes de você gastar um centavo com computação.
Básico: um modelo, um nó GPU, testado em carga.
Standard: adiciona autoescalonamento, ajustes, dashboards.
Premium: múltiplos modelos, otimização de custos, handover.
Envie os detalhes do seu modelo e tráfego; o formulário de requisitos cobre o resto.
Conheça mais sobre Joshua
Joshua
Senior Platform Engineer
- A partir deNigéria
- Membro desdejul. de 2026
Idiomas
Inglês
Deployments on my platforms are boring, and that's the point. Seven years of production infrastructure: multi-cloud Kubernetes (EKS/AKS), Terraform at 20+ module scale, CI/CD with automatic rollback at 99.9% deploy success. One team went from 40% failed deploys to 5% after I rebuilt their pipelines; a fintech's PCI-DSS audits returned zero critical findings. I also build ML serving infrastructure: 50,000+ concurrent tasks at sub-100ms using vLLM on GPU node pools. Hand me a breaking pipeline, an untrusted cluster, or a cloud bill that grew quietly, and get it fixed properly.
Tradução automática
Meu portfólio
Perguntas frequentes
Tradução automática
Quais modelos você pode implantar?
Modelos de weights abertos: Llama, Mistral, Qwen, DeepSeek, Gemma, e quase tudo que o vLLM suporta no Hugging Face. Se você quer usar APIs do OpenAI/Anthropic, não precisa de infraestrutura de serving, e eu aviso isso ao invés de vender esse serviço.
Preciso de minha própria conta na nuvem e GPUs?
Sim, tudo é implantado na sua conta (AWS, Azure, GCP ou local), assim você mantém controle total. Se ainda não tiver cota de GPU, eu te digo exatamente o que solicitar e quais tipos de instância se encaixam no seu modelo e orçamento.
Qual latência e throughput posso esperar?
Depende do tamanho do modelo, da quantização e da GPU escolhida, por isso cada entrega inclui números de load-test para a sua configuração, não promessas genéricas. Latência de menos de 100ms no primeiro token é possível para muitos modelos de tamanho médio com hardware adequado.
Meus dados e modelo são privados?
Tudo roda dentro da sua conta e da sua rede. Trabalho com acesso escopado que você concede e revoga, e nada é copiado para fora. NDAs são tranquilos.
O que conta como uma revisão?
Ajustes que foram escopados: tamanhos de batch, limites de autoescalonamento, configuração do endpoint. Um modelo diferente, um ambiente novo ou novas ferramentas são escopos diferentes, cotados como extras.
