Ver categorias
Explorar
Fiverr Pro
Português
$
USD
Vou implantar e gerenciar infraestrutura de mlops, llm e gpu na aws e kubernetes
Engenheiro sênior de DevOps de IA: AWS, Kubernetes, APIs do ComfyUI, DevSecOps
Engenheiro de IA, DevSecOps e Infraestrutura na Nuvem, com 4 anos construindo sistemas de produção. Entrego o que a maioria dos projetos de IA não tem: a infraestrutura por trás.
Trabalho com AWS e E...
Sobre este Serviço
Coloco modelos de IA em produção e os mantenho funcionando. Um script de treinamento não é um produto. Um serviço monitorado, versionado e com autoescalonamento é.
O QUE EU CONSTRUO
pipelines de MLOps: rastreamento com MLflow ou Weights and Biases, registro de modelos, re-treinamento automatizado e rollout seguro
serviço de LLM: vLLM, Ollama, TGI e modelos Hugging Face por trás de uma API compatível com OpenAI
infraestrutura de GPU: AWS EC2 g5 e g6, EKS com grupos de nós GPU, RunPod e Vast.ai, instâncias spot e autoescalonamento para reduzir sua conta
Containers: Docker, Kubernetes, Helm, agendamento de GPU, verificações de saúde e rollout sem downtime
CI/CD para modelos e código: GitHub Actions, Jenkins, ArgoCD e GitOps
Observabilidade: Prometheus, Grafana, rastreamento de requisições, dashboards de latência e custo por token
Segurança: IAM com privilégios mínimos, endpoints privados VPC, gerenciamento de segredos e SSL
O QUE VOCÊ RECEBE
Infraestrutura funcional, o código fonte do Terraform ou Helm que você possui, documentação do runbook e uma chamada de transferência para que sua equipe possa operá-la sem minha ajuda.
Quatro anos em DevOps e infraestrutura de IA. Conte-me seu modelo, tráfego esperado e nuvem, e eu farei a dimensionamento e te darei um custo mensal realista antes de você fazer o pedido. Trabalho em horário dos EUA.
Ferramentas:
Kubernetes
•
Docker
•
Amazon EKS
Frameworks:
Terraform
•
Ansible
Linguagem de programação:
Bash
•
Vá
•
Python
Especialidade:
Instalação
•
Migração
•
Depuração
Outros serviços de Engenharia de DevOps que eu ofereço
Perguntas frequentes
Tradução automática
Quais modelos você pode implantar?
Qualquer modelo aberto no Hugging Face, além de Llama, Mistral, Qwen, DeepSeek e seus próprios ajustes finos. Para imagem e vídeo, também trabalho com Flux, SDXL e Wan. Me diga o modelo e confirmarei a GPU necessária.
Preciso ter minha própria conta na nuvem?
Sim, e isso é intencional. Tudo roda na sua conta da AWS, GCP ou RunPod, assim você possui a infraestrutura e controla a cobrança. Eu configuro e entrego para você.
Quanto vai custar por mês para rodar?
Depende do tamanho do modelo e do tráfego. Antes de você fazer o pedido, dou uma estimativa de dimensionamento: tipo de GPU, utilização esperada e faixa de custo mensal. Instâncias spot e escala para zero geralmente reduzem bastante.
Você fornece o código fonte do Terraform e Helm?
Sempre. Você recebe o repositório completo, Dockerfiles, charts do Terraform ou Helm e documentação da API, para que você ou outro engenheiro possam manter depois.
Você consegue consertar uma configuração já existente ao invés de montar uma nova?
Sim. Problemas na implantação, crashes por OOM, nós de GPU que não agendam, contas de nuvem descontroladas e infraestrutura sem documentação fazem parte do que eu faço.
Você faz LLMs self-hosted no local?
Sim. Ollama ou vLLM com Open WebUI no seu próprio servidor ou estação de trabalho GPU, totalmente offline, sem dados saindo da sua rede.
Que monitoramento eu recebo?
Prometheus e Grafana com dashboards de latência, throughput, utilização de GPU, taxa de erro e custo por requisição, além de alertas que te avisam antes que seus usuários percebam.
Qual é o seu horário de trabalho?
Estou disponível 24/7 e trabalho no horário dos EUA, então podemos conversar no seu fuso horário. Geralmente respondo em até uma hora.
