Eu vou configurar, validar e solucionar problemas do seu cluster de GPU e infraestrutura de IA

Você tem GPUs. Precisa que elas funcionem como uma plataforma de computação confiável.

Eu construo e gerencio infraestrutura de GPU e HPC em produção: provisionamento, validação de drivers e pilha CUDA, agendamento, rede de alta velocidade e monitoramento. Trabalho na camada de infraestrutura. Não sou engenheiro de ML e não vou fingir ser um.

O QUE EU FAÇO

Configuração do nó GPU: alinhamento de driver NVIDIA, toolkit e runtime CUDA, modo de persistência, MIG

Validação de saúde: diagnósticos DCGM, triagem de erros Xid e ECC, verificações térmicas e de energia

Comunicação entre múltiplos nós GPU: testes nccl, benchmarking all-reduce, ajuste de NCCL, validação do caminho de rede

Agendamento: partições GPU SLURM e GRES, cgroups e binding, ou Kubernetes com o plugin de dispositivo NVIDIA e GPU Operator

Monitoramento: Prometheus, DCGM exporter, dashboards Grafana

Automação: funções Ansible para tornar o build repetível

ANTES DE PEDIR

Me envie uma mensagem com a quantidade de nós, modelo de GPU, interconexão e o que você está vendo. Se não for algo que eu possa realmente resolver, vou dizer.

Você recebe configuração funcional, resultados de benchmark mostrando o que foi alterado e documentação escrita.