Ver categorias
Explorar
Fiverr Pro
Português
$
USD
Vou configurar uma implantação privada e sem servidor de IA na google cloud run
Engenheiro de Software Sênior e Engenheiro de IA
Combino muitos anos de experiência em engenharia de software (incluindo para BMW e Airbus) com tecnologias modernas de IA para ajudar empresas a implementar soluções de IA escaláveis e prontas para pr...
Sobre este Serviço
Quer controle total sobre seus dados de IA sem pagar milhares por servidores dedicados? Eu vou configurar um LLM privado de código aberto (por exemplo, Gemma 4, Llama 3, Mistral) no seu ambiente Google Cloud (GCP).
Por que essa configuração?
- Soberania Total dos Dados: Seus prompts nunca deixam sua nuvem. Sem dependência de APIs de terceiros. Perfeito para dados corporativos sensíveis.
- Escalabilidade Ilimitada: Diferente de hospedagem rígida ou servidores locais, essa arquitetura escala automaticamente. Clona instâncias durante picos de tráfego e escala para zero em períodos de ociosidade (Pagamento por Uso).
- Alta Performance: O modelo roda em GPUs NVIDIA L4 potentes.
O que você vai receber:
- Manual Detalhado (Inglês): Guia passo a passo para infraestrutura GCP, permissões IAM e solicitação de cotas de GPU.
- Script de Automação 1: Um script Bash inteligente que faz o download e prepara automaticamente o modelo desejado.
- Script de Automação 2: Um script de implantação para toda a pilha de nuvem (Cloud Run & Storage Bucket).
- Suporte: Orientação rápida durante sua configuração inicial para garantir que tudo funcione perfeitamente.
Provedor de Nuvem:
Google Cloud Platform
Especialidade:
Implantação
Frameworks:
Outros
Perguntas frequentes
Tradução automática
Quais modelos podem ser hospedados?
Qualquer modelo disponível em formato GGUF que caiba na VRAM de 24 GB da GPU NVIDIA L4. Modelos com 8B a 14B parâmetros são ideais.
Quais são os custos de execução na Google?
Durante períodos de ociosidade, você paga apenas custos mínimos de armazenamento (~$0,20/mês). Durante uso ativo, paga pela potência de computação (~$2,25/h, cobrado por segundo).
A API é compatível com meus aplicativos?
Sim! O motor de inferência oferece um endpoint compatível com OpenAI /v1/chat/completions.
Como ele lida com múltiplos usuários?
O sistema é altamente elástico. O Google escala automaticamente para múltiplas instâncias de GPU durante picos de carga e as desliga quando o tráfego diminui.
