Ver categorias
Explorar
Fiverr Pro
Português
$
USD
Vou implantar uma stack privada de LLM local com docker
Jeancam L.
Sobre este Serviço
Tradução automática
Precisa de capacidades de IA sem precisar enviar cada prompt ou documento para um serviço de terceiros?
Sou engenheiro de IA e Python francês. Eu projeto e implanto stacks privadas de LLM para ambientes locais, on-premise, híbridos e na nuvem. O objetivo não é apenas instalar alguns containers; é fornecer um sistema confiável que se adapte ao seu hardware, necessidades de privacidade e carga de trabalho esperada.
Sua stack pode incluir:
- OpenWebUI, Ollama ou vLLM
- Serviços dockerizados e APIs compatíveis com OpenAI
- RAG privado e busca por vetores
- PostgreSQL ou pgvector
- Configuração de autenticação, HTTPS e proxy reverso
- Roteamento LiteLLM entre modelos locais e na nuvem
- Monitoramento de uso, orçamentos de equipe e visibilidade de custos
Vou ajudar você a escolher modelos que façam sentido para seu CPU, RAM ou GPU, ao invés de prometer desempenho irrealista. A entrega inclui a configuração acordada, documentação e uma transferência clara.
Envie uma mensagem antes de fazer o pedido com seu hardware e número de usuários para que eu possa confirmar a melhor arquitetura e pacote.
Conheça mais sobre Jeancam L.
Jeancam L.
- A partir deFrança
- Membro desdeago. de 2021
- Última entrega3 anos
Idiomas
Francês, Inglês
Graduated from engineering school ESISAR in Valence, France, I have a lot of knowledge in various programming languages: Java, python, c. I have acquired a deep expertise in Selenium testing and web scraping. I am familiar with web languages (js, css, html), the WordPress and Shopify CMS that I use for my personal projects and the Spring framework.
Tradução automática
Perguntas frequentes
Tradução automática
Tudo pode rodar localmente?
Sim, quando o hardware disponível suporta o modelo e a carga de trabalho escolhidos. Vou estabelecer expectativas realistas antes de começarmos.
Tudo pode rodar localmente?
Sim, quando o hardware disponível suporta o modelo e a carga de trabalho escolhidos. Vou estabelecer expectativas realistas antes de começarmos.
Você pode combinar modelos locais e na nuvem?
Sim. Uma stack híbrida pode manter tarefas sensíveis localmente enquanto usa modelos na nuvem apenas quando for necessário mais capacidade.
Você fornece o servidor ou GPU?
Não. Você fornece a máquina alvo ou conta na nuvem; eu configuro e implanto a stack acordada.
Você pode adicionar busca privada de documentos?
Sim. RAG, citações e busca por vetores podem ser incluídos no escopo Padrão ou Premium.
