Ver categorias
Explorar
Fiverr Pro
Português
$
USD
Eu vou configurar um llm privado hospedado no seu servidor com ollama, vLLM, open WebUI
Junaid Aslam
Level 1
Verificado pelo Fiverr Pro
Junaid Aslam foi selecionado pela equipe do Fiverr Pro considerando sua experiência.
Sobre este Serviço
Tradução automática
Por favor, mande uma mensagem para discutirmos os requisitos antes de fazer o pedido.
Quer um assistente de IA que mantenha seus dados no seu próprio servidor? Eu gero um LLM privado no seu VPS ou servidor com GPU. Nenhum prompt ou documento vai para terceiros.
O que eu configuro
- Ollama ou vLLM servindo um modelo aberto: Llama 3, Mistral, DeepSeek, Qwen, Gemma, ou qualquer modelo Hugging Face
- Open WebUI como tela de chat, com contas de usuário e papéis
- Uma API compatível com OpenAI, para seus apps chamarem como chamam a OpenAI
- RAG opcional nos seus PDFs e documentos, com pgvector ou Qdrant
- Configuração Docker Compose, Nginx, HTTPS e um guia de handover escrito
Onde ele roda
Qualquer servidor Linux: seu VPS, máquina no local, AWS, Azure, Google Cloud ou um GPU alugado no RunPod. GPUs: NVIDIA H100, A100, L40S, RTX 4090. Eu digo o custo mensal primeiro.
Localização dos dados
Posso hospedar na UE, Reino Unido, EUA ou qualquer país ou região que você escolher. Isso suporta regras de residência de dados como GDPR, UK GDPR e CCPA.
O que eu não faço
Eu não faço ajuste fino nem quantização de modelos. Eu implanto e conecto modelos abertos existentes.
Antes de fazer o pedido
Vamos discutir o tipo de documento, o número de usuários e o orçamento. Em seguida, eu recomendo um modelo e o tamanho do servidor.
Conheça mais sobre Junaid Aslam
Junaid Aslam
ASP Dot NET Core, Web API, React, JS, TS, SQL, NoSQL, AWS, Azure, AI Chatbot RAG
Level 1
Junaid Aslam faz parte do catálogo Fiverr Pro e foi escolhido a dedo por uma equipe dedicada do Fiverr Pro por suas habilidades e conhecimentos.
Verificado para
Desenvolvimento de Software
- A partir dePaquistão
- Membro desdeset. de 2015
- Responde em aprox.:1 hora
- Última entrega1 mês
Idiomas
Urdu, Inglês
Pro-vetted Senior .NET engineer with 7+ years building full-stack web apps and APIs for clients across the US, UK, EU, and beyond. I specialise in .NET, .NET Core, ASP.NET MVC5, Web API, Blazor, React, and Next JS, following Clean Architecture and SOLID principles so your codebase stays maintainable as it grows. I also offer AI automation & AI integration services, including custom AI chatbots, RAG, n8n, make.com AI workflows, Claude/GPT API.. My tech stack includes C# .NET 10, 9.0 · Blazor · EF Core · API · React/Next.js · TypeScript · MS SQL · Azure · AWS · WordPress · Firebase · PostgreSQL.
Tradução automática
Meu portfólio
Outros serviços de Desenvolvimento de IA que eu ofereço
Perguntas frequentes
Tradução automática
Preciso de meu próprio servidor ou GPU?
Não. Eu posso configurar em um VPS, na sua conta de nuvem ou em um GPU alugado no RunPod. Eu digo o tamanho e o custo mensal antes de começar. Você paga diretamente ao provedor.
Quais servidores e GPUs você pode usar?
Qualquer servidor Linux com acesso SSH: AWS, Azure, Google Cloud, RunPod ou o seu hardware. GPUs incluem NVIDIA H100, A100, L40S e RTX 4090.
Quais LLMs abertos você pode executar?
Llama 3, Mistral, DeepSeek, Qwen e Gemma, nos tamanhos que seu hardware suporta. Eu te ajudo a escolher o melhor modelo para o seu uso
Meus dados são privados?
Sim. O modelo roda no seu servidor. Nenhum prompt ou documento vai para um serviço de IA externo, a menos que você peça para conectar um.
Ollama ou vLLM, qual eu preciso?
Ollama é simples e bom para equipes pequenas. vLLM é mais rápido para muitos usuários em GPU. Eu recomendo um depois que você me disser a sua contagem de usuários.
Meu app pode chamá-lo como a API da OpenAI?
Sim. Ollama e vLLM oferecem uma API compatível com OpenAI. Seus apps apenas mudam a URL base e o nome do modelo.
Ele pode responder a partir dos meus próprios documentos (RAG)?
Sim, no pacote Premium. Eu adiciono RAG nos seus PDFs e arquivos com pgvector ou Qdrant.
Você consegue hospedar na UE, Reino Unido ou EUA para GDPR?
Posso hospedar na região que você escolher. Isso sustenta regras de residência de dados como GDPR, UK GDPR e CCPA. Não ofereço aconselhamento jurídico nem certificação de conformidade.
Você faz ajuste fino ou quantização de modelos?
Não. Eu implanto e conecto modelos abertos existentes. Não treino nem faço ajuste fino.
