Vou instalar ollama e abrir o webui em um vps auto-hospedado como um servidor de IA privado e seguro

S
ssoft786
S
ssoft786
Mehmud
Algumas informações foram traduzidas automaticamente.

Sobre este Serviço

Tradução automática

Se você quer um chat estilo ChatGPT sem enviar dados da empresa para ninguém, você roda o modelo na sua própria máquina. É isso que este serviço faz.


Eu instalo Ollama com a interface Open WebUI no seu servidor, no seu domínio com SSL, e configuro contas de usuário para que sua equipe faça login corretamente, ao invés de compartilhar um link.


O que você vai ter:


Uma interface de chat privada no seu próprio endereço, modelos baixados e prontos para usar, e um servidor que reinicia de forma limpa e permanece atualizado. No pacote Standard, eu instalo drivers NVIDIA e CUDA se seu servidor tiver uma GPU, o que faz toda a diferença entre respostas rápidas e respostas lentas.


Serei honesto com você sobre o hardware antes de você gastar dinheiro. Modelos pequenos rodam de forma aceitável na CPU. Qualquer coisa na faixa de 30B precisa de uma GPU de verdade. Me envie as especificações do seu servidor e eu te digo o que realmente vai rodar nele, ao invés de vender um pacote que vai te decepcionar.


O pacote avançado adiciona um endpoint de API que seus próprios apps podem chamar, e upload de documentos para você fazer perguntas contra seus próprios arquivos.


Me envie uma mensagem com suas especificações primeiro, se você não tiver certeza.

Conheça mais sobre Mehmud

Mehmud

Server and Email Migration, n8n, Docker and Self Hosted AI Setup

4,6(7)
  • A partir dePaquistão
  • Membro desdejun. de 2016
  • Última entrega2 anos
  • Idiomas

    Urdu, Inglês
I have been running Linux and Windows servers for 9+ years - AWS, Google Cloud, DigitalOcean and plain VPS. Most of my work is migration: moving sites and data between servers, and moving business email from one provider to another without losing mail. I also set up self-hosted automation and AI stacks - n8n, Docker, Ollama with Open WebUI - for teams who want to own their infrastructure instead of monthly SaaS bills. And I clean up hacked servers and harden them so it does not happen again. Tell me what you are running and where you want it. If it is not a job I should take, I will say so.

Tradução automática