Eu vou configurar o ollama e abrir o webui para você rodar um llm privado localmente


Level 2
Sobre este Serviço
Tradução automática
Conheça mais sobre M Talha Zahid
AI Specialist, Data Analytics and Python Automation
Level 2
- A partir dePaquistão
- Membro desdeout. de 2021
- Responde em aprox.:1 hora
- Última entrega3 semanas
Idiomas
Urdu, Inglês, Alemão
Tradução automática
Meu portfólio
Perguntas frequentes
Tradução automática
Ele vai funcionar no meu computador?
Diz qual é o seu OS, RAM e se você tem GPU. Vou te dizer qual tamanho de modelo vai rodar bem antes de você fazer o pedido. Se seu hardware for muito limitado, vou falar isso e sugerir uma opção de servidor pequeno em vez disso.
Meus dados são realmente privados?
Com uma configuração local, seus prompts e documentos ficam no seu computador ou servidor e não são enviados para um provedor de IA. Essa é a principal razão pela qual compradores escolhem isso em vez de um chatbot em nuvem.
Qual modelo eu vou receber?
Depende do seu hardware e do seu uso. Normalmente começo com um modelo geral robusto no tamanho que sua máquina consegue rodar bem, e explico a compensação entre velocidade e qualidade.
Minha equipe também pode usar?
Sim, a partir do Standard eu configuro contas de usuário Open WebUI para que cada pessoa tenha seu login e histórico de chat.
