Eu vou configurar o ollama e abrir o webui para você rodar um llm privado localmente

T
tzmughal
T
tzmughal
M Talha Zahid

Level 2

Algumas informações foram traduzidas automaticamente.

Sobre este Serviço

Tradução automática

Quer usar IA nos seus documentos sem enviar dados para a nuvem? Eu configuro Ollama e Open WebUI na sua máquina ou servidor para o seu time conversar com um modelo local de forma privada, sem fatura por mensagem na API. O que eu configuro - Ollama instalado e configurado, com um modelo compatível com o seu hardware (eu recomendo o tamanho de acordo com a sua RAM e GPU) - Open WebUI com contas de usuário, para o seu time ter uma interface de chat limpa, não apenas linha de comando - From Standard: seus documentos adicionados como base de conhecimento (RAG), para o modelo responder a partir dos seus arquivos - Um guia de configuração: como iniciar, adicionar usuários, adicionar documentos e atualizar modelos Segurança, dito em linguagem simples Ollama sozinha não tem login. eu nunca deixo uma configuração exposta na internet sem proteção. Contas do Open WebUI vêm primeiro, e concordamos com HTTPS e controle de acesso antes de qualquer acesso remoto ficar ativo. O que você precisa Bastante RAM para o tamanho do seu modelo. Como referência, 16 GB de RAM rodam bem um modelo de 7B a 8B, e a GPU é bem mais rápida. Diga qual é o seu OS (Windows, Mac ou Linux), RAM e GPU na sua primeira mensagem e eu te digo o que esperar antes de você fazer o pedido.

Conheça mais sobre M Talha Zahid

M Talha Zahid

AI Specialist, Data Analytics and Python Automation

4,8(164)

Level 2

  • A partir dePaquistão
  • Membro desdeout. de 2021
  • Responde em aprox.:1 hora
  • Última entrega3 semanas
  • Idiomas

    Urdu, Inglês, Alemão
I clean, analyse and automate data so businesses decide faster. Data Scientist and Analyst with 180+ Fiverr projects and Operations Analyst experience at Honda Downtown. Core work: Excel and Sheets, SQL, Power BI and Python automation. Recent work: RCM reporting (Excel, Power BI), denial prediction, a retail data warehouse, FinBERT sentiment, invoice extraction, NLP, n8n automation and Ollama LLM setups. I also remove Instagram fake, bot and ghost followers manually, one by one. Message me before ordering for an honest answer on fit and timing.

Tradução automática

Meu portfólio