Vou configurar o colibri para rodar kimi glm deepseek e grandes modelos de IA localmente

T
techyesa
T
techyesa
Khan
Algumas informações foram traduzidas automaticamente.

Sobre este Serviço

Tradução automática

Quer rodar um modelo de IA muito grande no seu próprio computador sem precisar enviar cada prompt para uma API na nuvem?


Vou instalar e configurar o Colibri, o motor de inferência de código aberto que transmite pesos do modelo Mixture-of-Experts do SSD. Em hardware compatível, ele pode rodar o kimi, Deepseek v4 flash e GLM-5.2 744B localmente.


Dependendo do seu pacote, eu posso:

  • verificar compatibilidade de hardware e armazenamento
  • instalar ou montar o Colibri no Linux, Windows ou macOS
  • configurar um modelo suportado
  • ajustar CPU, RAM, GPU, cache e posicionamento de NVMe
  • habilitar chat via CLI, o painel web ou uma API local
  • executar diagnósticos e um teste de desempenho


Importante: o modelo GLM-5.2 int4 recomendado precisa de cerca de 372 GB de armazenamento livre. Uma GPU é opcional, mas um SSD NVMe rápido faz diferença. Sistemas mais lentos podem gerar menos de um token por segundo, então não prometo velocidade antes de verificar seu hardware.


Por favor, envie uma mensagem antes de fazer o pedido com seu sistema operacional, CPU, RAM, GPU, tipo de disco, espaço livre e velocidade da internet. Eu confirmarei a compatibilidade e o pacote adequado.

Conheça mais sobre Khan

Khan

Building Your Future: AI Websites, Automation, Chatbots and SaaS

5,0(3)
  • A partir dePaquistão
  • Membro desdejun. de 2025
  • Responde em aprox.:7 horas
  • Última entrega8 meses
  • Idiomas

    Inglês, Urdu
I'm an AI researcher and engineer who turns ideas and research papers into working AI applications. I build n8n workflow automations, custom AI agents, RAG and knowledge graph systems, and API integrations. I also work with PyTorch, LangGraph, semantic search, GGUF model quantization, and Streamlit MVPs. Send me your project requirements, and I'll help you choose and build the right solution.

Tradução automática

Meu portfólio

Tags relacionadas