Vou implantar LLM de código aberto no Ubuntu com otimização CUDA

LLMs de código aberto domésticos suportados (Hugging Face)

⭐ Recomendações principais (ecossistema maduro, licenças amigáveis ao comércio) Série Qwen (Alibaba): Qwen2.5, Qwen3.5 (0,5B~72B parâmetros), licença Apache 2.0, capacidade chinesa líder do setor, cadeia de ferramentas de implantação completa Série DeepSeek: DeepSeek-V3.2, DeepSeek-R1 Reasoning MoE, licença Apache 2.0, desempenho de raciocínio matemático e geração de código de alto nível Série GLM (Zhipu AI): GLM-4, GLM-5.1 (6B~34B parâmetros), diálogo otimizado em chinês, suporte a janela de contexto longa de 128K Série Yi (01.AI): Yi-1.5, Yi-34B, licença Apache 2.0, excelente capacidade de processamento de textos longos

Modelos gerais e especializados Diálogo: Moonshot K2.5 (contexto ultra longo de 200K), Baichuan 4, StepFun Step 2 (forte capacidade de agendamento de agentes) Código: DeepSeek-Coder V3, Série Qwen-Coder, CodeGeeX 4 (assistente de código leve) Multimodal: Qwen2.5-VL / Qwen3.5-VL, GLM-4.6V, Yi-VL (alta precisão na compreensão de imagens e OCR) Leve (VRAM de 4GB+): Qwen2.5 0.5B/1.5B/7B, GLM-4 6B/9B, DeepSeek-7B Domínio vertical básico: DeepSeek-Math, Qwen-Medical, Chinese LawGPT, Qwen-Finance

Aviso importante: Todos os modelos listados acima podem ser baixados publicamente via Hugging Fa oficial