Vou construir um gateway LLM compatível com OpenAI com roteamento e acompanhamento de custos
Sobre este Serviço
Tradução automática
Conheça mais sobre Han Q
Senior Flutter and AI Engineer for IoT Apps
- A partir deChina
- Membro desdemai. de 2024
Idiomas
Chinês, Inglês
Tradução automática
Meu portfólio
Perguntas frequentes
Tradução automática
Custos de provedor e hospedagem estão incluídos?
Não. O uso da API do provedor e a hospedagem são pagos separadamente por você, a menos que o escopo declare o contrário. O acompanhamento de custos é uma estimativa com base nos dados de uso disponíveis e nas tarifas configuradas.
Cada recurso da OpenAI API será suportado?
O pacote cobre endpoints de chat e recursos acordados. As capacidades do provedor variam, então vamos definir modelos suportados, streaming, ferramentas e outros recursos antes do pedido.
Quais provedores de modelo podem ser integrados?
O suporte dos provedores depende do pacote acordado e dos adaptadores de API disponíveis. Por favor, compartilhe os provedores, os modelos e os endpoints necessários antes de fazer o pedido para que a compatibilidade e o roteamento possam ser confirmados.
A implantação está incluída?
Básico inclui orientação de configuração, mas não implantação. Padrão inclui uma assistência de implantação em staging; Premium inclui uma assistência de implantação em produção. O comprador paga pelo hosting, domínio e pelas cobranças da API do provedor.
Você pode garantir a saída do modelo ou a disponibilidade do provedor?
Não. As respostas do modelo podem estar incorretas e quedas de serviço ou limites de taxa do provedor estão fora do controle do gateway. As características de roteamento e resiliência dependem do escopo acordado; as cifras de uso são estimativas, não faturas.

