Vou criar modelos especializados tiny gpt bert para dispositivos de borda

Precisa de IA que funcione localmente, sem APIs de nuvem, acesso à internet ou servidor externo?

Eu projeto e implemento modelos de IA do tipo transformer específicos para tarefas em plataformas embarcadas com recursos limitados, usando operações convencionais de vetor, matriz e tensor.

Dependendo da tarefa alvo, posso desenvolver leve:

• Arquiteturas estilo GPT para geração de texto ou previsão de sequência
• Arquiteturas estilo BERT para classificação, embeddings e extração de características
• Arquiteturas encoder-decoder para tarefas específicas de sequência a sequência
• Modelos baseados em atenção otimizados para inferência embarcada
• Modelos quantizados e otimizados para memória em MCUs de 32 bits
• Arquiteturas de inferência multi-MCU ou cluster de MCUs

As plataformas alvo podem incluir ESP32-S3, STM32, outros MCUs de 32 bits, dependendo da RAM, Flash, PSRAM disponíveis e requisitos específicos.

O objetivo é IA de borda totalmente offline: a inferência roda diretamente no seu dispositivo, sem depender de APIs da OpenAI, servidores na nuvem ou conexão contínua à internet.

Importante: Estes são sistemas de IA embarcada específicos para aplicações, não substitutos completos do ChatGPT. Por favor, entre em contato antes de fazer o pedido para que eu possa avaliar seus recursos de MCU, dataset, requisitos do modelo e tarefa alvo.