Eu vou construir sua pipeline de dados ETL usando python, sql e apache airflow
Engenheiro de Dados para Pipelines ETL, Automação com Python e SQL
Sobre este Serviço
Eu construo pipelines ETL/ELT confiáveis, de nível de produção, que movem e transformam seus dados sem erros ou tempo de inatividade. Na minha função atual como Engenheiro de Dados, criei pipelines sincronizando bilhões de registros entre sistemas com deduplicação em tempo real, sincronização completa e delta, e sem perda de dados em produção, além de montar clusters Apache NiFi para lidar com integração contínua de dados empresariais.
Se você precisa de um script simples para mover dados de um CSV para um banco de dados, ou uma pipeline agendada que puxe dados de uma API e carregue no seu data warehouse, vou projetá-la para ser limpa, documentada e fácil de passar para sua equipe.
O que posso ajudar: extração de dados de APIs, bancos de dados ou arquivos; transformação e limpeza; lógica de deduplicação e upsert; sincronizações agendadas e automatizadas; e migração entre bancos como MySQL, SQL Server e PostgreSQL.
Levo a mesma confiabilidade que uso em sistemas de produção suportando milhões de usuários para todo projeto aqui. Comunicação clara e código limpo e bem documentado estão sempre presentes na entrega.
Destination Platform:
PostgreSQL
•
mySQL
•
Microsoft SQL Server
Ferramentas e plataformas:
Kafka Connect
•
Apache NiFi
Perguntas frequentes
Tradução automática
Quais informações você precisa de mim para começar?
Envie-me detalhes da sua fonte e destino de dados (bancos, APIs ou arquivos), o formato dos seus dados e com que frequência a sincronização precisa acontecer. Eu cuido do resto.
Você consegue trabalhar com minha infraestrutura existente na AWS ou Azure?
Sim, trabalho regularmente com ADLS, S3 e outros serviços de armazenamento e bancos na nuvem, e posso integrar com sua infraestrutura atual.
Você fornece documentação para a pipeline que construir?
Sim, cada entrega inclui documentação clara cobrindo configuração, instalação e funcionamento da pipeline, para que sua equipe possa manter facilmente.

