Vou construir uma pipeline ETL em python para seus dados

Algumas informações foram traduzidas automaticamente.

Índia

Eu falo Bengali, Inglês, Hindi

Engenheiro de Dados e Desenvolvedor Python

Engenheiro de Dados construindo pipelines automatizados e de nível de produção, desde a ingestão até armazéns prontos para análise. Construí: um pipeline de mais de 1 bilhão de linhas (Airflow, S3, S...
Sobre este Serviço

Tem scripts que funcionam, mas rodam manualmente ou sem agendamento adequado?

Vou envolver seu fluxo de dados existente em uma orquestração de nível de produção.


O que você recebe:

- DAGs do Apache Airflow para agendar e monitorar seus scripts existentes

- Tratamento de erros adequado e lógica de retry

- Opcional: modelos dbt para substituir transformações SQL ad-hoc por modelos testados e versionados

- Opcional: testes de qualidade de dados e verificações de atualização da fonte


Este é o mesmo padrão de orquestração que usei para rodar um pipeline de mais de 1 bilhão de linhas de forma confiável, adaptado para encaixar na sua base de código existente, sem precisar reconstruir do zero.


Compartilhe a estrutura atual dos seus scripts/repos na solicitação para que eu possa fazer uma cotação precisa antes de começar.

Destination Platform:

Snowflake

•

Google BigQuery

•

PostgreSQL

•

mySQL

Ferramentas e plataformas:

AWS Glue DataBrew

•

Kafka Connect

Meu portfólio