Eu vou construir um pipeline de ETL personalizado usando python e apache airflow

Algumas informações foram traduzidas automaticamente.

Paquistão

Eu falo Inglês

Engenheiro de dados, pipelines ETL, Spark e especialista em data warehouse na nuvem

Engenheiro de Dados | Mais de 4 anos construindo pipelines ETL, data warehouses e sistemas de streaming em tempo real. Especialista em Python, Apache Airflow, Apache Spark, dbt, Snowflake, BigQuery, A...
Sobre este Serviço

Você está enfrentando dificuldades com transferências manuais de dados, scripts quebrados ou pipelines de dados pouco confiáveis? Eu vou criar um pipeline de ETL pronto para produção que extrai, transforma e carrega seus dados automaticamente, economizando horas de trabalho manual toda semana.


O que eu entrego:

- Pipeline de ETL personalizado desenvolvido em Python com código limpo e documentado

- DAG do Apache Airflow para agendamento e monitoramento automáticos

- Suporte para todas as principais fontes de dados: bancos de dados (PostgreSQL, MySQL), APIs, CSV/Excel, S3, Google Sheets

- Lógica de transformação e limpeza de dados adaptada às suas regras de negócio

- Tratamento de erros, lógica de retry e alertas por email/Slack em caso de falhas

- Implantação na sua infraestrutura de nuvem (AWS, GCP, Azure) ou servidor local

- Documentação completa para que sua equipe possa manter o pipeline de forma independente


Tecnologias que uso: Python, Apache Airflow, Apache Spark, Pandas, SQLAlchemy, AWS Glue, AWS Lambda, S3, PostgreSQL, MySQL, BigQuery, Snowflake.


Para quem é indicado:

- Startups criando seu primeiro pipeline de dados automatizado

- Empresas migrando de workflows manuais em Excel/CSV para ETL automatizado

- Equipes substituindo um pipeline legado quebrado ou lento

- Empresas que precisam de um pipeline de ingestão de dados para Snowflake ou BigQuery


Destination Platform:

Snowflake

Amazon Redshift

Ferramentas e plataformas:

Airbyte

AWS Glue DataBrew

Meu portfólio