Pipeline de ETL de ponta a ponta
- Projetar e implementar pipelines de dados escaláveis usando Python, PySpark, AWS Glue e Databricks para processamento eficiente de dados.
Engenharia de Dados na AWS
- Construir pipelines de S3 para Redshift com ingestão, transformação, validação, particionamento e carregamento incremental de dados.
Engenharia de Dados na Azure
- Desenvolver soluções escaláveis usando Azure Databricks, ADLS, PySpark e Delta Lake para plataformas modernas de dados na nuvem.
Limpeza e Transformação de Dados
- Usar Pandas, PySpark e SQL para limpar, transformar, mesclar, validar e padronizar dados estruturados e semi-estruturados.
Otimização de Performance
- Otimizar cargas de trabalho de Spark e ETL usando particionamento, broadcast joins, pushdown de predicados, AQE e formatos Parquet/Delta otimizados.