Eu vou construir pipelines de engenharia de dados para projetos de big data
Engenheiro de Dados Sênior
Sobre este Serviço
Construa pipelines de dados confiáveis, escaláveis e prontos para a nuvem com um profissional de engenharia de dados com mais de 10 anos de experiência.
Sou especializado em desenvolver pipelines ETL e ELT de ponta a ponta que automatizam a ingestão, transformação, validação e carregamento de dados em ambientes de nuvem e locais.
Meus serviços incluem:
- Desenvolvimento de pipelines ETL/ELT
- Processamento de dados em lote e incremental
- Integração de API, banco de dados e arquivos
- Limpeza e transformação de dados
- Verificação de qualidade e validação de dados
- Integração de data lake e data warehouse
- Orquestração de pipelines, registro de logs e tratamento de erros
- Migração para a nuvem e design de arquitetura
Tecnologias: Python, SQL, Pyspark, GraphDB (Neo4j), Databricks, Azure Data Factory, Azure Data Lake Storage, AWS Glue, Amazon S3, BigQuery e bancos de dados relacionais.
Entrego soluções limpas, fáceis de manter, bem documentadas e personalizadas de acordo com suas necessidades de projeto.
Por favor, me envie uma mensagem antes de fazer o pedido para que eu possa entender suas fontes de dados, requisitos e a complexidade do projeto.
Ferramentas e plataformas:
Fábrica de dados do Azure
Perguntas frequentes
Tradução automática
Quais informações você precisa para começar?
Por favor, compartilhe suas fontes de dados, sistema de destino, amostras de dados ou esquema, requisitos de transformação, tecnologia preferida e resultado esperado
Quais tipos de fontes de dados você suporta?
Trabalho com bancos de dados, APIs REST, CSV, JSON, Excel, armazenamento na nuvem e dados estruturados ou semi-estruturados.
Com quais tecnologias e plataformas de nuvem você pode trabalhar?
Trabalho com Python, SQL, Pyspark, Databricks, Azure Data Factory, Azure Data Lake, AWS Glue, Amazon S3, BigQuery e bancos de dados relacionais.
Você consegue criar pipelines incrementais ou em tempo real?
Sim. Posso desenvolver pipelines em lote, incrementais e em tempo real, dependendo do volume de dados, requisitos de negócio e stack de tecnologia.
Devo entrar em contato com você antes de fazer um pedido?
Sim. Por favor, entre em contato antes de fazer o pedido para que eu possa revisar o escopo do seu projeto, sua complexidade, volume de dados, integrações necessárias e prazo de entrega.
