Eu vou construir pipelines de dados escaláveis usando python, spark e etl e elt
Engenheiro de software senior
Sobre este Serviço
Você está procurando um engenheiro de dados confiável para criar pipelines de dados eficientes e escaláveis? Eu me especializo em engenharia de dados, desenvolvimento de pipelines ETL e processamento de dados usando Python, SQL e Apache Spark.
Posso ajudar a projetar e desenvolver pipelines ETL para extrair, transformar e carregar dados de várias fontes como APIs, bancos de dados e arquivos. Seja para limpeza de dados, transformação, automação ou processamento de big data, entregarei soluções otimizadas e prontas para produção.
Meus serviços incluem construir pipelines de dados, realizar transformação de dados, integrar múltiplas fontes de dados e otimizar fluxos de trabalho para melhor desempenho. Também apoio automação de workflows e agendamento para processamento eficiente de dados.
Foco em escrever código limpo, escalável e fácil de manter, garantindo desempenho e confiabilidade. Com experiência prática em projetos reais, posso lidar tanto com tarefas pequenas quanto com soluções complexas de engenharia de dados.
Por favor, entre em contato antes de fazer seu pedido para discutir suas necessidades e garantir os melhores resultados.
Ferramentas e plataformas:
Airbyte
•
Kafka Connect
Meu portfólio
Perguntas frequentes
Tradução automática
1. O que você precisa para começar?
Preciso das suas necessidades de projeto, fontes de dados (API, banco de dados, arquivos) e formato de saída esperado.
2. Quais tecnologias você usa?
Eu uso Python, SQL, Apache Spark e ferramentas relacionadas para construir pipelines de dados escaláveis e processos ETL.
3. Você consegue lidar com grandes conjuntos de dados ou big data?
Sim, posso processar grandes conjuntos de dados usando ferramentas como Spark e otimizar pipelines para desempenho e escalabilidade.
4. Você fornece limpeza e transformação de dados?
Sim, posso limpar, pré-processar e transformar seus dados para prepará-los para análise ou processamento adicional.
5. Você fornecerá documentação?
Sim, a documentação pode ser incluída com base no pacote selecionado ou como serviço extra.
6. Você consegue integrar múltiplas fontes de dados?
Sim, posso integrar APIs, bancos de dados e fontes de dados baseadas em arquivos em um único pipeline.
7. Vocês oferecem revisões?
Sim, revisões estão incluídas em cada pacote. Revisões adicionais podem ser adicionadas como extras.
8. Você consegue automatizar pipelines de dados?
Sim, posso configurar workflows automatizados usando ferramentas de agendamento para processamento de dados regular.
9. Você oferece suporte após a entrega?
Sim, ofereço suporte básico após a entrega. Suporte estendido pode ser discutido se necessário.
10. Devo te contatar antes de fazer o pedido?
Sim, por favor, entre em contato primeiro para discutir suas necessidades e garantir a melhor solução.

