Eu vou construir pipelines de dados em tempo real com kafka, airflow e spark

Algumas informações foram traduzidas automaticamente.

Turquia

Eu falo Turco, Inglês

Python, Engenharia de Dados, APIs e Automação com IA

🚀 Problema complexo? Vamos simplificar. Sou Engenheiro de Software e Líder Técnico com mais de 10 anos de experiência em Backend, Data, Cloud e DevOps. Construo APIs escaláveis, pipelines de dados,...
Sobre este Serviço

Precisa de um pipeline de dados confiável que possa lidar com cargas de trabalho de produção?


Vou criar pipelines de dados escaláveis e fáceis de manter para processamento em lote ou em tempo real usando tecnologias como Python, Airflow, Kafka, Spark, SQL, PostgreSQL, AWS e GCP


Posso te ajudar com:

  • ETL / ELT pipelines
  • Fluxos de trabalho do Apache Airflow
  • Kafka streaming pipelines
  • Processamento com Spark / PySpark
  • Integrações de API e banco de dados
  • Limpeza e transformação de dados
  • Validação de dados e tratamento de erros
  • Integração com data warehouse / data lake
  • Implantações com Docker
  • Monitoramento e melhorias em produção


Tenho mais de 10 anos de experiência em engenharia de software, atuando em Backend, Data Engineering, Cloud e DevOps, incluindo sistemas de alto volume que processam grandes conjuntos de dados e centenas de milhares de eventos por dia.


Você receberá código limpo, fácil de manter, documentação clara e uma solução feita sob medida para suas necessidades reais.


Tem uma pipeline complexa ou um problema em produção?

Me envie uma mensagem antes de fazer o pedido e vou te ajudar a escolher a arquitetura e o pacote certos.

Destination Platform:

Amazon Redshift

•

ClickHouse

•

PostgreSQL

Ferramentas e plataformas:

Airbyte

•

Google Cloud Dataflow