Vou ser seu especialista em databricks e pyspark para pipelines de ETL

Algumas informações foram traduzidas automaticamente.

Reino Unido

Eu falo Inglês

Engenheiro sênior de Dados e IA, Certificado pela Databricks, 11 anos

Sou um profissional experiente com mais de 11 anos em engenharia de software e dados. Tenho um histórico comprovado de liderar equipes ágeis, automatizar processos de ETL e infraestrutura, otimizar pi...
Sobre este Serviço

Precisa de pipelines do Databricks à prova de falhas que não quebrem às 3 da manhã? Você está no lugar certo.

Sou um Engenheiro de Dados Certificado pelo Databricks (Profissional) com mais de 10 anos construindo sistemas de dados em produção para empresas de negociação de energia, bancos, varejo e análise de criptomoedas, incluindo OVO Energy, Bank of America e Sainsbury's.

O que vou criar para você:

  1. ️Pipelines escaláveis em PySpark / Scala Spark no Databricks
  2. Arquitetura DeltaLake (bronze/prata/ouro)
  3. ETL em streaming + batch com Kafka, Auto Loader ou Structured Streaming
  4. Configurações de cluster otimizadas para custo (já economizei mais de £80k por ano em nuvem)
  5. Código limpo, testado e documentado que você pode passar para sua equipe

Minha stack: Databricks, PySpark, Scala, DeltaLake, Airflow, Kafka, Snowflake, BigQuery, Terraform, AWS, GCP.

Meu processo: Chamada de descoberta -> aprovação da arquitetura -> construção -> teste -> revisão -> entrega. Sem surpresas, sem aumento de escopo.

Me envie uma mensagem antes de fazer o pedido para que eu possa definir o escopo do seu projeto corretamente e confirmar se é compatível. Respondo em até 1 hora durante o horário comercial do Reino Unido.

Vamos construir algo sólido.

Especialidade:

Integração via API

Automações

Big data

Tecnologia:

Apache Kafka

apache spark

Python

Snowflake

Databricks