Vou construir pipelines de dados AWS e Databricks, etl e apps AI rag

Algumas informações foram traduzidas automaticamente.

Índia

Eu falo Inglês
Engenheiro de Dados em nuvem com experiência prática em AWS (Glue, Lambda, S3), Python/PySpark e SQL. Constró pipelines ETL escaláveis, automatizo a ingestão de dados e otimizoo fluxos de trabalho de ...
Sobre este Serviço

Sou engenheiro de dados e crio soluções de pipeline ETL no Databricks e AWS com PySpark, desde ingestão até plataformas de produção.


Engenheiro sênior e líder técnico com 4 anos de experiência. Certificado: AWS Certified Data Engineer - Associate e Microsoft Certified Azure Database Administrator Associate.


Resultados selecionados:

  • Migrei 15+ TB do SQL Server para AWS Aurora PostgreSQL com menos de 5 minutos de indisponibilidade usando DMS, Glue PySpark e Step Functions
  • Azure Databricks lakehouse processando 50M+ registros por dia: arquitetura medallion, Delta Lake, Unity Catalog, Azure Data Factory
  • Streaming com 2M+ eventos por dia usando Kafka/MSK e Spark Structured Streaming
  • Runtime do Spark reduziu 45%, custos 30% mais baixos, incidentes de schema 90% menores (80+ pipelines), falhas do Airflow 40% menores (30+ DAGs)


Soluções de IA:

  • RAG chatbots com citações e linguagem natural para ferramentas SQL, entregues como apps FastAPI com UI web
  • Open source no GitHub (OsamaZaidi75): pharma-rag e sql-rag


A experiência de projeto inclui trabalho para um cliente farmacêutico Fortune 500.


Pacotes: Data Task Sprint (US$200), Pipeline Build (US$750), Data Platform / AI App (US$1.500). Mande uma mensagem antes de encomendar para confirmar o escopo.

Destination Platform:

Databricks Lakehouse

•

PostgreSQL

•

Amazon S3

Ferramentas e plataformas:

Fábrica de dados do Azure

•

Outros