Vou configurar um pipeline de análise de eventos auto-hospedado com carga de dados brutos no bigquery

Algumas informações foram traduzidas automaticamente.

Finlândia

Eu falo Russo, Inglês

Engenheiro de Dados e de Análise

Sou Engenheiro de Dados / Engenheiro de Análise com ampla experiência em construir sistemas de análise, pipelines ETL / ELT, Data Warehouses, relatórios de BI para análise de produto, marketing e jogo...
Sobre este Serviço

Se você quer ter controle total sobre seus dados de análise sem depender completamente de plataformas de rastreamento de terceiros, posso montar um pipeline de eventos auto-hospedado para você.


Este projeto é feito para equipes que desejam uma base de análise limpa e prática:

  • rastreamento de eventos personalizado
  • propriedade dos eventos brutos
  • armazenamento portátil
  • consultas prontas para BigQuery
  • suporte para web, backend, app ou jogos


O que entregarei

  • implantação de uma API de ingestão de eventos
  • coleta de eventos via chave de API
  • buffer de eventos usando NATS JetStream
  • armazenamento de eventos brutos como arquivos Parquet particionados no Google Cloud Storage
  • configuração de tabela externa no BigQuery para consultar os dados brutos
  • configuração para seu setup inicial de produtor de eventos
  • versão open source do Metabase (opcional)


Casos de uso típicos

  • análise de produto para web/app, extensões de navegador
  • sistema personalizado de rastreamento de eventos backend
  • fundação de eventos brutos antes de dashboards ou BI
  • análise de jogos


Nota importante sobre o escopo

Este projeto configura a infraestrutura de ingestão de eventos e análise bruta.


Não inclui:

  • um dashboard de análise completo
  • implementação avançada de BI
  • uma interface completa de análise de produto


Requisitos do projeto

  • subdomínio
  • projeto GCP, VM que ajudarei a configurar

Destination Platform:

Google BigQuery

Google Cloud Storage

Ferramentas e plataformas:

Outros