Vou fazer web scraping e extração de dados de sites com muito javascript
Engenheiro de Dados Python: Web Scraping, pipelines ETL e enriquecimento de dados
Nível 1
Atendeu a determinados critérios de desempenho e demonstra forte potencial no marketplace.
O que as pessoas adoram neste freelancer
hardytryer

Sérvia
Excellent experience once again! The quality of the work was great, the data matched our requirements, and communication was smooth throughout the project....
hardytryer

Sérvia
Great work! The data was accurate, well organized, and exactly what we needed. Communication was clear throughout the project, and despite the challenges, they...
hadleylyas923

Reino Unido
Really great to work with, made the process easy and was quick to respond and make any changes. Would definitely work with again
Sobre este Serviço
Quase todos os trabalhos de web scraping que chegam até mim começam do mesmo jeito. Uma ferramenta pronta não consegue passar de uma parede, ou o último freelancer entregou um arquivo que ainda precisa ser limpo manualmente. Eu crio scrapers para os sites que lutam contra isso.
O que eu faço
- Renderização de JavaScript, scroll infinito, paginação, logins
- Limites de taxa, bloqueios de IP e proteções anti-bot, usando proxies e requisições controladas
- Marketplaces, diretórios, portais imobiliários, plataformas de emprego, registros públicos
- Escala: mais de 600.000 imóveis raspados e estruturados em um trabalho só
O que chega na sua caixa de entrada
- CSV, Excel, JSON ou direto na sua base de dados
- Deduplicado e com tipos, de acordo com uma coluna que combinamos antes de eu começar
- Uma breve explicação de como foi feito, para que o pull possa ser repetido
- Contagem de linhas, além de quaisquer campos que a fonte acabou não carregando
O que eu preciso de você
- Uma URL de uma página que já mostre os dados
- Os campos que você quer, na ordem que preferir
- Mais ou menos quantos registros, e se é algo pontual
Algumas fontes não valem a pena e prefiro dizer isso do que aceitar o serviço. Me envie o link e os campos. Eu te digo se dá pra fazer, quanto custa e onde está o risco.
Tecnologia:
Python
•
selenium
•
Beautiful Soup
•
Octoparse
•
dramaturgo
Técnica:
Automatizado
Meu portfólio
Perguntas frequentes
Tradução automática
Isso é legal?
Eu faço scraping de páginas públicas, aquelas que qualquer um pode abrir sem precisar de conta. Sem contornar paywall e sem logins, a menos que você seja o proprietário da conta e autorize por escrito. Eu leio a fonte e seus termos antes de citar, e já recusei trabalhos por esse motivo.
E se o site bloquear o scraper?
Isso é a maior parte do que faço. Proxy rotativo, sessões reais no Playwright, timing humanizado, gerenciamento de sessão e cookies. Proteções pesadas levam mais tempo do que obter uma resposta diferente. Envie a URL e eu te digo qual nível ela precisa.
Em que formato recebo os dados?
CSV por padrão, porque abre em qualquer lugar. Excel, JSON, uma Google Sheet ou uma escrita direta em PostgreSQL, MySQL ou BigQuery, mediante solicitação. Os nomes das colunas e os tipos de dados são combinados antes de eu começar, assim você não precisa renomear cabeçalhos após a entrega.
Você consegue fazer scraping da Amazon, Shopify ou outras lojas online?
Sim. Título, preço, desconto, SKU, variantes, estoque, vendedor, avaliações e texto de review. Já extraí milhões de listagens de marketplaces como TikTok Shop, Kaufland, bol.com, La Redoute e B&Q. Catálogos de lojas são cotados pelo número de produtos, não pela loja.
Isso pode rodar em uma programação ao invés de uma vez só?
Sim, embora uma construção recorrente seja mais adequada para o meu gig de scraper do que para este aqui. Este gig te entrega um conjunto de dados. Se você quiser o mesmo pull diário ou semanal, chegando automaticamente em algum lugar, me envie uma mensagem e eu te passo o link certo.
O que acontece quando o site muda e quebra?
Para um pull único, não faz diferença, você já tem o arquivo. Para qualquer coisa recorrente, eu escrevo seletores que resistem a mudanças de layout e adiciono uma verificação que alerta quando um campo começa a ficar vazio. Quebra silenciosa é a falha contra a qual vale a pena se proteger.
Quantos registros você consegue lidar?
Confortavelmente seis dígitos. O único trabalho foi mais de 600.000 imóveis de um sistema de registros de um condado: raspados, estruturados e filtrados para o subconjunto que o cliente realmente precisava. Acima de aproximadamente 50.000 registros, eu cotizo como uma oferta personalizada.
Quanto tempo leva?
Dois dias para uma fonte simples de tamanho Basic. Cinco dias quando há paginação e limpeza em vários milhares de registros. Sete dias para um site com muito JavaScript ou protegido em volume. Eu te dou a data antes de você fazer o pedido e não faço cotação otimista.
Eu recebo o código ou só os dados?
Este gig entrega os dados, além de uma nota de como foram coletados para que o pull possa ser repetido. Se você quiser o scraper em si, com o código fonte que você possui e pode rodar novamente, esse é o gig de build. Me avise antes de pedir e eu te direciono para ele.
Você consegue encontrar detalhes de contato das empresas na lista?
Sim, como um complemento. E-mail de negócios, telefone, site e nomes dos decisores, onde estiverem disponíveis publicamente. A cobertura varia bastante por setor, e eu te digo o que é realista antes de você fazer o pedido, ao invés de depois. Diga quais campos importam e eu incluo no preço.
19 avaliações deste Serviço
| (16) | ||
| (1) | ||
| (0) | ||
| (0) | ||
| (2) |
Classificação detalhada
- Nível de comunicação do freelancer
- Qualidade da entrega
- Valor da entrega
Ordenar por
H hardytryer

Sérvia
Excellent experience once again! The quality of the work was great, the data matched our requirements, and communication was smooth throughout the project. Thank you for your professionalism and dedication. Looking forward to working together again in the future.
US$ 50-US$ 100
Preço
3 dias
Tempo
Útil?H hardytryer

Sérvia
Great work! The data was accurate, well organized, and exactly what we needed. Communication was clear throughout the project, and despite the challenges, they stayed committed and delivered. I would definitely recommend working with them again.
US$ 100-US$ 200
Preço
2 semanas
Tempo
Útil?H hadleylyas923

Reino Unido
Really great to work with, made the process easy and was quick to respond and make any changes. Would definitely work with again
US$ 50-US$ 100
Preço
7 dias
Tempo
Útil?C 
craigjburton44

Estados Unidos
Pedido cancelado
I feel the communication was good at first and a bit throughout but I was more than patient and waiting days on end for delivery. I applaud that he was trying to help think of a better way to do what I needed but he kept telling me it would be delivered "today" and nothing was ever delivered. I still...
US$ 50
Preço
5 semanas
Tempo
Útil?H hugomendonca92

Portugal
great work. thanks
US$ 50-US$ 100
Preço
2 semanas
Tempo
Útil?
19 avaliações deste Serviço
| (16) | ||
| (1) | ||
| (0) | ||
| (0) | ||
| (2) |
Classificação detalhada
- Nível de comunicação do freelancer
- Qualidade da entrega
- Valor da entrega
Ordenar por
H hardytryer

Sérvia
Excellent experience once again! The quality of the work was great, the data matched our requirements, and communication was smooth throughout the project. Thank you for your professionalism and dedication. Looking forward to working together again in the future.
US$ 50-US$ 100
Preço
3 dias
Tempo
Útil?H hardytryer

Sérvia
Great work! The data was accurate, well organized, and exactly what we needed. Communication was clear throughout the project, and despite the challenges, they stayed committed and delivered. I would definitely recommend working with them again.
US$ 100-US$ 200
Preço
2 semanas
Tempo
Útil?H hadleylyas923

Reino Unido
Really great to work with, made the process easy and was quick to respond and make any changes. Would definitely work with again
US$ 50-US$ 100
Preço
7 dias
Tempo
Útil?C 
craigjburton44

Estados Unidos
Pedido cancelado
I feel the communication was good at first and a bit throughout but I was more than patient and waiting days on end for delivery. I applaud that he was trying to help think of a better way to do what I needed but he kept telling me it would be delivered "today" and nothing was ever delivered. I still...
US$ 50
Preço
5 semanas
Tempo
Útil?H hugomendonca92

Portugal
great work. thanks
US$ 50-US$ 100
Preço
2 semanas
Tempo
Útil?

