2 مستودعات
Awesome GitHub RepositoriesDistributed Web
The use of distributed scraping architectures to collect high volumes of web data for analysis.
Distinct from Data Mining: Specific to web scraping throughput scaling, whereas general Data Mining focuses on pattern extraction from existing datasets.
Explore 2 awesome GitHub repositories matching data & databases · Distributed Web. Refine with filters or upvote what's useful.
Awesome Distributed Web GitHub Repositories
اعثر على أفضل المستودعات باستخدام الذكاء الاصطناعي.سنبحث عن أفضل المستودعات المطابقة باستخدام الذكاء الاصطناعي.
- asciimoo/colly
asciimoo/colly
25,348عرض على GitHubColly is a web scraping framework and concurrent crawler written in Go. It provides a system for traversing web pages, following links, and extracting structured data from HTML and XML documents. The framework includes a distributed scraping engine designed to spread data collection tasks across multiple instances to increase throughput. It ensures compliance with website owner policies by automatically reading and respecting robots.txt files. The system manages request lifecycles through domain-based rate limiting, concurrency controls, and session management via a stateful cookie jar. It s
Distributes scraping tasks across multiple instances to increase the volume and throughput of collected web data.
Go - zlzforever/dotnetspider
zlzforever/DotnetSpider
4,136عرض على GitHubDotnetSpider هو إطار عمل لزحف الويب في .NET وأداة قابلة للبرمجة مصممة لاجتياز مواقع الويب والتقاط البيانات المهيكلة من صفحات الويب. يعمل كمحرك زحف موزع يتيح أتمتة زحف الويب لاكتشاف واستخراج البيانات. تم تصميم إطار العمل لاستخراج البيانات الموزعة، مما يسمح بتوزيع مهام الزحف عبر خوادم متعددة لمعالجة كميات كبيرة من محتوى الويب. تدعم هذه البنية كشط الويب عالي الأداء وسير عمل جمع بيانات المؤسسات لجمع المعلومات المهيكلة.
Uses a distributed scraping architecture to collect high volumes of web data for analysis.
C#
