7 repositorios
Awesome GitHub RepositoriesRuby Crawling Frameworks
Web scraping and crawling gems for the Ruby ecosystem.
Explore 7 awesome GitHub repositories matching part of an awesome list · Ruby Crawling Frameworks. Refine with filters or upvote what's useful.
Awesome Ruby Crawling Frameworks GitHub Repositories
Encuentra los mejores repositorios con IA.Buscaremos los repositorios que mejor coincidan usando IA.
- sparklemotion/nokogiri
sparklemotion/nokogiri
6,236Ver en GitHubNokogiri is an XML and HTML parsing library that builds navigable document trees from strings, files, or URLs using native C parsers for speed and standards compliance. It provides a CSS selector engine that translates CSS3 selectors into XPath expressions for querying nodes, an XPath query interface with namespace support, a document manipulation toolkit for modifying parsed documents, XSD schema validation, and XSLT transformation capabilities. The library wraps libxml2 and libxslt C libraries with Ruby bindings for high-performance parsing, and integrates Google's Gumbo parser for standard
HTML/XML parser with XPath and CSS support.
Clibxml2libxsltnokogiri - sparklemotion/mechanize
sparklemotion/mechanize
4,443Ver en GitHubMechanize es una biblioteca de Ruby para la automatización de navegadores web y la emulación de navegadores headless. Permite navegar programáticamente por sitios web y simular el comportamiento humano sin una interfaz gráfica de usuario. La biblioteca proporciona una interfaz automatizada para completar y enviar formularios web, incluyendo campos de texto, casillas de verificación y subidas de archivos. Gestiona sesiones con estado almacenando y enviando automáticamente cookies a través de múltiples peticiones para mantener la autenticación e identidad del usuario. Las capacidades adicionales incluyen el scraping de datos web, la capacidad de descargar contenido web remoto y el mantenimiento de un historial de navegación cronológico para rastrear las páginas visitadas. El sistema analiza las respuestas HTML en un modelo de objetos estructurado para permitir la consulta programática y la interacción con los elementos de la página.
Automated web interaction and crawling.
Ruby - propublica/upton
propublica/upton
1,599Ver en GitHubA batteries-included framework for easy web-scraping. Just add CSS! (Or do more.)
Batteries-included framework for easy scraping.
HTML - felipecsl/wombat
felipecsl/wombat
1,362Ver en GitHubLightweight Ruby web crawler/scraper with an elegant DSL which extracts structured data from pages.
Lightweight crawler with an elegant DSL.
Rubycrawlerdslruby - postmodern/spidr
postmodern/spidr
A versatile Ruby web spidering library that can spider a site, multiple domains, certain links or infinitely. Spidr is designed to be fast and easy to use.
Flexible site spidering and link discovery.
Ruby - stewartmckee/cobweb
stewartmckee/cobweb
Web crawler with very flexible crawling options. Can either use standalone or can be used with resque to perform clustered crawls.
Web crawler with flexible options and Sidekiq support.
JavaScript - joenorton/rubyretriever
joenorton/rubyretriever
RubyRetriever (http://softwarebyjoe.com/rubyretriever/)
Web crawler, scraper, and file harvester.
Ruby
