RubyGems Navigation menu

crawlr 0.2.3

Crawlr is a modern Ruby web scraping framework built for respectful and efficient data extraction. Features async HTTP requests, robots.txt compliance, cookie management, proxy rotation, flexible CSS/XPath selectors, and comprehensive error handling. Designed for both simple scraping tasks and complex, large-scale data extraction projects.

Gemfile:
=

インストール:
=

バージョン履歴:

  1. 0.2.3 October 03, 2025 (31.5KB)
  2. 0.2.2 October 01, 2025 (31.5KB)
  3. 0.2.1 September 30, 2025 (31KB)
  4. 0.2.0 September 29, 2025 (31KB)
  5. 0.1.0 September 29, 2025 (30.5KB)

Runtime依存関係 (5):

async ~> 2.32
async-http ~> 0.91.0
concurrent-ruby ~> 1.3
http-cookie ~> 1.0
nokogiri ~> 1.18

Development依存関係 (5):

rake ~> 13.0
rspec ~> 3.0
rubocop ~> 1.60
ruby-prof ~> 1.7
webmock ~> 3.25
全ての推移的な依存関係を表示

所有者:

プッシュ者:

作者:

  • Aristotelis Rapai

SHA 256チェックサム:

=
←前のバージョン

累計ダウンロード数 999

このバージョンのみ 161

このバージョンがリリースされたのは:

ライセンス:

MIT

必要なRubyのバージョン: >= 3.1.0

新しいバージョンはMFAを必要とします: true

MFAで投稿されたバージョン: true

リンク:

ホームページ 変更履歴 バグトラッカー ダウンロード 差分をレビュー バッジ 購読 RSS 悪用報告 被依存関係