RubyGems Navigation menu

ru_token 0.1.23

[DEPRECATED] switch to 'j_r_r_token'. RuToken is a Ruby gem that wraps the tiktoken Rust library, enabling fast and efficient tokenization for OpenAI models. It supports multiple models including o200k_base, cl100k_base, p50k_base, and r50k_base.

Gemfile:
=

installation:
=

Versions:

  1. 0.1.23 August 03, 2025 (13,5 ko)
  2. 0.1.22 August 03, 2025 (13,5 ko)
  3. 0.1.21 August 01, 2025 (13,5 ko)
  4. 0.1.20 August 01, 2025 x86_64-linux (24,6 Mo)
  5. 0.1.20 August 01, 2025 arm64-darwin (23,9 Mo)
Voir toutes les versions (100)

Dépendances de Development (3):

bundler >= 2.0
rake ~> 13.0
rake-compiler >= 0
Show all transitive dependencies

Propriétaires:

Pushed by:

Auteurs:

  • Logan Bresnahan

Total de contrôle SHA 256:

=
← Version précédente

Total de téléchargements 13 669

Pour cette version 289

Version publiée:

License:

MIT

Version de Ruby requise: >= 2.7.0

Required Rubygems Version: >= 3.0.0

Liens:

Page d'accueil Changelog Télécharger Review changes Badge Abonnement RSS Signaler un abus Reverse dependencies