tinyrwkv

目前正在rewrite分支中重寫。

tinyrwkv：RWKV-LM 的小型端口

RWKV-LM 系列大型語言模型到tinygrad 框架的連接埠。

路線圖

• 將 WKV 內核實現為自訂函數
• 將 WKV 內核的向後實作作為自訂函數
• 添加對世界模型和標記器的支持
• 增加對 MIDI 模型的支持
• 增加對 RWKV-5 型號的初始支持

依賴關係

目前，需要 git 中的tinygrad 或僅使用 nix flake。

Python

 numpy
pydot (only for GRAPH=1)
tinygrad
tokenizers
torch (only for loading pytorch weights)
tqdm
wandb (optional during training)

系統

 rust (only for compiling)
clang (only for compiling)
graphviz (only for GRAPH=1)

用法

使用python -m cli執行 CLI。

此外，也可以作為 python 套件嵌入到其他項目中。也可以將模型編譯為可移植的 C 程式碼並以這種方式嵌入。

 usage: tinyrwkv-cli [-h] [--seed SEED] {pre,gen,cht,cmp,bch,ptr,gpt,tra,bpt,wkv,mus} ...

CLI for tinyrwkv

positional arguments:
  {pre,gen,cht,cmp,bch,ptr,gpt,tra,bpt,wkv,mus}
    pre                 preprocess either tinyrwkv trained weights or pytorch trained weights into RNN form
    gen                 freeform generation using the RNN mode (requires a preprocessed model using `pre`)
    cht                 chat with a model in RNN mode (requires a preprocessed model using `pre`)
    cmp                 compile a RNN model into c source code and a compiled executable (need to run with CLANG=1)
    bch                 benchmark the rnn mode
    ptr                 preprocess pytorch weights weights into GPT form for training or inference
    gpt                 freeform generation using the GPT mode (requires a preprocessed model using `ptr`)
    tra                 pretrain or finetune a model (if finetuning the model needs to be preprocessed with `ptr`)
    bpt                 benchmark the gpt mode
    wkv                 benchmark/test each wkv module
    mus                 music generation using the RNN mode (requires a preprocessed model using `pre`)

options:
  -h, --help            show this help message and exit
  --seed SEED           seed for random

執照

請參閱許可證和通知文件。