sten

Sten：Pytorch中有效稀疏性的界面

Sten的目的是解決以下問題，這些問題在Pytorch 1.11中的當前實施（Torch.sparse）中尚未得到答复。

• 如何將稀疏策略納入模型中並在運行時使用？
• 如何在訓練過程中保持稀疏度相同？
• 如何啟用全自動支持？
• 如何啟用自定義稀疏格式和操作員實現？

例子

• 檢查build_from_scratch.ipynb，以查看從頭開始構建pytorch模塊的示例使用。
• 檢查modify_existing.ipynb，以查看將現有密集pytorch模塊轉換為稀疏的示例。
• 檢查custom_implementations.ipynb，以查看為匹配輸入和輸出張量特定格式的Sparsifier和運算符的自定義實現的示例。

快速開始

 git clone https://github.com/spcl/sten.git
cd sten
python -m venv venv
source venv/bin/activate
pip install .
python tests/test_api.py

安裝

 pip install sten

代碼組織

核心實現位於sten.py。 Jupyter筆記本示例位於示例目錄中。可以在測試目錄中以測試形式找到更多示例。可以通過在項目根中調用pytest來運行測試。