sten

Sten: una interfaz para escasez eficiente en Pytorch

Sten tiene como objetivo resolver las siguientes preguntas que permanecieron sin respuesta en la implementación actual (Torch.sparse) de dispersión en Pytorch 1.11.

• ¿Cómo incorporar una estrategia de dispersión en el modelo y usarla en tiempo de ejecución?
• ¿Cómo mantener el nivel de dispersión igual durante el entrenamiento?
• ¿Cómo habilitar el soporte completo de Autograd?
• ¿Cómo habilitar formatos dispersos personalizados e implementaciones de operadores?

Ejemplos

• Verifique Build_from_scratch.ipynb para ver el ejemplo de uso de la interfaz para construir el módulo Pytorch desde cero.
• Verifique modify_existing.ipynb para ver el ejemplo de convertir el módulo pytorch denso existente en escasez.
• Verifique Custom_implementations.ipynb para ver el ejemplo de registro de implementaciones personalizadas para sparsifiers y operadores que coincidan con formatos específicos de tensores de entrada y salida.

Comienzo rápido

 git clone https://github.com/spcl/sten.git
cd sten
python -m venv venv
source venv/bin/activate
pip install .
python tests/test_api.py

Instalación

 pip install sten

Organización del código

La implementación central se encuentra en Sten.py. Los ejemplos de cuaderno de Jupyter se encuentran en el directorio de ejemplos. Aún se pueden encontrar más ejemplos en forma de pruebas en el directorio de pruebas. Las pruebas se pueden ejecutar llamando pytest en la raíz del proyecto.