sten

Sten : Pytorch의 효율적인 희소성을위한 인터페이스

Sten은 Pytorch 1.11에서 현재 구현 (Torch.sparse)에서 답변되지 않은 다음 질문을 해결하는 것을 목표로합니다.

• 모델에 희귀 한 전략을 통합하여 런타임에 사용하는 방법은 무엇입니까?
• 훈련 중에 희소성 수준을 동일하게 유지하는 방법은 무엇입니까?
• 완전한 오토 그라드 지원을 활성화하는 방법은 무엇입니까?
• 맞춤형 스파 스 형식 및 운영자 구현을 활성화하는 방법은 무엇입니까?

예

• build_from_scratch.ipynb를 확인하여 인터페이스를 사용하여 Pytorch 모듈을 처음부터 작성하십시오.
• Modify_Existing.ipynb를 확인하여 기존 조밀 한 Pytorch 모듈을 희소로 변환하는 예를보십시오.
• custom_implementations.ipynb를 확인하여 특정 형식의 입력 및 출력 텐서와 일치하는 Sparsifier 및 연산자에 대한 사용자 정의 구현을 등록하는 예를 확인하십시오.

빠른 시작

 git clone https://github.com/spcl/sten.git
cd sten
python -m venv venv
source venv/bin/activate
pip install .
python tests/test_api.py

설치

 pip install sten

코드 조직

핵심 구현은 sten.py에 있습니다. Jupyter 노트북 예제는 예제 디렉토리에 있습니다. 더 많은 예제는 테스트 디렉토리에서 테스트 형태로 찾을 수 있습니다. 프로젝트 루트에서 pytest 호출하여 테스트를 실행할 수 있습니다.