Lenkvektoren

Lenkungsvektoren

Steuerungsvektoren / Darstellungstechnik für Transformer-Sprachmodelle in Pytorch / Huggingface

Schauen Sie sich unser Beispielnotizbuch an.

Vollständige Dokumente: https://steering-vectors.github.io/steering-vectors

Um

Diese Bibliothek bietet Dienstprogramme zum Trainieren und Anwenden von Steuerungsvektoren auf Sprachmodelle (LMs) von Huggingface, wie GPT, LLaMa, Gemma, Mistral, Pythia und viele mehr!

Diese Bibliothek ist von Ideen und Code aus den folgenden beiden Artikeln inspiriert. Weitere Informationen zu Steuerungsvektoren und Darstellungstechnik finden Sie in diesen Werken:

• Lenkung von Lama 2 durch kontrastive Aktivierungsaddition Rimsky et al., 2023
• Repräsentationstechnik: Ein Top-Down-Ansatz für KI-Transparenz Zou et al., 2023

Installation

 pip install steering-vectors

Weitere Nutzungsinformationen finden Sie in der vollständigen Dokumentation.

Mitwirken

Jeder Beitrag zur Verbesserung dieses Projekts ist willkommen! Bitte öffnen Sie in diesem Repo ein Issue oder eine Pull-Anfrage mit allen Bugfixes/Änderungen/Verbesserungen, die Sie haben.

Dieses Projekt verwendet Ruff für die Codeformatierung und Linting, MyPy für die Typprüfung und Pytest für Tests. Stellen Sie sicher, dass alle von Ihnen eingereichten Änderungen diese Codeprüfungen in Ihrer PR bestehen. Wenn Sie Probleme haben, diese zum Laufen zu bringen, können Sie trotzdem gerne einen Pull-Request öffnen und wir können in der PR weiter darüber diskutieren.

Lizenz

Dieser Code wird unter einer MIT-Lizenz veröffentlicht.