เวกเตอร์พวงมาลัย

เวกเตอร์พวงมาลัย

เวกเตอร์การบังคับเลี้ยว / วิศวกรรมการเป็นตัวแทนสำหรับโมเดลภาษาของหม้อแปลงใน Pytorch / Huggingface

ดูสมุดบันทึกตัวอย่างของเรา

เอกสารฉบับเต็ม: https://steering-vectors.github.io/steering-vectors

เกี่ยวกับ

ไลบรารีนี้จัดเตรียมยูทิลิตี้สำหรับการฝึกอบรมและการใช้เวกเตอร์บังคับทิศทางกับโมเดลภาษา (LM) จาก Huggingface เช่น GPT, LLaMa, Gemma, Mistral, Pythia และอีกมากมาย!

ห้องสมุดนี้ได้รับแรงบันดาลใจจากแนวคิดและโค้ดจากเอกสารสองฉบับต่อไปนี้ สำหรับข้อมูลเพิ่มเติมเกี่ยวกับเวกเตอร์การบังคับเลี้ยวและวิศวกรรมการนำเสนอ โปรดดูงานเหล่านี้:

• การบังคับเลี้ยว Llama 2 ผ่านการเพิ่มการเปิดใช้งานแบบตรงกันข้าม Rimsky และคณะ 2023
• วิศวกรรมการเป็นตัวแทน: แนวทางจากบนลงล่างเพื่อความโปร่งใสของ AI Zou และคณะ, 2023

การติดตั้ง

 pip install steering-vectors

ตรวจสอบเอกสารฉบับเต็มสำหรับข้อมูลการใช้งานเพิ่มเติม

มีส่วนร่วม

ยินดีต้อนรับการมีส่วนร่วมเพื่อปรับปรุงโครงการนี้! โปรดเปิดปัญหาหรือดึงคำขอใน repo นี้พร้อมการแก้ไขข้อบกพร่อง / การเปลี่ยนแปลง / การปรับปรุงที่คุณมี

โปรเจ็กต์นี้ใช้ Ruff สำหรับการจัดรูปแบบโค้ดและการ Linting, MyPy สำหรับการตรวจสอบประเภท และ Pytest สำหรับการทดสอบ ตรวจสอบให้แน่ใจว่าการเปลี่ยนแปลงใด ๆ ที่คุณส่งผ่านการตรวจสอบรหัสเหล่านี้ใน PR ของคุณ หากคุณมีปัญหาในการเรียกใช้สิ่งเหล่านี้ อย่าลังเลที่จะเปิดคำขอดึงข้อมูลโดยไม่ต้องคำนึงถึง แล้วเราจะหารือเพิ่มเติมในการประชาสัมพันธ์

ใบอนุญาต

รหัสนี้เผยแพร่ภายใต้ใบอนุญาต MIT