ผู้ตรวจสอบไวโอลิน
v0.0.5
การตรวจสอบโมเดลภาษาขนาดใหญ่เป็นเรื่องง่าย!
โมเดลภาษาช่วยให้บริษัทต่างๆ สามารถสร้างและเปิดตัวแอปพลิเคชันเชิงนวัตกรรมเพื่อปรับปรุงประสิทธิภาพการทำงานและเพิ่มความพึงพอใจของลูกค้า อย่างไรก็ตาม เป็นที่ทราบกันว่า LLM สามารถทำให้เกิดภาพหลอน สร้างการตอบสนองที่ไม่เป็นมิตรที่อาจเป็นอันตรายต่อผู้ใช้ และแม้กระทั่งเปิดเผยข้อมูลส่วนตัวที่พวกเขาได้รับการฝึกอบรมเมื่อได้รับแจ้งหรือไม่ได้รับแจ้ง มีความสำคัญมากขึ้นกว่าที่เคยสำหรับ ML และทีมแอปพลิเคชันซอฟต์แวร์ในการลดความเสี่ยงและจุดอ่อนเหล่านี้ก่อนที่จะเปิดตัวโมเดล LLM และ NLP ด้วยเหตุนี้ จึงเป็นสิ่งสำคัญสำหรับคุณที่จะต้องรวมกระบวนการในการตรวจสอบแบบจำลองภาษาอย่างละเอียดก่อนการผลิต Fiddler Auditor ช่วยให้คุณสามารถทดสอบแบบจำลอง LLM และ NLP ระบุจุดอ่อนในแบบจำลอง และลดผลลัพธ์ที่อาจเกิดความขัดแย้งได้ก่อนที่จะนำไปใช้จริง
Fiddler Auditor รองรับ
รายงานตัวอย่างที่สร้างโดย Fiddler Auditor สำหรับ text-davinci-003Auditor พร้อมใช้งานบน PyPI และเราทดสอบบน Python 3.8 ขึ้นไป เราขอแนะนำให้สร้างสภาพแวดล้อมหลามเสมือนและติดตั้งโดยใช้คำสั่งต่อไปนี้
pip install fiddler-auditorคุณสามารถติดตั้งจากแหล่งที่มาได้หลังจากโคลน repo นี้โดยใช้คำสั่งต่อไปนี้
pip install . เรากำลังอัปเดตไลบรารีนี้อย่างต่อเนื่องเพื่อรองรับโมเดลภาษาเมื่อมีการพัฒนา
สำหรับคำแนะนำทีละขั้นตอน ให้ปฏิบัติตามคู่มือการมีส่วนร่วม
