lbann ดาวน์โหลด - lbann ดาวน์โหลดซอร์สโค้ด

lbann

โค้ดแหล่งที่มา AI

v0.104

ดาวน์โหลด

LBANN: ชุดเครื่องมือโครงข่ายประสาทเทียมขนาดใหญ่ของ Livermore

ชุดเครื่องมือ Livermore Big Artificial Neural Network (LBANN) เป็นเฟรมเวิร์กการฝึกอบรมเชิงลึกแบบโอเพ่นซอร์ส เน้น HPC เป็นหลัก ซึ่งได้รับการปรับให้เหมาะสมเพื่อเขียนความขนานหลายระดับ

LBANN มอบการเร่งความเร็วแบบขนานผ่านการแบ่งส่วนโดเมนเพื่อปรับให้เหมาะสมสำหรับการปรับขนาดการฝึกอบรมเครือข่ายที่แข็งแกร่ง นอกจากนี้ยังช่วยให้สามารถจัดองค์ประกอบของโมเดล-ความขนานกับทั้งข้อมูลแบบขนานและวิธีการฝึกอบรมแบบ Ensemble สำหรับการฝึกอบรมโครงข่ายประสาทเทียมขนาดใหญ่ที่มีข้อมูลจำนวนมหาศาล LBANN สามารถใช้ประโยชน์จากตัวเร่งความเร็วคู่ที่แน่นหนา เครือข่ายแบนด์วิดท์สูงที่มีความหน่วงต่ำ และระบบไฟล์แบบขนานที่มีแบนด์วิธสูง

LBANN รองรับอัลกอริธึมการฝึกอบรมที่ล้ำสมัย เช่น วิธีการฝึกอบรมแบบไม่มีผู้ดูแล การควบคุมตนเอง และฝ่ายตรงข้าม (GAN) นอกเหนือจากการเรียนรู้แบบมีผู้สอนแบบดั้งเดิม นอกจากนี้ยังรองรับโครงข่ายประสาทที่เกิดซ้ำผ่านการฝึกอบรม back propagation Through Time (BPTT) การถ่ายโอนการเรียนรู้ และวิธีการฝึกอบรมแบบหลายโมเดลและทั้งมวล

อาคาร LBANN

วิธีที่แนะนำสำหรับผู้ใช้ LBANN ในการติดตั้ง LBANN คือการใช้ Spack หลังจากการกำหนดค่าระบบบางอย่างแล้ว สิ่งนี้ควรจะตรงไปตรงมาเหมือนกัน

spack install lbann

คำแนะนำโดยละเอียดเพิ่มเติมสำหรับการสร้างและการติดตั้ง LBANN มีอยู่ที่เอกสารประกอบ LBANN หลัก

กำลังรัน LBANN

เทมเพลตพื้นฐานสำหรับการรัน LBANN คือ

 < mpi-launcher > < mpi-options > 
    lbann < lbann-options > 
    --model=model.prototext 
    --optimizer=opt.prototext 
    --reader=data_reader.prototext

เมื่อใช้ตัวเร่งความเร็ว GPGPU ผู้ใช้ควรทราบว่า LBANN ได้รับการปรับให้เหมาะสมสำหรับกรณีที่หนึ่งกำหนด GPU หนึ่งตัวต่อ อันดับ MPI สิ่งนี้ควรคำนึงถึงเมื่อเลือกพารามิเตอร์สำหรับตัวเรียกใช้งาน MPI

รายละเอียดเพิ่มเติมเกี่ยวกับการรัน LBANN มีบันทึกไว้ที่นี่