หน้าแรก>การเขียนโปรแกรมที่เกี่ยวข้อง>ซอร์สโค้ดอื่น ๆ
ดาวน์โหลด

วิ่งฝึกซ้อมสำหรับ Reflection 70B

ติดตั้งข้อกำหนดและคุณสามารถใช้คำสั่งนี้เพื่อเริ่มการฝึกอบรมได้ มันทำงานได้ทั้งในสภาพแวดล้อมแบบโหนดเดียวและหลายโหนด 

ACCELERATE_USE_FSDP=1 FSDP_CPU_RAM_EFFICIENT_LOADING=1 torchrun --nnodes 1 --node_rank 0 --master_addr {master ip address} --master_port {master port} --nproc_per_node=8 train.py --config config.yaml
ขยาย
ข้อมูลเพิ่มเติม
แอปที่เกี่ยวข้อง
แนะนำสำหรับคุณ
ข้อมูลที่เกี่ยวข้อง ทั้งหมด