reflection_70b_training
1.0.0
قم بتثبيت المتطلبات ويمكنك استخدام هذا الأمر لبدء التدريب. إنه يعمل في كل من بيئات العقدة الواحدة والعقدة المتعددة.
ACCELERATE_USE_FSDP=1 FSDP_CPU_RAM_EFFICIENT_LOADING=1 torchrun --nnodes 1 --node_rank 0 --master_addr {master ip address} --master_port {master port} --nproc_per_node=8 train.py --config config.yaml