หน้าแรก>การเขียนโปรแกรมที่เกี่ยวข้อง>ซอร์สโค้ดอื่น ๆ
ดาวน์โหลด

โมเดลอ้างอิง Intel® AI

พื้นที่เก็บข้อมูลนี้ประกอบด้วย ลิงก์ไปยังโมเดลที่ได้รับการฝึกล่วงหน้า สคริปต์ตัวอย่าง แนวทางปฏิบัติที่ดีที่สุด และบทช่วยสอนทีละขั้นตอน สำหรับโมเดลการเรียนรู้ของเครื่องโอเพ่นซอร์สยอดนิยมจำนวนมากที่ได้รับการปรับแต่งโดย Intel ให้ทำงานบนโปรเซสเซอร์ Intel® Xeon® Scalable และ Intel® Data Center GPU .

คอนเทนเนอร์สำหรับการรันเวิร์กโหลดสามารถพบได้ที่คอนเทนเนอร์ Intel® AI

โมเดลอ้างอิง Intel® AI ในโน้ตบุ๊ก Jupyter ก็มีให้ใช้งานสำหรับเวิร์กโหลดที่ระบุไว้เช่นกัน

วัตถุประสงค์ของโมเดลอ้างอิง Intel® AI

Intel เพิ่มประสิทธิภาพเฟรมเวิร์กการเรียนรู้เชิงลึกยอดนิยม เช่น TensorFlow* และ PyTorch* โดยการมีส่วนร่วมในโปรเจ็กต์อัปสตรีม การปรับแต่งเพิ่มเติมมีอยู่ในปลั๊กอิน/ส่วนขยาย เช่น Intel Extension สำหรับ Pytorch* และ Intel Extension สำหรับ TensorFlow* โมเดลโครงข่ายประสาทเทียมยอดนิยมที่ทำงานบนชุดข้อมูลทั่วไปคือปริมาณงานเป้าหมายที่ขับเคลื่อนการปรับให้เหมาะสมเหล่านี้

วัตถุประสงค์ของพื้นที่เก็บข้อมูล Intel® AI Reference Models (และคอนเทนเนอร์ที่เกี่ยวข้อง) คือการจำลองสภาพแวดล้อมซอฟต์แวร์ที่สมบูรณ์อย่างรวดเร็ว ซึ่งแสดงให้เห็นประสิทธิภาพที่รู้จักกันดีที่สุดของแต่ละโมเดล/ชุดข้อมูลเป้าหมายเหล่านี้ เมื่อดำเนินการในสภาพแวดล้อมฮาร์ดแวร์ที่ได้รับการกำหนดค่าอย่างเหมาะสมที่สุด สภาพแวดล้อมซอฟต์แวร์เหล่านี้จะแสดงความสามารถ AI ของแพลตฟอร์ม Intel

การปฏิเสธความรับผิด: สคริปต์เหล่านี้ไม่ได้มีไว้สำหรับการเปรียบเทียบแพลตฟอร์มของ Intel สำหรับข้อมูลประสิทธิภาพและ/หรือการเปรียบเทียบประสิทธิภาพบนแพลตฟอร์ม Intel เฉพาะ โปรดไปที่ https://www.intel.ai/blog

Intel มุ่งมั่นที่จะเคารพสิทธิมนุษยชนและหลีกเลี่ยงการก่อให้เกิดหรือมีส่วนทำให้เกิดผลกระทบเชิงลบต่อสิทธิมนุษยชน ดูหลักการสิทธิมนุษยชนสากลของ Intel ผลิตภัณฑ์และซอฟต์แวร์ของ Intel มีวัตถุประสงค์เพื่อใช้ในแอปพลิเคชันที่ไม่ก่อให้เกิดหรือมีส่วนทำให้เกิดผลกระทบด้านลบต่อสิทธิมนุษยชนเท่านั้น

ใบอนุญาต

โมเดลอ้างอิง Intel® AI ได้รับอนุญาตภายใต้ Apache License เวอร์ชัน 2.0

ชุดข้อมูล

ภายในขอบเขตที่ชุดข้อมูลสาธารณะใดๆ ได้รับการอ้างอิงโดย Intel หรือเข้าถึงโดยใช้เครื่องมือหรือรหัสบนไซต์นี้ ชุดข้อมูลเหล่านั้นจัดทำโดยบุคคลที่สามที่ระบุว่าเป็นแหล่งข้อมูล Intel ไม่ได้สร้างข้อมูลหรือชุดข้อมูล และไม่รับประกันความถูกต้องหรือคุณภาพ การเข้าถึงชุดข้อมูลสาธารณะแสดงว่าคุณยอมรับข้อกำหนดที่เกี่ยวข้องกับชุดข้อมูลเหล่านั้น และการใช้งานของคุณสอดคล้องกับใบอนุญาตที่เกี่ยวข้อง

โปรดตรวจสอบรายการชุดข้อมูลที่ใช้ใน Intel® AI Reference Model ในไดเร็กทอรีชุดข้อมูล

Intel ขอปฏิเสธโดยชัดแจ้งต่อความถูกต้อง ความเพียงพอ หรือความสมบูรณ์ของชุดข้อมูลสาธารณะใดๆ และไม่รับผิดชอบต่อข้อผิดพลาด การละเว้น หรือข้อบกพร่องในข้อมูล หรือการพึ่งพาข้อมูลใดๆ Intel จะไม่รับผิดชอบต่อความรับผิดหรือความเสียหายใดๆ ที่เกี่ยวข้องกับการใช้ชุดข้อมูลสาธารณะของคุณ

กรณีการใช้งาน

เอกสารประกอบโมเดลในตารางด้านล่างมีข้อมูลเกี่ยวกับข้อกำหนดเบื้องต้นในการรันแต่ละโมเดล สคริปต์โมเดลทำงานบน Linux บางรุ่นสามารถทำงานโดยใช้ Bare Metal บน Windows ได้เช่นกัน สำหรับข้อมูลเพิ่มเติมและรายการรุ่นที่รองรับบน Windows โปรดดูเอกสารประกอบที่นี่

คำแนะนำในการวิ่งบน Sapphire Rapids

เพื่อประสิทธิภาพที่ดีที่สุดบน Intel® Data Center GPU Flex และ Max Series โปรดตรวจสอบรายการเวิร์กโหลดที่รองรับ โดยให้คำแนะนำในการเรียกใช้การอนุมานและการฝึกอบรมโดยใช้ Intel(R) Extension สำหรับ PyTorch หรือ Intel(R) Extension สำหรับ TensorFlow

การรับรู้ภาพ

แบบอย่าง กรอบ โหมด เอกสารประกอบแบบจำลอง ชุดข้อมูลเกณฑ์มาตรฐาน/ทดสอบ
ResNet 50v1.5 แซฟไฟร์ ราปิดส์ เทนเซอร์โฟลว์ การอนุมาน Int8 FP32 BFloat16 BFloat32 อิมเมจเน็ต 2012
ResNet 50v1.5 แซฟไฟร์ ราปิดส์ เทนเซอร์โฟลว์ การฝึกอบรม FP32 BFloat16 BFloat32 อิมเมจเน็ต 2012
เรสเน็ต 50 ไพทอร์ช การอนุมาน Int8 FP32 BFloat16 BFloat32 [อิมเมจเน็ต 2012]
เรสเน็ต 50 ไพทอร์ช การฝึกอบรม FP32 BFloat16 BFloat32 [อิมเมจเน็ต 2012]
วิสัยทัศน์หม้อแปลง ไพทอร์ช การอนุมาน FP32 BFloat16 BFloat32 FP16 INT8 [อิมเมจเน็ต 2012]

การแบ่งส่วนภาพ

แบบอย่าง กรอบ โหมด เอกสารประกอบแบบจำลอง ชุดข้อมูลเกณฑ์มาตรฐาน/ทดสอบ
3D U-Net เทนเซอร์โฟลว์ การอนุมาน FP32 BFloat16 Int8 บราทส์ 2018

การสร้างแบบจำลองภาษา

แบบอย่าง กรอบ โหมด เอกสารประกอบแบบจำลอง ชุดข้อมูลเกณฑ์มาตรฐาน/ทดสอบ
BERT ขนาดใหญ่ แซฟไฟร์ แรพิดส์ เทนเซอร์โฟลว์ การอนุมาน FP32 BFloat16 Int8 BFloat32 ทีม
BERT ขนาดใหญ่ แซฟไฟร์ แรพิดส์ เทนเซอร์โฟลว์ การฝึกอบรม FP32 BFloat16 BFloat32 ทีม
เบิร์ต ใหญ่ (กอดหน้า) เทนเซอร์โฟลว์ การอนุมาน FP32 FP16 BFloat16 BFloat32 ทีม
เบิร์ต ใหญ่ ไพทอร์ช การอนุมาน FP32 Int8 BFloat16 BFloat32 เบิร์ต ทีมใหญ่1.1
เบิร์ต ใหญ่ ไพทอร์ช การฝึกอบรม FP32 BFloat16 BFloat32 ชุดข้อมูลข้อความที่ประมวลผลล่วงหน้า
ฐานดิสทิลเบิร์ต ไพทอร์ช การอนุมาน FP32 BF32 BF16Int8-FP32 Int8-BFloat16 BFloat32 DitilBERT ฐาน SQuAD1.1
ร.น.-ต ไพทอร์ช การอนุมาน FP32 BFloat16 BFloat32 ชุดข้อมูล RNN-T
ร.น.-ต ไพทอร์ช การฝึกอบรม FP32 BFloat16 BFloat32 ชุดข้อมูล RNN-T
GPTJ 6B ไพทอร์ช การอนุมาน FP32 FP16 BFloat16 BF32 INT8
GPTJ 6B MLPerf ไพทอร์ช การอนุมาน INT4 ชุดข้อมูล CNN-Daily Mail
ลามะ2 7B ไพทอร์ช การอนุมาน FP32 FP16 BFloat16 BF32 INT8
ลามะ2 7B ไพทอร์ช การฝึกอบรม FP32 FP16 BFloat16 BF32
ลามะ2 13B ไพทอร์ช การอนุมาน FP32 FP16 BFloat16 BF32 INT8
แชท GLMv3 6B ไพทอร์ช การอนุมาน FP32 FP16 BFloat16 BF32 INT8

การแปลภาษา

แบบอย่าง กรอบ โหมด เอกสารประกอบแบบจำลอง ชุดข้อมูลเกณฑ์มาตรฐาน/ทดสอบ
เบิร์ต เทนเซอร์โฟลว์ การอนุมาน FP32 มพร

การตรวจจับวัตถุ

แบบอย่าง กรอบ โหมด เอกสารประกอบแบบจำลอง ชุดข้อมูลเกณฑ์มาตรฐาน/ทดสอบ
หน้ากาก R-CNN ไพทอร์ช การอนุมาน FP32 BFloat16 BFloat32 โคโค่ 2017
หน้ากาก R-CNN ไพทอร์ช การฝึกอบรม FP32 BFloat16 BFloat32 โคโค่ 2017
SSD-ResNet34 ไพทอร์ช การอนุมาน FP32 Int8 BFloat16 BFloat32 โคโค่ 2017
SSD-ResNet34 ไพทอร์ช การฝึกอบรม FP32 BFloat16 BFloat32 โคโค่ 2017
โยโล V7 ไพทอร์ช การอนุมาน Int8 FP32 FP16 BFloat16 BFloat32 [COCO 2017](/models_v2/pytorch/yolov7/inference/cpu/README.md## เตรียมชุดข้อมูล)

คำแนะนำ

แบบอย่าง กรอบ โหมด เอกสารประกอบแบบจำลอง ชุดข้อมูลเกณฑ์มาตรฐาน/ทดสอบ
กว้างและลึก เทนเซอร์โฟลว์ การอนุมาน FP32 ชุดข้อมูลรายได้การสำรวจสำมะโนประชากร
ดีอาร์เอ็ม ไพทอร์ช การอนุมาน FP32 Int8 BFloat16 BFloat32 Criteo เทราไบต์
ดีอาร์เอ็ม ไพทอร์ช การฝึกอบรม FP32 BFloat16 BFloat32 Criteo เทราไบต์
ดีแอลอาร์เอ็ม เวอร์ชัน 2 ไพทอร์ช การอนุมาน FP32 FP16 BFloat16 BFloat32 Int8 ชุดข้อมูล Criteo 1TB Click Logs

การแพร่กระจาย

แบบอย่าง กรอบ โหมด เอกสารประกอบแบบจำลอง ชุดข้อมูลเกณฑ์มาตรฐาน/ทดสอบ
การแพร่กระจายที่เสถียร เทนเซอร์โฟลว์ การอนุมาน FP32 BFloat16 FP16 ชุดข้อมูลการตรวจสอบ COCO 2017
การแพร่กระจายที่เสถียร ไพทอร์ช การอนุมาน FP32 BFloat16 FP16 BFloat32 Int8-FP32 Int8-BFloat16 ชุดข้อมูลการตรวจสอบ COCO 2017
การแพร่กระจายที่เสถียร ไพทอร์ช การฝึกอบรม FP32 BFloat16 FP16 BFloat32 ภาพแมว
โมเดลความสม่ำเสมอแฝง (LCM) ไพทอร์ช การอนุมาน FP32 BFloat16 FP16 BFloat32 Int8-FP32 Int8-BFloat16 ชุดข้อมูลการตรวจสอบ COCO 2017

เครือข่ายกราฟ

แบบอย่าง กรอบ โหมด เอกสารประกอบแบบจำลอง ชุดข้อมูลเกณฑ์มาตรฐาน/ทดสอบ
กราฟSAGE เทนเซอร์โฟลว์ การอนุมาน FP32 BFloat16 FP16 Int8 BFloat32 ปฏิกิริยาระหว่างโปรตีนกับโปรตีน

*หมายความว่าโมเดลเป็นของโมเดล MLPerf และจะได้รับการสนับสนุนในระยะยาว

ปริมาณงาน GPU ของศูนย์ข้อมูล Intel®

แบบอย่าง กรอบ โหมด ประเภทจีพียู เอกสารประกอบแบบจำลอง
เรสเน็ต 50v1.5 เทนเซอร์โฟลว์ การอนุมาน เฟล็กซ์ซีรีส์ Float32 TF32 Float16 BFloat16 Int8
เรสเน็ต 50 เวอร์ชัน 1.5 เทนเซอร์โฟลว์ การฝึกอบรม แม็กซ์ซีรีส์ BFloat16 FP32
เรสเน็ต 50 เวอร์ชัน 1.5 ไพทอร์ช การอนุมาน ซีรีย์ Flex, ซีรีย์ Max, ซีรีย์ Arc Int8 FP32 FP16 TF32
เรสเน็ต 50 เวอร์ชัน 1.5 ไพทอร์ช การฝึกอบรม แม็กซ์ซีรีส์, อาร์คซีรีส์ BFloat16 TF32 FP32
ดิสทิลเบิร์ต ไพทอร์ช การอนุมาน ซีรีส์เฟล็กซ์ ซีรีส์แม็กซ์ FP32 FP16 BF16 TF32
DLRM v1 ไพทอร์ช การอนุมาน เฟล็กซ์ซีรีส์ FP16 FP32
SSD-MobileNet* ไพทอร์ช การอนุมาน อาร์คซีรีส์ INT8 FP16 FP32
EfficientNet ไพทอร์ช การอนุมาน เฟล็กซ์ซีรีส์ FP16 BF16 FP32
EfficientNet เทนเซอร์โฟลว์ การอนุมาน เฟล็กซ์ซีรีส์ FP16
เอฟบีเน็ต ไพทอร์ช การอนุมาน เฟล็กซ์ซีรีส์ FP16 BF16 FP32
ชุดข้อมูลขนาดใหญ่แบบกว้างและลึก เทนเซอร์โฟลว์ การอนุมาน เฟล็กซ์ซีรีส์ FP16
โยโล V5 ไพทอร์ช การอนุมาน เฟล็กซ์ซีรีส์ FP16
เบิร์ต ใหญ่ ไพทอร์ช การอนุมาน แม็กซ์ซีรีส์, อาร์คซีรีส์ BFloat16 FP32 FP16
เบิร์ต ใหญ่ ไพทอร์ช การฝึกอบรม แม็กซ์ซีรีส์, อาร์คซีรีส์ BFloat16 FP32 TF32
เบิร์ต ใหญ่ เทนเซอร์โฟลว์ การฝึกอบรม แม็กซ์ซีรีส์ BFloat16 TF32 FP32
ดีแอลอาร์เอ็ม เวอร์ชัน 2 ไพทอร์ช การอนุมาน แม็กซ์ซีรีส์ FP32 BF16
ดีแอลอาร์เอ็ม เวอร์ชัน 2 ไพทอร์ช การฝึกอบรม แม็กซ์ซีรีส์ FP32 TF32 BF16
3D-Unet ไพทอร์ช การอนุมาน แม็กซ์ซีรีส์ FP16 INT8 FP32
3D-Unet เทนเซอร์โฟลว์ การฝึกอบรม แม็กซ์ซีรีส์ BFloat16 FP32
การแพร่กระจายที่เสถียร ไพทอร์ช การอนุมาน ซีรีย์ Flex, ซีรีย์ Max, ซีรีย์ Arc FP16 FP32
การแพร่กระจายที่เสถียร เทนเซอร์โฟลว์ การอนุมาน เฟล็กซ์ซีรีส์ FP16 FP32
หน้ากาก R-CNN เทนเซอร์โฟลว์ การอนุมาน เฟล็กซ์ซีรีส์ FP32 โฟลต16
หน้ากาก R-CNN เทนเซอร์โฟลว์ การฝึกอบรม แม็กซ์ซีรีส์ FP32 Bโฟลต16
หม้อแปลงสวิน ไพทอร์ช การอนุมาน เฟล็กซ์ซีรีส์ FP16
ฟาสต์พิทช์ ไพทอร์ช การอนุมาน เฟล็กซ์ซีรีส์ FP16
ยูเน็ต++ ไพทอร์ช การอนุมาน เฟล็กซ์ซีรีส์ FP16
รเอ็นเอ็น-ที ไพทอร์ช การอนุมาน แม็กซ์ซีรีส์ FP16 BF16 FP32
รเอ็นเอ็น-ที ไพทอร์ช การฝึกอบรม แม็กซ์ซีรีส์ FP32 BF16 TF32
ไอเอฟอาร์เน็ต ไพทอร์ช การอนุมาน เฟล็กซ์ซีรีส์ FP16
รวย ไพทอร์ช การอนุมาน เฟล็กซ์ซีรีส์ FP16

วิธีการมีส่วนร่วม

หากคุณต้องการเพิ่มสคริปต์การเปรียบเทียบใหม่ โปรดใช้คำแนะนำนี้

ขยาย
ข้อมูลเพิ่มเติม
แอปที่เกี่ยวข้อง
แนะนำสำหรับคุณ
ข้อมูลที่เกี่ยวข้อง ทั้งหมด