AI System
1.0.0
ภาษาอังกฤษ
ชื่อภาษาจีนของหลักสูตรนี้คือ Artificial Intelligence System ซึ่งส่วนใหญ่จะอธิบายการออกแบบระบบคอมพิวเตอร์ที่รองรับปัญญาประดิษฐ์ ชื่อหลักสูตรภาษาอังกฤษที่เกี่ยวข้องคือ System for AI คำศัพท์ต่อไปนี้จะใช้แทนกันได้ในหลักสูตรนี้: ระบบปัญญาประดิษฐ์ ระบบ AI และ ระบบสำหรับ AI
หลักสูตรนี้เป็นหนึ่งในบทเรียนที่เกี่ยวข้องกับปัญญาประดิษฐ์ที่วางแผนไว้ในชุมชนการศึกษาปัญญาประดิษฐ์ของ Microsoft และชุมชนการก่อสร้างร่วม ภายใต้โมดูลการสอนขั้นพื้นฐาน หมายเลขหลักสูตรและชื่อคือ A6-Artificial Intelligence System
ยินดีต้อนรับสู่โมดูล A-Basic Tutorial ของ Microsoft Artificial Intelligence Education และ Co-building Community เพื่อเข้าถึงเนื้อหาที่เกี่ยวข้องเพิ่มเติม
ในช่วงไม่กี่ปีที่ผ่านมา ปัญญาประดิษฐ์ โดยเฉพาะเทคโนโลยีการเรียนรู้เชิงลึก ได้มีการพัฒนาอย่างรวดเร็ว ซึ่งแยกออกจากความก้าวหน้าอย่างต่อเนื่องของระบบฮาร์ดแวร์และซอฟต์แวร์คอมพิวเตอร์ ในอนาคตอันใกล้การพัฒนาเทคโนโลยีปัญญาประดิษฐ์จะยังคงพึ่งพารูปแบบนวัตกรรมร่วมที่ผสมผสานระบบคอมพิวเตอร์และปัญญาประดิษฐ์เข้าด้วยกัน ควรสังเกตว่าขณะนี้ระบบคอมพิวเตอร์กำลังเสริมศักยภาพให้กับปัญญาประดิษฐ์ด้วยขนาดที่ใหญ่ขึ้นและมีความซับซ้อนมากขึ้น ซึ่งไม่เพียงต้องการนวัตกรรมของระบบมากขึ้นเท่านั้น แต่ยังต้องอาศัยการคิดและระเบียบวิธีอย่างเป็นระบบด้วย ในขณะเดียวกัน ปัญญาประดิษฐ์ยังสนับสนุนการออกแบบระบบที่ซับซ้อนอีกด้วย
เราสังเกตเห็นว่าหลักสูตรที่เกี่ยวข้องกับปัญญาประดิษฐ์ส่วนใหญ่ในปัจจุบัน โดยเฉพาะหลักสูตรการเรียนรู้เชิงลึกและการเรียนรู้ของเครื่อง เน้นไปที่ทฤษฎีที่เกี่ยวข้อง อัลกอริธึมหรือแอปพลิเคชันเป็นหลัก และหลักสูตรที่เกี่ยวข้องกับระบบนั้นหาได้ยาก เราหวังว่าหลักสูตรของระบบปัญญาประดิษฐ์จะทำให้การศึกษาที่เกี่ยวข้องกับปัญญาประดิษฐ์มีความครอบคลุมและเจาะลึกมากขึ้น เพื่อร่วมกันส่งเสริมการฝึกฝนผู้มีความสามารถที่จุดบรรจบกันของปัญญาประดิษฐ์และระบบต่างๆ
หลักสูตรนี้ออกแบบมาสำหรับนักศึกษาระดับปริญญาตรีและบัณฑิตศึกษาเป็นหลักเพื่อช่วยนักศึกษา:
เข้าใจสถาปัตยกรรมระบบคอมพิวเตอร์ที่รองรับการเรียนรู้เชิงลึกโดยสมบูรณ์ และเรียนรู้การออกแบบระบบภายใต้วงจรชีวิตที่สมบูรณ์ของการเรียนรู้เชิงลึกผ่านปัญหาเชิงปฏิบัติ
เปิดตัวงานวิจัยล้ำสมัยที่ผสมผสานระบบและปัญญาประดิษฐ์ รวมถึง AI สำหรับระบบ และระบบสำหรับ AI เพื่อช่วยให้นักศึกษาระดับปริญญาตรีและนักศึกษาระดับบัณฑิตศึกษาค้นหาและกำหนดคำถามการวิจัยที่มีความหมายได้ดีขึ้น
ออกแบบหลักสูตรทดลองจากมุมมองของการวิจัยอย่างเป็นระบบ ส่งเสริมให้นักเรียนปรับใช้และเพิ่มประสิทธิภาพโมดูลระบบโดยดำเนินการและประยุกต์ใช้กรอบงาน แพลตฟอร์ม และเครื่องมือกระแสหลักและล่าสุด เพื่อปรับปรุงความสามารถในการแก้ปัญหาเชิงปฏิบัติมากกว่าแค่ทำความเข้าใจการใช้เครื่องมือ
หลักสูตรบังคับก่อน: C/C++/Python สถาปัตยกรรมคอมพิวเตอร์ อัลกอริทึมเบื้องต้น
หลักสูตรส่วนใหญ่ประกอบด้วยสามโมดูลต่อไปนี้:
ส่วนแรกคือความรู้พื้นฐานเกี่ยวกับปัญญาประดิษฐ์และภาพรวมทั้งหมดของระบบปัญญาประดิษฐ์ ตลอดจนการออกแบบและวิธีการของระบบการเรียนรู้เชิงลึกอย่างเป็นระบบ
ส่วนที่สองเป็นหลักสูตรขั้นสูง รวมถึงสาขาการวิจัยที่ทันสมัยที่สุดที่จุดตัดของระบบและปัญญาประดิษฐ์
ส่วนที่สามคือหลักสูตรทดลองที่สนับสนุน รวมถึงกรอบงาน แพลตฟอร์ม และเครื่องมือกระแสหลักที่สุด ตลอดจนชุดโครงการทดลองต่างๆ
เนื้อหาในส่วนแรกจะเน้นไปที่ความรู้พื้นฐาน ส่วนเนื้อหาอีก 2 ส่วนจะมีการปรับเปลี่ยนแบบไดนามิกตามความก้าวหน้าทางเทคโนโลยีทั้งในด้านวิชาการและอุตสาหกรรม เนื้อหาของสองส่วนสุดท้ายจะถูกจัดระเบียบในรูปแบบโมดูลาร์เพื่ออำนวยความสะดวกในการปรับเปลี่ยนหรือผสมผสานกับหลักสูตร CS อื่นๆ (เช่น หลักการรวบรวม ฯลฯ) ในรูปแบบบันทึกการบรรยายขั้นสูงหรือโครงการฝึกงาน
การออกแบบหลักสูตรนี้จะอาศัยผลการวิจัยและประสบการณ์ของ Microsoft Research Asia ในการผสมผสานระหว่างปัญญาประดิษฐ์และระบบ รวมถึงแพลตฟอร์มและเครื่องมือบางอย่างที่พัฒนาโดย Microsoft และสถาบันวิจัย หลักสูตรนี้ยังสนับสนุนให้โรงเรียนและครูอื่นๆ เพิ่มและปรับหัวข้อขั้นสูงหรือการทดลองอื่นๆ ตามความต้องการของตนเอง
หลักสูตรพื้นฐาน
| หมายเลขหลักสูตร | ชื่อเอกสารประกอบคำบรรยาย | หมายเหตุ |
| 1 | การแนะนำหลักสูตร | ภาพรวมหลักสูตรและระบบ/พื้นฐาน AI |
| 2 | ภาพรวมระบบปัญญาประดิษฐ์ | ประวัติการพัฒนาระบบปัญญาประดิษฐ์ พื้นฐานของโครงข่ายประสาทเทียม พื้นฐานของระบบปัญญาประดิษฐ์ |
| 3 | พื้นฐานของกรอบการประมวลผลเครือข่ายประสาทเชิงลึก | การแพร่กระจายกลับและการหาค่าอัตโนมัติ เทนเซอร์ กราฟอะไซคลิกแบบกำหนดทิศทาง เอกสารกราฟการดำเนินการและระบบ: PyTorch, TensorFlow |
| 4 | การดำเนินงานเมทริกซ์และสถาปัตยกรรมคอมพิวเตอร์ | การทำงานของเมทริกซ์, CPU/SIMD, GPGPU, ASIC/TPU เอกสารและระบบ: Blas, TPU |
| 5 | อัลกอริธึมการฝึกอบรมแบบกระจาย | ความเท่าเทียมของข้อมูล, ความเท่าเทียมของแบบจำลอง, แบบกระจาย SGD เอกสารและระบบ: PipeDream |
| 6 | ระบบการฝึกอบรมแบบกระจาย | MPI, เซิร์ฟเวอร์พารามิเตอร์, ลดทั้งหมด, RDMA เอกสารและระบบ: Horovod |
| 7 | การกำหนดเวลาคลัสเตอร์การประมวลผลแบบต่างกันและระบบการจัดการทรัพยากร | การรันงาน DNN บนคลัสเตอร์: คอนเทนเนอร์ การจัดสรรทรัพยากร เอกสารกำหนดเวลา และระบบ: Kubeflow, OpenPAI, Gandiva |
| 8 | ระบบการเรียนรู้เชิงลึก | ประสิทธิภาพ เวลาแฝง ปริมาณงาน เอกสารการปรับใช้และระบบ: TensorRT, TensorFlowLite, ONNX |
หลักสูตรขั้นสูง
| หมายเลขหลักสูตร | ชื่อเอกสารประกอบคำบรรยาย | หมายเหตุ |
| 9 | การรวบรวมและการเพิ่มประสิทธิภาพของกราฟการคำนวณ | IR, การจับคู่รูปแบบกราฟย่อย, การคูณเมทริกซ์และการเพิ่มประสิทธิภาพหน่วยความจำ เอกสารและระบบ: XLA, MLIR, TVM, NNFusion |
| 10 | การเพิ่มประสิทธิภาพการบีบอัดและการกระจายตัวของโครงข่ายประสาทเทียม | การบีบอัดแบบจำลอง การกระจายตัว การตัดแต่งกิ่ง |
| 11 | ระบบการเรียนรู้ของเครื่องอัตโนมัติ | การปรับแต่งไฮเปอร์พารามิเตอร์ การค้นหาโครงสร้างโครงข่ายประสาทเทียม (NAS) เอกสารและระบบ: Hyperband, SMAC, ENAX, AutoKeras, NNI |
| 12 | ระบบการเรียนรู้แบบเสริมกำลัง | ทฤษฎี RL, เอกสารและระบบ RL และระบบ: AC3, RLlib, AlphaZero |
| 13 | ความปลอดภัยและความเป็นส่วนตัว | เอกสารและระบบความเป็นส่วนตัว การเรียนรู้แบบสหพันธรัฐ: DeepFake |
| 14 | การใช้ปัญญาประดิษฐ์เพื่อเพิ่มประสิทธิภาพระบบคอมพิวเตอร์ | ปัญญาประดิษฐ์ถูกนำไปใช้กับปัญหาของระบบแบบดั้งเดิม ปัญญาประดิษฐ์ถูกนำไปใช้กับเอกสารอัลกอริทึมของระบบและระบบ: ระบบสื่อสตรีมมิ่ง การทำดัชนีฐานข้อมูล การปรับพารามิเตอร์ของระบบ การออกแบบชิป การกำหนดเวลาทรัพยากรเชิงคาดการณ์ |
การทดลองขั้นพื้นฐาน
| หมายเลขการทดลอง | ชื่อการทดลอง | หมายเหตุ |
| การทดลองที่ 1 | ตัวอย่างการเริ่มต้นใช้งานกรอบงานและเครื่องมือ | |
| การทดลองที่ 2 | ปรับแต่งการทำงานของเทนเซอร์ใหม่ | |
| การทดลองที่ 3 | การใช้งานและการเพิ่มประสิทธิภาพ CUDA | |
| การทดลองที่ 4 | การใช้งานหรือการเพิ่มประสิทธิภาพของ AllReduce | |
| การทดลองที่ 5 | กำหนดค่าคอนเทนเนอร์สำหรับการฝึกอบรมระบบคลาวด์หรือการจัดเตรียมการอนุมาน | |
การทดลองขั้นสูง
| การทดลองที่ 6 | เรียนรู้การใช้ระบบการจัดการกำหนดการ | |
| การทดลองที่ 7 | แบบฝึกหัดภารกิจการฝึกอบรมแบบกระจาย | |
| การทดลองที่ 8 | แบบฝึกหัดระบบการเรียนรู้ของเครื่องอัตโนมัติ | |
| การทดลองที่ 9 | แบบฝึกหัดระบบการเรียนรู้แบบเสริมกำลัง | |
หนังสือเรียน "ระบบปัญญาประดิษฐ์" เป็นหนึ่งในหนังสือเรียนที่เกี่ยวข้องกับปัญญาประดิษฐ์ที่วางแผนไว้ในชุมชนการศึกษาปัญญาประดิษฐ์และการก่อสร้างร่วมของ Microsoft เราสังเกตเห็นว่าหนังสือเรียนที่เกี่ยวข้องกับปัญญาประดิษฐ์ในปัจจุบันส่วนใหญ่ โดยเฉพาะอย่างยิ่งการเรียนรู้เชิงลึกและการเรียนรู้ของเครื่อง มุ่งเน้นไปที่ทฤษฎี อัลกอริธึม หรือแอปพลิเคชันที่เกี่ยวข้องเป็นหลัก และหนังสือเรียนที่เกี่ยวข้องกับระบบนั้นหาได้ยาก เราหวังว่าหนังสือเรียนระบบปัญญาประดิษฐ์จะทำให้การศึกษาระบบปัญญาประดิษฐ์เป็นระบบและเป็นสากลมากขึ้น เพื่อร่วมกันส่งเสริมการฝึกฝนผู้มีความสามารถที่จุดบรรจบกันของปัญญาประดิษฐ์และระบบ
หนังสือเรียน "การออกแบบระบบการเรียนรู้เชิงลึก: ทฤษฎีและการปฏิบัติ" เวอร์ชันกระดาษได้รับการตีพิมพ์แล้ว ยินดีต้อนรับสู่การอ่าน!
<จะแจ้งภายหลัง>
โครงการนี้ยินดีรับการสนับสนุนและข้อเสนอแนะ การสนับสนุนส่วนใหญ่กำหนดให้คุณต้องยอมรับข้อตกลงใบอนุญาตผู้ร่วมโครงการ (CLA) โดยประกาศว่าคุณมีสิทธิที่จะให้สิทธิ์แก่เราในการใช้การสนับสนุนของคุณ ดูรายละเอียดได้ที่ https:// cla.opensource.microsoft.com
เมื่อคุณส่งคำขอดึง บอท CLA จะกำหนดโดยอัตโนมัติว่าคุณจำเป็นต้องจัดเตรียม CLA และตกแต่ง PR อย่างเหมาะสมหรือไม่ (เช่น การตรวจสอบสถานะ แสดงความคิดเห็น) เพียงทำตามคำแนะนำที่ได้รับจากบอท คุณจะต้องดำเนินการนี้เท่านั้น ครั้งเดียวกับ repos ทั้งหมดโดยใช้ CLA ของเรา
โครงการนี้ได้นำหลักจรรยาบรรณของ Microsoft Open Source มาใช้ สำหรับข้อมูลเพิ่มเติม โปรดดูคำถามที่พบบ่อยเกี่ยวกับหลักจรรยาบรรณ หรือติดต่อ [email protected] หากมีคำถามหรือความคิดเห็นเพิ่มเติม
Microsoft และผู้มีส่วนร่วมให้สิทธิ์แก่คุณในเอกสารประกอบของ Microsoft และเนื้อหาอื่น ๆ ในที่เก็บนี้ภายใต้ Creative Commons Attribution 4.0 International Public License ดูไฟล์ LICENSE และให้สิทธิ์แก่คุณในรหัสใด ๆ ใน repository ภายใต้ MIT License ดู ไฟล์รหัสใบอนุญาต
Microsoft, Windows, Microsoft Azure และ/หรือผลิตภัณฑ์และบริการอื่นๆ ของ Microsoft ที่อ้างถึงในเอกสารประกอบอาจเป็นเครื่องหมายการค้าหรือเครื่องหมายการค้าจดทะเบียนของ Microsoft ในสหรัฐอเมริกาและ/หรือประเทศอื่นๆ ใบอนุญาตสำหรับโครงการนี้ไม่ได้ให้สิทธิ์แก่คุณในการใช้งานใดๆ ชื่อ โลโก้ หรือเครื่องหมายการค้าของ Microsoft หลักเกณฑ์ทั่วไปเกี่ยวกับเครื่องหมายการค้าของ Microsoft อยู่ที่ https://go.microsoft.com/fwlink/?LinkID=254653
ข้อมูลความเป็นส่วนตัวสามารถพบได้ที่ https://privacy.microsoft.com/en-us/
Microsoft และผู้มีส่วนร่วมขอสงวนสิทธิ์อื่นๆ ทั้งหมด ไม่ว่าจะอยู่ภายใต้ลิขสิทธิ์ สิทธิบัตร หรือเครื่องหมายการค้าของตน ไม่ว่าจะโดยนัย บทบัญญัติหรืออย่างอื่น
