โปรเซสเซอร์ Strix Point Apu Series ล่าสุดของ AMD แสดงข้อได้เปรียบที่สำคัญในแอปพลิเคชั่น AI Language Language Model (LLM) และมีประสิทธิภาพสูงกว่า Intel Lunar Lake Series ออกแบบมาสำหรับแพลตฟอร์มมือถือชุดโปรเซสเซอร์ได้รับการออกแบบมาเพื่อให้ประสิทธิภาพที่สูงขึ้นและเวลาแฝงที่ลดลงเพื่อตอบสนองความต้องการที่เพิ่มขึ้นสำหรับปริมาณงาน AI AMD เน้นประสิทธิภาพที่โดดเด่นของโปรเซสเซอร์ Ryzen AI ในการจัดการงาน LLM และเปิดตัวเครื่องมือ LM Studio เพื่อลดความซับซ้อนของการใช้แบบจำลองภาษาขนาดใหญ่และขีด จำกัด ของผู้ใช้ที่ลดลง
เมื่อเร็ว ๆ นี้ AMD ได้เปิดตัวซีรี่ส์ Strix Point APU ล่าสุดโดยเน้นประสิทธิภาพที่โดดเด่นของซีรี่ส์นี้ในแอปพลิเคชัน AI Big Language Model (LLM) ซึ่งเกินกว่าโปรเซสเซอร์ Lunar Lake Series ของ Intel ด้วยความต้องการที่เพิ่มขึ้นสำหรับปริมาณงาน AI การแข่งขันสำหรับฮาร์ดแวร์กำลังเพิ่มขึ้นเรื่อย ๆ เพื่อรับมือกับตลาด AMD ได้เปิดตัวโปรเซสเซอร์ AI ที่ออกแบบมาสำหรับแพลตฟอร์มมือถือที่ออกแบบมาเพื่อประสิทธิภาพที่สูงขึ้นและเวลาแฝงที่ต่ำกว่า
AMD กล่าวว่าโปรเซสเซอร์ Ryzen AI300 ของซีรี่ส์ IX Point สามารถเพิ่มจำนวนโทเค็นที่ประมวลผลต่อวินาทีได้อย่างมีนัยสำคัญเมื่อประมวลผลงาน AI LLM และ Ryzen AI9375 มีการปรับปรุงประสิทธิภาพ 27% เมื่อเทียบกับ Core Ultra258V ของ Intel ในขณะที่ Core Ultra7V ไม่ใช่รุ่นที่เร็วที่สุดในตระกูล L Lake แต่การนับหลักและการนับด้ายนั้นใกล้เคียงกับโปรเซสเซอร์ Lunar Lake ระดับสูงซึ่งแสดงความสามารถในการแข่งขันของผลิตภัณฑ์ AMD ในพื้นที่นี้
เครื่องมือ LM Studio ของ AMD เป็นแอพพลิเคชั่นที่มุ่งเน้นผู้บริโภคตามเฟรมเวิร์ก LLAMA.CPP ซึ่งออกแบบมาเพื่อทำให้การใช้แบบจำลองภาษาขนาดใหญ่ง่ายขึ้น เฟรมเวิร์กนี้ปรับประสิทธิภาพของ x86cpus ให้เหมาะสมและแม้ว่าจะไม่จำเป็นต้องใช้ GPU ในการเรียกใช้ LLM แต่การใช้ GPU สามารถเพิ่มความเร็วในการประมวลผล จากการทดสอบ Ryzen AI9HX375 สามารถใช้เวลาแฝงที่ต่ำกว่า 35 เท่าใน Meta LLAMA3.21B แบบจำลองและกระบวนการ 50.7 โทเค็นต่อวินาที
ไม่เพียงแค่นั้น Strix Point APU ยังติดตั้งการ์ดกราฟิกแบบบูรณาการ Radeon ที่มีประสิทธิภาพโดยใช้ RDNA3.5 ซึ่งถ่ายโอนงานไปยัง IGPU ผ่าน Ulkan API เพื่อปรับปรุงประสิทธิภาพของ LLM ด้วยการใช้เทคโนโลยีการเปลี่ยนแปลงกราฟิกหน่วยความจำ (VGM) โปรเซสเซอร์ Ryzen AI300 สามารถเพิ่มประสิทธิภาพการจัดสรรหน่วยความจำปรับปรุงประสิทธิภาพการใช้พลังงานและในที่สุดก็บรรลุการปรับปรุงประสิทธิภาพสูงถึง 60%
ในการทดสอบเปรียบเทียบ AMD ใช้การตั้งค่าเดียวกันบนแพลตฟอร์มสนามเด็กเล่น Intel AI และพบว่า Ryzen AI9HX375 นั้นเร็วขึ้น 87% บน Microsoft PhI3.1 มากกว่า Core Ultra7258V และเร็วกว่า 13% ในรุ่น Mistral7B อย่างไรก็ตามผลลัพธ์จะน่าสนใจยิ่งขึ้นหากเปรียบเทียบกับ Flagship Core Ultra9288V ในช่วง Lunar Lake ปัจจุบัน AMD มุ่งเน้นไปที่การใช้แบบจำลองภาษาขนาดใหญ่ที่ได้รับความนิยมมากขึ้นผ่าน LM Studio โดยมีเป้าหมายเพื่อให้ผู้ใช้ที่ไม่ใช่ด้านเทคนิคเริ่มต้นใช้งานได้ง่ายขึ้น
ประเด็นสำคัญ:
AMD Strix Point APUS ปรับปรุงประสิทธิภาพ 27% จาก Intel Lunar Lake ในแอปพลิเคชัน AI LLM
Ryzen AI9HX375 ดำเนินการแฝงที่ต่ำกว่า 3.5 เท่าในรุ่น Meta LLAMA3.2
เครื่องมือ LM Studio ได้รับการออกแบบมาเพื่อใช้รูปแบบภาษาขนาดใหญ่ง่ายขึ้นและเหมาะสำหรับผู้ใช้ที่ไม่ใช่ด้านเทคนิค
ในระยะสั้นประสิทธิภาพที่แข็งแกร่งของซีรี่ส์ AMD Strix Point APU ในฟิลด์แอปพลิเคชัน AI LLM และเครื่องมือสตูดิโอ LM ที่ใช้งานง่ายบ่งบอกถึงการจัดวางที่ใช้งานอยู่ของ AMD และความสามารถในการแข่งขันในตลาดฮาร์ดแวร์ AI ทำให้ผู้บริโภคสะดวกยิ่งขึ้น และประสบการณ์ AI ที่มีประสิทธิภาพ