Prosesor Seri APU titik AMD terbaru menunjukkan keunggulan yang signifikan dalam aplikasi AI Banger Language Model (LLM), dan mengungguli Intel Lunar Lake Series. Dirancang untuk platform seluler, serangkaian prosesor dirancang untuk memberikan kinerja yang lebih tinggi dan latensi yang lebih rendah untuk memenuhi permintaan yang meningkat untuk beban kerja AI. AMD menekankan kinerja luar biasa dari prosesor Ryzen AI dalam menangani tugas LLM, dan meluncurkan alat studio LM untuk menyederhanakan penggunaan model bahasa besar dan ambang batas pengguna yang lebih rendah.
Baru -baru ini, AMD merilis seri APU Strix Point terbaru, menekankan kinerja luar biasa dari seri ini dalam aplikasi AI Big Language Model (LLM), jauh melampaui prosesor Seri Lunar Lake Intel. Dengan meningkatnya permintaan untuk beban kerja AI, persaingan untuk perangkat keras menjadi semakin sengit. Untuk mengatasi pasar, AMD telah meluncurkan prosesor AI yang dirancang untuk platform seluler, yang dirancang untuk kinerja yang lebih tinggi dan latensi yang lebih rendah.
AMD mengatakan bahwa prosesor Ryzen AI300 dari seri IX Point dapat secara signifikan meningkatkan jumlah token yang diproses per detik saat memproses tugas AI LLM, dan Ryzen AI9375 memiliki peningkatan kinerja 27% dibandingkan dengan inti Ultra258V inti Intel. Sementara Ultra7V inti bukan model tercepat dalam keluarga L Lake, jumlah inti dan utasnya dekat dengan prosesor danau bulan kelas atas, menunjukkan daya saing produk AMD di daerah ini.
AMD's LM Studio Tool adalah aplikasi yang berorientasi konsumen berdasarkan kerangka kerja llama.cpp, yang dirancang untuk menyederhanakan penggunaan model bahasa besar. Kerangka kerja ini mengoptimalkan kinerja x86cpus, dan meskipun tidak memerlukan GPU untuk menjalankan LLM, penggunaan GPU selanjutnya dapat mempercepat kecepatan pemrosesan. Menurut tes, Ryzen AI9HX375 dapat mencapai latensi 35 kali lebih rendah dalam Meta LLAMA3.21B Model Instruksi, dan memproses 50,7 token per detik.
Tidak hanya itu, APU titik strix juga dilengkapi dengan kartu grafis terintegrasi Radeon yang kuat berdasarkan RDNA3.5, yang melepas tugas ke IGPU melalui Ulkan API, lebih lanjut meningkatkan kinerja LLM. Menggunakan teknologi perubahan grafis memori (VGM), prosesor Ryzen AI300 dapat mengoptimalkan alokasi memori, meningkatkan efisiensi energi, dan pada akhirnya mencapai peningkatan kinerja hingga 60%.
Sebagai tes perbandingan, AMD menggunakan pengaturan yang sama pada platform taman bermain Intel AI dan menemukan bahwa Ryzen AI9HX375 adalah 87% lebih cepat pada Microsoft PHI3.1 daripada inti Ultra7258V dan 13% lebih cepat dalam model Instruct0.3 Mistral7b. Namun demikian, hasilnya akan lebih menarik jika dibandingkan dengan inti unggulan Ultra9288V di Lunar Lake Range. Saat ini, AMD berfokus pada membuat penggunaan model bahasa besar lebih populer melalui LM Studio, yang bertujuan untuk memudahkan lebih banyak pengguna non-teknis untuk memulai.
Poin -Poin Kunci:
AMD Strix Point APU meningkatkan kinerja sebesar 27% di atas Danau Intel Lunar dalam aplikasi AI LLM.
Ryzen AI9HX375 melakukan latensi 3,5 kali lebih rendah dalam model meta llama3.2.
Alat LM Studio dirancang untuk membuat penggunaan model bahasa besar lebih mudah dan cocok untuk pengguna non-teknis.
Singkatnya, kinerja yang kuat dari seri AMD Strix Point APU di bidang aplikasi AI LLM dan alat studio LM yang mudah digunakan menunjukkan tata letak aktif dan daya saing AMD di pasar perangkat keras AI, membawa konsumen lebih nyaman konsumen yang lebih nyaman dan pengalaman AI yang efisien.