Baru-baru ini, popularitas aplikasi model bahasa besar (LLM) AI telah mendorong persaingan yang ketat di bidang perangkat keras. AMD telah meluncurkan seri APU Strix Point terbarunya, dan prosesor Ryzen AI-nya menunjukkan keunggulan signifikan dalam menangani tugas-tugas LLM, dengan kinerja yang jauh melebihi seri Intel Lunar Lake. Editor Downcodes akan memberi Anda pemahaman mendalam tentang kinerja seri APU Strix Point dan inovasi teknologi di baliknya.
Baru-baru ini, AMD merilis seri APU Strix Point terbarunya, yang menekankan performa seri ini yang luar biasa dalam aplikasi model bahasa besar (LLM) AI, jauh melampaui prosesor seri Intel Lunar Lake. Seiring dengan meningkatnya permintaan beban kerja AI, persaingan perangkat keras menjadi semakin ketat. Menanggapi pasar, AMD meluncurkan prosesor AI yang dirancang untuk platform seluler, yang bertujuan untuk menghasilkan kinerja lebih tinggi dan latensi lebih rendah.
AMD mengatakan bahwa prosesor Ryzen AI300 seri ix Point dapat secara signifikan meningkatkan jumlah Token yang diproses per detik saat memproses tugas-tugas AI LLM. Dibandingkan dengan Intel Core Ultra258V, kinerja Ryzen AI9375 telah meningkat sebesar 27%. Meskipun Core Ultra7V bukan model tercepat di seri L Lake, jumlah inti dan threadnya mendekati prosesor kelas atas Lunar Lake, menunjukkan daya saing produk AMD di bidang ini.
Alat LM Studio AMD adalah aplikasi berorientasi konsumen berdasarkan kerangka llama.cpp, yang dirancang untuk menyederhanakan penggunaan model bahasa besar. Kerangka kerja ini mengoptimalkan kinerja CPU x86. Meskipun GPU tidak diperlukan untuk menjalankan LLM, penggunaan GPU dapat lebih mempercepat pemrosesan. Berdasarkan pengujian, Ryzen AI9HX375 dapat mencapai latensi 35 kali lebih rendah pada model Instruktur Meta Llama3.21b, memproses 50,7 Token per detik. Sebagai perbandingan, Core Ultra7258V hanya 39,9 Token.
Tidak hanya itu, APU Strix Point juga dilengkapi dengan kartu grafis terintegrasi Radeon yang kuat berdasarkan arsitektur RDNA3.5, yang dapat memindahkan tugas ke iGPU melalui ulkan API untuk lebih meningkatkan kinerja LLM. Menggunakan teknologi Variable Graphics Memory (VGM), prosesor Ryzen AI300 dapat mengoptimalkan alokasi memori, meningkatkan efisiensi energi, dan pada akhirnya mencapai peningkatan kinerja hingga 60%.
Dalam pengujian perbandingan, AMD menggunakan pengaturan yang sama pada platform Intel AI Playground dan menemukan bahwa Ryzen AI9HX375 87% lebih cepat dibandingkan Core Ultra7258V pada Microsoft Phi3.1 dan 13% lebih cepat pada model Mistral7b Instruct0.3. Meski begitu, hasilnya lebih menarik jika dibandingkan dengan Core Ultra9288V, andalan seri Lunar Lake. Saat ini, AMD berfokus untuk membuat penggunaan model bahasa besar menjadi lebih populer melalui LM Studio, yang bertujuan untuk memudahkan lebih banyak pengguna non-teknis untuk memulai.
Peluncuran seri AMD Strix Point APU menandai semakin ketatnya persaingan di bidang prosesor AI, dan juga menunjukkan bahwa aplikasi AI di masa depan akan memiliki dukungan perangkat keras yang lebih bertenaga. Peningkatan kinerja dan efisiensi energinya akan memberikan pengalaman AI yang lebih lancar dan bertenaga kepada pengguna. Editor Downcodes akan terus memperhatikan perkembangan terkini di bidang ini dan memberikan laporan yang lebih menarik kepada pembaca.