Meta Platforms merilis model bahasa besar LLAMA 3.21B dan 3B yang dirampingkan saat ini, yang merupakan pertama kalinya dalam industri ini untuk mencapai operasi stabil model bahasa besar pada ponsel dan tablet biasa. Melalui teknologi pelatihan kuantitatif dan algoritma optimasi, versi ini mengurangi ukuran file sebesar 56%, mengurangi memori yang berjalan sebesar 41%, dan meningkatkan kecepatan menjadi 4 kali versi asli. Kemajuan terobosan ini menandai transformasi mode pemrosesan data dari server terpusat ke terminal pribadi, membuka cara baru untuk pengembangan aplikasi perangkat seluler di masa depan.
Meta Platforms hari ini merilis versi ramping baru dari model LLAMA-nya, termasuk produk LLAMA 3.21B dan 3B, mencapai operasi stabil model bahasa skala besar pada smartphone dan tablet biasa untuk pertama kalinya. Dengan mengintegrasikan teknologi pelatihan kuantitatif dan algoritma optimasi secara inovatif, versi baru ini mengurangi ukuran file sebesar 56% sambil mempertahankan kualitas pemrosesan asli, dan mengurangi persyaratan memori operasi sebesar 41%, dan meningkatkan kecepatan pemrosesan sebesar 4 kali ke versi asli. Pemrosesan terus menerus dari 8.000 teks karakter.
Saat diuji pada ponsel Android, model AI terkompresi Meta (Spinquant dan Qlora) telah secara signifikan meningkatkan kecepatan dan efisiensi dibandingkan dengan versi standar. Model yang lebih kecil berjalan empat kali lebih cepat, sementara penggunaan memori berkurang
Dalam uji aktual ponsel OnePlus12, versi terkompresi ini menunjukkan kinerja yang sebanding dengan versi standar, sementara sangat meningkatkan efisiensi operasi dan secara efektif memecahkan masalah jangka panjang dari kekuatan komputasi yang tidak memadai dari perangkat seluler. Meta memilih untuk mengadopsi strategi pasar kerja sama terbuka dan melakukan kerja sama mendalam dengan produsen prosesor seluler utama seperti Qualcomm dan MediaTek. .
Strategi ini sangat kontras dengan raksasa lain di industri ini. Rute terbuka Meta memberi pengembang ruang inovasi yang lebih besar ketika Google dan Apple memilih untuk mengintegrasikan teknologi baru dengan sistem operasi mereka. Rilis ini menandai transformasi mode pemrosesan data dari server terpusat ke terminal pribadi.
Terobosan teknologi ini dapat memicu perubahan besar seperti periode ketika komputer pribadi dipopulerkan, meskipun mereka masih menghadapi tantangan seperti persyaratan kinerja perangkat dan pemilihan platform pengembang. Ketika kinerja perangkat seluler terus meningkat, keuntungan dari solusi pemrosesan lokal akan secara bertahap akan muncul. Meta berharap untuk mempromosikan seluruh industri untuk berkembang dalam arah yang lebih efisien dan aman melalui kerja sama terbuka, dan membuka cara baru untuk pengembangan aplikasi perangkat seluler di masa depan.
Pilihan Meta untuk strategi kerja sama terbuka berbeda dengan raksasa teknologi lainnya, memberikan pengembang ruang yang lebih luas untuk inovasi dan juga menguasai arah pengembangan pemrosesan AI yang terlokalisasi di masa depan. Terobosan teknologi ini diharapkan dapat mengubah cara perangkat seluler digunakan, membawa perubahan besar seperti periode mempopulerkan komputer pribadi, dan ada baiknya menantikan pengembangannya di masa depan.