Meta baru-baru ini mengumumkan peluncuran anggota terbaru dari seri Llama - Llama3.370B. Ahmad Al-Dahle, wakil presiden AI generatif Meta, menyampaikan berita tentang penurunan yang signifikan.
Al-Dahle mengatakan dengan memanfaatkan teknologi pasca-pelatihan terbaru, Llama3.370B tidak hanya meningkatkan kinerja tetapi juga mengurangi biaya pengoperasian. Menurut hasil pengujian benchmark yang dirilis oleh Meta, Llama3.370B telah melampaui Gemini1.5Pro Google, GPT-4 OpenAI, dan Nova Pro yang baru dirilis Amazon di banyak bidang, terutama dalam pengujian MMLU yang mengevaluasi kemampuan pemahaman bahasa model.
Model tersebut sekarang tersedia untuk diunduh dari sumber seperti Hugging Face dan platform resmi Llama, sebuah langkah Meta yang bertujuan untuk mendominasi bidang AI dengan model “terbuka”. Model Llama Meta dapat diterapkan ke berbagai skenario dan mendukung komersialisasi, meskipun Meta telah menetapkan batasan penggunaan untuk beberapa pengembang, mengharuskan platform dengan lebih dari 700 juta pengguna bulanan untuk mengajukan lisensi khusus. Meskipun demikian, model Llama telah diunduh lebih dari 650 juta kali, yang menunjukkan popularitasnya yang luas di kalangan pengembang AI di seluruh dunia.
Untuk mendukung pelatihan model AI berskala lebih besar di masa depan, Meta berinvestasi besar-besaran dalam infrastruktur komputasi. Perusahaan baru-baru ini mengumumkan bahwa mereka akan membangun pusat data AI senilai $10 miliar di Louisiana, yang merupakan pusat data AI terbesar di Meta hingga saat ini. Zuckerberg menyebutkan selama panggilan pendapatan bahwa untuk melatih model Llama4 generasi berikutnya, daya komputasi yang dibutuhkan akan 10 kali lipat dari Llama3. Meta saat ini telah membeli lebih dari 100.000 cluster GPU Nvidia, menyamai sumber daya pesaing seperti xAI.
Karena biaya pelatihan model AI generatif terus meningkat, belanja modal Meta juga menunjukkan tren peningkatan. Belanja modal pada kuartal kedua tahun 2024 meningkat hampir 33% menjadi US$8,5 miliar. Pertumbuhan ini terutama disebabkan oleh investasi berkelanjutan Meta pada server, pusat data, dan infrastruktur jaringan.