Startup AI Perancis, Mistral, baru-baru ini merilis "Les Ministraux", serangkaian model AI generatif yang dirancang untuk perangkat edge, termasuk Ministral3B dan Ministral8B, yang dirancang untuk memenuhi kebutuhan pemrosesan lokal dan prioritas privasi. Redaksi Downcodes akan menjelaskan secara detail pencapaian terbaru Mistral dan strategi pengembangannya di bidang AI.
Startup AI Perancis, Mistral, baru-baru ini mengumumkan peluncuran serangkaian model AI generatif baru yang dirancang untuk perangkat edge, seperti laptop dan ponsel. Mistral menamai rangkaian model ini "Les Ministraux" dan bertujuan untuk memenuhi kebutuhan pasar akan pemrosesan lokal dan privasi terlebih dahulu.
Seri Les Ministraux yang baru dirilis mencakup dua model: Ministral3B dan Ministral8B. Perlu dicatat bahwa jendela konteks kedua model mencapai 128,000 token dan mampu menangani panjang teks sekitar 50 halaman sebuah buku. Artinya, baik itu pembuatan teks, terjemahan di perangkat, atau penyediaan layanan asisten cerdas offline, model ini dapat menanganinya dengan mudah.
Mistral mengatakan dalam blognya bahwa semakin banyak pelanggan dan mitra mencari solusi yang dapat melakukan inferensi secara lokal, yang melibatkan skenario aplikasi penting seperti terjemahan pada perangkat, analisis lokal, dan robot otonom. Les Ministraux dikembangkan untuk memberikan solusi latensi rendah dan efisien secara komputasi dalam skenario ini.
Saat ini, Ministral8B tersedia untuk diunduh, tetapi hanya untuk tujuan penelitian. Pengembang dan perusahaan yang ingin mendapatkan lisensi penggunaan komersial Ministral3B atau Ministral8B perlu menghubungi Mistral secara langsung. Pada saat yang sama, pengembang juga akan dapat menggunakan kedua model ini melalui platform cloud Mistral, La Platforme, serta layanan cloud lainnya yang akan bekerja sama dengannya dalam beberapa minggu mendatang. Ministral8B mengenakan biaya 10 sen per juta token input/output, sedangkan Ministral3B mengenakan biaya 4 sen.
Baru-baru ini, ada tren yang berkembang menuju model yang lebih kecil karena lebih murah dan lebih cepat untuk dilatih, disempurnakan, dan dijalankan. Google terus menambahkan model baru ke jajaran model kecil Gemma, sementara Microsoft telah meluncurkan lini model Phi. Meta juga telah meluncurkan beberapa model kecil yang dioptimalkan untuk perangkat keras edge pada pembaruan seri Llama terbaru.
Mistral mengklaim bahwa Ministral3B dan Ministral8B mengungguli model Llama dan Gemma yang serupa, serta model Mistral7B miliknya, dalam beberapa tolok ukur AI yang dirancang untuk menilai kepatuhan terhadap instruksi dan kemampuan memecahkan masalah. Berkantor pusat di Paris, Mistral baru-baru ini mengumpulkan dana sebesar US$640 juta dan secara bertahap memperluas portofolio produk AI-nya. Selama beberapa bulan terakhir, perusahaan telah meluncurkan layanan gratis yang memungkinkan pengembang menguji model mereka dan merilis SDK sehingga pelanggan dapat menyempurnakan model tersebut. Selain itu, model pembuatan kode yang disebut Codestral diperkenalkan.
Para pendiri Mistral berasal dari Meta dan DeepMind Google, dan tujuan perusahaan ini adalah menciptakan model andalan yang dapat bersaing dengan model papan atas seperti GPT-4o OpenAI dan Claude Anthropic, serta menghasilkan keuntungan dalam prosesnya. Meskipun menghasilkan keuntungan adalah tujuan yang menantang bagi banyak startup AI generatif, Mistral dilaporkan mulai menghasilkan pendapatan pada musim panas ini.
Menyorot:
1. Rangkaian model Les Ministraux yang diluncurkan oleh Mistral dirancang untuk perangkat edge dan mendukung pemrosesan privasi lokal.
2. Model baru ini mencakup Minor3B dan Ministral8B, yang memiliki kemampuan pemrosesan konteks yang kuat dan cocok untuk berbagai skenario aplikasi.
3. Mistral telah memperoleh keuntungan dan terus memperluas portofolio produk AI-nya untuk bersaing dengan model-model terkemuka di industri.
Rangkaian model Les Ministraux dari Mistral menghadirkan kemungkinan baru untuk aplikasi AI lokal dengan kinerjanya yang kuat dan optimalisasi untuk perangkat edge. Di masa depan, pengembangan Mistral patut mendapat perhatian terus-menerus, dan mari kita tunggu dan lihat bagaimana hal ini menciptakan lebih banyak terobosan di bidang AI.