Laporan editor Downcode: Startup kecerdasan buatan Perancis Mistral AI baru-baru ini merilis model bahasa generasi baru, Ministral3B dan Ministral8B, yang merupakan bagian dari seri "Ministraux" dan dirancang khusus untuk perangkat edge dan skenario komputasi edge. Kedua model ini mendukung panjang konteks hingga 128.000 token, memiliki keunggulan signifikan dalam privasi data dan pemrosesan lokal, serta memberikan dukungan kuat untuk aplikasi seperti terjemahan lokal, asisten cerdas offline, analisis data, dan robotika otonom. Performanya melampaui banyak model serupa dalam berbagai pengujian benchmark, sehingga menunjukkan daya saing yang kuat.
Baru-baru ini, startup kecerdasan buatan Perancis, Mistral AI, mengumumkan model bahasa generasi baru mereka-Ministral3B dan Ministral8B.
Kedua model baru ini adalah bagian dari seri "Ministraux", yang dirancang untuk perangkat edge dan skenario komputasi edge, mendukung panjang konteks hingga 128.000 token. Artinya, model ini tidak hanya kuat namun juga dapat digunakan dalam situasi di mana privasi data dan pemrosesan lokal sangat penting.
Mistral mengatakan rangkaian model Ministraux cocok untuk berbagai aplikasi seperti terjemahan lokal, asisten pintar offline, analisis data, dan robotika otonom. Untuk lebih meningkatkan efisiensi, model Ministraux juga dapat dikombinasikan dengan model bahasa yang lebih besar (seperti Mistral Large) untuk berfungsi sebagai perantara yang efektif dalam alur kerja multi-langkah.
Dalam hal kinerja, tolok ukur yang disediakan oleh Mistral menunjukkan bahwa Ministral3B dan 8B mengungguli banyak model serupa di berbagai kategori, seperti Gemma22B Song dan Llama3.18B Meta. Perlu disebutkan bahwa meskipun memiliki jumlah parameter yang lebih sedikit, Minitral3B mengungguli pendahulunya, Mistral7B, dalam beberapa pengujian.
Faktanya, Mistral8B berkinerja baik di semua pengujian, terutama di berbagai bidang seperti pengetahuan, pengetahuan umum, pemanggilan fungsi, dan kemampuan multibahasa.
Soal harga, kedua model baru dari Kementerian AI ini sudah tersedia melalui API. Biaya Ministral8B adalah $0,10 per juta token, sedangkan Ministral3B adalah $0,04. Selain itu, Mistral menyediakan bobot model untuk Instruksi Ministral8B untuk tujuan penelitian. Perlu dicatat bahwa kedua model Mistral baru ini juga akan segera diluncurkan melalui mitra cloud seperti Google Vertex dan AWS.
Menyorot:
- Mistral AI meluncurkan Minitral3B dan 8B, mendukung panjang konteks hingga 128.000 token.
- Kedua model ini cocok untuk aplikasi seperti terjemahan lokal, asisten offline, analisis data, dan robot otonom.
- Dalam hal harga, biaya per juta token untuk Ministral8B adalah US$0,10 dan Ministral3B adalah US$0,04.
Secara keseluruhan, Minitral3B dan 8B Mistral AI menghadirkan kemungkinan-kemungkinan baru di bidang kecerdasan buatan dengan kinerjanya yang kuat, panjang konteks yang panjang, dan skenario aplikasi yang fleksibel. Kedua model ini diyakini akan memainkan peran penting dalam komputasi edge dan aplikasi lokalisasi. Redaksi Downcodes akan terus memperhatikan perkembangan selanjutnya.