Startup kecerdasan buatan Perancis, Mistral AI, mengumumkan peluncuran API moderasi konten baru, yang bertujuan untuk bersaing dengan pesaing seperti OpenAI dan mengatasi tantangan yang semakin berat dalam keamanan AI dan pemfilteran konten. API ini didasarkan pada model Ministral8B Mistral dan telah dioptimalkan untuk mengidentifikasi sembilan jenis konten berbahaya, meliputi pornografi, perkataan yang mendorong kebencian, kekerasan, dll., dan mendukung berbagai bahasa, yang membuatnya menonjol dari pesaing. Mistral AI menekankan pentingnya keamanan dan secara aktif berpartisipasi dalam AI Security Summit, berjanji untuk mengembangkan teknologi AI secara bertanggung jawab. Editor Downcodes akan memberi Anda penjelasan mendetail tentang API Mistral AI baru ini.
Layanan ini didasarkan pada model Ministral8B Mistral, yang disesuaikan untuk mendeteksi konten yang berpotensi membahayakan dalam sembilan kategori berbeda, termasuk pornografi, perkataan yang mendorong kebencian, kekerasan, aktivitas berbahaya, dan informasi identitas pribadi. API memiliki kemampuan untuk menganalisis teks mentah dan konten percakapan.
Mistral AI menekankan pada konferensi pers bahwa “keamanan memainkan peran penting dalam membuat AI berguna.” Mereka percaya bahwa langkah-langkah perlindungan keamanan tingkat sistem sangat penting untuk melindungi aplikasi hilir.
Peluncuran API moderasi konten terjadi pada saat industri AI menghadapi tekanan yang semakin besar dan perusahaan terpaksa meningkatkan keamanan teknologi mereka. Bulan lalu, Mistral juga menandatangani perjanjian dengan perusahaan AI besar lainnya untuk AI Security Summit, berjanji untuk mengembangkan teknologi AI secara bertanggung jawab.
API yang baru diluncurkan sudah tersedia di platform Le Chat Mistral, mendukung 11 bahasa termasuk Arab, Cina, Inggris, Prancis, Jerman, Italia, Jepang, Korea, Portugis, Rusia, dan Spanyol. Kemampuan multibahasa ini membedakan Mistral dari beberapa pesaing yang hanya berfokus pada konten berbahasa Inggris.
Mistral AI juga telah menjalin kemitraan dengan perusahaan-perusahaan terkemuka seperti Microsoft Azure, Qualcomm dan SAP, yang secara bertahap meningkatkan pengaruhnya di pasar AI perusahaan. SAP baru-baru ini mengumumkan bahwa mereka akan menjadi tuan rumah bagi model Mistral, termasuk Mistral Large2, pada infrastrukturnya untuk menyediakan solusi AI yang aman dan mematuhi peraturan Eropa.
Strategi teknologi Mistral menunjukkan kematangan melebihi usianya. Dengan melatih model moderasinya untuk memahami konteks percakapan, bukan hanya menganalisis teks terisolasi, Mistral telah mengembangkan sistem yang mampu menangkap konten berbahaya yang lebih halus yang mungkin terlewatkan dalam filter yang lebih mendasar.
Saat ini, API audit tersedia melalui platform cloud Mistral dan dikenakan biaya berdasarkan penggunaan. Mistral mengatakan pihaknya akan terus meningkatkan akurasi sistem dan memperluas fungsionalitas berdasarkan masukan pelanggan dan perubahan kebutuhan keamanan.
Sejak didirikan, Mistral telah berkembang pesat menjadi kekuatan penting dalam mempromosikan pemikiran keamanan AI perusahaan. Dalam bidang yang didominasi oleh raksasa teknologi AS, perspektif Mistral Eropa mengenai privasi dan keamanan mungkin merupakan kekuatan terbesarnya.
Pintu masuk API: https://docs.mistral.ai/capabilities/guardrailing/
Secara keseluruhan, API moderasi konten Mistral AI tidak hanya menunjukkan kemampuan inovatifnya di bidang keamanan AI, namun juga memberikan solusi AI yang lebih aman dan andal bagi perusahaan. Dukungan multi-bahasa dan pemahaman konteks percakapan memberikannya posisi yang kuat di pasar yang sangat kompetitif. Kedepannya, pengembangan Mistral AI patut terus mendapat perhatian.