Mistral AI สตาร์ทอัพด้านปัญญาประดิษฐ์ของฝรั่งเศส ประกาศเปิดตัว API การกลั่นกรองเนื้อหาใหม่ โดยมีเป้าหมายเพื่อแข่งขันกับคู่แข่ง เช่น OpenAI และจัดการกับความท้าทายที่รุนแรงมากขึ้นของการรักษาความปลอดภัย AI และการกรองเนื้อหา API นี้ใช้โมเดล Ministral8B ของ Mistral และได้รับการปรับปรุงเพื่อระบุเนื้อหาอันตรายประเภทต่างๆ เก้าประเภท ครอบคลุมภาพลามกอนาจาร คำพูดแสดงความเกลียดชัง ความรุนแรง ฯลฯ และรองรับหลายภาษา ซึ่งทำให้โดดเด่นกว่าคู่แข่ง Mistral AI เน้นย้ำถึงความสำคัญของความปลอดภัยและมีส่วนร่วมอย่างแข็งขันในการประชุมสุดยอดด้านความปลอดภัยของ AI โดยสัญญาว่าจะพัฒนาเทคโนโลยี AI อย่างมีความรับผิดชอบ บรรณาธิการของ Downcodes จะให้คำอธิบายโดยละเอียดเกี่ยวกับ API ใหม่นี้ของ Mistral AI
บริการนี้ใช้โมเดล Ministral8B ของ Mistral ซึ่งได้รับการปรับแต่งอย่างละเอียดเพื่อตรวจจับเนื้อหาที่อาจเป็นอันตรายใน 9 หมวดหมู่ที่แตกต่างกัน รวมถึงภาพอนาจาร คำพูดแสดงความเกลียดชัง ความรุนแรง กิจกรรมที่เป็นอันตราย และข้อมูลส่วนบุคคล API มีความสามารถในการวิเคราะห์ทั้งข้อความดิบและเนื้อหาการสนทนา
Mistral AI เน้นย้ำในงานแถลงข่าวว่า "การรักษาความปลอดภัยมีบทบาทสำคัญในการทำให้ AI มีประโยชน์" พวกเขาเชื่อว่ามาตรการป้องกันความปลอดภัยระดับระบบมีความสำคัญอย่างยิ่งต่อการปกป้องแอปพลิเคชันดาวน์สตรีม
การเปิดตัว API การกลั่นกรองเนื้อหาเกิดขึ้นในช่วงเวลาที่อุตสาหกรรม AI กำลังเผชิญกับแรงกดดันที่เพิ่มขึ้น และบริษัทต่างๆ ถูกบังคับให้ปรับปรุงความปลอดภัยของเทคโนโลยีของตน เมื่อเดือนที่แล้ว Mistral ยังได้ลงนามข้อตกลงกับบริษัท AI รายใหญ่อื่นๆ สำหรับการประชุม AI Security Summit โดยให้คำมั่นว่าจะพัฒนาเทคโนโลยี AI อย่างมีความรับผิดชอบ
API ที่เพิ่งเปิดตัวใหม่พร้อมใช้งานแล้วบนแพลตฟอร์ม Le Chat ของ Mistral ซึ่งรองรับ 11 ภาษา ได้แก่ อาหรับ จีน อังกฤษ ฝรั่งเศส เยอรมัน อิตาลี ญี่ปุ่น เกาหลี โปรตุเกส รัสเซีย และสเปน ความสามารถหลายภาษานี้ทำให้ Mistral แตกต่างจากคู่แข่งบางรายที่เน้นเฉพาะเนื้อหาภาษาอังกฤษเป็นหลัก
Mistral AI ยังได้สร้างความร่วมมือกับบริษัทชื่อดังอย่าง Microsoft Azure, Qualcomm และ SAP โดยค่อยๆ เพิ่มอิทธิพลในตลาด AI ระดับองค์กร เมื่อเร็วๆ นี้ SAP ได้ประกาศว่าจะโฮสต์โมเดลของ Mistral ซึ่งรวมถึง Mistral Large2 บนโครงสร้างพื้นฐานเพื่อมอบโซลูชัน AI ที่ปลอดภัยซึ่งสอดคล้องกับกฎระเบียบของยุโรป
กลยุทธ์ด้านเทคโนโลยีของ Mistral แสดงให้เห็นถึงความเป็นผู้ใหญ่ที่เกินกว่าปีที่ผ่านมา มิสทรัลได้พัฒนาระบบที่สามารถตรวจจับเนื้อหาที่เป็นอันตรายที่ละเอียดอ่อนมากขึ้น ซึ่งอาจพลาดไปในตัวกรองพื้นฐานมากขึ้น ด้วยการฝึกโมเดลการกลั่นกรองเพื่อทำความเข้าใจบริบทของการสนทนา แทนที่จะวิเคราะห์ข้อความที่แยกออกมาเพียงอย่างเดียว
ปัจจุบัน API การตรวจสอบพร้อมใช้งานผ่านแพลตฟอร์มคลาวด์ของ Mistral และคิดค่าบริการตามการใช้งาน มิสทรัลกล่าวว่าจะปรับปรุงความแม่นยำของระบบต่อไปและขยายฟังก์ชันการทำงานตามความคิดเห็นของลูกค้าและความต้องการด้านความปลอดภัยที่เปลี่ยนแปลงไป
นับตั้งแต่ก่อตั้ง Mistral ได้เติบโตอย่างรวดเร็วจนกลายเป็นกำลังสำคัญในการส่งเสริมแนวคิดด้านความปลอดภัยของ AI ระดับองค์กร ในสาขาที่ครอบงำโดยบริษัทยักษ์ใหญ่ด้านเทคโนโลยีของสหรัฐอเมริกา มุมมองของยุโรปเกี่ยวกับความเป็นส่วนตัวและความปลอดภัยของ Mistral อาจเป็นจุดแข็งที่ยิ่งใหญ่ที่สุด
ทางเข้า API: https://docs.mistral.ai/capabilities/guardrailing/
โดยรวมแล้ว API การกลั่นกรองเนื้อหาของ Mistral AI ไม่เพียงแต่แสดงให้เห็นถึงความสามารถเชิงนวัตกรรมในด้านความปลอดภัยของ AI เท่านั้น แต่ยังช่วยให้องค์กรต่างๆ ได้รับโซลูชัน AI ที่ปลอดภัยและเชื่อถือได้มากขึ้นอีกด้วย การสนับสนุนหลายภาษาและความเข้าใจในบริบทการสนทนาทำให้มีสถานะที่แข็งแกร่งในตลาดที่มีการแข่งขันสูง ในอนาคต การพัฒนา Mistral AI สมควรได้รับความสนใจอย่างต่อเนื่อง