Les Ministraux สตาร์ทอัพด้าน AI ในฝรั่งเศส ได้เปิดตัวโมเดล AI น้ำหนักเบา 2 รุ่น ได้แก่ Ministral3B และ Ministral8B โดยมีพารามิเตอร์ 3 พันล้านและ 8 พันล้านตามลำดับ ซึ่งออกแบบมาสำหรับอุปกรณ์ Edge โมเดลทั้งสองนี้มีประสิทธิภาพโดดเด่นในการสอนหลังการทดสอบเกณฑ์มาตรฐาน โดยเฉพาะอย่างยิ่งเหนือกว่าโมเดลในระดับเดียวกันในแง่ของความรู้ สามัญสำนึก การใช้เหตุผล และประสิทธิภาพ พวกเขายังทำได้ดีกว่าโมเดลที่มีพารามิเตอร์ที่ใหญ่กว่าในบางแง่มุม ด้วยการกำหนดเกณฑ์มาตรฐานใหม่สำหรับระดับต่ำ แบบจำลองพารามิเตอร์ บรรณาธิการของ Downcodes จะให้คำอธิบายโดยละเอียดเกี่ยวกับประสิทธิภาพ ฟีเจอร์ และบริษัทที่อยู่เบื้องหลังโมเดลทั้งสองนี้
Les Ministraux สตาร์ทอัพด้าน AI ในฝรั่งเศส ได้เปิดตัวโมเดลน้ำหนักเบาใหม่ 2 รุ่น ได้แก่ Ministral3B และ Ministral8B ที่ออกแบบมาเป็นพิเศษสำหรับอุปกรณ์ Edge โดยมีพารามิเตอร์ 3 พันล้านและ 8 พันล้านตามลำดับ ทั้งสองรุ่นทำงานได้ดีในคำสั่งตามเกณฑ์มาตรฐาน โดย Ministral3B เหนือกว่า Llama38B และ Mistral7B ในขณะที่ Ministral8B มีประสิทธิภาพเหนือกว่าทั้งสองรุ่นนี้ในทุกด้าน ยกเว้นความสามารถของโค้ด
ผลการทดสอบแสดงให้เห็นว่าประสิทธิภาพของ Minitral3B และ Minitral8B เทียบได้กับรุ่นโอเพ่นซอร์ส เช่น Gemma2 และ Llama3.1 ทั้งสองรุ่นรองรับบริบทได้มากถึง 128,000 รายการ และกำหนดเกณฑ์มาตรฐานใหม่สำหรับโมเดลพารามิเตอร์ย่อย 10B ในแง่ของความรู้ สามัญสำนึก การใช้เหตุผล การเรียกใช้ฟังก์ชัน และประสิทธิภาพ Ministral8B ยังมาพร้อมกับกลไกความสนใจของหน้าต่างแบบเลื่อนเพื่อการอนุมานในหน่วยความจำที่รวดเร็วและมีประสิทธิภาพยิ่งขึ้น สามารถปรับแต่งอย่างละเอียดให้เหมาะกับกรณีการใช้งานที่หลากหลาย เช่น การจัดการเวิร์กโฟลว์ตัวแทน AI ที่ซับซ้อน หรือการสร้างผู้ช่วยงานพิเศษ
นักวิจัยได้ทำการทดสอบเกณฑ์มาตรฐานหลายครั้งเกี่ยวกับโมเดล Les Ministraux ครอบคลุมประเด็นต่างๆ เช่น ความรู้และสามัญสำนึก การเขียนโค้ด คณิตศาสตร์ และพหุภาษา ในขั้นตอนแบบจำลองก่อนการฝึก Minitral3B ได้รับผลลัพธ์ที่ดีที่สุดเมื่อเปรียบเทียบกับ Gema22B และ Llama3.23B เมื่อเปรียบเทียบกับ Llama3.18B และ Mistral7B แล้ว Mistral8B ทำงานได้ดีที่สุดในทุกด้าน ยกเว้นความสามารถในการเขียนโค้ด ในขั้นตอนโมเดลการสอนหลังจากการปรับแต่งอย่างละเอียด Minitral3B ได้ผลลัพธ์ที่ดีที่สุดในการทดสอบเกณฑ์มาตรฐานต่างๆ และ Minitral8B นั้นด้อยกว่า Gema29B บนม้านั่งแบบ Wild เพียงเล็กน้อยเท่านั้น
การเปิดตัวโมเดล Les Ministraux ช่วยให้ผู้ใช้ได้รับโซลูชันที่มีความหน่วงต่ำในการประมวลผลที่มีประสิทธิภาพสูงและตอบสนองความต้องการของผู้ใช้จำนวนมากขึ้นสำหรับการอนุมานครั้งแรกเฉพาะที่สำหรับแอปพลิเคชันที่สำคัญ ผู้ใช้สามารถใช้โมเดลเหล่านี้กับสถานการณ์ต่างๆ เช่น การแปลบนอุปกรณ์ ผู้ช่วยอัจฉริยะที่ไม่ต้องใช้การเชื่อมต่ออินเทอร์เน็ต และหุ่นยนต์อัตโนมัติ ราคาอินพุตและเอาต์พุตของ Ministral8B อยู่ที่ 0.1 ดอลลาร์สหรัฐฯ ต่อล้านโทเค็น และราคาของ Ministral3B อยู่ที่ 0.04 ดอลลาร์สหรัฐฯ ต่อล้านโทเค็น
เป็นที่น่าสังเกตว่าก่อนหน้านี้ Mistral เคยเปิดแหล่งที่มาหลายรุ่นผ่านลิงก์แม่เหล็กและได้รับการยอมรับจากชุมชน AI อย่างไรก็ตาม บริษัทกำลังเผชิญกับความขัดแย้งในปีนี้ เนื่องจากบริษัทไม่เปิดกว้างเหมือนเมื่อก่อนอีกต่อไป มีข่าวว่า Microsoft จะซื้อหุ้นส่วนหนึ่งของ Mistral และลงทุนในหุ้นดังกล่าว ซึ่งหมายความว่าโมเดลของ Mistral จะโฮสต์บน Azure AI ชาวเน็ต Reddit ค้นพบว่า Mistral ได้ลบความมุ่งมั่นต่อโอเพ่นซอร์สออกจากเว็บไซต์อย่างเป็นทางการแล้ว โมเดลของบริษัทบางรุ่นก็เริ่มวางจำหน่ายแล้วเช่นกัน รวมถึง Ministral3B และ Ministral8B ที่เปิดตัวในครั้งนี้
รายละเอียด : https://mistral.ai/news/ministraux/
โดยรวมแล้ว การเกิดขึ้นของ Minitral3B และ Minitral8B มอบทางเลือกที่ดีสำหรับแอปพลิเคชัน AI การประมวลผลที่ขอบ และประสิทธิภาพที่มีประสิทธิภาพและราคาที่ต่ำทำให้พวกเขาได้เปรียบในการแข่งขันอย่างมาก แต่การเปลี่ยนแปลงในกลยุทธ์ของ Mistral ยังกระตุ้นให้เกิดความคิดของอุตสาหกรรมเกี่ยวกับความสมดุลระหว่างโมเดลโอเพ่นซอร์สและการค้า ในอนาคตเราจะให้ความสนใจกับการประยุกต์ใช้และการพัฒนาโมเดล Les Ministraux ต่อไป