Meta Platforms ได้เปิดตัว Llama 3.21B และ 3B เวอร์ชันปรับปรุงใหม่ ซึ่งช่วยให้การทำงานโมเดลภาษาขนาดใหญ่บนสมาร์ทโฟนและแท็บเล็ตทั่วไปมีความเสถียร บรรณาธิการของ Downcodes จะอธิบายความคืบหน้าและความสำคัญของความก้าวหน้านี้อย่างละเอียด
วันนี้ Meta Platforms เปิดตัวโมเดล Llama เวอร์ชันปรับปรุงใหม่ ซึ่งรวมถึงผลิตภัณฑ์ Llama3.21B และ 3B ซึ่งเป็นครั้งแรกที่ทำให้สามารถใช้งานโมเดลภาษาขนาดใหญ่ได้อย่างเสถียรบนสมาร์ทโฟนและแท็บเล็ตทั่วไป ด้วยการบูรณาการเทคโนโลยีการฝึกอบรมเชิงปริมาณและอัลกอริธึมการปรับให้เหมาะสมอย่างสร้างสรรค์ เวอร์ชันใหม่จะลดขนาดไฟล์ลง 56% ลดความต้องการหน่วยความจำที่ใช้งานลง 41% และเพิ่มความเร็วในการประมวลผลเป็น 4 เท่าของเวอร์ชันดั้งเดิมในขณะที่ยังคงคุณภาพการประมวลผลแบบต่อเนื่องของดั้งเดิม ข้อความ 8,000 ตัวอักษร
เมื่อทดสอบบนโทรศัพท์ Android โมเดล AI ที่ถูกบีบอัดของ Meta (SpinQuant และ QLoRA) นั้นเร็วกว่าและมีประสิทธิภาพมากกว่าเวอร์ชันมาตรฐานอย่างมาก รุ่นเล็กจะทำงานเร็วขึ้นสี่เท่าแต่ใช้หน่วยความจำน้อยกว่า
ในการทดสอบจริงของโทรศัพท์มือถือ OnePlus12 รุ่นบีบอัดนี้แสดงประสิทธิภาพที่เทียบเคียงได้กับรุ่นมาตรฐาน และในขณะเดียวกันก็ปรับปรุงประสิทธิภาพการทำงานอย่างมาก แก้ปัญหาระยะยาวของพลังการประมวลผลที่ไม่เพียงพอของอุปกรณ์มือถือได้อย่างมีประสิทธิภาพ Meta ได้เลือกที่จะนำกลยุทธ์การตลาดความร่วมมือแบบเปิดมาใช้และดำเนินการความร่วมมือในเชิงลึกกับผู้ผลิตโปรเซสเซอร์มือถือกระแสหลักเช่น Qualcomm และ MediaTek เวอร์ชันใหม่จะเปิดตัวพร้อมกันผ่านทางเว็บไซต์อย่างเป็นทางการของ Llama และแพลตฟอร์ม Hugging Face เพื่อให้นักพัฒนาเข้าถึงได้สะดวก ช่อง.
กลยุทธ์นี้แตกต่างอย่างสิ้นเชิงกับยักษ์ใหญ่รายอื่นในอุตสาหกรรม เมื่อ Google และ Apple เลือกที่จะผสานรวมเทคโนโลยีใหม่เข้ากับระบบปฏิบัติการของตนอย่างลึกซึ้ง เส้นทางที่เปิดกว้างของ Meta ช่วยให้นักพัฒนามีพื้นที่มากขึ้นสำหรับการสร้างสรรค์นวัตกรรม การเปิดตัวครั้งนี้ถือเป็นการเปลี่ยนแปลงโมเดลการประมวลผลข้อมูลจากเซิร์ฟเวอร์ส่วนกลางไปสู่เทอร์มินัลส่วนบุคคล โซลูชันการประมวลผลในเครื่องไม่เพียงแต่สามารถปกป้องความเป็นส่วนตัวของผู้ใช้ได้ดีขึ้น แต่ยังให้ประสบการณ์การตอบสนองที่รวดเร็วยิ่งขึ้นอีกด้วย
ความก้าวหน้าทางเทคโนโลยีนี้อาจก่อให้เกิดการเปลี่ยนแปลงที่สำคัญคล้ายกับที่เกิดขึ้นในช่วงความนิยมของคอมพิวเตอร์ส่วนบุคคล แม้ว่าจะยังคงเผชิญกับความท้าทาย เช่น ข้อกำหนดด้านประสิทธิภาพของอุปกรณ์ และการเลือกแพลตฟอร์มของนักพัฒนา เนื่องจากประสิทธิภาพของอุปกรณ์เคลื่อนที่ได้รับการปรับปรุงอย่างต่อเนื่อง ข้อดีของโซลูชันการประมวลผลแบบโลคัลไลซ์จะค่อยๆ ปรากฏขึ้น Meta หวังที่จะส่งเสริมการพัฒนาของอุตสาหกรรมทั้งหมดในทิศทางที่มีประสิทธิภาพและปลอดภัยยิ่งขึ้นผ่านความร่วมมือแบบเปิดและเปิดแนวทางใหม่ในการพัฒนาแอปพลิเคชันอุปกรณ์มือถือในอนาคต
โมเดล Llama เวอร์ชันที่เรียบง่ายนำเสนอความเป็นไปได้ใหม่ๆ สำหรับแอปพลิเคชัน AI บนมือถือ และกลยุทธ์ความร่วมมือแบบเปิดก็คุ้มค่าที่จะเรียนรู้จากอุตสาหกรรมเช่นกัน ในอนาคต ในขณะที่เทคโนโลยียังคงเติบโตและได้รับความนิยมมากขึ้น การประมวลผล AI ในท้องถิ่นจะกลายเป็นกระแสหลัก