เมื่อเร็ว ๆ นี้ Tencent Technology (Shenzhen) Co. , Ltd. ได้ยื่นขอสิทธิบัตรที่เรียกว่า "วิธีการฝึกอบรมอุปกรณ์อุปกรณ์คอมพิวเตอร์และสื่อจัดเก็บข้อมูลสำหรับรุ่นภาษาขนาดใหญ่" สิทธิบัตรนี้ให้ข้อมูลที่เรียนรู้ได้มากขึ้นสำหรับแบบจำลองในระหว่างการฝึกอบรมแบบจำลองภาษาขนาดใหญ่โดยการแนะนำข้อความนามธรรมแรกและข้อความนามธรรมที่สอง
ตามคำอธิบายสิทธิบัตรข้อความนามธรรมแรกและข้อความนามธรรมที่สองมีข้อมูลจำนวนมากและข้อความนามธรรมแรกยังมีข้อความที่ถูกต้องและข้อความที่ไม่ถูกต้อง โดยการเปรียบเทียบและการเรียนรู้บทคัดย่อทั้งสองที่แตกต่างกันของข้อความเดียวกันและแยกแยะข้อความที่ถูกต้องและข้อความที่ไม่ถูกต้องในนั้นเราสามารถหลีกเลี่ยงปัญหาที่เป็นไปได้เช่นแบบจำลองที่มากเกินไปและการสร้างที่ไม่ถูกต้องที่เกิดจากข้อความสรุปเดียว
นวัตกรรมของวิธีนี้คือการปรับปรุงประสิทธิภาพการวางนัยทั่วไปของโมเดลและปรับปรุงความแม่นยำของแบบจำลองได้อย่างมีประสิทธิภาพ ด้วยการแนะนำเนื้อหาข้อความที่เป็นนามธรรมที่หลากหลายวิธีการฝึกอบรมของ Tencent ทำให้การปรับปรุงที่มีประสิทธิภาพและแม่นยำยิ่งขึ้นไปสู่กระบวนการฝึกอบรมของแบบจำลองภาษาขนาดใหญ่
ความคืบหน้านี้ไม่เพียง แต่สะท้อนถึงความแข็งแกร่งทางเทคนิคของ Tencent ในด้านปัญญาประดิษฐ์ แต่ยังวางรากฐานที่แข็งแกร่งสำหรับการใช้งานและการพัฒนาแบบจำลองภาษาขนาดใหญ่ในอนาคต