เมื่อปลายเดือนกรกฎาคมปีนี้ มีการประชุม China Computer Federation (CCF) Chip Conference ครั้งที่สองจัดขึ้นที่เซี่ยงไฮ้ ผู้เชี่ยวชาญ นักวิชาการ นักวิจัย และตัวแทนธุรกิจในประเทศและต่างประเทศเกือบสองพันคนที่มีส่วนร่วมในการวิจัยที่เกี่ยวข้องกับชิปและการพัฒนาเทคโนโลยีในด้านคอมพิวเตอร์และไมโครอิเล็กทรอนิกส์เข้าร่วมการประชุมเพื่อหารือเกี่ยวกับการออกแบบชิปและ EDA สถาปัตยกรรมระบบใหม่ การประมวลผลที่ทนทานต่อข้อผิดพลาด วิศวกรรมคอมพิวเตอร์ที่เกิดขึ้นใหม่และนวัตกรรมทางทฤษฎี การวิจัยและพัฒนาเทคโนโลยี การสาธิตการใช้งานและหัวข้อการพัฒนาอุตสาหกรรมในด้านเทคโนโลยีและด้านอื่น ๆ
ในงาน "CCFTCarch Custom Computing Challenge" (การเร่งการปรับใช้ LLM สำหรับกราฟิกการ์ดระดับผู้บริโภค) ซึ่งจัดโดยคณะกรรมการสถาปัตยกรรมของการประชุมชิปครั้งนี้ ทีมวิจัยที่นำโดยศาสตราจารย์ Feng Li จาก Southwest Jiaotong University อาศัยความเป็นเลิศในการเพิ่มประสิทธิภาพการอนุมานขอบของ รุ่นใหญ่สมรรถนะเยี่ยมและคว้าอันดับ 2 ของประเทศ
ในการแข่งขันครั้งนี้ ทีมงานของ Feng Li ได้นำชุดเทคโนโลยีที่เป็นนวัตกรรมมาใช้เพื่อรับมือกับความท้าทายที่ต้องเผชิญกับการใช้เหตุผลอันล้ำสมัยในโมเดลขนาดใหญ่ ซึ่งรวมถึงเทคโนโลยีโอเปอเรเตอร์ฟิวชั่น เทคโนโลยีนี้ช่วยลดการอ่านและเขียนหน่วยความจำวิดีโอบ่อยครั้ง และปรับปรุงประสิทธิภาพการประมวลผลอย่างมากโดยการรวมการดำเนินการประมวลผลอิสระหลายรายการเข้าด้วยกัน
จากข้อมูลของ Feng Li ทีมงานสามารถลดเวลาในการคำนวณลงได้มากกว่า 80% ด้วยการใช้โอเปอเรเตอร์ฟิวชั่น ซึ่งช่วยปรับปรุงประสิทธิภาพการใช้ทรัพยากรการประมวลผลได้อย่างมาก นอกจากนี้ ทีมงานยังใช้เทคโนโลยีการวัดปริมาณที่แม่นยำเพื่อแปลงการคำนวณบางอย่างจากการดำเนินการจุดลอยตัวไปเป็นการดำเนินการจุดคงที่ แม้ว่าสิ่งนี้จะทำให้สูญเสียความแม่นยำไปในระดับหนึ่ง แต่ก็ยังได้รับความเร็วการประมวลผลที่เพิ่มขึ้นอย่างมากและลดการใช้พลังงาน
เฝิง ลี่เน้นย้ำว่าความสำเร็จของการแข่งขันครั้งนี้แยกออกจากความร่วมมือที่ใกล้ชิดระหว่างสมาชิกในทีม แม้ว่านักเรียนที่เข้าร่วมโครงการจะขาดประสบการณ์ในด้านโมเดลขนาดใหญ่ แต่พวกเขาก็แสดงให้เห็นถึงความสามารถในการเรียนรู้ที่ไม่ธรรมดาและความกล้าที่จะสำรวจ ด้วยความร่วมมือกับนักวิชาการนานาชาติชั้นนำ โดยเฉพาะอย่างยิ่งการแลกเปลี่ยนข้ามพรมแดนกับมหาวิทยาลัย Bristol นักศึกษาไม่เพียงแต่ขยายขอบเขตอันไกลโพ้นของพวกเขาเท่านั้น แต่ยังได้สั่งสมประสบการณ์อันมีค่าอีกด้วย เฟิง หลี่ กล่าวว่า "นักเรียนของเรายังเด็กมาก แต่พวกเขาเต็มไปด้วยความกระตือรือร้นและมีความกล้าที่จะเผชิญกับความท้าทาย ผ่านการอ่านวรรณกรรมและการสัมมนาทางเทคนิคอย่างครอบคลุม พวกเขาเข้าใจการพัฒนาล่าสุดในสาขาที่เกี่ยวข้องอย่างรวดเร็ว และเปลี่ยนความรู้ทางทฤษฎีให้เป็นผลในทางปฏิบัติ "
เมื่อพูดถึงทิศทางการพัฒนาในอนาคต เฝิง หลี่กล่าวว่าด้วยความก้าวหน้าของเทคโนโลยีแบบจำลองขนาดใหญ่ โดยเฉพาะอย่างยิ่งความต้องการที่เพิ่มขึ้นสำหรับการปกป้องความเป็นส่วนตัวและการปรับใช้แบบแปรรูป ผลการวิจัยของทีมจะมีโอกาสนำไปใช้ในวงกว้าง ตัวอย่างเช่น ในสาขาต่างๆ เช่น การเงิน การขนส่ง และการบิน ข้อมูลที่ละเอียดอ่อนจำนวนมากไม่เหมาะสำหรับการส่งข้อมูลไปยังคลาวด์เพื่อการประมวลผล แต่จะได้รับการวิเคราะห์ในพื้นที่ ซึ่งต้องใช้เทคโนโลยีการอนุมาน Edge แบบจำลองขนาดใหญ่ที่มีประสิทธิภาพ เฝิง หลี่เปิดเผยว่าขณะนี้ทีมงานกำลังร่วมมืออย่างแข็งขันกับบริษัทและสถาบันการวิจัยหลายแห่ง และมุ่งมั่นที่จะนำผลการวิจัยไปประยุกต์ใช้กับการวิเคราะห์ช่องโหว่ด้านความปลอดภัยของเครือข่าย และการรับส่งข้อมูลการประมวลผลบิ๊กดาต้า เพื่อส่งเสริมการนำผลการวิจัยทางวิทยาศาสตร์ไปใช้ประโยชน์ในเชิงพาณิชย์