Groq ซึ่งก่อตั้งโดยอดีตพนักงานของ Google เพิ่งเปิดตัวชิปเร่งความเร็ว AI LPU ชิปนี้ปรับปรุงความเร็วในการอนุมานและการสร้างโมเดลขนาดใหญ่อย่างมีนัยสำคัญผ่านเทคโนโลยีการจัดเก็บข้อมูล SRAM ที่เป็นนวัตกรรมใหม่และการออกแบบสถาปัตยกรรมที่ลดการเข้าถึงหน่วยความจำ ว่ากันว่าความเร็วอาจสูงถึงสิบเท่าของ GPU LPU รองรับโมเดลขนาดใหญ่ที่หลากหลาย เช่น Llama และ Mixtral นี่เป็นความก้าวหน้าครั้งสำคัญในด้านชิป AI
Groq เป็นสตาร์ทอัพด้านชิป AI ที่ก่อตั้งโดยอดีตพนักงานของ Google บริษัทได้เปิดตัวชิปเร่งความเร็ว AI ที่เรียกว่า LPU ซึ่งเร่งความเร็วในการอนุมานและการสร้างโมเดลขนาดใหญ่ได้อย่างมากผ่านนวัตกรรมทางเทคโนโลยี ด้วยความเร็วที่สูงกว่า GPU ถึง 10 เท่า สาเหตุหลักมาจากการใช้เทคโนโลยีการจัดเก็บข้อมูล SRAM ความเร็วสูงและการออกแบบสถาปัตยกรรมที่ลดการเข้าถึงหน่วยความจำ ผู้ใช้สามารถรัน Llama, Mixtral และโมเดลขนาดใหญ่อื่นๆ บน LPU การเปิดตัว LPU สามารถช่วยเพิ่มประสิทธิภาพการทำงานของโมเดลขนาดใหญ่เพิ่มเติมได้ หรือใช้เพื่อปรับปรุงความเร็วในการตอบสนองของแอปพลิเคชัน เช่น ระบบสั่งงานด้วยเสียงและการเขียน AIการเกิดขึ้นของชิป LPU ได้นำพลังใหม่มาสู่วงการ AI ประสิทธิภาพความเร็วสูงคาดว่าจะส่งเสริมความนิยมและการพัฒนาแอปพลิเคชัน AI มากขึ้น การให้ความสนใจกับประสิทธิภาพและผลกระทบในตลาดอนาคตอย่างต่อเนื่อง . เราหวังว่าจะได้เห็นแอปพลิเคชันที่เป็นนวัตกรรมใหม่ที่ใช้ LPU เกิดขึ้นในอนาคต