Groq เพิ่งเปิดตัวชิปใหม่สำหรับการอนุมานโมเดลขนาดใหญ่ ซึ่งสามารถประมวลผล 500 โทเค็นต่อวินาที ซึ่งเหนือกว่า GPU แบบเดิมและ TPU ของ Google อย่างมาก ความก้าวหน้าที่ก้าวล้ำนี้เกิดขึ้นจากการออกแบบนวัตกรรมของสถาปัตยกรรมชิปโดยทีมงาน Groq และการสั่งสมทางเทคนิคเชิงลึกของสมาชิกในทีมจาก Google TPU รวมถึงผู้ก่อตั้ง Jonathan Ross ชิปตัวนี้ซึ่งขายได้ในราคาประมาณ 20,000 เหรียญสหรัฐ ใช้โซลูชั่น LPU ที่พัฒนาขึ้นเองและวางแผนที่จะแซงหน้า Nvidia ภายในสามปี ซึ่งไม่ต้องสงสัยเลยว่าจะส่งผลกระทบอย่างลึกซึ้งต่อสาขาปัญญาประดิษฐ์
Groq ได้เปิดตัวชิปอนุมานโมเดลขนาดใหญ่ด้วยความเร็ว 500 โทเค็นต่อวินาที ซึ่งเหนือกว่า GPU และ Google TPU แบบดั้งเดิม สมาชิกในทีมมาจาก Google TPU รวมถึงผู้ก่อตั้ง Jonathan Ross ชิปดังกล่าวใช้โซลูชัน LPU ที่พัฒนาขึ้นเองและมุ่งมั่นที่จะเหนือกว่า NVIDIA ภายในสามปี และราคาอยู่ที่ประมาณ 20,000 เหรียญสหรัฐ มีความเร็วการเข้าถึง API ที่รวดเร็วเป็นพิเศษ และรองรับโมเดล LLM โอเพ่นซอร์สหลายรุ่น
ชิปตัวใหม่ของ Groq คาดว่าจะกลายเป็นคู่แข่งที่แข็งแกร่งในด้านการอนุมานโมเดลขนาดใหญ่ ด้วยความสามารถในการประมวลผลความเร็วสูง และรองรับโมเดลโอเพ่นซอร์สที่หลากหลาย ความเร็วในการเข้าถึง API ที่รวดเร็วเป็นพิเศษและราคาที่แข่งขันได้จะดึงดูดนักพัฒนาและผู้ใช้ระดับองค์กรจำนวนมาก และส่งเสริมการพัฒนาแอปพลิเคชันปัญญาประดิษฐ์เพิ่มเติม ในอนาคต เราจะยังคงให้ความสนใจกับความก้าวหน้าของ Groq และการเปลี่ยนแปลงที่ชิปนำมาสู่อุตสาหกรรมปัญญาประดิษฐ์ต่อไป