أطلقت شركة Groq، التي أسسها موظفون سابقون في Google، مؤخرًا شريحة تسريع الذكاء الاصطناعي LPU. تعمل هذه الشريحة على تحسين سرعة الاستدلال والتوليد للنماذج الكبيرة بشكل كبير من خلال تقنية تخزين SRAM المبتكرة والتصميم المعماري الذي يقلل من الوصول إلى الذاكرة، ويقال إن السرعة يمكن أن تصل إلى عشرة أضعاف سرعة وحدة معالجة الرسومات. يدعم LPU مجموعة متنوعة من النماذج الكبيرة مثل Llama وMixtral، وسيساعد إطلاقه على تحسين أداء النماذج الكبيرة وتحسين سرعة استجابة التطبيقات مثل المساعدين الصوتيين والكتابة بالذكاء الاصطناعي، مما يوفر إمكانيات جديدة لتحسين أداء تطبيقات الذكاء الاصطناعي. يمثل هذا إنجازًا مهمًا في مجال رقائق الذكاء الاصطناعي.
Groq هي شركة ناشئة تعمل في مجال شرائح الذكاء الاصطناعي، أسسها موظفون سابقون في Google. أطلقت الشركة شريحة تسريع تعمل بالذكاء الاصطناعي تسمى LPU، والتي تعمل على تسريع الاستدلال وإنشاء النماذج الكبيرة بشكل كبير من خلال الابتكار التكنولوجي، بسرعات تصل إلى 10 أضعاف سرعة وحدات معالجة الرسومات. ويرجع ذلك أساسًا إلى استخدام تقنية تخزين SRAM عالية السرعة والتصميم المعماري الذي يقلل من الوصول إلى الذاكرة. يمكن للمستخدمين تشغيل Llama وMixtral والنماذج الكبيرة الأخرى على LPU. يمكن أن يساعد إدخال LPU في تحسين أداء النماذج الكبيرة، أو يمكن استخدامه لتحسين سرعة استجابة التطبيقات مثل المساعدين الصوتيين والكتابة بالذكاء الاصطناعي.جلب ظهور رقائق LPU حيوية جديدة إلى مجال الذكاء الاصطناعي. ومن المتوقع أن يؤدي أدائها عالي السرعة إلى تعزيز تعميم وتطوير المزيد من تطبيقات الذكاء الاصطناعي. ومن الجدير الاستمرار في الاهتمام بأدائها وتأثيرها في السوق المستقبلية . ونحن نتطلع إلى رؤية المزيد من التطبيقات المبتكرة المعتمدة على LPU في المستقبل.