أصدرت Groq مؤخرًا شريحة جديدة لاستدلال النماذج الكبيرة، والتي يمكنها معالجة 500 رمزًا مميزًا في الثانية، متجاوزة بشكل كبير وحدات معالجة الرسومات التقليدية ووحدات TPU من Google. ينبع هذا التقدم المذهل من التصميم المبتكر لبنية الرقاقة من قبل فريق Groq والتراكم الفني العميق لأعضاء فريق Google TPU، بما في ذلك المؤسس جوناثان روس. وتستخدم هذه الشريحة، التي تباع بحوالي 20 ألف دولار أمريكي، حل LPU مطور ذاتيًا وتخطط لتجاوز Nvidia في غضون ثلاث سنوات، وهو ما سيكون له بلا شك تأثير عميق على مجال الذكاء الاصطناعي.
أطلقت Groq شريحة استدلال نموذجية كبيرة بسرعة 500 رمزًا في الثانية، متجاوزة وحدة معالجة الرسومات التقليدية وGoogle TPU. يأتي أعضاء الفريق من شركة Google TPU، بما في ذلك المؤسس جوناثان روس. تستخدم الشريحة حل LPU تم تطويره ذاتيًا وتلتزم بتجاوز NVIDIA في غضون ثلاث سنوات، ويبلغ السعر حوالي 20000 دولار أمريكي. يتمتع بسرعة وصول سريعة للغاية إلى واجهة برمجة التطبيقات (API) ودعم لنماذج LLM متعددة مفتوحة المصدر.
ومن المتوقع أن تصبح شريحة Groq الجديدة منافسًا قويًا في مجال استدلال النماذج الكبيرة بفضل إمكانات المعالجة عالية السرعة ودعمها لمجموعة متنوعة من النماذج مفتوحة المصدر. ستجذب سرعة الوصول إلى واجهة برمجة التطبيقات (API) السريعة للغاية وسعرها التنافسي العديد من المطورين ومستخدمي المؤسسات وتعزز التطوير الإضافي لتطبيقات الذكاء الاصطناعي. في المستقبل، سنواصل الاهتمام بالتقدم الذي أحرزته Groq والتغييرات التي تجلبها رقائقها إلى صناعة الذكاء الاصطناعي.