Groq lanzó recientemente un nuevo chip de inferencia de modelo grande con una sorprendente velocidad de procesamiento de 500 tokens por segundo, que desafía directamente la posición en el mercado de las GPU tradicionales y las TPU de Google. Desarrollado por ex miembros del equipo TPU de Google, el chip tiene un rendimiento de alto costo y una amplia compatibilidad con modelos grandes, lo que demuestra la sólida fortaleza y las capacidades de innovación de Groq en el campo del hardware de inteligencia artificial. El lanzamiento de este chip indica que la competencia en el mercado de chips de razonamiento de inteligencia artificial se intensificará aún más.
El chip de inferencia de modelos grandes lanzado por Groq alcanza una velocidad de 500 tokens por segundo, desafiando a las GPU tradicionales y a las TPU de Google. Todos los miembros del equipo son de Google TPU. Los chips desarrollados de forma independiente son rentables y admiten una variedad de modelos grandes. La empresa es ambiciosa y planea superar a Nvidia dentro de tres años. Groq muestra el espíritu de desafío e innovación, aportando más posibilidades al campo de la inteligencia artificial.Esta medida de Groq sin duda tendrá un profundo impacto en la industria de la inteligencia artificial, y su audaz plan de tres años también es digno de atención. En el futuro, seguiremos prestando atención al mayor desarrollo de Groq en el campo de la inteligencia artificial y esperamos que nos traiga más sorpresas y avances.