Groq lançou recentemente um novo chip de inferência de modelo grande com uma velocidade de processamento surpreendente de 500 tokens por segundo, que desafia diretamente a posição de mercado das GPUs tradicionais e das TPUs do Google. Desenvolvido por ex-membros da equipe de TPU do Google, o chip tem desempenho de alto custo e ampla compatibilidade com modelos grandes, demonstrando a forte força e capacidade de inovação da Groq na área de hardware de inteligência artificial. O lançamento deste chip indica que a concorrência no mercado de chips de raciocínio de inteligência artificial se intensificará ainda mais.
O grande chip de inferência de modelo lançado pela Groq atinge uma velocidade de 500 tokens por segundo, desafiando as GPUs tradicionais e as TPUs do Google. Os membros da equipe são todos do Google TPU. Os chips desenvolvidos de forma independente são econômicos e oferecem suporte a uma variedade de modelos grandes. A empresa é ambiciosa e planeja superar a Nvidia dentro de três anos. Groq mostra o espírito de desafio e inovação, trazendo mais possibilidades para o campo da inteligência artificial.Esta medida da Groq terá, sem dúvida, um impacto profundo na indústria da inteligência artificial, e o seu ousado plano de três anos também merece atenção. No futuro, continuaremos a prestar atenção ao desenvolvimento da Groq no campo da inteligência artificial e esperamos que isso nos traga mais surpresas e avanços.