O chip Gaudi2 da Intel tem mostrado forte competitividade no campo da IA, especialmente na inferência de modelos de linguagem em larga escala. Seu desempenho é comparável ao acelerador de ponta da NVIDIA, e até supera este último em alguns aspectos. O Gaudi2 não é apenas igual ou até melhor que o Nvidia H100 em velocidade de decodificação, mas também tem uma vantagem no desempenho de custo, tornando-o mais atraente para implantação em nuvem. Isto marca um progresso significativo para a Intel no mercado de aceleradores de IA.
A tecnologia Gaudi2 da Intel é excelente na inferência de modelos de linguagem em larga escala, rivalizando com os aceleradores de IA da Nvidia. O desempenho de decodificação do Gaudi2 é comparável ao sistema NVIDIA H100 e ainda melhor que o NVIDIA A100. Com base nos preços da nuvem pública, o Gaudi2 também é mais econômico do que o A100 e o H100 da NVIDIA em treinamento e inferência. A Intel planeja lançar a tecnologia Gaudi3 em 2024, que fornecerá poder de processamento e largura de banda de rede mais poderosos para melhorar ainda mais o desempenho.O desenvolvimento contínuo dos chips da série Gaudi da Intel indica que soluções mais poderosas e econômicas aparecerão no campo da IA no futuro, injetando nova vitalidade no desenvolvimento da tecnologia de inteligência artificial e proporcionando aos usuários uma gama mais ampla de opções.