Recentemente, a popularidade dos aplicativos de modelo de linguagem grande (LLM) de IA impulsionou uma concorrência acirrada no campo de hardware. A AMD lançou sua mais recente série Strix Point APU, e seus processadores Ryzen AI mostram vantagens significativas no tratamento de tarefas LLM, com desempenho muito superior à série Lunar Lake da Intel. O editor de Downcodes lhe dará uma compreensão profunda do desempenho da série Strix Point APU e da inovação tecnológica por trás dela.
Recentemente, a AMD lançou sua mais recente série de APUs Strix Point, enfatizando o excelente desempenho da série em aplicações AI de modelo de linguagem grande (LLM), superando em muito os processadores da série Lunar Lake da Intel. À medida que a procura por cargas de trabalho de IA continua a crescer, a concorrência por hardware torna-se cada vez mais acirrada. Em resposta ao mercado, a AMD lançou processadores de IA projetados para plataformas móveis, visando maior desempenho e menor latência.
A AMD disse que o processador Ryzen AI300 da série ix Point pode aumentar significativamente o número de Tokens processados por segundo ao processar tarefas AI LLM. Comparado com o Core Ultra258V da Intel, o desempenho do Ryzen AI9375 melhorou 27%. Embora o Core Ultra7V não seja o modelo mais rápido da série L Lake, seu número de núcleos e threads está próximo dos processadores Lunar Lake de última geração, mostrando a competitividade dos produtos AMD nesta área.
A ferramenta LM Studio da AMD é um aplicativo voltado para o consumidor baseado na estrutura llama.cpp, projetado para simplificar o uso de grandes modelos de linguagem. A estrutura otimiza o desempenho de CPUs x86 Embora não seja necessária uma GPU para executar o LLM, o uso de uma GPU pode acelerar ainda mais o processamento. De acordo com o teste, Ryzen AI9HX375 pode atingir latência 35 vezes menor no modelo Meta Llama3.21b Instruct, processando 50,7 Tokens por segundo. Em comparação, o Core Ultra7258V tem apenas 39,9 Tokens.
Além disso, o Strix Point APU também está equipado com uma poderosa placa gráfica Radeon integrada baseada na arquitetura RDNA3.5, que pode descarregar tarefas para o iGPU através da API ulkan para melhorar ainda mais o desempenho do LLM. Usando a tecnologia Variable Graphics Memory (VGM), o processador Ryzen AI300 pode otimizar a alocação de memória, melhorar a eficiência energética e, finalmente, alcançar uma melhoria de desempenho de até 60%.
Em testes de comparação, a AMD usou as mesmas configurações na plataforma Intel AI Playground e descobriu que o Ryzen AI9HX375 foi 87% mais rápido que o Core Ultra7258V no Microsoft Phi3.1 e 13% mais rápido no modelo Mistral7b Instruct0.3. Ainda assim, os resultados são mais interessantes quando comparados com o Core Ultra9288V, carro-chefe da série Lunar Lake. Atualmente, a AMD está se concentrando em tornar mais popular o uso de modelos de linguagem grandes por meio do LM Studio, com o objetivo de facilitar a introdução de usuários não técnicos.
O lançamento da série AMD Strix Point APU marca uma intensificação adicional da concorrência no campo dos processadores de IA e também indica que as futuras aplicações de IA terão suporte de hardware mais poderoso. Suas melhorias no desempenho e na eficiência energética trarão aos usuários uma experiência de IA mais suave e poderosa. O editor do Downcodes continuará prestando atenção aos últimos desenvolvimentos neste campo e trazendo relatórios mais interessantes aos leitores.