Os mais recentes processadores da série Strix Point Apu da AMD mostram vantagens significativas nos aplicativos de Modelo de Linguagem (LLM) da IA e supera a série Intel Lunar Lake. Projetado para plataformas móveis, a série de processadores foi projetada para fornecer maior desempenho e menor latência para atender à crescente demanda por cargas de trabalho de IA. A AMD enfatiza o excelente desempenho dos processadores Ryzen AI no manuseio de tarefas LLM e inicia as ferramentas do LM Studio para simplificar o uso de modelos de idiomas grandes e limites de usuário mais baixos.
Recentemente, a AMD lançou sua mais recente série Strix Point Apu, enfatizando o excelente desempenho desta série em aplicativos de Modelo de Linguagem (LLM) da AI, excedendo em muito os processadores Lunar Lake Series da Intel. Com a crescente demanda por cargas de trabalho de IA, a concorrência por hardware está se tornando cada vez mais feroz. Para lidar com o mercado, a AMD lançou processadores de IA projetados para plataformas móveis, projetadas para maior desempenho e menor latência.
A AMD disse que os processadores Ryzen AI300 da série IX Point podem aumentar significativamente o número de tokens processados por segundo ao processar tarefas da AI LLM, e o Ryzen AI9375 tem uma melhoria de desempenho de 27% em comparação com o núcleo Ultra258v da Intel. Embora o núcleo Ultra7V não seja o modelo mais rápido da família L Lake, sua contagem de núcleo e tópicos fica perto dos processadores Lunar Lake de ponta, mostrando a competitividade dos produtos da AMD nessa área.
A LM Studio Tool da AMD é um aplicativo orientado ao consumidor com base na estrutura LLAMA.CPP, projetada para simplificar o uso de grandes modelos de idiomas. Essa estrutura otimiza o desempenho do x86cpus e, embora não exija que uma GPU seja executada, o uso de GPUs pode acelerar ainda mais as velocidades de processamento. De acordo com os testes, o Ryzen AI9HX375 pode atingir 35 vezes mais latência no modelo de instrução meta -21b e o processo de 50,7 tokens por segundo.
Não apenas isso, o STRIX Point APU também está equipado com uma poderosa placa gráfica integrada Radeon com base no RDNA3.5, que transfere tarefas para a IGPU através da API ULKAN, melhorando ainda mais o desempenho do LLM. Usando a tecnologia de memória gráfica de mudança (VGM), o processador Ryzen AI300 pode otimizar a alocação de memória, melhorar a eficiência energética e, finalmente, obter uma melhoria de desempenho de até 60%.
Em testes de comparação, a AMD usou as mesmas configurações na plataforma de playground Intel AI e descobriu que o Ryzen AI9HX375 era 87% mais rápido no Microsoft Phi3.1 do que o núcleo Ultra7258V e 13% mais rápido no modelo Mistral7B Instruct0.3. No entanto, os resultados serão ainda mais interessantes se comparados ao principal principal Ultra9288V na linha Lunar Lake. Atualmente, a AMD está focada em tornar o uso de grandes modelos de idiomas mais populares através do LM Studio, com o objetivo de facilitar a entrada de usuários não técnicos.
Pontos -chave:
A AMD Strix Point APUS melhora o desempenho em 27% sobre o Lago Lunar Intel em aplicações AI LLM.
O Ryzen AI9HX375 realiza uma latência 3,5 vezes mais baixa no modelo Meta llama3.2.
A ferramenta LM Studio foi projetada para facilitar o uso de grandes modelos de idiomas para usuários não técnicos.
Em suma, o forte desempenho da série AMD Strix Point Apu no campo Aplicativo AI LLM e as ferramentas de estúdio LM de fácil uso indicam o layout ativo da AMD e a competitividade no mercado de hardware da IA, trazendo aos consumidores um mais conveniente e experiência eficiente da IA.