Meta Plateformes a publié aujourd'hui les modèles LLAMA 3.21B et 3B rationalisés, ce qui est la première fois dans l'industrie pour obtenir le fonctionnement stable de modèles de grande langue sur les téléphones mobiles et les tablettes ordinaires. Grâce à la technologie de formation quantitative et à l'algorithme d'optimisation, cette version réduit la taille du fichier de 56%, réduit la mémoire en cours d'exécution de 41% et augmente la vitesse à 4 fois la version d'origine. Cette progression révolutionnaire marque la transformation du mode de traitement des données des serveurs centralisés aux terminaux personnels, ouvrant de nouvelles façons pour le développement d'applications futures des appareils mobiles.
Meta Plateformes a publié aujourd'hui une nouvelle version rationalisée de son modèle LLAMA, y compris les produits LLAMA 3.21b et 3b, réalisant le fonctionnement stable de modèles de langage à grande échelle sur les smartphones et tablettes ordinaires pour la première fois. En intégrant de manière innovante la technologie de formation quantitative et les algorithmes d'optimisation, la nouvelle version réduit la taille du fichier de 56% tout en maintenant la qualité de traitement d'origine et réduit les besoins en mémoire de fonctionnement de 41%, et augmente la vitesse de traitement de 4 fois par rapport à la version d'origine. Traitement continu du texte de 8 000 caractères.
Lorsqu'ils sont testés sur les téléphones Android, les modèles AI compressés de Meta (SpinQuant et Qlora) ont une vitesse et une efficacité significativement améliorées par rapport à la version standard. Des modèles plus petits fonctionnent quatre fois plus rapidement, tandis que l'utilisation de la mémoire est réduite
Dans le test réel des téléphones OnePlus12, cette version compressée a montré des performances comparables à celles de la version standard, tout en améliorant considérablement l'efficacité opérationnelle et en résolvant efficacement le problème à long terme de la puissance de calcul insuffisante des appareils mobiles. Meta a choisi d'adopter une stratégie de marché de la coopération ouverte et d'effectuer une coopération approfondie avec des fabricants de processeurs mobiles traditionnels tels que Qualcomm et Mediatek. .
Cette stratégie contraste fortement avec d'autres géants de l'industrie. Meta's Open Route offre aux développeurs un plus grand espace d'innovation lorsque Google et Apple choisissent d'intégrer profondément les nouvelles technologies à leurs systèmes d'exploitation. Cette version marque la transformation du mode de traitement des données d'un serveur centralisé à un terminal personnel.
Cette percée technologique peut déclencher des changements majeurs comme la période où les ordinateurs personnels sont popularisés, bien qu'ils soient toujours confrontés à des défis tels que les exigences de performance de l'appareil et la sélection des plateformes de développeur. Alors que les performances des appareils mobiles continuent de s'améliorer, les avantages des solutions de traitement localisés émergeront progressivement. Meta espère promouvoir l'ensemble de l'industrie à se développer dans une orientation plus efficace et sécurisée grâce à une coopération ouverte et à ouvrir de nouvelles façons pour le développement des applications futures des appareils mobiles.
Le choix de la stratégie de coopération ouverte de Meta contraste avec d'autres géants de la technologie, offrant aux développeurs un espace plus large pour l'innovation et annonçant également la direction future de développement du traitement localisé d'IA. Cette percée technologique devrait changer la façon dont les appareils mobiles sont utilisés, apportant des changements majeurs comme la période de vulgarisation des ordinateurs personnels, et il vaut la peine d'attendre son développement futur.