Meta Platforms lanzó el LLAMA 3.21B y 3B modernos de lenguaje grande optimizado hoy, que es la primera vez en la industria en lograr la operación estable de modelos de idiomas grandes en teléfonos móviles y tabletas móviles ordinarios. A través de la tecnología de capacitación cuantitativa y el algoritmo de optimización, esta versión reduce el tamaño del archivo en un 56%, reduce la memoria de ejecución en un 41%y aumenta la velocidad a 4 veces la versión original de texto puede procesarse continuamente en un solo momento. Este avance de avance marca la transformación del modo de procesamiento de datos desde servidores centralizados hasta terminales personales, abriendo nuevas formas para el desarrollo futuro de aplicaciones de dispositivos móviles.
Meta Platforms lanzó hoy una nueva versión simplificada de su modelo LLAMA, que incluye productos LLAMA 3.21B y 3B, logrando la operación estable de modelos de lenguaje a gran escala en teléfonos inteligentes y tabletas ordinarios por primera vez. Al integrar innovativamente la tecnología de capacitación cuantitativa y los algoritmos de optimización, la nueva versión reduce el tamaño del archivo en un 56% mientras se mantiene la calidad del procesamiento original, y reduce el requisito de memoria operativa en un 41%, y aumenta la velocidad de procesamiento en 4 veces a la versión original. Procesamiento continuo de 8,000 caracteres de texto.
Cuando se analizan en los teléfonos Android, los modelos de IA comprimidos de Meta (Spinquant y Qlora) han mejorado significativamente la velocidad y la eficiencia en comparación con la versión estándar. Los modelos más pequeños se ejecutan cuatro veces más rápido, mientras que el uso de la memoria se reduce
En la prueba real de los teléfonos OnePlus12, esta versión comprimida mostró un rendimiento comparable al de la versión estándar, al tiempo que mejora en gran medida la eficiencia operativa y resuelve efectivamente los problemas a largo plazo de la potencia informática insuficiente de los dispositivos móviles. Meta eligió adoptar una estrategia de mercado de cooperación abierta y realizar una cooperación en profundidad con los principales fabricantes de procesadores móviles como Qualcomm y MediaTek. .
Esta estrategia contrasta con otros gigantes en la industria. La ruta abierta de Meta proporciona a los desarrolladores un mayor espacio de innovación cuando Google y Apple eligen integrar profundamente nuevas tecnologías con sus sistemas operativos. Esta versión marca la transformación del modo de procesamiento de datos de un servidor centralizado a un terminal personal.
Este avance tecnológico puede desencadenar cambios importantes como el período en que las computadoras personales se popularizan, aunque aún enfrentan desafíos, como los requisitos de rendimiento del dispositivo y la selección de la plataforma de desarrolladores. A medida que el rendimiento de los dispositivos móviles continúa mejorando, las ventajas de las soluciones de procesamiento localizadas surgirán gradualmente. Meta espera promover toda la industria para que se desarrolle en una dirección más eficiente y segura a través de la cooperación abierta, y abrir nuevas formas para el desarrollo futuro de aplicaciones de dispositivos móviles.
La elección de Meta de la estrategia de cooperación abierta está en contraste con otros gigantes tecnológicos, proporcionando a los desarrolladores un espacio más amplio para la innovación y también anunciando la dirección de desarrollo futura del procesamiento de IA localizado. Se espera que este avance tecnológico cambie la forma en que se utilizan los dispositivos móviles, lo que trae cambios importantes como el período de popularización de la computadora personal, y vale la pena esperar su desarrollo futuro.