Se afirma que el último modelo de lenguaje a gran escala de Meta, Code Llama 70B, tiene la mayor escala de parámetros y el mejor rendimiento, lo que atrae una atención generalizada en la industria. Sin embargo, los altos costos del hardware se han convertido en una barrera importante para el uso generalizado por parte de los desarrolladores. Aunque el modelo ha mostrado un rendimiento excelente en las pruebas, algunos desarrolladores han cuestionado su rendimiento y temen que la configuración de hardware requerida para su funcionamiento sea demasiado exigente y difícil de popularizar.
Meta lanzó Code Llama 70B, afirmando tener el mejor rendimiento máximo, pero los desarrolladores en general informaron que era difícil afrontar los altos costos de hardware. El modelo funcionó bien en la prueba, pero algunos desarrolladores señalaron que el rendimiento no era tan bueno como el de otros modelos y estaban preocupados por si la configuración del hardware era suficiente para cumplir con los requisitos operativos del modelo 70B.
El lanzamiento de Code Llama 70B destaca los desafíos que enfrenta el desarrollo de grandes modelos de lenguaje: cómo lograr un equilibrio entre rendimiento y costo. En el futuro, métodos de implementación y capacitación de modelos más rentables se convertirán en la clave para promover verdaderamente la tecnología de IA en beneficio de una gama más amplia de desarrolladores y grupos de usuarios.