Meta anunció recientemente el lanzamiento del último miembro de su serie Llama: Llama3.370B. Ahmad Al-Dahle, vicepresidente de IA generativa de Meta, dio la noticia sobre la reducción significativa.
Al-Dahle dijo que al aprovechar la última tecnología posterior a la capacitación, Llama3.370B no solo mejora el rendimiento sino que también reduce los costos operativos. Según los resultados de las pruebas comparativas publicadas por Meta, Llama3.370B ha superado a Gemini1.5Pro de Google, GPT-4 de OpenAI y Nova Pro recientemente lanzado de Amazon en muchos campos, especialmente en la prueba MMLU que evalúa la capacidad de comprensión del lenguaje del modelo.
El modelo ya está disponible para descargar desde fuentes como Hugging Face y la plataforma oficial de Llama, un movimiento de Meta que pretende dominar el campo de la IA con modelos “abiertos”. El modelo Llama de Meta se puede aplicar a una variedad de escenarios y admite la comercialización, aunque Meta ha establecido restricciones de uso para algunos desarrolladores, exigiendo que las plataformas con más de 700 millones de usuarios mensuales soliciten licencias especiales. A pesar de esto, el modelo Llama se ha descargado más de 650 millones de veces, lo que indica su amplia popularidad entre los desarrolladores de IA de todo el mundo.
Para respaldar la capacitación de modelos de IA a mayor escala en el futuro, Meta está invirtiendo fuertemente en infraestructura informática. La compañía anunció recientemente que construirá un centro de datos de IA de 10 mil millones de dólares en Luisiana, que es el centro de datos de IA más grande de Meta hasta la fecha. Zuckerberg mencionó durante la conferencia telefónica sobre ganancias que para entrenar el modelo Llama4 de próxima generación, la potencia informática requerida será 10 veces mayor que la de Llama3. Meta ha comprado actualmente más de 100.000 clústeres de GPU Nvidia, igualando los recursos de competidores como xAI.
A medida que el costo de la capacitación del modelo de IA generativa continúa aumentando, los gastos de capital de Meta también muestran una tendencia creciente. Los gastos de capital en el segundo trimestre de 2024 aumentaron casi un 33% a 8.500 millones de dólares. Este crecimiento se debe principalmente a la continua inversión de Meta en servidores, centros de datos e infraestructura de red.