Allen AI anunció el código abierto de su modelo perfeccionado llamado OLMo-7B-Instruct, que se basa en el conjunto de datos Dolma de AI2 y contiene cuatro variantes de modelo a escala 7B, cada modelo entrenado con al menos marcadores 2T. Esta iniciativa de código abierto tiene como objetivo promover el desarrollo de la investigación y la aplicación de modelos. Allen AI también proporciona un conjunto completo de pesas, evaluación y código de capacitación y evaluación para facilitar que los usuarios comprendan completamente todo el proceso, desde los modelos de preentrenamiento hasta el ajuste fino de RLHF. modelos, proporcionando a los investigadores y desarrolladores recursos valiosos.
Allen AI anunció recientemente el modelo de ajuste fino de código abierto OLMo-7B-Instruct, construido sobre el conjunto de datos Dolma de AI2. El modelo incluye los pesos completos de cuatro variantes del modelo a escala 7B, cada una entrenada en al menos marcadores 2T. Allen AI también ha lanzado un kit de evaluación para su uso en desarrollo, que proporciona códigos de capacitación y evaluación, lo que permite a los usuarios tener una comprensión integral de todo el proceso, desde los modelos de preentrenamiento hasta los modelos de ajuste fino de RLHF, brindando un fuerte soporte para el desarrollo de modelos. investigaciones y aplicaciones.
El código abierto de OLMo-7B-Instruct no solo proporciona potentes recursos de modelo, sino más importante aún, su código de soporte completo y herramientas de evaluación, lo que brinda una gran conveniencia para la investigación y aplicación de la comunidad de IA y promueve el desarrollo de modelos grandes. Con un desarrollo e innovación continuos, vale la pena esperar su desempeño en aplicaciones futuras.