Allen AI 宣布開源其名為OLMo-7B-Instruct 的微調模型,該模型基於AI2 的Dolma 資料集構建,包含四個7B 規模的模型變體,每個模型都至少訓練了2T 個標記。這項開源措施旨在促進模型研究和應用的發展,Allen AI 還提供了完整的權重、評估套件以及訓練和評估程式碼,方便用戶全面了解從預訓練模型到RLHF 微調模型的整個過程,為研究者和開發者提供了寶貴的資源。
Allen AI最近宣布了開源微調模型OLMo-7B-Instruct,基於AI2的Dolma資料集建構。模型包括四種7B規模模型變體的完整權重,每個模型至少訓練了2T個標記。 Allen AI也發布了用於開發中使用的評估套件,提供了訓練和評估程式碼,使用戶能夠全面了解預訓練模型到RLHF微調模型的整個過程,為模型研究和應用的發展提供了強大的支持。
OLMo-7B-Instruct 的開源,不僅提供了強大的模型資源,更重要的是其配套的完整程式碼和評估工具,為AI 社群的研究和應用帶來了極大的便利,推動了大模式領域的持續發展和創新,值得期待其在未來應用中的表現。