Allen AI ได้ประกาศโอเพ่นซอร์สของโมเดลที่ได้รับการปรับแต่งอย่างละเอียดที่เรียกว่า OLMo-7B-Instruct ซึ่งสร้างขึ้นจากชุดข้อมูล Dolma ของ AI2 และมีโมเดลขนาด 7B สี่รุ่น แต่ละรุ่นได้รับการฝึกฝนด้วยเครื่องหมายอย่างน้อย 2T โครงการริเริ่มโอเพ่นซอร์สนี้มีจุดมุ่งหมายเพื่อส่งเสริมการพัฒนาการวิจัยโมเดลและการประยุกต์ใช้ Allen AI ยังมอบน้ำหนัก ชุดการประเมินผล และโค้ดการฝึกอบรมและการประเมินผลที่สมบูรณ์ เพื่ออำนวยความสะดวกให้ผู้ใช้เข้าใจกระบวนการทั้งหมดอย่างถ่องแท้ ตั้งแต่โมเดลก่อนการฝึกไปจนถึงการปรับแต่ง RLHF แบบจำลองการจัดหานักวิจัยและนักพัฒนาให้ทรัพยากรที่มีคุณค่า
เมื่อเร็วๆ นี้ Allen AI ได้ประกาศโมเดลการปรับแต่งโอเพ่นซอร์สแบบละเอียด OLMo-7B-Instruct ซึ่งสร้างขึ้นจากชุดข้อมูล Dolma ของ AI2 โมเดลดังกล่าวประกอบด้วยน้ำหนักเต็มของโมเดลขนาด 7B สี่รุ่น โดยแต่ละรุ่นได้รับการฝึกฝนบนมาร์กเกอร์อย่างน้อย 2T Allen AI ยังได้เปิดตัวชุดประเมินผลเพื่อใช้ในการพัฒนา โดยให้รหัสการฝึกอบรมและการประเมินผล ช่วยให้ผู้ใช้มีความเข้าใจอย่างครอบคลุมเกี่ยวกับกระบวนการทั้งหมดตั้งแต่แบบจำลองก่อนการฝึกอบรมไปจนถึงแบบจำลองการปรับแต่ง RLHF ซึ่งให้การสนับสนุนอย่างมากสำหรับการพัฒนาแบบจำลอง การวิจัยและการประยุกต์
โอเพ่นซอร์สของ OLMo-7B-Instruct ไม่เพียงแต่มอบทรัพยากรโมเดลที่มีประสิทธิภาพเท่านั้น แต่ที่สำคัญกว่านั้นคือโค้ดสนับสนุนและเครื่องมือประเมินผลที่สมบูรณ์ ซึ่งนำความสะดวกสบายอย่างมากมาสู่การวิจัยและการประยุกต์ใช้ชุมชน AI และส่งเสริมการพัฒนาโมเดลขนาดใหญ่ ด้วยการพัฒนาและนวัตกรรมอย่างต่อเนื่อง จึงคุ้มค่าที่จะรอคอยประสิทธิภาพในการใช้งานในอนาคต