เมื่อเร็ว ๆ นี้องค์กรที่ไม่แสวงหาผลกำไร Epoch AI ได้รับเงินทุน OpenAI เนื่องจากโครงการทดสอบมาตรฐานทางคณิตศาสตร์ AI ที่พัฒนาขึ้น แต่ยังไม่ได้เปิดเผยในเวลาที่ก่อให้เกิดการโต้เถียง เหตุการณ์นี้เกี่ยวข้องกับปัญหาเช่นการเปิดเผยข้อมูลความโปร่งใสความขัดแย้งระหว่างผลประโยชน์และความเป็นกลางของการทดสอบมาตรฐานซึ่งกระตุ้นความสนใจอย่างกว้างขวางจากวิชาการและสาธารณะ บทความนี้จะวิเคราะห์รายละเอียดของเหตุการณ์ในรายละเอียดและสำรวจผลกระทบที่อาจเกิดขึ้น
เมื่อเร็ว ๆ นี้ Epoch AI ซึ่งได้พัฒนามาตรฐานคณิตศาสตร์ AI ได้ก่อให้เกิดการโต้เถียงเนื่องจากความล้มเหลวในการเปิดเผยกองทุน OpenAI ในเวลา องค์กรประกาศเมื่อวันที่ 20 ธันวาคมว่า OpenAI ได้รับทุนสนับสนุนโครงการ FrontierMath ซึ่งเป็นเกณฑ์มาตรฐานสำหรับการทดสอบความสามารถทางคณิตศาสตร์ AI ผู้รับเหมาของ Epoch AI ใช้ชื่อเล่น "Meemi" ในฟอรั่มน้อยกว่าว่าผู้มีส่วนร่วมหลายคนที่เกี่ยวข้องในโครงการ FrontierMath ไม่ได้ตระหนักถึงก่อนที่จะมีการเปิดเผยเงินทุนของ Openai เขากล่าวถึง: "การสื่อสารเกี่ยวกับสิ่งนี้ขาดความโปร่งใสในความคิดของฉัน Epoch AI ควรเปิดเผยแหล่งที่มาของเงินทุนของ OpenAI ล่วงหน้าและผู้รับเหมาควรรู้ว่างานของพวกเขาอาจใช้สำหรับการประเมินความสามารถก่อนตัดสินใจว่าจะเข้าร่วมใน เกณฑ์มาตรฐาน นอกเหนือจากการระดมทุน FrontierMath แล้ว Openai ยังมีทัศนวิสัยสำหรับปัญหาและการแก้ปัญหามากมายในเกณฑ์มาตรฐานและ Epoch AI ไม่ได้เปิดเผยเรื่องนี้ก่อนวันที่ 20 ธันวาคม Carina Hong นักศึกษาปริญญาเอกที่ Stanford University ชี้ให้เห็นบนแพลตฟอร์มโซเชียลที่ OpenAI ได้รับสิทธิ์ในการเข้าถึง FrontierMath ลำดับความสำคัญเนื่องจากความร่วมมือกับ Epoch AI ซึ่งทำให้ผู้มีส่วนร่วมบางคนไม่พอใจ "นักคณิตศาสตร์หกคนที่มีส่วนร่วมอย่างมีนัยสำคัญต่อเกณฑ์มาตรฐาน FrontierMath ยืนยันว่าพวกเขาไม่ทราบว่า OpenAi จะผูกขาดเกณฑ์มาตรฐานนี้และคนอื่น ๆ จะไม่สามารถเข้าถึงได้" อาจไม่เข้าร่วมในโครงการ Tamay Besiroglu กล่าวว่าแม้ว่าความโปร่งใสของเนื้อเยื่อไม่เพียงพอ แต่เขาเชื่อว่าความสมบูรณ์ของ FrontierMath นั้นไม่ได้รับผลกระทบ เขายอมรับว่า Epoch AI ทำผิดพลาดในการสื่อสารและล้มเหลวในการแจ้งผู้สนับสนุนของ OpenAI ล่วงหน้า Besiroglu กล่าวว่าถึงแม้ว่า Openai จะมีสิทธิ์เข้าถึง Frontiermath ทั้งสองฝ่ายมี "ข้อตกลงปากเปล่า" และ OpenAI จะไม่ใช้ปัญหาของเกณฑ์มาตรฐานนี้เพื่อฝึก AI Epoch AI ยังคงรักษา "ชุดที่สงวนไว้แยกต่างหาก" เพื่อให้แน่ใจว่าการตรวจสอบอย่างอิสระของผลลัพธ์มาตรฐาน FrontierMath Ellot Glazer หัวหน้านักคณิตศาสตร์ของ Epoch AI กล่าวถึง Reddit ว่า Epoch AI ยังไม่ได้ตรวจสอบผลลัพธ์ FrontierMath O3 ของ OpenAi อย่างอิสระ เขาเชื่อว่าคะแนนของ Openai นั้นน่าเชื่อถือ แต่ไม่สามารถยืนยันได้ก่อนที่การประเมินอิสระจะเสร็จสิ้น
เหตุการณ์ยุค AI เปิดเผยถึงความสำคัญของความโปร่งใสและการเปิดเผยข้อมูลในความร่วมมือด้านการวิจัยทางวิทยาศาสตร์ ในอนาคตโครงการมาตรฐาน AI ที่คล้ายคลึงกันจะต้องมีข้อตกลงการระดมทุนที่ชัดเจนขึ้นและกลไกการสื่อสารที่มีประสิทธิภาพมากขึ้นเพื่อให้แน่ใจว่าเป็นกลางและเป็นธรรมและรักษาความไว้วางใจและชื่อเสียงของแวดวงวิชาการ ด้วยวิธีนี้เราสามารถส่งเสริมการพัฒนาที่ดีต่อสุขภาพของสนาม AI