โครงการ GPT-5 ของ OpenAI (ชื่อรหัส Orion) มีความคืบหน้าช้า ซึ่งกระตุ้นให้เกิดความกังวลอย่างกว้างขวางในอุตสาหกรรมเกี่ยวกับทิศทางการพัฒนาในอนาคตของแบบจำลองภาษาขนาดใหญ่ ตามรายงาน แม้ว่า GPT-5 จะทำงานได้ดีกว่ารุ่นที่มีอยู่ แต่การปรับปรุงนั้นไม่เพียงพอที่จะรองรับต้นทุนการวิจัยและพัฒนาจำนวนมหาศาล ที่สำคัญกว่านั้น การขาดข้อมูลทั่วโลกกลายเป็นปัญหาคอขวดหลักที่จำกัด GPT-5 จากการปรับปรุงระดับสติปัญญาเพิ่มเติม บทความนี้จะสำรวจความท้าทายทางเทคนิคอย่างเจาะลึก ปัญหาภายในที่โครงการ GPT-5 เผชิญ และผลลัพธ์ของการคิดเกี่ยวกับคอขวดของการพัฒนา AI
โครงการ GPT-5 ที่มีชื่อเสียงระดับสูง (ชื่อรหัสว่า Orion) อยู่ระหว่างการพัฒนามานานกว่า 18 เดือน แต่ยังไม่ได้เปิดตัว ตามรายงานล่าสุดจาก Wall Street Journal ผู้คนที่คุ้นเคยกับเรื่องนี้เปิดเผยว่า แม้ว่าประสิทธิภาพของ Orion จะดีกว่ารุ่น OpenAI ที่มีอยู่ แต่การปรับปรุงนั้นไม่เพียงพอที่จะพิสูจน์ให้เห็นถึงการลงทุนต้นทุนมหาศาลต่อไป สิ่งที่น่ากังวลยิ่งกว่านั้นก็คือการขาดข้อมูลทั่วโลกอาจกลายเป็นอุปสรรคที่ใหญ่ที่สุดสำหรับ GPT-5 ในการก้าวไปสู่ระดับสติปัญญาที่สูงขึ้น
ว่ากันว่า GPT-5 ผ่านการฝึกอบรมอย่างน้อยสองครั้ง และการฝึกอบรมแต่ละครั้งเผยให้เห็นปัญหาใหม่ๆ และไม่สามารถตอบสนองความคาดหวังของนักวิจัยได้ การฝึกอบรมแต่ละรอบใช้เวลาหลายเดือน และค่าใช้จ่ายในการคำนวณเพียงอย่างเดียวก็สูงถึง 500 ล้านดอลลาร์ ยังไม่ชัดเจนว่าโครงการจะประสบความสำเร็จเมื่อใด
เส้นทางสู่การฝึกอบรมเต็มไปด้วยความยากลำบาก: คอขวดของข้อมูลปรากฏขึ้น
นับตั้งแต่เปิดตัว GPT-4 ในเดือนมีนาคม 2566 OpenAI ก็ได้เริ่มพัฒนา GPT-5 โดยทั่วไป ความสามารถของโมเดล AI จะเพิ่มขึ้นตามปริมาณข้อมูลที่ดูดซับเพิ่มขึ้น กระบวนการฝึกอบรมต้องใช้ข้อมูลจำนวนมหาศาล ใช้เวลาหลายเดือน และอาศัยชิปประมวลผลราคาแพงจำนวนมาก Altman ซีอีโอของ OpenAI เคยเปิดเผยว่าค่าใช้จ่ายในการฝึกอบรม GPT-4 เพียงอย่างเดียวนั้นเกินกว่า 100 ล้านดอลลาร์สหรัฐ และค่าใช้จ่ายในการฝึกอบรมโมเดล AI ในอนาคตคาดว่าจะเกิน 1 พันล้านดอลลาร์สหรัฐ
เพื่อลดความเสี่ยง OpenAI มักจะดำเนินการทดลองขนาดเล็กก่อนเพื่อตรวจสอบความเป็นไปได้ของแบบจำลอง อย่างไรก็ตาม การพัฒนา GPT-5 เผชิญกับความท้าทายตั้งแต่เริ่มต้น ในช่วงกลางปี 2023 OpenAI ได้เปิดตัวการฝึกอบรมเชิงทดลองที่เรียกว่า "Arrakis" ซึ่งออกแบบมาเพื่อทดสอบการออกแบบใหม่ของ GPT-5 อย่างไรก็ตาม ความคืบหน้าในการฝึกอบรมช้าและมีค่าใช้จ่ายสูง และผลการทดลองระบุว่าการพัฒนา GPT-5 นั้นซับซ้อนและยากกว่าที่คาดไว้ในตอนแรก
ดังนั้น ทีมวิจัยของ OpenAI จึงตัดสินใจทำการปรับเปลี่ยนทางเทคนิคหลายครั้งกับ Orion และตระหนักว่าข้อมูลอินเทอร์เน็ตสาธารณะที่มีอยู่ไม่สามารถตอบสนองความต้องการของโมเดลได้อีกต่อไป เพื่อปรับปรุงประสิทธิภาพของ GPT-5 พวกเขาต้องการประเภทข้อมูลมากขึ้นและมีคุณภาพสูงขึ้นอย่างเร่งด่วน
“การสร้างข้อมูลจากศูนย์”: การรับมือกับปัญหาการขาดแคลนข้อมูล
เพื่อที่จะจัดการกับปัญหาข้อมูลไม่เพียงพอ OpenAI จึงตัดสินใจ "สร้างข้อมูลตั้งแต่ต้น" พวกเขาจ้างวิศวกรซอฟต์แวร์และนักคณิตศาสตร์เพื่อเขียนโค้ดซอฟต์แวร์ใหม่หรือแก้ปัญหาทางคณิตศาสตร์ และปล่อยให้ Orion เรียนรู้จากงานเหล่านี้ OpenAI ยังให้ผู้เชี่ยวชาญเหล่านี้อธิบายกระบวนการทำงานของตน โดยเปลี่ยนความฉลาดของมนุษย์ให้เป็นความรู้ที่เรียนรู้ด้วยเครื่องได้
นักวิจัยหลายคนเชื่อว่าโค้ดซึ่งเป็นภาษาของซอฟต์แวร์สามารถช่วยโมเดลขนาดใหญ่แก้ปัญหาที่พวกเขาไม่เคยเห็นมาก่อนได้ Jonathan Siddharth ซีอีโอของ Turing กล่าวว่า "เรากำลังถ่ายโอนความฉลาดของมนุษย์จากสมองมนุษย์ไปยังสมองของเครื่องจักร"
OpenAI ยังทำงานร่วมกับผู้เชี่ยวชาญในสาขาต่างๆ เช่น ฟิสิกส์เชิงทฤษฎี เพื่อให้พวกเขาอธิบายวิธีแก้ปัญหายากๆ ในสาขาของตนได้ อย่างไรก็ตาม วิธีการ “สร้างข้อมูลจากศูนย์” นี้ไม่ได้มีประสิทธิภาพมากนัก ข้อมูลการฝึกอบรมของ GPT-4 มีประมาณ 13 ล้านล้านโทเค็น แม้ว่าคน 1,000 คนจะเขียน 5,000 คำต่อวัน แต่ก็ต้องใช้เวลาหลายเดือนในการสร้างโทเค็น 1 พันล้านรายการ
เพื่อเร่งการฝึกอบรม OpenAI ยังพยายามใช้ "ข้อมูลสังเคราะห์" ที่สร้างโดย AI อย่างไรก็ตาม การศึกษาพบว่าวงจรป้อนกลับซึ่งข้อมูลที่สร้างโดย AI ถูกนำมาใช้ซ้ำสำหรับการฝึกอบรม AI บางครั้งทำให้แบบจำลองเกิดข้อผิดพลาดหรือสร้างคำตอบที่ไม่มีความหมาย ในเรื่องนี้ นักวิทยาศาสตร์ของ OpenAI เชื่อว่าปัญหาเหล่านี้สามารถหลีกเลี่ยงได้โดยใช้ข้อมูลที่สร้างโดย o1
ปัญหาภายในและภายนอก: OpenAI เผชิญกับความท้าทายหลายประการ
OpenAI ไม่เพียงแต่เผชิญกับความท้าทายทางเทคนิคเท่านั้น แต่ยังต้องเผชิญกับความวุ่นวายภายในและการรุกล้ำจากคู่แข่งอีกด้วย ขณะเดียวกัน แรงกดดันด้านเทคโนโลยีและการเงินก็เพิ่มขึ้นเช่นกัน การฝึกอบรมแต่ละครั้งมีค่าใช้จ่ายสูงถึง 500 ล้านเหรียญสหรัฐ และค่าใช้จ่ายการฝึกอบรมขั้นสุดท้ายมีแนวโน้มที่จะเกิน 1 พันล้านเหรียญสหรัฐ ในเวลาเดียวกัน คู่แข่งอย่าง Anthropic และ Google ต่างก็เปิดตัวโมเดลรุ่นใหม่เพื่อพยายามไล่ตาม OpenAI ให้ได้
ภาวะสมองไหลและความขัดแย้งภายในทำให้การพัฒนาช้าลง เมื่อปีที่แล้ว คณะกรรมการบริหารของ OpenAI ไล่ออก Altman อย่างกะทันหัน ส่งผลให้นักวิจัยบางคนตั้งคำถามถึงอนาคตของบริษัท ในขณะที่อัลท์แมนได้รับการแต่งตั้งใหม่อย่างรวดเร็วในตำแหน่งซีอีโอ และเริ่มปฏิรูปโครงสร้างการกำกับดูแลของบริษัท ผู้บริหารหลัก นักวิจัย และผู้บริหารระยะยาวมากกว่า 20 คน ซึ่งรวมถึงผู้ร่วมก่อตั้งและหัวหน้านักวิทยาศาสตร์ อิลยา ซัตสเคเวอร์ และหัวหน้าฝ่ายเทคโนโลยี มิรา มูราติ ได้ถูกแทนที่ตั้งแต่เริ่มต้น ของปีนี้พนักงานลาออกกัน
ในขณะที่ความคืบหน้าของโครงการ Orion หยุดลง OpenAI ก็เริ่มพัฒนาโครงการและแอปพลิเคชันอื่นๆ รวมถึง GPT-4 เวอร์ชันที่เรียบง่ายและผลิตภัณฑ์สร้างวิดีโอ AI Sora แต่สิ่งนี้นำไปสู่การแข่งขันที่ดุเดือดระหว่างทีมต่างๆ เพื่อแย่งชิงทรัพยากรการประมวลผลที่มีจำกัด โดยเฉพาะระหว่างทีมพัฒนาผลิตภัณฑ์ใหม่และทีมวิจัย Orion
คอขวดการพัฒนา AI? อุตสาหกรรมเผชิญกับการคิดเชิงลึก
ภาวะที่กลืนไม่เข้าคายไม่ออกของ GPT-5 อาจเผยให้เห็นข้อเสนอของอุตสาหกรรมที่ใหญ่กว่า: AI กำลังเข้าใกล้ "ยุคคอขวด" ของการพัฒนาหรือไม่ คนวงในในอุตสาหกรรมชี้ให้เห็นว่ากลยุทธ์ที่ต้องอาศัยข้อมูลขนาดใหญ่และแบบจำลองที่ใหญ่กว่านั้นค่อยๆไม่มีประสิทธิภาพ Suzko Ver อดีตนักวิทยาศาสตร์ OpenAI เคยกล่าวไว้ว่า "เรามีอินเทอร์เน็ตเพียงเครื่องเดียว" การเติบโตของข้อมูลกำลังชะลอตัวลง และ "เชื้อเพลิงฟอสซิล" ที่ขับเคลื่อนการก้าวกระโดดของ AI ก็ค่อยๆ แห้งแล้งลง
Altman ไม่เคยให้ตารางเวลาที่ชัดเจนสำหรับอนาคตของ GPT-5 เรายังไม่ทราบแน่ชัดว่า OpenAI จะเปิดตัวโมเดลที่สมชื่อเรียกว่า GPT-5 เมื่อใดหรือหรือไม่ ภาวะที่กลืนไม่เข้าคายไม่ออกเกี่ยวกับ GPT-5 ยังกระตุ้นให้ผู้คนมีความคิดเชิงลึกเกี่ยวกับทิศทางการพัฒนาในอนาคตของ AI
ความซบเซาของโครงการ GPT-5 ไม่เพียงแต่ส่งผลกระทบต่อการพัฒนา OpenAI เท่านั้น แต่ยังส่งเสียงเตือนสำหรับอุตสาหกรรม AI ทั้งหมด โดยแนะนำว่าเส้นทางของการพึ่งพาขนาดข้อมูลและขนาดแบบจำลองเพียงอย่างเดียวอาจสิ้นสุดลงและในอนาคต การพัฒนา AI จำเป็นต้องสำรวจแนวทางใหม่และความก้าวหน้าทางเทคโนโลยี