การวิจัยล่าสุดในด้านปัญญาประดิษฐ์เผยให้เห็นความคล้ายคลึงกันที่น่าประหลาดใจระหว่างแบบจำลองภาษาขนาดใหญ่ (LLMS) และโครงสร้างสมองของมนุษย์ ผ่านการวิเคราะห์เชิงลึกของพื้นที่เปิดใช้งานของ LLM นักวิทยาศาสตร์ที่ MIT ค้นพบว่าโครงสร้างภายในของมันมีการติดต่อที่สำคัญกับระดับไมโคร, Meso และแมโครของสมองมนุษย์ การค้นพบนี้ไม่เพียง แต่ให้มุมมองใหม่สำหรับเราที่จะเข้าใจว่า AI ทำงานอย่างไร แต่ยังวางรากฐานสำหรับการพัฒนาในอนาคตของระบบ AI ที่ชาญฉลาด
AI ได้เริ่ม "ขยายสมองของคุณ" จริง ๆ แล้ว!
การศึกษาครั้งนี้ใช้เทคโนโลยี Autoencoder แบบเบาบางในการวิเคราะห์เชิงลึกของพื้นที่เปิดใช้งานของ LLM และค้นพบลักษณะโครงสร้างสามระดับซึ่งน่าทึ่งมาก:
ครั้งแรกที่ระดับกล้องจุลทรรศน์นักวิจัยค้นพบการมีอยู่ของโครงสร้าง "คริสตัล" ใบหน้าของ "คริสตัล" เหล่านี้ประกอบด้วยสี่เหลี่ยมด้านขนานหรือสี่เหลี่ยมคางหมูคล้ายกับคำศัพท์ที่คุ้นเคยเช่น "ผู้ชาย: ผู้หญิง: ราชา: ราชินี"
สิ่งที่น่าประหลาดใจยิ่งกว่านั้นคือโครงสร้าง "คริสตัล" เหล่านี้ชัดเจนขึ้นหลังจากลบปัจจัยการรบกวนที่ไม่เกี่ยวข้อง (เช่นความยาวคำ) ผ่านเทคนิคการวิเคราะห์การจำแนกเชิงเส้น
ประการที่สองในระดับ Meso นักวิจัยพบว่าพื้นที่เปิดใช้งานของ LLM มีโครงสร้างแบบแยกส่วนคล้ายกับพาร์ติชันการทำงานของสมองมนุษย์
ตัวอย่างเช่นคุณสมบัติที่เกี่ยวข้องกับคณิตศาสตร์และรหัสจะรวมตัวกันเพื่อสร้าง "กลีบสมอง" คล้ายกับกลีบหน้าที่ของสมองมนุษย์ ผ่านการวิเคราะห์เชิงปริมาณโดยตัวบ่งชี้หลายตัวนักวิจัยยืนยันพื้นที่เชิงพื้นที่ของ "กลีบสมอง" เหล่านี้ซึ่งบ่งชี้ว่าคุณสมบัติที่เกิดขึ้นร่วมกันนั้นมีความเข้มข้นมากขึ้นกว่าความคาดหวังของการกระจายแบบสุ่ม
ในระดับมหภาคนักวิจัยพบว่าโครงสร้างโดยรวมของคลาวด์จุด LLM ไม่ใช่ไอโซโทรปิก แต่แสดงให้เห็นถึงการกระจายค่าลักษณะเฉพาะของกฎหมายพลังงานและการกระจายนี้ชัดเจนที่สุดในชั้นกลาง
นักวิจัยยังหาปริมาณเอนโทรปีการจัดกลุ่มในระดับที่แตกต่างกันและพบว่าเอนโทรปีของการจัดกลุ่มของชั้นกลางต่ำกว่าแสดงให้เห็นว่าการแสดงคุณสมบัติมีความเข้มข้นมากขึ้นในขณะที่เอนโทรปีการจัดกลุ่มของชั้นต้นและปลายสูงกว่า แยกย้ายกันมากขึ้น
การศึกษาครั้งนี้ให้มุมมองใหม่สำหรับเราที่จะเข้าใจกลไกภายในของแบบจำลองภาษาขนาดใหญ่และวางรากฐานสำหรับการพัฒนาในอนาคตของระบบ AI ที่ทรงพลังและฉลาดขึ้น
การศึกษาครั้งนี้ไม่เพียง แต่เผยให้เห็นความคล้ายคลึงกันระหว่าง AI และสมองมนุษย์ แต่ยังให้ทิศทางใหม่สำหรับการพัฒนาเทคโนโลยี AI ในอนาคตซึ่งบ่งชี้ว่า AI จะฉลาดขึ้นและมีประสิทธิภาพมากขึ้น