บรรณาธิการของ Downcodes ได้เรียนรู้ว่าการศึกษาเมื่อเร็วๆ นี้ส่งสัญญาณเตือนเกี่ยวกับการประยุกต์ใช้ AI ในสาขาการแพทย์ นักวิจัยทดสอบ Bing Copilot ของ Microsoft และพบปัญหาร้ายแรงเกี่ยวกับความสามารถในการตอบคำถามทางการแพทย์ การทดสอบนี้เป็นการประเมินคำตอบของ Copilot ต่อคำถามทางการแพทย์ที่พบบ่อยที่สุด 10 ข้อและยายอดนิยม 50 ชนิดในสหรัฐอเมริกา และผลลัพธ์ก็น่ากังวล
การศึกษาเมื่อเร็วๆ นี้ฟังดูเหมือนเป็นสัญญาณเตือน เตือนเราว่าเราไม่ควรนิ่งนอนใจเมื่อต้องได้รับคำแนะนำทางการแพทย์จาก AI นักวิจัยในเยอรมนีและเบลเยียมได้ทำการทดสอบ Bing C0pilot ของ Microsoft อย่างครอบคลุม ซึ่งเป็นกลไกที่อ้างว่าสามารถตอบคำถามทางการแพทย์ที่พบบ่อยที่สุด 10 ข้อ และคำถามที่เกี่ยวข้องกับยายอดนิยม 50 ข้อในสหรัฐอเมริกา อย่างไรก็ตาม 24% จาก 500 คำตอบที่สร้างขึ้นไม่สอดคล้องกับความรู้ทางการแพทย์ที่มีอยู่โดยสิ้นเชิง และ 3% ของคำตอบนั้นน่ารังเกียจยิ่งกว่านั้นอีก
หมายเหตุแหล่งที่มาของรูปภาพ: รูปภาพนี้สร้างขึ้นโดย AI และรูปภาพนั้นได้รับอนุญาตจากผู้ให้บริการ Midjourney
ปัญหาไม่ใช่แค่ข้อผิดพลาดเท่านั้น คำตอบที่น่าประหลาดใจ 42% มีแนวโน้มที่จะก่อให้เกิดอันตรายปานกลางถึงเล็กน้อยต่อผู้ป่วย และ 22% เต็มมีแนวโน้มที่จะส่งผลให้เสียชีวิตหรือบาดเจ็บสาหัสด้วยซ้ำ เมื่อพิจารณาจากข้อมูลนี้ AI คำแนะนำดูเหมือนเป็นเมนูที่ "มีความเสี่ยงสูง" ใครจะกล้าลองทานง่ายๆ?
ที่แย่กว่านั้นคือคะแนนความสมบูรณ์โดยเฉลี่ยของคำตอบ AI เหล่านี้มีเพียง 77% คำตอบที่แย่ที่สุดมีเพียง 23% ของคำตอบที่ไม่สอดคล้องกับข้อมูลอ้างอิง และมากกว่า 3% ของคำตอบ คำตอบขัดแย้งกับข้อเท็จจริงโดยตรง มีเพียง 54% ของคำตอบที่สอดคล้องกับฉันทามติทางวิทยาศาสตร์ และ 39% ของคำตอบนั้นขัดแย้งกับความคิดเห็นทางวิทยาศาสตร์
ผลการศึกษานี้ตีพิมพ์ในวารสาร "BMJ Quality & Safety" นักวิจัยได้เน้นย้ำซ้ำแล้วซ้ำเล่าว่าแม้เทคโนโลยี AI จะเติบโตขึ้นในวงการการแพทย์ แต่เราก็ยังควรพึ่งพาบุคลากรทางการแพทย์มืออาชีพเพื่อให้ได้ยาที่แม่นยำและปลอดภัย ข้อมูล. ท้ายที่สุดคงไม่มีใครอยากเป็นคนที่ “ถูก AI หลอก” ใช่ไหม?
ผลการวิจัยแสดงให้เห็นอย่างชัดเจนว่าเทคโนโลยี AI ยังคงต้องได้รับการปรับปรุงเพิ่มเติมในการให้คำปรึกษาทางการแพทย์ และไม่ควรพึ่งพา AI ในการวินิจฉัยตนเองหรือการรักษา เมื่อได้รับคำแนะนำทางการแพทย์ ควรขอความช่วยเหลือจากแพทย์ผู้เชี่ยวชาญเสมอเพื่อให้มั่นใจในสุขภาพและความปลอดภัยของคุณ บรรณาธิการของ Downcodes เตือนคุณว่า: สุขภาพไม่ใช่เรื่องเล็ก!