การศึกษาใหม่จาก Tow Center for Digital Journalism ของมหาวิทยาลัยโคลัมเบียเผยให้เห็นปัญหาร้ายแรงเกี่ยวกับการอ้างอิงแหล่งข่าวของ ChatGPT นักวิจัยทดสอบการอ้างอิงข่าว 200 รายการจากผู้จัดพิมพ์ 20 ราย และพบว่าการอ้างอิงของ ChatGPT มากถึง 76.5% มีข้อผิดพลาดหรือข้อผิดพลาดบางส่วน และแทบไม่ได้รับการยอมรับว่ามีข้อมูลที่ขาดหายไป การศึกษาครั้งนี้ทำให้เกิดความกังวลเกี่ยวกับความน่าเชื่อถือของบริการค้นหาปัญญาประดิษฐ์ และทำให้เกิดคำถามเกี่ยวกับความปลอดภัยของแอปพลิเคชันปัญญาประดิษฐ์ในด้านการเผยแพร่ข่าว ข้อสรุปของการวิจัยมีนัยสำคัญในคำเตือนสำหรับทั้งสื่อข่าวและบริษัทปัญญาประดิษฐ์
งานวิจัยใหม่จาก Tow Center for Digital Journalism ของมหาวิทยาลัยโคลัมเบียส่งเสียงเตือนสำหรับบริการค้นหาปัญญาประดิษฐ์ การวิจัยแสดงให้เห็นว่า ChatGPT มีปัญหาด้านความแม่นยำที่ร้ายแรงเมื่ออ้างอิงแหล่งข่าว แม้แต่ผู้เผยแพร่ที่ทำงานโดยตรงกับ OpenAI ก็ตาม ทีมวิจัยได้ทำการทดสอบที่ครอบคลุมเกี่ยวกับการอ้างอิงข่าว 200 รายการจากสำนักพิมพ์ 20 แห่ง และผลลัพธ์ที่ได้นั้นน่าตกใจ: ในกรณีเหล่านี้มากถึง 153 กรณี ChatGPT มีข้อมูลแหล่งที่มาที่ไม่ถูกต้องหรือไม่ถูกต้องบางส่วน ที่น่ากังวลยิ่งกว่านั้น คือระบบแทบไม่ยอมรับเชิงรุกว่าข้อมูลหายไป โดยยอมรับเพียง 7 ครั้งเท่านั้นที่ไม่พบแหล่งที่มา
นักวิจัยชี้ให้เห็นว่าเพื่อรักษาประสบการณ์การใช้งานของผู้ใช้ ChatGPT มักจะสร้างคำตอบมากกว่ายอมรับการขาดข้อมูล สิ่งที่ร้ายแรงกว่านั้นคือระบบนำเสนอแหล่งที่มาที่เป็นเท็จเหล่านี้ด้วยความมั่นใจที่น่ากังวล โดยไม่แสดงความไม่แน่นอนเลย แม้แต่ผู้จัดพิมพ์ที่มีชื่อเสียงเช่น New York Post และ The Atlantic ซึ่งมีความร่วมมือโดยตรงกับ OpenAI ก็ไม่รอดพ้นจากปัญหานี้ ในบางกรณี ChatGPT ยังเชื่อมโยงกับเว็บไซต์ที่คัดลอกบทความทั้งหมดโดยไม่ได้รับอนุญาต แทนที่จะเป็นแหล่งที่มาดั้งเดิม
Matt Honan บรรณาธิการบริหารของ MIT Technology Review แสดงความคิดเห็นเกี่ยวกับเรื่องนี้: "ในฐานะผู้จัดพิมพ์ นี่ไม่ใช่สถานการณ์ที่เราอยากเห็นอย่างแน่นอน และการเยียวยาที่มีอยู่ในขณะนี้มีจำกัดอย่างยิ่ง"
OpenAI ค่อนข้างระมัดระวังในการตอบสนองต่อข้อค้นพบที่น่ากังวลเหล่านี้ บริษัทเน้นย้ำว่า ChatGPT ให้บริการผู้ใช้ 250 ล้านคนทุกสัปดาห์ และกล่าวว่ากำลังทำงานร่วมกับพันธมิตรเพื่อปรับปรุงความแม่นยำในการอ้างอิง
ข้อสรุปสุดท้ายของการศึกษานี้ชัดเจน ในขณะนี้ ผู้เผยแพร่โฆษณาไม่มีการรับประกันว่า ChatGPT Search จะแสดงเนื้อหาของตนอย่างถูกต้อง ไม่ว่าพวกเขาจะเป็นพันธมิตรกับ OpenAI หรือไม่ก็ตาม การค้นพบครั้งนี้จะส่งเสริมการอภิปรายและปรับปรุงความน่าเชื่อถือของข้อมูลปัญญาประดิษฐ์อย่างไม่ต้องสงสัย
การค้นพบนี้น่าหนักใจและเน้นย้ำถึงความสำคัญของการคิดอย่างมีวิจารณญาณและการตรวจสอบข้อเท็จจริงเมื่อใช้เทคโนโลยีปัญญาประดิษฐ์ในการค้นหาข้อมูล ในอนาคต จำเป็นต้องมีการกำกับดูแลและปรับปรุงโมเดลปัญญาประดิษฐ์เพิ่มเติมเพื่อให้แน่ใจว่าข้อมูลที่ให้นั้นถูกต้องและเชื่อถือได้ และเพื่อหลีกเลี่ยงการทำให้สาธารณชนเข้าใจผิด