เมื่อเร็วๆ นี้ การสอบสวนโดย The Guardian เปิดเผยความเสี่ยงด้านความปลอดภัยที่อาจเกิดขึ้นในเครื่องมือค้นหา ChatGPT ของ OpenAI การตรวจสอบพบว่า ChatGPT เสี่ยงต่อโค้ดที่เป็นอันตรายหรือคำแนะนำการจัดการที่ซ่อนอยู่ในหน้าเว็บ โดยให้การตอบสนองที่ไม่ถูกต้องหรือเป็นอันตราย เช่น การถูกหลอกให้แสดงบทวิจารณ์เชิงบวกมากเกินไปต่อผลิตภัณฑ์ แม้ว่าจะมีบทวิจารณ์เชิงลบต่อผลิตภัณฑ์ก็ตาม การสอบสวนทำให้เกิดความกังวลเกี่ยวกับความปลอดภัยของโมเดลภาษาขนาดใหญ่ และเน้นย้ำถึงความสำคัญที่สำคัญของการรักษาความปลอดภัยในการพัฒนาเทคโนโลยี AI
ล่าสุด การสอบสวนโดย "Guardian" ชาวอังกฤษเปิดเผยความเสี่ยงด้านความปลอดภัยที่เป็นไปได้ในเครื่องมือค้นหา ChatGPT ของ OpenAI การสืบสวนพบว่า ChatGPT อาจถูกจัดการหรือส่งคืนโค้ดที่เป็นอันตรายเมื่อประมวลผลข้อความที่ตัดตอนมาจากหน้าเว็บที่มีเนื้อหาที่ซ่อนอยู่ เนื้อหาที่ซ่อนอยู่เหล่านี้อาจรวมถึงคำแนะนำของบุคคลที่สามที่ออกแบบมาเพื่อรบกวนการตอบสนองของ ChatGPT หรือข้อความที่ซ่อนอยู่จำนวนมากที่โปรโมตผลิตภัณฑ์หรือบริการบางอย่าง
ในระหว่างการทดสอบ ChatGPT ได้รับลิงก์ไปยังหน้าผลิตภัณฑ์กล้องปลอม และขอให้ตัดสินว่ากล้องนั้นคุ้มค่าที่จะซื้อหรือไม่ ในหน้าปกติ ChatGPT สามารถชี้ข้อดีข้อเสียของผลิตภัณฑ์ได้อย่างสมดุล อย่างไรก็ตาม เมื่อข้อความที่ซ่อนอยู่ในหน้าเว็บมีคำแนะนำให้เขียนรีวิวเชิงบวก การตอบกลับของ ChatGPT ก็กลับกลายเป็นเชิงบวกทั้งหมด แม้ว่าจะมีรีวิวเชิงลบบนหน้าเว็บก็ตาม นอกจากนี้ แม้ว่าจะไม่มีคำแนะนำที่ชัดเจน ข้อความง่ายๆ ที่ซ่อนไว้ก็อาจส่งผลต่อผลลัพธ์สรุปของ ChatGPT ซึ่งทำให้มีแนวโน้มที่จะให้คำวิจารณ์เชิงบวก
Jacob Larsen ผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์ของ CyberCX เตือนว่าหากระบบค้นหาของ ChatGPT เปิดตัวอย่างเต็มรูปแบบในสถานะปัจจุบัน อาจเผชิญกับ "ความเสี่ยงสูง" ที่อาจมีบางคนออกแบบเว็บไซต์เพื่อหลอกลวงผู้ใช้โดยเฉพาะ อย่างไรก็ตาม เขายังชี้ให้เห็นว่า OpenAI มีทีมรักษาความปลอดภัย AI ที่แข็งแกร่ง และคาดว่าพวกเขาจะทดสอบและแก้ไขปัญหาเหล่านี้อย่างเข้มงวดเมื่อฟีเจอร์นี้เปิดให้ผู้ใช้ทุกคนใช้งาน
เครื่องมือค้นหาเช่น Google ได้ลงโทษเว็บไซต์ที่ใช้ข้อความที่ซ่อนอยู่ ส่งผลให้เว็บไซต์ถูกลดระดับหรือถูกลบออกทั้งหมด Karsten Nohl หัวหน้านักวิทยาศาสตร์ของ SR Labs ชี้ให้เห็นว่าการวางยาพิษ SEO ถือเป็นความท้าทายสำหรับเครื่องมือค้นหา และ ChatGPT ก็ไม่มีข้อยกเว้น อย่างไรก็ตาม นี่ไม่ใช่ปัญหากับโมเดลภาษาขนาดใหญ่ แต่เป็นความท้าทายที่ผู้เข้ามาใหม่ต้องเผชิญในช่องค้นหา
ไฮไลท์:
ChatGPT อาจถูกบงการโดยเนื้อหาที่ซ่อนอยู่และส่งกลับคำวิจารณ์ที่เป็นเท็จ
ข้อความที่ซ่อนอาจส่งผลต่อการประเมินของ ChatGPT แม้ว่าหน้านั้นจะมีบทวิจารณ์เชิงลบก็ตาม
OpenAI กำลังแก้ไขปัญหาที่อาจเกิดขึ้นเพื่อปรับปรุงความปลอดภัยของเครื่องมือค้นหา
แม้ว่า ChatGPT จะเผชิญกับความท้าทายใหม่ๆ เช่น การเป็นพิษต่อ SEO แต่ก็ไม่ได้หมายความว่าเทคโนโลยีโมเดลภาษาขนาดใหญ่นั้นมีข้อบกพร่อง OpenAI ตระหนักถึงปัญหาเหล่านี้และกำลังดำเนินการแก้ไขอย่างแข็งขัน ในอนาคต ในขณะที่เทคโนโลยีพัฒนาและปรับปรุงอย่างต่อเนื่อง ความปลอดภัยของโมเดลภาษาขนาดใหญ่ก็คาดว่าจะได้รับการปรับปรุงเพิ่มเติม ทำให้ผู้ใช้ได้รับบริการที่เชื่อถือได้มากขึ้น