คำแนะนำที่ไม่ถูกต้องของ AI นำไปสู่ความเสี่ยงด้านความปลอดภัย ตั้งแต่การระบุเห็ดไปจนถึงคำแนะนำในการทำอาหาร

เมื่อเร็ว ๆ นี้ บรรณาธิการของ Downcodes ได้เรียนรู้เกี่ยวกับเหตุการณ์ด้านความปลอดภัยของ AI ที่น่ากังวล: ตัวแทน AI ชื่อ FungiFriend ให้คำแนะนำการบริโภคที่ไม่ถูกต้องเกี่ยวกับเห็ด Sarcosphaera Coronaria ซึ่งมีสารหนูที่มีความเข้มข้นสูง ในกลุ่มผู้ชื่นชอบเห็ดบน Facebook และยังอธิบายด้วยซ้ำ รายละเอียดวิธีการปรุงอาหารที่หลากหลาย ซึ่งก่อให้เกิดความกังวลของสาธารณชนอย่างกว้างขวางเกี่ยวกับความปลอดภัยของแอปพลิเคชัน AI เหตุการณ์นี้ไม่ใช่กรณีที่แยกได้ AI มักทำผิดพลาดในด้านความปลอดภัยของอาหาร ซึ่งเผยให้เห็นถึงความเสี่ยงและความท้าทายของการประยุกต์ใช้ AI

เมื่อถามถึงวิธีการปรุงเห็ด Sarcosphaera Coronaria ที่มีสารหนูที่มีความเข้มข้นสูง FungiFriend ไม่เพียงแต่ระบุอย่างไม่ถูกต้องว่าเห็ดนั้นกินได้ แต่ยังให้รายละเอียดวิธีการปรุงอาหารต่างๆ อย่างละเอียด เช่น การทอด การตุ๋น และอื่นๆ อีกมากมาย ที่จริงแล้วเห็ดชนิดนี้ทำให้เกิดผู้เสียชีวิต

Rick Claypool ผู้อำนวยการฝ่ายวิจัยขององค์กร Public Citizen ซึ่งเป็นองค์กรด้านความปลอดภัยสำหรับผู้บริโภค ชี้ให้เห็นว่าการใช้ AI เพื่อระบุเห็ดที่กินได้และมีพิษโดยอัตโนมัตินั้นเป็นกิจกรรมที่มีความเสี่ยงสูง และระบบ AI ในปัจจุบันยังไม่สามารถทำงานนี้ให้เสร็จสิ้นได้อย่างถูกต้องแม่นยำ

นี่ไม่ใช่กรณีที่แยกได้ ในปีที่ผ่านมา แอปพลิเคชัน AI มักทำผิดพลาดร้ายแรงด้านความปลอดภัยของอาหาร: - แอปพลิเคชัน AI แนะนำให้ทำแซนวิชที่มีสารกันยุง ระบบ AI ให้สูตรอาหารที่มีคลอรีน และแม้แต่คำแนะนำที่ไร้สาระก็แนะนำให้กินก้อนหิน - Google AI เช่นกัน อ้างว่าสุนัขสามารถออกกำลังกายได้ และแนะนำให้ใช้กาวทำพิซซ่า และอื่นๆ อีกมากมาย

แม้จะมีข้อผิดพลาดด้าน AI บ่อยครั้ง แต่บริษัทอเมริกันก็ยังคงส่งเสริมความนิยมในการบริการลูกค้าด้าน AI อย่างรวดเร็ว เบื้องหลังแนวทางการประเมินความเร็วเหนือคุณภาพนี้ สะท้อนถึงปัญหาที่บริษัทต่างๆ ให้ความสำคัญกับการประหยัดต้นทุนมากเกินไป และไม่ให้ความสำคัญกับความปลอดภัยของผู้ใช้มากพอ ผู้เชี่ยวชาญเรียกร้องให้ใช้เทคโนโลยี AI ด้วยความระมัดระวังในสาขาเฉพาะ โดยเฉพาะที่เกี่ยวข้องกับความปลอดภัย เพื่อให้มั่นใจในความถูกต้องและความน่าเชื่อถือของข้อมูล

เทคโนโลยี AI กำลังพัฒนาอย่างรวดเร็ว แต่ปัญหาด้านความปลอดภัยและความน่าเชื่อถือไม่สามารถละเลยได้ เหตุการณ์นี้เตือนเราอีกครั้งว่าเมื่อมีการใช้ AI ในพื้นที่ที่มีความเสี่ยงสูง เราต้องให้ความสำคัญกับปัญหาด้านความปลอดภัย เสริมสร้างการกำกับดูแล และปรับปรุงเทคโนโลยีเพื่อหลีกเลี่ยงไม่ให้เหตุการณ์ที่คล้ายกันเกิดขึ้นอีก บรรณาธิการของ Downcodes เรียกร้องให้ทุกฝ่ายทำงานร่วมกันเพื่อให้แน่ใจว่าเทคโนโลยี AI สามารถให้บริการมนุษยชาติได้อย่างปลอดภัยและเชื่อถือได้