รูปภาพอาจไม่จำเป็นต้องเป็นความจริง! จะทำลายข่าวลือเกี่ยวกับภัยพิบัติที่เกี่ยวข้องกับ AI ได้อย่างไร?

ไม่นานมานี้หลายพื้นที่ของประเทศได้รับผลกระทบจากสภาพอากาศที่รุนแรง โดยเฉพาะหลังเข้าสู่ฤดูน้ำท่วมใหญ่ บางพื้นที่ประสบกับอุณหภูมิที่สูงจัดเป็นวงกว้าง ฝนตกหนักทำลายสถิติ และลมแรงอย่างไม่อาจคาดเดาได้ เหตุการณ์สภาพอากาศสุดขั้วเหล่านี้ก่อให้เกิดภัยพิบัติทางธรรมชาติ เช่น น้ำท่วมและดินถล่ม ซึ่งส่งผลกระทบร้ายแรงต่อชีวิตและกิจกรรมการผลิตของผู้คน สิ่งที่น่าโมโหคือบางคนใช้โอกาสนี้ใช้อินเทอร์เน็ตและเทคโนโลยีปัญญาประดิษฐ์ (AI) เพื่อสร้างและเผยแพร่ข่าวลือที่เกี่ยวข้องกับภัยพิบัติ ซึ่งกระทบต่อสภาพแวดล้อมของข้อมูลที่ตึงเครียดอยู่แล้ว เหตุใดจึงมีข่าวลือเกี่ยวกับภัยพิบัติและความเสี่ยง การพัฒนาเทคโนโลยีปัญญาประดิษฐ์ในช่วงไม่กี่ปีที่ผ่านมาส่งผลกระทบอย่างไรต่อข่าวลือเกี่ยวกับภัยพิบัติและความเสี่ยง AI กลายเป็นเทรนด์ใหม่ในข่าวลือที่เกี่ยวข้องกับภัยพิบัติในช่วงฤดูน้ำท่วม หากคุณดูแพลตฟอร์มการปฏิเสธข่าวลือ เช่น China Internet Joint Rumor Refuting Platform ในเดือนกรกฎาคมและสิงหาคมของทุกปี คุณจะพบว่าข่าวลือที่เกี่ยวข้องกับอุณหภูมิสูง น้ำท่วม ภัยพิบัติ และสาขาอื่นๆ ก็มีบ่อยๆ ตั้งแต่เดือนกรกฎาคมปีนี้ ภัยพิบัติทางธรรมชาติ เช่น น้ำท่วม น้ำขัง และโคลนถล่มที่เกิดจากฝนตกหนัก ยังคงเพิ่มขึ้นอย่างต่อเนื่อง ก่อให้เกิดความเสียหายร้ายแรงต่อชีวิตและทรัพย์สินของผู้คน ข่าวลือที่เกี่ยวข้องก็แพร่สะพัด และแทรกแซงการจัดการเหตุฉุกเฉิน เมื่อเร็ว ๆ นี้ มีรายงานทางอินเทอร์เน็ต: "น้ำท่วมสูงสุดและหงหยาตงในฉงชิ่งถูกน้ำท่วม", "ฝนตกหนักในฉางซา, หูหนานทำให้รถจักรยานยนต์หลายคันจมอยู่ใต้น้ำ", "น้ำท่วมในต้าโจว, เสฉวนทำให้มีผู้เสียชีวิตจำนวนมาก", “ฝนตกหนักในเมืองเติ้งโจว เหอหนาน คร่าชีวิตผู้คนไปแล้วกว่าพันคน” ” และข่าวลืออื่นๆ ส่งผลกระทบเลวร้ายอย่างยิ่ง หลังจากตรวจสอบและแยกแยะข่าวลือออนไลน์ประเภทต่างๆ ที่เกี่ยวข้องกับภัยพิบัติและความเสี่ยงในช่วงไม่กี่ปีที่ผ่านมา ก็สามารถแบ่งประเภทคร่าวๆ ได้เป็น 3 ประเภท ประการหนึ่งคือการสร้างภัยพิบัติและการบาดเจ็บล้มตาย ชาวเน็ตบางคนบิดเบือนหรือพูดเกินจริงถึงสถานการณ์จริงในพื้นที่ประสบภัยพิบัติ เช่น การรายงานความสูงของน้ำท่วม จำนวนผู้ได้รับผลกระทบ หรือขอบเขตความเสียหายของทรัพย์สินอย่างไม่ถูกต้อง และการเผยแพร่ข้อมูลที่ยังไม่ได้รับการยืนยันเกี่ยวกับผู้เสียชีวิต รวมถึงจำนวนผู้เสียชีวิต และคนหายทำให้ประชาชนตื่นตระหนกวิตกกังวล ตัวอย่างเช่น เมื่อวันที่ 4 สิงหาคม ชาวเน็ตมณฑลเจียงซูโพสต์วิดีโอที่ระบุว่าเกิดน้ำท่วมฉับพลันอย่างรุนแรงในเทศมณฑลหลูซาน หย่าอัน เสฉวน และทำให้มีผู้ขาดการติดต่อมากกว่า 30 คน สำนักงานข้อมูลทางอินเทอร์เน็ตของคณะกรรมการพรรคเขตหลูซานออกแถลงการณ์ชี้แจงในภายหลังว่า หลังจากการตรวจสอบแล้ว ในช่วงไม่กี่วันที่ผ่านมา ไม่พบน้ำท่วมฉับพลันในเทศมณฑลหลูซาน และไม่มีกรณีใดที่ขาดการติดต่อ ประการที่สองคือการเผยแพร่วิดีโอหรือรูปภาพที่ทำให้เข้าใจผิด วิธีการที่พบบ่อยที่สุดคือ "การระบุตัวตนที่แท้จริงของบุคคลอันเป็นเท็จ" และ "แทนที่ข้อเท็จจริง" กล่าวคือ ภาพถ่ายหรือวิดีโอเกี่ยวกับภัยพิบัติในอดีตหรือเหตุการณ์อื่นๆ ที่ไม่เกี่ยวข้องจะถูกปลอมแปลงเป็นฉากจากสถานที่เกิดเหตุภัยพิบัติในปัจจุบัน รายงานสถานการณ์ภัยพิบัติอย่างเป็นเท็จ และทำให้เข้าใจผิด การตัดสินของประชาชน ตัวอย่างเช่น เมื่อวันที่ 19 มิถุนายน ชาวเน็ตโพสต์ข้อความบนแพลตฟอร์มวิดีโอสั้นว่าเกิดโคลนถล่มอย่างรุนแรงในเมืองจิ่วหวู่ เทศมณฑลหลิงฉวน เมืองกุ้ยหลิน กวางสี หลังจากการตรวจสอบโดยสำนักงานข้อมูลอินเทอร์เน็ตกุ้ยหลิน วิดีโอที่โพสต์ออนไลน์นั้นเป็นวิดีโอโคลนถล่มขนาดใหญ่ที่เกิดขึ้นบนภูเขาอิซุในเมืองอาตามิ ประเทศญี่ปุ่น เมื่อวันที่ 3 กรกฎาคม 2021 ชาวเน็ตบิดเบือนวิดีโอของเขาและทำให้สาธารณชนเข้าใจผิดอย่างร้ายแรง ประการที่สามคือการปลอมแปลงข้อมูลการช่วยเหลือที่เป็นเท็จ ตัวอย่างเช่น การเผยแพร่ความต้องการช่วยเหลือที่ผิดพลาด บัญชีการบริจาค หรือข้อมูลการรับสมัครอาสาสมัคร ไม่เพียงแต่ใช้ทรัพยากรการช่วยเหลืออันมีค่าเท่านั้น แต่ยังอาจทำให้การดำเนินการช่วยเหลือจริงล่าช้าและส่งผลเสียต่อความพยายามในการบรรเทาภัยพิบัติอีกด้วย ตัวอย่างเช่น ในปี 2023 อาชญากรใช้บัญชีของสภากาชาดเมืองเจียซิง มณฑลเจ้อเจียงโดยไม่ได้รับอนุญาต และกระทำการฉ้อโกงทางอินเทอร์เน็ตในนามของ "ส่วนลดการบริจาค" ไม่นานมานี้ บัญชีสาธารณะ WeChat ของศูนย์รายงานทางอินเทอร์เน็ตประจำมณฑลหูหนานก็ได้ประกาศกรณีหนึ่งเช่นกัน: ชาวเน็ตหยางใช้เทคโนโลยี AI เพื่อต่อภาพน้ำในแม่น้ำและต้นเบย์เบอร์รี่เข้าด้วยกัน ทำให้เกิดภาพลวงตาว่าฝนตกหนักและน้ำที่เพิ่มขึ้นทำให้ต้นผลไม้จมอยู่ใต้น้ำ . รูปภาพที่สมจริงทำให้บางคนเชื่อและก่อให้เกิดความตื่นตระหนก เทคโนโลยี AI ที่กล่าวถึงในกรณีนี้เป็นหนึ่งในวิธีการใหม่ที่เพิ่งใช้เพื่อสร้างข่าวลือเกี่ยวกับภัยพิบัติและความเสี่ยง ในช่วงไม่กี่ปีที่ผ่านมา ด้วยการพัฒนาเทคโนโลยี เช่น ปัญญาประดิษฐ์เชิงกำเนิดและการสังเคราะห์วิดีโอ กรณีของข่าวลือที่เกี่ยวข้องกับภัยพิบัติที่สร้างขึ้นโดยใช้เทคโนโลยีใหม่ เช่น AI เกิดขึ้นบ่อยครั้งในหลายแห่งทั่วประเทศ เมื่อเทียบกับข่าวลือเกี่ยวกับภัยพิบัติแบบดั้งเดิม มีเกณฑ์การผลิตต่ำกว่าและสับสนมากขึ้น เมื่อวันที่ 12 เมษายน กระทรวงความมั่นคงสาธารณะได้ประกาศกรณีทั่วไป 10 กรณีในการต่อสู้กับข่าวลือและอาชญากรรมทางออนไลน์ "สำนักงานความมั่นคงสาธารณะของมณฑลเจียงซีได้สอบสวนและจัดการกับกรณีของหน่วยงาน MCN (เครือข่ายหลายช่องสัญญาณ) ที่ใช้เครื่องมือปัญญาประดิษฐ์เพื่อเผยแพร่ข่าวลือ" และ " สำนักงานความมั่นคงสาธารณะฉงชิ่งได้สอบสวนและจัดการกับกรณีการใช้เครื่องมือปัญญาประดิษฐ์" "กรณีการใช้เครื่องมือเพื่อสร้างข่าวลือเกี่ยวกับ 'อุบัติเหตุระเบิด' ก็เป็นหนึ่งในนั้น องค์กร MCN ในเมืองหนานชาง มณฑลเจียงซีเผชิญกับการใช้ซอฟต์แวร์ AI ขั้นสูงเพื่อรวบรวมข้อมูลเครือข่ายโดยอัตโนมัติโดยการป้อนคำหลัก จากนั้นจึงสร้างบทความที่มีคำนับร้อยถึงหลายพันคำ บทความเหล่านี้ดูเหมือนจะมีข้อมูลมากมาย แต่จริงๆ แล้วเนื้อหาส่วนใหญ่ถูกสร้างขึ้นและมีรูปภาพเท็จซึ่งดูเหมือนเกี่ยวข้องกับเหตุการณ์นั้น ซึ่งเพิ่มลักษณะที่ทำให้เข้าใจผิดอย่างมาก ผลลัพธ์สูงสุดของบทความปลอมที่สร้างโดยองค์กรนี้คือ 4,000 ถึง 7,000 บทความต่อวัน การพัฒนาเทคโนโลยี AI ในปัจจุบันได้มาถึงขั้นค่อนข้างสมบูรณ์แล้ว เครื่องมือและบริการ AI จำนวนมากได้รับการนำไปใช้ในเชิงพาณิชย์และหาซื้อได้ง่ายเช่นกัน ไม่จำเป็นต้องใช้ทักษะการเขียนโปรแกรมระดับมืออาชีพหรือความรู้ทางเทคนิคขั้นสูง ผู้คนสามารถใช้ซอฟต์แวร์สำเร็จรูปหรือบริการออนไลน์เพื่อสร้างข้อความ รูปภาพ หรือวิดีโอ ซึ่งช่วยลดต้นทุนทางเศรษฐกิจและการลงทุนเวลาในการผลิตข่าวลือได้อย่างมาก AI ยังสามารถสร้างเนื้อหาข่าวลือที่เกี่ยวข้องได้อย่างรวดเร็วโดยอิงจากเหตุการณ์สำคัญ และเชื่อมโยงข้อมูลโดยอัตโนมัติเพื่อสร้างการเล่าเรื่องที่ดูสมเหตุสมผล ช่วยเพิ่มความถูกต้องของข้อมูล ตัวอย่างเช่น เมื่อวันที่ 23 มกราคม 2024 เพื่อให้ได้ปริมาณการเข้าชมและทำกำไร นักแสดงผิดกฎหมาย Yang Moumou ใช้ซอฟต์แวร์ AI เพื่อสร้างข้อมูลข่าวเท็จว่า "ภัยพิบัติถล่มในยูนนานทำให้มีผู้เสียชีวิต 8 ราย" และรวบรวมข้อมูลที่เกี่ยวข้องบนอินเทอร์เน็ต เผยแพร่บนแพลตฟอร์มออนไลน์ทำให้เกิดผลกระทบต่อสังคม นักข่าวอ่านข่าวเท็จที่เผยแพร่โดย Yang Moumou ข่าวลือนี้เขียนโดย AI มีภาษาที่กระชับ ข้อมูลที่ครอบคลุม และถ้อยคำที่เป็นมืออาชีพ เมื่อดูเผินๆ ก็คล้ายกับข่าวที่เผยแพร่โดยสื่อทางการรายวัน และอาจทำให้ผู้อ่านเข้าใจผิดได้ง่าย เหตุใดข่าวลือเกี่ยวกับภัยพิบัติยังคงมีอยู่ สำรวจจุดเริ่มต้นของการสร้างและเผยแพร่ข่าวลือเกี่ยวกับภัยพิบัติ ใช้ประโยชน์จากความอยากรู้อยากเห็นและความกังวลของผู้คน ดึงดูดความสนใจของสาธารณชนโดยการสร้างเนื้อหาที่เร้าใจ และเพิ่มจำนวนการดูและแฟน ๆ ของบัญชีโซเชียลมีเดีย และการได้รับผลประโยชน์เชิงพาณิชย์เป็นหนึ่งในวัตถุประสงค์หลักของผู้เผยแพร่ข้อมูลที่เป็นเท็จจำนวนมาก ตัวอย่างเช่น ตามที่กล่าวไว้ก่อนหน้านี้ "สำนักงานความมั่นคงสาธารณะของมณฑลเจียงซีได้สอบสวนกรณีของหน่วยงาน MCN โดยใช้เครื่องมือปัญญาประดิษฐ์เพื่อเผยแพร่ข่าวลือ" เบื้องต้นคาดว่ารายได้ของบริษัทจะเกิน 10,000 หยวนต่อวัน เมื่อไม่นานมานี้ ผู้มีชื่อเสียงทางอินเทอร์เน็ตได้โพสต์วิดีโอเกี่ยวกับน้ำท่วม 2 รายการบนแพลตฟอร์ม Douyin ซึ่งแสดงให้เห็นยานพาหนะที่ถูกน้ำท่วมพัดพาไป และอ้างว่าเนื่องจากฝนตกหนักเมื่อเร็วๆ นี้ ฝนตกหนัก และระดับน้ำที่สูงขึ้นได้เกิดขึ้นในหลายแห่งในเมืองหยงโจว มณฑลหูหนาน เมื่อวันที่ 26 มิถุนายน ตำรวจจากสถานีตำรวจ Xiaojiayuan ของสำนักงานความมั่นคงสาธารณะ Lengshuitan ในเมืองหยงโจว หลังจากสอบสวนตามกฎหมาย พบว่าวิดีโอที่เกี่ยวข้องเป็นวิดีโอที่ Yang ดาวน์โหลดจากอินเทอร์เน็ตเพื่อดึงดูดความสนใจและดึงดูด จราจรโดยไม่คำนึงถึงข้อเท็จจริงแล้วโพสต์ข้อความไปยังบัญชีออนไลน์ของเขาไม่ใช่ข้อเท็จจริงในท้องถิ่น พฤติกรรมประเภทนี้เพื่อดึงดูดความสนใจ การจราจรเป็นสิ่งสำคัญที่สุด และผลกำไรเป็นสิ่งสำคัญยิ่ง ดังนั้น Yang จึงถูกลงโทษทางการบริหารในที่สุด ผู้ข่าวลือบางคนอาจแสดงทัศนคติหรืออารมณ์ของตนโดยเผยแพร่ข้อมูลเชิงลบที่เป็นเท็จอย่างมุ่งร้าย โดยไม่พอใจกับความเป็นจริงหรือเหตุผลทางอารมณ์อื่นๆ ยิ่งไปกว่านั้น พวกเขาพยายามโน้มน้าวภาพลักษณ์ของรัฐบาล การตัดสินใจเชิงนโยบาย หรือทิศทางของความคิดเห็นสาธารณะโดยการสร้างความวุ่นวาย นอกจากนี้ ยังมีบางคนไม่ได้ตั้งใจเผยแพร่ข่าวลือ แต่ไม่รู้ และไม่เกรงกลัว และส่งต่อและแบ่งปันข้อมูลจากแหล่งที่ไม่รู้จักโดยไม่มีการตรวจสอบ มนุษยชาติถูกคุกคามและประสบภัยธรรมชาติต่างๆ นับตั้งแต่กำเนิด ตลอดประวัติศาสตร์ทั้งในประเทศและต่างประเทศ เมื่อใดก็ตามที่เกิดภัยพิบัติทางธรรมชาติ มักจะมีข่าวลือตามมาด้วย ตัวอย่างเช่น "เฉามูจื่อ" บันทึกเหตุการณ์ที่เป็นข่าวลือ: ในปีที่ 14 ของจือเจิง ในราชวงศ์หยวน ภาคใต้ประสบฝนตกหนักหนักซึ่งกินเวลานานกว่า 80 วัน จนล้นประเทศ ทำให้เกิดน้ำท่วมและความอดอยาก ในเวลานั้นมีข่าวลือว่ามีมังกรจำนวนมากที่ซ่อนอยู่ใต้ดินใช้ประโยชน์จากฝนตกหนักที่อุบัติขึ้น หลายคนเชื่อสิ่งนี้และตื่นตระหนกมาก ในปี 1978 หลังจากเกิดแผ่นดินไหว 3 ครั้งในเมืองเทสซาโลนิกิ ประเทศกรีซ มีข่าวลือว่า "จะเกิดแผ่นดินไหวครั้งใหญ่ในใจกลางเมือง" ประชากรเกือบครึ่งหนึ่งของเมือง 700,000 คนหลบหนีออกไป ในปี 2019 เมื่อซูเปอร์ไต้ฝุ่น "เลกีมา" พัดถล่มประเทศจีน ก็มีข่าวลือ เช่น "จู่ๆ จระเข้ก็โผล่มาตามท้องถนน" และ "ฝาท่อระบายน้ำทั้งหมดบนพื้นจะเปิดในเวลา 19.00 น. คืนหนึ่งเพื่อช่วยระบายน้ำ" ปรากฏบนโซเชียลมีเดีย สร้างความตื่นตระหนกให้กับประชาชนโดยไม่จำเป็น ในปี 2023 เกิดแผ่นดินไหวขนาด 6.2 ริกเตอร์ในเมืองจี๋ซีซาน มณฑลกานซู ในช่วงเวลานี้ กานซูและชิงไห่ได้ลงโทษชาวเน็ต 14 คนฐานเผยแพร่ข่าวลือเกี่ยวกับการบรรเทาทุกข์จากแผ่นดินไหวและการบรรเทาภัยพิบัติ พร้อมทั้งวิพากษ์วิจารณ์และให้ความรู้แก่ประชาชน 121 คนตามกฎหมาย โดยเฉพาะอย่างยิ่ง "ข่าวลือว่าเสื้อแจ็คเก็ตขนห่านแคนาดาบริจาคให้กับพื้นที่ประสบแผ่นดินไหวในกานซู่ถูกขายต่อ" แพร่กระจายอย่างกว้างขวางบนอินเทอร์เน็ต ทำให้เกิดผลกระทบเชิงลบ นอกจากนี้ยังมี "เหตุการณ์ประหลาด" เกิดขึ้นในปี 2010 ในขณะนั้น มีข่าวลือปรากฏบนอินเทอร์เน็ตว่าอาจเกิดแผ่นดินไหวทำลายล้างในเมืองต่างๆ เช่น ไท่หยวน มณฑลซานซี ตั้งแต่เวลา 13.00 น. ถึง 07.00 น. ของวันที่ 8 ของเดือนจันทรคติแรก Jinzhong, Luliang, Shanxi มณฑลและเมืองหลายสิบแห่ง หมู่บ้านหลายพันแห่ง และบ้านเรือนเกือบสิบล้านหลังในไท่หยวนและสถานที่อื่น ๆ สว่างไสวท่ามกลางลมหนาว ผู้คนต่างอยู่กันจนดึกดื่นและแห่กันไปที่ถนน " รอแผ่นดินไหว" เหตุใดข่าวลือที่เกี่ยวข้องกับภัยธรรมชาติเช่นแผ่นดินไหวและน้ำท่วมจึงได้รับความนิยม? เนื่องจากผู้คนมีความกลัวภัยพิบัติทางธรรมชาติตามธรรมชาติ ความกลัวนี้จะทำให้ผู้คนมีความรู้สึกไวต่อข่าวที่เกี่ยวข้องมากขึ้น เมื่อเผชิญกับภัยคุกคามจากภัยพิบัติ ผู้คนมักจะเชื่อสถานการณ์ที่เลวร้ายที่สุด ซึ่งกระตุ้นให้เกิดความตื่นตระหนก นอกจากนี้ ก่อนและหลังภัยพิบัติเกิดขึ้น ข้อมูลอย่างเป็นทางการมักไม่สามารถถ่ายทอดไปยังทุกคนได้ทันท่วงทีและแม่นยำ ทำให้เกิดพื้นที่สำหรับข่าวลือ โดยเฉพาะในพื้นที่ที่มีข้อมูลจำกัดหรือเครือข่ายที่ด้อยพัฒนา ผู้คนมีแนวโน้มที่จะเชื่อถือข้อมูลจากช่องทางที่ไม่เป็นทางการ นอกจากนี้ บางคนอาจขาดความรู้ทางวิทยาศาสตร์เพียงพอที่จะระบุความถูกต้องของข้อมูลและมีความคิดแบบฝูง ปัจจัยเหล่านี้ร่วมกันส่งเสริมการเติบโตและการแพร่กระจายของข่าวลือ “ความเสียหายที่เกิดจากข่าวลือแผ่นดินไหวที่แพร่กระจายอย่างกว้างขวางไม่น้อยไปกว่าแผ่นดินไหวระดับปานกลาง” ข้อมูลที่เป็นเท็จเกี่ยวกับภัยพิบัติและความเสี่ยงไม่เพียงแต่สร้างความตื่นตระหนกโดยไม่จำเป็นจากการพูดเกินจริงถึงสภาพอากาศที่รุนแรงอย่างยิ่งหรือผลที่ตามมาของภัยพิบัติ แต่ยังใช้ช่องทางข้อมูลข่าวสารที่แน่นแฟ้นอยู่แล้ว และยังปิดบังข้อมูลที่ถูกต้องซึ่งเผยแพร่โดยเจ้าหน้าที่และความต้องการที่แท้จริงของผู้ประสบภัยพิบัติที่ต้องการความช่วยเหลือผ่านทางอินเทอร์เน็ต พฤติกรรมดังกล่าวไม่เพียงแต่เป็นอันตรายต่อผลประโยชน์สาธารณะและส่งผลเสียต่อความน่าเชื่อถือทางสังคมเท่านั้น แต่ยังอาจทำให้เกิดปัญหาในการกู้ภัย การบรรเทาภัยพิบัติ และงานตอบสนองฉุกเฉินอีกด้วย การตรวจสอบอย่างชาญฉลาดและการตรวจสอบด้วยตนเองจะต้องรวมกันเพื่อรักษาความถูกต้องของข้อมูลเมื่อเผชิญกับภัยพิบัติทางธรรมชาติ ดังคำกล่าวที่ว่า หากคุณเริ่มสร้างข่าวลือ คุณจะสูญเสียขาของคุณหากคุณปฏิเสธมัน แม้ว่าผู้แพร่ข่าวลือในคดีแพร่กระจายข่าวลือที่กล่าวถึงข้างต้นจะถูกลงโทษ และแพลตฟอร์มเว็บไซต์หลัก ๆ ก็ได้หักล้างข่าวลือที่เกี่ยวข้องอย่างแข็งขัน แต่ก็ไม่สามารถ ถูกตัดสิทธิ์ว่าชาวเน็ตบางคนดูแต่หากมีข่าวลือและไม่มีความชัดเจนผลกระทบจากข่าวลือก็ไม่สามารถขจัดออกไปได้หมด การแพร่กระจายอย่างรวดเร็วของข่าวลือที่เกี่ยวข้องกับภัยพิบัติไม่เพียงแต่ทำให้ประชาชนเข้าใจผิดได้ง่าย แต่ยังอาจทำให้เกิดความตื่นตระหนก การจัดสรรทรัพยากรอย่างไม่ถูกต้อง และแม้กระทั่งภัยพิบัติทุติยภูมิ ดังนั้นการปรับปรุงความสามารถของสาธารณชนในการระบุข่าวลือเกี่ยวกับ AI และการเพิ่มการควบคุมดูแลแพลตฟอร์มออนไลน์จึงกลายเป็นปัญหาเร่งด่วนที่ต้องได้รับการแก้ไข เพื่อควบคุมความสับสนวุ่นวายของการฉ้อโกง AI และเพิ่มการกำกับดูแลระบบนิเวศเครือข่ายให้ลึกซึ้งยิ่งขึ้น แผนกและแพลตฟอร์มที่เกี่ยวข้องได้นำเสนอนโยบายและมาตรการหลายประการในช่วงไม่กี่ปีที่ผ่านมา ด้วยการปรับปรุงกฎหมายและข้อบังคับที่เกี่ยวข้องกับ AI สิทธิและความรับผิดชอบอย่างค่อยเป็นค่อยไป ของทุกฝ่ายก็ค่อยๆชัดเจนขึ้น ในเดือนธันวาคม 2021 และพฤศจิกายน 2022 ฝ่ายบริหารไซเบอร์สเปซของจีนและหน่วยงานอื่นๆ ได้ออก "กฎระเบียบเกี่ยวกับการจัดการคำแนะนำอัลกอริทึมสำหรับบริการข้อมูลทางอินเทอร์เน็ต" และ "กฎระเบียบเกี่ยวกับการจัดการการสังเคราะห์เชิงลึกของบริการข้อมูลทางอินเทอร์เน็ต" อย่างต่อเนื่องเพื่อกำหนดเป้าหมายการใช้งาน ของอัลกอริธึมปัญญาประดิษฐ์เพื่อเผยแพร่ข้อมูลที่ผิดกฎหมายและเป็นอันตราย เพื่อแก้ไขปัญหาต่างๆ เช่น การละเมิดสิทธิ์ผู้ใช้และการบิดเบือนความคิดเห็นของประชาชน เราต้องเสริมสร้างการจัดการความปลอดภัย และส่งเสริมการใช้เทคโนโลยีการแนะนำอัลกอริทึมและเทคโนโลยีการสังเคราะห์เชิงลึกอย่างสมเหตุสมผลและมีประสิทธิภาพตาม กฎ. ในหมู่พวกเขา "กฎระเบียบการบริหารเกี่ยวกับการสังเคราะห์เชิงลึกของบริการข้อมูลทางอินเทอร์เน็ต" กำหนดให้ผู้ให้บริการการสังเคราะห์เชิงลึกและผู้ใช้ไม่ใช้บริการการสังเคราะห์เชิงลึกเพื่อผลิต คัดลอก เผยแพร่ และเผยแพร่ข้อมูลข่าวเท็จ และชี้ให้เห็นว่าผู้ให้บริการการสังเคราะห์เชิงลึกควร สร้างและปรับปรุงกลไกการปฏิเสธข่าวลือ ใครก็ตามที่ใช้บริการสังเคราะห์เชิงลึกเพื่อสร้าง คัดลอก เผยแพร่ หรือเผยแพร่ข้อมูลที่เป็นเท็จ จะต้องดำเนินมาตรการที่ทันท่วงทีเพื่อหักล้างข่าวลือ เก็บบันทึกที่เกี่ยวข้อง และรายงานต่อแผนกความปลอดภัยทางไซเบอร์และข้อมูลและหน่วยงานผู้มีอำนาจที่เกี่ยวข้อง "มาตรการชั่วคราวสำหรับการจัดการบริการปัญญาประดิษฐ์เชิงสร้างสรรค์" ที่ออกโดยฝ่ายบริหารไซเบอร์สเปซของจีนและหน่วยงานอื่นๆ ในเดือนกรกฎาคม 2023 ได้กำหนดข้อกำหนดสำหรับทั้งผู้ให้บริการและหน่วยงานกำกับดูแล มาตรา 12 กำหนดว่าผู้ให้บริการควรติดป้ายกำกับรูปภาพ วิดีโอ และเนื้อหาอื่นๆ ที่สร้างขึ้นตาม "ข้อบังคับเกี่ยวกับการจัดการการสังเคราะห์เชิงลึกของบริการข้อมูลทางอินเทอร์เน็ต" มาตรา 14 กำหนดว่าหากผู้ให้บริการค้นพบเนื้อหาที่ผิดกฎหมาย ผู้ให้บริการจะต้องดำเนินมาตรการกำจัดทันที เช่น การหยุดการสร้าง การหยุดการส่งสัญญาณ และการกำจัด ดำเนินมาตรการ เช่น การฝึกอบรมการเพิ่มประสิทธิภาพแบบจำลองเพื่อทำการแก้ไข และรายงานต่อหน่วยงานผู้มีอำนาจที่เกี่ยวข้อง หากผู้ให้บริการพบว่าผู้ใช้ใช้บริการปัญญาประดิษฐ์เจเนอเรทีฟเพื่อทำกิจกรรมที่ผิดกฎหมาย ผู้ให้บริการจะต้องดำเนินมาตรการกำจัด เช่น คำเตือน การจำกัดการทำงาน การระงับหรือยุติการให้บริการแก่ผู้ใช้ตามกฎหมายและสัญญา เก็บรักษา บันทึกที่เกี่ยวข้องและรายงานต่อหน่วยงานผู้มีอำนาจที่เกี่ยวข้อง มาตรา 16 กำหนดว่าหน่วยงานต่างๆ เช่น ความปลอดภัยทางไซเบอร์และสารสนเทศ การพัฒนาและการปฏิรูป การศึกษา วิทยาศาสตร์และเทคโนโลยี อุตสาหกรรมและเทคโนโลยีสารสนเทศ ความปลอดภัยสาธารณะ วิทยุและโทรทัศน์ สื่อและสิ่งพิมพ์ ฯลฯ จะต้องเสริมสร้างการจัดการบริการปัญญาประดิษฐ์เชิงกำเนิดใน ตามความรับผิดชอบและกฎหมายของตน ในเดือนเมษายนของปีนี้ สำนักเลขาธิการคณะกรรมการกิจการไซเบอร์สเปซส่วนกลางได้ออก "ประกาศเกี่ยวกับการดำเนินการพิเศษของ" การทำความสะอาดและแก้ไข 'สื่อด้วยตนเอง' การรับส่งข้อมูลที่อุดมสมบูรณ์อย่างไม่จำกัด" โดยกำหนดให้ต้องเพิ่มความเข้มแข็งของการติดฉลากและการแสดงแหล่งข้อมูล . หากข้อมูลถูกสร้างขึ้นโดยใช้เทคโนโลยี เช่น AI จะต้องทำเครื่องหมายอย่างชัดเจนว่าสร้างขึ้นโดยเทคโนโลยี เนื้อหาใด ๆ ที่มีนิยาย การสรุป ฯลฯ จะต้องระบุอย่างชัดเจนว่าเป็นนิยาย ดูแพลตฟอร์มวิดีโอสั้น Douyin เป็นตัวอย่าง เมื่อวันที่ 10 พฤษภาคม 2023 Douyin ได้เผยแพร่ "ข้อกำหนดของแพลตฟอร์มและการริเริ่มของอุตสาหกรรมเกี่ยวกับเนื้อหาที่สร้างด้วยปัญญาประดิษฐ์" โดยระบุว่าเนื้อหาที่สร้างด้วยปัญญาประดิษฐ์นั้นยากต่อการระบุ และยังนำมาซึ่งปัญหาต่างๆ เช่น ข้อมูลที่เป็นเท็จและการละเมิดอีกด้วย จากการอ้างอิงถึงกฎหมายและข้อบังคับ เช่น "กฎระเบียบเกี่ยวกับการจัดการการสังเคราะห์เชิงลึกของบริการข้อมูลทางอินเทอร์เน็ต" Douyin เสนอข้อกำหนดแพลตฟอร์ม 11 ประการและการริเริ่มในอุตสาหกรรม โดยข้อที่สี่กำหนดให้ผู้เผยแพร่ต้องทำเครื่องหมายเนื้อหาที่สร้างโดยปัญญาประดิษฐ์อย่างเด่นชัดเพื่อช่วยเหลือผู้ใช้รายอื่น แยกแยะความเป็นจริงออกจากความเป็นจริง โดยเฉพาะฉากที่สับสน ดังนั้นเนื้อหาที่สงสัยว่าจะสร้างโดย AI จะต้องทำเครื่องหมายไว้อย่างชัดเจน ในปัจจุบัน สำหรับเนื้อหาที่ต้องสงสัยว่าใช้เทคโนโลยี AI Douyin จะทำเครื่องหมายข้อความ "เนื้อหาที่สงสัยว่าจะสร้างขึ้นโดย AI โปรดคัดกรองอย่างระมัดระวัง" ด้านล่างงาน นอกจากนี้ยังมีบางแพลตฟอร์มที่จะเพิ่มป้ายกำกับที่สมมติลงในเนื้อหาที่มีการแต่งขึ้น การตีความ ฯลฯ อย่างชัดเจน และใช้มาตรการต่างๆ เช่น "แบน" บัญชีที่ผิดกฎหมาย ผู้เชี่ยวชาญที่ให้ความสนใจในด้านปัญญาประดิษฐ์มาเป็นเวลานานกล่าวว่าการวิจัยเกี่ยวกับการระบุข่าวลือในวิดีโอและรูปภาพสั้น ๆ ได้เริ่มต้นขึ้นเมื่อสิบกว่าปีที่แล้ว เทคโนโลยีที่ค่อนข้างสมบูรณ์ในปัจจุบันอาศัยการดึงข้อมูลและการเปรียบเทียบเพื่อการคัดกรอง เนื่องจากข่าวลือวิดีโอและรูปภาพมักจะปะติดปะต่อกับเนื้อหาจากเวลาอื่นหรือภูมิภาคอื่น ๆ การใช้เทคโนโลยีปัญญาประดิษฐ์สามารถระบุและแก้ไขปัญหาส่วนใหญ่ได้ ด้วยการรวบรวมข้อมูลต่างๆ ครอบคลุมประเทศและภูมิภาคต่างๆ และผลักดันข้อมูลเป็นเวลาหลายปีหรือนานกว่าสิบปี หลังจากรวบรวมและบันทึกข้อมูลเพียงพอเป็นครั้งคราว ข่าวลือส่วนใหญ่ก็สามารถดึงออกมาเพื่อระบุรูปภาพและวิดีโอที่คล้ายกันได้ ถูกค้นพบ ผู้เชี่ยวชาญยังกล่าวอีกว่าเป็นเรื่องยากที่จะระบุข่าวลือที่สร้างขึ้นใหม่โดยใช้เทคโนโลยี AI ในช่วงไม่กี่ปีที่ผ่านมา จากการพัฒนาเทคโนโลยีการสร้างแบบจำลองขนาดใหญ่หลายรูปแบบ ทำให้ง่ายต่อการสร้างวิดีโอสั้นหรือรูปภาพใหม่ล่าสุด และเส้นทางทางเทคนิคในการใช้วัสดุเหล่านี้เพื่อสร้างข่าวลือก็เปลี่ยนไป เทคโนโลยีใหม่เหล่านี้สามารถสร้างข้อมูลที่ไม่เคยเผยแพร่บนอินเทอร์เน็ต ซึ่งเพิ่มความยากในการระบุตัวตนอย่างมาก เทคโนโลยีการคัดกรองข่าวลือก่อนหน้านี้โดยอาศัยการดึงข้อมูลและการเปรียบเทียบมีผลเพียงเล็กน้อย ดังนั้น วิธีการระบุเนื้อหาเท็จที่สร้างโดยโมเดลเจนเนอเรชั่นใหม่จึงยังอยู่ระหว่างการสำรวจจากมุมมองทางเทคนิค จาง หยิง ผู้เชี่ยวชาญที่ได้รับการแต่งตั้งเป็นพิเศษจาก China Association for Science and Technology Rumor Refutation Platform เชื่อว่าเมื่อเผชิญกับความท้าทายของข่าวลือที่สร้างโดย AI ที่เกี่ยวข้องกับภัยพิบัติและความเสี่ยง จะช่วยปรับปรุงความสามารถของสาธารณชนในการระบุและเสริมสร้างกลยุทธ์การกำกับดูแลทางออนไลน์ แพลตฟอร์มเป็นสองด้านที่เสริมซึ่งกันและกัน จางหยิงแนะนำว่าเราควรมุ่งเน้นไปที่งานสี่ด้าน ประการแรก เผยแพร่ความก้าวหน้าทางวิทยาศาสตร์และเทคโนโลยีและให้ความหวังแก่ประชาชน ประการที่สอง หักล้างข่าวลือและอธิบายความเข้าใจผิด และ ช่วยเหลือผู้คนจากภัยพิบัติ ประการที่สาม ให้ความสนใจกับพื้นที่ที่ล้าหลัง และ ความเปราะบาง ประการที่สี่ ให้ความสนใจต่อสาธารณะ มีส่วนร่วม และเพิ่มความรู้สึกได้รับประโยชน์ของสาธารณะ เกี่ยวกับกลยุทธ์การกำกับดูแลแพลตฟอร์มออนไลน์ Zhang Ying ให้คำแนะนำดังต่อไปนี้ ขั้นแรก ให้รวมการตรวจสอบอย่างชาญฉลาดเข้ากับการตรวจสอบด้วยตนเอง แพลตฟอร์มออนไลน์ควรแนะนำเทคโนโลยี AI ขั้นสูงเพื่อช่วยตรวจสอบเนื้อหา เพื่อปรับปรุงประสิทธิภาพและความแม่นยำในการตรวจสอบ ในเวลาเดียวกัน มีการจัดตั้งกลไกการตรวจสอบโดยเจ้าหน้าที่เพื่อดำเนินการตรวจสอบรองของข่าวลือที่น่าสงสัย เพื่อให้มั่นใจในความเป็นธรรมและอำนาจของผลการตรวจสอบ ประการที่สองคือการสร้างกลไกการตอบสนองอย่างรวดเร็วและการปฏิเสธข่าวลือ เมื่อพบข่าวลือเกี่ยวกับภัยพิบัติและความเสี่ยง แพลตฟอร์มออนไลน์ควรเปิดใช้งานกลไกตอบสนองอย่างรวดเร็วทันที ลบเนื้อหาข่าวลืออย่างรวดเร็ว และเผยแพร่ข้อมูลการโต้แย้งผ่านช่องทางอย่างเป็นทางการ ขณะเดียวกันหน่วยงานภาครัฐ สื่อเผด็จการ ฯลฯ ได้สร้างกลไกเชื่อมโยงเพื่อร่วมกันต่อต้านการแพร่กระจายข่าวลือ ประการที่สามคือการเสริมสร้างการจัดการและคำแนะนำพฤติกรรมผู้ใช้ แพลตฟอร์มออนไลน์ควรเสริมสร้างการกำกับดูแลและการจัดการพฤติกรรมของผู้ใช้ ตลอดจนลงโทษและเตือนผู้ใช้ที่เผยแพร่ข่าวลือในทางร้าย ในเวลาเดียวกัน สาธารณชนได้รับการเตือนให้รับข้อมูลผ่านช่องทางที่เชื่อถือได้ แนะนำผู้ใช้ให้มีส่วนร่วมในการเผยแพร่ข้อมูลอย่างมีเหตุผลผ่านป๊อปอัปพร้อมท์ การให้ความรู้แก่ผู้ใช้ ฯลฯ และร่วมกันรักษาสภาพแวดล้อมเครือข่ายที่ดี ประการที่สี่คือการส่งเสริมการแบ่งปันข้อมูลและการทำงานร่วมกันข้ามแพลตฟอร์ม ส่งเสริมการจัดตั้งกลไกการแบ่งปันข้อมูลระหว่างแพลตฟอร์มเครือข่ายที่แตกต่างกันเพื่อให้บรรลุการแบ่งปันข้อมูลและการดำเนินงานร่วมกัน ด้วยการทำงานร่วมกันข้ามแพลตฟอร์ม การติดตามความคิดเห็นของประชาชนจะมีความเข้มแข็งยิ่งขึ้น และสามารถเข้าใจพลวัตของการแพร่กระจายและขอบเขตของข่าวลือได้อย่างครอบคลุมมากขึ้น โดยให้การสนับสนุนที่แข็งแกร่งในการกำหนดมาตรการรับมือแบบกำหนดเป้าหมาย Zhang Ying ยังให้คำแนะนำว่าสาธารณชนสามารถระบุข่าวลือเกี่ยวกับ AI ได้อย่างไร ประการแรกคือการเสริมสร้างการศึกษาความรู้สารสนเทศ ประชาชนควรได้รับการศึกษาความรู้ด้านข้อมูลอย่างเป็นระบบ เรียนรู้วิธีระบุความน่าเชื่อถือของแหล่งข้อมูล และเข้าใจข้อจำกัดและความเสี่ยงที่อาจเกิดขึ้นของเนื้อหาที่สร้างโดย AI ในช่วงเวลาปกติ หน่วยงานอุตสาหกรรมที่เกี่ยวข้อง สื่อกระแสหลัก และผู้เชี่ยวชาญด้านการทำให้แพร่หลายด้านวิทยาศาสตร์ ควรดำเนินการเผยแพร่ทางวิทยาศาสตร์และการศึกษาผ่านรูปแบบต่างๆ ตัวอย่างเช่น สมาคมวิทยาศาสตร์และเทคโนโลยีแห่งประเทศจีนได้สร้างแพลตฟอร์มการหักล้างข่าวลือเพื่อดำเนินการโต้แย้งข่าวลือ งานและวิทยาศาสตร์แพร่หลายในพื้นที่ที่เป็นกังวลของประชาชน เช่น ชีวิตและสุขภาพ อาหาร และยา และความปลอดภัยในกรณีฉุกเฉิน ฝ่ายบริหารไซเบอร์สเปซของจีนยังได้ดำเนินการต่างๆ เช่น การเผยแพร่ข่าวลือประจำปีที่หักล้างรายการงาน และบรรลุผลที่ดี . ในเวลาเดียวกัน หน่วยงานที่เกี่ยวข้องควรปรับปรุงความตื่นตัวของประชาชนและความสามารถในการระบุข่าวลือผ่านการวิเคราะห์กรณี แบบฝึกหัดการจำลอง ฯลฯ ประการที่สองคือการตรวจสอบข้อมูลผ่านหลายช่องทาง ประชาชนได้รับการสนับสนุนให้ใช้วิธีการยืนยันแบบหลายช่องทางเมื่อต้องเผชิญกับข้อมูลที่เกี่ยวข้องกับภัยพิบัติ นอกเหนือจากข้อมูลที่เผยแพร่โดยสื่อของทางการและหน่วยงานรัฐบาลแล้ว คุณยังสามารถใช้แหล่งข้อมูลต่างๆ เช่น เครื่องมือค้นหา บัญชีอย่างเป็นทางการบนโซเชียลมีเดีย และหน่วยงานตรวจสอบข้อเท็จจริงของบุคคลที่สาม เพื่อระบุความถูกต้องของข้อมูลอย่างครอบคลุม ดูการพยากรณ์แผ่นดินไหวเป็นตัวอย่าง การพยากรณ์ระยะสั้นยังคงเป็นปัญหาในโลก กฎหมายและข้อบังคับที่เกี่ยวข้องกำหนดว่ามีเพียงรัฐบาลระดับจังหวัดขึ้นไปเท่านั้นที่มีอำนาจในการเผยแพร่ข้อมูลข่าวลือแผ่นดินไหว ประการที่สามคือการปลูกฝังการคิดอย่างมีวิจารณญาณ พัฒนาความคิดเชิงวิพากษ์ของสาธารณะและเรียนรู้ที่จะวิเคราะห์และประเมินข้อมูลอย่างอิสระ โปรดใช้ความระมัดระวังเกี่ยวกับข้อมูลที่เกินจริง สะเทือนอารมณ์ หรือขาดหลักฐานที่เจาะจง และอย่าเชื่อหรือเผยแพร่ข้อมูลดังกล่าว แผ่นดินไหวไม่ได้น่ากลัวตราบใดที่ระบบป้อมปราการของอาคารเป็นไปตามมาตรฐานหรือมีการเตรียมการอย่างดี โดยทั่วไปแล้วจะไม่ก่อให้เกิดภัยพิบัติ ดังนั้นจึงไม่จำเป็นต้องกลัวจนเกินไป ขณะเดียวกัน ในแง่ของวิธีการอพยพฉุกเฉิน ไม่มีวิธีการอพยพฉุกเฉินแบบใดที่เหมาะกับทุกคน ประชาชนควรคิดอย่างเป็นวิทยาศาสตร์และวิธีตอบสนองต่อเพลิงไหม้ในสถานที่และขนาดต่างๆ ตามสถานที่ เวลา และผู้คน . ควรคิดและจัดการอย่างเป็นวิทยาศาสตร์.