Rumor online tentang "pembongkaran skala besar di Chengdu" mengungkap risiko penyalahgunaan AI
Penulis：Eve Cole
Waktu Pembaruan：2025-01-23 23:00:02
Baru-baru ini, netizen di Sichuan yang alamat IP-nya tampaknya berkonsentrasi di media sosial untuk “berbagi” kompensasi pembongkaran yang mereka terima: “menerima lebih dari 9 juta yuan”, “diberikan 17 apartemen, dan sewa tiga tahun”, dll. Dalam semalam, topik #ChengduLargescaleDemolition # menjadi viral. #chengdudemolition# #成都综合外围上新# dan topik terkait lainnya berturut-turut muncul di daftar pencarian terpopuler di berbagai platform.
Sebelumnya, staf dari Biro Perumahan dan Pembangunan Perkotaan-Pedesaan Kota Chengdu telah membantah rumor tersebut, dan reporter dari Sichuan Observer juga mengunjungi lokasi tersebut untuk mengetahui situasinya ? Adakah yang menerima kompensasi lebih dari 10 juta? Sanggahan resmi atas rumor tersebut ada di sini! “Pembongkaran skala besar” dan “kompensasi besar”? Reporter langsung mengunjungi rumah-rumah yang melakukan pembongkaran: Bukan apa-apa. Pada tanggal 17 Oktober, polisi Chengdu melaporkan bahwa "Sichuan meluncurkan proyek pembongkaran senilai 2,15 triliun" adalah informasi palsu yang dihasilkan menggunakan perangkat lunak AI . Pelaku ilegal Yan Moumou dan empat orang lainnya dinyatakan bersalah karena mengarang fakta. Mengganggu ketertiban umum akan dikenakan sanksi administratif oleh badan keamanan publik sesuai dengan undang-undang.
Laporan polisi Biro Keamanan Umum Chengdu mengungkapkan risiko serius yang disebabkan oleh penyalahgunaan teknologi AI , yang sangat memerlukan perhatian dan tata kelola semua sektor masyarakat. Risiko opini publik yang paling langsung adalah informasi palsu menjadi lebih membingungkan, sehingga lebih mudah dan cepat untuk dibuat dan disebarluaskan. Dalam kasus ini, pelaku mengumpulkan informasi tentang topik relevan yang diposting secara online, menggunakan teknologi AI untuk menghasilkan teks yang “otoritatif”, dan kemudian informasi palsu tentang kompensasi pembongkaran dengan cepat dan luas disebarluaskan melalui platform media sosial. Dalam lingkungan penyebaran informasi yang efisien saat ini, fenomena ini dapat menyesatkan situasi sebenarnya, membentuk penyebaran informasi palsu yang “benar”, dan menimbulkan reaksi kognitif yang salah kepada masyarakat.
Ketika masyarakat sering terpapar informasi palsu, kepercayaan terhadap informasi resmi akan terpengaruh , terutama jika menyangkut urusan publik yang besar seperti kebijakan pemerintah dan jaminan sosial. Menjamurnya informasi palsu akan menyebabkan masyarakat mempertanyakan informasi resmi dan mengubah kebijakan struktur kognitif masyarakat. Terkikisnya kredibilitas ini tidak hanya berdampak pada efektivitas sosialisasi kebijakan, namun juga dapat menimbulkan tantangan serius terhadap kredibilitas pemerintah dan stabilitas sosial. Dampak jangka panjang dari opini publik dapat mempengaruhi tatanan ekonomi pasar. Meluasnya penyebaran informasi palsu dapat memicu reaksi irasional di pasar sampai batas tertentu, sehingga menyebabkan fluktuasi harga yang tidak normal, sehingga memperparah ketidakseimbangan antara penawaran dan permintaan di pasar. . Faktor ketidakstabilan tersebut tidak hanya mengganggu tatanan pasar, namun juga dapat memicu kepanikan investor sehingga memicu risiko gangguan pasar yang lebih luas. Mengingat penyalahgunaan teknologi AI dan risiko opini publik yang ditimbulkannya, semua sektor masyarakat harus memperkuat pengawasan moral dan hukum terhadap teknologi AI.
Selain menetapkan norma hukum dan kerangka kebijakan yang sesuai untuk membatasi dan memandu penerapan teknologi AI secara rasional, metode berikut juga dapat dicoba pada tingkat respons dan pembuangan opini publik: ① Memandu platform media sosial untuk memperkuat mekanisme tinjauan dan pengawasan informasi. Platform media sosial harus secara aktif membentuk mekanisme peninjauan informasi untuk memperkuat peninjauan dan pengawasan konten. Selama proses pelepasan informasi, platform harus melakukan penyaringan awal terhadap keaslian materi untuk mengurangi penyebaran informasi palsu. Pada saat yang sama, teknologi AI digunakan untuk pemantauan dan identifikasi konten guna segera mendeteksi dan memblokir informasi palsu. Selain itu, platform harus menyiapkan mekanisme pengaduan untuk mendorong masyarakat melaporkan informasi palsu dan meningkatkan kemampuan tata kelola sosial.
② Mendukung penyampaian informasi yang transparan dan tepat waktu. Pemerintah dan badan-badan terkait harus secara aktif mengadopsi prinsip penyampaian informasi yang transparan dan tepat waktu serta membentuk mekanisme yang relevan untuk secara teratur menginformasikan informasi yang benar kepada masyarakat. Khususnya dalam acara-acara besar yang melibatkan kepentingan publik, pengungkapan informasi resmi yang tepat waktu dapat secara efektif memerangi penyebaran rumor dan memperkuat kepercayaan publik terhadap informasi resmi. Selain saluran penerbitannya sendiri dan media arus utama tradisional, pemerintah juga dapat menggunakan platform media online resmi dan media mandiri pemerintah untuk meningkatkan ketepatan waktu dan kenyamanan penyampaian informasi guna memenuhi kebutuhan informasi masyarakat. ③ Menumbuhkan dan meningkatkan literasi media masyarakat. Menghadapi latar belakang penyebaran informasi yang beragam, peningkatan literasi media masyarakat sangatlah penting. Melalui pendidikan dan publisitas, kita dapat meningkatkan kemampuan masyarakat untuk mengidentifikasi informasi palsu, memungkinkan mereka menganalisis dan menilai informasi yang mereka peroleh dengan lebih rasional, dan mengurangi kekacauan sosial dan kepanikan yang disebabkan oleh informasi palsu. Disarankan untuk melakukan edukasi identifikasi keaslian informasi online di tingkat akar rumput seperti komunitas dan jalanan, untuk membantu masyarakat memahami dan menguasai metode mengidentifikasi sumber informasi, memverifikasi rumor online, dan membentuk pemikiran kritis terhadap rumor.
