Sebuah organisasi MCN menggunakan program kecerdasan buatan untuk menghasilkan ribuan berita palsu setiap hari, menyebabkan sejumlah besar informasi palsu menyebar secara viral di Internet; akun platform baru mengandalkan "kreasi" AI untuk memperbarui lebih dari selusin e-book setiap hari, tetapi tulisannya tidak logis dan retoris. Makalah medis kosong telah ditarik kembali karena penggunaan ilustrasi palsu yang dihasilkan oleh AI... Saat ini, AI menjadi semakin umum untuk menghasilkan, memalsukan, atau merusak teks. , gambar, audio dan video, serta sejumlah besar "informasi jelek yang sulit dibedakan antara" Sampah "yang benar dan salah", memicu diskusi tentang "polusi AI".
Sejak tahun lalu, kecerdasan buatan generatif telah memicu gelombang demi gelombang kegilaan di seluruh dunia, dan penerapannya yang disruptif telah memberikan manfaat bagi banyak industri dan pengguna Internet. Namun, mata uang memiliki dua sisi, dan ada juga beberapa masalah negatif yang menyertai kecerdasan buatan generatif. "Polusi AI" yang disebabkan oleh "sampah informasi" menjadi semakin menonjol.
Sebuah laporan penelitian yang dirilis pada bulan April tahun ini oleh Pusat Penelitian Media Baru dari Sekolah Jurnalisme dan Komunikasi di Universitas Tsinghua menunjukkan bahwa jumlah rumor ekonomi dan perusahaan tentang AI telah tumbuh sebesar 99,91% pada tahun lalu. Badan investigasi AS "News Guard" menyatakan bahwa jumlah situs web yang menghasilkan artikel palsu telah melonjak lebih dari 1.000% sejak Mei 2023, yang melibatkan 15 bahasa. Beberapa ahli percaya bahwa keluaran “sampah informasi” yang dihasilkan oleh AI sangat besar, sulit diidentifikasi, dan mahal untuk disaring.
Kerugian yang disebabkan oleh “polusi AI” sudah jelas. "Polusi AI" akan menyebabkan netizen terjerumus ke dalam halusinasi kognitif. Pada platform berbagi pengetahuan tertentu, AI yang seolah-olah “mengetahui astronomi di atas dan geografi di bawah” menghasilkan konten yang hampa dan blak-blakan. Tanpa adanya pemikiran kritis, "sistem pengetahuan" yang dengan cepat dijalin oleh AI dapat, di satu sisi, menurunkan kemampuan berpikir kritis masyarakat, dan di sisi lain, juga dapat menyebabkan orang terjerumus ke dalam ilusi kognitif sehingga menyebabkan kebingungan kognitif masyarakat. , dan dengan demikian mendistorsi masyarakat. Pemahaman kolektif tentang realitas dan konsensus ilmiah pada akhirnya membuat masyarakat “dipimpin” oleh AI. Apalagi bagi generasi muda yang tumbuh dengan internet, begitu kognisi mereka dibentuk oleh “sampah informasi”, akibatnya akan sangat buruk.
“Polusi AI” akan menjadi bumerang bagi perkembangan industri AI. Seperti kita ketahui bersama, keakuratan model AI sangat bergantung pada kualitas data pelatihan. Jika konten palsu dan spam yang dihasilkan oleh AI "mengalir ulang" ke Internet dan menjadi data baru untuk melatih model AI, model siklus "sampah masuk, sampah keluar" ini dapat menyebabkan kualitas keluaran AI menurun drastis, yang tidak kondusif untuk pengembangan seluruh industri AI. Misalnya, sebuah perusahaan Internet menggunakan optimasi mesin pencari untuk memprioritaskan artikel yang dihasilkan AI dalam hasil pencarian, sehingga menyulitkan pengguna untuk mengambil informasi berkualitas tinggi dan memicu kritik luas dari pengguna.
Selain itu, “polusi AI” juga melibatkan banyak masalah seperti hukum, etika, dan bahkan stabilitas sosial. Konten palsu yang dihasilkan oleh AI dapat melanggar hak kekayaan intelektual, mengganggu aturan hak cipta, melanggar privasi pribadi, membocorkan informasi identitas, dan memiliki risiko penyalahgunaan, yang dapat mengganggu dan memanipulasi opini publik. Tindakan ilegal yang dihasilkan oleh AI juga akan membuat tata kelola sosial menjadi lebih buruk sulit.
Dapat dilihat bahwa sangat penting untuk memperbaiki "polusi AI" di Internet. Menurut "Laporan Statistik Perkembangan Internet Tiongkok" ke-54 yang dirilis oleh Pusat Informasi Internet Tiongkok, pada Juni tahun ini, jumlah pengguna Internet di negara saya hampir 1,1 miliar. Internet membangun rumah baru bagi keberadaan manusia, dan generasi muda telah menjadi "penduduk asli" Internet. Dapat dikatakan bahwa memperbaiki "polusi AI" adalah tindakan yang diperlukan untuk menciptakan ruang siber yang bersih dan menjamin kehidupan yang baik setiap netizen.
Pertama, tata kelola sumber pembelajaran dan mekanisme pembangkitan AI harus diperkuat. Memperjelas tanggung jawab platform AI untuk mengendalikan materi sumber dan mengawasi konten yang dihasilkan, meningkatkan aturan pembuatan konten AI, memaksa konten yang dihasilkan AI untuk ditandai dengan label yang menonjol, dan meningkatkan transparansi dan kemampuan menjelaskan teknologi AI.
Kedua, memperkuat penyaringan dan pengawasan terhadap konten yang dihasilkan AI. Departemen dan perusahaan terkait perlu memfokuskan pengawasan mereka pada penyaringan dan peninjauan konten yang dihasilkan oleh AI. Mereka dapat mengembangkan algoritme peninjauan yang relevan, menstandarisasi aliran dan penyebaran konten yang dihasilkan ke dalam bidang opini publik, dan segera menemukan dan menghapus konten berkualitas rendah atau berkualitas rendah. konten palsu.
Ketiga, meningkatkan kemampuan pengguna untuk mengidentifikasi konten yang dihasilkan AI. Netizen harus memperlakukan informasi Internet secara rasional, meningkatkan kesadaran pencegahan dan kemampuan identifikasi. Mereka dapat menggunakan alat pencarian terbalik untuk memeriksa informasi sumber dan penulis konten, dan menganalisis bahasa dan karakteristik struktural konten, untuk mengidentifikasi "palsu" dan "palsu". "lebih rendah".
Dunia maya bukanlah “tempat pembuangan sampah” yang dipenuhi sampah. Memerangi "polusi AI" dan menciptakan jaringan rumah yang bersih dan aman memerlukan manajemen bersama dari semua departemen dan partisipasi seluruh masyarakat.