Meskipun kecerdasan buatan (AI) memperluas batasan kreativitas dan meningkatkan efisiensi komunikasi, kecerdasan buatan juga membawa kekhawatiran tersembunyi seperti penyebaran informasi palsu dan pelanggaran kekayaan intelektual, sehingga menimbulkan tantangan baru bagi pembangunan ekosistem komunikasi internasional. Beberapa media dan organisasi internasional telah mulai mengeksplorasi cara menerapkan teknologi AI baru untuk mengatasi disinformasi AI, "menggunakan teknologi untuk melawan teknologi, dan menggunakan sihir untuk mengalahkan sihir."
“Munculnya informasi palsu dalam perang bukanlah hal baru, namun hal ini telah memperoleh kekuatan yang belum pernah terjadi sebelumnya di era digital.” Pada upacara pembukaan KTT Media Dunia ke-6 yang diadakan di Urumqi, Xinjiang pada tanggal 14, ia berbicara tentang dampak informasi palsu. informasi di dunia nyata, Ba Yuhua, kepala departemen komunikasi delegasi regional Komite Internasional Palang Merah untuk Asia Timur, menyatakan keprihatinannya atas kerusakan yang ditimbulkan.
Penerapan AI generatif dan teknologi model besar telah membawa dunia ke era informasi digital di mana “apa yang Anda lihat belum tentu dapat dipercaya, dan apa yang Anda dengar belum tentu benar”. Munculnya konten “deep fake” AI multi-modal seperti suara, video, dan gambar telah menciptakan kabut informasi palsu yang semakin meningkat.
“Teknologi AI generatif akan meningkatkan risiko misinformasi dan disinformasi yang canggih. Di dunia dengan begitu banyak konten, kebutuhan akan sumber berita tepercaya, pemeriksaan fakta yang kuat, dan transparansi akan semakin meningkat.” mengatakan pada pertemuan media.
Lembaga Penelitian dan Penilaian Kredibilitas Berita AS telah melacak dan mengevaluasi kemampuan AI generatif dalam menciptakan informasi palsu. Sebuah laporan yang dirilis oleh agensi tersebut akhir tahun lalu menunjukkan bahwa jumlah situs berita palsu yang dibuat menggunakan agen AI meningkat dari 49 menjadi lebih dari 600 dalam tujuh bulan.
Meskipun penerapan AI telah membawa perubahan pada keseluruhan ekologi media, menjadikan lingkungan penyebaran informasi semakin beragam dan kompleks, yang tetap tidak berubah adalah misi dan tanggung jawab media untuk mematuhi fakta dan kebenaran.
“Teknologi telah membuka peluang baru bagi kita, namun juga membawa tantangan baru. Kecerdasan buatan tidak hanya akan meningkatkan efisiensi penyebaran berita, namun juga mengharuskan kita memikirkan kembali standar etika kita.” Kovacs Tao, CEO ATV Media Group Hongaria “Saya sangat yakin bahwa kebenaran dan fakta tetap menjadi inti media dan tanggung jawab kita di era digital,” kata Marsh.
Menghadapi karakteristik baru dalam produksi dan penyebaran informasi palsu di era digital, bagaimana memperkuat peraturan dan pedoman untuk mengurangi timbulnya informasi palsu dari sumbernya; bagaimana memanfaatkan sarana teknologi baru untuk memastikan ketertelusuran dan kredibilitas konten; menjadi perhatian umum media di banyak negara.
Pada KTT Media Dunia Keenam, lembaga pemikir tingkat atas nasional Kantor Berita Xinhua merilis laporan lembaga pemikir “Tanggung Jawab dan Misi Media Berita di Era Kecerdasan Buatan” kepada dunia. Survei laporan terhadap organisasi media berita di 53 negara dan wilayah di seluruh dunia menunjukkan bahwa 85,6% responden mendukung penguatan peraturan dan tata kelola dalam beberapa bentuk sebagai respons terhadap kemungkinan dampak negatif penerapan AI generatif dalam industri media.
Pada pertemuan puncak tersebut, para tamu dari Tiongkok dan asing berdiskusi dengan hangat mengenai cara menangani penyebaran informasi palsu yang disebabkan oleh penyalahgunaan AI. “KTT ini telah menciptakan peluang bagi media global untuk meningkatkan kredibilitas informasi dalam menangani disinformasi, misinformasi, dan ujaran kebencian,” kata Chang Qide, Koordinator Sistem Pembangunan PBB di Tiongkok, dalam pidato video selama KTT tersebut.
Badan-badan PBB dan media multinasional telah mulai mempercepat pembangunan garis pertahanan yang “asli”. Chang Qide mengatakan bahwa PBB tahun ini merilis "Prinsip Integritas Informasi Global", yang mendesak pemerintah, perusahaan teknologi, pengiklan, perusahaan hubungan masyarakat, dan media untuk bekerja sama guna bersama-sama membangun ekosistem informasi yang lebih etis.
Secara global, institusi seperti Kantor Berita Xinhua, Reuters, British Broadcasting Corporation, dan National Public Radio telah merumuskan kode etik dan pedoman AI untuk mencegah risiko yang mungkin melanggar keaslian penerapan AI di industri media.
"Untuk setiap ancaman yang diciptakan dengan bantuan AI, teknologi itu sendiri dapat memberikan 'penangkal' yang efektif." Pavel Negoitsa, presiden Rossiya Gazeta, mengatakan bahwa AI dapat mendeteksi "pemalsuan mendalam" dan menghentikan tindakan penipu, dll.
Menghadapi situasi dimana masyarakat mudah “percaya” terhadap konten yang dihasilkan oleh kecerdasan buatan, banyak pihak yang menyerukan untuk menambahkan label pada konten yang dihasilkan oleh kecerdasan buatan untuk membantu masyarakat membedakan antara keaslian dan kepalsuan. Pada bulan September tahun ini, Administrasi Ruang Siber Tiongkok secara terbuka meminta pendapat tentang "Langkah-langkah untuk Memberi Label pada Konten Sintetis yang Dihasilkan oleh Kecerdasan Buatan (Draf untuk Komentar)", yang menyatakan bahwa penyedia layanan informasi jaringan harus memberi label sesuai dengan persyaratan standar nasional wajib yang relevan . Pada tahun 2023, AFP dan organisasi media besar Eropa mengeluarkan pernyataan mengenai regulasi informasi AI dan inisiatif industri, yang mewajibkan model dan pengguna AI generatif untuk secara jelas, spesifik, dan konsisten mengidentifikasi konten yang dihasilkan oleh kecerdasan buatan yang terdapat dalam konten keluaran mereka.
Beberapa media telah mulai bekerja sama dengan perusahaan teknologi untuk membangun "firewall keaslian". British Broadcasting Corporation dan perusahaan Amerika seperti Adobe, Google, Intel, dan Microsoft bersama-sama mendirikan Aliansi Sumber Konten dan Keaslian. Aliansi ini berupaya menyediakan label keaslian konten dan sistem layanan informasi ketertelusuran sejarah untuk media digital.
Di masa depan, penerapan AI tidak diragukan lagi akan semakin meningkatkan kompleksitas lingkungan informasi. Media harus berpegang pada prinsip bahwa "keaslian adalah nyawa berita" untuk menghilangkan kabut informasi palsu bagi publik dan menciptakan kejelasan. lingkungan opini publik.