Dengan ledakan konten yang dihasilkan oleh kecerdasan buatan, platform media sosial menghadapi tantangan yang belum pernah terjadi sebelumnya: Bagaimana memastikan bahwa pengguna dapat membedakan informasi yang benar dan salah? Kepala Instagram Adam Mosseri baru-baru ini menerbitkan serangkaian postingan di Threads yang mengungkapkan keprihatinannya tentang konten yang dihasilkan AI dan memaparkan strategi Instagram dan Meta untuk menghadapi tantangan ini. Dia menekankan bahwa pengguna harus lebih waspada dan belajar mengidentifikasi konten yang dihasilkan AI, dan meminta platform untuk memperkuat pengawasan konten dan meningkatkan transparansi dan kredibilitas informasi.
Dalam serangkaian postingan Threads baru-baru ini, kepala Instagram Adam Mosseri menekankan perlunya pengguna media sosial untuk lebih waspada dalam menghadapi meningkatnya jumlah konten yang dihasilkan oleh AI.
Ia mencontohkan, gambar dan informasi yang dilihat pengguna secara online mungkin tidak nyata, karena teknologi AI sudah dapat menghasilkan konten yang sangat mirip dengan kenyataan. Untuk membantu pengguna menilai keaslian informasi dengan lebih baik, Mosseri menyebutkan bahwa pengguna harus mempertimbangkan sumber konten, dan platform sosial juga memiliki tanggung jawab untuk mendukung hal ini.
Mosseri mengatakan bahwa peran platform media sosial adalah memberi label sebanyak mungkin pada konten AI yang dihasilkan untuk membantu pengguna mengidentifikasinya. Namun, ia juga mengakui bahwa beberapa konten mungkin terlewat dan tidak dapat ditandai tepat waktu. Untuk mencapai tujuan ini, dia menekankan bahwa platform juga perlu memberikan informasi latar belakang pengguna tentang konten yang dibagikan sehingga pengguna dapat memutuskan dengan lebih baik seberapa besar mereka mempercayai konten tersebut. Pandangannya mencerminkan keprihatinan mendalam terhadap kredibilitas pesan media sosial.
Pada tahap ini, Meta (perusahaan induk Instagram) belum memberikan informasi kontekstual yang cukup untuk membantu pengguna menilai keaslian konten. Namun, perusahaan tersebut baru-baru ini mengisyaratkan bahwa mereka mungkin akan membuat perubahan signifikan pada aturan kontennya. Perubahan ini diharapkan dapat meningkatkan kepercayaan pengguna terhadap informasi dan membantu mereka mengatasi tantangan yang ditimbulkan oleh teknologi AI dengan lebih baik.
Mosseri menyebutkan bahwa pengguna harus memastikan apakah informasi yang diberikan oleh chatbot dapat diandalkan sebelum mempercayai mesin pencari berbasis AI. Hal ini mirip dengan memeriksa sumber suatu pernyataan postingan atau gambar, hanya saja informasi yang berasal dari akun yang memiliki reputasi baik lebih dapat dipercaya.
Pendekatan terhadap moderasi konten yang dijelaskan Mosseri lebih mirip dengan sistem moderasi berbasis pengguna, seperti catatan komunitas di Twitter dan filter konten YouTube. Meskipun tidak jelas apakah Meta akan memperkenalkan fitur serupa, mengingat pengalaman masa lalu perusahaan meminjam dari platform lain, kebijakan moderasi konten di masa depan patut untuk diperhatikan.
Secara keseluruhan, dalam menghadapi tantangan yang ditimbulkan oleh konten yang dihasilkan AI, Instagram dan Meta secara aktif mencari solusi, yang tidak hanya membutuhkan upaya dari platform itu sendiri, namun juga mengharuskan pengguna untuk meningkatkan kemampuan pemahaman mereka sendiri dan bersama-sama menjaga kelestarian lingkungan. kredibilitas dan keamanan informasi online. Bagaimana model pengawasan konten di masa depan akan berkembang patut mendapat perhatian terus-menerus.