Laporan editor Downcode: Sebuah studi terbaru mengungkap rahasia mengejutkan dari akun avatar yang dihasilkan AI pada platform X. Tim peneliti Jerman menganalisis hampir 15 juta akun X dan menemukan bahwa hanya sejumlah kecil akun (0,052%) yang menggunakan avatar yang dihasilkan AI. Akun-akun ini menunjukkan ciri-ciri yang unik, seperti jumlah pengikut dan pengikut yang sedikit, sebagian besar akun dibuat pada tahun 2023, bahkan dibuat secara batch, yang menunjukkan bahwa kemungkinan besar akun tersebut adalah akun palsu yang digunakan untuk menyebarkan informasi tertentu.
Catatan sumber gambar: Gambar dihasilkan oleh AI, dan penyedia layanan otorisasi gambar Midjourney
Akun-akun ini menunjukkan karakteristik yang jelas: mereka memiliki lebih sedikit pengikut dan mengikuti lebih sedikit akun, dan lebih dari setengahnya dibuat pada tahun 2023, dan beberapa akun bahkan dibuat secara berkelompok dalam waktu beberapa jam. Jonas Ricker, penulis utama studi tersebut, menunjukkan bahwa ini jelas menunjukkan bahwa akun-akun tersebut bukanlah pengguna sebenarnya. Setelah sembilan bulan observasi, Platform X telah menutup lebih dari separuh akun tersebut.
Dalam analisis konten manual terhadap 1.000 akun yang menggunakan avatar AI, para peneliti menemukan bahwa tema konten akun-akun tersebut sebagian besar berfokus pada politik, terutama isu terkait Trump, vaksin COVID-19, dan perang di Ukraina. Selain itu, topik lotere dan keuangan seperti mata uang kripto sering muncul. Para peneliti berspekulasi bahwa akun-akun ini mungkin dibuat khusus untuk menyebarkan disinformasi dan propaganda politik, karena akun-akun tersebut dibuat dalam jumlah besar dan memiliki metadata yang sama, sehingga menunjukkan bahwa akun-akun tersebut mungkin merupakan bagian dari jaringan yang terorganisir.
Meskipun penelitian ini tidak mengeksplorasi penyebaran akun-akun yang menggunakan avatar AI, jumlah rata-rata pengikut dan akun mereka menunjukkan bahwa pengaruhnya terbatas. Hal ini konsisten dengan penelitian yang dilakukan OpenAI, yang menemukan bahwa akun media sosial yang menyebarkan propaganda politik yang dibuat oleh AI hanya menerima sedikit tanggapan, sehingga akun tersebut menjadi kurang efektif. Tim peneliti berencana untuk memperluas otomatisasi pengenalan avatar palsu AI dalam analisis di masa depan dan menggabungkan model-model terbaru untuk lebih memahami dampak teknologi ini pada platform media sosial.
Penelitian ini memberikan wawasan berharga mengenai pemahaman kita mengenai penerapan avatar yang dihasilkan AI pada platform media sosial, dan juga mengingatkan kita untuk berhati-hati dalam menggunakan teknologi AI untuk menyebarkan informasi berbahaya. Di masa depan, teknologi pengenalan AI yang lebih efektif akan menjadi sarana penting untuk menjaga keamanan lingkungan jaringan. Editor Downcodes akan terus memperhatikan perkembangan yang relevan dan memberikan Anda lebih banyak informasi teknologi.