Baru -baru ini, penelitian baru tentang platform X (sebelumnya Twitter) telah menarik perhatian. Para peneliti dari Bochum, Gesis Leibniz Institute dan Cispa Helmholtz Center menganalisis hampir 15 juta akun X untuk mengeksplorasi karakteristik dan dampak potensial dari akun avatar yang dihasilkan AI. Hasil penelitian menunjukkan bahwa proporsi akun yang menggunakan AI untuk menghasilkan avatar sangat rendah, dan akun ini menunjukkan pola perilaku yang unik, yang menimbulkan kekhawatiran tentang penyebaran informasi palsu.
Sebuah studi baru -baru ini yang dilakukan oleh Bochum, Gesis Leibniz Institute dan Cispa Helmholtz Center, baru -baru ini mengungkapkan bahwa akun X (sebelumnya Twitter) yang menggunakan AI untuk menghasilkan akun avatar hanya 0,052% dari semua akun. Para peneliti menganalisis hampir 15 juta akun X dan menemukan bahwa 7723 di antaranya menggunakan avatar yang dihasilkan AI.
Catatan Sumber Gambar: Gambar dihasilkan oleh AI, dan Penyedia Layanan Resmi Gambar Midjourney
Akun -akun ini menunjukkan karakteristik yang jelas: lebih sedikit pengikut, tidak banyak akun yang diikuti, dan lebih dari setengahnya dibuat pada tahun 2023, dan beberapa akun bahkan dibuat dalam batch dalam beberapa jam. Ini jelas menunjukkan bahwa akun ini bukan pengguna nyata, mencatat penulis utama studi Jonas Ricker. Setelah sembilan bulan pengamatan, platform X telah menutup lebih dari setengah akun ini.
Selama analisis konten manual dari 1.000 akun menggunakan avatar AI, para peneliti menemukan bahwa tema konten dari akun ini berfokus terutama pada aspek-aspek politik, terutama masalah yang terkait dengan Trump, vaksin Covid-19, dan Perang Ukraina. Selain itu, topik lotere dan keuangan seperti cryptocurrency juga sering muncul. Para peneliti berspekulasi bahwa akun -akun ini mungkin telah dibuat secara khusus untuk menyebarkan informasi palsu dan propaganda politik, karena sejumlah besar akun dibuat dan metadata yang sama menunjukkan bahwa mereka mungkin termasuk dalam jaringan yang terorganisir.
Meskipun penelitian ini tidak mengeksplorasi penyebaran akun -akun ini menggunakan avatar AI, rata -rata pengikut mereka lebih sedikit dan lebih sedikit pengikut menunjukkan pengaruh yang terbatas. Ini konsisten dengan studi oleh Openai yang menemukan bahwa akun media sosial yang menyebarkan AI untuk menghasilkan informasi propaganda politik menerima beberapa tanggapan, dan oleh karena itu akun ini kurang efektif. Tim peneliti berencana untuk memperluas otomatisasi pengakuan avatar palsu AI dalam analisis di masa depan dan menggabungkan model yang diperbarui untuk lebih memahami dampak teknologi ini pada platform media sosial.
Poin -Poin Kunci:
Penelitian menunjukkan bahwa hanya 0,052% akun pada platform X menggunakan AI untuk menghasilkan avatar, dan kebanyakan dari mereka adalah akun yang baru dibuat.
Topik konten akun menggunakan avatar AI terutama melibatkan topik politik, COVID-19 dan keuangan.
Pembuatan batch dari akun -akun ini dan metadata serupa menyiratkan bahwa informasi palsu dapat menyebar di jaringan organisasi.
Studi ini memberikan referensi penting untuk mengidentifikasi dan menanggapi informasi palsu di media sosial, dan juga menunjukkan bahwa kita perlu terus memperhatikan risiko potensial teknologi AI dalam penyebaran informasi dan mengeksplorasi strategi koping yang lebih efektif. Penelitian di masa depan akan lebih lanjut mengeksplorasi mekanisme komunikasi dan dampak avatar yang dihasilkan AI di media sosial untuk mempertahankan perkembangan dunia maya yang sehat.