Meta Company baru-baru ini mengumumkan akan memperkenalkan sejumlah besar karakter virtual yang dihasilkan oleh kecerdasan buatan di platform Facebook. Karakter-karakter ini akan memiliki profil, avatar, dan kemampuan untuk membuat dan berbagi konten seperti pengguna sebenarnya. Langkah ini dimaksudkan untuk meningkatkan interaksi pengguna dan aktivitas platform, namun juga menimbulkan kekhawatiran mengenai keamanan dan regulasi konten. Studio Meta AI telah meluncurkan fungsi pembuatan karakter virtual, menarik banyak partisipasi pengguna, dan akan memperluas ke lebih banyak negara dalam dua tahun ke depan. Selebriti internet juga dapat membuat versi AI mereka sendiri untuk berinteraksi dengan penggemar, namun hal ini juga dapat menimbulkan masalah seperti penyebaran informasi palsu dan perlindungan terhadap anak di bawah umur.
Studio AI Meta telah meluncurkan fungsi pembuatan karakter virtual ini. Pengguna dapat membuat karakter AI mereka sendiri melalui platform dan berinteraksi dengan mereka. Fitur ini telah menarik puluhan ribu pengguna untuk berpartisipasi, dan saat ini memiliki ratusan ribu karakter AI. Meta mengatakan dalam dua tahun ke depan, pihaknya akan terus memperluas cakupan penggunaan AI Studio agar pengguna di lebih banyak negara dapat merasakan fitur ini.
Perlu dicatat bahwa selain karakter fiksi, Influencer (selebriti internet) juga dapat membuat versi AI mereka sendiri untuk berkomunikasi dengan penggemar. Metode interaktif inovatif ini telah menarik banyak perhatian, dan banyak platform sosial telah meluncurkan fungsi serupa untuk memenuhi kebutuhan pembuat konten.
Namun, meluncurkan karakter AI ini juga menimbulkan risiko keamanan yang besar. Dalam beberapa tahun terakhir, chatbot serupa telah berulang kali melanggar pengawasan konten di platform sosial, sehingga sering terjadi insiden di mana pengguna di bawah umur terpapar konten yang tidak pantas. Selain itu, penyebaran informasi palsu juga menjadi permasalahan serius. Tanpa pengawasan yang efektif terhadap peran AI Meta, rumor dan misinformasi dapat semakin membesar, sehingga membawa risiko yang tidak terukur pada platform.
Becky Owen, mantan kepala tim inovasi kreator Meta dan saat ini menjabat sebagai kepala pemasaran Billion Dollar Boy, menyatakan keprihatinannya. Dia menunjukkan bahwa tidak seperti pencipta sebenarnya, karakter AI tidak memiliki pengalaman hidup, emosi dan relativitas, yang dapat mempengaruhi interaksi nyata mereka dengan pengguna dan juga karya pencipta.
Meskipun rencana Meta untuk mempromosikan karakter AI di Facebook dapat meningkatkan interaksi pengguna dan aktivitas platform, risiko keamanan tersembunyi dan potensi ancaman terhadap pembuat konten juga patut mendapat perhatian semua orang.
Highlight:
Meta berencana memperkenalkan karakter virtual AI di Facebook untuk meningkatkan interaksi pengguna.
Pengguna dapat membuat karakter virtualnya sendiri melalui studio AI dan berinteraksi dengannya.
Pengenalan karakter AI dapat menimbulkan risiko keamanan dan masalah dengan penyebaran informasi palsu.
Meskipun rencana Meta untuk memperkenalkan karakter virtual AI di Facebook mempunyai potensi dalam meningkatkan interaksi pengguna, hal ini juga menghadapi tantangan serius dalam pengawasan konten dan risiko keamanan. Bagaimana menyeimbangkan perkembangan teknologi dan tanggung jawab sosial akan menjadi isu yang perlu menjadi fokus Meta di masa depan. Dampak dari langkah ini terhadap seluruh industri media sosial patut untuk dicermati dan didiskusikan lebih lanjut.