Meta a récemment annoncé qu'elle introduirait un grand nombre de personnages virtuels générés par l'intelligence artificielle sur la plateforme Facebook. Ces personnages auront des profils, des avatars et la possibilité de créer et de partager du contenu comme de vrais utilisateurs. Cette décision vise à accroître l'interaction des utilisateurs et l'activité de la plateforme, mais elle soulève également des inquiétudes concernant la sécurité et la réglementation du contenu. Le studio Meta AI a lancé une fonction de création de personnages virtuels, attirant un grand nombre d'utilisateurs, et s'étendra à davantage de pays au cours des deux prochaines années. Les célébrités d'Internet peuvent également créer leurs propres versions d'IA pour interagir avec leurs fans, mais cela peut également entraîner des problèmes tels que la diffusion de fausses informations et la protection des mineurs.
Le studio d'IA de Meta a lancé la fonction de création de ces personnages virtuels. Les utilisateurs peuvent créer leurs propres personnages d'IA via la plateforme et interagir avec eux. Cette fonctionnalité a attiré des dizaines de milliers d'utilisateurs et compte actuellement des centaines de milliers de personnages IA. Meta a déclaré qu'au cours des deux prochaines années, elle continuerait à étendre la portée d'AI Studio afin que les utilisateurs d'un plus grand nombre de pays puissent profiter de cette fonctionnalité.
Il convient de noter qu’en plus des personnages fictifs, les influenceurs (célébrités Internet) peuvent également créer leurs propres versions d’IA pour communiquer avec les fans. Cette méthode interactive innovante a suscité beaucoup d’attention et de nombreuses plateformes sociales ont lancé des fonctions similaires pour répondre aux besoins des créateurs de contenu.
Cependant, le déploiement de ces personnages IA comporte également d’énormes risques de sécurité. Ces dernières années, des chatbots similaires ont violé à plusieurs reprises la supervision du contenu sur les plateformes sociales, entraînant de fréquents incidents d'utilisateurs mineurs exposés à du contenu inapproprié. En outre, la diffusion de fausses informations constitue également un problème sérieux. Si le rôle d’IA de Meta ne dispose pas d’une supervision efficace, cela pourrait encore amplifier les rumeurs et la désinformation, entraînant des risques incommensurables pour la plateforme.
Becky Owen, ancienne responsable de l'équipe d'innovation des créateurs de Meta et actuelle directrice du marketing de Billion Dollar Boy, a exprimé son inquiétude. Elle a souligné que contrairement aux vrais créateurs, les personnages IA manquent d'expérience de vie, d'émotion et de relativité, ce qui peut affecter leur interaction réelle avec les utilisateurs et donc le travail des créateurs.
Bien que le projet de Meta visant à promouvoir les personnages IA sur Facebook puisse améliorer l'interaction des utilisateurs et l'activité de la plateforme, les risques de sécurité cachés et les menaces potentielles pour les créateurs de contenu méritent également l'attention de tous.
Souligner:
Meta prévoit d'introduire des personnages virtuels IA sur Facebook pour améliorer l'interaction des utilisateurs.
Les utilisateurs peuvent créer leurs propres personnages virtuels via le studio AI et interagir avec eux.
L’introduction de personnages IA peut entraîner des risques de sécurité et des problèmes de propagation de fausses informations.
Bien que le projet de Meta visant à introduire des personnages virtuels IA sur Facebook ait le potentiel d’améliorer l’interaction des utilisateurs, il se heurte également à de sérieux défis en matière de supervision du contenu et de risques de sécurité. Comment concilier développement technologique et responsabilité sociale sera une question sur laquelle Meta devra se concentrer à l’avenir. L’impact de cette décision sur l’ensemble de l’industrie des médias sociaux mérite une observation et une discussion continues.