Zoom est sur le point de lancer la très attendue fonctionnalité d’avatar numérique basée sur l’IA, qui révolutionnera la façon dont les utilisateurs communiquent de manière asynchrone. Cette fonctionnalité permet aux utilisateurs de créer des avatars numériques réalistes et de générer un son synchronisé sur les lèvres avec l'avatar en saisissant du texte, améliorant ainsi l'efficacité de la communication. Cependant, l’émergence de cette technologie a également suscité des inquiétudes quant aux risques de deepfakes. L'éditeur de Downcodes vous amènera à comprendre en profondeur cette nouvelle fonctionnalité de Zoom, à analyser ses risques potentiels et les mesures de sécurité prises par Zoom pour faire face à ces risques.
Zoom se prépare à proposer une nouvelle fonctionnalité étonnante à ses utilisateurs, mais nous devrons peut-être attendre l'année prochaine pour en avoir un aperçu. Le géant de la visioconférence a annoncé lors de sa conférence annuelle des développeurs qu'il lancerait une fonctionnalité qui transformerait les vidéos des utilisateurs en avatars numériques réalistes alimentés par l'IA.
Cet avatar numérique comprend non seulement la tête, mais également le haut des bras et les épaules, ce qui en fait un clone numérique. Les utilisateurs saisissent simplement ce qu'ils veulent que leur avatar numérique dise, et Zoom génère un son synchronisé sur les lèvres de l'avatar. Cela semble incroyable, n'est-ce pas ?
Smita Hashim, directrice des produits chez Zoom, a déclaré que cette fonctionnalité est conçue pour aider les gens à communiquer de manière asynchrone avec leurs collègues de manière plus rapide et plus efficace. Elle a souligné que ce type d’avatar peut faire gagner un temps et une énergie précieux aux utilisateurs tout en améliorant l’efficacité de la création vidéo.
Cependant, l’émergence de cette technologie a également suscité certaines inquiétudes. Nous devons nous demander si cela entraînera un risque de deepfake ?
En fait, de nombreuses entreprises ont développé une technologie d'IA similaire, capable de cloner numériquement le visage d'une personne et de le faire correspondre à une voix synthétisée assez naturelle. Par exemple, Tavus aide les marques à créer des avatars pour des publicités vidéo personnalisées, tandis que Microsoft a lancé l'année dernière un service capable de générer des avatars numériques convaincants.
Mais ces outils disposent souvent de protections strictes pour éviter les abus. Tavus exige une déclaration de consentement verbal et Microsoft demande à ses clients d'obtenir l'autorisation et le consentement écrits de tous les talents d'avatar impliqués.
En comparaison, la description par Zoom de ses mesures de sécurité semble vague. Hashim a déclaré que la société mettait en place plusieurs protections pour la fonctionnalité d'avatar personnalisé, notamment l'authentification avancée et le filigrane. Elle a promis de continuer à réexaminer et à ajouter des mesures de sécurité si nécessaire à l'avenir.
Cette décision de Zoom coïncide avec la grande vision du PDG Yuan Zheng. À l’avenir, il espère créer une IA capable de participer aux réunions Zoom, de répondre aux e-mails et même de répondre aux appels téléphoniques en votre nom.
Cependant, l’émergence de cette technologie intervient à un moment où les deepfakes se propagent comme une traînée de poudre sur les réseaux sociaux, rendant de plus en plus difficile la distinction entre la vérité et la désinformation. Les vidéos Deepfake impliquant le président Joe Biden, Taylor Swift et la vice-présidente Kamala Harris ont reçu des millions de vues et de partages en ligne cette année. Récemment, à la suite de l’ouragan Hélène, un flot de fausses images générées par l’IA ont inondé le Web, montrant des scènes fictives de destruction et de souffrance humaine.
La technologie Deepfake a également été utilisée pour cibler des individus, par exemple en se faisant passer pour des proches pour commettre une fraude. Selon la Federal Trade Commission, les pertes liées aux escroqueries par usurpation d’identité ont dépassé le milliard de dollars l’année dernière.
Alors, comment Zoom empêche-t-il exactement les fraudeurs d’utiliser ses outils pour générer de fausses vidéos malveillantes ? Ce n’est pas clair. Une maquette fournie par la société montre un filigrane visible dans le coin supérieur droit de la vidéo de l'avatar personnalisé. Mais ce filigrane est facilement recadré par les outils d’enregistrement d’écran.
Nous espérons connaître plus de détails lorsque Zoom prévoit de lancer cette fonctionnalité au premier semestre 2025. À ce stade, les utilisateurs devront payer 12 $ supplémentaires par mois pour utiliser des avatars personnalisés dans Zoom Clips, son outil vidéo asynchrone.
Quelles que soient les mesures finalement prises par Zoom, des efforts réglementaires sont en cours pour tenter de freiner la prolifération des deepfakes. En l’absence de lois criminalisant les deepfakes au niveau fédéral, plus de 10 États ont adopté des réglementations ciblant l’usurpation d’identité assistée par l’IA. La loi californienne, actuellement en suspens, serait la première à donner aux juges le pouvoir d'ordonner aux éditeurs de contenu deepfake de supprimer le contenu sous peine d'éventuelles amendes.
Alors que Zoom lance cette nouvelle fonctionnalité, on ne peut s’empêcher de se demander : le progrès technologique a-t-il toujours un impact positif ? Tout en profitant de la commodité, avons-nous ouvert par inadvertance la boîte de Pandore ?
Bien que la fonctionnalité d’avatar numérique IA de Zoom soit prometteuse, elle comporte également des risques potentiels. Comment trouver un équilibre entre progrès technologique et risques de sécurité sera une question que Zoom et l’ensemble du secteur technologique devront sérieusement réfléchir à l’avenir. L'éditeur de Downcodes continuera de prêter attention aux progrès de cette technologie et vous proposera davantage de rapports associés.