Avec le développement rapide de la technologie de l’intelligence artificielle, la technologie du clonage vocal est devenue de plus en plus mature. Cependant, les risques qu’elle comporte ne peuvent être ignorés. Ces dernières années, il y a eu de nombreux cas de fraude utilisant la technologie de clonage vocal, dont de nombreuses personnes célèbres ont été victimes, suscitant des inquiétudes du public concernant cette technologie et des appels à un contrôle juridique plus strict. L'éditeur de Downcodes expliquera en détail les défis et les contre-mesures apportés par la technologie de clonage sonore.
Avec les progrès continus de la technologie de l’intelligence artificielle, la technologie de clonage vocal est progressivement devenue publique, mais ses risques potentiels sont également apparus. Récemment, les voix de nombreuses personnes célèbres ont été clonées de manière malveillante par des criminels et utilisées comme outils de fraude. De nombreuses célébrités, dont le célèbre animateur de documentaires sur la nature David Attenborough, ont exprimé leurs inquiétudes à ce sujet et ont appelé à une protection juridique plus forte.
Remarque sur la source de l'image : l'image est générée par l'IA et le fournisseur de services d'autorisation d'image Midjourney
Récemment, David Attenborough s'est senti « profondément perturbé » après avoir découvert que sa voix était utilisée pour diffuser des informations politiques. Il a dit qu'il avait consacré sa vie à répandre la vérité, mais maintenant il a découvert que son identité avait été volée par d'autres. Cette situation l'a mis en colère et déçu. De plus, les voix de célébrités telles que Jennifer Aniston, Oprah Winfrey et Kylie Jenner ont également été clonées par des criminels, ce qui indique l'universalité de ce phénomène.
Les escroqueries au clonage vocal de l'IA au Royaume-Uni ont augmenté de 30 % au cours de l'année écoulée, selon la dernière enquête. L’enquête montre qu’environ 28 % des personnes ont été confrontées à une arnaque au clonage vocal d’IA au moins une fois au cours de l’année écoulée. Ces escroqueries comportent souvent des appels téléphoniques flous et de fausses voix, ce qui rend difficile pour les victimes de faire la différence. Les experts recommandent que lorsque vous recevez un appel suspect, il est préférable de raccrocher immédiatement et d'appeler un numéro de téléphone fiable pour confirmer.
À mesure que la technologie du clonage vocal continue de s’améliorer, les experts commencent à se concentrer sur les défis juridiques posés par cette technologie. Le Dr Dominic Lees a déclaré que les lois actuelles sur la vie privée et le droit d'auteur ne se sont pas encore adaptées au développement de cette nouvelle technologie, laissant de nombreuses victimes comme Attenborough pratiquement impuissantes. Il conseille la commission de la culture, des médias et des sports du Parlement britannique sur l'utilisation éthique de la technologie de l'IA dans la production cinématographique et télévisuelle.
Non seulement cela, Li Si a également souligné que même si l'IA a fait des progrès significatifs dans la synthèse sonore, elle ne peut toujours pas comprendre pleinement les changements émotionnels, affectant ainsi le réalisme du son. En outre, l'industrie du doublage réagit également rapidement à ce changement, et certaines sociétés ont commencé à cloner les voix de certains artistes afin de répondre à la demande du marché.
Dans l’ensemble, l’essor de la technologie de clonage vocal a suscité de nombreuses inquiétudes, notamment en termes de protection de la vie privée et de la réputation. Les experts appellent le gouvernement à prendre des mesures le plus rapidement possible pour faire face aux nouveaux défis posés par la technologie de l'IA et éviter que cette technologie ne devienne un outil pour les criminels.
La technologie de clonage vocal est une arme à double tranchant, et son développement nécessite un équilibre entre progrès technologique et normes éthiques. À l’avenir, renforcer la législation, sensibiliser le public à la prévention et promouvoir le développement sûr de la technologie elle-même seront la clé pour faire face aux risques liés à la technologie de clonage vocal.