Récemment, Shenzhen Reecho Technology Co., Ltd. a publié une déclaration en réponse à l'incident selon lequel sa plate-forme de grand modèle de doublage d'IA développée indépendamment, Reecho, avait été utilisée pour produire de faux audio et vidéo. Lors de cet incident, le suspect a utilisé Reecho pour cloner la voix de la victime Lu et diffuser de fausses informations. L'éditeur de Downcodes vous donnera une explication détaillée de l'incident et des réponses associées.
Shenzhen Reecho Technology Co., Ltd. a récemment publié une déclaration confirmant que la partie audio des documents audio et vidéo diffusés le 16 septembre avait été clonée par le suspect à l'aide de sa plateforme de doublage de grands modèles Reecho AI, développée indépendamment. L’audio provient du clip diffusé en direct de Lu.
La société a lancé un mécanisme d'audit interne pour renforcer le contrôle de sécurité de l'authentification de l'identité des utilisateurs et de la génération audio afin de garantir l'application légale et conforme de la technologie.
Reecho Ruisheng a déclaré qu'en tant qu'équipe de start-up créée il y a moins d'un an, Yanyu Technology s'engage à explorer les technologies de pointe de l'audio et de l'intelligence artificielle anthropomorphique. En tant que première plate-forme technologique de synthèse audio et de doublage d'IA destinée au public, Reecho vise à améliorer l'efficacité et la commodité de la production de contenu créatif grâce à une technologie de pointe auto-développée.
Au même moment, la branche de haute technologie du bureau municipal de la sécurité publique de Hefei a reçu une alarme le 20 septembre et a lancé une enquête sur les faux enregistrements audio et vidéo impliquant Lu. Après enquête, la police a arrêté le suspect Wang, âgé de 25 ans, dans la soirée du 22 septembre et a découvert qu'il utilisait des outils d'IA pour falsifier des fichiers audio et synthétiser des vidéos à des fins de diffusion, provoquant ainsi de nombreuses rumeurs. Wang a pris des mesures pénales obligatoires conformément à la loi, et l'affaire fait toujours l'objet d'une enquête plus approfondie.
Cet incident a révélé les risques de sécurité existant dans le processus d'application de la technologie de l'IA et a également rappelé aux entreprises d'IA de renforcer la protection de la sécurité technique et les normes éthiques. La réponse de Ruiyu Technology montre qu'elle est consciente du problème et prend activement des mesures pour l'améliorer. On espère que la technologie de l’IA pourra se développer à l’avenir dans un environnement plus sûr et plus conforme et créer plus de valeur pour la société.