Kürzlich gab Shenzhen Reecho Technology Co., Ltd. eine Erklärung als Reaktion auf den Vorfall heraus, dass seine unabhängig entwickelte KI-Synchronisierungsplattform für große Modelle, Reecho, zur Produktion gefälschter Audio- und Videodaten verwendet wurde. Bei diesem Vorfall nutzte der Verdächtige Reecho, um die Stimme des Opfers Lu zu klonen und falsche Informationen zu verbreiten. Der Herausgeber von Downcodes wird Ihnen eine detaillierte Erklärung des Vorfalls und entsprechende Antworten geben.
Shenzhen Reecho Technology Co., Ltd. hat kürzlich eine Erklärung abgegeben, in der bestätigt wird, dass der Audioteil des am 16. September verbreiteten Audio- und Videomaterials von dem Verdächtigen mithilfe seiner unabhängig entwickelten Reecho AI-Synchronisierungsplattform für große Modelle geklont wurde. Der Ton stammt aus Lus Live-Übertragungsclip.
Das Unternehmen hat einen internen Prüfmechanismus eingeführt, um die Sicherheitskontrolle der Authentifizierung der Benutzeridentität und der Audioerzeugung zu stärken und die legale und konforme Anwendung der Technologie sicherzustellen.
Reecho Ruisheng sagte, dass sich Yanyu Technology als vor weniger als einem Jahr gegründetes Start-up-Team der Erforschung der Spitzentechnologien Audio und anthropomorphe künstliche Intelligenz verschrieben habe. Als unsere erste öffentlich zugängliche KI-Plattform für Audiosynthese und Synchronisierungstechnologie zielt Reecho darauf ab, die Effizienz und den Komfort der Produktion kreativer Inhalte durch selbst entwickelte Spitzentechnologie zu verbessern.
Gleichzeitig erhielt die High-Tech-Abteilung des Büros für öffentliche Sicherheit der Stadt Hefei am 20. September einen Alarm und leitete eine Untersuchung der falschen Audio- und Videoaufnahmen von Lu ein. Nach Ermittlungen nahm die Polizei am Abend des 22. September den 25-jährigen Tatverdächtigen Wang fest und stellte fest, dass er mithilfe von KI-Tools Audiodaten fälschte und Videos zur Verbreitung synthetisierte, was zu weitverbreiteten Gerüchten führte. Wang hat im Einklang mit dem Gesetz strafrechtliche Zwangsmaßnahmen ergriffen und der Fall wird noch weiter untersucht.
Dieser Vorfall machte die Sicherheitsrisiken deutlich, die im Anwendungsprozess der KI-Technologie bestehen, und erinnerte KI-Unternehmen auch daran, den technischen Sicherheitsschutz und die ethischen Standards zu stärken. Die Reaktion von Ruiyu Technology zeigt, dass man sich des Problems bewusst ist und aktiv Maßnahmen zu seiner Verbesserung ergreift. Es besteht die Hoffnung, dass sich die KI-Technologie in Zukunft in einem sichereren und konformeren Umfeld entwickeln und mehr Wert für die Gesellschaft schaffen kann.