Die rasante Entwicklung der Deepfake-Technologie hat zu ernsthaften Bedrohungen der Netzwerksicherheit geführt und Falschinformationen sind weit verbreitet. Statistiken zufolge hat der Betrug im Zusammenhang mit Deepfakes schnell zugenommen und ist zu einem Problem geworden, das nicht ignoriert werden kann. Um dieser Herausforderung zu begegnen, haben Technologieunternehmen nacheinander nach Lösungen gesucht. Unter ihnen hat das von Meta Company eingeführte Video Seal-Tool große Aufmerksamkeit erregt. Das Tool zielt darauf ab, Deepfakes zu bekämpfen, indem es KI-generierten Videos unsichtbare Wasserzeichen hinzufügt, und stellt seine Technologie als Open-Source-Lösung zur Verfügung, um eine umfassendere Zusammenarbeit und Entwicklung zu fördern.
Heutzutage sind Deepfakes allgegenwärtig. Da generative KI immer beliebter wird, ist die Zahl falscher Inhalte im Internet explosionsartig angestiegen. Laut Statistiken der Identitätsprüfungsplattform Sumsub wird sich die Zahl der weltweiten Deepfakes von 2023 bis 2024 vervierfachen. Im Jahr 2024 wird Deepfake 7 % aller Betrügereien ausmachen, die von Identitätsdiebstahl und Kontodiebstahl bis hin zu komplexen Social-Engineering-Angriffen reichen und alle Deepfake involvieren.
Um Deepfakes effektiv zu bekämpfen, hat Meta kürzlich ein Tool veröffentlicht, das KI-generierte Videoclips mit nicht wahrnehmbaren Wasserzeichen versehen kann. Das Tool mit dem Namen Meta Video Seal wurde am Donnerstag als Open Source angekündigt und soll in bestehende Software integriert werden. Dieses Tool verbindet Metas andere Wasserzeichen-Tools Watermark Anything (heute unter einer freizügigen Lizenz erneut veröffentlicht) und Audio Seal zu einer vollständigen Wasserzeichen-Lösung.
„Wir haben Video Seal entwickelt, um eine effektivere Video-Wasserzeichenlösung bereitzustellen, insbesondere bei der Erkennung von KI-generierten Videos und dem Schutz der Originalität“, sagte Meta AI-Forscher Pierre Fernandez gegenüber TechCrunch.
Video Seal ist nicht die erste Technologie dieser Art. SynthID von DeepMind kann Videos mit Wasserzeichen versehen, und Microsoft verfügt auch über eine eigene Methode zum Markieren von Videos mit Wasserzeichen.
Fernandez glaubt jedoch, dass viele bestehende Methoden unzureichend sind.
„Es gibt zwar andere Wasserzeichen-Tools, diese sind jedoch nicht robust genug gegenüber der Videokomprimierung (was sehr häufig vorkommt, wenn Inhalte über soziale Plattformen geteilt werden), laufen nicht effizient genug für groß angelegte Anwendungen, sind nicht offen oder wiederholbar genug oder werden abgeleitet.“ von Bildwasserzeichen, und Bildwasserzeichen sind nicht die beste Option für Videos“, sagte Fernandez.
Zusätzlich zu Wasserzeichen kann Video Seal versteckte Nachrichten zu Videos hinzufügen, um später die Quelle des Videos preiszugeben. Meta behauptet, dass Video Seal gängigen Bearbeitungsvorgängen wie Unschärfe und Zuschneiden sowie gängigen Komprimierungsalgorithmen widerstehen kann.
Fernandez räumt ein, dass Video Seal bestimmte Einschränkungen aufweist, vor allem einen Kompromiss zwischen der Wahrnehmbarkeit des Wasserzeichens und seiner allgemeinen Manipulationsresistenz. Er fügte hinzu, dass starke Komprimierung und umfangreiche Bearbeitung das Wasserzeichen verändern oder unwiederbringlich machen könnten.
Das größere Problem für Video Seal besteht natürlich darin, dass es für Entwickler und Industrie kaum Gründe gibt, es zu übernehmen, insbesondere für diejenigen, die bereits proprietäre Lösungen verwenden. Um dieses Problem zu lösen, führt Meta eine öffentliche Rangliste ein, Meta Omni Seal Bench, die speziell für den Vergleich der Leistung verschiedener Wasserzeichenmethoden entwickelt wurde. Darüber hinaus wird Meta auf der diesjährigen ICLR (International Conference on Learning Representations) einen Workshop zum Thema Wasserzeichen organisieren. ICLR ist eine wichtige KI-Konferenz.
„Wir hoffen, dass immer mehr KI-Forscher und -Entwickler irgendeine Form von Wasserzeichen in ihre Arbeit integrieren“, sagte Fernandez. „Wir hoffen, mit der Industrie und der Wissenschaft zusammenzuarbeiten, um den Fortschritt in diesem Bereich schneller voranzutreiben.“
Dieser Schritt von Meta liefert zweifellos neue Ideen zur Bekämpfung der Verbreitung von Deepfake. Open Source und offene Zusammenarbeit können ein wirksamer Weg sein, dieses heikle Problem zu lösen. Die Zukunft von Video Seal hängt jedoch immer noch davon ab, ob es von der Branche allgemein akzeptiert und angewendet wird und ob es in der Lage ist, Deepfakes zu bekämpfen.
Alles in allem stellt das Video Seal-Tool von Meta einen neuen Versuch zur Bekämpfung von Deepfake dar, dessen Erfolg jedoch abzuwarten bleibt. In Zukunft werden mehr technologische Innovationen und Branchenkooperationen erforderlich sein, um das Deepfake-Problem effektiv zu lösen. Open Source und ein kollaborativer Geist sind der Schlüssel, aber es braucht Zeit und nachhaltige Anstrengungen.