Zoom steht kurz vor der Einführung der mit Spannung erwarteten KI-gestützten digitalen Avatar-Funktion, die die Art und Weise, wie Benutzer asynchron kommunizieren, revolutionieren wird. Mit dieser Funktion können Benutzer realistische digitale Avatare erstellen und durch die Eingabe von Text lippensynchrones Audio mit dem Avatar erzeugen, wodurch die Kommunikationseffizienz verbessert wird. Das Aufkommen dieser Technologie hat jedoch auch Bedenken hinsichtlich der Risiken von Deepfakes geweckt. Der Herausgeber von Downcodes vermittelt Ihnen ein detailliertes Verständnis dieser neuen Funktion von Zoom, analysiert ihre potenziellen Risiken und die Sicherheitsmaßnahmen, die Zoom ergriffen hat, um mit diesen Risiken umzugehen.
Zoom bereitet sich darauf vor, seinen Benutzern eine erstaunliche neue Funktion bereitzustellen, aber wir müssen möglicherweise bis zum nächsten Jahr warten, um einen Blick darauf zu werfen. Der Videokonferenzriese gab auf seiner jährlichen Entwicklerkonferenz bekannt, dass er eine Funktion einführen wird, die Benutzervideos in lebensechte, KI-gestützte digitale Avatare verwandeln wird.
Dieser digitale Avatar umfasst nicht nur den Kopf, sondern auch die Oberarme und Schultern und ist somit ein digitaler Klon. Benutzer geben einfach ein, was ihr digitaler Avatar sagen soll, und Zoom generiert Audio, das lippensynchron mit dem Avatar synchronisiert wird. Klingt erstaunlich, oder?
Smita Hashim, Chief Product Officer von Zoom, sagte, die Funktion sei darauf ausgelegt, Menschen dabei zu helfen, schneller und effizienter asynchron mit Kollegen zu kommunizieren. Sie betonte, dass diese Art von Avatar den Benutzern wertvolle Zeit und Energie sparen und gleichzeitig die Effizienz der Videoerstellung verbessern kann.
Das Aufkommen dieser Technologie hat jedoch auch einige Bedenken hervorgerufen. Wir müssen darüber nachdenken, ob dies das Risiko von Deepfake mit sich bringt?
Tatsächlich haben viele Unternehmen eine ähnliche KI-Technologie entwickelt, die das Gesicht einer Person digital klonen und es mit einer ziemlich natürlichen synthetischen Stimme vergleichen kann. Tavus unterstützt beispielsweise Marken bei der Erstellung von Avataren für personalisierte Videoanzeigen, während Microsoft im vergangenen Jahr einen Dienst eingeführt hat, der überzeugende digitale Avatare generieren kann.
Diese Tools verfügen jedoch häufig über strenge Schutzmaßnahmen, um Missbrauch zu verhindern. Tavus erfordert eine mündliche Einwilligungserklärung und Microsoft verlangt von seinen Kunden die schriftliche Genehmigung und Zustimmung aller beteiligten Avatar-Talente.
Im Vergleich dazu erscheint Zooms Beschreibung seiner Sicherheitsmaßnahmen vage. Hashim sagte, das Unternehmen entwickle mehrere Schutzmaßnahmen für die benutzerdefinierte Avatar-Funktion, darunter erweiterte Authentifizierung und Wasserzeichen. Sie versprach, die Sicherheitsmaßnahmen in Zukunft weiter zu überprüfen und bei Bedarf zu ergänzen.
Dieser Schritt von Zoom deckt sich mit der großen Vision von CEO Yuan Zheng. In Zukunft hofft er, eine KI zu entwickeln, die in Ihrem Namen an Zoom-Meetings teilnehmen, auf E-Mails antworten und sogar Telefonanrufe entgegennehmen kann.
Das Aufkommen der Technologie erfolgt jedoch zu einer Zeit, in der sich Deepfakes in den sozialen Medien wie ein Lauffeuer verbreiten, was es immer schwieriger macht, Wahrheit von Desinformation zu unterscheiden. Deepfake-Videos mit Präsident Joe Biden, Taylor Swift und Vizepräsidentin Kamala Harris wurden dieses Jahr online millionenfach angeschaut und geteilt. Kürzlich, im Zuge des Hurrikans Helene, überschwemmte eine Flut gefälschter KI-generierter Bilder das Internet, die fiktive Szenen der Zerstörung und des menschlichen Leids zeigten.
Deepfake-Technologie wurde auch eingesetzt, um gezielt Einzelpersonen anzugreifen, indem sie sich beispielsweise als Verwandte ausgab, um Betrug zu begehen. Nach Angaben der Federal Trade Commission beliefen sich die Verluste im Zusammenhang mit Identitätsdiebstahl im vergangenen Jahr auf mehr als 1 Milliarde US-Dollar.
Wie genau verhindert Zoom, dass Betrüger seine Tools verwenden, um böswillige Fake-Videos zu erstellen? Ein vom Unternehmen bereitgestelltes Modell zeigt ein sichtbares Wasserzeichen in der oberen rechten Ecke des benutzerdefinierten Avatar-Videos. Dieses Wasserzeichen kann jedoch von Bildschirmaufzeichnungstools leicht abgeschnitten werden.
Wir hoffen, weitere Einzelheiten zu erfahren, wenn Zoom plant, diese Funktion in der ersten Hälfte des Jahres 2025 zu veröffentlichen. Zu diesem Zeitpunkt müssen Benutzer zusätzlich 12 US-Dollar pro Monat zahlen, um benutzerdefinierte Avatare in Zoom Clips, dem asynchronen Videotool, zu verwenden.
Unabhängig davon, welche Maßnahmen Zoom letztendlich ergreift, sind Regulierungsbemühungen im Gange, um die Verbreitung von Deepfakes einzudämmen. Da es auf Bundesebene keine Gesetze gibt, die Deepfakes unter Strafe stellen, haben mehr als zehn Bundesstaaten Vorschriften gegen KI-gestützten Identitätswechsel erlassen. Das kalifornische Gesetz, das derzeit auf Eis liegt, wäre das erste, das Richtern die Befugnis geben würde, Herausgebern von Deepfake-Inhalten anzuweisen, die Inhalte zu entfernen oder mit möglichen Geldstrafen zu rechnen.
Während Zoom diese neue Funktion einführt, müssen wir uns fragen: Hat der technologische Fortschritt immer einen positiven Einfluss? Haben wir versehentlich die Büchse der Pandora geöffnet?
Obwohl die KI-Funktion für digitale Avatare von Zoom vielversprechend ist, birgt sie auch potenzielle Risiken. Wie ein Gleichgewicht zwischen technologischem Fortschritt und Sicherheitsrisiken hergestellt werden kann, wird eine Frage sein, mit der sich Zoom und die gesamte Technologiebranche in Zukunft ernsthaft auseinandersetzen müssen. Der Herausgeber von Downcodes wird den Fortschritt dieser Technologie weiterhin aufmerksam verfolgen und Ihnen weitere diesbezügliche Berichte liefern.