Kürzlich hat eine Nachricht über gefälschte Fotos, die von KI generiert wurden und die Echtnamen-Authentifizierungssysteme wie Banken erfolgreich getäuscht haben, hitzige Diskussionen in den sozialen Medien ausgelöst und mehr als 4 Millionen Aufrufe verzeichnet. Die Nachricht enthüllte die potenziellen Risiken der Technologie der künstlichen Intelligenz im Bereich Deep Forgery und äußerte auch Bedenken hinsichtlich der Sicherheit der künstlichen Intelligenz. Dieser Vorfall verdeutlicht einmal mehr den zweischneidigen Effekt, den die Entwicklung der KI-Technologie mit sich bringt. Einerseits kann sie Bequemlichkeit bringen, andererseits kann sie auch für illegale Aktivitäten genutzt werden. In diesem Artikel werden der Vorfall und technische Details detailliert beschrieben.
Quellen sagen, dass es jemandem gelungen ist, Echtnamen-Authentifizierungssysteme wie Banken durch die Verwendung von SD-generierten Fotos zu täuschen. Der Tweet löste eine hitzige Diskussion in den sozialen Medien aus und wurde mehr als 4 Millionen Mal aufgerufen. Der ursprüngliche Autor kombinierte zwei Lora-Modelle und führte Experimente durch, um Konsistenz und ästhetische Effekte zu erzielen. Der Artikel stellt auch den spezifischen Prozess der Fotoerstellung vor, einschließlich Schritten wie der Verfeinerung von Gesichtern, dem Hinzufügen von Text und Bildüberlagerungen. Diese Nachricht löste erneut Diskussionen und Bedenken hinsichtlich der Technologie der künstlichen Intelligenz aus.Dieser Vorfall erinnert uns daran, dass wir die Aufsicht über die Technologie der künstlichen Intelligenz verstärken und aktiv Technologien zur Bekämpfung tiefgreifender Fälschungen entwickeln müssen, um die Sicherheit personenbezogener Daten und die soziale Stabilität zu gewährleisten. Technologischer Fortschritt sollte immer auf gesellschaftlicher Verantwortung basieren. Nur so kann die positive Rolle der künstlichen Intelligenz besser genutzt werden.