Deepfakes stellen als sich schnell entwickelnde gegnerische künstliche Intelligenz eine immer ernstere Bedrohung für die Weltwirtschaft und Sicherheit dar. Der dadurch verursachte wirtschaftliche Schaden wird voraussichtlich erheblich zunehmen, wobei die Banken- und Finanzdienstleistungsbranche ein Hauptziel darstellt. In diesem Artikel werden der rasante Entwicklungstrend der Deepfake-Technologie sowie die Risiken und Herausforderungen, die sie für Unternehmen und Einzelpersonen mit sich bringt, analysiert und die Dilemmata untersucht, mit denen Unternehmen im Umgang mit dieser aufkommenden Bedrohung konfrontiert sind.
Als eine der am schnellsten wachsenden Formen gegnerischer künstlicher Intelligenz werden die Verluste im Zusammenhang mit Deepfakes voraussichtlich von 12,3 Milliarden US-Dollar im Jahr 2023 auf 40 Milliarden US-Dollar im Jahr 2027 ansteigen, was einer durchschnittlichen jährlichen Wachstumsrate von erstaunlichen 32 % entspricht. Deloitte geht davon aus, dass Deepfakes in den kommenden Jahren zunehmen werden, wobei Bank- und Finanzdienstleistungen ein Hauptziel sein werden.
Deepfakes stehen an der Spitze der gegnerischen KI-Angriffe und haben allein im letzten Jahr um 3.000 % zugenommen. Es wird erwartet, dass Deepfakes bis 2024 um 50 bis 60 % zunehmen werden, wobei in diesem Jahr weltweit 140.000 bis 150.000 solcher Vorfälle erwartet werden.
Die neueste Generation generativer KI-Anwendungen, -Tools und -Plattformen bietet Angreifern alles, was sie brauchen, um schnell und kostengünstig Deepfake-Videos, gefälschte Stimmen und betrügerische Dokumente zu erstellen. Der Speech Intelligence and Security Report 2024 von Pindrops schätzt, dass Deepfake-Betrug, der auf Contact Center abzielt, jährlich schätzungsweise 5 Milliarden US-Dollar kostet. Ihr Bericht unterstreicht die ernsthafte Bedrohung, die Deepfakes für Bank- und Finanzdienstleistungen darstellen
Bloomberg berichtete letztes Jahr, dass „im Dark Web eine ganze Heimindustrie entstanden ist, die Betrüger zu Preisen von 20 bis zu Tausenden von Dollar verkauft.“ Kürzlich bietet eine Infografik, die auf dem Identitätsbetrugsbericht 2023 von Sumsub basiert, eine globale Perspektive auf das schnelle Wachstum des KI-Betrugs .
Ein Drittel der Unternehmen verfügt über keine Strategie, um mit dem Risiko gegnerischer KI-Angriffe umzugehen, die höchstwahrscheinlich mit Deepfakes ihrer wichtigsten Führungskräfte beginnen. Neue Untersuchungen von Ivanti haben ergeben, dass 30 % der Unternehmen nicht planen, gegnerische KI-Angriffe zu erkennen und sich dagegen zu wehren.
Der „State of Cybersecurity Report 2024“ von Ivanti ergab, dass 74 % der befragten Unternehmen Hinweise auf KI-Bedrohungen gesehen haben. Eine überwältigende Mehrheit (89 %) glaubt, dass die KI-Bedrohung gerade erst beginnt. Von der Mehrheit der von Ivanti befragten CISOs, CIOs und IT-Führungskräfte waren 60 % besorgt, dass ihre Unternehmen nicht auf die Abwehr von KI-Bedrohungen und -Angriffen vorbereitet seien. Der Einsatz von Deepfakes als Teil einer orchestrierten Strategie, die Phishing, Software-Exploits, Ransomware und API-bezogene Schwachstellen umfasst, wird immer häufiger. Dies steht im Einklang mit den Bedrohungen, von denen Sicherheitsexperten erwarten, dass sie durch die neue Generation künstlicher Intelligenz noch gefährlicher werden.
Angesichts der rasanten Entwicklung der Deep-Forgery-Technologie und der damit verbundenen enormen Risiken müssen Unternehmen aktiv Gegenmaßnahmen ergreifen, den Sicherheitsschutz stärken und das Risikobewusstsein der Mitarbeiter verbessern, um Verluste wirksam zu reduzieren und die eigene Sicherheit zu gewährleisten. Die Weiterentwicklung der Technologie muss gleichzeitig mit der Verbesserung der Sicherheitsmaßnahmen vorangetrieben werden, um einen Missbrauch der Technologie zu verhindern.