Im neuesten Bericht von Gartner heißt es, dass KI im dritten Quartal in Folge zum größten Cybersicherheitsrisiko für Unternehmen geworden ist und 80 % der befragten Führungskräfte darüber zutiefst besorgt sind. Der Herausgeber von Downcodes interpretiert für Sie den Inhalt des Berichts, analysiert, wie KI bei Cyberangriffen eingesetzt wird und wie Unternehmen auf diese immer gravierendere Herausforderung reagieren sollten. Dieser Artikel befasst sich mit der Anwendung von KI beim Schreiben von Malware, der Produktion von Phishing-E-Mails und verteilten Denial-of-Service-Angriffen und analysiert die neuesten Erkenntnisse von Sicherheitsunternehmen und Forschungseinrichtungen.
Laut dem neuesten Bericht von Gartner ist der Einsatz künstlicher Intelligenz (KI) bei Cyberangriffen im dritten Quartal in Folge zum größten Risiko für Unternehmen geworden.
Das Beratungsunternehmen befragte zwischen Juli und September 286 leitende Risiko- und Revisionsmanager und stellte fest, dass 80 % der Befragten große Besorgnis über KI-gestützte böswillige Angriffe äußerten. Dieser Trend ist nicht überraschend, da es Hinweise darauf gibt, dass Cyberangriffe mithilfe von KI zunehmen.
Hinweis zur Bildquelle: Das Bild wird von AI und dem Bildautorisierungsdienstleister Midjourney generiert
Zu den weiteren im Bericht aufgeführten neuen Risiken gehören KI-gestützte Fehlinformationen, zunehmende politische Polarisierung und eine ungleiche Talentverteilung in der Organisation. Angreifer nutzen KI, um Malware zu schreiben, Phishing-E-Mails zu erstellen und mehr. Am Beispiel von HP fingen Forscher im Juni eine E-Mail-Kampagne zur Verbreitung von Malware ab und vermuteten, dass das Skript mit Hilfe generativer KI geschrieben wurde. Das Skript ist klar strukturiert und jeder Befehl ist kommentiert, was bei menschlichem Schreiben nicht üblich ist.
Nach Angaben des Sicherheitsunternehmens Vipre stieg die Zahl der geschäftlichen E-Mail-Betrugsangriffe im zweiten Quartal 2023 im Vergleich zum Vorjahreszeitraum um 20 %, wobei fast 50 % davon durch KI verursacht wurden. CEOs, Personal- und IT-Mitarbeiter wurden zu Hauptzielen. Usman Choudhary, Chief Product and Technology Officer bei Vipre, sagte, dass Kriminelle ausgefeilte KI-Algorithmen verwenden, um überzeugende Phishing-E-Mails zu erstellen, die den Ton und Stil legitimer Kommunikation nachahmen.
Darüber hinaus erlitten Einzelhandels-Websites laut einem Bericht von Imperva Threat Research von April bis September durchschnittlich 569.884 KI-gesteuerte Angriffe pro Tag. Forscher wiesen darauf hin, dass Tools wie ChatGPT, Claude und Gemini sowie Bots, die sich auf das Crawlen von Website-Daten zum Trainieren großer Sprachmodelle spezialisiert haben, für Aktivitäten wie verteilte Denial-of-Service-Angriffe und den Missbrauch von Geschäftslogik verwendet werden.
Immer mehr ethische Hacker geben auch zu, generative KI zu nutzen, wobei der Anteil von 64 % im letzten Jahr auf 77 % gestiegen ist. KI kann bei Mehrkanalangriffen, Fault-Injection-Angriffen und automatisierten Angriffen, die mehrere Geräte gleichzeitig angreifen, helfen, so die Forscher. Wenn die „Guten“ KI nützlich finden, werden auch die „Bösen“ die Technologie ausnutzen.
Der Aufstieg der KI ist nicht überraschend, da sie die Schwelle für Cyberkriminalität gesenkt hat und es Kriminellen mit geringeren technischen Fähigkeiten ermöglicht, KI zu nutzen, um Deep Fakes zu erzeugen, Netzwerkeingänge zu scannen, Aufklärung durchzuführen und vieles mehr. Forscher der Eidgenössischen Technischen Hochschule haben kürzlich ein Modell entwickelt, das das Problem von Google reCAPTCHA v2 zu 100 % lösen kann. Analysten des Sicherheitsunternehmens Radware prognostizierten Anfang des Jahres, dass das Aufkommen privater GPT-Modelle für böswillige Zwecke genutzt werden würde und dass die Zahl der Zero-Day-Schwachstellen und Deepfake-Betrug zunehmen werde.
Gartner stellte außerdem fest, dass zum ersten Mal kritische Probleme von IT-Anbietern auf der Aufmerksamkeitsliste von Führungskräften stehen. Zachary Ginsburg, Senior Director der Risiko- und Prüfungsabteilung bei Gartner, sagte, dass Kunden, die sich stark auf einen einzigen Anbieter verlassen, möglicherweise höheren Risiken ausgesetzt seien. Genau wie der dStrike-Vorfall im Juli, der weltweit 8,5 Millionen Windows-Geräte lahmlegte, hatte er enorme Auswirkungen auf Rettungsdienste, Flughäfen und Strafverfolgungsbehörden.
Insgesamt zeigt sich die zweischneidige Wirkung der KI-Technologie am deutlichsten im Bereich der Netzwerksicherheit. Unternehmen müssen proaktiv Abwehrmaßnahmen ergreifen, wie z. B. eine Stärkung der Sicherheitsschulung, die Implementierung einer Multi-Faktor-Authentifizierung und die Einführung fortschrittlicher Bedrohungserkennungstechnologie, um KI-gesteuerten Cyberangriffen effektiv begegnen zu können. Auch in Zukunft ist es von entscheidender Bedeutung, den Entwicklungstrends der KI-Sicherheit weiterhin Aufmerksamkeit zu schenken und aktiv Reaktionsstrategien zu erkunden.