Im Bereich der Softwareentwicklung löst der Einsatz von KI-Codierungstools eine stille Revolution aus. Entwicklungsteams nutzen in großem Umfang KI-gestützte Codierung. Allerdings mangelt es der Unternehmensleitung an einer wirksamen Überwachung und Kontrolle über den Einsatz von KI-Tools. Dies löste ein „Katz-und-Maus-Spiel“ zwischen Entwicklern und Management hinsichtlich des Einsatzes von KI-Tools und den daraus resultierenden Sicherheitsrisiken aus.
In der Welt der Technologie findet ein Katz-und-Maus-Spiel zwischen Entwicklern und Management statt. Die Protagonisten dieses Spiels sind jene KI-Codierungstools, die vom Unternehmen ausdrücklich verboten sind, aber von Entwicklern immer noch stillschweigend verwendet werden.
Obwohl 15 % der Unternehmen den Einsatz von KI-Codierungstools ausdrücklich verbieten, nutzen sie laut einer neuen globalen Studie des Cloud-Sicherheitsunternehmens Checkmarx fast alle Entwicklungsteams (99 %). Dieses Phänomen verdeutlicht die Herausforderungen bei der Steuerung des Einsatzes generativer KI.
Nur 29 % der Unternehmen verfügen über irgendeine Form der Governance für generative KI-Tools. In 70 % der Fälle gibt es keine einheitliche Strategie und Kaufentscheidungen werden ad hoc von verschiedenen Abteilungen getroffen. Diese Situation macht es für das Management schwierig, den Einsatz von KI-Codierungstools zu kontrollieren.
Mit der Popularität von KI-Codierungstools sind Sicherheitsprobleme immer wichtiger geworden. 80 % der Befragten sind besorgt über die potenziellen Bedrohungen, die Entwickler beim Einsatz von KI mit sich bringen können, insbesondere 60 % äußern Bedenken hinsichtlich der durch KI verursachten „Halluzinationen“.
Trotz der Bedenken bleibt das Interesse am Potenzial der KI groß. 47 % der Befragten sind offen dafür, dass KI unbeaufsichtigte Codeänderungen vornehmen kann. Nur 6 % gaben an, dass sie KI-Sicherheitsmaßnahmen in Softwareumgebungen nicht vertrauen würden.
„Die Antworten dieser globalen CISOs zeigen die Realität, dass Entwickler KI in der Anwendungsentwicklung einsetzen, auch wenn sie mit KI keinen zuverlässigen sicheren Code erstellen können, was bedeutet, dass Sicherheitsteams mit einer Flut neuer, anfälliger Angriffe zu kämpfen haben“, sagte Tzruya Code ."
Ein aktueller Bericht des Work Trends Index von Microsoft zeigte ähnliche Ergebnisse: Viele Mitarbeiter verwenden ihre eigenen KI-Tools, wenn keine bereitgestellt werden. Oft wird dieser Einsatz nicht thematisiert, was einer systematischen Integration generativer KI in Geschäftsprozesse im Wege steht.
Trotz expliziter Verbote nutzen 99 % der Entwicklungsteams immer noch KI-Tools zur Codegenerierung. Nur 29 % der Unternehmen verfügen über etablierte Governance-Mechanismen für den Einsatz generativer KI. In 70 % der Fälle werden Entscheidungen über den Einsatz von KI-Tools durch verschiedene Abteilungen ad hoc getroffen. Gleichzeitig wachsen die Sicherheitsbedenken. 47 % der Befragten sind offen dafür, dass KI unbeaufsichtigte Codeänderungen vornehmen kann. Sicherheitsteams stehen vor der Herausforderung, mit großen Mengen an potenziell anfälligem KI-generiertem Code umzugehen.
Dieses „Katz-und-Maus-Spiel“ zwischen Entwicklern und Management geht weiter und wir müssen abwarten, wohin die Zukunft der KI-Codierungstools führt.
Der Einsatz von KI-Codierungstools ist zu einem Trend geworden, aber die damit verbundenen Sicherheitsrisiken können nicht ignoriert werden. Unternehmen müssen einen soliden Governance-Mechanismus einrichten, um die durch KI erzielten Effizienzsteigerungen mit potenziellen Sicherheitsrisiken in Einklang zu bringen und sich besser an diese technologische Welle anzupassen.