Die Verwendung von KI in der Cybersicherheit bringt nicht nur Vorteile, sondern auch Herausforderungen mit sich.
Schlechte Datenqualität als Risiko
Ein zentrales Problem ist die Abhängigkeit von der Datenqualität. KI wertet beispielsweise das übliche Verhalten aller Nutzer:innen in einem Netzwerk aus, um es von ungewöhnlichen, verdächtigen Handlungsmustern besser zu unterscheiden.
Unzureichende oder fehlerhafte Daten können allerdings dazu führen, dass KI-Modelle Bedrohungen falsch einschätzen. Dies führt unter Umständen zu einer trügerischen Sicherheit – und im schlimmsten Fall zu erfolgreichen Cyberangriffen.
KI lässt sich manipulieren
KI-Systeme sind anfällig für Manipulationen. Angreifer:innen können gezielt falsche Daten einspeisen, um die KI zu täuschen und dann Sicherheitslücken auszunutzen.
Eine KI würde beispielsweise nicht bemerken, dass sie gezielt mit veralteten Virensignaturen gefüttert wird, damit sie neue Viren nicht erkennt. Eine andere Methode wäre es, KI durch ständig eingespielte falsche Signaturen so häufig zu positiven Virenmeldungen zu animieren, bis die Nutzer:innen sie irgendwann genervt deaktivieren – ähnlich dem Schäfer aus der Fabel von Äsop, der so oft einen vermeintlichen Wolfsangriff meldet, bis ihm niemand mehr zur Hilfe kommt, als der Wolf tatsächlich auftaucht.
Derartige sogenannte Adversarial AI stellt eine neue Form der Bedrohung dar, gegen die herkömmliche Sicherheitsmaßnahmen oft nicht ausreichen.
Künstliche Intelligenz wird zur Blackbox
Ein weiteres Risiko besteht darin, dass KI-Modelle zu sogenannten Blackboxes werden, deren Entscheidungsprozesse kaum nachvollziehbar sind. Dies erschwert es, fehlerhafte Entscheidungen zu identifizieren und rechtzeitig zu korrigieren. Unternehmen müssen sicherstellen, dass ihre KI-Systeme nicht nur effektiv, sondern auch transparent und überprüfbar bleiben.
Herausfordernde Organisation und Implementierung
Nicht zuletzt stellt der Einsatz von KI viele Unternehmen auch vor organisatorische Herausforderungen. Die Implementierung und Wartung von KI-Systemen erfordert spezialisierte Fachkenntnisse und angepasste IT-Infrastrukturen. Besonders für kleinere Unternehmen kann das eine Hürde darstellen. Falls das entsprechende Wissen bei Ihnen fehlt, sollten Sie externe Expert:innen beauftragen, die sich mit KI in der Cybersicherheit auskennen.