Energieerzeugungsanlagen sind ein mögliches Angriffsziel von Hackern Bildquelle: AdobeStock_131872217
Manipulation von Trainingsdaten
Auch das Lernverhalten der künstlichen Intelligenz lässt sich lenken: So können Hacker Fehlfunktionen hervorrufen, indem sie die Trainingsdaten manipulieren oder das System mit falschen Informationen füttern. Während des Trainings passt sich der Algorithmus nämlich kontinuierlich an – das erleichtert es ihm, Muster zu erkennen und Zusammenhänge zu generieren.
Manipulationen aufzudecken, ist äußerst schwierig, da nicht nur die ursprünglich trainierten, sondern auch öffentlich zugänglichen Daten aus dem Internet sowie Benutzereingaben in das Modell einbezogen werden können. In selbstlernenden Systemen gestaltet sich die Rückverfolgung zu den Ausgangsdaten also besonders herausfordernd. Trotzdem besteht zusätzlich die Gefahr, dass Cyberkriminelle Daten aus dem KI-System extrahieren und dadurch auf deren Herkunft rückschließen, was nicht nur die Datenschutzgesetze verletzt – es stellt auch erhebliche Sicherheitsprobleme dar.
Sind geschlossene Systeme sicherer?
Anwendungen, die an ein internes System angedockt sind, mangelt es zumeist an der Menge an verfügbaren Trainingsdaten, sodass die KI nicht effizient lernen kann. Wenn nicht genügend Lernsamples bereitgestellt sind, neigen die selbstlernenden Modelle jedoch dazu, „auszubrechen“ und auf zusätzliche Daten zurückzugreifen. Das birgt die Gefahr, dass Hacker auch hier gezielt Trainingsdaten manipulieren. Es bleibt also dabei: Die Netze müssen nicht nur gegen Angriffe gesichert, sondern die Integrität der Lernprozesse muss gewährleistet sein.
Wie lässt sich das bewerkstelligen? Der erste Schritt für eine verbesserte Cybersicherheit besteht immer darin, sich über mögliche Gefahren und Angriffsvektoren bewusst zu sein, bevor man neue Technologien einsetzt. Die Security-Branche steht nicht still und arbeitet selbst bereits seit Jahren mit intelligenten Tools zur Cyberabwehr, die Angriffe in Echtzeit erkennen und ihnen automatisiert entgegenwirken. Diese sind im Moment allerdings noch weitestgehend machtlos gegenüber Manipulation von KI-Algorithmen und Lerndaten. Idealerweise sollten die Hersteller von KI-Technologien gleich Algorithmen mitentwickeln, die Täuschungsversuche und gefälschte Eingaben erkennen. Benötigt wird zudem zusätzliche Kontrollsoftware, die KI vor Fehlentscheidungen schützt. Es bleibt zu hoffen, dass die Hersteller bald aufschließen werden, bevor Bedrohungsakteure dieses Spielfeld für sich entscheiden.
KI-Ethik-Richtlinien betreffen auch Cybersecurity
Mittlerweile versuchen die EU und das Bundesamt für Sicherheit in der Informationstechnologie (BSI) die Grundlagen für eine vertrauenswürdige KI zu schaffen. Die EU-Leitlinien setzen ethische und rechtliche Prinzipien, während das BSI klare Sicherheitsrichtlinien für den deutschen Kontext bereitstellt.
Natürlich können die KI-Modelle eine Stütze dabei sein, Herausforderungen in den verschiedensten Bereichen zu bewältigen. Dennoch sollten sich Unternehmen mit kritischer Infrastruktur bewusst machen, dass die Technologien auf eine neue Weise anfällig sind – durch die Daten, mit denen sie versorgt und die Art und Weise, wie sie trainiert werden. Hier muss die IT-Sicherheit ebenso nachrüsten wie der Gesetzgeber und die Politik.
Infokasten:
Drei mögliche Angriffsvektoren in der Energiesparte
Worauf müssen sich Unternehmen in der Energiewirtschaft einstellen? Hier sind drei Beispiele von Angriffsszenarien im KI-Umfeld:
- Manipulation von Energiemessdaten: Cyberkriminelle können versuchen, KI-Modelle zu täuschen, indem sie gefälschte Daten einspeisen. Auf diese Weise lassen sich Verbrauchsprognosen verfälschen, was den Energiefluss beeinträchtigen könnte.
- Zielgerichtete Angriffe auf intelligente Stromnetze: Wer KI in Smart Grids integriert, um den Energieverbrauch zu optimieren, macht das System auch anfällig für Angriffe. Sie könnten den Energiefluss unterbrechen oder destabilisieren.
- Sabotage von Energieerzeugungsanlagen: Auch die Attacken selbst können über ein generatives Modell gesteuert sein. Ihre Aufgabe: den Betrieb von Kraftwerken zu stören, indem sie Steuerungssysteme infiltrieren und beeinträchtigen.