Angreifer-KI vs. Schutz-KI: “Wir dürfen den Kampf nicht verlieren”

Foto: Körber AG

Wo sehen Sie aktuell die größten Cyberrisiken für Unternehmen in Deutschland?

Gaetje: Meiner Ansicht nach gibt es drei entscheidende Bereiche. Die erste Gefahr betrifft die Öffentlichkeit. Die Meinungsbildung in Deutschland leidet derzeit unter massiven Manipulationsangriffen. Das wirkt sich letztendlich auch auf Unternehmen aus. Das wird künftig auch noch zunehmen. Deshalb sollten wir den öffentlichen Diskurs im Blick behalten.

Aber dann gibt es natürlich auch Cyberrisiken, die direkt auf Unternehmen abzielen, insbesondere auf Betreiber von kritischen Infrastrukturen. Das liegt zum einen daran, dass wir von Wasser- und Stromversorgung abhängig sind. Zum anderen sind wir in diesem Bereich auch nicht so gut aufgestellt. Das trifft jedoch auch auf andere Länder zu.

Außerdem sind die klassischen Unternehmen gefährdet, die keine kritische Infrastruktur haben. Auch hier verzeichnen wir immer mehr Cyberangriffe – auch von staatlich gelenkten Cyberkriminellen. Ziel solcher Angriffe ist es, das getroffene Land zu stören oder Spionage zu betreiben. Hinzu kommen Ransomware-Angriffe, um die Unternehmen zu erpressen.

“Der Mensch spielt eine wichtige Rolle”

Was sind die wichtigsten Maßnahmen, um sich davor zu schützen?

Gaetje: Dabei kommt es hauptsächlich auf drei Aspekte an. Datenmanagement ist extrem wichtig, weil wir wissen müssen, was wir schützen wollen. Heutzutage werden Daten an ganz vielen verschiedenen Orten abgelegt. Unternehmen sollten wissen, welche Daten so wichtig sind, dass sie ohne diese nicht mehr produzieren können.

Sicherheitssysteme wie E-Mail-Gateways oder Firewalls können heute einiges abfangen. Ohne Technik hat man kaum eine Chance, solche Angriffe abzuwehren. Dabei sind Methoden wie Detection and Response und Exposure Management besonders entscheidend.

Zudem spielt der Mensch eine wichtige Rolle. Alle Daten und Technologien werden von Menschen genutzt. Genau an dieser Stelle müssen wir ansetzen. Wenn wir dort Fehler machen, hilft auch die beste Technik nichts. Das heißt, wir müssen für den richtigen Umgang mit Daten und Technologie sorgen. Zudem sollten Mitarbeiter darüber aufgeklärt werden, nicht auf Phishing-E-Mails und unseriöse Kontaktanfragen hereinzufallen.

Und wie setzen Sie das um? Regeln Sie das über regelmäßige Mitarbeiter-Trainings?

Gaetje: Ja, Mitarbeiter-Trainings machen wir natürlich auch. Aber das hilft oft nicht langfristig. Nehmen wir zum Beispiel das Thema Phishing. Es ist nicht so, dass die Mitarbeiter nicht wissen, wie man Phishing-E-Mails erkennt. Aber der tägliche Stress führt dazu, dass sie vergessen, darauf zu achten.

Und wie gehen Sie dieses Problem an?

Gaetje: Indem wir versuchen, kontinuierlich darauf aufmerksam zu machen. Dazu nutzen wir verschiedene Kanäle. Wir bieten zum Beispiel ein Format an, wo sich die Mitarbeiter auch mal in einem geschützten Rahmen austauschen können. Zusätzlich haben wir einen zweiwöchentlichen Mail-Newsletter für die kontinuierliche Kommunikation. Dort gehen wir auf bestimmte Themen und Trends ein.

Außerdem gibt es noch diverse Veranstaltungen wie das Cybersecurity Spotlight oder die Cybersecurity Week. Insgesamt bieten wir eine Vielzahl an Aktivitäten an, die auf die jeweilige Abteilung zugeschnitten sind. Anwendungsentwickler sprechen wir beispielsweise anders an als Büromitarbeiter.

GenAI kann helfen, Angriffsarten und Risiken zu bestimmen

Sie sagen, Sicherheit ohne Technik geht nicht. Wie sehen Sie das in Bezug auf generative KI? Die einen sagen, dass die Technik die Cyberbedrohungslage deutlich verschärft. Andere sehen enormes Potenzial für die Cybersicherheit.

Gaetje: Natürlich bringt jede Technologie auch Risiken mit sich. Da müssen wir darauf achten, dass wir darauf reagieren können. Generative KI kann, wie jede andere Technik auch, missbraucht werden. Zum Beispiel für Deepfakes oder um Malware zu schreiben und Angriffe schneller auszuführen.

Dagegen müssen wir uns verteidigen. Hier hilft generative KI, weil sie Texte dazu schreiben kann, wie bestimmte Angriffsarten und Alarme aus unseren Systemen zu verstehen sind und welche Risiken damit verbunden sind. All das kann die Technik heute schon.

Darüber hinaus kann generative KI auch ein direktes Angriffsziel sein, das wir schützen müssen. In diesem Zusammenhang ist zum Beispiel Data Poisoning ein Problem. Dabei werden die Lerndaten der KI verseucht, was wiederum zu falschen Ergebnissen führt. In der Security-Szene sollten wir uns deshalb genau mit solchen Themen auseinandersetzen. Ich glaube, wir haben noch nicht die richtigen Konzepte, wie wir solche Lerndaten tatsächlich absichern. Aber das ist nur eine Frage der Zeit.

Lesetipp: Generative AI erhöht Druck auf Cybersicherheit

Setzen Sie GenAI bereits in Ihrem Bereich ein?

Gaetje: Wir sind gerade dabei, generative KI einzuführen, um unsere Security-Analysten zukünftig besser zu unterstützen und ihnen ihre Arbeit zu erleichtern. Entscheidend ist, dass man generative KI bewusst einsetzt. Körber hat das Thema Cybersecurity in die Unternehmensstrategie mit aufgenommen. Das ist meiner Meinung nach einer der wichtigsten Ansätze, damit Security im Unternehmen gelingen kann, das gilt insbesondere für generative KI.

Aber auch hier sollte man darauf achten, dass man die Menschen mitnimmt. Die Technik wird immer komplexer. Deshalb muss man seinen Mitarbeitern erklären, was da eigentlich passiert und wo die Gefahren lauern.

Lesetipp: Sie interessieren sich für CISO-Interviews? Lesen Sie auch:

Interview mit Wolfgang Witerzens, CISO bei Condor

Interview mit Gernot Zauner, CISO bei KEB Automation

Wer wird den Kampf Ihrer Meinung nach gewinnen? Die Angreifer-KI oder die Verteidiger-KI?

Gaetje: Wir dürfen diesen Kampf nicht verlieren. Wenn die Angreifer gewinnen würden, wäre das ein massiver Rückschritt. Natürlich werden Unternehmen weiterhin angegriffen. Aber ich bin zuversichtlich, dass wir insgesamt gesehen auch dieses Thema besser in den Griff bekommen werden.

Heute ist es selbstverständlich, dass man einen Virenscanner auf dem PC hat. Genauso wird beispielsweise der Einsatz eines Deepfake-Detektors in der Zukunft normal sein, um zu überprüfen, ob die Person auf dem Video echt ist oder nicht. Das heißt, wir werden neue Werkzeuge finden, um uns auch vor KI-Angriffen zu schützen.

Sie interressieren sich für CISO-Themen? Unser kostenloser Newsletter liefert Ihnen nicht nur die wichtigsten Neuigkeiten aus der Cybersicherheitsbranche, sondern auch spannende Interview- und Hintergrundbeiträge.